多元線性回歸模型的F檢驗

2021-07-26 21:20:44 字數 997 閱讀 8032

f檢驗    對於多元線性回歸模型,在對每個回歸係數進行顯著性檢驗之前,應該對回歸模型的整體做顯著性檢驗。這就是

f檢驗。當檢驗被解釋變數

yt與一組解釋變數

x1, 

x2 , ... ,

xk -1是否存在回歸關係時,給出的零假設與備擇假設分別是

h0:b

1 = b

2 = ... = bk

-1 = 0 ,

h1:bi

, i = 1, ..., k -1不全為零。

首先要構造f統計量。由(3.36)式知總平方和(sst)可分解為回歸平方和(ssr)與殘差平方和(sse)兩部分。與這種分解相對應,相應自由度也可以被分解為兩部分。

sst具有t - 1個自由度。這是因為在t個變差 ( yt--

(t -1) = ( k - 1) + (t - k)                                              (3.44)

平方和除以它相應的自由度稱為均方。所以回歸均方定義為

msr = ssr / ( k - 1)

誤差均方定義為

mse = sse / (t - k)

(顯然mse = s 

2 (見3.23式),它的期望是s 

2)。定義f統計量為

在h0成立條件下,有

f = ~ f

(k -1, t - k)

設檢驗水平為 a ,則檢驗規則是

若用樣本計算的f £ fa

(k -1, t - k),則接受h0,

若用樣本計算的f > fa

(k -1, t - k),則拒絕h0。

拒絕h0意味著肯定有解釋變數與yt

存在回歸關係。若f檢驗的結論是接受h0,則說明k – 1個解釋變數都不與yt

存在回歸關係。此時,假設檢驗應該到此為止。當f檢驗的結論是拒絕h0時,應該進一步做t檢驗,從而確定模型中哪些是重要解釋變數,哪些是非重要解釋變數。

from:

多元線性回歸模型檢驗 續上篇

只要有p值的出現,樣本量不超過5000,比如線性回歸和邏輯回歸 搞清楚演算法背後的邏輯才是比較重要的。多元線性回歸需要關注一些什麼點?r2和模型穩定性,也就是那些 是不是穩定的,檢驗模型是不是穩定需要對模型進行診斷。多元線性回歸的輸出變數是連續變數,輸入變數中如果包含離散變數需要做啞變數或one h...

多元線性回歸資料集 多元線性回歸函式的檢驗

假設有原始資料集 擬合之後有以下常用定義 值得注意的是 自由度 在統計學中,自由度指的是計算某一統計量時,取值不受限制的變數個數。相似的 以及調整後的 通常認為 越接近1,模型擬合的效果越好,其定義為回歸平方和與總離差平方和的比值。調整後的 會考慮自由度的影響,懲罰過多的引數數量 防止模型過擬合 t...

線性模型 1 多元線性回歸

提綱 線性模型的基本形式 多元線性回歸的損失函式 最小二乘法求多元線性回歸的引數 最小二乘法和隨機梯度下降的區別 疑問學習和參考資料 1.線性模型的基本形式 線性模型是一種形式簡單,易於建模,且可解釋性很強的模型,它通過乙個屬性的線性組合來進行 其基本的形式為 式 1 轉換成向量形式之後寫成 式 2...