經典線性回歸假設 課堂理解筆記

2021-10-04 02:15:23 字數 1352 閱讀 9952

經典計量經濟學(clm),也稱經典線性模型。在經典線性回歸模型中,高斯—馬爾可夫假定對於最小二乘估計(ols)效果以及假設檢驗的成立及其重要。基本的假定總結起來主要有五個。首先基本線性模型形式如下 y=β

0+β1

x+β2

x+..

...+

βnx+

ϵ\ y = \beta_0+\beta_1x+\beta_2x+\ .....+\beta_nx+\epsilon

y=β0​+

β1​x

+β2​

x+..

...+

βn​x

1.線性

i\beta_i

βi​之間的線性關係。那麼如何理解呢?

其實在引數估計結果中我們可以發現引數與y是線性關係

β ^=

(x′x

)−1x

′y

\hat=(x'x)^x'y

β^​=(x

′x)−

1x′y

事實上當解釋變數x出現x

2\ x^2

x2時,y與x並不是線性關係,但我們仍可以令z=x

2\ z=x^2

z=x2

,由此得到的引數估計仍符合與y的線性關係。

所以對於第乙個假設的理解,引數與y是線性關係更為準確,也更適用於各種情形。

2.滿秩(解釋變數之間不存在完全共線性)

該假設對於模型設定有意義,當解釋變數存在嚴重的多重共線性或完全共線性時,可以認為資料不滿足該假設,該線性模型的設定錯誤。

3.ϵ

\epsilon

ϵ 與x無關(x為外生變數)且零均值

自變數x為外生變數——外生變數即變數是非隨機的(可理解為確定的),ϵ

\epsilon

ϵ是隨機變數,因此y是隨機變數。

由x為外生變數就可推出ϵ

\epsilon

ϵ與x無關,即x對於推測ϵ

\epsilon

ϵ無意義。

e(ϵ

\epsilon

ϵ|x)=0,均值為0,也代表著誤差是隨機的。

4.ϵ

\epsilon

ϵ同方差、無自相關

同方差假設是截面資料的重要假設。對於顯著性檢驗中t統計量、f統計量的構造提供理論支撐。

無自相關假設是時序資料的重要假設。

5.ϵ

\epsilon

ϵ服從正態分佈

該假設在大樣本下可放寬處理。

線性回歸(假設檢驗) 學習筆記

在回歸分析中,我們關心真實的引數是否是0或者說特定的數值。由於資料抽樣等等的情況,我們不可能獲得最小二乘估計正好為0的情況。那麼非0的引數這個特徵是由於x和y的相關關係產生的還是測量誤差產生的 我們知道 均為0,但進行多次假設檢驗後都有可能得到乙個顯著的結果,因為每次假設檢驗都有一定概率犯錯誤 一類...

通俗理解線性回歸(一)

本人已經打算將這一系列博文做成動畫趣味科普的形式來呈現,感興趣的話可以點這裡。0 什麼是回歸?假設線性回歸是個黑盒子,那按照程式設計師的思維來說,這個黑盒子就是個函式,然後呢,我們只要往這個函式傳一些引數作為輸入,就能得到乙個結果作為輸出。那回歸是什麼意思呢?其實說白了,就是這個黑盒子輸出的結果是個...

通俗理解線性回歸(一)

0 什麼是回歸?假設線性回歸是個黑盒子,那按照程式設計師的思維來說,這個黑盒子就是個函式,然後呢,我們只要往這個函式傳一些引數作為輸入,就能得到乙個結果作為輸出。那回歸是什麼意思呢?其實說白了,就是這個黑盒子輸出的結果是個連續的值。如果輸出不是個連續值而是個離散值那就叫分類。那什麼叫做連續值呢?非常...