首先，講一下什麼是回歸分析：回歸分析是對具有因果關係的變數（因變數、自變數）進行數理統計分析。當自變數與因變數確實存在某種關係時，我們所建立的回歸方程才有意義。因此，自變數的因素對因變數的**值是否有關？相關程度如何，以及判斷這種相關程度的把握性多大，就成為回歸分析中必須要解決的問題。
進行相關程度分析時，一般要求出相關關係，以相關係數的大小（皮爾遜係數r，範圍在【-1，1】）來判斷自變數和因變數的相關的程度。
t檢驗看的是統計結果中的p-value值，f檢驗看的是統計結果中的significant f值，這兩個值一般要與顯著性水平比較，小於顯著性水平說明顯著，當然越小越顯著（顯著性水平是人為設定的，一般常用的有兩個顯著性水平分別式0.05和0.01）。
線性回歸，最小二乘法
回歸的定義 對於乙個點集，使用乙個函式去擬合該點集，使點集與擬合函式間的誤差最小，如果這個函式曲線是一條直線，則是線性回歸，如果曲線是二次曲線，則是二次回歸。廣義線性回歸 廣義線性模型是線性模型的擴充套件，其特點是不強行改變資料的自然度量，資料可以具有非線性和非恆定方差結構 59 主要是通過聯結函式...
最小二乘法分析
分類 的變數是離散的 回歸 的變數是連續的 極大似然估計 就是利用已知的樣本結果資訊，反推最具有可能 最大概率 導致這些樣本結果出現的模型引數值。p model observation 求給定當前觀測值observation，該模型分布密度函式取最大值，即適合最多樣本。根據貝葉斯原理 p model...
線性回歸 最小二乘法（二）
上篇文章中介紹了單變數線性回歸，為什麼說時單變數呢，因為它只有單個特徵，其實在很多場景中只有單各特徵時遠遠不夠的，當存在多個特徵時，我們再使用之前的方法來求特徵係數時是非常麻煩的，需要乙個特徵係數乙個偏導式，而卻最要命的時特性的增長時及其迅猛的，幾 十 幾百 幾千 單變數線性回歸 多變數線性回歸 所...