線性回歸是利用數理統計中回歸分析，來確定兩種或兩種以上變數間相互依賴的定量關係的一種統計分析方法，運用十分廣泛。
假設銀行會根據工資和年齡來限定貸款額度，請解決兩個問題：
銀行會帶給我多少錢？
工資和年齡對貸款額度有多大的影響？
資料：工資和年齡（2個特徵）
目標：銀行會給我多少錢（標籤）
考慮：工資和年齡都會影響貸款的額度，他們各自有多大的影響（引數）
什麼是回歸呢？回歸就是乙個**出來的值。比如給定年齡和工資，根據計算**出貸款額度，這個額度就是回歸。
什麼又是分類呢？還是上面那個例子，現在問題不是銀行帶給我多少錢，而是變成了銀行願不願意貸款給我。分類就把人分為了兩類：貸款給你和不貸款給你。
分類得出的是類別值，回歸得出的是某個區間上的具體值。
設工資為x
1，年齡為x
2，額度為
y 。x1
，x2就是我們的兩個特徵（年齡，工資），
y是銀行最終借給我們的錢。找到最好的一條線來最好地擬合資料。
1是年齡的引數，θ2
是工資的引數。則擬合的平面為：h0
(x) =
θ
0 + θ1
x1+ θ2
x2（θ0
是偏置項）其中θ
0 對結果影響較小，主要影響因素是θ1
和θ2。
整合：h
0 (
x) = ∑n
i=0θ
ixi =
θ t
x 其中h
0 (x) = ∑n
i=0θ
ixi=
θ
0 x0
+ θ1
x1+ θ2x2。
與上式進行比較，發現第一項變成了θ0
x0。解決的辦法，就是在資料中多新增一列，所有值為1。即變成θ0
，與上式一樣。
最後再變成矩陣相乘的形式。因為矩陣的運算方便而且快速。
機器學習線性回歸概述
線性回歸是利用數理統計中回歸分析，來確定兩種或兩種以上變數間相互依賴的定量關係的一種統計分析方法，運用十分廣泛。其表達形式為y w x e，e為誤差服從均值為0的正態分佈。回歸分析中，只包括乙個自變數和乙個因變數，且二者的關係可用一條直線近似表示，這種回歸分析稱為一元線性回歸分析。如果回歸分析中包括...
線性回歸演算法
1 有監督學習 supervised learning 不僅把訓練資料丟給計算機，而且還把分類的結果 資料具有的標籤 也一併丟給計算機分析。計算機進行學習之後，再丟給它新的未知的資料，它也能計算出該資料導致各種結果的概率，給你乙個最接近正確的結果。由於計算機在學習的過程中不僅有訓練資料，而且有訓練結...
線性回歸演算法
什麼是線性回歸？統計學中，線性回歸 linear regression 是利用稱為線性回歸方程的最小平方函式對乙個或多個自變數和因變數之間關係進行建模的一種回歸分析。原理與推導 損失函式 loss function 是定義在單個樣本上的，算的是乙個樣本的誤差。代價函式 cost function 是...