線性回歸又稱為最小二乘法回歸ordinary least-squares (ols) regression。簡單來說就是一條線性函式來很好的擬合已知資料並**未知資料。
在回歸分析中，只包括乙個自變數和乙個因變數，且二者的關係可用一條直線近似表示，這種回歸分析稱為一元線性回歸分析。如果回歸分析中包括兩個或兩個以上的自變數，且因變數和自變數之間是線性關係，則稱為多元線性回歸分析。
明確常用數學符號
誤差評估
需要某個手段來評估我們的學習效果，即評估各個真實值 y(i
)y^(i)
y(i)
與**值 hθ(x(i)) 之間的差異。最常見的，我們通過最小均方（least mean square）來描述誤差。
批量梯度下降 （每次迭代用到所有樣本）
隨機梯度下降 （每次迭代只需要用乙個樣本）
小批量梯度下降（每次迭代用到部分b個樣本）==應用
定義
未完待續····
機器學習 演算法一 線性回歸
監督學習 給定資料集 部分資料集已有標籤，對其進行學習，再分類 分類問題 無監督學習 給定一系列數，讓機器自己發現規律。聚類問題 回歸問題 是指要 乙個連續值的輸出，比如房價 線性回歸是很常見的一種回歸，用來 或者分類，主要解決線性問題 m 訓練集樣本數 x 輸入變數 y 輸出變數 h 假設函式，給...
機器學習入門（一） 線性回歸
機器學習入門 一 線性回歸 基本要素 1 模型 例如針對房價建立簡單模型，只考慮 與時間的關係 price w area area w age age b 2 資料集 找到一組真實資料並稱之為訓練集，我們希望通過訓練集找到與真實情況最接近的上訴模型的未知引數。一條資料稱之為樣本，其 為乙個標籤。被 ...
機器學習基礎（一）線性回歸
線性回歸模型是最簡單的監督式學習模型 所謂的監督式學習模型就是需要通過已有的資料訓練出乙個最優的模型，能夠表示這些已有的模型並能夠 新的資料。怎麼判斷模型是不是最優的呢？這就需要引入代價函式 cost function 怎麼得到最優的模型呢？這就需要求解代價函式的最小值，也就需要引入梯度下降法。梯度...