1.初始化係數為0，即zeros((特徵數, 1))
2.每執行一次迭代，都要遍歷每乙個特徵，針對每乙個特徵的係數，有兩種取值情況，分別是[-1,1]兩個方向的sign*step。
這樣就確定了兩個權重向量，然後將所有的訓練樣本*權重向量，獲得訓練樣本的**值；
3.將所有這些**值與真實值，相減並平方後求和，就得到了所有訓練樣本針對該權重向量的乙個誤差值。
4.只保留最小誤差所對應的權重向量就可以。
5.完成指定迭代之後，就可以得到具有最小誤差所對應的權重係數。
小結：每個特徵依次乘以乙個很小的迭代係數，然後從中選擇出乙個可以獲得最小訓練誤差的方案，作為本次迭代的乙個最優係數。
多次迭代之後，將會最終收斂到乙個穩定的系數值。
需要使用標準化的資料，獲得權重之後，測試資料也要使用嶺回歸原始資料的均值和方差來標準化測試資料。
資料標準化（或者說歸一化）的介紹：
線性回歸模型 線性回歸模型
回歸的思想和分類有所不一樣，分類輸出的結果為離散的值，回歸輸出的是乙個連續型的值。線性回歸的思想就是試圖找到乙個多元的線性函式 當輸入一組特徵 也就是變數x 的時候，模型輸出乙個 值y h x 我們要求這個 值盡可能的準確，那麼怎麼樣才能做到盡可能準確呢？其中 表示實際值，表示 值 其中 表示實際值...
線性回歸（標準回歸）
今天我們來討論機器學習的另乙個領域 首先我們來討論利用線性回歸來 數值型資料。利用線性回歸進行 的過程就是求解回歸係數的過程，求出回歸係數後進行係數與特徵值乘積求和即可，這裡我們使用最小二乘法進行求解 ex0.txt 提取碼 dbe2 def loaddataset filename numfeat...
回歸學習 線性回歸
匯入資料 from sklearn.datasets import load boston boston load boston print boston.descr 資料分割 from sklearn.cross validation import train test split import ...