進入到機器學習中，最為簡單的就是回歸分析，其實回歸分析在中學就差不多有涉及了。
所謂的回歸分析就是利用已知資料來產生擬合方程，從而（對未知資料）進行**，從這方面來說這算是乙個監督學習。
回歸分析的用途一般是用來分析新資料的合理性，或者**未知資料。
回歸分析又分為線性回歸和非線性回歸。
而線性回歸又分為：一元線性回歸；多元線性回歸；廣義線性回歸。
先從一元線性回歸開始說起：
其模型非常簡單，就是乙個線性模型：
y=ax+b+ε
其中a為斜率，b為截距項， ε為誤差項。
確定了模型之後，接下來的任務就是確定各項引數了。
其中有一種方法是使用最小二乘法的原理去進行引數確定：使用平方誤差和衡量**值和真實值的差距：
Python 機器學習 一元線性回歸
一元線性回歸模型很簡單 y1 ax b y1為實際值，為正態的誤差。y2 ax b，y2為 值。y1 y2。def model a,b,x return a x b 這裡將整組資料的 結果方差作為損失函式。j a,b sum y1 y2 2 n def cost a,b,x,y x is argu,...
機器學習 一元線性回歸演算法
線性回歸 線性回歸擬合原理 fit方法 ridge回歸 損失函式 l2 lasso回歸 損失函式 l1 懲罰項係數alpha高，菱形面積小，alpha低，菱形面積大 elastic net 損失函式 l1 l2 舉例 lasso回歸是隨機梯度下降 l1，此處選擇懲罰項係數為0.15 與 之對比的sg...
機器學習（四）一元線性回歸
h x 0 1 xh theta x theta 0 theta 1x h x 0 1 x這個方程對於的影象是一條直線，稱為回歸線。其中 1 theta 1 1 為回歸線的斜率，0 theta 0 0 為回歸線的截距 j 0,1 1 2m i 1m yi h xi 2j theta 0,theta ...