試圖通過屬性的線性組合來進行**的函式：
**結果和真實結果之間存在誤差
為了找到擬合效果最好的函式,使誤差降到最低,需要引入誤差函式來判定舞茶道大小
所以,尋找目標函式就是尋找一組權值w使得損失函式最小
方法一:正規方程
方法二:梯度下降
我們以單變數中的w0,w1為例子理解找到w的方法----梯度下降
具體解釋梯度下降梯度下降
1.定義
過擬合：乙個假設在訓練資料上能夠獲得比其他假設更好的擬合， 但是在訓練資料外的資料集上卻不能很好地擬合資料，此時認為這個假設出現了過擬合的現象。(模型過於複雜)
欠擬合：乙個假設在訓練資料上不能獲得更好的擬合， 但是在訓練資料外的資料集上也不能很好地擬合資料，此時認為這個假設出現了欠擬合的現象。(模型過於簡單)
2.解決辦法
(1)欠擬合
原因：學習到資料的特徵過少
表徵:交叉驗證表現和測試集上的表現都不好
解決辦法：
增加資料的特徵數量
(2)過擬合
原因：原始特徵過多，存在一些嘈雜特徵， 模型過於複雜是因為模型嘗試去兼顧各個測試資料點
表徵:交叉驗證表現很好,但是在測試集上表現不好
解決辦法：
進行特徵選擇，消除關聯性大的特徵(很難做)交叉驗證(讓所有資料都有過訓練)正則化
簡單來說，正則化是一種為了減小測試誤差的行為(有時候會增加訓練誤差)。我們在構造機器學習模型時，最終目的是讓模型在面對新資料的時候，可以有很好的表現。當你用比較複雜的模型比如神經網路，去擬合資料時，很容易出現過擬合現象(訓練集表現很好，測試集表現較差)，這會導致模型的泛化能力下降，這時候，我們就需要使用正則化，降低模型的複雜度。可以看出隨著正則化的力度加強,各個權重的值逐漸降低
嶺回歸：回歸得到的回歸係數更符合實際，更可靠。另外，能讓估計引數的波動範圍變小，變的更穩定。在存在病態資料偏多的研究中有較大的實用價值。
機器學習線性回歸 機器學習中的簡單線性回歸步驟
簡單線性回歸，這是一種基於自變數值 x 來 因變數值 y 的方法。假設這兩個變數是線性相關的。因此，我們嘗試尋找一種根據特徵或自變數 x 的線性函式來精確 響應值 y 我們將按照之前的資料預處理資訊圖表那樣來執行相同的步驟 其中第三相關庫matplotlib是用來視覺化資料的。匯入資料集 檢查缺失資...
機器學習入門1 1 線性回歸
我在csdn也同步發表了此文 理解線性回歸是我個人認為的了解機器學習為何物的最好的方式之一，線性回歸不需要很難的數學基礎。標題中說的是多變數線性回歸，實際上還有單變數線性回歸，但後者較為簡單，我們稍後會提及 圖1 多變數意味著多特徵，上圖就顯示了房價和很多特徵的對應關係，這些特徵中有房屋面積 臥室數...
機器學習學習筆記1 簡單的線性回歸
今天學習了關於利用python的scipy庫進行線性擬合的內容。主要使用了兩個函式 乙個是polyfit用於將輸入的資料進行擬合，簡單的呼叫方式如下 fp polyfit x,y,1 其中x,y分別代表輸入的x軸資料和y軸資料，1代表是回歸的階數,這裡傳入1代表的是 線性回歸，其擬合方程如下 y a...