有監督、無監督、泛化能力、過擬合欠擬合(方差和偏差以及各自解決辦法)、交叉驗證
線性回歸的原理
線性回歸損失函式、代價函式、目標函式
優化方法(梯度下降法、牛頓法、擬牛頓法等)
線性回歸的評估指標
sklearn引數詳解
機器學習任務包括兩類，有監督的和無監督的，有監督的主要包括分類與回歸，非監督的主要包括聚類與頻繁項集挖掘。
梯度下降演算法
牛頓法擬牛頓法
[衡量線性回歸法的指標mse, rmse,mae和r square]（
linearregression
任務1 線性回歸演算法梳理
1 機器學習的一些概念 1 有監督 訓練資料有標記資訊 2 無監督 訓練資料無標記資訊 3 泛化能力 演算法適用於新樣本的能力 4 過擬合 訓練樣本學得太好，泛化能力不足，通常表現為在訓練集上具有高方差和低偏差 5 欠擬合 訓練樣本學得不好，不是過於密切地跟蹤訓練資料，而是乙個不合適的模型忽略了訓練...
初級演算法梳理 線性回歸
梯度下降法是利用一階的梯度資訊找到函式區域性最優解的一種方法，也是機器學習裡面最簡單最常用的一種優化方法。梯度下降法是 line search 方法中的一種，主要迭代公式如下 xk 1 xk k pk 牛頓法在最速下降法中，我們看到，該方法主要利用的是目標函式的區域性性質，具有一定的 盲目性 牛頓法...
初級演算法學習小組 任務1 線性回歸演算法梳理
監督學習研究的是屬性x和輸出值y之間的關係。無監督研究的是屬性和屬性之間的關係，這時候沒有輸出值或者標籤值y。我們學得的模型，它作用於新樣本的表現能力，稱為泛化能力。模型對訓練集適配得很好，模擬得很好，在測試集上卻表現很差，叫作過擬合。這時候方差會比較大。過擬合是無法完全避免的，只能盡可能去減少過擬...