統計學習就是計算機系統通過運用資料及統計方法提高系統效能的機器學習。現在，人們提及機器學習時，往往是統計機器學習。
統計學習方法包括模型的假設空間、模型選擇的準則及模型學習的演算法。稱為統計學習的三要素，簡稱為模型、策略和演算法。
模型：
模型就是所要學習的條件概率分布或決策函式。模型的假設空間包含所有可能的條件概率分布或決策函式。例如，假設決策函式是輸入變數的線性函式，那麼模型的假設空間就是所有這些線性函式構成的集合。假設空間中的模型一般有無限多個。決策樹、樸素貝葉斯等這些都叫做模型。
策略：
策略就是考慮如何選擇最優模型。這裡是用損失函式和風險函式作為策略。損失函式度量模型一次**的好壞，風險函式度量平均意義下模型**的好壞。
演算法：
有了最優模型，我們需要用一些計算方法求解最優模型。這是統計學習問題歸結為最優化問題。例如梯度下降法、最小二乘法都是常用的求解最優模型演算法。
實現統計學習方法步驟如下：
（1）得到乙個有限的訓練資料集合
（2）確定學習模型的集合
（3）確定模學習的策略
（4）實現學習的演算法
（5）通過學習方法選擇最優模型
（6）利用學習的最優模型對新資料進行**或分析
統計學習方法分類
統計學習或機器學習一般包括監督學習、無監督學習、強化學習。有時還包括半監督學習、主動學習。最主要的學習方法還是監督學習和無監督學習。
《統計學習方法》學習筆記
最近把李航的 統計學習方法 看完了，感覺很不錯，從概論到各個統計方法，由易到難層層推進，每個方法都有詳盡的數學公式推倒，感覺很適合有一定數學功底的人作為機器學習入門來看。可惜本人自幼愚鈍，資質欠佳，以前學的概率論與數理統計的知識都忘得差不多了，看得雲裡霧裡的，前面還好，越到後面越看不明白，遇到不懂的...
統計學習方法學習規劃
人類簡史 作者尤瓦爾 赫拉利，在他的書中反覆強調統計學的重要性 華為老闆任正非，在央視採訪中提到要特別重視統計學的研究 知乎上各種大佬都說統計學很有用 在終極的分析中，一切知識都是歷史 在抽象的意義下，一切科學都是數學 在理性的基礎上，所有的判斷都是統計 c.r.rao在 統計與真理 的扉頁上寫下的...
《統計學習方法》學習記錄
1.統計學習是什麼 1 研究物件 資料！從資料出發，提取資料特徵，抽象出資料模型，發現資料中的知識，最後回到對資料的分析和 中去。統計學習前提 假設同類資料具有一定的 統計規律性 2 研究目的 對 未知 資料 與分析通過構建 概率統計模型 實現 考慮學習什麼樣的模型和如何學習模型，從而使模型可以對資...