赫爾伯特·西蒙：如果乙個系統能夠通過執行某個過程改進它的效能，這就是學習。
tom mitchell ，機器學習：電腦程式可以在給定某種類別的任務 t 和效能度量 p 下學習經驗 e ，如果其在任務 t 中的效能恰好可以用 p 度量，則隨著經驗 e 而提高。
我混合一下，定義：學習是乙個過程，目的是提公升系統（system）在新資料上的表現，手段是利用歷史資料修正系統。
或者，學習是，利用歷史資料修正系統，以提公升系統在新資料上的表現的，過程。
結構解析：修正系統（做了什麼），利用歷史資料（怎麼做的），提公升系統在新資料上的表現（為什麼做）。
(1)得到乙個有限的訓練資料集合
(2)確定包含所有可能的模型的假設空間,即學習模型的集合
(3)確定模型選擇的準則,即學習的策略
(4)實現求解最優模型的演算法,即學習的演算法
(5)通過學習方法選擇最優模型
(6)利用學習的最優模型對新資料進行**或者分析
等待弄明白的問題：
p13，訓練誤差和測試誤差與模型複雜度的關係。
l1l2正則化的區別。
邏輯回歸損失函式。
感知機與最小二乘的關係。
統計學習方法筆記 第一章統計學習方法概論
統計學習方法第一章筆記 赫爾伯特 西蒙曾經對學習下定義 如果乙個系統能夠通過執行某個過程改進它的效能，這就是學習。現在人們提到的機器學習就是統計機器學習。統計學習包括監督學習 supervised learning 非監督學習 unsupervisedlearning 半監督學習 semi supe...
統計學習方法 第一章
1.統計學習的特點 2.統計學習的物件 對資料的基本假設 同類資料具有一定的統計規律性 3.統計學習的目的 4.統計學習方法 1.基本概念 x x 1,x 2,x i x n t x i x i 1 x i 2 x in t t x 1 y 1 x 2 y 2 x n y n 2.聯合概率分布 3....
統計學習方法第一章
1.numpy.poly1d 1,2,3 import numpy as np np.poly1d 1 2,3 poly1d 1 2,3 r np.poly1d 1 2,3 print r 1 62.from scipy.optimize import leastsq 表示scipy.optimiz...