統計學習的物件是資料。
統計學習的方法：監督學習、非監督學習、半監督學習、強化學習。
統計學習方法三要素：模型、策略、演算法。
輸入空間與輸出空間：輸入與輸出可能的取值的集合。
具體輸入通常由特徵向量表示。
特徵向量存在的空間為特徵空間。
模型定義在特徵空間上。
監督學習的目的是學習乙個由輸入到輸出的對映，由模型表示。
模型屬於從輸入空間到輸出空間的對映的集合。
監督學習的模型：概率模型、非概率模型。
損失函式
經驗風險最小化
結構風險最小化（加上正則化項（罰項））
訓練誤差
測試誤差
過擬合：正則化、交叉驗證（簡單交叉驗證、s折交叉驗證、留一交叉驗證）
生成方法：由資料聯合概率分布求出條件概率分布
判別方法：資料直接學習決策函式或條件概率分布
統計學習方法筆記1 統計學習方法概論
統計學習是關於計算機基於資料構建概率統計模型並運用模型對資料進行 與分析的一門學科。從資料出發，提取資料的特徵，抽象出資料的模型，發現資料中的知識，又回到對資料的分析與 中去。統計學習關於資料的基本假設是同類資料具有一定的統計規律性，這是統計學習的前提。這裡的同類資料是指具有某種共同性質的資料，例如...
統計學習方法 1 統計學習方法概論
統計學習的主要特點是 1 統計學習以計算機及網路為平台，是建立在計算機及網路之上的 2 統計學習以資料為研究物件，是資料驅動的學科 3 統計學習的目的是對資料進行 與分析 4 統計學習以方法為中心，統計學習方法構建模型並應用模型進行 與分析 5 統計學習是概率論 統計學 資訊理論 計算理論 最優化理...
統計學習方法 學習筆記之概論
1.統計學習 赫爾伯特 西蒙曾對學習給出以下定義 如果乙個系統能夠通過執行某個過程改進它的效能，這就是學習。統計學習就是計算機系統通過運用資料及統計方法提高系統效能的機器學習。2.統計學習三要素 3.實現統計學習方法的步驟 4.統計學習的分類 5.一些基本概念 6.損失函式 損失函式或代價函式用來度...