感知機模型
定義（感知機）假設輸入空間（特徵空間）是
感知機模型的假設空間是定義在特徵空間中的所有線性分類模型或線性分類器，即函式集合" class="mathcode" src=""/>}
感知機的幾何解釋：
線性方程：
、感知機學習就是求得模型引數w,b感知機**通過學習得到的感知機模型，對於新的輸入例項給出其對應的輸出型別。
感知機學習策略
資料集的線性可分性：如果存在某個超平面可以把給定資料集完全正確的劃分到超平面的兩側，一邊為正一邊為負，則稱資料集為線性可分，否則為不可分。
感知機的學習策略：為了找到超平面，即確定感知機模型引數w,b，需要確定的學習策略就是要定義（經驗）損失函式並將損失函式極小化。
感知機學習演算法
感知機學習問題轉化為求解損失函式式的最優化問題，最優化的方法是隨機梯度下降法。
感知機學習演算法的原始形式
求引數w,b，使其為損失函式極小化問題的解
演算法過程
輸入：訓練資料集t,學習率
輸出：w,b；感知機模型
(1)選取初值
演算法的收斂性
感知機學習演算法的對偶形式
tbc
李航《統計學習方法》 感知機
這一章就講了感知機。我覺得是深受工業革命的影響，把一些可以實現功能的基本單元都喜歡叫做什麼機，這裡的感知機，還有後來的以感知機為基礎的支援向量機。直接看定義，看本質，實際上，感知機是一種線性分類模型。下面就以這句話為中心仔細闡述一下。什麼叫線性。線性liner，正如其名，兩個變數的關係的函式是一條直...
李航 統計學習方法 筆記 2 感知機學習演算法
感知機是二類分類的線性分類模型，屬於判別模型，輸入例項特徵向量，輸出例項的類別，取 1和 1。是神經網路與支援向量機的基礎。f x sign w.x b 幾何解釋 線性方程 w.x b 0 對應特徵空間的乙個超平面s，位於超平面兩側的點被分為正類或負類，s稱為分離超平面。假設資料集是線性可分的，即存...
（李航統計學習方法）感知機Python實現
機器學習的三要素 模型，策略，演算法 模型 感知機是二分類線性分類模型，屬於判別模型。策略 基於誤分類點到超平面的總距離。學習演算法 略 感知機存在的問題 存在多解，解依賴於初始超平面的選擇以及迭代過程中誤分類點的選擇。訓練集線性不可分，演算法無法收斂，解決方法 pocket演算法或者使用核函式。無...