李航統計學習方法 第二版 (二) 感知機模型介紹

2022-05-13 12:49:08 字數 1126 閱讀 6558

感知機(perceptron)是二類分類的線性分類模型,其輸入為例項的特徵向量,輸出為例項的類別,取+1和一1二值。感知機對應於輸入空間(特徵空間)中將例項劃

分為正負兩類的分離超平面,屬於判別模型。感知機學習旨在求出將訓練資料進行線性劃分的分離超平面,為此,匯入1於誤分類的損失函式,利用梯度下降法對損失函式進行極小化,求得感知機模型。感知機學習演算法具有簡單而易於實現的優點,分為原始形式和對偶形式。感知機**是用學習得到的感知機模型對新的輸入例項進行分類。

輸入空間

輸入變數

輸出空間

輸出變數

假設空間

損失函式

普通原始形式

對偶形式

演算法收斂性

李航《統計學習方法》 感知機

這一章就講了感知機。我覺得是深受工業革命的影響,把一些可以實現功能的基本單元都喜歡叫做什麼機,這裡的感知機,還有後來的以感知機為基礎的支援向量機。直接看定義,看本質,實際上,感知機是一種線性分類模型。下面就以這句話為中心仔細闡述一下。什麼叫線性。線性liner,正如其名,兩個變數的關係的函式是一條直...

李航《統計學習方法》 第二章 感知機模型

適用問題 二類分類 實驗資料 由於是二分類器,所以將minst資料集train.csv的label列進行了一些微調,label等於0的繼續等於0,label大於0改為1。這樣就將十分類的資料改為二分類的資料。獲取位址train binary.csv 實現 encoding utf 8 import ...

(李航統計學習方法)感知機Python實現

機器學習的三要素 模型,策略,演算法 模型 感知機是二分類線性分類模型,屬於判別模型。策略 基於誤分類點到超平面的總距離。學習演算法 略 感知機存在的問題 存在多解,解依賴於初始超平面的選擇以及迭代過程中誤分類點的選擇。訓練集線性不可分,演算法無法收斂,解決方法 pocket演算法或者使用核函式。無...