統計學習方法學習筆記(第二章 感知機)

2021-08-28 20:41:04 字數 347 閱讀 2829

感知機是二類分類的線性分類模型。

感知機是一種線性分類模型,屬於判別模型。感知機模型的假設空間是定義在特徵空間中的所有線性分類模型或線性分類器。

超平面s稱為分離超平面(separating hyperplane)。

資料集的線性可分性。

感知機所採用的損失函式是誤分類點到超平面s的總距離。

感知機問題演算法是最優化損失函式問題的演算法。

感知機學習演算法是誤分類驅動的,具體採用隨機梯度下降(stochastic gradient descent)。 

演算法的收斂性。

感知機的證明後面再來細細品味。

感知機不能表示異或。

統計學習方法學習筆記 第二章 感知機

感知機是二元分類的線性分類模型,目的是求出乙個分離超平面,利用梯度下降法對代價函式進行最小化 感知機的數學模型可由下列表示式給出 f x sign wx b 其中 w 為權值向量,是分離超平面 wx b 0 的法向量,b 為截距 bias sign x 為符號函式 x 0,輸出 1 反之,輸出 1 ...

統計學習方法 第二章 感知機

感知機是二分類的線性分類模型,輸入是例項的特徵x rn,輸出是例項的類別 感知機對應於輸入空間中將例項劃分為正負兩類的分離超平面,屬於判別模型。感知機學習旨在求出將訓練資料進行線性劃分的分離超平面,為此,匯入基於誤分類的損失函式,利用梯度下降法對損失函式進行極小化,求得感知機模型。假設輸入空間 特徵...

統計學習方法(第二章)感知機

1 什麼是感知機 在 機器學習中,感知機 perceptron 是二分類的線性分類模型,屬於監督學習演算法。輸入為例項的特徵向量,輸出為例項的類別 取 1和 1 感知機對應於輸入空間中將例項劃分為兩類的分離超平面。感知機旨在求出該超平面,為求得超平面匯入了基於誤分類的損失函式,利用梯度下降法 對損失...