機器學習 感知機

2022-08-28 01:33:25 字數 990 閱讀 4235

1 感知機是二分類的線性模型,輸入空間是例項的特徵向量,輸出是例項的類別(+1,-1),屬於判別模型。

2 假設資料線性可分,感知機的學習目標是求得乙個能夠將訓練集資料正例和負例完全分開的分離超平面,如果訓練資料線性不可分,那麼就無法獲得這個超平面(抑或問題),針對抑或問題,解決方法是多層感知機組合。

3 輸入空間到輸出空間:  

4 損失函式的優化目標:使所有誤分類的樣本點到分離超平面的距離和最小

其中m是誤分類樣本的集合,||w||是係數w的l2範數(等價於向量的模,歐氏距離)。

一般情況下會省略掉前面的常數項,所以損失函式為

為什麼能省略掉常數項係數

① 對中間計算過程和最終的分類結果都不會產生影響(誤分類樣本驅動,不影響正負值)

② 簡化計算,提高演算法執行效率

5 感知機演算法是通過誤分類的樣本參與損失函式的優化,所以不能採用批量梯度下降(bgd),得採用隨機梯度下降(sgd),目標函式:

實際應用中採用對偶形式進行梯度更新。

6 乙個例項樣本更新次數越多,說明它距離超平面越近,越難被正確分類,這樣的樣本對模型學習效果影響越大。

機器學習 感知機

感知機是一種簡單的二類分類的線性分類模型,用於處理可以線性可分的二分類問題。感知機對應於輸入空間 特徵空間 中將例項劃分為正負兩類的分離超平面,屬於判別模型。模型。從輸入空間到輸出空間有如下函式 f x s ign wtx b 其中w 為權值,b為偏執。生成的超平面為 wt x b 0 其中w 為超...

機器學習 感知機

r nx rn 輸出空間為y 輸入x x x x表示例項的特徵向量,對應於輸入空間的點 輸出y y表示示例的類別。由輸入空間到輸出空間的函式為 x si gn w x b f x sign w x b x w x表示w和x的點積i 1mwi xi w 1x1 w2x2 wnx n i 1mwixi ...

機器學習 感知機perceptron

在機器學習中,感知機 perceptron 是二分類的線性分類模型,屬於監督學習演算法。輸入為例項的特徵向量,輸出為例項的類別 取 1和 1 感知機對應於輸入空間中將例項劃分為兩類的分離超平面。感知機旨在求出該超平面,為求得超平面匯入了基於誤分類的損失函式,利用梯度下降法 對損失函式進行最優化 最優...