以下()屬於線性分類器最佳準則?機器學習 ml模型 易
a.感知準則函式
b.貝葉斯分類
c.支援向量機
d.fisher準則
正確答案:acd
線性分類器有三大類:感知器準則函式、svm、fisher準則,而貝葉斯分類器不是線性分類器。
感知準則函式 :準則函式以使錯分類樣本到分介面距離之和最小為原則。其優點是通過錯分類樣本提供的資訊對分類器函式進行修正,這種準則是人工神經元網路多層感知器的基礎。
支援向量機 :基本思想是在兩類線性可分條件下,所設計的分類器介面使兩類之間的間隔為最大,它的基本出發點是使期望泛化風險盡可能小。(使用核函式可解決非線性問題)
fisher 準則 :更廣泛的稱呼是線性判別分析(lda),將所有樣本投影到一條遠點出發的直線,使得同類樣本距離盡可能小,不同類樣本距離盡可能大,具體為最大化「廣義瑞利商」。
根據兩類樣本一般類內密集,類間分離的特點,尋找線性分類器最佳的法線向量方向,使兩類樣本在該方向上的投影滿足類內盡可能密集,類間盡可能分開。這種度量通過類內離散矩陣 sw 和類間離散矩陣 sb 實現。
線性分類器和非線性分類器
線性和非線性的區別 1.線性linear,指量與量之間按比例 成直線的關係,在數學上可以理解為一階導數為常數的函式 非線性non linear則指不按比例 不成直線的關係,一階導數不為常數。2.線性的可以認為是1次曲線,比如y ax b 即成一條直線 非線性的可以認為是2次以上的曲線,比如y ax ...
線性分類器
softmax回歸是多分類,其他都是二分類 f x w,b w tx b y in r g f x w begin 1 if f x w 0 0 if f x w 0 end y x in mathbb d y in g f x w begin 1 if f x w 0 0 if f x w 0 e...
fisher線性分類器
fisher準則的基本原理 找到乙個最合適的投影軸,使兩類樣本在該軸上投影之間的距離盡可能遠,而每一類樣本的投影盡可能緊湊,從而使分類效果為最佳。假設有兩類樣本,分別為 x 1 和 x 2 則各類在d維特徵空間裡的樣本均值為 m i frac sum x k i 1,2 通過 omega 變換後,將...