SVM中函式間隔和幾何間隔的區別

2021-08-18 04:12:14 字數 836 閱讀 8999

1、用|w∗

x+b|

表示點x

到超平面0的距離遠近,(w

∗x+b

)∗y表示分類的正確性以及確信度

。2、在二分類問題裡,如果(w∗

x+b)>0

,則x的類別被判定為1;如果(w

∗x+b

)<0,x

的類別判定為-1。

所以如果要分類正確,就一定要有y(w∗

x+b)>0

3、樣本點(xi,y

i)和超平面之間的函式間隔為: yi(

w∗xi

+b)要有更好的分類效果,就要讓間隔最大。最簡單的是通過讓w,b同時放大n倍,

但是這時候超平面沒有變化(你要找的是乙個最優超平面使分類效果最好),沒有意義。

4、為了讓它有意義,引入 ||w||(這貨是範數,不是絕對值) 約束w不讓它變化。

所以幾何間隔為

剛好等於點到超平面的距離公式

5、點到超平面的距離公式推導直接po別人的鏈結 ↓

(若涉及侵權,可以聯絡我讓刪掉噢~)

6、找到離超平面最近的點,計算其距離,該距離是最小幾何間隔

定義公式:γ

=mini=

1,2,

...,

nγi=

γ^i|

|wi|

|7、對所有樣本都滿足:yi(

w⋅x⃗ 

i+b)

≥γ^8、所以最大化最小幾何間隔:maxw,

bγ^|

|w||

wbwλw

bλbγ^

λγ^γ=1

/γ^λ=1/γ^w,

b1||w||

svm 函式間隔與幾何間隔的認識

在超平面w x b 0 w x b 0 確定的情況下,w x b w x b 可以相對地表示點x距離超平面的遠 近。對於兩類分類問題,如果w x b 0 w x b 0,則 x x 的類別被判定為1 否則判定為 1。所以如果y w x b 0 role presentation style posi...

1 2 函式間隔和幾何間隔理解2

svm是通過超平面將樣本分為兩類。在超平面 w x b 0 確定的情況下,w x b 可以相對地表示點x距離超平面的遠近。對於兩類分類問題,如果 w x b 0,則的類別被判定為1 否則判定為 1。所以如果 y w x b 0,則認為x的分類結果是正確的,否則是錯誤的。且 y w x b 的值越 大...

支援向量機(一) 深入理解函式間隔與幾何間隔

實踐發現,在所給的例子中,兩種方法線性劃分兩類事物時得到的線性分類器的效果差不多。那具體的差別在哪呢?svm更關心的是靠近中間分割線的點,讓他們盡可能地遠離中間線,而不是在所有點上達到最優,因為那樣的話,要使得一部分點靠近中間線來換取另外一部分點更加遠離中間線。因此支援向量機和和邏輯斯蒂回歸的不同點...