1、用|w∗
x+b|
表示點x
到超平面0的距離遠近,(w
∗x+b
)∗y表示分類的正確性以及確信度
。2、在二分類問題裡,如果(w∗
x+b)>0
,則x的類別被判定為1;如果(w
∗x+b
)<0,x
的類別判定為-1。
所以如果要分類正確,就一定要有y(w∗
x+b)>0
3、樣本點(xi,y
i)和超平面之間的函式間隔為: yi(
w∗xi
+b)要有更好的分類效果,就要讓間隔最大。最簡單的是通過讓w,b同時放大n倍,
但是這時候超平面沒有變化(你要找的是乙個最優超平面使分類效果最好),沒有意義。
4、為了讓它有意義,引入 ||w||(這貨是範數,不是絕對值) 約束w不讓它變化。
所以幾何間隔為
剛好等於點到超平面的距離公式
5、點到超平面的距離公式推導直接po別人的鏈結 ↓
(若涉及侵權,可以聯絡我讓刪掉噢~)
6、找到離超平面最近的點,計算其距離,該距離是最小幾何間隔
定義公式:γ
=mini=
1,2,
...,
nγi=
γ^i|
|wi|
|7、對所有樣本都滿足:yi(
w⋅x⃗
i+b)
≥γ^8、所以最大化最小幾何間隔:maxw,
bγ^|
|w||
wbwλw
bλbγ^
λγ^γ=1
/γ^λ=1/γ^w,
b1||w||
svm 函式間隔與幾何間隔的認識
在超平面w x b 0 w x b 0 確定的情況下,w x b w x b 可以相對地表示點x距離超平面的遠 近。對於兩類分類問題,如果w x b 0 w x b 0,則 x x 的類別被判定為1 否則判定為 1。所以如果y w x b 0 role presentation style posi...
1 2 函式間隔和幾何間隔理解2
svm是通過超平面將樣本分為兩類。在超平面 w x b 0 確定的情況下,w x b 可以相對地表示點x距離超平面的遠近。對於兩類分類問題,如果 w x b 0,則的類別被判定為1 否則判定為 1。所以如果 y w x b 0,則認為x的分類結果是正確的,否則是錯誤的。且 y w x b 的值越 大...
支援向量機(一) 深入理解函式間隔與幾何間隔
實踐發現,在所給的例子中,兩種方法線性劃分兩類事物時得到的線性分類器的效果差不多。那具體的差別在哪呢?svm更關心的是靠近中間分割線的點,讓他們盡可能地遠離中間線,而不是在所有點上達到最優,因為那樣的話,要使得一部分點靠近中間線來換取另外一部分點更加遠離中間線。因此支援向量機和和邏輯斯蒂回歸的不同點...