svm最先是被用來對線性可分的資料集做分類。下圖是超平面的推導。主要思路是w是這個超平面的法向量，然後點到超平面的距離等於xx『向w投影。
然後推導出距離公式為上圖所示。注意到y與wx+b同號，就可以得到如下的式子
注意到wx+b的係數可以被放縮，可以進一步要求最小的那個y（wx+b）=1.
然後，就變成了下邊的式子：
放鬆條件，再將最大化轉變為最小化後，就變為下邊的式子：
此最優化問題可以用二次規劃來解。
如果是非線性的集合，可以先把x變換，變換成乙個可以線性可分的集合再做。
機器學習模型 SVM
liblinear libsvm 台灣的 線性可分的svm max s.t.yi wxi b w i 1,2 n代入 w 於是得到 max w s.t.yi w xi b i 1,2 n 其中 是幾何距離，是函式距離。的取值對上述優化問題沒有影響，因為如果 按比例增加，那麼目標函式和約束中的w 和 ...
SVM學習筆記1 問題定義
問題定義 給出一些樣本，包含兩類。svm試圖找到乙個超平面，將資料分開，並且每種樣本到超平面的距離的最小值最大。輸入樣本 y 1 leq i leq n y in 超平面定義 w x b 0 設某乙個取樣點 x 到超平面的距離為 gamma 那麼從 x 作方向為w的射線，其與超平面的交點為b，取樣點...
SVM學習筆記1 問題定義
問題定義 給出一些樣本，包含兩類。svm試圖找到乙個超平面，將資料分開，並且每種樣本到超平面的距離的最小值最大。輸入樣本 y 1 leq i leq n y in 超平面定義 w x b 0 設某乙個取樣點 x 到超平面的距離為 gamma 那麼從 x 作方向為w的射線，其與超平面的交點為b，取樣點...