已經花了好多時間看支援向量機了，就是一直沒開始寫，網再渣，我也要開始總結了
支援向量機(svm)
一種二類分類模型。基本模型是定義在特徵空間上的間隔最大的線性分類器，學習策略就是間隔最大化，最終是求解凸二次規劃的最優化演算法。
包含線性可分支援向量機、線性支援向量機、非線性支援向量機。
線性可分支援向量機與硬間隔最大化
考慮二類分類問題，資料用向量x表示，類別為y(-1,1)乙個線性分類器的學習目標就是要在n維的資料空間中找到乙個分類超平面，其方程可以表示為：
ps:w為法向量，b為截距
對應的分類決策函式f(x)表示如下：
f(x)即為線性可分支援向量機，sign(x)為符號函式，x>0 為1，x<0 為-1，x=0為0
函式間隔與幾何間隔
對於a、b、c三個點，距離超平面越遠，可信度越高，從而引出函式間隔的概念。
函式間隔：
對於給定的訓練集t以及超平面(w,b)，定義超平面(w,b)關於樣本點(xi,yi)的函式間隔為
支援向量機專題 線性支援向量機
原文 當資料線性不可分時，使用硬間隔支援向量機很難得到理想的結果。但是如果資料近似線性可分，可以採用軟間隔支援向量機 線性支援向量機 進行分類。這通常適用於有少量異常樣本的分類，如果使用線性支援向量機，它會盡量使得所有訓練樣本都正確，如下圖所示。顯然這並不是最好的結果，軟間隔支援向量機可以權衡 間隔...
支援向量機
支援向量機 svm 一種專門研究有限樣本 的學習方法。是在統計學習理論基礎之上發展而來的。沒有以傳統的經驗風險最小化原則作為基礎，而是建立在結構風險最小化原理的基礎之上，發展成為一種新型的結構化學習方法。結構風險最小歸納原理 解決了有限樣本或小樣本的情況下獲得具有優異泛化能力的學習機器。包含了學習的...
支援向量機
支援向量 與分離超平面距離最近的樣本點的例項 優點 泛化錯誤率低，計算開銷不大，結果易解釋 缺點 對引數調節和核函式選擇敏感，原始分類器不加修改僅適用於處理二分類問題 適合資料型別 數值型和標稱型資料 每次迴圈中選擇兩個alpha進行優化處理。一旦找到一對合適的alpha，那麼久增大其中乙個同時減小...