1.原理：
最大間隔分類器：
寫出拉格朗日函式：lp 不等式約束利用kkt條件。
線性可分：直接最大化間隔
線性不可分：加入鬆弛變數 約束條件放寬 yi(wxi+b)>=1-ei
目標函式加入懲罰項（需要設定引數c）
非線性分類：空間變換（利用核函式 高斯核 線性核）
2.實現：
引數選擇：線性不可分得情況下c的選取（通過交叉驗證獲得最佳引數，準確度與模型複雜度之間的平衡）
核函式選擇：一般選用高斯核。特徵數很**擇線性核。
高斯核引數選擇：高斯核引數決定了模型的複雜程度。需要在偏差與方差之間做乙個平衡。
SVM 支援向量機演算法概述
對不起，看到好東西忍不住搬過來了推薦大家去這看這裡 一 svm的背景簡介 支援向量機 support vector machine 是cortes和vapnik於1995年首先提出的，它在解決小樣本 非線性及高維模式識別中表現出許多特有的優勢，並能夠推廣應用到函式擬合等其他機器學習問題中 10 支援...
支援向量機專題 線性支援向量機
原文 當資料線性不可分時，使用硬間隔支援向量機很難得到理想的結果。但是如果資料近似線性可分，可以採用軟間隔支援向量機 線性支援向量機 進行分類。這通常適用於有少量異常樣本的分類，如果使用線性支援向量機，它會盡量使得所有訓練樣本都正確，如下圖所示。顯然這並不是最好的結果，軟間隔支援向量機可以權衡 間隔...
支援向量機
支援向量機 svm 一種專門研究有限樣本 的學習方法。是在統計學習理論基礎之上發展而來的。沒有以傳統的經驗風險最小化原則作為基礎，而是建立在結構風險最小化原理的基礎之上，發展成為一種新型的結構化學習方法。結構風險最小歸納原理 解決了有限樣本或小樣本的情況下獲得具有優異泛化能力的學習機器。包含了學習的...