支援向量機（support vector machine）名字聽起來很炫，功能也很炫，但公式理解起來常有眩暈感。所以本文嘗試不用乙個公式來說明svm的原理，以保證不嚇跑乙個讀者。理解svm有四個關鍵名詞：分離超平面、最大邊緣超平面、軟邊緣、核函式。
以選擇合適的核函式以及軟邊緣引數c就是訓練svm的重要因素。一般來講，核函式越複雜，模型越偏向於擬合過度。在引數c方面，它可以看作是lass
o演算法中的lambda的倒數，c越大模型越偏向於擬合過度，反之則擬合不足。實際問題中怎麼選呢？用人類最古老的辦法，試錯。
常用的核函式有如下種類：
支援向量機專題 線性支援向量機
原文 當資料線性不可分時，使用硬間隔支援向量機很難得到理想的結果。但是如果資料近似線性可分，可以採用軟間隔支援向量機 線性支援向量機 進行分類。這通常適用於有少量異常樣本的分類，如果使用線性支援向量機，它會盡量使得所有訓練樣本都正確，如下圖所示。顯然這並不是最好的結果，軟間隔支援向量機可以權衡 間隔...
支援向量機
支援向量機 svm 一種專門研究有限樣本 的學習方法。是在統計學習理論基礎之上發展而來的。沒有以傳統的經驗風險最小化原則作為基礎，而是建立在結構風險最小化原理的基礎之上，發展成為一種新型的結構化學習方法。結構風險最小歸納原理 解決了有限樣本或小樣本的情況下獲得具有優異泛化能力的學習機器。包含了學習的...
支援向量機
支援向量 與分離超平面距離最近的樣本點的例項 優點 泛化錯誤率低，計算開銷不大，結果易解釋 缺點 對引數調節和核函式選擇敏感，原始分類器不加修改僅適用於處理二分類問題 適合資料型別 數值型和標稱型資料 每次迴圈中選擇兩個alpha進行優化處理。一旦找到一對合適的alpha，那麼久增大其中乙個同時減小...