支援向量機是所有使用核學習方法中最好的機器學習演算法。
反向傳播演算法訓練多層感知器，該演算法的特點是其簡單性，但是演算法收斂速度慢且缺少最優化性。徑向基函式網路另一類前饋網路，其主要思想來自於插值理論，然後描述了次最優的兩階段設計過程。我們將討論另一種通用的前饋網路的型別，稱為支援向量機 (support vector machines，svms)。
從本質上來說，支援向量機是具有很多優秀效能的機器學習方法。要解釋它是如何工作的，從模式分類中可分離模式的情況開始可能是最容易的。在此背景下，支援向量機的主要思想可以總結如下：
給定訓練樣本，支援向量機建立乙個超平面作為決策曲面，使得正例和反例之間的隔離邊緣被最大化。
在處理更加複雜的線性不可分的模式時，我們原則性地對演算法的基本思想進行擴充套件。
在支援向量 xi 和從輸入空間提取的向量 x 之間的內積核這一概念是構造支援向量機學習演算法的關鍵。最重要的是，支援向量是由演算法從訓練資料中抽取的小的子集構成。事實上，支援向量機被稱為核方法是由於其構造過程中這一關鍵的性質。但是不同於次優化核方法，對於支援向量機的設計來說核方法本質上是最優的。而最優性是根植於凸最優。但是支援向量機這些令人滿意的特點是通過增加計算複雜度得到的。
支援向量機可以用來解模式識別和非線性回歸問題，但是對於解複雜的模式分類問題而言支援向量機具有尤為重要的影響。
references
(加) simon haykin (海金) 著, 申富饒, 徐燁, 鄭俊, 晁靜 譯. 神經網路與機器學習[m]. 北京:機械工業出版社, 2011. 1-572
支援向量機專題 線性支援向量機
原文 當資料線性不可分時，使用硬間隔支援向量機很難得到理想的結果。但是如果資料近似線性可分，可以採用軟間隔支援向量機 線性支援向量機 進行分類。這通常適用於有少量異常樣本的分類，如果使用線性支援向量機，它會盡量使得所有訓練樣本都正確，如下圖所示。顯然這並不是最好的結果，軟間隔支援向量機可以權衡 間隔...
支援向量機
支援向量機 svm 一種專門研究有限樣本 的學習方法。是在統計學習理論基礎之上發展而來的。沒有以傳統的經驗風險最小化原則作為基礎，而是建立在結構風險最小化原理的基礎之上，發展成為一種新型的結構化學習方法。結構風險最小歸納原理 解決了有限樣本或小樣本的情況下獲得具有優異泛化能力的學習機器。包含了學習的...
支援向量機
支援向量 與分離超平面距離最近的樣本點的例項 優點 泛化錯誤率低，計算開銷不大，結果易解釋 缺點 對引數調節和核函式選擇敏感，原始分類器不加修改僅適用於處理二分類問題 適合資料型別 數值型和標稱型資料 每次迴圈中選擇兩個alpha進行優化處理。一旦找到一對合適的alpha，那麼久增大其中乙個同時減小...