支援向量機，其含義是通過支援向量運算的分類器。支援向量機是乙個二類分類器。
在求解的過程中，會發現只根據部分資料就可以確定分類器，這些資料稱為支援向量。
見下圖，在乙個二維環境中，其中點r，s，g點和其它靠近中間黑線的點可以看作為支援向量，它們可以決定分類器，也就是黑線的具體引數。
線性分類：可以理解為在2維空間中，可以通過一條直線來分類。在p維空間中，可以通過乙個p-1維的超平面來分類。
線性分類
在訓練資料中，每個資料都有n個的屬性和乙個二類類別標誌，我們可以認為這些資料在乙個n維空間裡。我們的目標是找到乙個n-1維的超平面（hyperplane），這個超平面可以將資料分成兩部分，每部分資料都屬於同乙個類別。
其實這樣的超平面有很多，我們要找到乙個最佳的。因此，增加乙個約束條件：這個超平面到每邊最近資料點的距離是最大的。也成為最大間隔超平面（maximum-margin hyperplane）。這個分類器也成為最大間隔分類器（maximum-margin classifier）。
優勢是不需要樣本資料。
非線性分類
svm的乙個優勢是支援非線性分類。它結合使用拉格朗日乘子法和kkt條件，以及核函式可以產生非線性分類器。
支援線性分類和非線性分類，需要部分樣本資料（支援向量）。f
首先通過兩個分類的最近點，找到f(x)的約束條件。
有了約束條件，就可以通過拉格朗日乘子法和kkt條件來求解，這時，問題變成了求拉格朗日乘子αi 和 b。
核函式有很多種, 一般可以使用高斯核
線性核（linear kernel）
多項式核（polynomial kernel）
支援向量機（SVM）
簡介 術語 支援向量機 svm 是乙個類分類器，正式的定義是乙個能夠將不同類樣本在樣本空間分隔的超平面。換句話說，給定一些標記 label 好的訓練樣本 監督式學習 svm演算法輸出乙個最優化的分隔超平面。首先我們假定有乙個未知的欲分類的集合，可以進行分割，但是我們不知道分割的函式 超平面，也叫真實...
支援向量機SVM
支援向量機svm support vector machine 是機器學習領域的乙個有監督的學習模型。一 簡介 支援向量機建立在統計學習理論的基礎之上。統計學習理論 statistical learning theory簡稱slt 是一種處理小樣本的統計理論 為研究有限樣本情況下的統計模式識別和更廣...
SVM支援向量機
在機器學習領域，很多時候會用到分類的一些演算法，例如knn，貝葉斯。我們可以把分類的樣本簡單除暴的分為兩種型別。線性可分和非線性可分。可以使用乙個非常簡單的例子來解釋什麼是線性可分，什麼是線性不可分。a 線性可分的2類樣本 b 非線性可分的2類樣 已知乙個線性可分的資料集,其中x表示乙個n維向量，當...