學習總結 支援向量機(SVM)

2021-10-03 11:41:10 字數 1030 閱讀 5620

支援向量機(support vector machine, svm)是一類按監督學習(supervised learning)方式對資料進行二元分類的廣義線性分類器(generalized linear classifier),其決策邊界是對學習樣本求解的最大邊距超平面(maximum-margin hyperplane)

svm是一種二分類模型,其基本思想是在特徵空間中尋找間隔最大的分離超平面使資料得到高效的二分類。

當原始輸入空間樣本線性不可分時,svm可以通過核函式將輸入空間對映到高維空間,從而能夠在高維空間通過軟間隔最大化構造出最優分離超平面。核函式的優勢便在於:通過核函式使資料沒有真正對映到高維空間而達到了對映的效果,減少了大量的對映計算。

常用核函式

當訓練資料線性可分時,存在無窮個分離超平面可以將兩類資料正確分類。

答案是肯定的。由於svm的基本形態是乙個硬間隔分類器,要求所有的樣本都滿足硬間隔約束(函式間隔》1),是一種基於距離的分類模型。因此,當某些特徵存在異常值或缺失值時,處理不當變會影響模型的整體效果,導致模型泛化能力變差,特別是當存在較多異常值落在最大分類間隔中間,成為支援向量時,會大大影響模型效果。

通過引入鬆弛變數,即允許允許一些異常值不滿足硬間隔約束條件,可以一定程度上降低svm分類模型對異常值的敏感性。

**思路:**將多分類問題分解為一系列svm可直接求解的二分類問題,基於這一系列svm求解結果得出最終判別結果。具體的,svm多分類方法主要有5種:

優點:

缺點:

知識點補充:

svm應用:目前支援向量機主要應用在模式識別領域中的文字識別、中文分類、人臉識別等,同時也應用到許多的工程技術和資訊過濾等方面。

參考:

支援向量機面試知識點小結

svm的優缺點

svm支援向量機學習

1.從零開始的機器學習之svm乙個簡單的實現案例 鳶尾花分類 2.svm的第乙個例項,這個和第乙個鏈結是乙個例子 3.機器學習 支援向量機svm及例項應用,例子仍然是地乙個 4.機器學習之旅 svm分類器,概述了svm的原理 5.支援向量機通俗導論 理解svm的三層境界 對svm原理講述的較為詳細 ...

支援向量機(SVM)

簡介 術語 支援向量機 svm 是乙個類分類器,正式的定義是乙個能夠將不同類樣本在樣本空間分隔的超平面。換句話說,給定一些標記 label 好的訓練樣本 監督式學習 svm演算法輸出乙個最優化的分隔超平面。首先我們假定有乙個未知的欲分類的集合,可以進行分割,但是我們不知道分割的函式 超平面,也叫真實...

支援向量機SVM

支援向量機svm support vector machine 是機器學習領域的乙個有監督的學習模型。一 簡介 支援向量機建立在統計學習理論的基礎之上。統計學習理論 statistical learning theory簡稱slt 是一種處理小樣本的統計理論 為研究有限樣本情況下的統計模式識別和更廣...