核函式的數學要求
核函式有嚴格的數學要求,所以設計乙個核函式是很困難的。k(x,z)是正定核的充要條件是:k(x,z)對應的gram矩陣實半正定矩陣。
gram矩陣:矩陣對應點的內積。ktk, kkt
半正定矩陣:設a是實對稱矩陣。如果對任意的實非零列矩陣x有xtax≥0,就稱a為半正定矩陣。
當檢驗乙個k是否為正定核函式,要對任意有限輸入集驗證k對應的gram矩陣實是否為半正定矩陣。
參考:統計學習方法(李航)
libsvm中提供的核函式
線性核函式
多項式核函式
rbf核函式(高斯核函式)
sigmoid核函式
首先介紹下與核函式相對應的引數:
1)對於線性核函式,沒有專門需要設定的引數
2)對於多項式核函式,有三個引數。-d用來設定多項式核函式的最高此項次數,也就是公式中的d,預設值是3。-g用來設定核函式中的gamma引數設定,也就是公式中的第乙個r(gamma),預設值是1/k(k是類別數)。-r用來設定核函式中的coef0,也就是公式中的第二個r,預設值是0。
3)對於rbf核函式,有一
核函式選取
支援向量機是建立在統計學習理論基礎之上的新一代機器學習演算法,支援向量機的優勢主要體現在解決線性不可分問題,它通過引入核函式,巧妙地解決了在高維空間中的內積運算,從而很好地解決了非線性分類問題。構造出乙個具有良好效能的svm,核函式的選擇是關鍵 核函式的選擇包括兩部分工作 一是核函式型別的選擇,二是...
SVM常用核函式
以下是幾種常用的核函式表示 線性核 linear kernel 多項式核 polynomial kernel 徑向基核函式 radial basis function 也叫高斯核 gaussian kernel 因為可以看成如下核函式的領乙個種形式 徑向基函式是指取值僅僅依賴於特定點距離的實值函式,...
SVM核函式選擇
svm支援向量機,一般用於二分類模型,支援線性可分和非線性劃分。svm中用到的核函式有線性核 linear 多項式核函式pkf以及高斯核函式rbf。當訓練資料線性可分時,一般用線性核函式,直接實現可分 當訓練資料不可分時,需要使用核技巧,將訓練資料對映到另乙個高維空間,使再高維空間中,資料可線性劃分...