svm相關概念

2021-09-12 03:02:42 字數 626 閱讀 9413

svm 遇到對手神經網路

二分類問題

裡面的min,是求離決策邊界最近的雷是哪個i

外面的max,是求哪組wb能使「雷」到邊界距離越大越好

y與y(x)同正負,為正負1,y*y(x)恆大於0

可放縮使y*y(x)>=1,則min那項最小就為1

二分之一,求解方便

kkt對偶性質

先求min極小值,偏導=0,得到兩個條件

阿爾法等於0的向量,就不是支援向量,對結果沒影響,阿爾法不等於0的向量為邊界點(支援向量),構成決策邊界

核變換,理論上說是低維對映到高維,實際上根本沒做,只是在低維上求解

低維上先對映到高維,再求內積,就等於先內積再對映(把值對映就行了)

高斯核函式,相當於做了無限維的變換

不加核函式,線性變換

加核函式,非線性變換,低維不可分轉化為高維可分

相當於高維的運算轉化為低維的運算

gama,模型的複雜程度,越大越複雜,對映的維度越大,決策邊界越精確,分類越準確,泛化能力越低,越小反之

神經元個數越多,通常網路模型效果越好

黑箱操作,並不知道網路內部各個引數的關係及其表達出的內容,只能從整體邏輯上指出神經網路做了什麼事,而不能從內部指出各個引數w1做了什麼事。

SVM相關問題

應聘資料探勘工程師或機器學習工程師,面試官經常會考量面試者對svm的理解。以下是我自己在準備面試過程中,基於個人理解,總結的一些svm面試常考問題 想到會再更新 如有錯漏,請批評指正。大神請忽視 svm的原理是什麼?svm是一種二類分類模型。它的基本模型是在特徵空間中尋找間隔最大化的分離超平面的線性...

SVM相關問題

1.為什麼要通過求解與原問題等價的對偶問題 dual problem 來得到原問題的解?原因主要有 1 對偶問題更容易求解 2 在對偶問題下可以很容易引入核函式,進而擴充套件到線性不可分的場景。詳見 理解svm的三層境界 2.lagrange duality與wolfe duality的區別何在?常...

svm相關知識

1.svm是一種二分類模型。它的基本模型是在特徵空間中尋找間隔最大化的分離超平面的線性分類器。2.支援向量機對噪音的敏感程度 當有少量噪音,噪音沒有成為支援向量時,噪音對模型不產生影響,具有很好的魯棒性 當有大量噪音,且噪音成為了支援向量,噪音對模型會有顛覆性的影響,不具備魯棒性 3.svm核函式意...