svm學了又忘,想來形象的理解一下;
首先從字面上來看,支援向量機,為什麼取名叫支援向量機呢?
核心在於支援向量,向量是啥,就是乙個線(高維就是平面)而已,為什麼要這條線呢,因為要根據這條線來確定唯一的平面;那麼這條線如何確定,那肯定要找到兩點,這兩點如何確定,類別a中出乙個點,類別b中出乙個點,求出兩點之間的距離,搜尋出最短距離的兩點;然後求出該兩點正中間的平面;
其實可以想象成一條河左邊是全是紅點,右邊全是綠點;這條河將兩堆點都分開了(即實現了完美分類);河的位置可以有很多種,正中間的一種是最好的;對紅點與綠點最公平;
如何原始空間是有限維,那麼一定存在高維特徵空間使樣本可分;(因為你可以對映到無限維的空間中)
我們希望樣本在特徵空間內線性可分,因此特徵空間的好壞對支援向量機的效能至關重要。需注意的是,在不知道特徵對映的形式時,我們並不知道什麼樣的核函式是合適的,而核函式也僅是隱式地定義了這個特徵空間。於是「核函式選擇「成為支援向量機的最大變數。若核函式選擇不合適,則意味著樣本對映到了乙個不合適的特徵空間,很可能導致效能不佳。
形象理解「梯度」
梯度是微積分多元函式的乙個重要概念,簡單來說,梯度是乙個向量,當函式上的一點按照該向量移動,函式值增加最大,該向量由函式分別對自變數的偏導值所構成。如果函式是二元函式,則梯度是二維向量,在自變數構成的平面上,如果函式是三元函式,則梯度是三維向量,在自變數構成的空間中。本文著重對它的上述的意義,進行形...
SVM演算法的理解
距離上次看svm演算法已經快過了半個月了,今天再次看到,溫故知新後決定把自己的理解寫出來。不過由於本人文筆不佳,所以想到什麼寫什麼,等有空了再整理。看到覺得混亂的還請見諒。剛剛看svm的時候,只能明白支援向量機之所以叫支援向量機是因為支援向量,後面懂得了w的內容是什麼 幾何距離的意義 低維對映到高維...
svm的簡單理解
svm是一種訓練機器學習的演算法,可以用於解決分類和回歸問題,同時還使用了一種稱之為kernel trick的技術進行資料的轉換,然後再根據這些轉換資訊,在可能的輸出之中找到乙個最優的邊界。簡單來說,就是做一些非常複雜的資料轉換工作,然後根據預定義的標籤或者輸出進而計算出如何分離使用者的資料。簡單理...