線性可分 線性不可分

2021-08-11 21:34:53 字數 427 閱讀 3313

**

很多機器學習分類演算法,比如支援向量機(svm),的介紹都說了假設資料要是線性可分。如果資料不是線性可分的,我們就必須要採用一些特殊的方法,比如svm的核技巧把資料轉換到更高的維度上,在那個高維空間資料更可能是線性可分的(cover定理)。

理論上一定能在更高的維度把資料線性可分。

線性可分就是說可以用乙個線性函式把兩類樣本分開,比如二維空間中的直線、三維空間中的平面以及高維空間中的線型函式。

所謂可分指可以沒有誤差地分開;線性不可分指有部分樣本用線性分類面劃分時會產生分類誤差的情況。

在這種情況下,svm就通過乙個非線性對映函式把樣本對映到乙個線性可分高維空間,在此高維空間建立線性分類面,而此高維空間的現行分類面對應的就是輸入空間中的非線性分類面。

不同樣本集用凸包包起來,判斷不同凸包的邊是否有交叉。

線性可分與線性不可分

線性可分與線性不可分 現實任務中,原始樣本空間內並不存在乙個能正確劃分兩類樣本的超平面。可將樣本從原始空間影射到乙個更高維的特徵空間,使得樣本在這個特徵空間內線性可分。例如在上圖中,若將原始的二維空間對映到乙個合適的三維空間,這樣就能找到乙個合適的劃分超平面,幸運的是如果原始空間是有限維度,即屬性數...

理解線性可分和線性不可分與機器學習什麼叫線性模型

首先大家不要直觀理解線性可分就一定要是一條直線,線性可分指的是可以用乙個線性函式將兩類樣本分開 注意這裡是線性函式 比如在二維空間中的直線,三位空間中的平面以及高維空間中的線性函式。這裡指的可分是沒有一絲誤差的分開,線性不可分指的就是部分樣本用線性分類面 這個看清楚 劃分時會產生分類錯誤的現象。這裡...

機器學習筆記5 線性不可分問題

線性不可分簡單來說就是你乙個資料集不可以通過乙個線性分類器 直線 平面 來實現分類。這樣子的資料集在實際應用中是很常見的,例如 人臉影象 文字文件等。下面的幾個資料都是線性不可分的 我們不可以使用乙個直線或者乙個直面把上面影象中的兩類資料很好的劃分。這就是線性不可分。現在流行的解決線性不可分的方法就...