2.1由例項學習類
類學習:尋找乙個涵蓋所有的正例而不涵蓋任何負例的描述
類識別器的蔬菜如:對識別結果有關鍵影響的特徵
假設類:h
最特殊假設:s覆蓋所有正例且不包含所有負例的最小矩形
最一般假設:g覆蓋所有正例且不包含所有負例的最大矩形
介於s~g之間的h均為無誤差的有效假設,與訓練集χ相容,這些h構成了解空間
c:實際類
邊緣:h的邊界和他相鄰最近的例項(正例/負例)之間的差距。最大邊緣:s與g中間
誤差函式在最大邊緣上的最小化:不僅僅返回0、1
誘導假設:h
經驗誤差:h的**值不同於訓練集χ中給定的預期值的訓練示例所佔的比例
誤差函式:e(h|
χ) = ∑(t = 1 ~ n) 1*(h(xt)!= rt)
泛化問題:對不在訓練集中的未來例項分類的準確率問題
2.2vc維
n個點,存在pow(2,n)種表現形式,如果每種形式都能被h中的一種誘導假設h打散,則稱h能雜湊n個點
h能雜湊的最多個點的數量x,即為h的vc值,vc(h) = x
直線的vc值為3,因為4個點的情況下,在(2,2)的情況無法將ad,bc兩對對角線的點打散
而軸平行矩形的vc值為4,因為在5個點的情況下,在(4,1)的情況無法將abce與d打散
vc值度量的是假設類h的學習能力
2.3
機器學習筆記 監督學習,無監督學習,半監督學習
這個問題可以回答得很簡單 是否有監督 supervised 就看輸入資料是否有標籤 label 輸入資料有標籤,則為有監督學習,沒標籤則為無監督學習。什麼是學習 learning 學習 乙個成語就可概括 舉一反三。此處以高考為例,高考的題目在上考場前我們未必做過,但在高中三年我們做過很多很多題目,懂...
機器學習日記 監督學習 無監督學習
監督學習是指 利用一組已知類別的樣本調整 分類器的 引數,使其達到所要求效能的過程,也稱為 監督訓練或有教師學習。無監督學習 現實生活中常常會有這樣的問題 缺乏足夠的 先驗知識 因此難以人工標註類別或進行人工類別標註的成本太高。很自然地,我們希望計算機能代我們完成這些工作,或至少提供一些幫助。根據類...
機器學習中的有監督學習,無監督學習,半監督學習
在機器學習 machine learning 領域,主要有三類不同的學習方法 監督學習 supervised learning 非監督學習 unsupervised learning 半監督學習 semi supervised learning 監督學習 通過已有的一部分輸入資料與輸出資料之間的對應...