我個人對於假設空間的理解，就是乙個類似於樹的結構，由根到樹葉每個節點都代表乙個集合，而每個孩子都是父節點的乙個子集，所有的兒子節點的並集就是父節點的集合。所以，整棵樹的根就是（屬性a=*，屬性b=*...屬性n=*）的全集。
相對於假設空間，版本空間則是假設空間的一部分，它包含的是刪除所有假設空間中與正例不一致的節點後得到的子樹，
而不是所有包
含正例的節點所形成的子樹，這也就是為什麼一般版本空間不會包含樹的根節點。
總的來說，假設空間列出所有可能性，而通過版本空間，獲得所有不會包含訓練樣本中反例的集合，從而獲得所有可能的期望集。
機器學習筆記（二）假設空間
歸納是從特殊到一般的泛化過程，即從事實歸結出一般性規律。演繹是從一般到特殊的特化過程，即基礎原理推演出具體狀況。從樣例中學習是乙個歸納過程，亦稱為歸納學習。歸納學習有廣義與狹義之分，廣義的歸納學習相當於從樣例中學習，狹義的歸納學習要從訓練資料中學得概念，因此稱為概念學習或概念形成。概念學習中最基本的...
機器學習 學習筆記（一）003 假設空間
我們知道歸納和演繹是科學推理的兩大基本手段，前者是從特殊到一般的泛化過程，也就是從具體的事實歸結出一般性規律 後者則是從一般到特殊的特化過程，從基礎原理推演到具體情況，例如在數學公理系統中，基於一組公理或推理規則推導出與之相恰的定理，這是演繹 而 從樣例中學習 顯然是個歸納的過程，因此亦成為 歸納學...
機器學習（西瓜書）學習筆記2 假設空間和歸納偏好
首先，有兩個概念 歸納和演繹。簡言之，歸納就是特殊推一般，演繹就是一般推特殊。機器學習是從大量樣本訓練，再利用測試資料進行測試。很顯然，機器學習屬於歸納的過程，亦稱 歸納學習。以西瓜舉例，西瓜成熟與否和西瓜的色澤 根蒂 敲聲這三個屬性有關係，色澤的屬性值 烏黑 青綠。根蒂的屬性值 蜷縮 硬挺。敲聲的...