歸納是從特殊到一般的泛化過程，即從事實歸結出一般性規律。
演繹是從一般到特殊的特化過程，即基礎原理推演出具體狀況。
從樣例中學習是乙個歸納過程，亦稱為歸納學習。
歸納學習有廣義與狹義之分，廣義的歸納學習相當於從樣例中學習，狹義的歸納學習要從訓練資料中學得概念，因此稱為概念學習或概念形成。
概念學習中最基本的是布林概念學習，即分為是與不是，舉乙個簡單的例子
碗的資料集 編號
色澤裂紋
敲聲好碗1光亮
無清脆是2
陰暗無悶重否
3光亮較少清脆是4
陰暗較多渾濁否
這裡主要分好碗與不好的碗，我們的任務是把三種屬性值確定下來，來分別乙個碗是否是好碗。其中，記住訓練樣本，就是所謂的
機械學習，或稱死記硬背學習。這裡的三種屬性可以分別區不同的值，加上假設沒有好瓜這種空集，假設空間的規模大小為4*4*4+1=65.在對這個假設空間進行搜尋時，不斷刪除與正例不一致或與反例一致的假設，最終將會獲得與訓練集一致的假設，即對所有樣本都能進行判斷，這是我們學得的結果。
在現實問題中，我們會面臨很大的假設空間，其中會有一組與訓練集合相一致的假設集合，稱為
版本空間。
機器學習（周志華版）學習筆記（二）假設空間
科學推理的兩大手段 歸納 從特殊到一般的泛化過程。泛化 從樣本中學習訓練出不在樣本中的資料集的共同特徵 使其適用於整個樣本空間。演繹 從一般到特殊的特化過程。特化 與泛化相反 整體樣本的共同特徵推演出具體特徵。例子理解 編號色澤 根蒂敲聲好瓜1 青綠蜷縮濁響是 2烏黑蜷縮濁響是3 青綠硬挺清脆否 4...
機器學習 學習筆記（一）003 假設空間
我們知道歸納和演繹是科學推理的兩大基本手段，前者是從特殊到一般的泛化過程，也就是從具體的事實歸結出一般性規律 後者則是從一般到特殊的特化過程，從基礎原理推演到具體情況，例如在數學公理系統中，基於一組公理或推理規則推導出與之相恰的定理，這是演繹 而 從樣例中學習 顯然是個歸納的過程，因此亦成為 歸納學...
機器學習（假設空間與版本空間）
假設空間 所有屬性的可能取值所組成的集合，比如西瓜 色澤屬性可取 青綠，烏黑，淺白，根蒂屬性可取 蜷縮，稍蜷，硬挺，敲聲屬性可取 濁響，清脆，沉悶，以及好瓜假設不存在。即西瓜問題的假設空間大小為 4 4 4 1 65 版本空間 根據已獲取的資訊 資料集 對假設空間進行剪枝，即找到乙個與資料集匹配的假...