歸納學習是符號學習中研究得最為廣泛的一種方法。給定關於某個概念的一系列已知的 正例和反例，其任務是從中歸納出乙個一般的概念描述。歸納學習能夠獲得新的概念，創立新的規則，發現新的理論。它的一般操作是泛化（generalization)和特化（specialization)。
泛化用來擴充套件乙個假設的語義資訊，以使其能夠包含更多的正例，應用於更多的情況。特化 則是泛化的相反的操作，用於限制概念描述的應用範圍。
歸納學習旨在從大量的經驗資料中歸納抽取出一般的判定規則和模式，是從特殊情況推 匯出一般規則的學習方法。歸納學習的目標是形成合理的能解釋已知事實和預見新事實的一 般性結論。例如，通過「麻雀會飛」 「燕子會飛」等觀察事實，、可以歸納得到「鳥會飛」 這樣的一般結論。歸納學習由於依賴於經驗資料，因此又稱為經驗學習（empirical learning)， 由於歸納依賴於資料間的相似性，所以也稱為基於相似性的學習（similarity based learning) 。
在機器學習領域，一般將歸納學習問題描述為使用訓練例項以引導一般規則的搜尋問 題。全體可能例項構成例項空間，.全體可能的一般規則構成規則空間。基於規則空間和例項 空間的學習就是在規則空間中搜尋要求的規則，並從例項空間中選出一些示教的例子，以便 解決規則空間中某些規則的二義性問題。學習的過程就是完成例項空間和規則空間之間同 時、協調的搜尋，最終找到要求的規則。
依照雙空間模型建立的歸納學習系統，其執行過程可以大致描述為：首先由施教者提供 例項空間中的一些初始示教例子，由於示教例子在形式上往往和規則形式不同，因此需要對 這些例子進行轉換，解釋為規則空間接受的形式。然後利用解釋後的例子搜尋規則空由 於一般情況下不能一次從規則空間中找到要求的規則，因此需要尋找和使用一些新的示教例 子，這就是選擇例子。程式會選擇對搜尋規則空間最有用的例子，對這些示教例子重複上述 迴圈。如此迴圈多次，直到找到所要求的例子。在歸納學習中，常用的推理技術包括泛化、 特化、轉換以及知識表示的修正和提煉等。
例項空間所要考慮的主要問題包括兩個，乙個是示教例子的質量，另乙個是例項空間的搜尋方法。解釋示教例子的目的是從例子中提取出用於搜尋規則空 間的資訊，也就是把示教例子變換成易於進行符號歸納的形式。選擇例子就是確定需要哪些 新的例子和怎樣得到這些例子。規則空間的目的就是規定表示規則的各種算符和術語，以描述和表示規則空間中的規則，與之相關的兩個問題是對規則空間的要求和規則空間的搜尋方 法。對$則空間的要求主要包括三個方面：規則表示方法應適合歸納推理、規則的表示與例 子的表示應一致以及規則空間應包含要求的規則。規則空間的搜尋方法包括資料驅動的方 法、規則驅動的方法和模型驅動的方法。資料驅動的方法適合於逐步接受示教例子的學習過 程，在後面介紹的變型空間方法就是一種資料驅動的學習方法，模型驅動方法通過檢查全部 例子來測試和放棄假設。
歸納學習方法可以劃分為單概念學習和多概念學習兩類。這裡概念指用某種描述語言表 示的謂詞，當應用於概念的正例項時，謂詞為真，應用於負例項時為假。從而概念謂詞將實 例空間劃分為正、反兩個子集。對於單概念學習，學習的目的是從概念空間£即規則空間） 中尋找某個與例項空間一致的概念；對於多概念學習任務，是從概念空間中找出若干概念描 述，對於每乙個概念描述，例項空間中均有相應的空間與之對應。
典型的單概念學習系統包括公尺切爾（mitchell t)的基於資料驅動的變型空間法、昆蘭 (quinlan jr)的id3方法、狄特利希（dietterich t g)和公尺哈爾斯基michalski r s)提出 的基於模型驅動的induce演算法。典型的多概念學習方法和系統有公尺哈爾新基的aq11、den-dral和am程式等。多概念學習任務可以劃分成多個單概念學習任務來完成，例如，aq11 對每一概念的學習均採用induce演算法來實現。
什麼是遷移學習，為什麼是資料科學家所需擁有的關鍵技能?
機器學習系統主要由哪幾部分組成，有哪些重要問題需要研究？
在機器學習領域，主要的學習方式有哪幾種？
學習機器學習需要具備怎樣的數學水平？
什麼是人工智慧、資料探勘、機器學習和深度學習，它們之間有什麼關係？
聚焦多智時代，引領智慧型變革，
多智時代
為人工智慧科譜吶喊！
機器學習（歸納偏好）
歸納偏好 inductive bias 機器學習演算法在學習過程中對某種型別假設的偏好。例如 演算法喜歡盡可能特殊的模型，則會選擇 好瓜 色澤 根蒂 蜷縮 敲聲 渾濁 如果演算法盡可能一般的模型，則會選擇 好瓜 色澤 根蒂 蜷縮 敲聲 通俗來講 即在樣本空間中存在多種假設，演算法選擇某種模型假設的偏...
機器學習相關領域
資料探勘 資料探勘 機器學習 資料庫。資料探勘僅僅是一種思考方式，告訴我們應該嘗試從資料中挖掘出知識，但不是每個資料都能挖掘出金子的，不要神話它。乙個系統絕對不會因為上了乙個資料探勘模組就變得無所不能，恰恰相反，乙個擁有資料探勘思維的人員才是關鍵，而且他還必須對資料有深刻的認識，這樣才可能從資料中匯...
ML 歸納學習與機器學習概述
ok,在開始正文前，我們先來了解一下machine learning在整個ai體系下的關係。機器學習是人工智慧學科的乙個子問題，是歸納學習的一類特殊問題。具體關係可以看一下下面這個圖。在了解機器學習前，你一定對那四個小一號的字很感興趣，那麼什麼是歸納學習呢？為什麼說機器學習是歸納學習的特例呢？我們先...