前提：在此只討論監督學習的情況。
一、輸入空間
說白了，就是輸入所有可能取值的集合。可以是有限個元素的集合，也可以是整個歐式空間（歐幾里得發明的乙個特別的度量空間）。
二、輸出空間
同理，這肯定是與輸入空間相對應的。就是輸出所有可能取值的集合。同樣也是：可以是有限個元素的集合，也可以是整個歐式空間。
三、特徵空間
每個具體的輸入是乙個例項，通常由特徵向量表示。
特徵向量：
其中，a是乙個方陣，也就是行數和列數相同的矩陣；
接著說哈，這時候，所有的特徵向量存在的空間成為特徵空間。並且特徵空間的每一維對應於乙個特徵。
注：有時候假設輸入空間和特徵空間是相同的空間，但有時候也假設他們是不同的空間，把例項從輸入空間對映到特徵空間。
四、假設空間
就是包含所有可能的模型的集合。模型就是輸入空間到輸出空間的乙個對映。
由於筆者學識有限，有不夠準確的地方還望大家不吝指教，謝謝。
如果有侵權的地方一定改之。
參考：《統計學習方法》
假設空間與概念空間（版本空間）
參考部落格 首先說明概念1 版本空間 version space 是概念學習中與已知資料集一致的所有假設 hypothesis 的子集集合。即是版本空間是假設空間中於樣本滿足一致的 假設集合 是基於樣本決定的。gb 是最大泛化正假設邊界 maximally general positive hypo...
機器學習（假設空間與版本空間）
假設空間 所有屬性的可能取值所組成的集合，比如西瓜 色澤屬性可取 青綠，烏黑，淺白，根蒂屬性可取 蜷縮，稍蜷，硬挺，敲聲屬性可取 濁響，清脆，沉悶，以及好瓜假設不存在。即西瓜問題的假設空間大小為 4 4 4 1 65 版本空間 根據已獲取的資訊 資料集 對假設空間進行剪枝，即找到乙個與資料集匹配的假...
假設空間與版本空間的理解
2019.6.4 機器學習第一章，問題理解 假設空間 所有假設組成的空間。從大類上劃分，瓜有好瓜的可能，瓜有壞瓜的可能和瓜無好壞之分，即無 好瓜 這種東西。上圖中，西瓜訓練集，色澤，根蒂，敲聲，三個屬性中。1 色澤可有青綠 烏黑 淺白三種取值。2 根蒂可有蜷縮 硬挺 稍蜷三種取值。3 敲聲可有濁響 ...