生成模型VS判別模型

監督學習方法可以分為生成方法和判別方法，所學習得到的模型分別為生成模型和判別模型。

生成方法由資料學習聯合概率分布p(x,y)，然後求出條件概率分布p(y|x)作為**的模型，即生成模型：

典型的生成模型有樸素貝葉斯，隱馬爾可夫模型

因為模型表示了給定輸入x和產生輸出y的生成關係，即聯合概率分布p(x,y)，擁有一組生成新資料的能力。

判別方法由資料直接學習決策函式f(x)或者條件概率分布p(y|x)作為**的模型。

典型的判別模型有knn，決策樹，感知機，邏輯回歸，最大熵，支援向量機，條件隨機場

生成模型可以判別，判別模型不能生成資料。

生成模型可以還原出聯合概率分布，而判別模型不能。

生成模型收斂速度更快。

當存在隱變數時，可以使用生成模型，不能使用判別模型。

生成模型在做**的時候準確率往往較低。

假設在乙個大學裡，有男有女，並且不同性別的人都有自己的穿衣打扮的風格。

■ 當有乙個【長頭髮，穿短裙】的人過來的時候，生成模型和判別模型都可以對這個人的性別進行**，並且大概率這兩個模型都會將這個人**為【女性】。這就說明了生成模型和判別模型都可以做判別（**）。

但是**方法不一樣。

生成模型分別根據男性和女性特徵學習男性模型和女性模型，然後通過提取這個人的特徵，放到男性/女性模型中，將概率最大的模型類別作為其類別。

判別模型從歷史資料中學習得到模型，然後通過提取這個人的特徵，**出這個人是男性/女性的概率。

■ 假設每乙個人都是乙個資料，如果想按照大學原本的分布增加一些學生的時候，生成模型可以做到，因為他深諳該大學裡男女比例以及他們穿衣打扮的資訊；而判別模型做不到。這就說明了生成模型掌握著整體資料的分布。

機器學習面試題001：生成模型與判別模型 

機器學習「判定模型」和「生成模型」有什麼區別？ - politer的回答 - 知

生成模型 VS 判別模型

判別模型 由資料直接學習決策函式y f x 或者條件概率分布p y x 作為 的模型，即判別模型。基本思想是有限樣本條件下建立判別函式，不考慮樣本的產生模型，直接研究 模型。典型的判別模型包括k近鄰，感知級，決策樹，支援向量機等。生成模型 由資料學習聯合概率密度分布p x,y 然後求出條件概率分布p...

生成模型 VS 判別模型

監督學習的任務就是學習乙個模型，應用這一模型，對給定的輸入 相應的輸出，這一模型一般形式為決策函式 y f x y f left x right y f x 或者條件概率分布 p y x p left y mid x right p y x f x,y y f left x y right y f ...

生成模型 VS 判別模型

所謂概率模型,顧名思義,就是將學習任務歸結於計算變數的概率分布的模型。概率模型非常重要。在生活中,我們經常會根據一些已經觀察到的現象來推測和估計未知的東西 這種需求,恰恰是概率模型的推斷 inference 行為所做的事情。推斷 inference 的本質是 利用可觀測變數,來推測未知變數的條件分布...