在討論生成模型和判別模型之前，我們先回顧一下機器學習要解決的兩類問題。
假設x是輸入的特徵(feature)，y是**的結果(分類是label，回歸是value)。
1.分類：p(y|x)，即根據輸入特徵求目標分類。
2.回歸：y=f(x)，即根據輸入特徵直接求值。
由於分類問題和回歸可以相互轉化，下文我們以分類為例。
判別模型直接求解條件概率p(y|x)（最終目標驅動）。
生成模型需要已知聯合概率分布p(x,y)，再根據貝葉斯公式p(
y|x)
=p(x
,y)/
p(x)
p (y
|x)=
p(x,
y)/p
(x
)可求得最終目標。因此它是根據樣本的統計學規律，
間接得進行分類。
這樣還有乙個問題：使用樣本的p(x)，資料量非常大的時候才準確。回想根據投硬幣統計正面向上次數求p(正面向上)那個實驗，要次數很大時才使得p接近1/2。
兩者之間關係生成
模型⟹判
別模型 生成模
型⟹判別
模型
參考文獻
神經網路與深度學習（吳岸城）p104-p107
生成模型和判別模型的區別
有監督機器學習方法可以分為生成方法和判別方法 常見的生成方法有混合高斯模型 樸素貝葉斯法和 馬爾科夫模型等，常見的判別方法有svm lr等 生成方法學習出的是生成模型，判別方法學習出的是判別模型。生成模型主要是求解聯合概率密度，比如我們有資料集 c，x 其中 c,x 表示其中乙個樣本，c為類別，x為...
生成模型和判別模型的區別
按照求解的方法，可以將分類演算法分為判別模型和生成模型。給定特定的向量x與標籤值y，生成模型對聯合概率p x,y 建模，判別模型對條件概率p y x 進行建模。上述含義可以這麼理解 生成模型對條件概率p x y 建模，判別模型對條件概率p y x 建模。前者可以用來根據標籤值y生成的隨機的樣本資料x...
生成模型和判別模型的區別
其實機器學習的任務是從屬性x 標記y，即求概率p y x 對於判別式模型來說求得p y x 對未見示例x，根據p y x 可以求得標記y，即可以直接判別出來，如上圖的左邊所示，實際是就是直接得到了判別邊界，所以傳統的 耳熟能詳的機器學習演算法如線性回歸模型 支援向量機svm等都是判別式模型，這些模型...