常見生成式模型與判別式模型

生成式模型 p(x,y)

對聯合概率進行建模，從統計的角度表示資料的分布情況，刻畫資料是如何生成的，收斂速度快。

• 1. 判別式分析

• 2. 樸素貝葉斯native bayes

• 3. 混合高斯型gaussians

• 4. k近鄰knn

• 5. 隱馬爾科夫模型hmm

• 6. 貝葉斯網路

• 7. sigmoid 信念網

• 8. 馬爾科夫隨機場markov random fields

• 9. 深度信念網路dbn

• 10. 隱含狄利克雷分布簡稱lda(latent dirichlet allocation)

• 11. 多專家模型（the mixture of experts model）

• 12.受限玻爾茲曼機（ rbm）

• 13.深度玻爾茲曼機（dbm）

• 14.廣義除噪自編碼器（gda）

• 15.生成對抗網路（gan）

• 16.變分自編碼器（vae）

• 17.自回歸模型（ar）

判別式模型 p(y|x)

對條件概率p(y|x)進行建模，不關心資料如何生成，主要是尋找不同類別之間的最優分類面。

• 1. 線性回歸linear regression

• 2. 邏輯回歸logic regression

• 3. 神經網路nn

• 4. 支援向量機svm

• 5. 高斯過程gaussian process

• 6. 條件隨機場crf

• 7. 決策樹（cart）

• 8. boosting

• 9.感知機 (線性分類模型)

• 10.k近鄰法

• 11.傳統神經網路（cnn,rnn）

• 12.最大熵模型（me）

• 13.區分度訓練

常見生成式模型與判別式模型

生成式模型 p x,y 對聯合概率進行建模，從統計的角度表示資料的分布情況，刻畫資料是如何生成的，收斂速度快。1.判別式分析 2.樸素貝葉斯native bayes 3.混合高斯型gaussians 4.k近鄰knn 5.隱馬爾科夫模型hmm 6.貝葉斯網路 7.sigmoid 信念網 8.馬爾科夫...

判別式模型與生成式模型

判別式模型 該模型主要對p y x 建模，通過x來 y。在建模的過程中不需要關注聯合概率分布。只關心如何優化p y x 使得資料可分。通常，判別式模型在分類任務中的表現要好於生成式模型。但判別模型建模過程中通常為有監督的，而且難以被擴充套件成無監督的。常見的判別式模型有 logistic regre...

判別式模型與生成式模型

產生式模型 generative model 與判別式模型 discrimitive model 是分類器常遇到的概念，它們的區別在於 對於輸入x，類別標籤y 產生式模型估計它們的聯合概率分布p x,y 判別式模型估計條件概率分布p y x 產生式模型可以根據貝葉斯公式得到判別式模型，但反過來不行。...