判別式模型和生成式模型

生成式模型(generative model)與判別式模型(discrimitive model)的區別在於：

對於輸入x，類別標籤y：生成式模型估計它們的聯合概率分布p(x,y) ；判別式模型估計條件概率分布p(y|x)

判別式模型常見的主要有：

邏輯回歸 logistic regression

支援向量機 svm

神經網路 nn

傳統神經網路 taditional neural networks

鄰近取樣 nearest neighbor

條件隨機場 crf

線性判別分析 linear discriminant analysis

提公升演算法 boosting

線性回歸 linear regression

高斯過程 gaussian process

分類回歸樹 classification and regression tree(cart)

生成式模型常見的主要有：

高斯 gaussians

樸素貝葉斯 ***** bayes

混合多項式 mixtures of multinomials

多專家模型 mixtures of experts

隱馬爾科夫模型 hmm

s型信念網路 sigmoidal belief networks

貝葉斯網路 bayesian networks

馬爾科夫隨機場 markov random fields

潛在狄利克雷分配 latent dirichlet allocation(lda)

k近鄰 knn

深度信念網路 dbn

判別式模型和生成式模型

判別式模型與生成式模型 生成式模型 generative model 與判別式模型 discrimitive model 是分類器常遇到的概念，它們的區別在於 對於輸入x，類別標籤y 1.生成式模型估計它們的聯合概率分布p x,y 2.判別式模型估計決策函式f x 或條件概率分布p y x 3.生成...

判別式模型和生成式模型

區別在於 對於輸入x，類別標籤y 生成式模型估計它們的聯合概率分布p x,y 判別式模型估計條件概率分布p y x 生成式模型可以根據貝葉斯公式得到判別式模型，但反過來不行。判別式模型常見的主要有 linear regression 線性回歸 logistic regression 最大熵模型 sv...

判別式模型和生成式模型

判別式模型 discriminative model 直接對條件概率p y x 進行建模，常見判 別模型有 線性回歸 決策樹 支援向量機svm k近鄰 神經網路等 生成式模型 generative model 對聯合分布概率p x,y 進行建模，常見生成式 模型有 隱馬爾可夫模型hmm 樸素貝葉斯模...