判別式模型和生成式模型

# 判別式模型與生成式模型

生成式模型(generative model)與判別式模型(discrimitive model)是分類器常遇到的概念，它們的區別在於：（對於輸入x，類別標籤y）

1. 生成式模型估計它們的聯合概率分布p(x,y)

2. 判別式模型估計決策函式f(x)或條件概率分布p(y|x)

3. 生成式式模型可以根據貝葉斯公式得到判別式模型，但反過來不行

## 生成式模型

1. 判別式分析

2. 樸素貝葉斯native bayes

4. k近鄰knn

5. 隱馬爾科夫模型hmm

6. 貝葉斯網路

7. sigmoid belief networks

8. 馬爾科夫隨機場markov random fields

9. 深度信念網路dbn

10. 隱含狄利克雷分布簡稱lda(latent dirichlet allocation)

11. 多專家模型（the mixture of experts model）

## 判別式模型

1. 線性回歸linear regression

4. 支援向量機svm

5. 高斯過程gaussian process

6. 條件隨機場crf

7. cart(classification and regression tree)

8. boosting

判別式模型和生成式模型

生成式模型 generative model 與判別式模型 discrimitive model 的區別在於 對於輸入x，類別標籤y 生成式模型估計它們的聯合概率分布p x,y 判別式模型估計條件概率分布p y x 判別式模型常見的主要有 邏輯回歸 logistic regression 支援向量機...

判別式模型和生成式模型

區別在於 對於輸入x，類別標籤y 生成式模型估計它們的聯合概率分布p x,y 判別式模型估計條件概率分布p y x 生成式模型可以根據貝葉斯公式得到判別式模型，但反過來不行。判別式模型常見的主要有 linear regression 線性回歸 logistic regression 最大熵模型 sv...

判別式模型和生成式模型

判別式模型 discriminative model 直接對條件概率p y x 進行建模，常見判 別模型有 線性回歸 決策樹 支援向量機svm k近鄰 神經網路等 生成式模型 generative model 對聯合分布概率p x,y 進行建模，常見生成式 模型有 隱馬爾可夫模型hmm 樸素貝葉斯模...