對於樣本x，**其類別y，即計算 p(y|x) ，簡單來說
是對聯合概率 p(x,y) 進行建模，然後利用貝葉斯公式 p(y|x) = p(x,y) / p(x) 進行計算
樸素貝葉斯
混合高斯模型
隱馬爾科夫模型(hmm)
貝葉斯網路
sigmoid belief networks
馬爾科夫隨機場(markov random fields)
深度信念網路(dbn)
直接對條件概率 p(y|x) 建模
k近鄰（knn）
線性回歸(linear regression)
邏輯斯蒂回歸(logistic regression)
神經網路(nn)
支援向量機(svm)
高斯過程(gaussian process)
條件隨機場(crf)
(來自判別式模型直接學習決策函式 y=f(x) 或者條件概率p(y|x) ，不能反映訓練資料本身的特性，但它尋找不同類別之間的最優**面，反映的是異類資料之間的差異，直接面對**往往學習準確度更高。具體來說有以下特點：
生成式模型學習的是聯合概率密度分布 p(x,y) ，可以從統計的角度表示分布的情況，能夠反映同類資料本身的相似度，它不關心到底劃分不同類的邊界在**。生成式模型的學習收斂速度更快，當樣本容量增加時，學習到的模型可以更快的收斂到真實模型，當存在隱變數時，依舊可以用生成式模型，此時判別式方法就不行了。具體來說，有以下特點：
判別式模型與生成式模型
判別式模型 該模型主要對p y x 建模，通過x來 y。在建模的過程中不需要關注聯合概率分布。只關心如何優化p y x 使得資料可分。通常，判別式模型在分類任務中的表現要好於生成式模型。但判別模型建模過程中通常為有監督的，而且難以被擴充套件成無監督的。常見的判別式模型有 logistic regre...
判別式模型與生成式模型
產生式模型 generative model 與判別式模型 discrimitive model 是分類器常遇到的概念，它們的區別在於 對於輸入x，類別標籤y 產生式模型估計它們的聯合概率分布p x,y 判別式模型估計條件概率分布p y x 產生式模型可以根據貝葉斯公式得到判別式模型，但反過來不行。...
判別式模型和生成式模型
判別式模型與生成式模型 生成式模型 generative model 與判別式模型 discrimitive model 是分類器常遇到的概念，它們的區別在於 對於輸入x，類別標籤y 1.生成式模型估計它們的聯合概率分布p x,y 2.判別式模型估計決策函式f x 或條件概率分布p y x 3.生成...