監督學習的任務就是學習乙個模型,應用該模型對給定的輸入**相應的輸出,這個模型的一般形式為決策函式:f(x
)f(x)
f(x)
. 或者條件概率分布:p(y
∣x
)p(y∣x)
p(y∣x)
由資料學習聯合概率分布p(x
,y
)p(x,y)
p(x,y)
,然後求出條件概率分布p(y
∣x
)p(y∣x)
p(y∣x)
作為**的模型,即為生成模型:
p (y
∣x)=
p(x,
y)p(
x)
p(y∣x)=\frac
p(y∣x)
=p(x
)p(x
,y)
之所以稱為生成方法,是因為模型表示了【給定輸入 x
xx 產生輸出 y
yy 的生成關係】。
生成模型常見模型:
參考由資料直接學習決策函式 f(x
)f(x)
f(x)
,或求解條件概率分布 p(y
∣x
)p(y∣x)
p(y∣x)
作為**模型。也可以稱為條件模型或概率模型,利用正負例的分類標籤,求得判別模型的邊緣分布,目標函式直接對應於分類準確率。
判別方法關心的是【 給定的輸入 x
xx,應該**什麼樣的輸出 y
yy】。
判別模型常見模型:
線性回歸(linear regression)
邏輯回歸(logistic regression)
支援向量機(svm)
傳統神經網路(traditional neural networks)
線性判別分析(linear discriminative analysis)
條件隨機場(conditional random field)
整合學習(boosting)
條件隨機場(conditional random fields)
生成模型:
判別模型:
機器學習 生成模型和判別模型
摘要 判別式模型,就是只有乙個模型,你把測試用例往裡面一丟,label就出來了,如svm。生成式模型,有多個模型 一般有多少類就有多少個 你得把測試用例分別丟到各個模型裡面,最後比較其結果,選擇最優的作為label,如樸素貝葉斯。本文將從生成式模型與判別式模型的概念,適用環境以及具體模型三個方面分析...
機器學習基礎 生成模型和判別模型
決策函式y f x 你輸入乙個x,它就輸出乙個y,這個y與乙個閾值比較,根據比較結果判定x屬於哪個類別。例如兩類 w1和w2 分類問題,如果y大於閾值,x就屬於類w1,如果小於閾值就屬於類w2。這樣就得到了該x對應的類別了。你輸入乙個x,它通過比較它屬於所有類的概率,然後輸出概率最大的那個作為該x對...
機器學習 生成模型與判別模型詳解
3.如何選擇哪種模型 生成模型 generative model,gm 先對聯合概率p x p x,p x,建模,然後再求取後驗概率模型。判別模型 discriminative model,dm 從資料集d中直接估計後驗概率模型 p 1 x p 2 x p n x p 1 x p 2 x p n x...