機器學習之判別 生成模型小結

2021-10-01 22:05:49 字數 1116 閱讀 9012

監督學習的任務就是學習乙個模型,應用該模型對給定的輸入**相應的輸出,這個模型的一般形式為決策函式:f(x

)f(x)

f(x)

. 或者條件概率分布:p(y

∣x

)p(y∣x)

p(y∣x)

由資料學習聯合概率分布p(x

,y

)p(x,y)

p(x,y)

,然後求出條件概率分布p(y

∣x

)p(y∣x)

p(y∣x)

作為**的模型,即為生成模型:

p (y

∣x)=

p(x,

y)p(

x)

p(y∣x)=\frac

p(y∣x)

=p(x

)p(x

,y)​

之所以稱為生成方法,是因為模型表示了【給定輸入 x

xx 產生輸出 y

yy 的生成關係】。

生成模型常見模型:

參考由資料直接學習決策函式 f(x

)f(x)

f(x)

,或求解條件概率分布 p(y

∣x

)p(y∣x)

p(y∣x)

作為**模型。也可以稱為條件模型或概率模型,利用正負例的分類標籤,求得判別模型的邊緣分布,目標函式直接對應於分類準確率。

判別方法關心的是【 給定的輸入 x

xx,應該**什麼樣的輸出 y

yy】。

判別模型常見模型:

線性回歸(linear regression)

邏輯回歸(logistic regression)

支援向量機(svm)

傳統神經網路(traditional neural networks)

線性判別分析(linear discriminative analysis)

條件隨機場(conditional random field)

整合學習(boosting)

條件隨機場(conditional random fields)

生成模型:

判別模型:

機器學習 生成模型和判別模型

摘要 判別式模型,就是只有乙個模型,你把測試用例往裡面一丟,label就出來了,如svm。生成式模型,有多個模型 一般有多少類就有多少個 你得把測試用例分別丟到各個模型裡面,最後比較其結果,選擇最優的作為label,如樸素貝葉斯。本文將從生成式模型與判別式模型的概念,適用環境以及具體模型三個方面分析...

機器學習基礎 生成模型和判別模型

決策函式y f x 你輸入乙個x,它就輸出乙個y,這個y與乙個閾值比較,根據比較結果判定x屬於哪個類別。例如兩類 w1和w2 分類問題,如果y大於閾值,x就屬於類w1,如果小於閾值就屬於類w2。這樣就得到了該x對應的類別了。你輸入乙個x,它通過比較它屬於所有類的概率,然後輸出概率最大的那個作為該x對...

機器學習 生成模型與判別模型詳解

3.如何選擇哪種模型 生成模型 generative model,gm 先對聯合概率p x p x,p x,建模,然後再求取後驗概率模型。判別模型 discriminative model,dm 從資料集d中直接估計後驗概率模型 p 1 x p 2 x p n x p 1 x p 2 x p n x...