生成模型和判別模型

監督學習的任務是學習乙個模型，應用這一模型，對於給定的輸入**相應的輸出。這個模型的一般形式為決策函式：y=f

(x

)y = f(x)

y=f(x)

或者為條件概率分布：p(y

∣x

)p(y|x)

p(y∣x)

監督學習方法又可以分成生成方法和判別方法；學習到的相應模型為生成模型和判別模型。

生成方法由資料學習聯合概率分布p(x

,y

)p(x,y)

p(x,y)

,然後求出條件概率分布p(y

∣x

)p(y|x)

p(y∣x)

作為**模型，即生成模型：p(y

∣x)=

p(x,

y)p(

x)

p(y|x)=\frac

p(y∣x)

=p(x

)p(x

,y)​

之所以稱為生成方法，是因為模型表示了給定輸入x

xx產生輸出y

yy的生成關係。樸素貝葉斯法和隱馬爾可夫是典型的生成模型。

判別方法由資料直接學習決策函式f(x

)f(x)

f(x)

或者條件概率分布p(y

∣x

)p(y|x)

p(y∣x)

作為**的模型，即判別模型。判別方法關心的是對給定的輸入x

xx，應該**什麼樣的輸出y

yy。典型判別模型有：k

kk近鄰、感知機、決策樹、邏輯斯諦回歸模型、最大熵模型、支援向量機、提公升方法和條件隨機場。

生成模型和判別模型

監督學習的結果是得到乙個分類或 模型，應用該模型可以對給定輸入 x 得到相應的輸出 y,即 y f x 或者p y x 根據不 同類對應 的後驗概 率判斷所 屬類別 根據模型是否表示了x 到 y的生成過程將模型分為兩種，生成方式 判別方式。生成模型p y x p x y p x 如樸素貝葉斯法 隱馬...

生成模型和判別模型

我的理解 生成模型相當統計全國男女比例，判別模型相當於抽樣分析乙個省的男女比例作為全國男女比例 假設你現在有乙個分類問題，x是特徵，y是類標記。用生成模型學習乙個聯合概率分布p x，y 而用判別模型學習乙個條件概率分布p y x 用乙個簡單的例子來說明這個這個問題。假設x就是兩個 1或2 y有兩類 ...

生成模型和判別模型

監督學習的任務就是學習乙個模型，應用這一模型，對給定的輸入 相應的輸出，這一模型的一般形式為決策函式 y f x 或者條件概率分布 p y x 監督學習方法有可以分為生成方法和判別方法，所學到的模型分別稱為生成模型和判別模型 生成方法由資料學習聯合分布概率p x,y 然後求出條件概率分布p y x ...