生成模型和判別模型

監督學習的任務就是學習乙個模型，應用這一模型，對給定的輸入**相應的輸出，這一模型的一般形式為決策函式

y=f(x)

或者條件概率分布

p(y|x)

監督學習方法有可以分為生成方法和判別方法，所學到的模型分別稱為生成模型和判別模型

生成方法由資料學習聯合分布概率p(x,y)，然後求出條件概率分布p(y|x)作為**的模型:

p(y|x) = p(x,y)/p(x)

典型的生成模型：樸素貝葉斯方法、隱馬爾可夫模型

特點：生成方法可以還原出聯合概率分布，而判別模型不行；生成方法的學習收斂速度快，即當樣本容量增加時，學到的模型可以更快地收斂於真實模型；當存在隱變數的時候，仍可以用生成學習的方法，此時判別方法不能使用

判別模型是由資料直接學習決策函式f(x)或者條件概率分布p(y|x)作為**的模型。典型的判別模型包括:k近鄰法，感知機、決策樹、lr、最大熵模型、支援向量機、提公升方法和條件隨機場

特點：直接面對**，往往學習的準確率更高；由於直接學習，可以直接對資料進行各種程度上的抽象、定義特徵並使用特徵，因此可以簡化學習問題

生成模型和判別模型

監督學習的結果是得到乙個分類或 模型，應用該模型可以對給定輸入 x 得到相應的輸出 y,即 y f x 或者p y x 根據不 同類對應 的後驗概 率判斷所 屬類別 根據模型是否表示了x 到 y的生成過程將模型分為兩種，生成方式 判別方式。生成模型p y x p x y p x 如樸素貝葉斯法 隱馬...

生成模型和判別模型

我的理解 生成模型相當統計全國男女比例，判別模型相當於抽樣分析乙個省的男女比例作為全國男女比例 假設你現在有乙個分類問題，x是特徵，y是類標記。用生成模型學習乙個聯合概率分布p x，y 而用判別模型學習乙個條件概率分布p y x 用乙個簡單的例子來說明這個這個問題。假設x就是兩個 1或2 y有兩類 ...

生成模型和判別模型

監督學習的任務是學習乙個模型，應用這一模型，對於給定的輸入 相應的輸出。這個模型的一般形式為決策函式 y f x y f x y f x 或者為條件概率分布 p y x p y x p y x 監督學習方法又可以分成生成方法和判別方法 學習到的相應模型為生成模型和判別模型。生成方法由資料學習聯合概率...