判別學習與生成學習的區別

2021-07-23 08:50:08 字數 471 閱讀 4439

參照

比如二類分類問題,不管是感知器演算法還是邏輯斯蒂回歸演算法,都是在解空間中尋找一條直線從而把兩種類別的樣例分開,對於新的樣例只要判斷在直線的哪一側即可;這種直接對問題求解的方法可以成為判別學習方法(discriminative learning algorithm)。

而生成 學習演算法則是對兩個類別分別進行建模,用新的樣例去匹配兩個模型,匹配度較 高的作為新樣例的類別,比如良性腫瘤與惡性腫瘤的分類,首先對兩個類別分別 建模,比如分別計算兩類腫瘤是否擴散的概率,計算腫瘤大小大於某個值的概率 等等;再比如狗與大象的分類,分別對狗與大象建模,比如計算體重大於某個值 的概率,鼻子長度大於某個值的概率等等。

形式化的說,判別學習方法是直接對 p(y|x)進行建模或者直接學習輸入空間 到輸出空間的對映關係,其中,x 是某類樣例的特徵,y 是某類樣例的分類標記。 而生成學習方法是對 p(x|y)(條件概率)和 p(y)(先驗概率)進行建模,然後按 照貝葉斯法則求出後驗概率 p(y|x)

判別模型與生成模型的區別

對於輸入x,類別標籤y 生成式模型估計他們的聯合概率分布p x,y 判別式模型估計條件概率分布p y x 生成式模型可以根據貝葉斯公式得到判別式模型,但是反過來不行。常見的判別式模型主要有 logistic regression svm traditional neural networks nea...

機器學習 生成模型與判別模型詳解

3.如何選擇哪種模型 生成模型 generative model,gm 先對聯合概率p x p x,p x,建模,然後再求取後驗概率模型。判別模型 discriminative model,dm 從資料集d中直接估計後驗概率模型 p 1 x p 2 x p n x p 1 x p 2 x p n x...

機器學習 生成模型和判別模型

摘要 判別式模型,就是只有乙個模型,你把測試用例往裡面一丟,label就出來了,如svm。生成式模型,有多個模型 一般有多少類就有多少個 你得把測試用例分別丟到各個模型裡面,最後比較其結果,選擇最優的作為label,如樸素貝葉斯。本文將從生成式模型與判別式模型的概念,適用環境以及具體模型三個方面分析...