2 1 閒聊貝葉斯公式

2021-08-28 17:52:57 字數 1722 閱讀 7085

貝葉斯公式我過去一直都挺眼熟,p(a

∣b)∗

p(b)

=p(b

∣a)∗

p(a)

p(a|b)*p(b) = p(b|a)*p(a)

p(a∣b)

∗p(b

)=p(

b∣a)

∗p(a

),這麼簡單的公式到底要怎樣利用,我可是一直沒弄明白過,以至於每當別人問我貝葉斯公式是什麼時,我都不敢說知道。接下來我們就要好好弄清楚貝葉斯公式的應用。

現在我們有這樣乙個問題:已知一批樣本,分別屬於a和b兩個類別,並且兩種類別的概率已知,先從中隨機拿出乙個樣本,並且觀察到該樣本有特徵x

xx,問該樣本的類別為a和b的概率分別是多少?

上述問題可以採用貝葉斯公式解決。

概率論中的貝葉斯公式如下:

p (w

i∣x)

=p(x

∣wi)

p(wi

)p(x

)=p(

x∣wi

)p(w

i)∑j

=1np

(x∣w

j)p(

wj)p(w_i|x) = \frac=\frac^n p(x|w_j)p(w_j)}

p(wi​∣

x)=p

(x)p

(x∣w

i​)p

(wi​

)​=∑

j=1n

​p(x

∣wj​

)p(w

j​)p

(x∣w

i​)p

(wi​

)​其中w

iw_i

wi​代表樣本的類別i

ii,x

xx代表樣本特徵。其中p(w

i)p(w_i)

p(wi​)

稱為先驗概率(priori probability: 指在沒有對樣本進行任何觀測情況下的概率);p(w

i∣x)

p(w_i|x)

p(wi​∣

x)稱為後驗概率(posterior probability: 指在已知特徵x

xx情況下樣本屬於各類的概率);p(x

)p(x)

p(x)

稱作特徵x

xx的總體密度;p(x

∣wi)

p(x|w_i)

p(x∣wi

​)稱作類條件密度,它描述了各類樣本的特徵分布。

上述問題其實是讓我們求解各種類別的後驗概率,由於先驗概率p(w

)p(w)

p(w)

是已知的,與當前樣本無關,並且p(x

∣w)p(x|w)

p(x∣w)

項可以設法根據一定的已知樣本(訓練樣本)進行估計,因此後驗概率$p(w_i|x) $的求解變得很簡單了。

以下有乙個很簡單貝葉斯公式應用例項:

最小錯誤率貝葉斯決策:分別求解各類決策的後驗概率,選擇後驗概率最大的決策。

由於不同情況的分類錯誤所帶來的損失是不同的。

最小風險貝葉斯決策:分別將各類決策的後驗概率與決策損失相乘,選擇風險最小的決策。(最小錯誤率貝葉斯決策可看作一類特殊的最小風險貝葉斯決策)

貝葉斯公式

貝葉斯定理由 英國數學家貝葉斯 thomas bayes 1702 1763 發展,用來描述兩個條件 概率之間的關係,比如 p a b 和 p b a 按照 乘法法則 p a b p a p b a p b p a b 可以立刻匯出 如上公式也可變形為 p b a p a b p b p a 例如 ...

貝葉斯公式

貝葉斯定理由英國 數學家貝葉斯 thomas bayes 1702 1763 發展,用來描述兩個條件 概率之間的關係,比如 p a b 和 p b a 按照乘法法則 p a b p a p b a p b p a b 可以立刻匯出 貝葉斯定理公式 p a b p b a p a p b 如上公式也可...

貝葉斯公式

是基於樸素貝葉斯定理分類器,其計算過程是在訓練階段的時候,先計算每個分類的先驗概率p a 和各個分類下面特徵屬性的條件概率p b a 的過程 反推特徵 分類的條件概率 a b 取最大概率作為分類結果。貝葉斯定理 已知a 分類 的條件概率,b 某個特徵 在a發生後的條件概率,求a在b發生後的條件概率 ...