貝葉斯公式我過去一直都挺眼熟,p(a
∣b)∗
p(b)
=p(b
∣a)∗
p(a)
p(a|b)*p(b) = p(b|a)*p(a)
p(a∣b)
∗p(b
)=p(
b∣a)
∗p(a
),這麼簡單的公式到底要怎樣利用,我可是一直沒弄明白過,以至於每當別人問我貝葉斯公式是什麼時,我都不敢說知道。接下來我們就要好好弄清楚貝葉斯公式的應用。
現在我們有這樣乙個問題:已知一批樣本,分別屬於a和b兩個類別,並且兩種類別的概率已知,先從中隨機拿出乙個樣本,並且觀察到該樣本有特徵x
xx,問該樣本的類別為a和b的概率分別是多少?
上述問題可以採用貝葉斯公式解決。
概率論中的貝葉斯公式如下:
p (w
i∣x)
=p(x
∣wi)
p(wi
)p(x
)=p(
x∣wi
)p(w
i)∑j
=1np
(x∣w
j)p(
wj)p(w_i|x) = \frac=\frac^n p(x|w_j)p(w_j)}
p(wi∣
x)=p
(x)p
(x∣w
i)p
(wi
)=∑
j=1n
p(x
∣wj
)p(w
j)p
(x∣w
i)p
(wi
)其中w
iw_i
wi代表樣本的類別i
ii,x
xx代表樣本特徵。其中p(w
i)p(w_i)
p(wi)
稱為先驗概率(priori probability: 指在沒有對樣本進行任何觀測情況下的概率);p(w
i∣x)
p(w_i|x)
p(wi∣
x)稱為後驗概率(posterior probability: 指在已知特徵x
xx情況下樣本屬於各類的概率);p(x
)p(x)
p(x)
稱作特徵x
xx的總體密度;p(x
∣wi)
p(x|w_i)
p(x∣wi
)稱作類條件密度,它描述了各類樣本的特徵分布。
上述問題其實是讓我們求解各種類別的後驗概率,由於先驗概率p(w
)p(w)
p(w)
是已知的,與當前樣本無關,並且p(x
∣w)p(x|w)
p(x∣w)
項可以設法根據一定的已知樣本(訓練樣本)進行估計,因此後驗概率$p(w_i|x) $的求解變得很簡單了。
以下有乙個很簡單貝葉斯公式應用例項:
最小錯誤率貝葉斯決策:分別求解各類決策的後驗概率,選擇後驗概率最大的決策。
由於不同情況的分類錯誤所帶來的損失是不同的。
最小風險貝葉斯決策:分別將各類決策的後驗概率與決策損失相乘,選擇風險最小的決策。(最小錯誤率貝葉斯決策可看作一類特殊的最小風險貝葉斯決策)
貝葉斯公式
貝葉斯定理由 英國數學家貝葉斯 thomas bayes 1702 1763 發展,用來描述兩個條件 概率之間的關係,比如 p a b 和 p b a 按照 乘法法則 p a b p a p b a p b p a b 可以立刻匯出 如上公式也可變形為 p b a p a b p b p a 例如 ...
貝葉斯公式
貝葉斯定理由英國 數學家貝葉斯 thomas bayes 1702 1763 發展,用來描述兩個條件 概率之間的關係,比如 p a b 和 p b a 按照乘法法則 p a b p a p b a p b p a b 可以立刻匯出 貝葉斯定理公式 p a b p b a p a p b 如上公式也可...
貝葉斯公式
是基於樸素貝葉斯定理分類器,其計算過程是在訓練階段的時候,先計算每個分類的先驗概率p a 和各個分類下面特徵屬性的條件概率p b a 的過程 反推特徵 分類的條件概率 a b 取最大概率作為分類結果。貝葉斯定理 已知a 分類 的條件概率,b 某個特徵 在a發生後的條件概率,求a在b發生後的條件概率 ...