p (a
∣b)=
p(a)
p(b∣
a)p(
b)
p(a|b) = p(a)\frac
p(a∣b)
=p(a
)p(b
)p(b
∣a)p(
a∣b)
p(a|b)
p(a∣b)
:條件概率,事件b發生的條件下,事件a發生的概率,也叫a的後驗概率
p (a
)p(a)
p(a)
: 先驗概率,事先不知道任何條件時a的概率。
比如,2023年8月15號天氣是晴天的概率,這個事件太久遠了,在不知道其它的條件下,就按照生活經驗得到,先驗概率p(a
)p(a)
p(a)
=0.7,但是,通過去查詢天氣記錄,知道了2023年8月14號是雨天,這個時候再去計算p(a
)p(a)
p(a)
,就是乙個後驗概率的問題,p(a
∣b
)p(a|b)
p(a∣b)
的概率值可能就小於0.7了。
語音增強中,
我們的目標都是想要得到先驗訊雜比(訊號功率比上雜訊功率),但是一般麥克風直接錄音得到的都是帶噪訊號,無法直接獲取純淨語音頻號,這個時候其實就是得到了後驗訊雜比(帶噪語音功率比上雜訊功率),需要通過後驗訊雜比得到先驗訊雜比。
語音識別中,
p (w
∣o)=
p(w)
p(o∣
w)p(
o)
p(w|o) = p(w)\frac
p(w∣o)
=p(w
)p(o
)p(o
∣w)
已知觀測到語音序列o,要計算最有可能的詞序列w,這也是乙個後驗概率計算的問題,通過貝葉斯公式展開後,p(w
)p(w)
p(w)
是語言模型,p(o
∣w
)p(o|w)
p(o∣w)
是已知語言序列計算語音序列概率,也即是聲學模型
公式解釋
條件概率=先驗概率*調整因子
調整因子:知道一些事實後,對先驗知識進行調整
計算舉個簡單例子方便理解計算過程:
兩個碗:|1號和 | 2號 |
1號碗2號碗糖
3020
巧克力10
40動作:隨機取一顆零食
事件:拿到了一顆巧克力,
問題:這顆巧克力來自於1號碗的概率是多少
分析:事件b:拿到了巧克力
事件a:來自於1號碗
求條件概率p(a
∣b
)p(a|b)
p(a∣b)
按照貝葉斯公式展開
p (a
∣b)=
p(a)
p(b∣
a)p(
b)
p(a|b) = p(a)\frac
p(a∣b)
=p(a
)p(b
)p(b
∣a)
p (a
)p(a)
p(a)
:先驗概率,零食來自於1號碗的概率,這個時候只考慮零食來自於哪個碗,不分零食種類,那就是1號碗的零食數除以總零食數,因此p(a
)=
40100
=0.4
p(a)=\frac=0.4
p(a)=1
0040
=0.
4 p (b
∣a
)p(b|a)
p(b∣a)
:選了1號碗,並且拿到了巧克力,這個也好算,p(b
∣a)=
10(10+
30)
=0.25
p(b|a)=\frac=0.25
p(b∣a)
=(10
+30)
10=
0.25p(
b)
p(b)
p(b)
:拿到了巧克力的概率,這個也是先驗概率,沒有任何條件下,巧克力可能來自1號碗,也可能來自2號碗,那就分別算來自1號碗和來自2號碗的概率,再相加
p (b
)=10(
10+30)
∗0.4+40
(40+20
)∗(1
−0.4)=
0.5p(b) = \frac*0.4 + \frac*(1-0.4)=0.5
p(b)=(
10+3
0)10
∗0.
4+(4
0+20
)40
∗(1−
0.4)
=0.5
因此p (a
∣b)=
p(a)
p(b∣
a)p(
b)
=0.4
∗0.25
0.5=
0.2\begin p(a|b) &= p(a)\frac \\ &=0.4 * \frac \\ &=0.2 \end
p(a∣b)
=p(
a)p(
b)p(
b∣a)
=0.
4∗0.
50.2
5=0
.2這裡調整因子p(a
)p(b
∣a)p
(b
)<
1p(a)\frac<1
p(a)p(
b)p(
b∣a)
<
1,表示觀測到的事實讓先驗概率降低了,具體對應到這個例子裡就是拿到了巧克力後,再判斷零食來自1號碗的先驗概率應該更低了,看資料,2號碗的巧克力更多,那麼從2號碗拿到巧克力的概率肯定更大,因此,拿到了是巧克力,就應該將零食來自1號碗的概率調低,符合客觀感覺。同理,如果拿到的是糖,則對來自於1號碗調整因子就會大於1。
貝葉斯概率
貝斯公式和全概率公式的意思差不多相反。全概率公式是說 某件事情的發生可以由很多情況導致,那麼這件事情發生的概率,就是每件事情導致他發生的概率,乘以每件事情發生的概率。貝斯公式的意思是 某件事情還是由剛才所說的那些事件引起的,你已經知道某件事情發生了,那麼他是由哪件事情引起的呢?就可以又貝斯公式a事件...
貝葉斯概率
貝葉斯定理 bayes theorem 貝葉斯定理中的分母可以用出現在分子中的項表示 可以把貝葉斯定理的分母看做歸一化常數,用來確保公式左側的條件概率對於所有 的y 的取值之和為1。在觀察到資料之前,我們有 一些關於引數w 的假設,這以先驗概率p w 的形式給出。觀測資料 d 的效果可以 通過條件概...
條件概率,全概率公式,貝葉斯公式,樸素貝葉斯
本文摘自黃清龍等編著的 概率論與數理統計 我們以乙個例子來闡述樸素貝葉斯思想。例子來自樸素貝葉斯分類 原理 假設根據以前的經驗獲得如下的資料。然後給你乙個新的資料 身高 高 體重 中 鞋碼 中 請問這個人是男還是女?判斷是男還是女,是分類問題,記男為c1,女為c2。身高體重鞋碼是樣本x的屬性,記x1...