如何理解貝葉斯這個重要的概念?到底什麼是貝葉斯
bayes是用於推理的,而推理講究證據,所以貝葉斯的推理過程就是通過不斷的收集證據e來增強對假設事件h的信心。換而言之這很類似偵探辦案的例子,假設**是h,福爾摩斯通過不斷蒐集證據,增強自己認定**就是a的信心,這個過程就是貝葉斯。 p(
h|e)
=p(h
)⋅p(
e|h)
p(e)
p (h
|e)=
p(h)
⋅p(e
|h)p
(e
)貝葉斯公式推導:p(
h|e)
=p(h
,e)p
(e)=
p(h)
⋅p(e
|h)p
(b) p(h
|e)=
p(h,
e)p(
e)=p
(h)⋅
p(e|
h)p(
b)
貝葉斯公式和兩個概率有關係: 先驗概率(基礎概率), 後驗概率(觀察到的概率)
貝葉斯的一些小概念
p(h) 是先驗概率。就是沒有任何條件限定下h發生的概率。比如**殺了個人,但是沒有任何證據。
p(h|e)叫後驗概率。就是通過貝葉斯計算最終得到的比較科學的概率。
p(e|h) 叫條件似然,也稱之為似然概率,似然就是時間發生的可能性。
- 物以類聚,人以群分,如果我們把h與~h看作兩類人,比如男人和女人,那麼這兩類人針對同一件事情會有不同的看法和傾向,比如男人可能更喜歡踢足球,而女人可能更喜歡逛街,似然概率描述的就是這兩類不同的人針對事件ei
e
i表現出的傾向概率
- 由於p(e|h)與p(e|~h)是針對兩類不同的人的概率,因此它們之間並不互斥, p(
e|h)
+p(e
|¬h)
≠1p (e
|h)+
p(e|
¬h)≠
1p(e)稱之為整體似然,在所有情況下證據e發生的概率,不管事件h發生還是不發生。因為它起到歸一化的作用,所以又稱為歸一化常量(normalizing constant)。
有關貝葉斯的例子
某城市發生了一起汽車撞人逃跑事件,該城市只有兩種顏色的車,藍色15%,綠色85%,事發時有乙個人在現場看見了,他指證是藍車。但是根據專家在現場分析,當時那種條件能看正確的可能性是80%。那麼,肇事的車是藍車的概率到底是多少?
令b為城市車為藍色車事件, g為城市車為綠色車事件,e為觀察到車子為藍色的事件,不管有沒有人在看到了,則有:
- p(b)就是先驗概率
- p(e)就是傳說中的整體似然,p(e|b)就是條件似然。
- p(b|e)就是我們要求的在有證人的情況下,肇事車為藍色的概率,也就是後驗概率。
那麼有: p(
b)=0.15;p
(g)=
0.85
p (b
)=
0.15;p
(g)=
0.85
當沒有任何人看到是什麼顏色的時候,只能盲猜,所以為藍色的概率(先驗概率)是: p(
b)=0.15
p (b
)=
0.15
當有人看到了肇事車是藍色的,這時候要分成兩種情況,一種是肇事車確實是藍色的,一種是肇事車不是藍色的,所以有: p(
e,b)
=p(b
)p(e
|b)=
0.15
∗0.8
=0.12
p (e
,b)=
p(b)
p(e|
b)
=0.15
∗0.8
=0.12
p(e,¬b)
=p(¬
b)p(
e|¬b
)=0.85∗(
1−0.8)
=0.17
p (e
,¬b)
=p(¬
b)p(
e|¬b
)=
0.85∗(
1−
0.8)
=0.17
所以可以得出: p(
e)=p
(e,b
)+p(
e,¬b
)=0.12
+0.17
=0.29
p (e
)=p(
e,b)
+p(e
,¬b)
=0.12
+0.17
=0.29
那麼後驗概率為: p(
b|e)
=p(e
,b)p
(e)=
0.12
0.29
=0.41
p (b
|e)=
p(e,
b)p(
e)
=0.12
0.29
=0.41
可見通過有人看到這個證據,增強了我們對肇事車輛時藍色車的信心。
參考:怎麼簡單理解貝葉斯公式?
機器學習-貝葉斯分類
樸素貝葉斯演算法 & 應用例項
深度學習入門-貝葉斯規則
lixianmin/cloud
貝葉斯 02 理解貝葉斯
首先簡略回顧一下,全概率和貝葉斯。其實這兩者是密不可分的,互相之間是乙個順序問題,全概率反過去就是貝葉斯,這類問題只需要區分清楚是知道原因求結果,還是知道結果尋原因就可以了。全概率公式是計算由諸多原因而導致的某件複雜事情發生的概率,而貝葉斯就是在這件複雜的事情已經發生的前提下,去尋找諸多原因中,某一...
深入理解線性模型(三) 基於貝葉斯的估計
目錄6.結語 在前兩篇,我們分別從損失函式以及似然函式的角度來窺探了線性模型。接下來,繼續從乙個新的角度 貝葉斯統計來討論一下線性模型。談起貝葉斯,就不得不提先驗概率和後驗概率。先驗概率通常是通過歷史或者經驗得來的,而後驗概率則是綜合利用了先驗資訊和樣本資訊。因此,貝葉斯統計的出發點也是基於後驗概率...
貝葉斯的理解
用概率思考人生 問題 事件a發生後事件b發生的概率與事件b發生後事件a發生的概率這兩者有什麼關係 呢?這兩者之間存在確定的關係,貝葉斯公式描述的這是這兩者之間的確定關係 公式如下 p a b p ab p b p b a p a p b p b a p ab p a p a b p b p a 當p...