關於條件概率,全概率公式,貝葉斯公式

2021-06-13 12:42:50 字數 2360 閱讀 7845

今天看到關於貝葉斯公式的乙個比較全面的應用,但是在看的時候突然發現自己以前對於貝葉斯公式的記憶已經模糊,故從頭開始把概率論這些基本的公式全部重新學習一般,並記錄下來,希望能以乙個淺顯易懂的方式表達出來。下面直接進入正題。

首先說條件概率,我們知道現實中一件事情的發生可能會在不同的情況下,那麼在某一種特定情況下事件發生的概率即為條件概率。比如乙個城市中有n

個人,其中女性為m個,在這個城市中色盲一共有x個,而在這些色盲中女性有y個,那麼我們令事件 a= ,b=,則有p(a)=m/n, p(b)=x/n,那麼我們就知道即是女性又是色盲的人的概率為p(ab) = y/n,那麼在女性中色盲的人的概率就為(記為p(b|a))p(b|a) = y/m = p(ab)/p(a),即為在女性條件下為色盲的概率。其實通俗的理解就是ab事件共同發生的概率比上a事件發生的概率就是b事件在a事件條件下發生的概率。此時就是把a事件當做全集處理,要把a事件發生的概率量化到1,相應的ab事件發生的概率也要按比率調整。

有了條件概率,我們就可以計算全概率了。現實中,某種事情的發生可能在不同的情況下,我們繼續上面的例子,比如說乙個城市中一共有n個人,男性x個,女性y個,其中在男性中是色盲的有a個,在女性中是色盲的有b個,那麼我們想知道在整個城市中任取乙個人是色盲的概率是多少,我們記p(a)=,p(b)=,p(c)=,p(a|b) = ,p(a|c) = ,那麼我們就有p(b) = x /n, p(c) = y/n,p(a|b) = a/x ,p(a|c) = b/y ,p(a) = (a+b)/(x+y) = (a+b)/n  = a/x*x/n + b/y*y/n =p(a|b)* 

p(b) + p(a|c) *p(c);於是我們就可以得出全概率公式的一般定義:

其實通俗的解釋就是,乙個事件a在很多情況下都會發生,那麼我們想知道a在總體的事件下a發生的概率,但是呢我們又不能直接得到a在總體事件中的概率,但是我們知道在所有會發生a事件的子事件中a發生的概率,並且知道子事件發生的概率,那麼加起來就是了。

有了全概率公式,我們就能得出乙個事件a發生的總體的概率,然後再實際生活中,我們有時候不僅僅想要知道這個事情發生的整體概率,我們繼續上面的例子,比如說我們知道乙個人為色盲,但是我們不知道這個人是男的還是女的,那麼我們怎麼計算呢?或許這個問題貌似在現實生活中不太現實,那我們引用托馬斯·貝葉斯(thomas bayes)同學的

一段 wikipedia 上的簡介:(摘自劉未鵬的部落格

這就用到了貝葉斯公式求解,繼續上面的全概率公式,在《

all of statistics》這本書中,給出了如下的定義:

繼續色盲的那個例子,那麼這個公式中b就代表為已知乙個人現在為色盲,a一共有兩種情況,a1為男性,a2為女性,p(a1|b)即為已知乙個色盲那麼他為男性的概率是多大,p(a2|b)即為已知乙個色盲她為女性的概率。其中p(b)表示為任取乙個人其為色盲的概率,我們稱之為先驗概率,也就是我們可以通過一些統計或者計算的方法計算出來的乙個概率,而p(ai|b)則稱為後驗概率,是需要我們去計算的,估計得概率。其實,所謂後驗概率即為在事情已經發生的情況下我們要求其在某個因素下導致這個事情發生的概率。

關於先驗概率與後驗概率的區別,我覺得所謂先驗就是我們在沒有事情發生之前推測一件事情發生的概率,而後驗概率則是已經有個事情或者因素、條件發生的情況下一件事情發生的概率,故稱為後驗。

下面對於貝葉斯公式應用舉乙個從別處抄來的小例子

將郵件分為三類,a1=spam,a2=low priority ,a3=high priority.從以前的經驗中得到先驗概率p(a1)=0.7,p(a2)=0.2,p(a3)=0.1.這三個的概率之和一定為1。設事件b為郵件中包含單詞free(為啥是free,我也不知道,只是舉個例子不要當真,也可以是democracy),我們可以古典概率模型計算p(b|a1)=0.9,p(b|a2)=0.01,p(b|a3)=0.01.當然這三個的和可能不為1,你知道原因麼?言歸正傳,某天我收到一封郵件,發件人來自公尺國這個頭號資本主義國家,這不是重點,重點是這封郵件包含了單詞free,問這封郵件為spam的概率是多少?

也就是說你有0.995的成功率判定該郵件為spam,至此你已能運用貝葉斯公式進行計算了。

個人覺得關於貝葉斯這樣的基本理解已經夠用了,其餘的可以根據需要再查相關資料就好了。

條件概率,全概率,貝葉斯公式

王式安的這道題的做法,題幹 在先取出的零件是一等品的條件下,之前選箱子的概率p a 和p b 就是1 2和1 2。這裡錯誤了!正確答案選c 按照他的思想計算公式,1 3 1 1 3 0 1 3 在先選出的球是紅球的條件下,排除第三種情況各佔1 2 顯然錯誤的。錯誤原因就在於忽略了當摸出紅球的時候,他...

條件概率 全概率 貝葉斯公式

參考 ref 設a,b是兩個事件,且p b 0,則在事件b發生的條件下,事件a發生的條件概率 conditional probability 為 p a b p ab p b 分析 一般說到條件概率這一概念的時候,事件a和事件b都是同一實驗下的不同的結果集合,事件a和事件b一般是有交集的,若沒有交集...

條件概率,全概率公式,貝葉斯公式,樸素貝葉斯

本文摘自黃清龍等編著的 概率論與數理統計 我們以乙個例子來闡述樸素貝葉斯思想。例子來自樸素貝葉斯分類 原理 假設根據以前的經驗獲得如下的資料。然後給你乙個新的資料 身高 高 體重 中 鞋碼 中 請問這個人是男還是女?判斷是男還是女,是分類問題,記男為c1,女為c2。身高體重鞋碼是樣本x的屬性,記x1...