條件概率相關定理:
定理1
設a,b 是兩個事件,且a不是不可能事件,則稱
為在事件a發生的條件下,事件b發生的條件概率。一般地,
,且它滿足以下三條件:
(1)非負性;(2)規範性;(3)可列可加性。
定理2
設e 為隨機試驗,ω 為樣本空間,a,b 為任意兩個事件,設p(a)>0,稱
為在「事件a 發生」的條件下事件b 的條件概率。
上述乘法公式可推廣到任意有窮多個事件時的情況。
設a1,a2,…an為任意n 個事件(n≥2)且p(a1a2…an-1)>0,則p(a1a2…an)=p(a1)p(a2|a1)…p(an|a1a2…an-1)
定理3(全概率公式1)
設b1,b2,…bn是一組事件,若(1)bibj≠j,i≠j,i,j=1,2,…,n;(2)b1∪b2∪…∪bn=ω 則稱b1,b2,…bn樣本空間ω的乙個部分,或稱為樣本空間ω 的乙個完備事件組。
定理4(全概率公式2)
設事件組b1,b2是樣本空間ω 的乙個劃分,且p(bi)>0(i=1,2,…n),則對任一事件a,有
定理5(貝葉斯公式)
設a1,a2,…an…是一完備事件組,則對任一事件b,p(b)>0,有
貝葉斯:
假設已知先驗概率p(ωj),也知道類條件概率密度p(x|ωj),且j=1,2.那麼,處於類別ωj,並具有特徵值x的模式的聯合概率密度可寫成兩種形式:
p(ωj,x) = p(ωj|x)p(x) = p(x|ωj)p(ωj)
整理後得出貝葉斯公式(
只有兩種型別的情況下)
下面分別介紹一下後驗概率、似然函式、先驗概率以及證據因子。
1、後驗概率
後驗概率p(ωj|x),即假設特徵值x已知的條件下類別屬於ωj的概率。
2、似然函式
p(x|ωj)為ωj關於x的似然函式,也成為類條件概率密度函式,表明類別狀態為ω時的x的概率密度函式*。
3、先驗概率
先驗概率p(ωj)是由先驗知識而獲得的。
4、證據因子
證據因子的存在知識為了保證各類別的後驗概率的總和為1**。
補充:
*概率密度函式:
在數學中,乙個連續型隨機變數的「概率密度函式」是乙個描述這個隨機變數的輸出值在某乙個確定的取值點附近的可能性的函式。
而隨機變數的取值落在某個區域之間的概率則是概率密度函式在這個區域上的積分。當概率密度函式存在的時候,累積分布函式是概率密度函式的積分。
**概率總和為1:
乙個函式 f(x) 要想成為密度函式,那麼必須滿足兩個條件:
① f(x) >0, 這很好理解了……概率大於0嘛……比如說吃飯的概率,50%說明一半的可能我會吃飯,但是如果是-50%呢?難道是我吐了一半嗎……很詭異吧
② ∫f(x)dx=1,概率就是某種可能性,如果把所有可能性都包括在內就可以證明這個事情一定是發生的,只是按照那種情況發生我們不知道而已,所以所有可能性的和為1.
貝葉斯公式的理解
推導過程 1 條件概率公式 設a,b是兩個事件,且p b 0,則在事件b發生的條件下,事件a發生的條件概率 conditional probability 為 p a b p ab p b 2 乘法公式 1.由條件概率公式得 p ab p a b p b p b a p a 上式即為乘法公式 2.乘...
貝葉斯公式的理解
最近在學粒子濾波,然後複習了以下貝葉斯公式,看到了乙個關於貝葉斯推理的例子,比較有意思,推理的題目是 好人or壞人 b想去旅行,需要找一名隊友,於是發帖找人,立馬有人a自告奮勇。但是網路真真假假,b不知道a是好人還是壞人,會不會在旅途中坑自己一把,讓他遭受危險。於是他對a說,要不我們先旅行一段路程,...
徹底理解貝葉斯公式
條件概率 又稱後驗概率 就是事件a在另外乙個事件b已經發生條件下的發生概率。條件概率表示為p a b 讀作 在b條件下a的概率 比如,在同乙個樣本空間 中的事件或者子集a與b,如果隨機從 中選出的乙個元素屬於b,那麼這個隨機選擇的元素還屬於a的概率就定義為在b的前提下a的條件概率,所以 p a b ...