機器學習 貝葉斯公式 先驗概率 後驗概率

2021-08-09 04:51:40 字數 926 閱讀 2269

1.基礎知識點

條件概率公式

在b的條件下a發生的概率=a、b同時發生的概率/b發生的概率

理解:因為a、b同時發生的概率裡已經包含了b發生的概率,所以要將b的概率除掉。

2.驗-經驗

先驗概率:於經驗之前的概率,相當於普通的概率

後驗概率:於經驗之後的概率,即條件概率

3.貝葉斯公式:實質就是條件概率公式兩種形式(以a、b同時發生的概率為橋梁)

p(a|b)=p(b|a)*p(a)/p(b)

4.在機器學習中用x表示特徵集合,wi代表類標籤。則

公式表示:p(wi|x)=p(x|wi)*p(wi)/p(x)

p(wi)為先驗概率,有70個蘋果,30個梨,那麼選乙個為蘋果的概率

p(x|wi) 稱為似然概率,類別確定情況下x的分布,比如說蘋果的尺寸分布。知道似然概率與梨的大小分布似然概率比較後,也就知道了摸到什麼尺寸的情況下,是蘋果的概率大於是梨的概率。

【3】對公式上述兩個式子相乘的理解:上述兩個式子相乘後就是:事件一:選乙個為蘋果的概率 。事件二:選乙個某尺寸的概率(即某乙個特徵的概率)

兩個事件同時發生的概率。即拿出乙個是蘋果且有這個特徵的概率,那麼就可以用來**這個特徵的真實類別

這是精華,是為了得到某特徵屬於某一類的概率

公式的分布可以從兩個方向去理解:

1.從條件概率推導去理解

2.我們要**需要知道拿出乙個東西是蘋果且具備這個特徵的概率,實際上已經可以用來**了。但為了用概率表示,分母作用是歸一化,分母可以寫成∑p(x|wi)*p(wi)

p(x|wi)則稱為後驗概率

5.貝葉斯公式的應用

p(wi|x)哪個大就屬於哪個類別

n.問題

什麼是似然概率?所謂似然是老師說的可能性?

先驗概率 後驗概率(貝葉斯公式)最佳理解

在原因b發生的條件下,結果a發生的概率 p a b 假如結果a發生的原因有b1,b2 等多種原因,則全概率公式如下 p a p b1 p a b1 p b2 p a b2 是指以往經驗和分析得到的概率。意思是說我們人有乙個常識,比如骰子,我們都知道概率是1 6,而且無數次重複實驗也表明是這個數,這是...

先驗概率,後驗概率,條件概率,貝葉斯

from and 先驗概率 事件發生前的預判概率。可以是基於歷史資料的統計,可以由背景常識得出,也可以是人的主觀觀點給出。一般都是單獨事件概率,如p x p y 後驗概率 事件發生後求的反向條件概率 或者說,基於先驗概率求得的反向條件概率。概率形式與條件概率相同。條件概率 乙個事件發生後另乙個事件發...

先驗概率 後驗概率 貝葉斯公式 似然函式

在機器學習中,這些概念總會涉及到,但從來沒有真正理解透徹他們之間的聯絡。下面打算好好從頭捋一下這些概念,備忘。先驗概率僅僅依賴於主觀上的經驗估計,也就是事先根據已有的知識的推斷,先驗概率就是沒有經過實驗驗證的概率,根據已知進行的主觀臆測。如拋一枚硬幣,在拋之前,主觀推斷p 正面朝上 0.5。後驗概率...