終於到了貝葉斯估計這章了，貝葉斯估計在我心中一直是很重要的地位，不過發現書中只用了不到10頁介紹這一章，深度內容後，發現貝葉斯估計的基礎公式確實不多，但是由於正態分佈在生活中的普遍性，貝葉斯估計才應用的非常多吧！預設輸入變數用x
xx表示，輸出變數用y
yy表示
概率公式描述：
p (x
=x
)p(x=x)
p(x=x)
：表示當x=x
x=xx=
x時的概率
p (x
=x∣y
=ck)
p(x=x|y=c_k)
p(x=x∣
y=ck
)：表示當y=c
ky=c_k
y=ck
時，x=x
x=xx=
x的概率
貝葉斯法則：p(y
i∣x)
=p(x
∣yi)
p(yi
)∑jp
(x∣y
j)p(
yj
)p(y_i|x)=\frac}
p(yi∣
x)=∑
jp(
x∣yj
)p(
yj)
p(x∣
yi)
p(yi
)
先驗概率（prior probability）是指根據以往經驗和分析得到的概率，如全概率公式，它往往作為"由因求果"問題中的"因"出現的概率。比如你拋了10次硬幣，7次正面朝上，接下來問你正面朝上的概率是多少，你說70%，此時這個就是先驗概率，它是我們從「以往」的經驗中積累得到的。後驗概率是資訊理論的基本概念之一。在乙個通訊系統中，在收到某個訊息之後，接收端所了解到的該訊息傳送的概率稱為後驗概率。
通俗解釋：先估計一下模型的引數，然後計算得到實驗結果的概率，概率越大，那麼這個引數就可能越接近真實值。12
3456
789x(1
)x^
x(1)11
1222
333x(2
)x^
x(2)ss
mlls
smlyyy1
11-1-11-1
-1-1
統計學習方法四 樸素貝葉斯
結合之前的部落格 一 什麼是樸素貝葉斯？樸素貝葉斯是基於貝葉斯定理與特徵條件獨立假設的分類方法。對於給定的資料集，首先基於特徵條件獨立假設學習輸入 輸出的聯合概率分布 然後基於此模型，對給定的輸入x，利用貝葉斯定理求出後驗概率最大的輸出y 特徵 1 多分類 2 生成學習方法二 學習與分類 1 條件獨...
統計學習方法四 樸素貝葉斯分類
樸素貝葉斯分類 1，基本概念 2，演算法流程 關鍵點 理解先驗概率，條件概率，最大後驗概率，下面是以極大似然估計的 3，演算法改進 貝葉斯估計 上述用極大似然估計可能會出現所要估計的概率值為0的情況，改進方法 先驗概率貝葉斯估計 k表示類別數，為引數 0時為極大似然估計 1時為拉普拉斯平滑 條件概率...
統計學習方法 樸素貝葉斯法
乙個事件概率依賴於另外乙個事件 已發生 的度量。p b a 的意義是在a發生的情況下b事件發生的概率。這就是條件概率。p ab p a times p b a 代表的意義是，ab事件同時發生的概率等於事件a發生的概率乘以在a發生條件下b事件發生的概率。p b a frac 事件序列發生且彼此相互依賴...