貝葉斯法則p(
h|d)
=p(d
|h)p
(h)p
(d)
先驗 p(h
) , p
(d)
後驗 p(h
|d)
極大後驗概率map maximum a posteriori
argmaxp(
h|d)
=arg
maxp(d
|h)p
(h)p
(d)−
−−−−
(h∈h
) argmaxp(
h|d)
=arg
maxp(d
|h)p
(h)−
−∗∗重
點內容∗
∗−−−
(h∈h
) 極大似然ml maximum likelihood p(
d|h)
一般帶貝葉斯的演算法都會考慮先驗概率，屬於貝葉斯推斷，就是直接用統計資訊推斷後驗概率，如貝葉斯置信網，樸素貝葉斯，樹增強的樸素貝葉斯等等；
將假設引數看作是均勻分布，就是極大似然，有假設空間引數搜尋的過程。
重點內容貝葉斯關於資訊熵的解釋
貝葉斯關於資訊熵的解釋
貝葉斯演算法
貝葉斯演算法需要解決的問題 1.正向概率 假設袋子中n白球，m黑球，摸到黑球概率多大 2.逆向概率 事先不知道袋子中黑白球個數，從袋子中摸出乙個或幾個球，觀察這些取出球的顏色，以此來推斷袋中白黑球的比例。為什麼需要貝葉斯 現實世界本身就是不確定的，假設黑白球數量無限大，人類觀察能力有限，我們不可能完...
貝葉斯演算法
總結應用 貝葉斯演算法的目的是解決逆向概率的問題。何為逆向概率？先看看正向概率 袋子裡有m個黑球，n個白球，隨手一模，是黑球的機率是多大。這就是個正向概率問題。逆向概率 袋子裡有兩種球，通過觀察摸出來的球的顏色，推斷袋子中兩種球的比率。逆向概率的作用 是通過有限的資料推斷無限資料的情況，思考 星系距...
貝葉斯演算法
貝葉斯為了解決 逆概 問題提出的 正向概率 袋子裡裝著n個黑球和m個白球，伸手取摸球，摸到黑球和白球的概率有多大 逆向概率 袋子裡前提不知道有黑白球的比例，而是閉著眼睛摸球統計後推測黑球和白球的比例 現實世界本身不確定，人類觀察是有侷限的 我們日常所觀察只是表面，很多東西都是推測。男生總是穿長褲，女...