1先來說一下貝葉斯統計與經典統計的不同之處:
簡單說,頻率派認為估計物件(引數)是乙個未知的固定值。而貝葉斯卻認為未知的引數都是隨機變數。
我曾經見到這麼個不錯的例子:我們要通過一些事實估計「愛因斯坦在2023年12月25日晚上八點吸菸」的真假。定義引數
那麼頻率派認為,愛因斯坦有沒有曾經在這時刻吸菸是事實,
頻率派和貝葉斯代表兩種不同的真理觀。頻率派認為本體(即引數)存在且固定,只不過我們看不到罷了, 引數的角色類似於柏拉圖的「理念」。貝葉斯則認為,只要是我們沒有感知的東西都可以認為是隨機的,感知到了新的表象(即觀測資料)只是增加對不可知事物(引數)的信念,使得
2 奧卡姆剃刀
貝葉斯 01 初識貝葉斯
分割線 分割線 分割線 分割線 分割線 分割線 分割線 分割線 分割線 分割線 分割線 分割線 分割線 最先知道貝葉斯公式還是四年前的概率論和數理統計課上,時間也很久了,具體內容早已經忘記,不過畢竟曾經學過,重新看過還是得心應手的。大概用兩三篇的內容來介紹一下貝葉斯,以及機器學習中很重要的一部分 樸...
貝葉斯 02 理解貝葉斯
首先簡略回顧一下,全概率和貝葉斯。其實這兩者是密不可分的,互相之間是乙個順序問題,全概率反過去就是貝葉斯,這類問題只需要區分清楚是知道原因求結果,還是知道結果尋原因就可以了。全概率公式是計算由諸多原因而導致的某件複雜事情發生的概率,而貝葉斯就是在這件複雜的事情已經發生的前提下,去尋找諸多原因中,某一...
貝葉斯分析 高斯過程
貝葉斯框架下,可以用高斯過程來估計乙個函式 f r r.對於每個xi,f xi 可以用乙個均值方差暫未知的高斯分布來建模。因為連續空間的xi可以有無限個,擬合乙個函式的高斯過程其實乙個無限維的多元高斯。實際中,不管是我們的給定資料,還是測試點的個數都是有限的。因此無論是高斯過程先驗還是還是高斯過程後...