在決策中，除了關心決策的正確與否，有時我們更關心錯誤的決策將帶來的損失。比如在判斷細胞是否為癌細胞的決策中，若把正常細胞判定為癌細胞，將會增加患者的負擔和不必要的**，但若把癌細胞判定為正常細胞，將會導致患者失去寶貴的發現和**癌症的機會，甚至會影響患者的生命。這兩種型別的決策錯誤所產生的代價是不同的。
考慮各種錯誤造成損失不同時的一種最優決策，就是所謂的最小風險貝葉斯決策。設對於實際狀態為wj
的向量x 採取決策αi
所帶來的損失為
λ(αi,wj
),i=
1,..
.,k,
j=1,
...,
c
該函式稱為損失函式，通常它可以用**的形式給出，叫做決策表。需要知道，最小風險貝葉斯決策中的決策表是需要人為確定的，決策表不同會導致決策結果的不同，因此在實際應用中，需要認真分析所研究問題的內在特點和分類目的，與應用領域的專家共同設計出適當的決策表，才能保證模式識別發揮有效的作用。
對於乙個實際問題，對於樣本
x ，最小風險貝葉斯決策的計算步驟如下：
（1）利用貝葉斯公式計算後驗概率：
p(wj|x)
=p(x
|wj)
p(wj
)∑ci
=1p(
x|wi
)p(w
i),j
=1,.
..,c
其中要求先驗概率和類條件概率已知。
（2）利用決策表，計算條件風險： r
(αi|
x)=∑
j=1c
λ(αi
|wj)
p(wj
|x),
i=1,
...k
（3）決策：選擇風險最小的決策，即： α
=arg
mini
=1,.
..,k
r(αi
|x)
現在用之前的判別細胞是否為癌細胞為例。狀態1為正常細胞，狀態2為癌細胞，假設：
p(w1)
=0.9,p
(w2)
=0.1p(
x|w1
)=0.2,p(
x|w2
)=0.4λ11=
0,λ12
=6λ21
=1,λ
22=0
計算得後驗概率為： p
(w1|
x)=0.818,p
(w2|
x)=0.182
計算條件風險： r
(α1|
x)=∑
j=12
λ1jp
(wj|
x)=λ
12p(w
2|x)
=1.092
r(α2
|x)=
∑j=1
2λ2j
p(wj
|x)=
λ21p(
w1|x
)=0.818
由於 r(
α1|x
)>r(
α2|x
) ，即判別為1類的風險更大，根據最小風險決策，應將其判別為2類，即癌細胞。
由此可見，因為對兩類錯誤帶來的風險的認識不同，從而產生了與之前不同的決策。顯然，但對不同類判決的錯誤風險一致時，最小風險貝葉斯決策就轉化成最小錯誤率貝葉斯決策。最小錯誤貝葉斯決策可以看成是最小風險貝葉斯決策的乙個特例。
貝葉斯決策論
1 什麼是行為？但是，有時候，後驗概率本身只能說明具有特徵x的樣本屬於 i類的可能性有多少，卻沒能表示如果將樣本分到 i類時的代價有多大。在此，引入行為的概念 分類器的設計初衷很簡單，就是進行 分類 這一動作。假設現在來了乙個具有特徵x的樣本，如果將 把樣本分入 i類 這一行為記為動作ai的話，我們...
貝葉斯決策論
在 前乙個例子 中已經舉例說明了如何用貝葉斯公式計算後驗概率，然後依據後驗概率來做決策。1 什麼是行為？但是，有時候，後驗概率本身只能說明具有特徵x的樣本屬於 i類的可能性有多少，卻沒能表示如果將樣本分到 i類時的代價有多大。在此，引入行為的概念。分類器的設計初衷很簡單，就是進行 分類 這一動作。假...
最小錯誤貝葉斯決策規則
設c個類 omega omega 分別具有類先驗概率 p omega p omega 如果除了已知這些類概率分布以外，其他資訊不得而知，則使分類錯誤率最小的決策規則是，若物件的 p left w right p left w right k 1,c k neq j 則將該物件歸屬於 w 類。這種分類...