模式識別 統計模式識別(6)

2021-08-20 22:16:58 字數 1585 閱讀 7361

上一節,我們討論了最小錯誤率分類器,接下來這一節我們將討論最小風險bayes分類器。

1.問題提出

1.最小錯誤率bayes決策的最小錯誤率——概率意義上最優,在工程上是否是最優?

2.錯誤分類的結果、代價或風險會是怎樣的?(考慮癌細胞影象識別的例子)

3.出錯的可能情況:正常細胞ω1錯分為異常ω2,異常細胞ω2錯分為正常ω1,這兩者的代價應該是不一樣的。

2.需要區分的概念

狀態:識別的目的是分類,把樣本歸類於其可能的自然狀態(即類別)之一,將這種自然狀態簡稱為狀態,記為ω;

狀態空間:所有可能的狀態的集合構成狀態空間,記為ω;

決策:把樣本歸類於某個狀態,或不能進行歸類,都是決策,記為α;

決策空間:所有可能的決策(包括拒絕決策)的集合構成決策空間,記為α;

3.問題已知條件和求解目標

已知:(假設類別c = 2,決策a = 2)

1. ω1、p(ω1)、p(x | ω1)和ω2 、p(ω2)、p(x | ω2)

2. ω=

3. а =

4. 定義損失函式λ(αi,ωj) ,簡記λij

發生了乙個隨機事件,其觀察值為特徵向量x

求解:最小風險分類器

4.判別函式

5.決策規則

對於未知樣本x,若r(αk | x) = minr(αi | x),則x∈ωk,即決策αk。

6.推廣到任意狀況

已知:1. ωj、p(ωj)、p(x|ωj),                     j = 1,… ,c;

2. ω= ;

3. а = ;              

這裡c可以不等於a,因為決策可以有很多,比如拒絕決策

4. 定義損失函式λ(αi,ωj) ,簡記λij;

5. 發生了乙個隨機事件,其觀察值為特徵向量x

求解:最小風險分類器

任意狀況的判別函式

任意狀況的決策規則

對於未知樣本x,若r(αk | x) = minr(αi | x),則x∈ωk,即決策αk。

7.最小風險和最小錯誤率貝葉斯分類器的關係

首先定義0-1損失函式:

則:對於未知樣本x,若r(αk | x) = minr(αi | x),則x∈ωk;

對於未知樣本x,若p(ωk|x) = maxp(ωi|x),則x∈ωk;

結論:最小錯誤率bayes決策,等價於0-1損失函式的最小風險bayes決策。

8. 最小風險bayes決策的特點

1. 已知條件多——各類概率分布及風險係數;

2. 最小錯誤風險——概率意義上工程意義上最優;

3. 設計過程複雜;

模式識別 統計模式識別(7)

上兩節我們介紹了最小錯誤率和最小風險bayes分類器,接下來談談最小最大決策。1.問題提出 假設c 2 現在我們假定一種情況,先驗概率未知或者不確定的前提,在這種前提下,絕對意義的最小風險不存在,這種情況下我們怎麼求bayes分類器。2.求解思路 雖然p 1 和p 2 未知,但我們可以假設他們確定,...

模式識別 句法模式識別(1)

圖形或影象目標的形狀或結構千變萬化,目標 模式 的差異也在於其形狀或結構的不同,這種模式稱為結構模式,基於形狀或結構的模式識別稱為結構模式識別。數字影象處理學中,鏈碼是描述目標邊緣和輪廓的常用的編碼方法。用字元或符號的來表示影象目標的區域性邊緣的走向。freeman鏈碼 影象像元之間邊緣的走向用方向...

《模式識別》自學筆記 (二)基於統計的模式識別

解決模式識別問題的方法主要歸納為基於知識的方法和基於資料的方法兩大類。基於知識的方法,主要是以專家系統為代表的方法。其基本思想是根據人們已知的關於研究物件的知識,整理出若干描述特徵與類別間關係的準則,建立一定的計算機推理系統,對未知樣本通過這些知識推理決策類別。以專家系統為例,專家系統的組成部分包括...