(最大期望)演算法

2021-06-07 07:30:52 字數 707 閱讀 9638

統計計算

中,最大期望(em

)演算法是在概率(

probabilistic

)模型中尋找

引數最大似然估計

或者最大後驗估計的演算法

,其中概率模型依賴於無法觀測的

隱藏變數

(latentvariable

)。最大期望經常用在

機器學習

和計算機視覺

的資料聚類

(dataclustering

)領域。最大期望演算法經過兩個步驟交替進行計算,第一步是計算期望(

e),利用對隱藏變數的現有估計值,計算其最大似然估計值;

第二步是最大化(

m),最大化在

e步上求得的最大似然值來計算引數的值。m

步上找到的引數估計值被用於下乙個

e步計算中,這個過程不斷交替進行。 em

是乙個在已知部分相關變數的情況下,估計未知變數的迭代技術。em

的演算法流程如下:

初始化分布引數

重複直到收斂:

e步驟:用分布引數計算每個例項的聚類概率。(即每個例項屬於不同聚類的概率)

m步驟:重新估計分布引數

(如五個引數:二個均值,二個方差,乙個類的先驗概率)

,以使得資料的似然性最大

期望最大 EM 演算法

在概率模型中尋找引數最大似然估計的演算法。em演算法 是一種迭代演算法,用於含有隱變數的引數模型的最大似然估計。應用於資料聚類領域。最大似然估計 1 寫出似然函式 2 對似然函式取對數,並整理 3 求導數 4 解似然方程 期望最大 演算法經過兩個步驟交替進行計算,第一步是計算期望 e 也就是將隱藏變...

EM 期望最大化演算法

em演算法編輯 最大期望演算法 expectation maximization algorithm,又譯期望最大化演算法 是一種迭代演算法,用於含有隱變數 hidden variable 的概率引數模型的最大似然估計或極大後驗概率估計。中文名 em演算法 外文名 expectation maxim...

EM 期望最大化演算法

馬爾可夫分支 1.馬爾可夫網 判別式,無項有環圖 1 gibbs 玻爾茲曼機 2 crf條件隨機場 3 馬爾可夫隨機場 2.1 動態貝葉斯 生成式,有向無環圖 1 卡爾曼濾波 2 hmm 隱馬爾可夫 2.2 靜態貝葉斯 先驗估計 data label 後驗估計 data label 似然估計 lab...