在
統計計算
中,最大期望(em
)演算法是在概率(
probabilistic
)模型中尋找
引數最大似然估計
或者最大後驗估計的演算法
,其中概率模型依賴於無法觀測的
隱藏變數
(latentvariable
)。最大期望經常用在
機器學習
和計算機視覺
的資料聚類
(dataclustering
)領域。最大期望演算法經過兩個步驟交替進行計算,第一步是計算期望(
e),利用對隱藏變數的現有估計值,計算其最大似然估計值;
第二步是最大化(
m),最大化在
e步上求得的最大似然值來計算引數的值。m
步上找到的引數估計值被用於下乙個
e步計算中,這個過程不斷交替進行。 em
是乙個在已知部分相關變數的情況下,估計未知變數的迭代技術。em
的演算法流程如下:
初始化分布引數
重複直到收斂:
e步驟:用分布引數計算每個例項的聚類概率。(即每個例項屬於不同聚類的概率)
m步驟:重新估計分布引數
(如五個引數:二個均值,二個方差,乙個類的先驗概率)
,以使得資料的似然性最大
期望最大 EM 演算法
在概率模型中尋找引數最大似然估計的演算法。em演算法 是一種迭代演算法,用於含有隱變數的引數模型的最大似然估計。應用於資料聚類領域。最大似然估計 1 寫出似然函式 2 對似然函式取對數,並整理 3 求導數 4 解似然方程 期望最大 演算法經過兩個步驟交替進行計算,第一步是計算期望 e 也就是將隱藏變...
EM 期望最大化演算法
em演算法編輯 最大期望演算法 expectation maximization algorithm,又譯期望最大化演算法 是一種迭代演算法,用於含有隱變數 hidden variable 的概率引數模型的最大似然估計或極大後驗概率估計。中文名 em演算法 外文名 expectation maxim...
EM 期望最大化演算法
馬爾可夫分支 1.馬爾可夫網 判別式,無項有環圖 1 gibbs 玻爾茲曼機 2 crf條件隨機場 3 馬爾可夫隨機場 2.1 動態貝葉斯 生成式,有向無環圖 1 卡爾曼濾波 2 hmm 隱馬爾可夫 2.2 靜態貝葉斯 先驗估計 data label 後驗估計 data label 似然估計 lab...