EM聚類演算法

em演算法也稱期望最大化（expectation-maximum,簡稱em）演算法它是乙個基礎演算法，是很多機器學習領域演算法的基礎，比如隱式馬爾科夫演算法（hmm）， lda主題模型的變分推斷等等。

em演算法解決這個的思路是使用啟發式的迭代方法，既然我們無法直接求出模型分布引數，那麼我們可以先猜想隱含資料（em演算法的e步），接著基於觀察資料和猜測的隱含資料一起來極大化對數似然，求解我們的模型引數（em演算法的m步)。由於我們之前的隱藏資料是猜測的，所以此時得到的模型引數一般還不是我們想要的結果。不過沒關係，我們基於當前得到的模型引數，繼續猜測隱含資料（em演算法的e步），然後繼續極大化對數似然，求解我們的模型引數（em演算法的m步)。以此類推，不斷的迭代下去，直到模型分布引數基本無變化，演算法收斂，找到合適的模型引數。

最大似然估計是什麼呢？它指的就是一件事情已經發生了，然後反推更有可能是什麼因素造成的。用一男一女比較身高為例，假設有乙個人比另乙個人高，反推他可能是男性(因為相同年齡下男性的平均身高高於女性)。最大似然估計是一種通過已知結果，估計引數的方法。