一、lda整體思想
將文件集中每篇文件的主題以概率分布的形式給出，通過分析一些文件抽取出它們的主題（分布）出來後，便可以根據主題（分布）進行主題聚類或文字分類。
它是一種典型的詞袋模型，即一篇文件是由一組詞構成，詞與詞之間沒有先後順序的關係。此外，一篇文件可以包含多個主題，文件中每乙個詞都由其中的乙個主題生成。
二、如何生成文件
在lda模型中，一篇文件生成的方式如下：
其中，類似beta分布是二項式分布的共軛先驗概率分布，而狄利克雷分布（dirichlet分布）是多項式分布的共軛先驗概率分布。
三、先驗知識
二項分布、gamma函式、beta分布、多項分布、dirichlet分布、馬爾科夫鏈、mcmc、gibs sampling、em演算法等不在本文中討論。
可以參考：
陳運文：一文詳解lda主題模型zhuanlan.zhihu.com
db emp怎麼匯入mysql imp和emp命令
exp匯出表的dmp檔案 1 表資料不大的時候，可一次匯出多張表 exp username password file home filename.dmp tables tablename1,tablename2,如 exp username password file home oracle 20...
EM演算法和GMM演算法到底是個怎麼回事
文章目錄 0.前言 1.e m在解決什麼問題？一句話概括em 2.e m是一種模型麼？3.e step和m step分別指的是什麼？4.e m的優化目標是什麼？5.e m收斂麼，為什麼？6.怎麼理解隱變數，對任意模型都可以引入隱變數麼？隱變數的合理性 7.如何理解gmm中的隱變數 8.怎麼理解gmm...
怎麼求矩陣對應的基
怎麼求矩陣對應的基呢？對矩陣做初等行變換，化為上三角形 或 對角型，主對角元素不為0的列即為該矩陣的一組基。a 這個矩陣對應的乙個基 為 其實，將第二行的 1 倍加到第一行上，化為 所以基也可以是，這個就對應的平面直角座標系的正交的一組基。囉嗦一下，a矩陣其實對應的平面內的向量的變換，伸縮變換和旋轉...