最近針對之前發表的一篇博文《deep learning 在中文分詞和詞性標註任務中的應用》中的演算法做了乙個實現，感覺效果還不錯。本文主要是將我在程式實現過程中的一些數學細節整理出來，藉此優化一下自己的**，也希望為對此感興趣的朋友提供點參考。文中重點介紹訓練演算法中的模型引數計算，以及 viterbi 解碼演算法。
《deep learning 在中文分詞和詞性標註任務中的應用》
《deep learning for chinese word segmentation and pos tagging》
《ufldl 教程學習筆記（一）神經網路》
《hmm 自學教程（六）維特比演算法》
《為什麼我們喜歡用 sigmoid 這類 s 型非線性變換?》
出處:
小小word2vec模型訓練
嗨，好久不見啊！今天我們來完成乙個word2vec模型訓練，學習筆記有挺多人寫的，不瞞您說，小白也是看別人的部落格學習的。所以這次，小白就直接上手例項啦，一起嘛？首先介紹一下模型引數 通過jieba分詞 import jieba import pandas as pd 把文字檔案讀進來，再分詞，去停...
與word2vec 原來word2vec那麼簡單
說到word2vec,它可謂非結構化資料裡面的佼佼者,尤其是在推薦和nlp當中,足以體現它的優勢所在,並且多年一直備受工業界喜愛.那麼word2vec到底是怎麼個原理的,發現身邊總是有很多人問,確不能準確的說出為什麼是兩個矩陣,到底是怎麼自動反向傳播的,以及對於softmax之後那麼大的維度資料,是...
利用Word2Vec訓練詞向量過程
先明確一點，選用不同的詞向量作為模型的初始值，效果的差異非常大！那麼怎麼產生乙個好的詞向量呢？參看文章 1 英文的詞向量可以訓練，也可以用google訓練好的那個模型。2 但是中文就不行了，沒有乙個公布乙個權威的詞向量。語料對詞向量的影響比模型的影響要重要得多得多得多 重要的事說三遍 很多 都提到語...