**作者**一句話概述鏈結原始碼資料詞向量評估方法cornellacl 2015
得出兩個結論：
詞向量是在大規模語料上訓練出來的中間產物。本文是對如何評估word-embeding的質量的乙個綜述。
詞向量提供語法、語義資訊。目前評估詞向量的方法可以分為兩類：
通過亞馬遜勞務眾包平台(amazon mechanicalturk)直接評估不同詞向量的質量高低。
直接人工評估相關性
如果某種方法選出的候選詞和人工評估的吻合度越高，代表效果越好。
一致性(離群點檢測)
通過詞向量構造資料集：
眾包人員找到離群點的precision作為評估指標。
拿詞向量作為特徵，通過lr來**乙個詞是否高頻詞。對於各種方法，都能比較準確地進行分類。得出結論：詞向量蘊含了詞頻的資訊。
詞向量的相似度和詞頻比較強的相關性。
理論而言，考慮兩個詞的相關性，和詞頻沒有任何關係。(不能說乙個詞越常見，就和query word越相似)
python生成詞向量 詞向量是如何生成的
遇到這個問題的時候，網上有個很經典的 word2vec的數學原理 上面一文解釋得很詳細，但小白入門會看得很蒙逼，不知道初始向量值是怎麼來的，全域性來呼叫是怎樣執行的。所以我就希望寫一篇文章，舉一些例子，去闡述這個詞向量到底是怎樣產生的。word2vec的數學原理 傳送門 word2vec數學原理 這...
詞向量 詞嵌入 word embedding
embedding 嵌入 embedding 嵌入,在數學上表示乙個對映f x y,是將x所在的空間對映到y所在空間上去，並且在x空間中每乙個x有y空間中唯一的y與其對應。嵌入，也就是把x在y空間中找到乙個位置嵌入，乙個x嵌入為乙個唯一的y。word embedding 詞嵌入 也就是把當前預料文字...
bert生成句子向量
2.如何使用bert的詞向量 3.直接使用bert原始碼生成詞向量 bert本質上是乙個兩段式的nlp模型。第乙個階段叫做 pre training，跟wordembedding類似，利用現有無標記的語料訓練乙個語言模型。第二個階段叫做 fine tuning，利用預訓練好的語言模型，完成具體的nl...