計算文字相似度

2021-09-14 08:28:43 字數 802 閱讀 9971

不僅要考慮語義,還要考慮順序。

計算距離的方式:余弦,歐式

1.向量表示

(1)distributed representation 最大的貢獻就是讓相關或者相似的詞,在距離上更接近了。

(2)word2vec模型:

通過神經網路機器學習演算法來訓練n-gram 語言模型,並在訓練過程中求出word所對應的vector的方法。利用了詞的上下文,語義資訊更為豐富.

由於文字的長度各異,我們可能需要利用 所有詞向量的平均值作為分類演算法的輸入值,從而對整個文字文件進行分類處理。

(3)doc2vec

然而,即使上述模型對詞向量進行平均處理,我們仍然忽略了單詞之間的排列順序對情感分析的影響。即上述的word2vec只是基於詞的維度進行"語義分析"的,而並不具有上下文的"語義分析"能力。除了增加乙個段落向量以外,這個方法幾乎等同於 word2vec。在乙個句子或者文件的訓練過程中,段落 id 保持不變,共享著同乙個段落向量。

dm 試圖在給定上下文和段落向量的情況下**單詞的概率。

dbow 則在僅給定段落向量的情況下**段落中一組隨機單詞的概率。

2.方法

表示為向量,計算距離

3.在使用doc2vec時出現了個問題,模型載入1次,同一段文字推測兩次向量,兩次的結果差距很多?

gensim 的說明文件建議多次訓練資料集並調整學習速率或在每次訓練中打亂輸入資訊的順序。

參考 4.doc2vec和logistic回歸的多類文字分類

計算文字相似度

計算文字相似度 推薦2收藏 簡單講解 文字相似度計算在資訊檢索 資料探勘 機器翻譯 文件複製檢測等領域有著廣泛的應用。比如 控制,我們假設你開發了乙個微博 並且已經把世界上罵人的句子都已經收錄進了資料庫,那麼當乙個使用者發微博時會先跟罵人句子的資料庫進行比較,如果符合裡面的句子就不讓使用者發出。通常...

文字相似度計算

一 簡介 文字相似度是進行文字聚類的基礎,和傳統的結構化數值資料的聚類方法相似,文字聚類是通過計算文字之間的 距離 來表示文字之間的相似度,並產生聚類。文字相似度的常用計算反法有餘弦定理。但是文字資料和普通的資料不同,它是一種半結構化的資料,在進行聚類之前必須要對文字資料來源進行處理,如分詞 向量化...

計算文字相似度

來自 簡單講解 文字相似度計算在資訊檢索 資料探勘 機器翻譯 文件複製檢測等領域有著廣泛的應用。比如 控制,我們假設你開發了乙個微博 並且已經把世界上罵人的句子都已經收錄進了資料庫,那麼當乙個使用者發微博時會先跟罵人句子的資料庫進行比較,如果符合裡面的句子就不讓使用者發出。通常情況下,很多任務程師就...