課前提問
問題1：什麼是詞嵌入？
問題2：如何嵌入？
課後回答
1 什麼是學習詞嵌入？
答案：學習詞嵌入是功能，即向系統輸入依次幾個單詞，系統自動**出下乙個單詞是什麼，eg a glass of orange ___,系統會自動**出juice這個單詞，我們把系統的這種功能叫做「學習詞嵌入」。
2 如何嵌入？
答案：首先需要建立乙個神經語言模型（這裡需要注意的是吳教授沒有用到rnn，用到的是一般的神經網路nn，所以剛開始看那個模型圖，沒有看懂，後來就看懂了）
其中e是乙個大矩陣，每一列代表乙個詞的屬性。
學習筆記 詞向量與詞嵌入
詞 向量 叫做 詞向量化 文字向量化 vectorize 是指將文字轉換為數值張量的過程 多種實現方法 將文字分割為單詞，並將每個單詞轉換為乙個向量。將文字分割為字元，並將每個字元轉換為乙個向量。提取單詞或字元的 n gram n元 並將每個 n gram 轉換為乙個向量。n gram 是多個連續單...
詞嵌入方法
對於自然語言處理任務，我們不能直接使用純文字字串作為輸出，而是需要將文字字元轉化為連續值的向量。詞嵌入的主要思想是將文字轉換為較低維度空間的向量表示。對於這種轉化後的向量有兩個重要的要求 總的來說，詞嵌入就是一種 從文字語料庫構建低維向量表示的方法，可以保留單詞的上下文相似性。現在我們知道它是什麼，...
理解詞嵌入WordEmbedding
詞嵌入，英文為 word embedding，這是語言表示的一種方式。它可以讓演算法理解一些類似的詞。我們可以用one hot向量來表示詞，如下圖所示。這種表示方式，我們需要首先獲取乙個字典，比如字典中有100000個詞。對每乙個詞，都得到乙個向量，其中該詞對應位置上置一，其他位置置零。比如man這...