深度學習的自然語言處理 課程筆記 1

2021-09-08 13:59:58 字數 507 閱讀 7473

大牛的讀書筆記:

(2023年版的課件)

第一節課基本上看大牛的讀書筆記對照slides就可以了,都是入門級的介紹,不需要花太多的時間。

1、什麼是自然語言處理?

自然語言處理是電腦科學、人工智慧以及語言學的交叉領域。它的目標是用計算機來處理自然語言,以完成一些任務,例如購物、智慧型問答等。

2、什麼是深度學習?

深度學習是機器學習的子集。大多數的機器學習方法表現很好是因為人類設計了特徵的表達,機器學習變成了優化特徵的權重。深度學習是直接根據原始的資料輸入,直接學習特徵或者表達,並輸出。人工設計的特徵具有針對性(over-specified),不易拓展且耗時較多。深度學習學習的特徵易拓展、且有一套國際通用的框架來表示單詞、視覺或者語音資訊,監督或者非監督的任務都適用。

3、為什麼語言理解難?

人類的語言是用來傳遞資訊的,是離散的、符號化的、分類的指令系統,但是大腦的編碼看上去像是連續的啟用模式,而且訊號的傳遞是通過連續的光和聲的訊號。

4、基於dl的nlp的應用

基於深度學習的自然語言處理

cbow表示可以通過求單詞表示向量和或者通過將乙個單詞詞袋向量乘 以乙個每一行對應於乙個稠密單詞表示的矩陣 這樣的矩陣也叫作嵌入矩陣 embedd i ng matricy 來得到。網路中每行神經元的值可以看作是乙個向量 全連線層可以看作是從四維到六維 的線性變換。全連線層實現了乙個向量與矩陣的乘法...

機器學習 深度學習 自然語言處理

文字挖掘 文字分類 機器翻譯 客服系統 複雜對話系統 手工特徵耗時耗力,還不易拓展 自動特徵學習快,方便擴充套件 深度學習提供了一種通用的學習框架,可以用來表示世界,視覺和語言學資訊 深度學習可以無監督學習,也可以監督學習 我 今天 下午 打籃球 p s p w1,w2,w3,w4,w5,wn p ...

TensorFlow學習筆記 自然語言處理

正在學習tensorflow實戰8.4.1,感謝樓主!我是被tensorflow api 坑慘了,我知道 tf.nn.seq2seq.sequence loss by example 沒有了,但是因為還有乙個 tf.contrib.seq2seq.sequence loss 輸入引數類似但要求維度不...