完全**rnn、rnn變體、seq2seq、attention機制
n vs m
原始的n vs n rnn要求序列等長,然而我們遇到的大部分問題序列都是不等長的,如機器翻譯中,源語言和目標語言的句子往往並沒有相同的長度。
為此,encoder-decoder結構先將輸入資料編碼成乙個上下文向量c:
得到c有多種方式,最簡單的方法就是把encoder的最後乙個隱狀態賦值給c,還可以對最後的隱狀態做乙個變換得到c,也可以對所有的隱狀態做變換。
拿到c之後,就用另乙個rnn網路對其進行解碼,這部分rnn網路被稱為decoder。具體做法就是將c當做之前的初始狀態h0輸入到decoder中:
還有一種做法是把c作為每一步的輸入
由於這種encoder-decoder結構不限制輸入和輸出的序列長度,因此應用的範圍非常廣泛,比如:
機器翻譯。encoder-decoder的最經典應用,事實上這一結構就是在機器翻譯領域最先提出的
文字摘要。輸入是一段文字序列,輸出是這段文字序列的摘要序列。
閱讀理解。將輸入的文章和問題分別編碼,再對其進行解碼得到問題的答案。
語音識別。輸入是語音頻號序列,輸出是文字序列。
SAP BTP MTA 應用的應用場景
程式語言 軟體設計架構 如微服務 協議 如 odata 的最新趨勢和進展,以及多層和分布式部署平台的多樣性,加速了由更多 更小 解耦和多樣化的模組構建應用程式的趨勢。在微服務架構下,越來越多的業務應用程式傾向於由使用不同語言和技術開發並部署到各種目標執行時環境的多個部分組成。這種應用程式模組的多樣性...
Redis應用場景
redis開創了一種新的資料儲存思路,使用redis,我們不用在面對功能單調的資料庫時,把精力放在如何把大象放進冰箱這樣的問題上,而是利用redis靈活多變的資料結構和資料操作,為不同的大象構建不同的冰箱。redis常用資料型別 redis最為常用的資料型別主要有以下五種 在具體描述這幾種資料型別之...
Redis應用場景
redis開創了一種新的資料儲存思路,使用redis,我們不用在面對功能單調的資料庫時,把精力放在如何把大象放進冰箱這樣的問題上,而是利用redis靈活多變的資料結構和資料操作,為不同的大象構建不同的冰箱。redis常用資料型別 redis最為常用的資料型別主要有以下五種 在具體描述這幾種資料型別之...