- 輸入是個一維線性序列
- 輸入不定長
- 單詞相對位置
- 相距較遠的單詞特徵需要聯合
nlp的輸入往往是個不定長的線性序列句子，而rnn本身結構就是個可以接納不定長輸入的由前向後進行資訊線性傳導的網路結構，而在lstm引入三個門後，對於捕獲長距離特徵也是非常有效的。所以rnn特別適合nlp這種線形序列應用場景
~~~~~~
缺點：rnn無法平行計算的，只能老老實實地按著時間步乙個單詞乙個單詞往後走。
transformer微弱優於rnn模型(尤其在主語謂語距離小於13時)，能力由強到弱排序為transformer>rnn>>cnn; 但在比較遠的距離上（主語謂語距離大於13），rnn微弱優於transformer。
tf調參建議training tips for the transformer modelmemory work不行
git優點缺點 簡單介紹
git是目前世界上最先進的分布式版本控制系統。git是免費 開源的 最初git是為輔助 linux 核心開發的，來替代 bitkeeper linux和git之父李納斯 托沃茲 linus benedic torvalds 1969 芬蘭 1.直接記錄快照，而非差異比較 2.近乎所有操作都是本地執行...
關於HTTP2 0優點的介紹
使用http2.o測試便可看出http2.0比之前的協議在效能上有很大的提公升。下面總結了http2.0協議的幾個特性。1.多路復用 multiplexing 多路復用允許同時通過單一的 http 2 連線發起多重的請求 響應訊息。在 http 1.1 協議中瀏覽器客戶端在同一時間，針對同一網域名稱...
mysql分割槽的優點及使用例項介紹
mysql分割槽 資料庫把乙個表分解成更小的部分，但是對於訪問資料庫的應用來說還是乙個表。b.優化查詢，在特定情況下只需要掃瞄乙個分割槽，在涉及sum 和count 時可以在各個分割槽並行處理 檢視資料庫是否支援分割槽 這裡是yes 就是支援分割槽 分割槽的型別 a.range分割槽 基於乙個給定的...