38 深度學習 用於處理序列的RNN

2021-08-24 23:24:58 字數 471 閱讀 8946

什麼是rnn

recurrent neural network,迴圈神經網路

還有乙個東西叫recnn,recursive neural network,遞迴神經網路,感興趣的童鞋自行搜尋

輸入長什麼樣?

迴圈是指,網路只有一層(全連線層),且其隱態h(t)取決於:

long short-term memory,長短時記憶

解決梯度**和梯度消失問題,學習長程依賴

模型更複雜、引數更多、學習能力更強

rnn通用套路

keras中的實現

******rnn、gru、lstm

深度學習用於計算機視覺

密集連線層 精度97.8 卷積神經網路 99.3 兩者的區別在於 dense層從特徵空間學到的是全域性模式,而卷積層學到時是區域性模式 1 卷積神經網路學到的模式具有平移不變性 視覺世界根本上來說就具有平移不變性 即在影象右下角學到某個模式後可以在任何地方識別這個模式。對於密集連線網路來說如果出現在...

深度學習多模態融合 深度學習用於多模態語義學習簡述

由於深度學習具有通過逐層抽象來形成良好特徵的能力,因此可利用該方法來形成不同型別資料的聯合特徵表示。具體方法有深度典範相關分析 deep caconical correlation analysis,deep cca 多模態深度學習以及多模態玻爾茲曼機等。這些方法的基本思路是通過不同的深層模型 如c...

用於語言處理的深度學習

此文主要是對b站李巨集毅2020春季課程進行個人總結。為 我們要學習的模型有六種,只列舉不一一詳細講解。1.1 語音轉文字 我們需要乙個模型,他的輸入是語音,輸出是文字,其功能是語音辨識。1.2 文字轉語音 我們需要有個模型,他的輸入是文字,輸出是語音,其功能是語音合成。1.3 語音轉語音 我們需要...