上次提到水平線是無法實現資訊的刪減與新增的，但是門卻可以解決這個問題。介紹門之前，先介紹sigmoid層：乙個輸出向量在0~1之間的層。門有三類：遺忘門，輸入門，輸出門。遺忘門的作用是控制記憶單元，決定上一時刻的狀態保留多少到當前時刻，通過乙個sigmoid層實現遺忘部分，那個0~1之間的對映就是記憶衰減係數，遺忘門的存在也是lstm能夠記住長期記憶的保證。輸入門的作用是決定保留多少當前時刻的輸入到當前狀態，輸入門主要負責cell狀態的更新，更新簡言之就是忘記一部分，再記住一些新資訊。忘記的那部分由遺忘門ft與上一時刻的狀態ct-1的哈達瑪積組成，更新的部分就是輸入門兩部分it,ct~的哈達瑪積。輸入門，負責輸出多少，主要是隱藏狀態ht的更新，更新也有兩部分，一部分是上一時刻隱藏狀態ht，當前輸入xt，sigmoid函式組成；另一部分由當前細胞狀態ct與tanh函式組成。
to be continued
by zjq
小白的滲透學習筆記（2）
system32 使用者program files等 是一種應用程式型別，在後台執行，通過埠區分使用服務，常見服務 web服務 dns服務 dhcp服務 郵件服務 telnet服務 ssh服務 ftp服務 smb服務 常用埠 htp協議 伺服器常用埠號 80 8080 3128 8081 9080 ...
小白學習css的筆記
什麼是css 語法 屬性的設定 width 100pc height 100px blackgroud color black 如果不在style屬性裡，就寫在乙個 塊裡 選擇器 選擇某一種元素的一種方式 css的注釋 注釋的寫法 注釋內容 作用 增加 的可讀性，便於 的維護和管理 注意 注釋不能巢...
Python小白學習筆記五 （函式形參2）
預設形參 1.語法 def 函式名 形參名1 預設實參1,形參名2 預設實參2,函式體2.說明 預設引數必須自右至左依次存在，如果乙個引數有預設引數，則其右側的所有引數都必須有預設引數。預設引數可以有0個或多個，甚至全部都有預設引數。位置形參 語法 def 函式名 形參名1,形參名2,函式體命名關鍵...