使用新的啟用函式--relu,公式如下:
2.卷積神經網路的網路架構:卷積層、pooling層(也叫池化層)、全連線層
2.1卷積層的計算公式:
其中d為卷積層的深度
附:影象大小、步幅和卷積後的feature map大小關係:
w、h:卷積前原影象的寬、高(兩者相同)
f:filter的寬度
p:原始影象周圍補0圈數
s:步幅大小
2.2 pool層,即池化層--主要主要是下取樣
常用的由max pooling(取各樣本的最大值)和mean pooling(取各樣本的平均值)
2.3 全連線層--和全連線神經網路一樣
3.卷積神經網路的訓練
此知識還在學習中,待補充。
讀書報告 02 神經網路基礎學習
1.線性單元 定義 使用乙個可導的線性函式來替代感知器的階躍函式,這種感知器就叫做線性單元 個人理解 感知器還是那個感知器,只是啟用函式變成乙個可導的線性函式 如f x x 如下圖 線性單元與前面所學的感知器 使用階躍函式 的對比,只有啟用函式改為 可導的線性函式 2.監督學習和無監督學習的概念 監...
神經網路學習筆記 04 迴圈神經網路演算法解釋
本文是根據wildml的recurrent neural networks tutorial寫的學習筆記。先看看計算公式 x e ex t z sigma u zx e w zs b z r sigma u rx e w rs b r h tanh u hx e w h s circ r b h s...
(深度學習)神經網路基礎
一 神經網路定義 playground 通過這個位址了解神經網路 1.人工神經網路 artificial neural network,簡寫為ann 也簡稱為神經網路 nn 分別輸入層,輸出層以及隱藏層 2.特點 每個連線都有個權值,同一層神經元之間沒有連線,最後的輸出結果對應的層也稱之為全連線層 ...