core
highway層：highway層建立全連線的highway網路，這是lstm在前饋神經網路中的推廣
convolution
separableconvolution2d層：該層是對2d輸入的可分離卷積。可分離卷積首先按深度方向進行卷積（對每個輸入通道分別卷積），然後逐點進行卷積，將上一步的卷積結果混合到輸出通道中。
deconvolution2d層：該層是卷積操作的轉置（反卷積）。需要反卷積的情況通常發生在使用者想要對乙個普通卷積的結果做反方向的變換。例如，將具有該卷積層輸出shape的tensor轉換為具有該卷積層輸入shape的tensor。
cropping1d層：在時間軸（axis1）上對1d輸入（即時間序列）進行裁剪
cropping2d層：對2d輸入（影象）進行裁剪，將在空域維度，即寬和高的方向上裁剪
cropping3d層：對2d輸入（影象）進行裁剪
upsampling1/2/3d層：不明所以
zeropadding1d層：對1d輸入的首尾端（如時域序列）填充0，以控制卷積以後向量的長度
zeropadding3d層：將資料的三個維度上填充0
pooling
locallyconnceted
recurrent
embedding
advanced activation
batchnormalization
noise
神經網路的keras實現
keras是構建在tensorflow基礎上的python第三方庫，專門用於神經網路的構建與計算，同時還整合了scikit learn庫，使得可以在神經網路的構建中運用機器學習的方法。現在就用keras來構建之前構建過的神經網路。實現 首先匯入所需要的包 from keras.models impo...
使用keras自定義神經網路層
現在的深度學習無非就是堆神經網路模型 這句話既對也不全對，深度學習能夠取得如此大的進步在於神經網路的層數增加。但對模型並不是把別人已經做好的模型在自己的機子上跑一下，或者簡單堆疊就可以了，而是要有自己的想法產生自己的改進模型。keras提供了自定義層的程式設計正規化，但是很多書都沒有介紹，可能是一般...
神經網路中的卷積層
卷積層是卷積神經網路中的基礎操作，甚至在網路最後起分類作用的全連線層在工程實現時也是由卷積操作替代的。卷積運算實際上是分析數學的一種運算方式，在卷積神經網路中通常僅涉及離散卷積的情形。下面以輸入影象為5 x 5矩陣，其對應的卷積核 亦稱卷積引數，convolution kernel或convolut...