神經網路的基本型別與學習演算法：
目前已有的數十種神經網路模型，按網路結構劃分可歸納為三大類:前饋網路、反饋網路和自組織網路。
前饋神經網路則是指神經元分層排列，分別組成輸入層、中間層和輸出層。每一層的神經元只接受來自前一層神經元的輸入，後面的層對前面層沒有訊號反饋。輸入模式經過各層的順序傳播，最後在輸出層上得到輸出。這類網路結構通常適於**、模式識別及非線性函式逼近，一般典型的前向神經網路基於梯度演算法的神經網路如bp網路，最優正則化方法如svm，徑向基神經網路和極限學習機神經網路。
反饋網路又稱回歸網路，輸入訊號決定反饋系統的初始狀態，系統經過一系列狀態轉移後逐漸收斂於平衡狀態，因此，穩定性是反饋網路最重要的指標之一，比較典型的是感知器網路、hopfield神經網路、海明祌經網路、小波神經網路雙向聯絡儲存網路(bam)、波耳茲曼機。
自組織神經網路是無教師學習網路，它模擬人腦行為，根據過去經驗自動適應無法**的環境變化，由於無教師訊號，這類網路通常採用競爭原則進行網路學習。
其他文章：
科普 | 深度學習演算法三大類：cnn，rnn和gan
神經網路 卷積神經網路
這篇卷積神經網路是前面介紹的多層神經網路的進一步深入，它將深度學習的思想引入到了神經網路當中，通過卷積運算來由淺入深的提取影象的不同層次的特徵，而利用神經網路的訓練過程讓整個網路自動調節卷積核的引數，從而無監督的產生了最適合的分類特徵。這個概括可能有點抽象，我盡量在下面描述細緻一些，但如果要更深入了...
神經網路 卷積神經網路
1.卷積神經網路概覽 來自吳恩達課上一張，通過對應位置相乘求和，我們從左邊矩陣得到了右邊矩陣，邊緣是白色寬條，當畫素大一些時候，邊緣就會變細。觀察卷積核，左邊一列權重高，右邊一列權重低。輸入，左邊的部分明亮，右邊的部分灰暗。這個學到的邊緣是權重大的寬條 都是30 表示是由亮向暗過渡，下面這個圖左邊暗...
神經網路基本概念
mcculloch 精神病學家和解剖學家 和pitts 數學家 在1943年，發表第乙個系統的ann研究 閾值加權和 m p 數學模型。bp back propagation 神經網路，是指誤差的後向傳播，修正權值矩陣，達到訓練模型。1 弱點 訓練速度非常慢 區域性極小點的逃離問題 演算法不一定收斂...