前饋神經網路的結構如下圖
下
圖所示
圖1.神經網路結構示意圖
⽹絡中最左邊的稱為輸⼊層（input layer），其中的神經元稱為輸⼊神經元；最右邊的是輸出層(output layer)包含有輸出神經元；中間層的神經元既不是輸⼊也不是輸出，則被稱為隱藏層(hidden layer)。上⾯的⽹絡有多個隱藏層，但有些⽹絡僅有⼀個隱藏層。
由於歷史的原因，儘管神經網路是由s型（sigmoid）神經元⽽不是感知器構成，但這種多層⽹絡有時被稱為多層感知器（multilayer perception，mlp）。但是這種叫法會產生歧義，因此不常使用。
也有⼀些⼈⼯神經⽹絡的模型，其中反饋環路是可⾏的，這些模型被稱為遞迴神經⽹絡。該模型的關鍵在於，神經元在變為非啟用態之前會在一段 有限時間內均保持啟用狀態。這種啟用狀態可以激勵其他的神經元，被激勵的神經元在隨後 一段有限時間內也會保持啟用狀態。如此就會導致更多的神經元被啟用，一段時間後我們將 得到乙個級聯的神經元啟用系統。在這個模型中環路並不會帶來問題，因為神經元的輸出只 會在一段之間之後才影響到它的輸入，它並非實時的。從圖
1. 圖
1.中可以看到，每一條連線就是乙個權重，因此神經網路中具有十分龐大的引數。
上述的引數中可以分為兩類，一類是通過資料和學習演算法得到的稱之為引數，如權重（weights）、偏置（biases），而另一類引數是經過人工設定得到的稱之為超引數，如神經網路的層數、節點數等。超此之外還有很多其他的超引數，將在訓練神經網路的部分進行介紹。
神經網路的認識（二）深層神經網路
損失函式 神經網路優化演算法 神經網路進一步優化 深層學習有兩個非常重要的特性 多層和非線性 線性模型的侷限性，就是任意線性模型的組合仍然還是線性模型。所以引出啟用函式，經過啟用函式變換完的輸出就不再是線性的了。如果將每乙個神經元 也就是神經網路中的節點 的輸出通過乙個非線性函式，那麼整個神經網路的...
神經網路結構
定義 在機器學習和認知科學領域，人工神經網路 artificial neural network，縮寫ann 簡稱神經網路 neural network，縮寫nn 或類神經網路，是一 種模仿生物神經網路的結構和功能的計算模型，用於對函式進行估計或近似。神經網路的種類 基礎神經網路 單層感知器，線性神...
BP神經網路的結構
bp back propagation 神經網路是1986年由rumelhart和mccelland為首的科學家小組提出，是一種按誤差逆傳播演算法訓練的多層前饋網路，是目前應用最廣泛的神經網路模型之一。bp網路能學習和存貯大量的輸入 輸出模式對映關係，而無需事前揭示描述這種對映關係的數學方程。它的學...