理解bp神經網路,這裡不討論那些複雜的生物學和神經科學。其實很簡單,從下面三個例子裡面可以了解。
比如你是乙個備考高三數學的學生。你本身就會2+2=4,你把這個訓練一萬遍有用麼?沒用。你要做的就是找到自己不行的地方,找到自己的漏洞,有針對性的去突破和訓練。這就是用誤差來學習。人類的過程也是一樣的。學習,有誤差然後有反饋,我們通過這些誤差反饋來學習。
bp(back propagation)神經網路是一種按誤差**反向**傳播(簡稱誤差反傳)訓練的**多層**前饋網路。
1.1.1 人工神經網路組成
人工神經網路主要架構是由神經元、層和網路三個部分組成。整個人工神經網路包含一系列基本的神經元、通過權重相互連線。
1.1.2 神經元
神經元是人工神經網路最基本的單元。層是由神經元組成的,每一層的每個神經元和前一層、後一層的神經元連線,共分為輸入層、輸出層和隱藏層,三層連線形成乙個神經網路。
1.1.3 輸入層 輸出層 隱藏層
具體參照人工神經網路的部分。
依據訊號的前向傳播和誤差的反向傳播來構建整個網路
bp神經網路具體數學推導過程詳見:
ps:單純收集整理為了方便自己理解!
BP神經網路
基本bp神經網路演算法包括 訊號的前向傳播 誤差的反向傳播 也即計算實際輸出時按照輸入到輸出的方向進行,權值閾值調整則相反。bp是一種多層前饋神經網路,由輸入層 隱含層和輸出層組成。層與層之間有兩種訊號在流動 一種是從輸入流向輸出的工作訊號,是輸入和權值的函式 另一種是輸入流向輸出的訊號,即誤差。隱...
BP神經網路
x 為輸入向量,y為隱藏層的神經元,z 為輸出層,d為目標真實值,本文預設 z 不經過sigmod處理。x y的權重為 w,y z的權重為 v yj ix iwij 1 oyi f y j 2 其中激勵函式f x 1 1 e x f x f x 1 f x 3 z k j f yj vjk 此時系統...
BP神經網路
bp是back propagation bp神經網路主要的演算法在於誤差反向傳播error backpropagation 有三層 輸入層 input 隱含層 hidden 輸出層 output 輸入層 n個神經元 隱含層 p個神經元 輸出層 q個神經元 輸入向量 x x1,x2,x n 隱含層輸入...