2.2 原理與例項
神經元模型： 單輸入 a = f(wp+b), f為傳輸函式, w為權值, b為偏置, a為輸出.
常用的三種傳輸函式：
* 硬極限: hardlim(n) =
對稱硬極限: hardlims(n) =
* 線性: purelin(n) =
飽和線性: satlin(n) =
對稱飽和線性: satlins(n) =
正線性: poslin(n) =
* log-sigmoid函式 logsig(n) = 1/(1+e^(-n)), 將(-inf, inf)對映到(0, 1). 由於可微, 用於bp神經網路的訓練.
雙曲正切s函式 tansig(n) = (e^n-e^(-n))/(e^n+e^(-n)), (-inf, inf)->(-1, 1)
* 競爭函式: compet =
網路結構： 單層 a = f(wp+ b), w為行向量, p/b/a為列向量. 多層 a1=f1(w1p1 + b1), a2=f2(w2a1 + b2), a3=f3(w3a2 + b3).
多層網路比單層網路功能強大得多, 乙個第一層具有s形傳輸函式, 第二層具有線性傳輸函式的網路, 可對大多數函式達到任意精度的逼近.
延時模組 a(t) = u(t-1), u(-1)==a(0)
積分器 a(t) = a(0) + su(x)dx, x==[0:t]
遞迴網路 a(0)=p, a(t) = f( wa(t-1) + b ). 遞迴網路比前饋網路本質上有更強的能力, 它可以表現出時間性行為.
引數選擇： 單層網路神經元的個數由問題本身決定( 輸入變數個數、輸出變數個數), 多層網路的神經元個數沒有理論上解決, 層數一般2~3層, 很少有4層. 偏置可選可不選, 選了可以
增強功能.
神經元模型和網路結構
一 神經元模型 1.單輸入神經元 神經元是神經網路操作的基本資訊處理單位。乙個單輸入神經元如下圖所示。標量輸入p乘上權值w得到wp，再將其送入累加器 另乙個輸入1乘上偏置值b，再將其送入累加器。偏置值b的作用是根據其為正或負，相應的增加或者降低傳輸函式的網路輸入。累加器輸出n通常被稱為傳輸函式f的淨...
神經網路 II 神經元模型
人工神經網路的生物原型是大腦，人腦中的神經網路是乙個非常複雜的組織，其基本組成單位是神經元 神經細胞 的大腦中估計有1000億個神經元之多。十九世紀末二十世紀初，在解剖學家 生物學家 醫學家的共同努力下，神經元的組成結構便被研究清楚，乙個神經元主要由四部分構成 神經元怎麼發揮作用呢？其實神經元是個訊...
第二章 神經網路的數學基礎
下面展示一些內聯 片。2.神經網路的資料表示 1.標量 0d張量 import numpy as np x np.array 12 print x print x.shape 張量的形狀 print x.ndim 張量的維度 軸，0階 2.向量 1d張量 x np.array 11,23,5,9,1...