這裡以最簡單的全連線神經網路為例,講解前向傳播演算法。
構成乙個神經網路的最小單元。
|- 神經元的輸入:有多個輸入,可以是整個神經網路的輸入,也可以是上層神經元的輸出。
|- 神經元的輸出:乙個神經元只有乙個輸出。乙個最簡單的神經元結構的輸出就是所有輸入的加權和,而不同輸入的權重就是神經元的引數。
|- 神經網路的優化:指優化神經元中引數取值的過程。
將特徵向量經過層層推導,得到輸出。
在該神經網路中,相鄰兩層之間的任意節點之間都有連線。
|- 1.神經網路的輸入:即 從實體中提取出的特徵向量。
|- 2.神經網路的連線結構:即 不同神經元之間輸入輸出的連線關係。
|- 3.神經網路中每個神經元的引數:即 本例中的權重w。
|- 本例中的計算是最簡單的加權和。這裡的前向傳播演算法可以表示為矩陣乘法。
|- 輸入層的x1和x2可以組織成輸入矩陣:x=[x1,x2]
|- 權重矩陣:w1=
|- 隱藏層三個節點組成的向量取值a:a=x*w1(x矩陣乘以w1矩陣)
|- 輸出層可以表示為y:y=a*w2
a = tf.matmul(x, w1)
y = tf.matmul(a, w2)
tf.matmul實現了矩陣乘法的功能。 tensorflow前向傳播
1.demo1 import tensorflow as tf seed設定隨機種子,每次執行結果一樣 w1 tf.variable tf.random normal 2,3 stddev 1,seed 1 w2 tf.variable tf.random normal 3,1 stddev 1,s...
Tensorflow 入門記錄
tensor為張量,flow為流圖。tensorflow內含有很多寫好的工具,如梯度下降演算法,卷積操作等。在使用tensorflow時,先導入包import tensorflow as tf,在進行定義tensorflow變數時,使用tf.variable 引數 有趣的是乙個叫做佔位符的工具,tf...
tensorflow入門例子
import tensorflow as tf import numpy as np 使用 numpy 生成假資料 phony data 總共 100 個點.100,2 x data np.float32 np.random.rand 100,2 隨機輸入 y data np.dot x data,...