tensorflow的計算思想

資料流圖用「結點」（nodes）和「線」(edges)的有向圖來描述數學計算。「節點」一般用來表示施加的數學操作，但也可以表示資料輸入(feed in)的起點/輸出（push out）的終點，或者是讀取/寫入持久變數（persistent variable）的終點。「線」表示「節點」之間的輸入/輸出關係。這些資料「線」可以輸運「size可動態調整」的多維資料陣列，即「張量」（tensor）。張量從圖中流過的直觀圖像是這個工具取名為「tensorflow」的原因。一旦輸入端的所有張量準備好，節點將被分配到各種計算裝置完成非同步並行地執行運算。

tensorflow不是乙個嚴格的「神經網路」庫。只要你可以將你的計算表示為乙個資料流圖，你就可以使用tensorflow。你來構建圖，描寫驅動計算的內部迴圈。我們提供了有用的工具來幫助你組裝「子圖」（常用於神經網路），當然使用者也可以自己在tensorflow基礎上寫自己的「上層庫」。定義順手好用的新復合操作和寫乙個python函式一樣容易，而且也不用擔心效能損耗。當然萬一你發現找不到想要的底層資料操作，你也可以自己寫一點c++**來豐富底層的操作。

我使用隨機數來生成資料集，並展示了如何編寫乙個簡單的bp神經網路程式：

from numpy.random import randomstate

batch_size = 8;

w1 = tf.variable(tf.random_normal([2,3],stddev=1,seed=1));

w2 = tf.variable(tf.random_normal([3,1],stddev=1,seed=1));

x = tf.placeholder(tf.float32,shape=(none,2),name='x-input');

y_ = tf.placeholder(tf.float32,shape=(none,1),name='y-input');

a = tf.matmul(x,w1);

y = tf.matmul(a,w2);

cross_entropy = - tf.reduce_mean(y_ * tf.log(tf.clip_by_value(y,1e-10,1.0)));

train_step = tf.train.adamoptimizer(0.001).minimize(cross_entropy);

rdm = randomstate(1);

dataset_size = 128;

x = rdm.rand(dataset_size,2);

y = [[int(x1+x2<1)] for (x1,x2) in x ];

with tf.session() as sess:

init_op = tf.initialize_all_variables();

sess.run(init_op);

print sess.run(w1);

print sess.run(w2);

steps = 5000;

for i in range(steps):

start = (i*batch_size)%dataset_size;

end = min(start+batch_size,dataset_size);

sess.run(train_step,feed_dict=);

if i%1000==0:

total_cross_entropy = sess.run(cross_entropy,feed_dict=);

print("after %d training steps,cross entropy on all data is %g" %(i,total_cross_entropy));

print sess.run(w1);

print sess.run(w2);

tensorflow的計算思想

深度學習筆記 TensorFlow 思想

TensorFlow 矩陣計算

Tensorflow的平行計算

tensorflow的計算思想

深度學習筆記 TensorFlow 思想

TensorFlow 矩陣計算

Tensorflow的平行計算

相關推薦