目前tensorflow支援11種不同的經典優化器（參考tensorflow api tf.train文件）
下面重點介紹 tf.train.gradientdescentoptimizer
、tf.train.momentumoptimizer、
tf.train.adamoptimizer
這個優化器主要實現的是梯度下降演算法
__init__(
learning_rate,
use_locking=false,
name='gradientdescent'
)
實現動量梯度下降演算法 ，可參考 簡述動量momentum梯度下降xt
=ρδx
t−1−
ηgtρ
ηρ
__init__(
learning_rate,
momentum,
use_locking=false,
name='momentum',
use_nesterov=false
)
實現 adam優化演算法（
adam 這個名字**於 adaptive moment estimation，自適應矩估計。）
可參考部落格
梯度優化演算法adam
__init__(
learning_rate=0.001,
beta1=0.9,
beta2=0.999,
epsilon=1e-08,
use_locking=false,
name='adam'
)
tensorflow的三種資料輸入
tensorflow的資料讀取一共有三種方式 供給資料 feeding 在tensorflow程式執行的每一步，讓python 來供給資料 從檔案讀取資料 在tensorflow圖的起始，讓乙個輸入管線從檔案中讀取資料 預載入資料 在tensorflow圖中定義常量或變數來儲存所有資料 僅僅適用於資...
Tensorflow載入資料的三種方式
tensorflow作為符號程式設計框架，需要先構建資料流圖，再讀取資料，然後再進行訓練。tensorflow提供了以下三種方式來載入資料 預載入資料 preloaded data 在tensorflow圖中定義常量或變數來儲存所有資料 填充資料 feeding python產生資料，再把資料填充到...
三種常用的STL
1 vector容器 vector容器是乙個動態陣列的結構，在記憶體中有乙個指標指向一塊連續的記憶體。類似陣列結構一樣。它的特點支援隨機訪問資料，因為其在記憶體中的單元是連續。如此之外，還可以vector的大小是可以自動增長的。當向乙個vector中繼續存放資料的時候，如果當前的記憶體大小不夠，核心...