(tf)為輸入和目標資料建立placeholder;當執行計算圖時,他們將會被真實的資料填充。
為權重建立variable並用隨機資料初始化 tensorflow的variable在執行計算圖時不會改變。
前向傳播:使用tensorflow的張量運算計算**值y。 注意這段**實際上不執行任何數值運算; 它只是建立了我們稍後將執行的計算圖。
在tensorflow中,更新權重值的行為是計算圖的一部分; 但在pytorch中,這發生在計算圖之外。
現在我們搭建好了計算圖,所以我們開始乙個tensorflow的會話(session)來實際執行計算圖。
對於大規模的網路,autograd太過於底層。 在構建神經網路時,我們經常考慮將計算安排成層,其中一些具有可學習的引數,它們將在學習過程中進行優化。
tensorflow裡,有類似keras,tensorflow-slim和tflearn這種封裝了底層計算圖的高度抽象的介面,這使得構建網路十分方便。
在pytorch中,包nn完成了同樣的功能。nn包中定義一組大致等價於層的模組。乙個模組接受輸入的tesnor,計算輸出的tensor,而且 還儲存了一些內部狀態比如需要學習的tensor的引數等。nn包中也定義了一組損失函式(loss functions),用來訓練神經網路。
科學計算工具學習筆記 四
自定義nn模組 有時候需要指定比現有模組序列更複雜的模型 對於這些情況,可以通過繼承nn.module並定義forward函式,這個forward函式可以 使用其他模組或者其他的自動求導運算來接收輸入tensor,產生輸出tensor。在前向傳播的函式中,我們接收乙個輸入的張量,也必須返回乙個輸出張...
科學計算工具 Numpy
基礎類庫簡介 ndarray陣列建立 ndarray的矩陣運算 元素計算函式 元素統計函式 元素判斷函式 元素去重排序函式 資料分析概念 資料分析是指用適當的統計分析方法對收集來的大量資料進行分析,提取有用資訊和形成結論的過程。資料分析的過程 1.資料收集 本地資料或者網路資料的採集與操作.2.資料...
電腦科學導論學習筆記
定義乙個基於圖靈模型的計算機。圖靈模型假設各種各樣的運算都能夠通過一種特殊的機器來完成,圖靈機的模型是基於各種運算過程的。圖靈模型把運算的過程從計算機器中分離開來,相對於之前的專業機器既包括計算又包括實際功能 縫紉機,票數計算 定義乙個基於馮 諾伊曼模型的計算機 馮 諾伊曼模型定義了計算機的組成,它...