這個函式就是計算圖中葉子節點有關的當前張量的梯度。
1、retain_graph=true引數
由於模型中需要多次backward(),後一次backward()都會清空前一次backward()儲存在buffuer中的梯度,因此需要retain_graph=true,讓前一次梯度儲存,直到更新完成。
【注】不要每次backward()都使用retain_graph=true,因為這樣會使得記憶體被占用,越來越慢,最後一次backward()就不需要retain_graph=true。
一般如果想使用索引訪問元素時,就可以在類中定義這個方法(___ getitem __ (self, key) )
當例項物件通過 運算子取值時,會呼叫它的方法__getitem__
引數註冊,當引數註冊到這個網路上時,會自動遷移到gpu上
nn.pixelshuffle :
把 (batch_size, c x r2
^22, h, w) 變為 (batch_size, c, h x r, w x r)
nn.upsample:
輸入輸出前後的通道數不變,直接h x r, w x r。
上取樣的方式:最近鄰,線性插值,雙線性插值,三次線性插值
隨便寫寫1 (08 3)
隨便寫寫1 最近果然又恢復超級忙的狀態了,不過相比去年要好一些,至少自己還有空來仔細研究一下設計模式。說到設計模式,的確是個好東西,雖然很久以前有接觸過,但是這次是認真仔細系統的研究,幾乎是每看一句想三分鐘的那種,還特地搞了本雙語版的,中英文對照著看。不過進度很慢罷了,這麼長時間才剛看完第一章,而且...
隨便寫點吧
四年了做軟體開發類工作,其中的苦悶只有自己知道吧。一場經濟危機讓我們回到了原點,也算個起點吧。想讓自己平靜一年。胡亂投了簡歷,大多是貧庸的公司,安排的面試也都是他們熟悉的技術,面試的同時也是炫耀對方的技術。我不太喜歡這樣的面試,我還是比較崇拜自由的工作方式,和自己能力的體現去競爭去創造。也許軟體開發...
20170310隨便寫寫
blog寫寫蠻好的,不是為了寫給別人看,而是給自己的思路和過程有乙個比較完整的記錄,這樣以後追溯或者重複相同或者類似的事情,就可以直接獲取到資訊,不用費勁查詢了。雖然寫寫blog可能會占用一點時間,但是知識整理的時間還是應該留出來的。以前寫c 除了標準庫和需要的lib意外,基本不使用類似glib的庫...