在上乙個章節,描述了基礎的mlp的引數設定,資料集載入,預處理,以及模型的初始化,感覺torch的模型相對caffe來說,的確很麻煩,哈哈,但那時誰讓他安裝簡單並且還有很多的原始碼學習呢?哈哈,都是個人見解,caffe的原始碼學習模型也有很多很多的。
這個章節我們討論一下對模型的運算。在介紹下面的**之前。我們首先來看看介個基礎的概念。
損失函式loss:這裡的損失函式大家都很熟悉,就是作用於訓練資料和驗證資料集。不多說了。
feedback:主要是用來計算精度的函式,這裡的精度主要是用來控制是否可以比較早的停止迭代並且還可以和其他的model結果進行比較。
callback函式:他的呼叫實在每次的forward和backforward之後呼叫的來修改一些引數,例如
係數,你可以自己定義適合你的函式
還有的函式例如epoch_callback函式,主要是用來更新學習率的,學習率的跟新有三種方法,這裡就不再詳細的說明啦
acc_update我也搞得暈裡暈乎的。。。
progess主要是控制是否列印進度條。具體**如下
--[[propagators]]--
if opt.lrdecay == 'adaptive' then
ad = dp.adaptivedecay
elseif opt.lrdecay == 'linear' then
opt.decayfactor = (opt.minlr - opt.learningrate)/opt.saturateepoch
endtrain = dp.optimizer,--對元資料進行洗牌
progress = opt.progress
}valid = dp.evaluator--這裡並滅有用什麼shuffle計數
}test = dp.evaluator
}
xp = dp.experiment,
maximize = true,
max_epochs = opt.maxtries
},ad
},random_seed = os.time(),
max_epoch = opt.maxepoch
}
Torch學習筆記
torch是facebook開源的機器學習框架,與當今火熱的tensorflow和caffe一樣,是深度學習 機器學習的利器,用好它們,能很快的在資料集上驗證自己的想法,只要熟練使用,一般的機器學習模型想怎麼玩就怎麼玩.torch是基於lua語言的,因此需要熟悉lua語言,lua在遊戲指令碼中用的非...
torch學習筆記《一》
1 利用torch搭建cnn神經網路和softmax完成影象分類,在cifar 10的分類例子和 參考 深度學習筆記系列 就是上面筆記的翻譯 2 lua 語言基礎知識 lua語言中冒號呼叫和點號呼叫的區別 冒號只是起了省略第乙個引數self的作用,該self指向呼叫者本身,並沒有其他特殊的地方。參考...
torch學習筆記 二 nn類結構 Linear
linear 是module的子類,是引數化module的一種,與其名稱一樣,表示著一種線性變換。建立parent 的init函式 linear的建立需要兩個引數,inputsize 和 outputsize inputsize 輸入節點數 outputsize 輸出節點數 所以linear 有7個...