Caffe學習筆記 Caffe模型

乙個完整的深度學習系統最核心的兩個方面是資料和模型。

深度學習模型通常由三部分引數組成：

可學習引數（learnable parameter）,又稱可訓練引數、神經網路權係數、權重，其數值由模型初始化引數、誤差反向傳播過程控制，一般不可人工干預。

結構引數（archetecture parameter），包括卷積層、全連線層、下取樣層數目、卷積核數目、卷積核大小等描述網路結構引數，一旦設定好，網路訓練階段不能更改；值得注意的是，訓練階段的引數和**階段的引數很可能不同。

訓練超引數（hyper-parameter）,用來控制網路訓練的收斂的引數，訓練階段可以自動的或手動調節獲得更好的效果，**階段不需該引數。

可學習引數在記憶體中使用blob物件保持，必要時以二進位制protobuffer檔案（*.caffemodel）形態序列化並儲存於磁碟之上，便於進一步微調（funetune，又稱為精調）、共享、效能評估（benchmark）。

結構引數使用protobuffer文字格式（*.prototxt）描述，網路初始化通過該描述檔案構建net物件、layer物件形成有向無環圖結構，在layer和layer之間、net輸入源和輸出均為持有資料和中間結果的blob物件。

訓練超引數同樣使用protobuffer文字格式（*.prototxt）描述，訓練階段利用該描述檔案構建求解器（solver）物件，該物件按照一定的規則在訓練網路時自動調節這些超引數值。