深度模型的部署

2021-10-24 11:14:13 字數 598 閱讀 5823

深度學習框架keras,pytorch,caffe

邊緣裝置框架 tvm ncnn 或者海思板子

1:keras->onnx pip install keras2onnx,可以參考如下**

keras2onnx的官方**

pytorch->onnx pip install onnx

pip install onnx-simplifier onnx的簡化工具

pip install onnxruntime

(onnxruntime是乙個用於onnx(open neural network exchange)模型推理的引擎)

keras->caffe

2:onnx->caffe pip install onnx-caffe2

onnx->tvm 編譯tvm原始碼 linux arm windows的llvm比較痛苦

onnx->ncnn 編譯ncnn原始碼 linux windows arm

3:caffe->tvm 編譯tvm原始碼

記錄此部落格,主要想告訴大家任何框架之間不通,可以換取不同的方式來進行轉換,不要吊死在一棵樹上,同時做邊緣裝置的框架,要多嘗試。

深度學習baseline模型 深度學習模型訓練流程

工作中訓練了很多的深度學習模型,目前到了上公升到方 的角度來看了。日常工作中有的人可能已經在遵循方 做事,可能自己沒有注意,有的人可能沒有遵循方 在做事,雖然可能最後的結果差不多,但花費的時間和精力應該會差別很大,當然這是我自己的感受。我們不必完全按照方 來做,但基本流程跟方 應該一致。下面的具體步...

深度學習模型

深度學習常用方法 深度置信網路 dbn 概率生成模型,生成資料 卷積神經網路 cnn 判別模型,處理二維圖 卷積深度置信網路 cdbn 兩者的結合 迴圈神經網路 rnn 與時間序列有關的 對抗神經網路 gan 兩個網路的零和遊戲,乙個網路用來判別,乙個網路用來生成 自動編碼器 vae 生成模型 深度...

深度學習模型儲存 深度學習分布式模型

背景 隨著各大企業和研究機構在pytorch tensorflow keras mxnet等深度學習框架上面訓練模型越來越多,專案的資料和計算能力需求急劇增加。在大部分的情況下,模型是可以在單個或多個gpu平台的伺服器上執行的,但隨著資料集的增加和訓練時間的增長,有些訓練需要耗費數天甚至數週的時間,...