目前的主流移動端推理框架包括:
名稱背景、廠家
底層簡述
tf-lite
float型別呼叫eigen,int8型別呼叫gemmlowp
core ml
蘋果cpu:accelerate
gpu:metal performance shaders
caffe2
qnnpack
tvm亞馬遜
llvm,cuda,opencl,metal等
paddle-mobile
mace
小公尺neon\opencl\nnlib
ncnn
feathercnn
pocketflow
與其他不同,屬於模型壓縮框架
xnn阿里
閉源ppl
商湯閉源
snpe
高通閉源
參考:
常用移動端深度學習框架
深度學習發展很快,最近又出現了幾個新的移動端前向框架,例如tengine和 tvm.我們還沒有對這兩個框架進行深入研究,但是在對應的wiki中,可以看到這兩個框架的速度對於現有框架都具有一定優勢,通過短暫的了解,tengine還是很不錯的,支援op跟模型種類都比較豐富,還支援gpu運算。感興趣的讀者...
Vue PC端 移動端框架彙總
在學習vue的過程之中,我發現不管是 bat 大廠,還是創業公司,vue 都有著廣泛的應用,而且框架層出不窮,學習文件也越來越多,vue也越來越受歡迎。下面是我整理的 vue pc端和移動端的ui框架,建議收藏,方便以後學習的時候拿出來檢視。vue pc端框架 1.element 中文文件 2.iv...
移動端DL框架 當前主流的移動端深度學習框架一覽
在這個專欄中,我們會介紹與移動端的模型訓練和部署有關的框架的使用。作者 編輯 言有三 深度學習模型要落地,比如要部署到手機等移動端平台,之前給大家介紹的用於訓練的框架就不能直接使用了,我們需要相應的移動端框架,目前國內外各大公司紛紛開源自家的框架。tensorflow lite使用android n...