使用推理引擎測試網路的時候,個人覺得首先還是需要確定一下,你要測的網路結構推理引擎是否支援,新的網路結構從提出到推理引擎提供該網路結構的支援,中間需要很長一段時間,然後還需要確認gpu是否支援,需要確認對架構是否支援。個人在實際測得過程中,覺得挺麻煩的,有的cpu支援,gpu不支援,有的這個推理引擎支援,那個推理引擎不支援,有的推理引擎這個架構支援,那個架構不支援等等
mnn:阿里
介紹:原始碼:
op支援:
mace:小公尺
原始碼:op支援:
只適用於移動端
未接觸過
tensorrt:
安裝指導:
tf-trt使用者指南中的加速推理:
開發者指導:
原始碼:op支援:#supported-ops
tensorflowlite:
只適用於移動端
首選還是tensorrt吧,這差不多是大多數人的選擇,雖然我也沒太弄明白。個人還行蠻喜歡mnn的,有中文介紹呀,並且安裝啥的,中文寫的明明白白,好懂,缺點就是支援的ops太少了,阿里的東西,後期維護真是堪憂呀,到現在連yolov3都不支援,這都一年了,愁人呀。
如何使用mnn編寫c程式,呼叫訓練好的深度學習模型:
1. 更改cmakelist配置,將需要的功能開啟,mnn_build_demo預設配置從off改為on, 編譯mnn
2.編譯完成後,build資料夾中會根據demo/exec中檔案生成對應.out檔案,然後執行需要的.out檔案就行
3.根據picturerecogniztion.cpp中檔案內容,進行修改,編寫自己的cpp檔案
個人小結 測試
結束了在測試的工作,一直想寫點東西 1.測試首先是為個讓使用者能用,不會報錯,然後才能談到其他比如易用性,解析度等不會常用的功能,所以測試就要有重點 2.自動化測試在版本測試中用處也不大,前期投入太大,收益太小,自動化一般用於回歸測試,執行一輪測試中錄製好的指令碼,檢查修改bug時是否導致其他功能點...
2013個人小結
昨天開了年會,明天就放假了。想寫點東西記錄下2013年的得失,就算是對自己內心的一點交代。在這一年裡,對我來說,發生了很多改變。有收穫,也有失去 有歡樂,也有傷悲。一 關於工作。不僅僅是換了新公司,在新公司裡工作崗位也換過一次。從專案經理轉變成產品經理,對個人來說是個不小的挑戰,一直充滿激情的對待,...
2014 9 個人小結
時間很快,過年到現在 轉眼已經半年過去了。這半年很忙碌,做了很多任務作,產生了很多問題,無力吐槽。說一下自己技術方面的工作 首先是開源了兩個專案 rgeos 二維 和rgeos.slimscene 三維 嘗試理解二維gis系統和三維gis系統開發的內容。這個過程使自己得到不少提高。二維方面理解了基礎...