第一步模型壓縮
將深度學習模型應用到手機、嵌入式裝置,我們應該減少模型記憶體封裝,減少推斷時間和減少能源使用。有許多方式解決這些問題,例如量子化,權重簡直或者distilling 大模型到小模型.
本文使用在tensorflow中的量子化工具壓縮模型。縮減到8bit權重,沒有提供額外的好處例如減少推斷時間。時間甚至需要2倍,因為量子化工作對cpu沒有優化。
量化模型引數:
1 將模型寫入protocol buffer file
2 安裝tensorflow
3 執行下列**
bazel build第二步 使用tensorflow librarytensorflow/tools/graph_transforms:transform_graph
bazel_bin/tensorflow/tools/graph_transforms/transform_graph – in_graph = /.pb/file
– outputs = 「output_node_name」
– out_graph = /the/quantized/.pb/file
– transforms =』quantize_weights』
第三步 資料預處理
將資料處理成訓練資料的格式。特徵提取
手機應用,移動開發
移動開發也稱為手機開發,或叫做移動網際網路開發。是指以手機 pda umpc等便攜終端為基礎,進行相應的開發工作,由於這些隨身裝置基本都採用無線上網的方式,因此,業內也稱作為無線開發。移動應用開發是為小型 無線計算裝置編寫軟體的流程和程式的集合,像智慧型手機或者平板電腦。移動應用開發類似於web應用...
OCR深度學習應用
ocr技術識別文件的概括 我們常說的ocr 文字識別 ocr技術識別文件是指通過電子裝置等將紙質上的文字識別出來,形成可編輯的文字。ocr技術識別文件的流程 常規的ocr文字識別處理的過程包括 3 設定語種 選擇需要什麼ocr語種的引擎程式 4 輸出結果 輸出ocr識別結果為原版原樣的優質檔案 oc...
OCR深度學習應用
ocr技術識別文件的概括 我們常說的ocr 文字識別 ocr技術識別文件是指通過電子裝置等將紙質上的文字識別出來,形成可編輯的文字。ocr技術識別文件的流程 常規的ocr文字識別處理的過程包括 3 設定語種 選擇需要什麼ocr語種的引擎程式 4 輸出結果 輸出ocr識別結果為原版原樣的優質檔案 oc...