tinyml 的主要受益者,是邊緣計算和節能計算領域。tinyml 源自物聯網 iot 的概念。物聯網的傳統做法,是將資料從本地裝置傳送到雲端處理。一些人對這一方式在隱私、延遲、儲存和能源效率等方面存在疑慮。
上述問題推動著邊緣計算的發展。邊緣計算的理念就是在部署在雲「邊緣」的裝置上實現資料處理功能。這些邊緣裝置在記憶體、計算和功能方面都高度受限於裝置自身的資源,進而需要研發更為高效的演算法、資料結構和計算方法。
以前,裝置執行的各種操作必需基於複雜的積體電路。現在,機器學習的硬體「智慧型」正逐漸抽象為軟體,使得嵌入式裝置更加簡單、輕量級和靈活。
使用嵌入式裝置實現機器學習,需解決巨大的挑戰,但在該領域也取得了長足的進步。在微控制器上部署神經網路,關鍵挑戰在於低記憶體占用、功率受限和計算受限。
智慧型手機是最典型的 tinyml 例子。手機一直處於主動聆聽「喚醒詞」的狀態,例如 android 智慧型手機的「你好,谷歌」,以及 iphone 的「你好,siri」。如果通過智慧型手機的 cpu(主流 iphone 的 cpu 已達 1.85 ghz)執行語音喚醒服務,那麼電池電量會在短短幾個小時內耗盡。這樣的電量消耗是不可接受的,而語音喚醒服務大多數人每天最多使用幾次。
為了解決這個問題,開發人員建立了可以用小型電池(例如 cr2032 鈕扣電池)供電的專用低功耗硬體。即使 cpu 未執行(通常表現為螢幕並未點亮),積體電路也能保持活躍狀態。
這樣的積體電路消耗功率僅為 1mw,如果使用標準的 cr2032 電池,可供電長達一年。
雖然有些人不覺得這有什麼了不起的,但這是非常重要的進步。許多電子裝置的瓶頸就是能源。任何需要市電**的裝置,其使用都受電力佈線位置的限制。如果同一位置部署了十幾台裝置,可能電源會很快不堪重負。市電的效率並不高,且代價昂貴。將電源電壓(例如美國使用的 120v)轉換為典型的電路電壓範圍(通常約為 5v),會浪費掉大量的能量。膝上型電腦使用者在拔充電器時,對此都深有體會吧。充電器的內部變壓器所產生的熱量,就是在電壓轉換過程中被浪費掉的能量。
即使裝置自帶電池,電池續航也是有限的,需要頻繁充電。許多消費類電子裝置的電池,設計上可持續使用乙個工作日。一些 tinyml 裝置可以使用硬幣大小的電池持續執行一年,這意味著可將此類裝置部署在一些偏遠的環境中,僅在必要時進行通訊,以節省電源。
在一台智慧型手機中,喚醒詞服務並非唯一無縫嵌入的 tinyml 應用。加速度計資料可用於確定使用者是否剛拿起手機,進而喚醒 cpu 並點亮螢幕。
顯然,這些並非 tinyml 的唯一用武之地。實際上,tinyml 為產品粉絲和企業提供了大量令人興奮的應用,用於實現更智慧型的 iot 裝置。在當前資料變得越來越重要的情況下,將機器學習資源分發到遠端記憶體受限裝置的能力,為農業、天氣預報或**等資料密集行業提供了巨大機遇。
目前,tinyml 主要的兩個重點應用領域是:
tinyml 演算法的工作機制與傳統機器學習模型幾乎完全相同,通常在使用者計算機或雲中完成模型的訓練。訓練後處理是 tinyml 真正發揮作用之處,通常稱為「深度壓縮」(deep compression)。
機器學習簡介
機器學習簡介 機器學習是人工智慧的乙個分支。人工智慧的研究是從以 推理 為重點到以 知識 為重點,再到以 學習 為重點,一條自然 清晰的脈絡。顯然,機器學習是實現人工智慧的乙個途徑,即以機器學習為手段解決人工智慧中的問題。機器學習在近30多年已發展為一門多領域交叉學科,涉及概率論 統計學 逼近論 凸...
機器學習 簡介
機器學習,即人工智慧的乙個分支,人工智慧目前具有一定的限制,無法突破強人工智慧,即無法像人類一樣思考,感受等。機器學習其實就是通過大量的資料輸入,找出符合資料集的演算法模型,在輸入新的資料集時在進行判斷其屬性,是數學 計算機和統計學的集合。類似於人類的學習經驗,使用經驗判斷的過程。機器學習在於區分和...
機器學習簡介
機器學習101 在這篇博文中,我們將從以下幾個方面簡要地向大家介紹一下機器學習。如果你不是這方面的專家,也不需要擔心,因為在這篇博文中談及的內容僅需要高中的數學知識就足夠了。什麼是機器學習?牛津詞典將機器學習定義為 the capacity of a computer to learn from e...