IBM 最新突破將大幅提公升深度學習速度

2021-09-23 06:52:11 字數 1782 閱讀 6883

近年來,處理器技術進入如此大,乙個像u盤那麼大的裝置現在都可以用於為神經網路提供能量。但是,企業通常很難充分發揮其計算能力,因為實施大規模人工智慧過程中還存在的根本挑戰。

這個問題和可擴充套件性有關,本周二ibm發布了一種名為分布式深度學習(distributed deep learning,ddl)的軟體庫來解決這個問題。深度學習是機器學習的乙個子集,旨在教計算機以人類相同的方式進行學習。例如,人們不會通過描述這個生物有4條腿、1個鼻子和1條尾巴的事實來識別出這是乙隻狗。一旦人們知道狗是什麼樣子,就會與貓做永久性的區分。深度學習試圖在軟體中複製這種方法。

大多數深度學習的框架都支援跨多個伺服器擴充套件大型模式的能力,很多現在也支援gpu,但是收集和同步分析結果的方式還遠遠不夠,ibm研究部門總監hillery hunter表示。

深度學習模式執行在計算機集群上,通過gpu進行增強,gpu晶元有數百萬個分布式和互相關聯的處理元素,其作用大致類似於人類大腦中的神經元。這些人造神經元一起處理資訊,就像人類的部分一樣,每個神經元都處理一小部分資料。當節點完成計算的時候,結果將同步在其他神經網路上,以幫助協調工作。

在ibm看來,這就是瓶頸所在。人造神經元部署執行在越快的gpu上,完成計算的速度就越快,意味著結果的同步更加頻繁。由於ai集群的構建方式,如果環境中晶元的數量增加,同樣適用。但是深度學習框架只能頻繁地同步資料。

因此,處理速度收到了資料在gpu之間傳輸的限制。ddl利用所謂的多層通訊演算法來改變這一平衡。這個軟體庫修改資訊傳送通過的網路路徑,以實現延遲和頻寬之間「最優化」的平衡,讓通訊不再是主要的瓶頸。

在一次內部測試中,ibm在乙個有數百個gpu的集群上部署了ddl,並從乙個受歡迎的研究資料集中傳送處理750萬個影象,將其分到22000個分類中的乙個或者多個。該模型在經過7個小時的訓練之後,可準確識別33.8%的物件,打包了之前微軟在經過10天訓練之後創下的29.8%的紀錄。

如果4%的改進聽起來不足為奇,而且整體成功率還比較低,這是因為這個模型遠比現實中遇到的更為複雜,ibm高效能計算及人工智慧副總裁sumit gupta表示。所以改進是循序漸進的,他指出,微軟此前的紀錄只比上一次改進了0.8%。這個基準測試旨在強調深度學習軟體,以證明研究人員真正構建了更好的模型。

ddl在訓練人工智慧開發的過程中尤其有用,這是整個專案生命中其中占用時間最長的之一。有時候模型需要花費幾周甚至幾個月的時間來處理樣品資料,才能變得足夠準確用於生產中。ibm稱,在某些情況下ibm的軟體庫可以將這個過程縮短至幾個小時。「如果需要16天時間訓練乙個模型如何識別新的信用卡,那麼這16天你就是在虧本的。」

深度學習在醫療場景中也很有用,例如組織分析,長時間的訓練關於生存或者死亡的問題。此外還有其他好處,如果乙個深度學習模型可以在數小時而不是數週時間內完成訓練,那麼就能釋放企業的人工智慧基礎設施,用於更快地完成其他專案和其他工作。

ibm還另外展示了如何利用ddl實現95%的擴充套件效率,相比之下facebook在此前的測試中記錄是89%。這兩個測試都使用了相同的樣本資料。

ibm表示,ddl幫助企業培訓他們的模型,實現此前由於時間限制而無法實現的速度和範圍。它將ddl軟體庫與所有主流深度學習框架相連線,包括tensorflow、caffee、chainer、torch和theano,都是在乙個開源許可下的。

ibm還將這個軟體庫融入到自己的powerai深度學習共計套件平台中,有免費和付費企業兩個版本,此外還有在minbix minsky power cloud上。gupta表示:「我們將通過powerai把它帶給每個人。」

原文發布時間為:

2023年8月9日

黃雅琦

IBM披露十大最新技術

ibm lotusphere 2008會議推出了一些新的協作技術。ibm還利用這次會議的機會展示了其全球各地的研究實驗室開發的軟體。下面是ibm展示的10個有潛力的新技術。不過,不要高興得太早。這些技術有的將應用到ibm的令人興奮的產品中,有的技術也許永遠也不會應用到產品中。1.bluegrass ...

IBM披露十大最新技術

ibm lotusphere 2008會議推出了一些新的協作技術。ibm還利用這次會議的機會展示了其全球各地的研究實驗室開發的軟體。下面是ibm展示的10個有潛力的新技術。不過,不要高興得太早。這些技術有的將應用到ibm的令人興奮的產品中,有的技術也許永遠也不會應用到產品中。1.bluegrass ...

軟銀旗下機器狗大突破 最新影片證明更加聰明與靈敏

軟銀旗下知名機械人公司 boston dynamics在2 月12日發布了一支新影片,來展示他們研發的機器狗 spotmini 最新的能力,懂得喊同伴來幫它開門,雖然影片只有 45秒,這個新突破卻引起了各方的關注。在影片中,第一只機器狗,先靠近門邊,看 到關注的門上有門把,就狀似 喊 來第二隻機器狗...