異構計算 軟硬體結合全棧助力AI大爆發

2021-08-28 11:05:30 字數 2727 閱讀 6116

9月20日上午,杭州雲棲小鎮e1-2會場,備受業界關注的2023年杭州雲棲大會異構計算專場召開。

近年來,人工智慧持續爆發,對算力提出了更高的要求。異構計算作為大計算時代的解決方案,意在打破傳統通用計算的限制,融合不同指令集和體系架構的計算單元,完美支援大計算場景。

讓每乙個晶元都發揮最大效能

首先,阿里雲彈性計算負責人,阿里雲研究員餘鋒,帶來了精彩的開場。餘鋒以攝影來開啟話題:每乙個鏡頭都會有特別的定位,在某個場景下合適但是另外場景會力不從心,異構計算的精髓也是如此,即讓每乙個晶元都發揮最大效能,揚長避短。

餘鋒說:異構計算帶來的計算效率提公升是指數級的,但是需要有配套工具,基礎設施等等。阿里雲正在逐漸讓這個門檻變低,並且和業內一起構建技術生態,讓異構計算普惠行業,幫助合作夥伴和客戶不斷創新。

gn6例項 f3例項全面商業化

議題階段,首先登場的是阿里雲高階產品專家潘岳。潘岳首先介紹了正在全面商業化推進的gn6例項和f3例項。gn6例項搭載nvidia volta架構的tesla v100計算卡,相對於上一代產品可以提供12倍的運算能力提公升。而基於阿里雲faas(fpga as a service)舜天平台的f3例項搭載xilinx 16nm virtex ultrascale+器件vu9p,對比上一代產品,邏輯容量增加4倍,dsp能力提公升8倍。

兩大平台:昊天 和 舜天,全面助力企業創新

隨後,潘岳首次揭秘了阿里雲異構計算兩大平台:昊天egs平台和舜天faas平台;分別對應異構計算領域兩大熱門晶元方案:gpu和fpga。潘岳指出,阿里雲異構計算平台技術在阿里巴巴內部已經完成和多項業務的順利融合,歷經大範圍高壓測試,已然非常成熟。除此之外,異構計算全系產品與阿里雲生態深度無縫融合,可以和傳統的通用計算共用雲上的全套服務。

在改善使用者使用體驗上,阿里雲異構產品持續提供多種工具,來讓異構產品更易用,這其中包括了方便開發部署的容器映象工具,實時監測gpu狀態的運維工具,以及神經網路框架優化的增值服務等。此後,潘岳分享了阿里雲fpga雲伺服器落地的業務場景。最後,在異構生態建設上,潘岳強調,阿里雲積極引入國內外眾多的解決方案**商,共同構建完善異構生態體系,為企業客戶提供高效能的加速解決方案。

昊天平台揭秘

論壇的第二個議題由阿里雲資深技術專家龍欣帶來,對昊天egs平台進行了詳細的剖析。龍欣指出阿里雲異構計算的gpu雲服務,在算力水平擴充套件趨勢背景下,已經從gpu加速器的單點突破,向全面的平台體系演進。

今天的演講第一次披露了阿里雲昊天egs平台的服務體系:昊天平台在集群計算上,為不同規模的客戶提供了從gpu集群運維監控,到底層cuda驅動,再到中間框架加速層快速一鍵部署,和gpu集群分布式業務層定製化調優的全面專業服務。演講還分享了昊天平台在底層基礎設施層的技術架構:gpu虛擬機器的熱公升級技術、與amd聯合開發的公共雲首個基於sriov的gpu熱遷移技術、神龍gpu技術與超級計算gpu集群技術。

成熟客戶案例立體呈現

來自微博的資深技術專家黃波,從客戶的角度,詳細介紹了基於阿里雲異構計算平台的深度學習案例。同時,黃波先生還從自身體驗出發,總結了雲端深度學習的優勢:彈性,集群化管理,高效能,和專業服務等等。

舜天平台揭秘

第四個登場的是阿里雲資深技術專家張振祥,帶來了對阿里雲faas舜天平台的詳細剖析。議題指出阿里雲faas舜天平台是雲上輸出fpga高價效比算力的使能器,大幅降低了fpga的應用門檻。圍繞著「易用性、穩定性、可擴充套件性和安全性」的設計理念,舜天平台做了大量的軟硬體創新。

張振祥強調,以舜天平台為依託,阿里雲願與業界的合作夥伴和客戶並肩攜手,打造fpga異構計算的健康而強大的生態圈。隨著雲計算和人工智慧的進一步普及,fpga的器件和技術將獲得進一步的提公升和改善,更好地適用大算力的應用場景,服務更多的垂直市場。演講過程中,現場反應熱烈,業界同仁對共建生態圈體感強烈。

舜天平台助力阿里高效能時序資料庫

最後,阿里巴巴技術專家錢贇介紹了基於阿里雲舜天平台的高效能時序資料庫。從實際案例出發,再次驗證了舜天平台的效能極致,資源易用,ip安全,同時又可以大幅降低計算成本等特性。

阿里雲在異構計算上的逐步深入和成熟,正在幫助越來越多的企業在雲上實現創新和突破。比如剛剛在ms coco大賽獲得4項世界冠軍的曠視科技就是阿里雲異構計算的深度使用者。客戶的成功一直是阿里雲的訴求和共同目標,一起來用異構計算開啟大計算時代吧。

異構計算 軟硬體結合全棧助力AI大爆發

摘要 2018杭州雲棲大會,異構計算專場精彩回顧 9月20日上午,杭州雲棲小鎮e1 2會場,備受業界關注的2018年杭州雲棲大會異構計算專場召開。近年來,人工智慧持續爆發,對算力提出了更高的要求。異構計算作為大計算時代的解決方案,意在打破傳統通用計算的限制,融合不同指令集和體系架構的計算單元,完美支...

計算機軟硬體概論計算機軟硬體概述

計算機的組成分為軟體與硬體。一些物理裝置按系統結構的要求構成了乙個有機整體為計算機軟體執行提供物質基礎。計算機硬體組成 組成乙個計算機最簡單的配置 馮.諾依曼體系結構 馮.諾依曼 可以稱為計算機之父,但他更願意把這個稱號送給圖靈。但圖靈更應該稱為人工智慧之父!計算機軟體可以使計算機按照事先預定好的順...

Gartner分析 雲計算壓制傳統軟硬體銷售量

gartner公司雲計算分析師edanderson表示,企業在雲計算方面的支出正在快速增長,增長速度甚至超越整體it支出,這無疑給傳統硬體和軟體 商帶來挑戰。在2012年,雲計算預計將增長19 市場總額將達到1090億美元,而去年僅為910億美元。根據anderson的最新調查發現,到2016年,雲...