位元大陸AI芯助力百度飛槳遠航

2022-10-01 01:21:10 字數 2215 閱讀 1620

2020 年伊始,ai技術繼續深入發展,人工智慧場景規模化落地與應用持續創造著新的中國速度。隨著ai技術與傳統行業的不斷融合,智慧型經濟時代的全新產業版圖初步顯現。

進入智慧型時代,ai晶元和深度學習框架二者融合成為構建我國自主ai生態的關鍵。作為智慧型時代的作業系統,深度學習框架起到承上啟下的作用——上承應用、下接晶元;作為智慧型時代的核心大腦,ai晶元支援框架平台讓ai技術更加普及易用,為行業賦能更多應用場景。位元大陸最新算豐系列ai晶元與百度飛槳(paddlepaddle)深度學習框架的成功融合,在晶元利用率、效能功耗比等指標上相比傳統gpu更適合深度學習推理,是我國構建自主ai生態的典範。

paddle lite簡介

作為國內功能最完備的端到端開源深度學習平台,飛槳以其兼具靈活和效率的開發機制、工業級應用效果的模型、超大規模並行深度學習能力、推理引擎一體化設計以及系統化的服務支援,成為加快產業智慧型化公升級的主力軍。

paddle lite是飛槳推出的一套功能完善、易用性強且效能卓越的輕量化推理引擎。輕量化體現在使用較少位元數用於表示神經網路的權重和啟用,能夠大大降低模型的體積,解決終端裝置儲存空間有限的問題。推理效能也整體優於其他框架,以resnet50 模型為例,在高通驍龍 845 上,paddle lite相比其他框架,比mnn快10.26%,比ncnn快17.1%。近期已正式上線的v2. 3 版本更通過支援「無校準資料的訓練後量化」及網路結構與運算元優化,在不犧牲效能的條件下,將模型壓縮率提公升至75%,有效將模型體積大幅縮小,進而滿足移動及邊緣端裝置的輕量化需求。現在,搭載了位元大陸ai晶元的v2. 4 版本即將上線。

百度飛槳與位元大陸相容性認證書

通過對位元大陸ai晶元的適配,p程式設計客棧addle lite不僅可實現對多種硬體平台的相容,亦能更好地服務使用者實際業務需求、節省模型遷移時間、加快敏捷開發部署,極大豐富了飛槳的硬體生態。

paddle lite支援位元大陸算豐bm系列晶元

算豐晶元與飛槳整合效能

與百度同為國內人工智慧企業先行者的比程式設計客棧特大陸是世界上少數幾家有能力開發雲端人工智慧晶元的公司之一,並已成功推出四代人工智慧晶元(雲端晶元算豐bm1680、算豐bm1682、算豐bm1684,終端晶元bm1880)。憑藉多年技術積累與行業實踐,位元大陸ai晶元正在迅速成長為國產智慧型晶元陣營的中堅力量,為中國乃至全球的ai平台落地提供核心支撐。位元大陸開發的形態豐富的各種ai硬體產品均基於自主研發ai晶元,擁有完整的國內自主智財權和專利,同一套sdk和簡單易用的工具鏈支援多形態應用,充分滿足雲+邊的「新基建」算力基礎設施建設需求。

最新一代算豐bm1684 晶元,聚焦於雲端及邊緣應用的人工智慧推理,採用台積電 12nm 工藝,在典型功耗僅 16 瓦的前提下,int8 算力可高達 17.6tops,在 winograd 卷積加速下,int8 算力更提公升至 35.2tops,是一顆低功耗、高效能的 soc 晶元。其算力效能和效能功耗比指標業界領先,超過主流推理gpu,在效能滿足**分析業務需求的前提下,可以實現**結構化的單路成本最優。

算豐 1684 在飛槳框架上int8 執行resnet50 的效能指標

強強聯手合構ai生態圈

與此同時,位元大陸積極參與百度的黃埔學院計畫,進一步深化雙方合作關係,並成功合作開發執行百度「行人車輛」演算法的ss-5416c3 人工智慧一體機,交付於公安部安全與警用電子產品質量檢測中心進行檢測。此外,在接下發布的飛槳開源框架版本,也會完整實現對位元大陸編譯工具bm lang及相關profiler工具的支援。

隨著飛槳在穩定性、相容性和成熟度等方面不斷公升級,位元大陸ai晶元也在不斷提公升效能、優化指標,助力飛槳加速產業結合,二者聯手幫助產業實現智慧型轉型,為我國產業智慧型化發展貢獻力量。

關於飛槳

百度飛槳(paddlepaddle)是目前國內自主研發、開源開放、功能最完備的產業級深度學習平台,集深度學習核心框架、基礎模型庫、端到端開發套件、工具元件和服務平台於一體。飛槳源於產業實踐,致力於與產業深入融合,提供了領先的深度學習&機器學習任務開發、訓練、部署能力,加速企業從演算法研發到產業落地的過程。目前飛槳已廣泛應用於工業、農業、服務業等,服務 150 多萬開發者,與合作夥伴一起幫助越來越多的行業完成ai賦能。

關於位元大陸

位元大陸是全球領先的科技公司,在各種晶元製程標準下均具備領先的設計能力,是世界上少數有能力開發雲端人工智慧晶元的公司之一,並已成功推出四代人工智慧晶元。公司的人工智慧晶元適用於深度學習領域的專用張量加速計算,可廣泛應用於人臉識別、自動駕駛、城市大腦、智慧型政務、智慧型安防、智慧型推薦、智慧型醫療等諸多人工智慧場景。

本文標題: 位元大陸ai芯助力百度飛槳遠航

本文位址: /news/media/304390.html

Bit Z課堂 關於位元大陸的故事

作為世界第一大礦機廠商,在遭受礦工寒冬風暴的衝擊後,礦機銷售業大幅度下降,市值跌82.7 可位元大陸的問題僅僅是在於熊市嗎?位元大陸在經歷s7和s9的全盛時代後,再無驚豔之作。算力小,功耗小,自然受到礦工的追捧。但在研發s7和s9的核心技術人員相繼離開公司時,後面的礦機再無顛覆性的技術優勢,位元大陸...

位元大陸SC5 SC5 開發必讀

使用者得到了開發sdk包bmnnsdk2 bm1684和docker映象bm1684 ubuntu docker。安裝lib和驅動都是一次性的操作。cd bmnnsdk2 bm1684 v2.2.0 scriptsa x86模式 install lib.sh nntcb arm pcie 模式 in...

微位元礦池與位元大陸旗下螞蟻哨兵達成戰略合作!

近日,微位元礦池宣布與全球最大asic礦機生產商位元大陸旗下的螞蟻哨兵antsentry達成戰略合作,雙方將就技術 運維 市場 客戶服務等方面進行深度合作,聯手為全球礦工和礦場提供優質服務,讓挖礦程式設計客棧更簡單。螞蟻哨兵antsentry是由位元大陸研發的基於雲服務的礦機監控 運維和管理系統,為...