特斯拉超級計算機dojo!
dojo的發音源自日語,意指柔道中的練功房。dojo晶元不僅名字帶著「武俠氣息」,功能也十分強大,這一點從海報上「層層疊起」的晶元模組結構圖中或許可以窺得一二。
有業內人士對海報上的這張晶元圖進行了解讀。該業內人士認為,圖中的晶元採用了非常規封裝形式,第一層和第五層銅質結構是水冷散熱模組;紅色圈出的第二層結構由「5*5陣列」共25顆晶元組成;第三層為25個陣列核心的bga封裝基板;第四層和第七層可能是物理承載結構附帶一些導熱屬性;第六層或許是功率模組,上面豎著的黑色長條很可能是穿過散熱與晶元進行高速通訊的互聯模組。
馬斯克的這番話有兩個重點。第乙個重點是海量資料的收集。自動駕駛需要蒐集大量資料,進行神經網路訓練,讓車輛變得更聰明。現階段,特斯拉車輛在特定觸發條件下會對自動駕駛中的有效資料進行收集,但獲取到的資料量非常龐大。在這種情況下,作為特斯拉自身軟體優化過的定製超算,dojo晶元能夠大大提公升資料運算效率。
馬斯克口中的「做無人監管標註和訓練」是第二個重點。alpha go擊敗世界圍棋大師的案例大家都耳熟能詳,無監督訓練的範例—alpha zero。通過對弈,alpha zero僅僅用了三天時間就擊敗了alpha go lee,用21天打到了「alpha master」水平,一時間難覓對手。特斯拉的「無人監管標註和訓練」與alpha zero的無監督訓練一樣,指的是系統自身通過海量資料和以前學習的結果進行自動標註和調整,在無需海量研究人員的情況下對神經網路訓練進行監督,大幅提公升訓練效率。
通過高效收集海量資料,對資料進行超高效率計算,能夠做無監督訓練的dojo晶元給ai建了一間「練功房」。走出這間「練功房」後,dojo晶元很可能與alpha zero一樣,短期內在各自的領域難覓對手。
自動駕駛的必然選擇
特斯拉成功自研的fsd晶元是一款高效能、為自動駕駛安全保駕護航的專屬晶元,發布時在設計定製上做到了極致,更適應基於神經網路的計算。fsd晶元的高智慧型化並不足以讓馬斯克感到滿足。通過研發dojo晶元,馬斯克想在自動駕駛領域下更大的一盤棋。
馬斯克曾在推特上說,只有解決了真實世界的ai問題,才能解決自動駕駛問題。特斯拉在軟硬體方面均專注於此。無數的邊緣場景只能通過真實世界的視覺ai來解決,因為整個世界的道路就是按照人類的認知來建立的。確實,目前自動駕駛領域最需要解決的難題就是感知。
特斯拉搞超算做什麼?
cvpr自動駕駛工作坊的演講中,特斯拉的ai帶頭人,高階工程師karpathy介紹了特斯拉超級計算機的基本情況。
這台計算機群採用了5760個算力為321tflops的英偉達a100顯示卡,組成了720個節點,總算力突破了1.8eflops,10pb的儲存空間(讀寫速度為1.6tbps)。
根據計算能力來看,這台超級計算機排名世界第五。
不僅如此,特斯拉表示,不排除給其他公司提供超級計算機集群的可能性。
目前排名第一的超算是日本的「富岳」,在機器學習應用上的算力超頻之後是2.15eflops,默頻是1.95eflops。
與使用顯示卡的超算不同,「富岳」使用的是基於arm架構的a64fx處理器。
karpathy在演示中強調,特斯拉將堅定不移地將計算機視覺技術作為自動駕駛的核心,並且將自研的超級計算機用於神經網路的研究中去。
karpathy列舉了「肉腦」的幾大罪證:反應慢(250ms);需要轉頭和看後視鏡來判斷環境;不好好開車,喜歡玩兒手機。
緊接著就表示,「矽」腦不僅反應快,而且開車全神貫注,不會時不時地就去刷ins。
以特斯拉的風格,但凡講到自動駕駛,就一定要懟一下那個又貴又不好用的lidar。
karpathy 分享了特斯拉超級計算機如何利用計算機視覺來糾正駕駛員不良行為的一些場景,包括緊急制動、交通參與者監測以及紅綠燈識別等等。
另外在演示中,karpathy還展示了被稱為踏板誤用糾正的功能:當車輛檢測到前方有行人或者道路變窄的情況時,當駕駛員把油門當做剎車踩下,車輛則不會加速。
這項功能推出後不知道那些關於特斯拉失控的報道會不會有所減少。
經過多年研究,特斯拉團隊相信通過監督學習,實現車輛視覺系統對於外界的感知是乙個正確的路線。
要讓特斯拉自己的這套自動駕駛ai達到足夠的可靠性,還需要更多的時間,這也是為什麼特斯拉要製造超級計算機的原因。
這台超級計算機還不是特斯拉的終極目標,根據馬斯克的計畫,特斯拉未來的dojo超級計算機算力將要達到每秒鐘exaflop的級別,也就是百萬億億次浮點運算。
運算速度還要超過「富岳」,成為世界第一。
dojo:給ai打造的「練功房」
特斯拉在去年的自動駕駛大會上公布了dojo計畫:dojo將會成為特斯拉用於研發自動駕駛技術的平台。
在2023年的自動駕駛技術日上,馬斯克不僅向公眾展示了由jim keller帶隊研發出來的fsd晶元(目前算力最高的駕駛輔助晶元之一),宣布了特斯拉未來將會成為一家robotaxti公司的野心。
dojo是特斯拉在自動駕駛之路上乙個不可或缺的技術平台。
dojo發音源自日語,意為在冥想術或者武術中的「練功房」。
未來1.5pb的資料將在這裡「刻苦修煉」。
在超高算力的支援下,特斯拉將會在視覺感知的自動駕駛技術路線上一路狂奔。
馬斯克說過,特斯拉就是一系列初創公司的集合,超級計算機可以看做其中乙個初創公司的專案。
英特爾、amd這些晶元大佬們沒想到,居然從汽車圈裡突然跑出來乙個如此強大的對手。
Linux稱霸超級計算機領域
在世界超級計算機500 強排行榜中,基於 linux 的超級計算機佔據了 462個席位,比率高達 92 基於 windows 的超級計算機僅有 2個席位,份額為 0.4 中國基於 windows 的超級計算機 magic cube 排名94 位,澳大利亞基於 windows 的csiro gpu 集...
超級計算機研究報告
內容簡介 隨著計算技術的發展,科學計算對超級計算機的計算能力提出了越來越高的需求,超級計算機為解決國家經濟建設 科學進步 等一系列重大挑戰性問題提供了不可替代的重要作用。本研究報告對超級計算機這一課題進行了簡單梳理,包括以下內容 作者簡介 aminer平台,由清華大學計算機系研發,擁有我國完全自主智...
盤點OLCF的超級計算機
oak ridge national laboratory 橡樹嶺國家實驗室,是美國能源部下面的乙個實驗室,成立於1943年。oak ridge leadership computing facility 簡稱olcf,超級計算機基礎設施 2019年cray已經被hpe收購 也可以看出超算的核心玩家...