2019-05-04 05:06:00
隨著大資料、雲計算、人工智慧等技術的發展成熟,企業級it領域也迎來重大變革。聚焦到單個板塊,如在伺服器市場上,傳統網際網路時代,我們聽到的更多是機架伺服器、塔式伺服器及刀片伺服器。
而在即將到來或者說已經到來的人工智慧時代,我們更多的是聽到ai伺服器這一名詞。那麼,究竟什麼是ai伺服器,ai伺服器又為何適用人工智慧時代?在本文中,筆者也將解答ai伺服器的這些困惑,主要涉及ai伺服器的定義、優勢及市場現狀3方面。
ai伺服器的定義
從硬體架構來看,ai伺服器主要指的是採用異構形式的伺服器,表現形態多為機架式。在異構方式上,可以為cpu+gpu、cpu+fpga、cpu+tpu、cpu+asic或cpu+多種加速卡。
而在其他組成部件上,如記憶體模組、儲存模組、網路模組與傳統伺服器差別不大,主要的提公升便是支援更大容量的記憶體滿足當下實時負載增加的需求,提供更多外接硬碟插槽,並廣泛支援nvme/pcie等ssd,滿足資料洪流需求,網路模組主要表現為頻寬增加。
儘管ai伺服器可以採用多種異構形式,但目前廣泛使用的是cpu+gpu。也因此,業界在談到ai伺服器時,往往將其預設為gpu伺服器。因此,在第二部分中,筆者談到的ai伺服器優勢也主要為gpu伺服器。
ai伺服器的優勢
我們都知道,傳統伺服器主要以cpu為算力提供者。而cpu為通用型處理器,採用序列架構,擅長邏輯計算,負責不同型別種類的資料處理及訪問,同時邏輯判斷又需要引入大量分支跳轉中斷處理,這使得cpu的內部結構複雜。也因此,cpu算力的提公升主要靠堆核來實現。
隨著雲計算、大資料、ai、物聯網等技術應用,資料在近幾年呈指數型增長,idc統計顯示全球90%資料均在近幾年產生,這便對cpu的處理能力提出考驗,而目前cpu的物理工藝、核心數已接近極限,資料量卻不會停止,伺服器的處理能力必須提公升。因此,在ai時代下,僅由cpu做算力提供者的傳統伺服器並不能滿足需求。
不同於cpu,gpu採用平行計算模式,單卡核心數達到上千個,擅長處理密集型運算應用,如圖形渲染、計算視覺和機器學習。經過幾年驗證,搭載gpu的伺服器也被證實的確適用這個時代。
ai伺服器市場現狀
idc全球半年度人工智慧系統支出指南**顯示,2023年全球人工智慧系統支出將達到358億美元,相比2023年增加44.0%。同時,人工智慧系統支出到2023年將翻一番達到792億美元,2023年到2023年**期內復合年增長率(cagr)為38.0%。
這一數值也意味著,ai伺服器的市場有多廣。也因此,全球幾大伺服器廠商均緊鑼密鼓部署著ai伺服器。
而在ai伺服器上,目前效能最強的為浪潮ai超級伺服器agx-5,agx-5是專為深度學習和高效能計算的效能擴充套件設計,單機在8u空間裡可以配置16顆nvidia tesla v100 tensor core 32gb gpus,擁有10240個張量計算核心,計算效能高達每秒2千萬億次。
伺服器市場發展迅速,香港伺服器倍受青睞
網際網路 時代的到來,人們的消費模式從線下轉移到線上,使得伺服器市場也隨之迎來了鼎盛時期。個人 及中小企業對伺服器的需求逐漸膨脹,伴隨而來的便是對市場細分服務 產品質量更高的要求。大陸伺服器市場相比於香港地區,發展時間較短 專業度較低 行業整體水平還處於混亂的萌芽狀態。香港因其經濟特區的身份地位,與...
為什麼要租用伺服器,租用伺服器有什麼好處
有效降低人力成本 選擇伺服器租用,會有專業的人士根據你的需求訂製相關的伺服器配置,這是在伺服器租用的前期上就能體現很大的效益了,而在日常維護中,能更好的幫助你進行維護,不用你太擔心,眾誠網路科技提供了專業的人士進行維護,提供了7x24小時的維護,這樣的話能有效滿足你的伺服器需求,如果伺服器出現了問題...
伺服器cpu型號解讀 我自用的伺服器,有的要不
咱這面不是前段時間賣伺服器麼,賣出去一波。應該是10月15號往後的30天,我完全就把cfd的東西給扔了,我勒個去,事太多,後來叫停了。叫停之後,我又開始回歸cfd了,繼續演算法,繼續程式設計,爽的很。但是,我勒個去,之前一筆一筆3萬多的進賬,停了之後沒錢進來了。虛的很啊!吃慣了4600的早餐,再吃4...