雲上快速搭建Serverless AI實驗室

2021-09-24 13:20:50 字數 1557 閱讀 5744

serverless kubernetes和ack虛擬節點都已基於eci提供gpu容器例項功能,讓使用者在雲上低成本快速搭建serverless ai實驗室,使用者無需維護伺服器和gpu基礎執行環境,極大降低ai平台運維的負擔,顯著提公升整體計算效率。

在pod的annotation中指定所需gpu的型別(p4/p100/v100等),同時在resource.limits中指定gpu的個數即可建立gpu容器例項。每個pod獨佔gpu,暫不支援vgpu,gpu例項的收費與ecs gpu型別收費一致,不產生額外費用,目前eci提供多種規格的gpu型別。

選擇深圳區域,可用區d。

部署後pod會處於pending狀態:

等待幾十秒後pod狀態變成running,待計算完成後會變成terminated狀態。

從pod的日誌我們可以看到pod能夠識別p100 gpu硬體,而且可以正確識別為panda。

通過以上示例可以看出,從環境搭建到計算結束,整個過程使用者無需購買和管理伺服器,無需安裝gpu執行環境,serverless的方式可以讓使用者更加關注在ai模型構建,而不是底層基礎設施的管理和維護。

雲上快速搭建Serverless AI實驗室

serverless kubernetes和ack虛擬節點都已基於eci提供gpu容器例項功能,讓使用者在雲上低成本快速搭建serverless ai實驗室,使用者無需維護伺服器和gpu基礎執行環境,極大降低ai平台運維的負擔,顯著提公升整體計算效率。在pod的annotation中指定所需gpu的...

上雲實戰 快速掌握阿里雲API閘道器

api 閘道器 api gateway 提供高效能 高可用的 api 託管服務,幫助使用者對外開放其部署在 ecs 容器服務等阿里雲產品上的應用,提供完整的 api 發布 管理 維護生命週期管理。使用者只需進行簡單的操作,即可快速 低成本 低風險地開放資料或服務。輔助使用者簡單 快速 低成本 低風險...

在阿里雲上搭建個人部落格

1.購買網域名稱 伺服器,網域名稱備案 2.使用xshell登入伺服器,安裝寶塔面板 安裝命令 yum install y wget wget o install.sh sh install.sh 公升級命令 curl 開放寶塔要使用的埠號 到這一步說明安裝成功了,這裡有後台位址 使用者名稱 密碼,...