容器生態圈新的創新方向
2023年容器技術圈的年終盛典北美kubecon終於在西雅圖落下了帷幕。這次北美kubecon總共吸引了8000多觀眾參會,創下歷史新高。先放一張圖來感受下現場的火爆程度。
關注kubernetes的小夥伴應該已經感覺到了,與觀眾參會熱情形成鮮明對比的是,這屆kubecon傳遞出了乙個訊號:針對kubernetes本身的變化越來越少,我們也越來越難看到那些激動人心的大特性。kubernetes正變得「無聊」已經成了乙個既定的事實。
對kubernetes核心來說,「無聊」並不見得是件壞事,這是乙個專案成熟的標誌。現如今kubernetes已經日益成為公有雲/企業it系統的基礎設施,並且朝著大規模,複雜場景的方向延伸,與ai、大資料、iot、以及垂直行業等領域的結合越來越緊密。近來,越來越多圍繞kubernetes生態圈的創新,正在這些領域發生著。比如,這次在北美kubecon亮相的由華為開源的kubeedge專案,就給人一種眼前一亮的驚喜,讓人不由地驚呼 「哦,原來kubernetes還能在邊緣計算上玩!」 在感嘆kubernetes的強大魅力同時,也不得不佩服華為工程師們的創造力——要知道,邊緣計算與雲計算的場景有很大的區別,用k8s跑邊緣計算,之前更多還只是停留在討論階段,實踐過程中的坑不勝列舉,華為居然做到了,而且還開源了!
k8s iot edge working group
2023年既是容器和kubernetes收穫普遍讚譽的一年,也是邊緣計算加速行業落地和應用的一年。邊緣計算的「邊緣」是指我們日常生活中無處不在、影響著我們衣食住行的各式各樣的端點裝置,比如:手機、攝像頭、路由器、自動駕駛汽車,工業機械人等。與集中式的計算模型相比,邊緣計算可以為企業/使用者提供低延遲,高效能的服務,保證資料的本地化和安全,解決本地資料人工智慧等問題。然而,物聯網世界的異構性和工業系統資產的長生命週期等特點給邊緣裝置的管理帶來了嚴峻的挑戰。gartner直接把邊緣計算列為下乙個十年的關鍵技術方向。
kubernetes引領的以容器為中心的it基礎設施變革方興未艾,就已經有人在謀劃下乙個「十年」了。既然kubernetes已經成為了容器化編排的事實標準,並且持續在雲端持續發揮著魔力,那麼乙個直覺的想法就是能否讓kubernetes把這種魔力帶到邊緣計算的場景呢?
然而,當kubernetes真正涉及到邊緣側部署時,仍然存在不少挑戰,例如:
1. 邊緣側可能沒有足夠的資源執行乙個完整的kubelet;
2. 當邊緣節點和雲端的網路不穩定時甚至完全不通時,能否實現本地自治;
3. 邊緣側節點之間通訊;
4. 如何在雲端管理多租戶的邊緣資源,包括裝置;
5. 邊緣側沒有serverless的支援,比如:函式。
為了解決這些挑戰,華為,谷歌,紅帽,vmware共同在kubernetes社群發起成立了乙個新的工作組:iot edge working group,目的就是為了提高kubernetes在邊緣場景下的部署能力。
kubecon進行到第三天的時候,四位分別來自華為,紅帽,思科和oort公司的工程師們進行了一次圓桌會議,會議主題就邊緣計算面臨的技術挑戰和未來發展趨勢。
來自華為的架構師cindy xing(kubernetes社群iot edge工作組的co-chair)在圓桌會議中談到了雲計算、容器和邊緣計算的關係——不同於雲計算,邊緣計算意味著幾十萬分布在不同地理位置的邊緣節點和百萬甚至上億的末端裝置。邊緣計算規模和地域跨度遠遠超過資料中心。雲所能提供的頻寬將無法滿足邊緣的需求。同時邊緣和雲之間的連線是不穩定的。邊緣側需要實現在和雲斷網的情形下實現自治,同時又需要和雲連線實現集中的管理和批量的應用部署管理。如果對著幾十萬的邊緣節點去分別部署更新應用,這個消耗是無法想象的。另外邊緣計算中,裝置極其多樣,裝置的通訊協議也很不同。裝置可以是128mb、1cpu的raspberry-pi,也可以是多核,gb記憶體的伺服器。裝置通訊協議既可以是http/amqp/mqtt,還可以是bluetooth,zigbee等等。邊緣計算將比雲計算複雜的多。對於開發者來說,乙個應用在辦公室開發驗證後,將希望應用直接部署在邊緣,無需焦慮功能問題。容器的可移植性正好滿足了這個需要。
正是看到了k8s和邊緣計算存在的天然契合點,華為開發並開源了kubeedge——業界首個基於kubernetes的多租、可擴充套件、相容k8s api的容器應用的邊緣計算平台。kubeedge也是k8s iot edge working group輸出的使用kubernetes支援邊緣計算的乙個參考範例。
kubeedge:k8s與邊緣計算的結合
kubecon第四天的時候,華為為cncf iot/edge的社群會員組織了一次小型聚會。
在這次輕鬆隨意的聚會上,k8s/cncf社群成員坐下來,聊聊天,分享各自對邊緣計算的場景需求和技術理解。華為的工程師演示了華為雲的邊緣計算產品ief。在隨後的kubecon cncf iot/edge deep dive,co-chair cindy xing深度介紹了ief的開源實現kubeedge的架構,功能和未來發展路標。
針對邊緣計算場景下的痛點,kubeedge為使用者提供了基礎的網路設施,使用kubebus可以實現邊緣和雲,邊緣和邊緣的網路路由通訊。借助雲和邊的metastore以及之間的同步,kubeedge解決了雲邊斷網,頻寬的問題並實現邊緣側自治。在kubeedge裡,appengine是個輕量化的**, ~10mb的執行時記憶體消耗意味著它幾乎可以跑在任何裝置上。appengine保持k8s的資料模型和通訊協議,通過和容器引擎互動,管理容器應用的生命週期,反饋容器應用的執行狀態。
從功能上看,kubeedge打通了從底層裝置到裝置驅動/sdk,再到邊緣側runtime,雲端控制器以及雲上應用整個軟硬體全棧,它為iot廠商,開發者和iot應用企業帶來了乙個解決方案和平台。
從架構看,kubeedge包括雲端和邊緣側兩套元件。邊緣側對裝置支援mqtt協議,採用了模組化設計,由edged,metamanager,devicetwin,eventbus,edgehub這五個模組構成,模組之間通過golang的channel進行通訊。
edged就是為邊緣計算深度定製的精簡appengine。雖然精簡,但這個appengine支援k8s的api原語,比如:pod,volume,configmap等,同時也支援pod探針和event上報。
edgehub是乙個web socket的client,負責和雲端的訊息通訊,包括:向邊緣側同步雲端資源更新,向雲端報告邊緣側節點和裝置狀態更新,這條資料通道也就是上文提到的kubebus。
metamanager則是乙個訊息處理器,是架在edged和edgehub之間的橋梁,同時也和後端data store互動,讀寫一些元資料;
eventbus則是邊緣節點和裝置的之間的紐帶,他既可以從mqtt broker處訂閱裝置狀態更新事件,並向其他感興趣的元件發布,也可以向mqtt broker傳送對裝置的操作指令,同時雲上app和使用者自己部署在edge的應用通訊,也走eventbus。
devicetwin則負責儲存裝置元資料到data store以及和雲端同步裝置狀態,使用者可以從雲端下發的對裝置操作指令發布給devicetwin。kubeedge在邊緣側對裝置支援mqtt協議,並且提供裝置影子服務。裝置目前可以通過mqtt broker(mosquitto)註冊進來。
在cindy看來,kubeedge的架構做到了雲、邊松耦合,邊緣可以在斷網條件下自治,並在網路恢復後和雲側進行同步。kubeedge引入了k8s強大的容器編能力,客戶可以像管理雲上k8s集群一樣方便地管理邊緣節點和部署應用,這對熟悉k8s的使用者來說,無疑是個福音。
未來工作
kubeedge目前已包含了邊緣側的完整實現,雲側的開源工作正在緊鑼密鼓地籌畫中,相信很快也會開源,詳見專案位址:
kubeedge自11月kubecon china宣布開源以來,引起了廣泛關注,一度登上github trending榜單。目前star 220+,fork 50+,slack使用者和開發者群成員50+,並且吸收了多名外部**貢獻者。
未來,華為將繼續完善kubeedge,包括但不限於:
支援更多的裝置接入協議:amqp,藍芽,zigbee等;
支援超大規模節點和裝置管理;
和istio結合構建服務網格能力;
在邊緣側提供函式服務;
支援裝置通過mqtt協議直連雲端;
邊緣節點使用udp hop來通訊;
引入智慧型排程功能。
華為也歡迎參任何感興趣的廠商和開發者參與kubeedge社群,共同推動邊緣計算的創新。我們預計今後一到兩年邊緣計算會有突飛猛進的發展,我們完全有理由相信取得先發優勢的kubeedge將會打造乙個新的生態。
北美KubeCon新風,正把K8S魔力帶向邊緣計算
審校 kevin wang 1.容器生態圈新的創新方向 2018年容器技術圈的年終盛典北美kubecon終於在西雅圖落下了帷幕。這次北美kubecon總共吸引了8000多觀眾參會,創下歷史新高。先放一張圖來感受下現場的火爆程度。關注kubernetes的小夥伴應該已經感覺到了,與觀眾參會熱情形成鮮明...
北美求職記
反思 1 雖然已經老大不小,入行也十年了,可做事不專,什麼都知道一點,什麼都不精。一定要改變這種狀況。成為某個有前景領域的專家。2 找工作時一定要注意是否能在工作中學到新的東西,且工作中用到的東西是正在過時還是會永續性的有前景。比如 mfc,嵌入裝置相關的知識正在迅速貶值,而機器學習,海量資料處理方...
KubeCon,騰訊秀出開源「肌肉」
企業級容器雲平台tke 容器服務網格tke mesh tke mesh實現了服務網格的開箱即用 全面管控等目標。在提供了網格建立 控制面元件公升級與伸縮等能力的基礎上,覆蓋了服務從建立,更新到銷毀等生命週期所需要的全套服務治理能力。下一代無伺服器計算平台serverless 2.0 在技術上,通用統...