摘要:CCE Turbo是華為雲推出的一款革命性容器叢集。
5月31日,在華為雲Techwave雲基礎設施技術專題日上,華為雲容器批量計算首席架構師馬達對CCE Turbo的技術内幕進行了深度解讀,CCE Turbo是華為雲推出的一款革命性容器叢集,在華為開發者大會(Cloud)2021上正式釋出,通過計算、網絡、排程的全方位加速,為企業應用創新提速。
為了解決叢集伺服器性能無法完全發揮的問題,華為雲基于擎天架構的軟硬協同能力,推出了業界獨家的容器解除安裝技術,并應用到CCE Turbo,讓叢集資源100%用于業務處理。同時,通過對引擎進行瘦身、優化内部執行邏輯及核心子產品重寫,如基于Rust語言重寫了 shimv2 和 agent,減少了程序數量、通過代碼優化減少記憶體消耗,提升容器啟動性能和Cgroup管理能力,同時結合擎天卡的高能性處理能力,将叢集整體性能提升40%,資源使用成本節省30%。
網絡連通速度、轉發效率一直是業務應對大流量時所面臨的挑戰,華為雲基于雲原生2.0“IN Cloud”理念,打造了全新的雲原生網絡,利用Trunkport技術為網絡全面加速。
Trunkport技術使得容器可直通VPC網絡,将原有的“容器網絡 + 虛拟機網絡“的兩層模型變為一層,網絡資源連通時間縮短一半,有效支撐業務30秒内擴容1000容器執行個體,輕松應對流量浪湧,同時也将網絡通信時延降低了40%,讓應用通路更流暢;
CCE Turbo還率先在業界實作了為容器配置獨立安全組和QoS,相比目前其它廠商容器與叢集節點共享安全組的方案,不僅增強了容器通信安全性,還提升了大流量的轉發效率。此外,CCE Turbo還基于CRD機制擴充了Kubernetes對象,用于實作各種複雜安全隔離訴求,并進一步簡化容器安全組的配置。
企業核心業務全面雲原生化後,如何提升排程效率、提升叢集使用率,是困擾很多企業的難題。CCE Turbo基于Volcano實作了三大核心排程能力:
線上離線混合排程:CCE Turbo将企業離線和線上業務在同一叢集中混合部署,相比之前不同業務分叢集部署,極大的降低了運維工作量,同時,根據線上、離線業務的不同需求進行靈活排程,如:當線上業務通路量低時,CCE Turbo可将空閑資源用來運作離線計算業務(如離線分析、模型訓練等),而當業務高峰來臨前,會自動釋放離線業務占用的資源,保障線上業務對資源的訴求;
應用感覺智能排程:為了進一步提升混合部署後的叢集使用率,通過感覺應用模型(如web類應用、Tensorflow的PS和worker、Spark的Driver和executor等),針對不同應用模型對資源的訴求、應用負載情況,通過資源按需搶占、分時複用等機制,減少叢集資源的空閑比例;并通過感覺任務間拓撲結構,将各任務排程到最佳節點上,減少因網絡瓶頸、資料跨節點傳輸等帶來的時間損耗,進而可以将叢集使用率提升2倍;
大規模分布式排程:為了保障業務混合部署後,海量任務并發排程的難題,CCE Turbo推出了分布式架構的任務排程器,提升吞吐能力,并通過排程算法剪枝,減少尋址深度和廣度,同時結合排程決策複用機制,可将排程尋址時間縮短10倍以上,實作每秒1萬容器的大規模并發排程。
VIPKID作為CCE Turbo的早期使用者,已充分享受到CCE Turbo三大加速為業務帶來的價值,本次專題日上,VIPKID後端研發進階專家慈轶恒在分享中表示,“使用CCE Turbo後,VIPKID音視訊業務在各方面的名額都得到了不同程度的優化,同等規格叢集性能較之前提升了40%,業務互動時延降低了40%,使得使用者體驗進一步提升,整個業務成本節省43%左右,很好的控制了業務高速增長期的IT成本增長速度。”
作為最早一批投身雲原生技術的廠商,華為雲是雲原生計算基金會(CNCF)在亞洲唯一的初創成員,社群代碼貢獻和Maintainer席位數均位居亞洲第一,并貢獻首個雲原生智能邊緣項目KubeEdge和批量計算項目Volcano,在華為開發者大會 2021(Cloud)上,華為雲還聯合多家企業開源了雲原生多雲容器編排項目 Karmada,持續引領雲原生技術發展方向;在産品創新方面,華為雲自2016年起相繼在業内首發一系列雲原生産品與解決方案,在Forrester的産品能力評估中,連續兩年獲得滿分,且容器軟體市場排名已位居中國第一;在繁榮産業方面,華為雲不僅聯合中國信通院釋出了雲原生2.0白皮書,全面诠釋雲原生2.0核心理念,還與CNCF、中國信通院聯合建構了全球化的雲原生交流平台——創原會,華為雲将聯合各行業雲原生精英一起,共同探索前沿雲原生技術、共享産業落地實踐,用雲原生技術全面賦能企業數字化轉型。
點選關注,第一時間了解華為雲新鮮技術~