2億學生線上上課。
疫情的肆虐，原本該回歸各大校園的師生們湧入線上，突如其來的流量洪峰給線上教育行業帶來了極大挑戰。
長期服務教育企業的百家雲也不例外。作為一家緻力于為教育機構提供一站式雲課堂解決方案的企業，疫情期間，百家雲接到來自多家教育機構搭建線上雲課堂的需求。同時，原來以線下為主的教育機構，流量瞬間轉到了線上。
為了響應教育部門停課不停學的号召，幫助學生老師們開學，百家雲全體員工縮短了假期，從大年初二開始在家辦公，初七開始全員辦公。
短時間内爆發式的需求，對于每一家教育企業而都是始料未及的。據百家雲CEO李鋼江透露，百家雲的業務量短時間内增長了數十倍。如此迅速的擴容需要，還要在客戶無感覺的情況下完成，比傳遞一個新系統難度更大。
不幸中的萬幸是，百家雲團隊對靈活架構的探索讓他們在如此高并發場景上早有準備。這場戰役之前，百家雲已在阿裡雲團隊的幫助下，優化自身容器叢集架構與規劃，通過以阿裡雲容器服務ACK、彈性裸金屬（神龍）執行個體的核心方案，從容實作動态擴容與高效管控。
探索容器化改造，具備應對洪峰靈活能力
百家雲非常幸運，在這輪爆發之前完成了容器化改造。其他沒有使用容器的線上教育企業，面對暴漲的使用者，隻能成倍堆積機器，導緻部署時間拉長，業務成本劇烈升高。
故事要從百家雲的業務發展開始說起。
百家雲從2017年誕生之初就是在做直播大班課産品，是行業内擁有最純正的教育基因的雲視訊公司。在2018年已經實作了過億營收，服務了超過1000多家教育企業。
業務高速增長也在促使百家雲技術團隊探索自身技術架構的優化。到了2019年，百家雲逐漸推出小班課産品，該産品的處理方式與大班課不同，需要通過音視訊抓屏的方式，将課程錄制下來回放。
此過程中，還需要将音頻與視訊進行隔離。用虛拟機級别的隔離成本太高；若跑在統一虛拟機裡，各個程序則會互相幹擾。百家雲團隊于是關注到了容器這種更為輕量級的虛拟化技術。
在2019年上半年，百家雲内部就開始嘗試小規模對業務進行容器化改造，完成了基本流程的跑通。
然而，随着百家雲容器規模的擴大，排程與管理成為了新的問題。阿裡雲的容器管理平台（ACK, Alibaba Cloud Container Service for Kubernetes），大大減少百家雲的工作。百家的技術團隊表示，容器減少了運維和測試的工作量；友善了對應用運作環境實作版本控制；且相比虛拟機有着更小計算開銷，降低了IT成本。
彼時基于容器的雲原生大潮已然席卷，基于容器技術的雲原生架構，為百家雲可能出現的業務峰值做了靈活彈性的技術儲備。
隻是，這還是第一步。
瞬間來臨的洪峰，還是給百家雲帶來了考驗。
借助阿裡雲“容器+神龍”，三天内實作數十倍擴容
潮水襲來，百家雲的問題很直接：擴容。
疫情是全國共同的敵人。業務持續穩定增長的百家雲，未曾料想到新禧之年将面臨這樣一場“戰役”，原來容器叢集的許多配置沒有按大規模叢集去規劃，導緻單個叢集可容納的節點受限，原來使用的小規格執行個體也限制了單個節點的容量。
針對百家雲的擴容問題，阿裡雲團隊建議客戶選用大規格的彈性裸金屬伺服器（神龍）。根據百家雲的應用負載特點，結合容器服務管控合适規格的彈性裸金屬執行個體來優化成本、避免浪費，提升彈性供給保障。
首先，阿裡雲彈性裸金屬伺服器（神龍）伺服器的規格較高，可以幫助百家雲顯著提升了單個節點的容量。
更重要的是，百家雲的K8s叢集對性能要求極高。神龍伺服器的性能優勢明顯， “容器+彈性裸金屬（神龍）”的解決方案非常契合百家雲大流量、高并發的場景。
基于容器化建構方式，可以滿足業務快速發放和彈性的要求。神龍伺服器完全消除了虛拟化損耗，提升了8%的計算性能，其類實體機特性，可進行二次虛拟化。
第二，神龍的性能，加上容器的彈性，形成了天作之合。資料顯示，容器運作在雲上神龍反而比非雲實體機的性能要好10%-15%。主要是因為虛拟化開銷已經offload到MOC卡上，神龍的CPU/Mem是無虛拟化開銷的，而上雲後運作在神龍上的每個容器都獨享ENI彈性網卡，能提升13%的網絡吞吐量。
第三，神龍伺服器的存儲帶寬和計算帶寬分離，能滿足百家雲業務場景的大量讀寫需求。**使用神龍伺服器之後，計算能力大增，但是同時也遇到了存儲I/O性能瓶頸的問題。百家雲通過使用阿裡雲的高性能NAS服務，并通過水準擴充為4個叢集，解決了I/O的瓶頸。
**
基于以上方案，借助自身的大規模叢集管理能力，在短短幾天之内，阿裡雲團隊幫助百家雲團隊有效更新了原有的架構方案，實作了數十倍的擴容，大幅提升了其性能與穩定性，并擁有了應對爆發性規模的能力。
優化架構與叢集規劃，顯著降低運維成本
面對突增流量壓力，如何迅速動态彈性擴容以及高效管控運維成為迫切問題。
改變了原來虛拟化嵌套的形式，百家雲利用神龍實作了容器的高密度部署。配合容器的靈活管理能力，起碼節省了25%的成本，降低了80%的運維工作量。同時，合理規劃K8s叢集，優化整體架構如網絡、存儲方案、擴容原則，確定後續運維的穩定性并降低使用成本。
此外，百家雲還使用了阿裡雲高效運維管理的工具，顯著降低了運維工作量。
由于百家雲業務上容器的時間非常緊迫，根本沒有多少時間可以花在運維監控上。通過使用ARMS Prometheus，僅僅半小時百家雲就實作了容器節點環境的監控。相比開源 Prometheus 監控，ARMS Prometheus的資料量無上限且與阿裡雲容器服務ACK無縫對接，讓百家雲在容器裡高效快速定位問題，了解如何改善自己的産品。
阿裡雲容器平台的日志服務（SLS）裡中小應用事件中心，詳細展示了叢集的狀态變更群組件異常等事件，幫助百家雲把節點裡面日志的異常資訊彙總到控制台，及時告警。
百家雲CEO李鋼江總結，阿裡雲帶給百家雲的價值主要是以下三點：
第一，提供了彈性計算的空間與靈活安全的擴容能力
阿裡雲對應用鏡像進行了鏡像預熱等手段，在擴容時可第一時間拉起容器。基于容器鏡像服務ACR 安全托管大規模容器鏡像資産，通過細粒度的鏡像授權管控，安全快速地對應用鏡像進行全生命周期管理。
第二，提供了相對穩定的服務與優異性能
基于阿裡雲自研的神龍軟硬一體架構，彈性裸金屬伺服器（神龍）有着實體機的性能和虛拟機的使用體驗。通過利用神龍，百家雲實作更好地排程K8s叢集，加上高性能NAS服務，解決了I/O瓶頸問題。
第三，技術支援團隊響應及時，幫助百家雲優化架構
百家雲之是以後來面臨擴容問題，部分源于其原來業務架構規劃未做好管理大規模叢集的準備，阿裡雲幫助了百家雲在短時間内優化了業務架構，優化叢集的管理能力。
阿裡雲作為全國第一、世界頂尖的雲服務商，在IaaS和PaaS層能力強大；百家雲在教育SaaS層的積累，可以與阿裡雲互補，一同以完整的線上教育方案去覆寫市場。
雙方正在逐漸深化合作，百家雲将很快上線阿裡雲雲市場——阿裡雲SaaS加速器的商業平台，即“軟體天貓”，後續使用者可直接在雲市場選購百家雲的服務。
2月26日上午10點歡迎加入阿裡雲戰”疫“數字化課堂專題線上課程，詳細了解阿裡雲線上教育完整解決方案，阿裡雲技術如何助力線上教育應對大流量高并發，保證平台持續安全營運以及疫情期間阿裡雲對線上教育的特殊支援政策。“雲+教育”無限可能，請掃描下方二維碼進入直播間。
注：如有需要，請郵件[email protected]
本文來源：校長邦微信公衆号
作者：Anlin