端到端開放解耦智算方案是産業良性發展的關鍵。
大模型的出現催生了對大算力的需求，端到端開放解耦智算方案是産業良性發展的關鍵。中興通訊一直緻力于成為端到端開放解耦智算方案提供商，加速AI技術的創新、研發、應用的商業化程序，努力與産業夥伴共同實作共赢的商業生态。近日，《通信産業報》全媒體采訪中興通訊副總裁陳新宇，探讨了中興通訊如何應對挑戰，助力大模型發展與應用的實踐和經驗。
《通信産業報》：中興通訊在端到端開放解耦智算方案方面，做了哪些工作和取得怎樣的成果。
陳新宇：中興通訊秉承開放解耦的理念，發揮中興軟體、硬體和工程能力優勢，攜手合作夥伴建構多管道供應鍊，通過硬體、軟體和能力平台三個方面的創新，為使用者提供端到端的開放解耦智算方案。
中興通訊副總裁陳新宇表示，中興通訊認為開放的技術生态才能建構共赢的商業生态，端到端開放解耦智算方案是産業良性發展的關鍵。
在硬體方面，中興通訊采用基座靈活、适配多種CPU平台和GPU模組，實作了換芯、換卡、不換座。支援3種CPU平台，并與主流GPU完成了适配，為使用者提供了多樣化算力，使用者就可以根據成本、政策、供貨、功耗等不同的需求和情況來靈活選擇算力。
在軟體方面，通過異構資源管理、訓推作業排程和異構集合通信，實作了軟硬解耦。向下屏蔽了不同廠家晶片的差異，向上适配了主流AI架構，為模型運作提供了高性能、高可靠性、易遷移的環境。通過軟硬協同深度優化，最大化了資源效率。此外，不斷研究算力解除安裝和在網計算技術，以提升算力使用率。
在平台方面，适配主流架構如PyTorch、TensorFlow，實作向後端平台的自動編譯和優化，并提供從資料處理、模型開發、訓練、優化、評估、部署等端到端的工程工具集，支援全生命周期的保障和管理。同時，提供遷移工具，支援應用全域無感遷移，降低使用者遷移成本。
端到端開放解耦智算平台。“百花齊放春滿園”，中興通訊認為開放的技術生态才能建構共赢的商業生态，端到端開放解耦智算方案是産業良性發展的關鍵。通過軟硬解耦、訓推解耦、模型解耦，推動各類能力元件化和共享賦能，加速AI技術的創新、研發、應用的商業化程序，建構開放的技術生态；通過産業内的晶片廠商、硬體廠商、模型開發商、應用開發商等形成優勢互補，共同做大做強，共同實作智能計算生态的蓬勃發展。
《通信産業報》：大模型的出現催生了對大算力的需求，這給基礎設施帶來挑戰，中興通訊采取了哪些舉措來應對？
陳新宇：目前，叢集規模無法滿足萬億以上超大模型訓練，突破國内大規模叢集組網上限勢在必行。從GPT3千億模型到GPT4萬億模型，每年模型參數增長10倍，加上訓練token的增長，訓練總算力需要提升幾十倍。但算力晶片的性能每代隻能增長2~4倍，單個叢集需要更多的GPU卡數才能滿足萬億大模型訓練需求。
為了構築更大規模的算力叢集，中興通訊從機内和機間兩個次元，不斷研究優化GPU卡間高速互聯技術方案，滿足萬億以上大模型訓練需求。在機内，提出了開放的OLink互聯協定，突破機内TP8限制，支援16張到128張GPU超級計算節點的大TP算力；在機間，通過集大容量交換晶片能力的不斷演進，提供基于标準RoVEv2協定的交換機框盒互聯方案，滿足從千卡到萬卡超大規模算力的靈活組網需求。
《通信産業報》：随着智算基建的完成和大模型訓練的成熟，行業應用落地成為最大的挑戰，中興通訊有什麼解決方案？如何推動AI應用商業閉環？
陳新宇：企業在AI技術應用方面存在短闆，同時私有資料的保護限制了模型訓練的有效性。此外，不同行業、不同企業的個性化需求也增加了應用落地的複雜性。
為解決這些問題，中興通訊提出引入AiCube訓推一體機的解決方案。在軟硬體方面，提供多品類高算力硬體底座和易用的訓推平台，内置主流大模型和AI應用。在服務方面，提供定制化服務和代訓服務。
為推動行業應用落地，中興通訊與行業夥伴緊密合作，推出多種一體化解決方案。例如，針對工業質檢領域，提供機器視覺一體機；針對醫療行業，推出智能導診的智能問答一體機。使用者不需要專業技術積累，不需要大規模投資，不需要專業機房，不需要專業團隊，就可以建構自己的專屬大模型，用AI提升生産力。智、算、用一體化部署可大幅降低AI推廣門檻，加速行業市場規模化商用。
中興通訊AiCube訓推一體機。在AI應用商業化程序中，訓推并舉才能加速商業閉環。中國擁有衆多且豐富的應用場景和私域資料，這是在全球AI競争中最大的優勢之一。在應用方面，中興通訊利用自研或開源基礎大模型，結合豐富的行業資料和知識工程，建構領域大模型，打造行業樣闆，實作從“0”到“1”的突破。基于領域大模型，結合不同場景，實作從“1”到“N”的應用拓展。
在市場方面，C端市場需求相對一緻化，是以采用雲端部署更為合适。而在B端市場，由于還在探索和孵化應用場景，同時受限于私域資料安全等考量，客戶更希望采用私域部署形式。是以，中興通訊提倡以終為始，打造中心雲到專屬雲的全鍊路服務。中心雲支援基于通用資料的大模型預訓練和雲端推理，而專屬雲則提供基于私域資料的本地精調和推理。這樣的服務模式由營運商進行建設維護，企業進行租用，能更好地滿足客戶需求，加速大模型在不同場景的落地和應用。
《通信産業報》：大模型引領行業變革，中興通訊在大模型及應用方面有哪些實踐？
陳新宇：在大模型及應用方面，中興通訊采用“1+N+X”政策，基礎大模型采用自研與生态合作并舉，并在此基礎上通過領域知識增量預訓練“N”個領域大模型，包括研發大模型、工業大模型、通信大模型、政務大模型等，進而衍生出“X”種應用，構築産業數智化轉型新引擎。
其中，在研發領域，研發代碼大模型輔助公司開發人員編碼效率提升30%；在生産制造領域，在公司南京濱江基地，通過工業大模型将訂單排産時間縮短88%、工藝檔案生成效率提升50%；在通信領域，在烏鎮世界網際網路大會上，基于通信大模型的重保助手可一鍵生成重點事件保障方案，相比于傳統保障流程，保障效率可提升80%。
業界首個基于大模型的“智禦”反詐系統應用，針對百萬級詐騙短信樣本進行增量訓練，可結合上下文語義關聯資訊，精準識别經過各種變異幹擾的垃圾短信，攔截準确率提升至99%；在水利領域，基于水利大模型實作多輪對話、意圖識别、知識問答等，助力水利知識平台建設，河道知識問答準确率達90%；在城市生命線安全工程領域，率先用大模型實作對瓦斯、積水、道路隐患等多種風險的視覺智能識别，自動生成應急處置預案，保障人民群衆的生命财産安全。
采寫：崔亮亮
編輯：崔亮亮
指導：辛文
電信日特稿 | 促進可持續發展：有"光"的世界，沒有數字鴻溝電信日特稿 | 彌合數字鴻溝：5G讓連接配接從“無線”到“無限”
他們說：世界電信日産業領袖寄語（二）
電信日寄語 | 亨通崔巍：發展新質生産力，攜手邁進美好未來
電信日專稿 | 助推數字創新：中國信科5G智能運維賦能智慧無線電信日專稿 | 5G-A啟航，助推新質生産力新生長
電信日專稿 | 使能數字新質生産力，中國信科新一代全光接入網助力可持續發展
最新：今年世界電信日主題确定5·17世界電信日主題宣傳暨“電信日編輯選擇”産業調研啟動