6月28日，稀土掘金技術社群主辦的第四屆稀土開發者大會（XDC 2024）盛大開幕。五位技術嘉賓圍繞“代碼不止 掘金不停”主題，分享了開源生态、新技術發現及應對技術變革的政策，期望與開發者們共同探尋前行方向。
來自英特爾公司副總裁、英特爾中國軟體與先進技術事業部總經理李映帶來了主題《開放生态，賦能創新：英特爾如何通過開源開放推動GenAI 産業生态繁榮》。會上，他強調英特爾公司通過技術趨勢引領和開源社群建設，推動社群繁榮，同時在硬體支援和創新項目培育方面發揮着重要作用。英特爾的技術合作釋放了硬體算力，OS優化快速部署，顯著提升了性能，尤其是在veLinux作業系統上的應用性能。通過社群治理和創新項目如Jeddak資料安全沙箱、火山引擎雲服務資源管理等，展示了硬體級安全方案和資源管理的重要性。英特爾還推動了AI創新應用在多媒體内容生成、教育等領域的發展。
展望2024年，英特爾計劃通過開放生态系統解鎖企業人工智能，推動異構計算AI加速架構，與Linux Foundation等合作夥伴共同建構開放、标準的多架構加速計算生态系統。英特爾中國将繼續加強全球開源社群合作，加速技術應用創新，推動産業落地，釋放底層算力，實作AI的無處不在。
英特爾公司副總裁、英特爾中國軟體與先進技術事業部總經理李映
Google Cloud亞太區解決方案副總裁 Moe Abdula帶來了《Beyond the Hype: Trends, Best Practices, and GenAI Adoption with Google Cloud》主題演講。他深入剖析了生成式AI對現實世界的深遠影響，其中特别關注了模型性能的同質化趨勢，并對多模态AI市場的增長進行了預測。此外，Abdula還介紹了Google Cloud的AI生态系統，包括其分層的AI平台以及針對AI開發的通用生命周期管理。他詳細說明了如何通過精确的評估和細緻的微調來優化模型性能，以確定其在各種應用場景中的高效性和準确性。Abdula還探讨了邊緣計算在加速數字化轉型中的關鍵作用，并提出了混合服務解決方案以及Vertex AI平台的能力，強調了這些工具和技術在提升AI應用效率方面的潛力。最後，他強調了評估在生成式AI開發過程中至關重要。
Google Cloud亞太區解決方案副總裁 Moe Abdula
位元組跳動Developer AI負責人 朱元碩帶來《AI Coding 工具的過去、現在和未來》的主題演講。他首先回顧了Code Copilot等AI程式設計輔助工具近二十年的發展曆程，并明确指出，在目前的技術生态中，代碼補全已成為一項極具普惠性的技術，其成功地将技術深度與産品實用性完美結合。他進一步闡述了盡管自然語言程式設計和Design2Code等前沿技術展示了巨大的潛力，但目前它們仍處于發展階段，尚未達到成熟應用的水準。他也堅信，随着技術的不斷進步，未來AI程式設計工具将展現出更加卓越的性能和廣泛的應用前景。在展望未來時，朱元碩預測，AI程式設計工具将引入預測下一個動作的功能，使程式員能夠更準确地預見代碼執行的流程，進而提高程式設計效率。此外，他還提到了AI Bugfix技術，這種技術有望幫助程式員更加高效、準确地定位和修複代碼中的錯誤，減少調試時間，提高代碼品質。
朱元碩認為，AI Coding工具的發展不會取代程式員，而是将催生出能夠利用AI輔助工具完成高難度任務的超級程式員。在演講的最後，他介紹了位元組跳動旗下的豆包MarsCode這一持續進化的AI程式設計工具。這款工具已經推出了Beta版本的預測下一個動作和AI Bugfix功能，為程式員提供了更加強大的支援。他相信，這些功能的引入将為程式員帶來更加高效、便捷的程式設計體驗，同時也為AI程式設計工具的未來發展描繪了一幅充滿希望的圖景。
位元組跳動Developer AI負責人 朱元碩
矽基流動的聯合創始人、一流科技創始人 袁進輝在主題演講《大模型部署成本降低10000倍之路》中，深入剖析了降低大模型部署成本的政策與路徑。他首先敏銳地指出，在AI應用的迅猛發展中，推理算力需求将顯著超越訓練算力需求，是以降低推理成本對于AI應用的廣泛普及至關重要。通過對Nvidia DGX H100等硬體的成本構成進行詳細分析，袁進輝揭示了晶片利潤空間的現狀，并進而提出了一系列成本降低政策。這些政策不僅涵蓋了提升軟體性能、優化記憶體通路、采用專用晶片等硬體層面的優化，還包括了軟體層面的批處理、模型量化、緩存政策、注意力機制優化以及并行拓撲選擇等技術手段。在模型層面，袁進輝讨論了如Mixture of Experts和模型路由技術等先進方法，這些技術能夠有效提升模型的效率和性能，進而降低推理成本。同時，他還從雲計算層次出發，探讨了如何利用潮汐效應和供應鍊管理來優化資源使用，降低總體成本。最後，袁進輝通過自建與租賃GPU伺服器的總擁有成本（TCO）分析，生動地展示了如何在實際操作中實作大模型部署成本的顯著降低。
矽基流動的聯合創始人、一流科技創始人 袁進輝
Head of Developer Relations Sophia Yang 帶來的演講主題是《Building with Mistral》。她詳細回顧了Mistral模型的發展曆程和重要裡程碑。自去年九月釋出首個開源模型以來，Mistral在短短一年内迅速擴充其産品線，連續推出了包括兩個企業級模型在内的共六個模型。特别值得一提的是，Mistral 7B、Mistral 8x7B、Mistral 8x22B等模型，它們以最少的活躍參數實作了最優的性能，其中兩款采用了混合專家模型（MoE）技術，展示了Mistral在模型效率和效能方面的顯著成就。Sophia Yang強調了Mistral為開發者提供的定制化服務，這包括開發各種差異化模型以滿足不同定制需求，提供專業領域的模型和微調服務。最新釋出的程式設計大語言模型codestral，具備編寫文檔注釋和代碼翻譯等強大功能，進一步擴充了Mistral的應用範圍。微調服務使開發者能夠根據特定任務調整模型，以獲得最佳性能。除了模型服務，Mistral還緻力于提供開源代碼，以支援開發者更廣泛地使用和內建其技術。Sophia Yang表示，Mistral将持續推出更多開源模型，緻力于服務更廣泛的開發者群體，并不斷提升使用者體驗。
Head of Developer Relations Sophia Yang
大會最後，來自耀途資本投資副總裁 溫廷燦、Google Cloud 首席架構師 于有志、位元組跳動Developer AI負責人 朱元碩、零一萬物聯合創始人 戴宗宏、得到聯合創始人 快刀青衣這5位業界大咖進行了主題為「大模型時代的創新與創業機遇」的圓桌讨論。在關于AI應用的讨論中，他們深入探讨了生成式AI技術在不同領域的實際應用。他們指出，盡管生成式AI已經在一些場景中成功落地，但預計未來一年内，随着技術的不斷進步，将有更多新場景迎來AI的融入。同時，他們也指出，某些環節的落地速度可能因初期期望過高而被高估，而另一些環節的潛力則可能被低估。特别值得注意的是，盡管有些場景現有的AI模型已經足夠先進，但由于基礎設施的高門檻或算力成本高昂，導緻投資回報率（ROI）不盡如人意，進而暫時無法全面推廣。然而，随着算力成本逐漸降低至一個臨界點，這些模型有望實作更廣泛的落地應用。此外，他們還展望了未來一年，随着AI模型能力的進一步提升，一些目前看似超出模型能力的場景也将變得觸手可及。
在AI應用的讨論之後，圓桌嘉賓轉向了對AI infra 的深入探讨。考慮到顯示卡售賣限制對AI基礎設施發展的影響，分析了中國公司如何在這樣的背景下通過軟體部分優化來加強AI infra。此外，還展望了未來1年、3年和5年内，訓練和推理資源需求的演變趨勢，并讨論了在這些時間節點中，哪些環節的算力優化最迫切，以及哪些環節擁有更大的優化空間。通過綜合考量AI應用與基礎設施的比對度、模型能力的進步與場景拓展，以及Infra環節的需求變化，可以更全面地了解AI領域的發展趨勢，并制定相應的戰略以應對未來的挑戰和機遇。