對話嘉賓
朱榮生（清華大學戰略與安全研究中心特約專家、元戰略智庫進階研究員）
劉 偉（北京郵電大學人機互動與認知工程實驗室主任）
半月談記者：在人工智能發展過程中，您認為最難以把控的變量與最突出的風險是什麼？
劉偉：最難以把控的變量包括不确定性、資料品質、道德和倫理問題。
人工智能系統的複雜性使得其行為難以預測，常常具有不可解釋性，尤其當系統面臨新的、未曾遇到的情況時。這種不确定性可能導緻系統無法做出可靠的決策或産生意外的結果。
人工智能系統通常需要大量的資料來進行訓練和學習，而資料的品質對系統性能至關重要。如果資料存在偏見、錯誤或不完整的情況，那麼系統的結果和決策可能也會受到影響。
人工智能系統的決策可能涉及道德和倫理方面的選擇，例如自動駕駛車輛在緊急情況下如何選擇撞擊的對象。如何確定人工智能系統的決策符合社會價值觀成為一個難題。
人工智能面臨的安全風險較為突出。人工智能系統可能受到黑客攻擊，導緻資料洩露、系統癱瘓或被濫用。尤其是在關鍵基礎設施、金融系統和醫療等關鍵領域，安全風險顯得尤為突出。
因涉嫌侵犯隐私，ChatGPT在意大利下線
朱榮生：從全球治理角度看，曆史上的颠覆性科技革新在極大地解放社會生産力的同時，也引發了全球發展失衡、财富配置設定不均、治理機制滞後的社會經濟問題。每一輪科技革命帶動的全球化往往會把世界經濟推向一個深度調整期，不可避免地帶來傳統産業衰退、大量勞動力失業、社會動蕩加劇的經濟負面效應，這對全球經濟治理體系改革提出了新要求。
人工智能等先進技術加速滲透融合到人類經濟和軍事活動的各個領域，放大了維護國際穩定和非傳統安全的挑戰。智能化戰争初現端倪，人工智能賦能的無人作戰軍事平台在巴以沖突、納卡沖突、俄烏沖突中被大量應用。國外政策界對于軍用人工智能技術的快速部署、肆意擴散以及不負責任地戰場使用，動搖國際戰略穩定性的擔憂日甚，其中最為急迫的關切是戰争形态向智能化方向演進将可能強化首攻優勢。
從國家間關系的角度看，AI“強者先行”的發展特點也将強化國際競争壓力。盡管每個國家都有維護自身“人工智能主權”利益的需求，但是大國和小國因實力的不均衡面臨着不同程度的挑戰。大國具有更強的技術儲備和抗風險能力，能夠在國際技術交流網絡中處于核心地位。相比之下，小國恐怕會因缺少足夠的資源而越發依賴于大國的技術供給，進而在全球AI生态體系發展中處于邊緣位置。這将進一步提高數字地緣政治競争的烈度，壓縮大國之間本已有限的關系緩和空間。
半月談記者：如何在控制風險的同時，讓AI成為對人類、對社會進步普惠而有益的工具？
劉偉：確定AI系統的決策過程是透明的，并能提供解釋，以便人們了解其工作原理，如此一來，可增強人們對AI系統的信任感，并幫助預防潛在的不良影響。同時，需要及時制定明确的倫理準則，確定AI系統的設計和使用符合道德原則和社會價值，包括確定AI系統不歧視、不侵犯隐私和個人權利，并遵守相關法律法規。在源頭上確定AI系統所使用的資料具有高品質的特點，并嚴格保護個人隐私。資料的來源、使用和存儲都應符合相關法規，并通過安全措施保護資料不被濫用或洩露。
建立有效的監管機制，確定AI系統的開發和使用符合政府制定的規定和标準，加強對AI技術和應用的審查和監督，以避免濫用和不良影響。鼓勵公衆參與AI技術的發展和決策過程，并確定各利益相關方的利益得到平衡，這可以通過開展公開磋商、征求意見和建立多方合作來實作。建立監測和評估機制，及時發現和解決AI系統可能出現的風險和問題，不斷改進和優化AI系統的性能和安全性。
朱榮生：從規制人工智能潛在風險的角度出發，各國在維護利益的同時，應推動AI全球治理合作。AI領域的相關治理攸關人類命運，是全球治理面臨的嚴峻課題。國際社會需要重視廣大開發中國家在新興技術浪潮中的脆弱性，技術強國不應一味隻顧本國利益而采取“脫鈎斷鍊”手段。AI是一項軍民兩用技術，就其民用領域來說，引導全球AI行業健康發展，實作“人工智能向善”的目标，進而促進AI技術造福于全人類，是世界各國的共同利益。
在更為敏感的軍事安全方面，AI的軍事化應用越發引起國際輿論的關注。據國際媒體報道，AI技術已在新一輪巴以沖突中被運用，造成平民傷亡。從建構人工智能全球安全治理規則的角度出發，國際社會恐怕需要審視美西方提出的“負責任的人工智能”理念是否過于理想，是否應該探索建立某種“有人道的AI”的共同主張，以避免算法定生死釀成的人道主義災難。總之，要推動實作“AI為了人類”的目标，恐怕不僅僅需要確定每個國家僅基于本國基本安全和發展利益的“主權人工智能”，更需要具有推動建構基于人類命運共同體的“全球人工智能”的意識與行動。
半月談記者：您覺得普通人應如何迎接人工智能時代？
劉偉：随着人工智能的發展，某些工作崗位可能會被自動化取代，是以不斷學習和提升自己的技能變得尤為重要，AI在大量重複性、機械化的工作中表現出色，但在涉及創造性思維、情感交流和問題解決方面仍有限制，是以，重要的是培養自己的合作能力和創造力，發展與人工智能協作的能力。
人工智能的應用需要運用各種科技工具和資料分析技能，人們可以學習如何使用各種科技工具，以及如何進行資料處理和分析，進而更好地與人工智能共同工作。同時，随着人工智能的不斷發展，工作環境和需求也會發生變化。是以，普通人需要保持靈活性和适應性，積極适應新的工作方式和技術變革。
雖然人工智能在某些方面表現出色，但在涉及情感交流、人文關懷和倫理決策等領域仍有不少局限性，是以，我們可以培養一些情感技能和人文關懷，發展與人工智能進行人性化互動的能力。
朱榮生：大家應當理性看待人工智能技術應用對社會發展産生的影響。盡管科技界和産業界對能夠睥睨人類智能水準的人工智能最終走入大衆視野存在樂觀預期，但是目前的人工智能技術還沒有表現出引發社會結構颠覆性變化的效果。從ChatGPT到Sora，人工智能所發揮的主要賦能作用是提高使用者的工作效率，而沒有達到“大量機器取代人類就業”的變革程度。與其對不确定性的未來抱有焦慮情緒，不如理性看待AI的發展及其影響。
當然，忽視AI技術失序發展可能産生的風險是不負責任的。如果人工智能技術依然延續目前通過不斷疊加算力的“暴力計算”方式來提高能力，并且最終實作超越人類的“智能外溢”，那麼放縱人工智能技術無限度發展的潛在風險将會加大。
來源：半月談