目前，各國為獲得決策優勢，正将人工智能技術應用于國家安全領域；盡管新技術将改變外交和戰略的特點，但不會改變其本質；有關人工智能的資訊将影響國家如何管控風險更新。圍繞以上研判，美國戰略與國際問題研究中心釋出最新研究報告《算法穩定：人工智能如何影響未來的威懾力》，元戰略提煉該報告核心觀點，為分析人工智能對大國博弈的影響提供參考。
01
引 言
當國家安全領域引入人工智能技術時，這會如何危機決策？計算機算法将如何影響核大國之間的博弈？當一場危機中既夾雜恐懼和情感又涉及理性決策時，人工智能模型會把人們從失控的邊緣拉回來還是會推向深淵？一旦核大國之間發生危機，人機如何互動？為回答以上問題，美國戰略與國際問題研究中心未來實驗室在2023年初舉行了一系列危機模組化活動，分析人工智能對未來威懾力的影響。這些模組化活動以随機對照試驗的形式設計，探讨了人類對對手大國人工智能內建水準的不确定性，以及這一因素在危機期間對戰略穩定性的影響。
該研究共得出兩大重要發現。首先，在所有模組化中，人工智能技術水準的高低對戰略沒有明顯影響，而且在應對危機時，人們普遍傾向于嘗試結合多種權力工具。盡管在不久的将來資料科學和人工智能賦能國家力量将成為重要趨勢，但一些戰略要素将繼續存在。即使人們可以用機器來收集和處理更多資訊并幫助制定國家安全決策，外交、經濟脅迫和影響力活動也将繼續存在。人工智能雖然可以增強戰略，但不會從根本上改變戰略。盡管如此，各國仍亟需教育訓練國家安全專業人員，讓其了解何為人工智能以及人工智能如何在外交政策危機中為人類決策提供支援。其次，随着各國針對性地瞄準對手的作戰網絡，各國在核武器陰影下的作戰方式也将發生變化。盡管對風險更新的感覺不太可能受到人工智能能力平衡的影響，但用于選擇靈活應對方案的标準将發生變化。
02
威懾、作戰網絡和人工智能
在現代軍事規劃和行動中，資訊通過作戰網絡進行管理。實施遠端精确打擊和跟蹤對手部隊動向都有賴于資料的彙總和分析。這種邏輯是聯軍全域聯合指揮與控制網絡的基礎，該網絡旨在通過更快的通信、處理和決策層，在由傳感器和射手組成的分布式網絡中推拉資料，而這些傳感器和射手則通過人工智能和移動通信技術連接配接起來。在算法的輔助下，一個國家能處理的資訊越多，就越有可能識别機會和風險視窗，并調整目的、方式和手段，以獲得相對優勢。
然而，大多數關于人工智能與未來戰争的研究更多關注的是風險和倫理因素，而非談判優勢。首先，多種觀點認為，人工智能将帶來新的風險，包括“閃電戰”，并可能在多個方面産生破壞安定的影響。有觀點認為，随着大國競相擷取關鍵技術，新的大國競争時代将以“微妙的恐怖平衡”為标志。在官僚機構内部，國防規劃人員可能會依賴人工智能建議，進而造成新形式的戰略不穩定。在戰術層面，自主武器系統的速度可能會導緻意外更新。
以上觀點存在兩個問題。首先，除了文獻綜述、替代方案和模組化之外，有關人工智能破壞安定的論點尚未得到探讨，這些方案更多是為了獲得研究視角，而非評估戰略。其次，有關新興技術和意外更新的論述往往忽略了增加資訊在緩解緊張局勢方面的作用。如果在整個作戰網絡中應用的算法有助于減少不确定性，那麼它們就有可能增強威懾。
03
模拟演習
2023年，美國戰略與國際問題研究中心未來實驗室進行了兩次模拟演習，探索人工智能對戰略決策影響的危機情景。此次演習的重點是兩個競争對手之間涉及第三方國家的危機，這兩個競争對手都擁有核武器和二次打擊能力。演習中的敵對國家被抽象化，以消除對目前國際體系中敵對關系的偏見，進而減少混淆因素影響演習的風險。是以，參與者要選擇如何應對危機，以及針對敵對國家的作戰網絡中的哪些要素。該演習由29名個人參與者組成，每個人都有10年以上的國家安全經驗。演習設計改編自早先用于研究現代競争和網絡更新動态的模拟演習。該演習将參與者置于一個虛構的場景中，涉及兩個核對手之間的危機對峙：“綠國”和“紫國”争奪一個小國“橙國”。綠國和橙國是條約盟國。紫國和橙國存在海上領土争端。參與者扮演綠國，随着危機的發展，就靈活威懾（競争）和靈活應對方案的最佳組合做出決策。
04
演習發現
1
靈活的威懾選擇
在整個演習過程中，每個參與者都有三個可供選擇的選項，即外交、資訊、軍事或經濟。分析這些選擇為我們提供了一扇視窗，讓我們了解擁有至少10年國家安全經驗的參與者是如何以危機管理的“方式”來實作重建威懾的“目的”。在統計學上，兩種處理之間沒有顯著差異。人工智能能力的平衡并沒有改變參與者處理競争戰略和管理危機的方式。在所有進行中，遊戲者都制定了一種綜合方法，經常選擇多種權力工具向對手施壓，而不是專注于嚴格的軍事應對。換句話說，對手之間人工智能能力的高低并沒有直接改變早期的危機應對，以及旨在穩定局勢和重建威懾的靈活威懾選擇。雖然人工智能将增強從戰術到戰略層面的多種分析流程，但國家安全上司人仍将做出關鍵決策，并尋求減緩和管理危機的方法。風險可能更多在于危機期間人們如何與算法互動，而不是使用資料科學和機器學習來分析資訊和情報。人工智能本身并不會帶來風險。
參與者普遍認為，這場危機是敵對國家的人類上司人通過人工智能賦能的國家安全機構以尋求優勢。參與者讨論的重點不是算法如何歪曲資訊，而是如何通過外交官向其他人類上司人傳遞直接溝通和明确資訊。在這一邏輯的驅使下，參與者将重點放在通過外交外聯來發展局勢，同時增加該地區的情報、監視和偵察能力。盡管與會者一緻認為外交是應對危機的有效手段，但在外交工作應公開呼籲緩和局勢，還是私下利用第三方或影響力活動警告本國精英不要讓局勢進一步更新的問題上，他們的意見卻不盡相同。同樣，人工智能并非重點，而是一種獲得更好的态勢感覺并确定與敵對國家進行危機溝通的最佳機制（即私人、公共或第三方）的方法。危機管理的核心是人，而不是機器。
由于戰争甚至軍事化危機都是罕見事件，人工智能算法會根據訓練資料和參數，在沒有人為幹預的情況下将其視為罕見事件。這并不意味着“閃電戰”和誤讀局勢的可能性為零。相反，問題的關鍵在于，鑒于國家間戰争和軍事化危機的數量較少，很少有模式可循，而且幾乎肯定會有人類參與其中。沒有哪個國家的進階安全上司人會在危機中把所有決策權交給算法。
最終，參與者認為部署額外的情報、監視和偵察行動值得冒潛在的危機更新風險，因為這對分析對手的行動至關重要。國家安全專業人員希望確定在危機期間對算法推理進行檢查，并願意為此部署行動，甚至放慢行動速度，為外交和發出明确信号争取時間和空間。在國際關系中，安全困境是指一國為加強自身安全所做的努力導緻敵對國家更加不安全。新技術使人們難以評估進攻性或防禦性軍事能力是否能創造戰略優勢，是以，人們預計人工智能的出現會引發安全困境和無意中的危機更新，敵對國家在選擇靈活的威懾方案時會選擇更嚴厲的危機應對方案。然而，根據參與者的讨論和統計分析，危機模拟中并沒有出現這種動态。
2
戰鬥網絡
當人們已知人工智能時，參與者們讨論了如何将決策層作為目标，進而減緩危機，讓人類有機會做出反應，并削弱對手以機器速度進行報複的能力。同時，他們讨論了如何以最佳方式攻擊決策層，包括引入新形式的靈活威懾和應對方案，旨在欺騙和迷惑幫助進階上司人分析危機的人工智能應用程式。當人工智能未知時，參與者選擇以效應器（如正常武器）為目标，因為在對手決策能力不确定的情況下，效應器被認為是回報率最高的目标。在不了解對手國家作戰網絡中人工智能的情況下，參賽者選擇改變部隊的相關性，以削弱能夠發動報複性打擊的軍事能力。這一發現啟示我們重新思考軍事目标選擇的各個方面，因為在這個時代，支援危機決策的人工智能應用程式将越來越複雜。
05
政策建議
1
擁抱實驗和靈活思維。國家安全界需要停止對“天網”的擔憂，以及其他與技術相關的威脅膨脹，并開始建構應用程式，幫助人們浏覽大量資訊。這些演習将各作戰司令部連接配接起來，測試它們在危機期間和向沖突過渡期間通過人工智能調節的無縫作戰網絡開展工作的能力。
2
參與活動分析。戰争中永恒不變的是對資訊的争奪，以及指揮官如何在收集情報的同時利用偵察和安全行動來了解态勢、預測變化并尋求優勢。這種資訊争奪戰将在人工智能應用程式管理的複雜作戰網絡中進行，是以需要新的機動、安全和出其不意的概念。一個國家如何保護自己的作戰網絡，同時削弱對手的實力，很可能成為未來戰役的真正決定性行動，也是一種全新形式的“先發制人”
3
從開放天空到開放算法，就二十一世紀軍備控制展開更廣泛的對話。各國有必要開始思考人工智能時代的軍備控制問題。對于未來的威懾而言，管理武器庫存可能不如建立規範、制度和條約來管理針對敵對核國家現代作戰網絡決策和處理層的軍事行動。在危機中，各層級的軟體都在尋求提高效率以加快決策速度，高層上司有可能發現自己陷入了更新陷阱。對與預警和情報相關的關鍵系統的攻擊可能會加速這種牽引。各國越早攜手繪制風險地圖并建立共同了解的防護網，核對手之間無意或意外更新的可能性就越低。這些努力應包括2軌和3軌模拟演習和對話，為對手國如何處理危機提供資訊。
免責聲明：本文轉自元戰略。文章内容系原作者個人觀點，本公衆号編譯/轉載僅為分享、傳達不同觀點，如有任何異議，歡迎聯系我們！
轉自丨元戰略
研究所簡介
國際技術經濟研究所（IITE）成立于1985年11月，是隸屬于國務院發展研究中心的非營利性研究機構，主要職能是研究大陸經濟、科技社會發展中的重大政策性、戰略性、前瞻性問題，跟蹤和分析世界科技、經濟發展态勢，為中央和有關部委提供決策咨詢服務。“全球技術地圖”為國際技術經濟研究所官方微信賬号，緻力于向公衆傳遞前沿技術資訊和科技創新洞見。
位址：北京市海澱區小南莊20号樓A座
電話：010-82635522
微信：iite_er