摘要：人工智能技術對軍事行動的影響極大，那麼其究竟将如何影響軍事行動？本文基于英國皇家三軍研究所的研讨會成果《在情報環境中使用人工智能：未來場景研讨會》，針對軍事行動前的緊張對峙、軍事行動中的對抗以及軍事行動後的政權維護假設3個場景；并針對每個場景重點讨論人工智能的影響。
關鍵詞：情報，資料，軍事行動，人工智能，場景應用
引言
2024年2月，英國皇家三軍研究所（RUSI）舉辦了一場研讨會，針對人工智能可能對未來軍事行動造成的影響進行了讨論。本文為上述研讨會的成果。本文所假設的場景為：一個名為“羅蘭”（Roland）的經濟、軍事強國與其相鄰島國“艾萊”（Islay）之間的關系不斷惡化，前者可能對後者采取軍事行動。
本文假設的場景分為三部分，分别是：
- 羅蘭在艾萊島國附近進行軍事演習，可能對其采取軍事行動；
- 羅蘭全面入侵艾萊島國；
- 羅蘭在艾萊島國上建立政權。
每個場景都包含沖突的兩個階段（如圖1所示）：階段0-1隸屬于第一個場景；階段2-3隸屬于第二個場景；階段4-5隸屬于第三個場景。針對每個場景，本文都将探讨人工智能的影響。
圖1. 沖突的六個階段
缺陷：鑒于本文的場景是虛構的，是以相關主體（羅蘭和艾萊）的背景資訊有所缺失，是以結果是推測性的。
下文将詳述每個場景。
場景一
1. 背景描述
在接下來的十五年裡，羅蘭，一個經濟實力雄厚的大國，擴大了其在人工智能領域的優勢，并依靠其技術和經濟力量來實作其地緣戰略的野心。通過将工業網絡間諜行動、創新、廣泛的技術出口以及内部實施戰略相結合，羅蘭設法在國防、情報和治安等領域推廣人工智能的運用。羅蘭擁有一些最先進的人工智能系統。羅蘭的文化和道德規範與英國截然不同，有意以不同于英國的方式使用人工智能技術。
時間來到2040年。在過去的幾個月時間裡，羅蘭舉行了多次大型軍演。現在，國際社會日益擔心羅蘭會入侵鄰國艾萊。出于這種恐懼，艾萊與地區盟國建立了緊密的聯系，以應對可能爆發的沖突。
圖2. 羅蘭入侵艾萊的前奏
2. 內建人工智能是優勢還是劣勢
與會者探讨了羅蘭廣泛內建人工智能是優勢還是劣勢的問題。最初的設想傳達的意思是，廣泛內建人工智能将促進效率提升和技術進步。然而，對于2040年将會出現什麼樣的人工智能武器和系統，以及新風險是否會随之而來，與會者之間存在較大的分歧和不确定性。一些與會者認為，盡管從中長期來看，人工智能應用于軍事領域可能會給軍方帶來戰略優勢，但是前期采用者很可能會無意間引入難以預測的新漏洞，給精于技術的對手鑽空子的機會。
是以，如果對手有機會擷取羅蘭的資料集，那麼廣泛內建人工智能也有可能成為一項劣勢。例如，如果羅蘭在其軍事行動中大規模使用人工智能系統，那麼其勢必會在部隊動員和軍事演習中也這麼做。如果艾萊及其盟國截獲了這些人工智能資料，它們便能準确掌握羅蘭的武器裝備狀況及其部隊的一舉一動。此類資料類似于Strava收集的健身資料，後者是一款深受熱衷于記錄自身鍛煉情況的軍事人員歡迎的應用程式。2018年，美軍人員分享到公共社交網絡上的運動資料就暴露了美軍軍事基地的位置和軍事人員的巡邏路徑。如果能獲得對手的資料，那麼類似的資料資訊就能為艾萊及其盟國的情報部門繪制一幅極為可靠的情報藍圖。從這個意義上來說，人工智能的廣泛內建将成為羅蘭的弱點，因為人工智能資料有可能導緻新的漏洞。是以，在未來的軍事沖突中，高标準的作戰安全将成為更加關鍵的因素。
3. 虛假資訊環境中的通信與決策
該研讨會還讨論了共享真實資訊與虛假資訊的影響。鑒于國際上深度僞造技術推動的針對個人的虛假資訊宣傳活動盛行，專家們認為，任何擷取到的資訊都有可能是僞造的。一位專家将這種情況描述為“關于誰更能有效制造和識别虛假資訊的軍備競賽”。在這種環境下，傳播真實、準确的資訊将難上加難。加密水印等用于驗證真實媒體來源的技術将越來越重要。專家們不僅關注建立通信管道，還關注決策者評估、判斷和利用可用資訊的速度。預計到2040年，資料評估和決策的時間壓力可能會上升。這或許會進一步導緻決策者缺乏足夠的時間或意願來評估其決策過程所依據的資料品質。在應對該風險方面，人工智能可能大有助益，盡管它有可能妨礙人類進行有意義的監督和了解。
4. 資料品質
與會者預計，到2040年将有更多可擷取的資料，但對人工智能技術和情報工作所需的資料品質普遍表示擔憂：如何確定收集到的資料和用于訓練人工智能系統的資料是準确、可靠的？專家們認為，英國情報體系的分散性将構成一大優勢，因為不同的機構可能會使用不同的資料集，進而使其更能抵禦虛假資訊，并實作制衡。然而，資料分析師指出，任何可擷取的資料隻有在能夠轉化為有用資訊的情況下才有價值——這一驗證過程目前仍需人為參與，但人為參與的規模不太可能滿足2040年的資料需求。是以，在這種情況出現之前，測試資訊處理速度是準備工作的關鍵要素。與會者還指出，到2040年，可供機器學習模型使用的大部分資料實際上可能都是由人工智能生成的，但其影響仍有待澄清。
5. 如何進行威懾溝通
在零信任的背景下，虛假資訊以及對虛假資訊的驗證和依賴情況決定了羅蘭和艾萊兩國之間的沖突前态勢。這涉及了沖突方及其盟國之間的潛在溝通。如何在不被誤解的情況下威懾對手将是一個基本問題。即使是為了緩和局勢的溝通也可能不受信任。不明确的是，這種情況下的威懾是什麼樣子的——這就造成了些許疑問，例如，艾萊、英國及其盟國希望釋放什麼樣的威懾信号，以及通過何種管道來釋放這些信号。
傳統威懾主要依靠核飛彈等軍事硬體來向對手彰顯自身實力并向其傳遞可能使用這些武器的信号。在一些專家看來，人工智能技術的威懾更多是基于溝通，對對手能力的質疑和解讀需求依然存在。其他與會者認為，人工智能技術的威懾仍然是實體性的，因為人工智能将用于武器和其他系統。一位專家補充道，人工智能提供了更多不會把人類置于風險之中的威懾機會，例如，水下武器系統可用于在艾萊周邊水域開展巡邏。
6. 以共享軍事能力作為威懾手段
同樣，尚不清楚盟國會向艾萊提供何種人工智能驅動的軍事能力來確定威懾。一些專家對向艾萊提供人工智能技術持懷疑态度，因為對個别盟國來說艾萊很可能現在是盟友，但未來不是。這些專家表示，個别盟國可能會後悔對外提供将來有可能被用來對付自己的技術。這種擔憂源于冷戰時期的前車之鑒——當時，蘇聯入侵阿富汗，這一行為直接威脅到了美國的全球戰略利益。為了挫敗蘇聯的企圖，美國政府投入大量武器和金錢，資助阿富汗遊擊隊（亦稱“聖戰者”）進行抵抗。這些遊擊隊在初期得到了美國中央情報局（CIA）的支援，包括武器、訓練和情報等方面的援助。然而，這一政策産生了意想不到的後果。當蘇聯最終從阿富汗撤軍時，這些受美國資助的“聖戰者”組織并沒有随之解散，而是繼續活躍在阿富汗及其周邊地區。其中一些組織逐漸發展成為極端恐怖組織，并在後來針對美國及其盟國發動了多起恐怖襲擊，包括發生于2001年的9·11事件。
然而，随着人工智能技術的擴散，向艾萊提供軍事能力變得更加容易。一位武器行業人士指出，在烏克蘭，由于擔心武器可能會導緻沖突更新，是以武器的提供受到了限制。但是，人工智能系統可以進行程式設計，使其隻用于預定目的，進而消除了沖突更新的風險。一位技術專家對該評估表示支援，他解釋道，如果艾萊能通過對已傳遞的人工智能系統進行逆向設計來規避程式設計設定的限制，那麼它首先就擁有了制造這些系統的必要技能。不過，一位與會者指出，如果人工智能技術日益成為一種開源技術或現成技術，那麼艾萊盟國将可能難以決定與其分享哪些人工智能技術。在這種情況下，技術擴散的門檻可能會很低。這位專家認為，盟國可以決定誰能獲得哪些技術和能力的假設可能是一個錯誤的前提。
人工智能、威懾以及對沖突動向的影響之間的關系将成為未來研究的重點領域。
7. 人工智能增進文化了解
将人工智能與行為和社會科學的了解結合起來以增進文化了解的社會技術方法，在與會者對該場景的許多其他意見中均有所展現。例如，一些人認為人工智能有助于了解對手及其文化、曆史和道德規範，包括他們的網絡安全文化。
場景二
1. 背景描述
一場由人工智能技術驅動的、宣揚對艾萊曆史主張的宣傳運動爆發。羅蘭以舉辦大規模軍演為幌子對艾萊發動全面侵略。
圖3. 羅蘭發動侵略
2. 人工智能用于設計高效的撤離方案
在羅蘭全面入侵艾萊的情況下，其他國家将設法撤出其位于羅蘭的公民。專家們認為，收集到的資料集和用于分析這些資料集的人工智能技術不僅有助于識别英國公民及其近親，還能識别他們的所在位置。
此外，人工智能技術還可用于确定和優化撤離方案。一位與會者提議建立一個利用人工智能的外交部撤離應用程式。該應用程式可以向相關公民釋出有針對性的訓示，确定他們的最佳撤離路線，并告知他們何時撤離及撤往何處。例如，該應用程式可以告知其他國家海外公民機場的準确位置和行李攜帶注意事項。該應用程式需要依賴可靠的通信系統，但在沖突期間，這些通信系統有可能被迫關閉或中斷，這是該應用程式面臨的一個重大挑戰。但是，有人反駁道，鑒于通信系統對于沖突雙方都太寶貴了，是以任何一方試圖完全關閉通信系統的可能性不大。
底層人工智能系統需要具備足夠的靈活性，并由适當的資料提供支援。這就提出了兩個問題，首先是如何以及何時收集這些資料；其次是收集資料的方式是否符合《通用資料保護條例》（GDPR）和其他隐私法。一位私營部門的從業人員認為，鑒于2023年英國從蘇丹撤僑的經驗，這對英國來說問題不大，因為人工智能的一部分能力已在蘇丹撤僑事件中有所展現，且它們所依靠的、通過商業途徑擷取的資訊完全符合《通用資料保護條例》。
3. 盟國為艾萊提供情報支援以維持态勢感覺
根據最近的經驗，專家們普遍對提高盟國的情報能力持積極态度。盡管這樣做有可能讓盟國失去一部分控制權，但通過向艾萊提供大量來自盟國的能力，能夠提升艾萊及盟國的情報收集能力。目前，資料內建仍是一項艱巨的挑戰，需要花費數周時間來完成。但據資料專家估計，到2040年，資料內建的速度将加快，所需的時間将從幾周縮短至幾天乃至幾小時。
一位專家指出，在這種情況下，盟國不大可能為了艾萊采取軍事應對措施，因為軍事行動更新的風險太大。相反，盟國可能會以其他方式提供支援，如協調機密和非機密資料，以實作情報共享。有品質保證的資料将使盟國保持對軍事形勢的了解，并為其他措施的制定提供指引，例如設計特别有效的懲罰措施。
4. 技術能力過于集中的風險
在該場景中，技術領域的能力集中伴随着風險。雖然軍隊保留了一定的自主權，但大部分技術能力仍由私營部門開發和實施。在人工智能方面，能力集中的情況尤為明顯，少數大型技術公司所掌握的知識和能力遠遠超過公共部門。盡管目前如此，但到2040年，随着開源人工智能模型的能力不斷增強，這種情況或将發生變化。這在很大程度上取決于公共部門和私營部門之間的關系。專家警示道，在這種情況下，謹慎的做法是假定當一家公司位于某個特定國家時，其結盟團體也位于該國。雖然商業集聚伴随着難以化解的風險，但這種未來情景能産生相當大的地緣戰略影響。盡管已經采取了一些措施來實作供應鍊多樣化和降低供應鍊風險，如半導體供應鍊，但專家們對到2040年這些供應鍊是否會大幅分散仍持懷疑态度。
場景三
1. 背景描述
在被羅蘭占領幾個月後，艾萊城（艾萊最大的智慧城市之一）抗議活動的勢頭不斷增強。羅蘭政權試圖鎮壓這些抗議活動。
圖4. 羅蘭占領艾萊
2. 資訊混亂限制了資訊作戰行動的影響
專家們對該場景下資訊作戰行動的影響持懷疑态度，因為大部分群眾已經對假新聞和其他錯誤消息不再敏感。是以，羅蘭的宣傳活動能否産生影響值得懷疑。另一方面，即使艾萊的抵抗運動能提供羅蘭占領軍實施暴行和其他非法行為的證據，但廣大群眾是否會接受這些證據仍是個問題，這有可能妨礙抵抗運動的進展。一位專家認為，如果造謠活動持續泛濫，到2040年，人們可能會對魚龍混雜的真假資訊感到厭煩，轉而選擇相信自己想要的東西，并對真實資訊和合理證據視而不見。
3. 資訊驗證方法的必要性
在上述情況下，艾萊和羅蘭群眾擷取資訊驗證方法就格外重要。驗證資訊的方法之一是給資訊打上水印，讓假新聞或人工智能生成的資訊更容易被識别。然而，目前還不清楚由誰負責給資訊加水印，以及加水印的效果如何。社交媒體平台被認為能在這方面發揮特殊作用——既能管控資訊或給資訊加水印，又能充當情報競争的平台，特别是在敵人入侵之前。另一項建議是，智能手機等終端使用者技術可以對使用者消費的資訊進行評分，以表明其準确性或潛在的虛假性，該技術很可能是政府有興趣資助的寶貴工具。
4. 更廣泛的技術和通信基礎設施
盟國如何接觸艾萊群眾并支援他們的抵抗運動，還取決于到2040年一般通信架構和相關技術的發展情況。一位專家提及了繞過政府或商業控制網絡的可能性，以及量子計算繞過加密或人工智能破解加密的能力。