摘要：人工智能技术对军事行动的影响极大，那么其究竟将如何影响军事行动？本文基于英国皇家三军研究所的研讨会成果《在情报环境中使用人工智能：未来场景研讨会》，针对军事行动前的紧张对峙、军事行动中的对抗以及军事行动后的政权维护假设3个场景；并针对每个场景重点讨论人工智能的影响。
关键词：情报，数据，军事行动，人工智能，场景应用
引言
2024年2月，英国皇家三军研究所（RUSI）举办了一场研讨会，针对人工智能可能对未来军事行动造成的影响进行了讨论。本文为上述研讨会的成果。本文所假设的场景为：一个名为“罗兰”（Roland）的经济、军事强国与其相邻岛国“艾莱”（Islay）之间的关系不断恶化，前者可能对后者采取军事行动。
本文假设的场景分为三部分，分别是：
- 罗兰在艾莱岛国附近进行军事演习，可能对其采取军事行动；
- 罗兰全面入侵艾莱岛国；
- 罗兰在艾莱岛国上建立政权。
每个场景都包含冲突的两个阶段（如图1所示）：阶段0-1隶属于第一个场景；阶段2-3隶属于第二个场景；阶段4-5隶属于第三个场景。针对每个场景，本文都将探讨人工智能的影响。
图1. 冲突的六个阶段
缺陷：鉴于本文的场景是虚构的，因此相关主体（罗兰和艾莱）的背景信息有所缺失，因此结果是推测性的。
下文将详述每个场景。
场景一
1. 背景描述
在接下来的十五年里，罗兰，一个经济实力雄厚的大国，扩大了其在人工智能领域的优势，并依靠其技术和经济力量来实现其地缘战略的野心。通过将工业网络间谍行动、创新、广泛的技术出口以及内部实施战略相结合，罗兰设法在国防、情报和治安等领域推广人工智能的运用。罗兰拥有一些最先进的人工智能系统。罗兰的文化和道德规范与英国截然不同，有意以不同于英国的方式使用人工智能技术。
时间来到2040年。在过去的几个月时间里，罗兰举行了多次大型军演。现在，国际社会日益担心罗兰会入侵邻国艾莱。出于这种恐惧，艾莱与地区盟国建立了紧密的联系，以应对可能爆发的冲突。
图2. 罗兰入侵艾莱的前奏
2. 集成人工智能是优势还是劣势
与会者探讨了罗兰广泛集成人工智能是优势还是劣势的问题。最初的设想传达的意思是，广泛集成人工智能将促进效率提升和技术进步。然而，对于2040年将会出现什么样的人工智能武器和系统，以及新风险是否会随之而来，与会者之间存在较大的分歧和不确定性。一些与会者认为，尽管从中长期来看，人工智能应用于军事领域可能会给军方带来战略优势，但是前期采用者很可能会无意间引入难以预测的新漏洞，给精于技术的对手钻空子的机会。
因此，如果对手有机会获取罗兰的数据集，那么广泛集成人工智能也有可能成为一项劣势。例如，如果罗兰在其军事行动中大规模使用人工智能系统，那么其势必会在部队动员和军事演习中也这么做。如果艾莱及其盟国截获了这些人工智能数据，它们便能准确掌握罗兰的武器装备状况及其部队的一举一动。此类数据类似于Strava收集的健身数据，后者是一款深受热衷于记录自身锻炼情况的军事人员欢迎的应用程序。2018年，美军人员分享到公共社交网络上的运动数据就暴露了美军军事基地的位置和军事人员的巡逻路径。如果能获得对手的数据，那么类似的数据信息就能为艾莱及其盟国的情报部门绘制一幅极为可靠的情报蓝图。从这个意义上来说，人工智能的广泛集成将成为罗兰的弱点，因为人工智能数据有可能导致新的漏洞。因此，在未来的军事冲突中，高标准的作战安全将成为更加关键的因素。
3. 虚假信息环境中的通信与决策
该研讨会还讨论了共享真实信息与虚假信息的影响。鉴于国际上深度伪造技术推动的针对个人的虚假信息宣传活动盛行，专家们认为，任何获取到的信息都有可能是伪造的。一位专家将这种情况描述为“关于谁更能有效制造和识别虚假信息的军备竞赛”。在这种环境下，传播真实、准确的信息将难上加难。加密水印等用于验证真实媒体来源的技术将越来越重要。专家们不仅关注建立通信渠道，还关注决策者评估、判断和利用可用信息的速度。预计到2040年，数据评估和决策的时间压力可能会上升。这或许会进一步导致决策者缺乏足够的时间或意愿来评估其决策过程所依据的数据质量。在应对该风险方面，人工智能可能大有助益，尽管它有可能妨碍人类进行有意义的监督和理解。
4. 数据质量
与会者预计，到2040年将有更多可获取的数据，但对人工智能技术和情报工作所需的数据质量普遍表示担忧：如何确保收集到的数据和用于训练人工智能系统的数据是准确、可靠的？专家们认为，英国情报体系的分散性将构成一大优势，因为不同的机构可能会使用不同的数据集，从而使其更能抵御虚假信息，并实现制衡。然而，数据分析师指出，任何可获取的数据只有在能够转化为有用信息的情况下才有价值——这一验证过程目前仍需人为参与，但人为参与的规模不太可能满足2040年的数据需求。因此，在这种情况出现之前，测试信息处理速度是准备工作的关键要素。与会者还指出，到2040年，可供机器学习模型使用的大部分数据实际上可能都是由人工智能生成的，但其影响仍有待澄清。
5. 如何进行威慑沟通
在零信任的背景下，虚假信息以及对虚假信息的验证和依赖情况决定了罗兰和艾莱两国之间的冲突前态势。这涉及了冲突方及其盟国之间的潜在沟通。如何在不被误解的情况下威慑对手将是一个基本问题。即使是为了缓和局势的沟通也可能不受信任。不明确的是，这种情况下的威慑是什么样子的——这就造成了些许疑问，例如，艾莱、英国及其盟国希望释放什么样的威慑信号，以及通过何种渠道来释放这些信号。
传统威慑主要依靠核导弹等军事硬件来向对手彰显自身实力并向其传递可能使用这些武器的信号。在一些专家看来，人工智能技术的威慑更多是基于沟通，对对手能力的质疑和解读需求依然存在。其他与会者认为，人工智能技术的威慑仍然是物理性的，因为人工智能将用于武器和其他系统。一位专家补充道，人工智能提供了更多不会把人类置于风险之中的威慑机会，例如，水下武器系统可用于在艾莱周边水域开展巡逻。
6. 以共享军事能力作为威慑手段
同样，尚不清楚盟国会向艾莱提供何种人工智能驱动的军事能力来确保威慑。一些专家对向艾莱提供人工智能技术持怀疑态度，因为对个别盟国来说艾莱很可能现在是盟友，但未来不是。这些专家表示，个别盟国可能会后悔对外提供将来有可能被用来对付自己的技术。这种担忧源于冷战时期的前车之鉴——当时，苏联入侵阿富汗，这一行为直接威胁到了美国的全球战略利益。为了挫败苏联的企图，美国政府投入大量武器和金钱，资助阿富汗游击队（亦称“圣战者”）进行抵抗。这些游击队在初期得到了美国中央情报局（CIA）的支持，包括武器、训练和情报等方面的援助。然而，这一政策产生了意想不到的后果。当苏联最终从阿富汗撤军时，这些受美国资助的“圣战者”组织并没有随之解散，而是继续活跃在阿富汗及其周边地区。其中一些组织逐渐发展成为极端恐怖组织，并在后来针对美国及其盟国发动了多起恐怖袭击，包括发生于2001年的9·11事件。
然而，随着人工智能技术的扩散，向艾莱提供军事能力变得更加容易。一位武器行业人士指出，在乌克兰，由于担心武器可能会导致冲突升级，因此武器的提供受到了限制。但是，人工智能系统可以进行编程，使其只用于预定目的，从而消除了冲突升级的风险。一位技术专家对该评估表示支持，他解释道，如果艾莱能通过对已交付的人工智能系统进行逆向设计来规避编程设定的限制，那么它首先就拥有了制造这些系统的必要技能。不过，一位与会者指出，如果人工智能技术日益成为一种开源技术或现成技术，那么艾莱盟国将可能难以决定与其分享哪些人工智能技术。在这种情况下，技术扩散的门槛可能会很低。这位专家认为，盟国可以决定谁能获得哪些技术和能力的假设可能是一个错误的前提。
人工智能、威慑以及对冲突动向的影响之间的关系将成为未来研究的重点领域。
7. 人工智能增进文化理解
将人工智能与行为和社会科学的理解结合起来以增进文化理解的社会技术方法，在与会者对该场景的许多其他意见中均有所体现。例如，一些人认为人工智能有助于了解对手及其文化、历史和道德规范，包括他们的网络安全文化。
场景二
1. 背景描述
一场由人工智能技术驱动的、宣扬对艾莱历史主张的宣传运动爆发。罗兰以举办大规模军演为幌子对艾莱发动全面侵略。
图3. 罗兰发动侵略
2. 人工智能用于设计高效的撤离方案
在罗兰全面入侵艾莱的情况下，其他国家将设法撤出其位于罗兰的公民。专家们认为，收集到的数据集和用于分析这些数据集的人工智能技术不仅有助于识别英国公民及其近亲，还能识别他们的所在位置。
此外，人工智能技术还可用于确定和优化撤离方案。一位与会者提议创建一个利用人工智能的外交部撤离应用程序。该应用程序可以向相关公民发布有针对性的指示，确定他们的最佳撤离路线，并告知他们何时撤离及撤往何处。例如，该应用程序可以告知其他国家海外公民机场的准确位置和行李携带注意事项。该应用程序需要依赖可靠的通信系统，但在冲突期间，这些通信系统有可能被迫关闭或中断，这是该应用程序面临的一个重大挑战。但是，有人反驳道，鉴于通信系统对于冲突双方都太宝贵了，因此任何一方试图完全关闭通信系统的可能性不大。
底层人工智能系统需要具备足够的灵活性，并由适当的数据提供支持。这就提出了两个问题，首先是如何以及何时收集这些数据；其次是收集数据的方式是否符合《通用数据保护条例》（GDPR）和其他隐私法。一位私营部门的从业人员认为，鉴于2023年英国从苏丹撤侨的经验，这对英国来说问题不大，因为人工智能的一部分能力已在苏丹撤侨事件中有所体现，且它们所依靠的、通过商业途径获取的信息完全符合《通用数据保护条例》。
3. 盟国为艾莱提供情报支持以维持态势感知
根据最近的经验，专家们普遍对提高盟国的情报能力持积极态度。尽管这样做有可能让盟国失去一部分控制权，但通过向艾莱提供大量来自盟国的能力，能够提升艾莱及盟国的情报收集能力。目前，数据集成仍是一项艰巨的挑战，需要花费数周时间来完成。但据数据专家估计，到2040年，数据集成的速度将加快，所需的时间将从几周缩短至几天乃至几小时。
一位专家指出，在这种情况下，盟国不大可能为了艾莱采取军事应对措施，因为军事行动升级的风险太大。相反，盟国可能会以其他方式提供支持，如协调机密和非机密数据，以实现情报共享。有质量保证的数据将使盟国保持对军事形势的了解，并为其他措施的制定提供指引，例如设计特别有效的惩罚措施。
4. 技术能力过于集中的风险
在该场景中，技术领域的能力集中伴随着风险。虽然军队保留了一定的自主权，但大部分技术能力仍由私营部门开发和实施。在人工智能方面，能力集中的情况尤为明显，少数大型技术公司所掌握的知识和能力远远超过公共部门。尽管目前如此，但到2040年，随着开源人工智能模型的能力不断增强，这种情况或将发生变化。这在很大程度上取决于公共部门和私营部门之间的关系。专家警示道，在这种情况下，谨慎的做法是假定当一家公司位于某个特定国家时，其结盟团体也位于该国。虽然商业集聚伴随着难以化解的风险，但这种未来情景能产生相当大的地缘战略影响。尽管已经采取了一些措施来实现供应链多样化和降低供应链风险，如半导体供应链，但专家们对到2040年这些供应链是否会大幅分散仍持怀疑态度。
场景三
1. 背景描述
在被罗兰占领几个月后，艾莱城（艾莱最大的智慧城市之一）抗议活动的势头不断增强。罗兰政权试图镇压这些抗议活动。
图4. 罗兰占领艾莱
2. 信息混乱限制了信息作战行动的影响
专家们对该场景下信息作战行动的影响持怀疑态度，因为大部分民众已经对假新闻和其他错误消息不再敏感。因此，罗兰的宣传活动能否产生影响值得怀疑。另一方面，即使艾莱的抵抗运动能提供罗兰占领军实施暴行和其他非法行为的证据，但广大民众是否会接受这些证据仍是个问题，这有可能妨碍抵抗运动的进展。一位专家认为，如果造谣活动持续泛滥，到2040年，人们可能会对鱼龙混杂的真假信息感到厌烦，转而选择相信自己想要的东西，并对真实信息和合理证据视而不见。
3. 信息验证方法的必要性
在上述情况下，艾莱和罗兰民众获取信息验证方法就格外重要。验证信息的方法之一是给信息打上水印，让假新闻或人工智能生成的信息更容易被识别。然而，目前还不清楚由谁负责给信息加水印，以及加水印的效果如何。社交媒体平台被认为能在这方面发挥特殊作用——既能管控信息或给信息加水印，又能充当情报竞争的平台，特别是在敌人入侵之前。另一项建议是，智能手机等终端用户技术可以对用户消费的信息进行评分，以表明其准确性或潜在的虚假性，该技术很可能是政府有兴趣资助的宝贵工具。
4. 更广泛的技术和通信基础设施
盟国如何接触艾莱民众并支持他们的抵抗运动，还取决于到2040年一般通信架构和相关技术的发展情况。一位专家提及了绕过政府或商业控制网络的可能性，以及量子计算绕过加密或人工智能破解加密的能力。