简介

尽管在许多私营和公共部门领域，人工智能解决方案正在成为推动变革和发展的重要工具，但在军事用途中使用人工智能的进展受到了一些重要的道德问题的阻碍，这些问题一直没有答案。这些问题主要涉及自主军事平台，通常集中于致命自主武器系统（LAWS）的使用和核升级的潜在风险^脚注2最近一篇关于军事决策中的数据科学和人工智能的文献综述发现，研究这些主题的大多数研究都源自社会科学。因此，关于将人工智能用于军事目的的辩论虽然具有高度的战略重要性，但在其范围和前景方面似乎是有限的。此外，当前文献中似乎在很大程度上未对数据科学在运营和战略层面的使用进行充分研究（Meerveld&；Lindelauf，2022）。在本文中，我们认为，关于在军事行动中使用人工智能的伦理讨论应该将重点从所谓的“杀手机器人”和完全自主的人工智能应用程序的概念转移到仍然受（有意义的）人类控制的解决方案。正如各种研究人员所指出的[例如，Tóth等人（2022）]，尽管对军事人员的风险可能降低，但使用致命自主武器系统（LAWS）通常被认为是非法和不道德的。政策制定者也一致认为，人工智能不能完全取代人类决策。然而，有必要在更广泛的背景下审视军事人工智能的机遇和风险，并探索如何控制、监督人工智能技术，并将其潜在地融入部队结构和条令（Johnson，2020a，b），从而加强或使威慑复杂化（Johnson，2019，2020b）。根据对军事人工智能伦理的后果主义方法，我们认为，在讨论基于人工智能的决策支持技术的责任时，应考虑军事行动中的军事效能和整个决策链。例如，出于自卫目的，某些类型的军事人工智能机器人可以受到人类的控制和判断，人类的人工智能团队可以在压力和不确定性下更快、更恰当地做出决策，人工智能系统可以广泛用于军事人员的适应性训练，从而帮助减轻决策偏差[例如，通过从大脑中的神经测量信号检测困倦或疲劳（Weelden等人，2022）]。在图1中，我们将当前关于军事背景下负责任人工智能的辩论及其焦点（即右下象限、机器弱点（MW）和MDMP的终点）可视化。在下文中，我们首先阐述了军事决策过程（MDMP），该过程在很大程度上先于战场上的致命目标交战。接下来，我们介绍了MDMP中人工智能解决方案的潜在用途及其好处，并推断了军事人工智能的责任问题。

军事背景下负责任人工智能辩论的特点。红色虚线表示当前文学的焦点，而蓝色虚线表示辩论的理想范围。

AI支持军事决策过程（mdmp）

军事决策包括一种迭代逻辑规划方法，用于根据战场形势为给定任务选择最佳行动方案。它可以在战术和战略层面进行。这一过程中的每一步都有助于实现自动化。这不仅适用于MDMP，也适用于情报周期和目标周期等相关流程。如Ekelhof（2018）所述，与其将目标参与作为终点，不如对整个过程进行全面检查。为了说明这一点，我们在图1中用蓝色圆圈显示了首选范围。下面，我们首先简要介绍描述MDMP。随后，我们探讨了人工智能在决策中的潜在优势，并提供了人工智能如何在几个不同（子）步骤中具体支持MDMP的一些示例。

MDMP及其挑战

美国陆军在MDMP中定义了七个步骤：（1）任务接收，（2）任务分析，（3）行动方案（COA）开发，（4）COA分析，（5）COA比较，（6）COA批准，以及（7）订单生产、传播和过渡（Reese，2015）。MDMP的详细程度取决于可用的时间和资源以及其他因素。MDMP中的每个步骤都有许多生成中间产品的子步骤。例如，在战场情报准备（IPB）期间开发的情报产品，用于指示指挥官的行动方案和决策点，或通过地形分析得出的地理空间产品，其中可包括关于作战位置和最佳接近途径的建议。根据北约标准，情报周期包括四个步骤（直接、收集、处理和传播）（Davies&；Gustafson，2013），是创建这些情报产品的独立但相关的子过程。如Ekelhof（2018）所解释的，MDMP子过程的其他例子是目标周期，或持续的经验教训过程，以便将最佳实践和经验教训纳入军事理论（Weber&；Aha，2003），这最终形成了COA开发阶段的重要投入，手工制品。这有两个重要的后果。首先，由于信息空间的复杂性，MDMP极易受到认知偏差的影响。这些可能是有意识的，也可能是无意识的，可能会导致表现不佳。认知偏差的一个例子是群体思维，这是智力周期分析和评估阶段通常遇到的问题（Parker，2020）。另一个例子是，当基于初始证据（锚）做出决策时，锚定偏差（Heuer，1999），如一组飞行员需要在直升机任务规划期间收到一份良好地点初步清单后确定最佳战斗位置。尽管MDMP中的直觉决策可能有效，但众所周知，直觉和不确定性都会导致错误的决策结果（Van Den Bosch&；Bronkhorst，2018）。由于我们的人类认知机制不具备将大量数据中的信息转化为有价值的知识的能力（Cotton，2005），因此随着数据量的指数增长，认知偏差的敏感性也会增加（Heuer，1999）。预计信息过载的挑战只会增加，因为现代军事行动越来越依赖开源数据（Ekelhof，2018）。其次，劳动密集型流程往往很耗时。当代数字化环境导致不同格式（即数字、文本、声音和图像）的各种数据源激增，智能需要它们的融合和解释（Van Den Bosch&；Bronkhorst，2018）。在大多数军事情况下，设计高效和精简的规划流程非常重要，尽可能避免劳动密集型子步骤，以确保不浪费时间（Hanska，2020）。毕竟，目标是超越对手的OODA循环（即，观察、定向、决定、行动）（Osinga，2007），基于AI的自动化可以是提高效率的重要驱动因素。此外，时间压力会进一步增加认知偏差的可能性[例如（Roskes等人，2011）和（Eidelman&；Crandall，2012）]。总之，鉴于处理所有潜在相关数据的能力有限和时间有限，在许多军事环境中，人类决策机制似乎是不足的。人工智能的价值在于支持人类决策的能力，这优化了总体结果（Lindelauf等人，2022）。在下一节中，我们将通过介绍MDMP中（子）元素的自动化示例，更详细地讨论AI提供的机会。

人工智能对军事决策的附加值

鉴于人类决策的局限性，人工智能（部分）自动化的优势可以在时间维度和决策质量上找到。例如，北约研究任务组研究了情报周期每一步的自动化需求（北约科学与技术组织，2020年），发现人工智能有助于手动任务的自动化，识别复杂数据集中的模式，并总体上加快决策过程。由于收集更多的信息和观点会减少偏见的智能产品（Richey，2015），使用计算机能力增加可处理和分析的数据量可能会减少认知偏见。 例如，通过对竞争假设的自动分析，可以避免确认偏差（Dhami等人，2019）。机器相对于人类的其他优势在于，它们允许进行可扩展的模拟，进行逻辑推理，具有可转移的知识和可扩展的内存空间（Suresh&Guttag，2021），（Silver等人，2016）。当前关于将人工智能用于决策的辩论的一个重要方面是，为人工智能系统提供过多自主权的潜在危险，导致不可预见的后果。解决方案的一部分是向领导层提供足够的信息，说明人工智能系统是如何设计的，其决策依据是什么（可解释性），哪些任务适合自动化，以及如何处理技术错误（Lever&Schneider，2021）。不适合自动化的任务，例如人类优于机器的任务，通常是高度复杂的任务（Blair等人，2021）。因此，关于负责任的人工智能的辩论也应考虑到人类的优势（HS象限）。在实践中，人工智能系统不能孤立工作，而是需要与人类决策者合作。除了承认人类的有限理性和“人类弱点”（即图1中的左下象限；HW）之外，还必须考虑到人工智能不能完全没有偏见，这有两个原因。首先，所有基于机器学习的人工智能系统都具有所谓的归纳偏见，包括对未知数据进行预测所需的一组隐式或显式假设。第二，机器学习系统的输出基于在人类决策事件中收集的过去数据（机器弱点，MW，即图1中的右下象限）。揭示第二类偏见可能会导致对过去人类表现的深入了解，并可能最终改善整个过程。

MDMP中的AI示例

研究人工智能的风险和缓解风险的策略是很重要的。然而，如果不同时检查相应的机会（图1中的MS象限），这种缓解是无用的。因此，在本段中，我们给出了MDMP中AI应用的一些示例。在这样做的过程中，我们通过考虑图1中的每一个象限，为扩大关于负责任的人工智能的辩论提供了动力。机器优势的一个例子是使用人工智能帮助情报分析师生成用于战术地形分析的地理空间信息产品。这是MDMP的重要子步骤，因为地面军事行动在很大程度上取决于地形。人工智能支持的地形分析可以优化军事指挥官可能的行动方案，还可以优化分析最可能的敌人行动路线（De Reuse等人，2021）。另一个例子是使用自主技术来辅助目标系统分析（TSA），这一过程通常需要几个月（Ekelhof，2018）。TSA包括对敌方系统的分析，以确定特定目标（及其组件）并确定其优先级，以优化资源，压制敌方最脆弱的资产（Jux，2021）。人工智能在TSA中的应用实例包括卫星镜头中的自动实体识别，以增加进行TSA所需的信息位置，以及基于图像分析阶段收集的信息，人工智能支持对敌军位置、集结和动态的预测。Ekelhof（2018）还提供了目前用于武器装备（即，评估应将哪种武器用于选定目标和相关军事目标）和附带损害评估（CDE）的自主技术的例子，这两个都是瞄准过程的子步骤。人工智能对MDMP的附加值的另一个例证是战争游戏中，这是MDMP COA分析阶段的一个重要部分。例如，在战争游戏中，人工智能可以帮助参与者理解对手可能的观点、感知和计算（Davis&Bracken，2021）。另一个例子是某个COA的3D视图的可能性，从而能够快速检查地形特征（例如，潜在视线），以增强决策（Kase等人，2022）。人工智能支持的认知系统还可以收集和评估关于人类决策者注意力状态的信息，使用传感器技术和神经成像数据来检测思维游荡或认知过载（Weelden等人，2022）。其他领域的算法也可能代表MDMP的价值，例如天气-船舶路由优化算法（Lin等人，2013）、体育运动中使用的团队组建优化工具（Beal等人，2019）或自然语言处理中的深度学习（NLP）的许多应用（Otter等人，2020），对于总结文本的NLP应用程序（如Quillbot和Wordtune），减少了MDMP中的决策时间。最后，数字孪生技术（使用人工智能）已经在军事环境中证明了其价值，并为未来的应用带来了希望，例如，使维修人员能够预测飞机上未来的发动机故障（Mendi等人，2021）。未来，可能会对与军事行动相关的所有有形资产进行实时监控，例如（敌对）军事设施、平台和（国家）关键基础设施。

结论

军事背景下关于负责任人工智能的辩论不应主要关注与法律法规有关的伦理问题。通过将这场辩论分为四个象限，即人机对强弱，我们认为在军事行动的整个决策链中使用人工智能是可行的，也是必要的。我们描述了MDMP及其所涉及的劳动密集型手工产品带来的挑战。这些劳动密集型过程易受认知偏见的影响，且耗时长，限制了人类的决策。因此，我们得出的结论是，人工智能的价值在于支持这一决策以优化其结果的能力。忽视人工智能的能力来缓解军事行动中人类认知能力的局限性，从而可能增加军事人员和平民的风险，这是不负责任和不道德的。