围绕人工智能（AI）治理的讨论是复杂的，因为它们涉及-或者至少应该涉及-技术、法律、道德和政策专业知识之间的动态相互作用。当各国的地缘政治利益处于竞争中时，这种复杂性在国际层面上被放大。在竞争激烈的国际政治体系中，全球治理就其本质而言是困难的。当人工智能等新兴技术介入其中时，情况就更加复杂了。人工智能还处于起步阶段，在战争和冲突中有一些未经测试和未知的应用。该领域技术进步的速度加剧了这些担忧。

虽然人工智能并不新鲜-马文·明斯基（Marvin Minsky）在20世纪50年代早期开发了被广泛认为是第一台神经网络学习机器-但它在战争和冲突的许多方面的应用打开了一个新的潘多拉魔盒。道德主义者、国际法律专家和国际事务专家一直在对这项技术的潜在滥用和缺乏管理其使用的任何法规敲响警钟。2021年，美国人工智能国家安全委员会（National Security Commission on Artificial Intelligence）警告称，“美国必须立即行动，部署人工智能系统，并在人工智能创新方面投入更多资源，以保护其安全，促进其繁荣，并保障民主的未来”（2021年，美国国家人工智能安全委员会）

毫无疑问，当今围绕人工智能的最复杂的全球治理挑战涉及其在国防和安全领域的应用——从杀手级无人机到计算机辅助增强军事指挥和控制流程。相应的国际政策框架仍处于早期阶段，需要进行一定程度的规范性变革，各国过去曾发现这一变革具有挑战性。目前大国之间日益激烈的竞争已经超出了地缘政治领域，进入了技术领域，这给国际体系的稳定带来了潜在风险（Araya和King 2022）

毫无疑问，当今围绕人工智能的最复杂的全球治理挑战涉及其在国防和安全方面的应用。

滑铁卢大学人工智能研究所举办了一系列网络研讨会，探讨人工智能和自动化战争的伦理。这些讨论汇集了技术和政策专家，讨论了人工智能在战争和冲突中应用的重大问题、关切和发展。这篇论文系列就是结果。这些论文试图了解人工智能的武器化是如何在当代全球治理架构中运作的。他们试图假设这项技术将如何在国防和安全领域继续发展，研究对当前地缘政治格局的相应影响，并询问与部署自主武器相关的道德和伦理考量。对于那些致力于创造一个更加公正和公平的未来的人工智能领域的人来说，本系列文章对关键问题进行了精辟的分析。

该系列由许多相关的探索研究问题指导。这些包括（但不限于）以下内容：

人工智能如何在军事环境中使用？正在出现哪些应用程序？
敌对国家行为者如何将数据操纵作为战略杠杆，其影响是什么？
为什么人们对人工智能的能力了解甚少？这是如何使行为体难以表明自己的能力并评估他人的能力的？
从规范和国际法的角度来看，对抗性和反人工智能技术的含义是什么？
例如，人工智能能否满足各国在武装冲突法方面所面临的法律责任？
致命自主武器系统（LAWS）的伦理和规范含义是什么？
鉴于各国在这些问题上的分歧，如何普遍遵守道德准则和标准？

该系列文章以亚历克斯·维尔纳（Alex Wilner）撰写的一篇文章开始，题为“人工智能与威慑的未来：希望与陷阱”。维尔纳着眼于威慑问题，并阐述了人工智能可能会影响我们对威慑理论及其未来几十年实践的理解和框架的各种方式。他讨论了不同国家对冲突局势中应允许的人工智能自主程度表达了不同的看法，因为那些更愿意将人类排除在决策圈之外的国家可能会获得战略优势。威尔纳的文章强调，各国的技术能力差异很大，这将阻碍盟友之间的互操作性，而对监管和道德标准的不同看法则使全球治理工作更具挑战性。

以非国家使用无人机的未来为例，从民族国家到非国家行为者的武器技术转移可以帮助我们理解下一代技术如何也会落入恐怖分子、犯罪团伙或武装团体等令人厌恶的角色手中。詹姆斯·罗杰斯（James Rogers）在其文章《第三个无人机时代：展望2040年》（The Third drone Age:Visions Out to 2040）中表示，乌克兰无人机打击规模更大的俄罗斯军队的有效性应该成为西方军队的一个警告。这是一种可以通过不对称地推进传统上较弱的力量来平衡战场的技术。无人机技术的扩散增加了未来战争也将是无人机战争的可能性，无论这些无人机是否是自主系统。这项技术掌握在非国家行为者手中，意味着未来西方打击叛乱或游击队的任务将更加困难。

数据是推动人工智能和更广泛的战争数字化转型的燃料。Eleonore Pauwels在她的文章《网络冲突中的民用数据：法律和地缘战略考虑》中讨论了进攻性网络行动是如何改变其他行为者的数据集以破坏对手的——无论是通过集中生物特征设施还是通过基因组分析数据库中的个人DNA序列，或者将错误数据注入用于态势感知的卫星图像中。根据国际人道主义法的含义，Pauwels认为，对抗性数据操纵构成了另一种形式的“灰色地带”行动，低于武装冲突的门槛。鉴于国际人道主义法（IHL）中没有关于网络攻击或网络敌对行为的国际商定定义，她评估了与对抗性数据操纵相关的挑战。

在《人工智能与实际国际人道主义法问责差距》中，Rebecca Crootoff认为，技术可以通过引入人类决策及其影响之间的地理、时间和机构距离，使法律分析复杂化。这使得追究个人或国家对非法有害行为的责任变得更加困难。但除了围绕法律责任增加的复杂性之外，新的军事技术也使国际人道主义法中现有的责任缺口更加突出：对意外平民伤害相对缺乏法律责任。这些无意的行为可能是灾难性的，但从技术上讲是在国际法的范围内，这突出表明需要新的问责机制来更好地保护平民。

一些人断言，部署自主武器系统可以通过限制附带损害的动态破坏来加强遵守国际人道主义法，但人工智能的脆弱性和以意想不到的方式行事的明显能力带来了新的和意想不到的风险。在《自主武器：平民保护的虚假承诺》一书中，布兰卡·马里扬认为，人工智能很可能在几十年内都无法超越人类的判断，如果有可能的话，这意味着需要制定规定，强制要求人类对武器系统进行一定程度的控制。应监控向愿意在更宽松的指挥链上部署武器系统的国家出口武器系统的情况。

自主武器：平民保护的虚假承诺src=https://www.cigionline.org/static/images/Autonomous_Weapons_The_False_Promi.2e16d0ba.fill-377x246.pngwidth=377

推荐

自主武器：平民保护的虚假承诺

控制这些新的潜在武器的监管努力意味着我们需要考虑在特定背景下对人类监督的定性规定，弗兰克·绍尔（Frank Sauer）在《武器系统的自主性与监管斗争》（Autonomy in Weapon Systems and the Struge for Regulation）中指出。目前的讨论提出了一种双管齐下的方法，即明确禁止自主武器发挥某些作用，例如打击人类目标，同时允许其他应用遵守某些规定，例如打击无生命的军事目标。目前，一些加入《联合国特定常规武器公约》的国家似乎有意阻止这一领域的严格监管。然而，这种不作为可能会促使在不同的国际论坛上规范法律。

联合国致命自主武器系统领域新兴技术政府专家组为理解和规范这一复杂的主题做出了重大贡献。这包括2019年禁止或限制使用某些常规武器缔约国会议通过的11项指导原则，以及应对人道主义和国际安全挑战的备选方案。尽管联合国小组自2016年以来一直在努力解决这一问题，但自2022年7月最后一次会议以来，尚未达成共识。

此外，关于人工智能的安全影响的辩论往往会导致各方在讨论“狭义”人工智能（如自动无人机或自动网络攻击）的当前和近期发展时相互回避，而其他人则关注“人工通用智能”的长期前景。托比·沃尔什（Toby Walsh）在《战争中的人工（通用）智能问题》（the Problem with artificial（general）intelligence in Warfare）中警告说，一旦这些区别得到澄清，我们将能够更好地思考这一技术进步带来的伦理和法律挑战，各国需要继续推动和建立关于人工智能治理综合架构的多边对话。这对于在不断变化的地缘政治格局中管理这一新现实至关重要。

简介