本文刊发于《国际安全研究》2024年第5期，第109-134页，注释略。
历史比较视野下自主武器军控规范争论及其走向
王 蕾
同济大学政治与国际关系学院助理教授
内容提要
科学技术的快速迭代，尤其是人工智能技术的发展使军备控制发生重要变化。在围绕致命性自主武器系统发生的规范争论中，各方面对未来技术发展及其风险后果的不确定性提出竞争性的预期，就预防性的军控规范展开博弈。与杀伤人员地雷、集束弹药等军控议题领域的规范博弈相似，自主武器规范争论围绕一个核心问题展开：自主武器的使用可能产生的人道主义风险与道德后果，究竟是源于其固有特性，还是国家开发与使用自主武器的行为方式？为倡导制定具有法律约束力的国际公约以禁止和管控自主武器，跨国倡议网络尝试界定自主武器的固有特性，论证其与负面后果之间的因果联系，但未来技术不确定性使其面临一定困境。拒绝制定国际公约的美国则尝试利用这种不确定性，证明国家可以通过引导和调整开发与使用自主武器的方式，减小乃至消除其风险与后果，但其论辩同样在一定程度上受到不确定性的影响。这对自主武器规范争论的走向产生重要影响，使之明显有别于其他军控领域。双方在支持者的争取方面处于相对平衡的态势，同时双方各自构建的阵营均具有内部异质性。规范争论不再是界限清晰、立场分明的两个阵营之间的对抗，一个观点立场复杂交错的关系网络已然形成。
关键词
自主武器；军备控制；规范竞争；人工智能；技术不确定性
随着科学技术尤其是人工智能技术的进展，对于“杀手机器人”将会出现并被用于战争的预期，在人们展望未来时投下了一道阴影。自从有关致命性自主武器系统的军控被提上议事日程以来，国际社会围绕军备控制进行的博弈不再只是针对已然出现的武器及已经发生的灾难，而是面向未来技术，对技术的进展及其在军事领域的应用在未来某个时刻可能造成的安全风险，尤其是平民的伤亡进行预判并采取预防性的措施。
以非政府组织为主体的跨国倡议网络试图将它们曾在杀伤人员地雷、集束弹药等议题领域取得的成功复制到自主武器军控这一新的议题中。在历史经验的驱动下，它们把目光聚焦于自主武器的使用将会造成的违背国际人道法的后果，倡导制定具有法律约束力的国际公约对自主武器进行预防性的禁止与管控。然而自《特定常规武器公约》缔约国会议先后召开非正式专家会议及政府专家组会议以专门讨论自主武器问题以来，有关制定国际公约的倡议尚未成为现实。与之形成鲜明对比的是，在杀伤人员地雷、集束弹药军控等历史案例中，跨国倡议网络均在短短数年内成功实现制定国际公约的目标。这种实践上的联系与结果上的区别意味着，采用历史比较的方法，探索各方围绕自主武器发生的规范争论同杀伤人员地雷等议题领域规范生成进程中的情形究竟有何异同，对于理解自主武器军控博弈的现状及其走向具有重要意义。
为此，在高度复杂且动态变化的自主武器规范争论中，本研究重点关注和分析以下两方的互动关系。其中一方是积极倡导制定国际公约的非政府组织群体，它们通过组建“制止杀手机器人运动”等方式构建了一个跨国倡议网络；另一方则是始终反对制定国际公约的美国。聚焦这一组互动关系的原因有以下两点：其一，在杀伤人员地雷、集束弹药军控谈判的历史进程中，跨国倡议网络与美国处于高度对抗态势，它们之间的规范博弈左右着军控谈判的结果，为理解自主武器军控论争的走向提供了比照对象。其二，在自主武器规范争论中，对应否制定国际公约立场各异的各方可以被视作一个从高度赞成到高度怀疑和反对的连续体，而非政府组织群体组建的跨国倡议网络和美国不仅处于该连续体的两端，而且均投入大量资源用于论证其观点主张的合理性，为之争取国际支持、构建和拓展政治共同体。因此，这一组互动关系虽不能代表自主武器规范争论的全部内容，却可以被视作这一进程的核心线索，对规范争论的走向有至关重要的影响。
针对这一组互动关系，本文讨论的核心问题是，从杀伤人员地雷、集束弹药军控谈判的历史案例到自主武器规范争论，非政府组织群体组建的跨国倡议网络与美国之间的互动关系发生了什么样的变化？对规范争论的走向会产生什么样的影响？本文认为，无论是在历史案例还是自主武器规范争论中，双方的论争都围绕着一个核心问题展开：特定武器的使用产生的人道主义后果，究竟是源于武器的固有特性，还是国家开发与使用该类武器的行为方式。在历史案例中，双方就截然对立的答案展开博弈，且跨国倡议网络的观点即武器固有特性与人道主义后果之间的排他性联系得到的认可更多，跨国倡议网络迅速凭借支持者之众实现了制定国际公约的目标。而在自主武器规范争论中，未来技术发展及其风险的不确定性深刻地影响着双方对上述问题的回答与论证，从而影响规范争论的走向。
一军控规范争论的历史案例分析
自《渥太华禁雷公约》（即《禁止杀伤人员地雷公约》）缔结以来，跨国倡议网络对军控规则的影响成为不少学者关注的对象。在以往的观念中，安全政策处于国家政府的掌控之下，服务于国家的军事利益，而很难受到民间团体的干预，跨国倡议网络在倡导禁止杀伤人员地雷等方面取得的成功则挑战了这一观念，证明了民间团体通过规范倡导影响各国安全政策的可能性。
在《渥太华禁雷公约》达成后，跨国倡议网络又陆续涉足集束弹药与核武器这两个议题领域。它们在这些议题领域采取的一项关键的共同策略，是通过强调这些武器的使用造成的人道主义后果，引导国际社会关注并否定这些武器的正当性。这一策略的核心目的是挑战从军事效用的角度理解相关武器之价值的传统观念，塑造一种将使用会带来人道主义灾难性后果的武器视作不道德行为的新观念。在人道主义视角下，如果使用某种武器会给平民造成无差别的伤害，那么谈论和重视其军事价值就不再是一种正当的、可以被接受的选择。借此，跨国倡议网络试图劝说各国从道德、而非军事利益的角度重新考虑自己的立场。在法律层面上，对于人道主义后果的强调突显上述武器的使用与国际人道法，特别是在冲突中有效区分平民与战斗人员等基本原则的冲突。跨国倡议网络得以利用国际人道法为其倡议提供法律上的支撑。
但现有研究尚未充分注意到的是，当跨国倡议网络试图将注意力引向武器的使用造成的人道主义后果时，由此引发的规范争论实际上围绕一个关键问题展开：是某类武器的固有特性导致其使用必定会产生人道主义后果、违背国际人道法的原则与规定，还是国家开发与使用这类武器的方式不当才引发了人道主义灾难、使平民无辜地遭受伤亡？不同的答案可以导向不同的结论：在认为根源在于武器之固有特性的国家看来，只有彻底禁止这类武器，才有可能阻止灾难性的人道主义后果；而当一国将开发与使用武器的方式视作风险之源时，则更倾向于将管理、改善国家开发与使用武器的方式，而不是直接禁止该类武器，视作降低乃至消除人道主义风险的合理与可行路径。
（一）针锋相对的论辩
在这些历史案例中，跨国倡议网络无一例外地尝试在武器的固有特性与人道主义风险之间建立排他性的联系。当美国等部分国家以技术的改进为由对具有自毁装置的地雷进行辩护时，跨国倡议网络指出，虽然与无法自毁的杀伤人员地雷相比，具有自毁装置的地雷对于平民造成的伤害相对较小，但这种技术上的改进无法改变杀伤人员地雷天然地无法对平民和战斗人员进行有效区分这一固有特性，地雷在何时爆炸、对谁造成伤害仍旧是无法预料的。这样的论证对于为禁止杀伤人员地雷的国际公约争取支持具有重要意义，因为它排除了在允许国家使用该类武器的前提下通过对国家使用武器的行为进行管控而有效消除人道主义风险的可行性。此后，在倡导禁止集束弹药的过程中，跨国倡议网络复制了这一策略。通过调查以色列对黎巴嫩南部地区使用集束弹药造成的伤亡，非政府组织得出的结论是，该类武器在人道主义的维度上存在固有的缺陷：集束弹药只要投入使用就必定会产生广域效应，因此无法避免造成平民的伤害；该类武器在被投射的过程中会留下大量未爆炸的子弹药，从而在冲突结束之后仍持续地以无法被预测的方式爆炸并伤及平民。支持彻底禁止集束弹药的国家及非政府组织频繁强调，无论在何地使用集束弹药都必定会造成比其他的常规武器更为严重的人道主义后果，集束弹药即使按照设计者和操作者的意图运作，也无法使其打击对象严格限制在军事目标的范围内。
美国采取的应对策略是否认这些武器的使用会无可避免地造成有违国际人道法的后果，强调国家开发和使用武器的行为方式只要适当，就可减少乃至避免对于平民的无差别伤害。美国虽承认杀伤人员地雷带来人道主义危机，却将其归因于部分行为体有意用地雷对战斗人员和平民进行无差别的攻击，而非武器本身难以规避对平民的伤害。美国进而认为，对国家开发和使用地雷的方式进行一定的约束，包括为所有远距离投放的地雷安装自毁装置、限制不具有自毁装置的地雷的使用范围、用新技术使地雷更易被探测和发现等，可以有效降低平民的伤亡人数。美国宣称，从目的和原理上来看，集束弹药虽然可以覆盖一定的区域，但主要是用于向数百平方米范围内的特定军事目标进行打击，而并不是用于阻止人们进入某片区域或用于污染大面积的土地；集束弹药虽在投射过程中会留下未爆炸的子弹药，但这些子弹药并非深埋于地下，也非稍加触碰即可爆炸。美国据此得出的结论是，只要集束弹药是按照设计的意图被投入使用，它所能够造成的危害仅仅具有偶然性，而且在范围、规模和持续时间上都较有限。在此基础上，美国声称，提升集束弹药的性能，使之在使用过程中能够对准目标、更加精准而可靠，就可以进一步降低其人道主义危害。此外，在冲突结束后投入资源对未爆炸的子弹药进行清除也被认为可以有效阻止集束弹药威胁平民的生命健康。
（二）国际公约的达成
双方展开的这一论辩深刻地影响着规范博弈的走势。在论辩中，跨国倡议网络获取了更为充分并具有权威性的证据来支撑自己的论点。比如在集束弹药问题备受关注之时，由联合国大会人权理事会紧急设立的高级别调查委员会对以色列在黎巴嫩攻击平民的情况进行了调查，并得出“以色列国防军采用集束弹药并不带来任何军事优势，而且违反了区分和相称性原则”的结论，这明确地反驳了关于集束弹药可以在避免伤害平民的同时具备军事价值的观点。充分而权威的证据促使更多国家迅速明确立场。例如在2006年召开的《特定常规武器公约》缔约国审议会议上，奥地利等24个国家发表共同宣言，对集束弹药能够产生无差别伤害之效果的固有特性表示认可，并呼吁对其予以禁止。相较之下，在论辩中处于劣势的美国则未能将数量可观的国家聚集在自己周围，更未能以共同宣言等形式公开展示其支持者之众。
在此形势下，禁雷公约及集束弹药公约的倡导者采取了相同的策略。它们选择绕开《特定常规武器公约》缔约国审议会议这一难以取得谈判进展的机制，另行创建由志同道合者主导的谈判平台，并利用支持者之众使之获得国际合法性。无论是1996年加拿大启动的“渥太华进程”，还是2007年挪威启动的“奥斯陆进程”，都迅速得到了数量可观的国家的参与和支持。它们在制定国际公约禁止特定武器的共同目标驱使下参与会议讨论，从而能够专注于公约的细节问题，通过交换意见迅速达成共识，而非僵持于基本立场方面的分歧。这种绕开既有机制的谈判进程也为非政府组织的充分参与和发挥影响力提供了空间。在此进程中，《渥太华禁雷公约》及《集束弹药公约》得以迅速推出，并得到大多数国家的签署。美国则难以组建对立阵营与之抗衡，也无法利用与真正的谈判进程已失去相关性的《特定常规武器公约》审议会议阻止公约的达成。
二理解自主武器的固有特性：跨国倡议网络的策略与困境
当自主武器问题进入国际非政府组织的视野时，它们试图将曾经应用于杀伤人员地雷等议题领域的人道主义话语复制到这一新的议题领域，并尝试继续用武器的固有特性来解释自主武器的使用存在的人道主义风险。然而，如果说在讨论杀伤人员地雷与集束弹药时，非政府组织群体组建的跨国倡议网络可以将其矛头对准某种实有存在，关于自主武器的讨论却包含着大量的对未来技术进展及其应用场景的想象。现有研究认为，这与流行文化中的科幻想象存在密切关联。如何确认一种还未面世的武器的固有特性，是跨国倡议网络面临的突出困境。同样关键的是，在自主武器这一标签之下，人们指涉的实际上是一个自主化或者说智能化程度由低到高的连续体，不同程度的自主技术以不同方式被嵌入武器之中，呼吁禁止所有包含自主功能的武器系统既缺乏可操作性，从人道主义的角度来说也很可能并无必要。
（一）跨国倡议网络的初始策略
为了从固有特性的角度讨论禁止其中部分自主武器的必要性，跨国倡议网络需要解决的问题是，在所有具备一定自主功能的武器之中，什么样的自主武器就其固有特性而言具有人道主义风险、无法满足国际人道法的要求。
对此，非政府组织群体组建的跨国倡议网络最开始采取的策略是根据自主武器智能化的程度，从自主武器中提取“完全自主的致命性武器”这一特定类型的武器，即将矛头对准自主武器这一标签指涉的连续体中智能化程度最高的一端，论证从固有特性的角度来说，完全自主的致命性武器的使用为什么无法满足国际人道法或伦理道德的要求。为了论证这一点，跨国倡议网络引导人们想象和理解何为完全自主的致命性武器，其基本运行逻辑是什么。在跨国倡议网络的描述之下，完全自主的致命性武器是这样一类武器：它一旦启动，可以在没有人的指令的情况下选择目标对象并进行武力打击。这种目标选择与武力的使用是提前嵌入武器的计算机程序和算法运行的结果。程序与算法代替了人的判断。即使人保持对武器运行情况的监控，也很可能无法及时否决和中断武器在目标选择与武力打击方面作出的决定，因此其实际运行方式与缺少人的监控的自主武器无异。
跨国倡议网络主要从以下几个方面论证完全自主的致命性武器的固有特性及由此产生的人道主义后果。第一，完全自主的致命性武器不具备在复杂的环境下根据国际人道法的需求对平民和战斗人员作出准确判断与区分的技术能力。完全自主的致命性武器无法像人一样有效理解人的行动背后的意图，无法对微妙但重要的线索进行准确的解读，因而难以复制人的决策模式，在复杂多变的环境中避免作出错误的判断，并以符合道德的方式对待平民。第二，不可预测性是完全自主的致命性武器的固有特性。这类武器所包含的复杂系统特征及机器学习能力，导致武器系统在实际运行过程中有可能出现开发者难以预料的故障，使系统的运转不再按照设计的路径进行。完全自主的致命性武器无法将不可预测性降低为零，因此无法确保其使用必定不会产生过度的平民伤亡等意料外的安全问题。第三，跨国倡议网络关注伦理问题，认为将完全自主的致命性武器投入使用，就是在允许机器以及算法决定人的生死。作为无生命的机器，完全自主的致命性武器无法理解人的生命的价值，也无法理解失去生命意味着什么。允许机器及算法决定人的生死就是对于人的尊严的不尊重，这在伦理上是绝不可接受的——即使允许机器决定敌人的生死亦不可接受，超越了基本的道德底线。
然而，当尝试从智能化程度的角度分析自主武器的固有特性时，跨国倡议网络面临着两个方面需要回答或反思的问题。第一，是否只有完全自主的致命性武器具备上述这些固有特性？在参与论辩时，美国曾提出，对于自主武器之特性的讨论不应只关注武器在技术层面上的智能化水平。人以不同的方式使用自主武器，可以导致武器在实际运行过程中呈现出不同的自主性。操作者可以选择将包含一定自主功能、但智能化水平有限的武器投入战场并令其自由地选择打击目标，在此情境下，武器的运行将表现出较高的自主性。这一观点虽然意在为美国拒斥禁止自主武器的诉求服务，但它指向了一个关键的问题，即人与武器之间在其实际运行过程中究竟处于什么样的互动关系。这一观点否定了武器的智能化水平同人与武器的关系模式之间存在线性关联，引导人们关注智能化程度高低不同的自主武器在实际运行过程中所呈现出来的共有特性。
第二，是否所有的完全自主的致命性武器都必定具备上述特性并因此在使用过程中无法满足国际人道法和伦理道德的要求？对此，跨国倡议网络实际上在讨论自主武器区分平民与战斗人员的技术能力时就给出了暧昧的答案。在为自主武器辩护时，以罗纳德·阿金（Ronald C. Arkin）为代表的一些技术专家认为，自主武器可以比人类更精准、更可靠地对平民和战斗人员进行识别与区分，从而更有效地实现对于平民的保护。面对这一观点，跨国倡议网络实际上给予了有限度的承认。它们认为，在一定的环境下，完全自主的致命性武器确有可能有效地保护平民，而在战场环境的复杂化等因素的作用下，自主武器区分平民与战斗人员的能力将会下降，不再能够满足国际人道法的要求。人们可以轻易地从这一回答中得出以下结论：完全自主的致命性武器也并非必然具备将会导致人道主义灾难性后果的固有特性。
（二）跨国倡议网络的策略转换
在此背景下，近几年来，跨国倡议网络调整了讨论自主武器之固有特性及其如何导致人道主义风险的策略方式。搜索“制止杀手机器人运动”近期发布的报告与文件包括向政府专家组提交的声明即可发现，它们很少继续使用完全自主的致命性武器这一概念表述。其背后真正的变化是，跨国倡议网络不再根据技术维度上的智能化程度对自主武器进行区分，并将其中某一类武器与它们对于足以导致人道主义风险的固有特性的理解绑定在一起。取而代之的是，跨国倡议网络提炼出几种能够带来人道主义风险和道德危机的特性，并认为任何符合这些特性的自主武器——无论其智能化程度之高低——都应被纳入禁止的范围。这一策略不再锚定特定范围的自主武器并竭力分析它所可能拥有的固有特性是什么，而是以对于能够产生负面影响的固有特性的认知为基准，用这些特性来具体地衡量所有具备自主功能的武器并确认它们应如何被对待。
基于这一策略，“制止杀手机器人运动”提出，如果一项自主武器的机器系统对于操作者而言过于复杂、难以理解，那么就意味着该武器的运行很可能产生意料之外的结果，对打击目标的选择和武力的使用对于操作者而言是无法解释的。此外，假如一项自主武器包含机器学习的能力，以至于它的系统参数可以在没有操作者授权的情况下发生改变，那么它同样将无法规避产生意料之外的后果与风险，因而始终无法消除违背国际人道法的可能性。此后，在提交至政府专家组的文件中，国际红十字委员会将这些特性统称为“不可预测性”，并认为任何具有不可预测性的自主武器都应当被禁止，因为操作者无法确认和确保它们在运行过程中不会选中平民。这种对于不可预测性的讨论与跨国倡议网络在分析完全自主的致命性武器具备的固有特性时提出的相关要点具有一致性，只不过在新的策略下，跨国倡议网络对于具有何种智能程度的自主武器符合这一特性持更为开放的姿态。然而，跨国倡议网络毕竟无法为所有包含自主功能的武器赋予这一固有特性，由此引发的一个问题是，当武器的智能化水平不再与这一固有特性相对应时，是什么因素导致部分自主武器具备，而另一些自主武器则可规避不可预测性。正是由于存在这一问题，国际红十字委员会呼吁“禁止那些其设计或使用方式导致产生的影响无法被充分理解、预测和揭示的自主武器系统”。可见，在将自主武器的智能化水平与不可预测性这一预期中的固有特性解绑之后，跨国倡议网络事实上选择了从国家开发和使用自主武器的方式这一角度为上述问题提供答案，即使它们无意于十分明白地将这种答案表达出来。
“制止杀手机器人运动”与国际红十字委员会还提出，任何自主武器系统只要以人为目标对象，无论它是否具有不可预测性，都应当被禁止。这一主张延续了跨国倡议网络一直以来对于伦理问题的关心。它们提出，任何以人为目标对象的自主武器的使用都是对人的尊严的损害。为了从武器的固有特性出发阐述这一主张，“制止杀手机器人运动”提出，禁令应当覆盖的是“那些就其本身的性质、而不是使用方法而言在选择和打击目标对象时成问题的武器系统”。“制止杀手机器人运动”试图根据武器自身的特性使那些以人为目标对象的自主武器区别于那些以物体为打击对象的自主武器，并对前者予以禁止，而对后者予以一定的管控。然而问题在于，一项自主武器在实战中究竟被用于攻击人类还是对物体进行打击，很可能与操作者作出的选择密切相关，在设计开发时将物体当作预期目标的自主武器不是不可能被当作攻击人的工具来使用。正因如此，国际红十字委员会在呼吁禁止“杀伤人员自主武器系统”时使用的表述方法是“应当禁止使用自主武器系统来瞄准人类”。这一表述方法实际上是在人使用自主武器的方式而非武器的固有特性与人道主义后果之间建立因果联系。
以上分析显示，为了从武器固有特性的角度解释自主武器的使用将会带来人道主义后果与伦理道德风险，非政府组织群体组建的跨国倡议网络先后采用了两种不同的策略。前一种策略是根据技术上的智能化水平对自主武器进行划分，并着力对智能化水平最高的自主武器将会具备哪些易导致负面后果的固有特性进行预判。在这一策略面临内外部挑战之后，跨国倡议网络进行了策略调整。调整后的策略不再将这些固有特性与自主武器的智能化水平绑定在一起，而是以不可预测性等固有特性为准绳，主张任何包含自主技术的武器只要符合这些固有特性，就应当被禁止。然而一旦将自主武器的智能化水平与这些固有特性解绑，跨国倡议网络事实上不再能够清楚地解释，为什么一些自主武器将具备这些固有特性，而另一些自主武器则不然。回答这一问题的难度使跨国倡议网络在进行表述时有意无意地将导致这种区分的因素追溯至国家开发和使用武器的方式。其结果是，跨国倡议网络在解释自主武器的使用为何产生无法接受的负面后果时提供的论点缺乏内在的一致性，它们在武器的固有特性与负面后果之间建立的联系也很容易被动摇。
三操作者意志的执行者：美国对于自主武器的阐释
面对制定国际公约的倡议，有意阻拦这一进程的美国同样延续了它在杀伤人员地雷及集束弹药这两个议题领域曾采取的策略，即宣称恰当的开发和使用自主武器的方式可以有效地规避安全与道德风险。不同之处在于，关于自主武器的讨论是一种面向未来作出的预判，美国对于该论点的论证不再受到既有事实的严格限制，它获取了更大的辩护空间。美国主要从以下几点阐释自主武器，试图塑造人们想象自主武器的方式。
（一）否认自主武器的不可预测性
美国认可致命性自主武器系统在运行过程中有可能出现“失败”的情况，即未按照操作者预期的方式运行，从而产生意料之外的结果并导致人道主义后果，但它拒绝将不可预测性视作自主武器的固有特性，而是认为可以通过对武器的事先审查、测试、对操作者的培训等方式确保自主武器以符合人的预期的方式运转。
在《特定常规武器公约》框架下为该议题召集的非正式专家会议于2014年首次启动时，美国便以带有自我辩护意味的方式强调，其国内层面为审查武器而采取的法律和政策流程能够有效地将自主武器运行过程中出现意外后果的风险降到最低。这一论点正是在回应跨国倡议网络当时提出的关于自主武器特别是完全自主的致命性武器具有不可预测性的观点。美国有意吸引人们更多地关注武器设计、开发过程中的缺陷与人道主义后果之间存在的关联，从而展示通过规避这类缺陷使自主武器的运行遵守国际人道法的可能性。此后，在参与政府专家组的过程中，美国先是明确提出，对自主武器的严格测试能够确保其按照预期的方式运行，对操作者进行充分的训练、制定严密的操作规定与流程，以及设计出清晰的、易于理解的人机界面，便可以确保自主武器的运行处于“适当程度的人的判断”之下，有效避免其以计划外的方式运转并造成人道主义后果。而后，美国又进一步表示，在自主武器中安装自毁装置、使其在技术上能够避免为了自卫而立即开火等方式，可以有效降低自主武器运行过程中误伤平民的风险。这些方案的提出均旨在引导人们不再将不可预测性视作自主武器的固有特性，而是关注国家或军事部门是否采取了充分的、适当的措施来规避武器开发、使用过程中可能存在的失误与错误。
（二）塑造人与自主武器的关系
美国不仅否认包含自主技术的武器，特别是一经启动无需人的干预亦可自主选择目标对象并加以打击的自主武器是一种脱离人的控制的存在，反而将自主武器塑造为操作者意志的执行者，从而将自主武器的运行方式及其后果与操作者的主观意图紧密地绑定在一起。
美国拒绝从自主技术的成熟度或者说智能水平的角度对自主武器进行界定与分类。在向政府专家组提交的工作文件中，美国提出，武器的智能程度越高，并不意味着人对于武力使用的控制越少，两者之间并不存在任何线性的相关性。值得注意的是，美国在阐述这一论点时，微妙地将跨国倡议网络所关注和讨论的人对于武器的控制问题，在表述方法上替换成了人对于武力使用的控制问题。跨国倡议网络在强调人对于自主武器应保持实际控制时，强调的是自主武器在运行过程中应维持“人在环内”的状态，即确保自主武器就目标对象的选择和打击作出的每一次决定都是以人的命令为前提。在表述方法上替换为人对于武力使用、而非武器本身的控制，也就回避了维持“人在环内”的必要性。此外，为了拒绝将完全自主的致命性武器视作一种脱离于人的控制的存在，美国在向政府专家组提交的另一份工作文件中明确表示，反对在讨论该议题时将自主武器拟人化，因为这会使人类错误地估计自主武器可能拥有的能力。
在拒绝从智能程度的角度界定和区分自主武器的同时，美国从使用方式的角度将自主武器的使用场景区分为三种不同的类型。场景一，操作者在已选定特定的打击目标之后，利用自主武器实现自己的意图；场景二，操作者利用自主武器对目标选择和打击方式进行评估与决策，并将其结果与其他相关信息结合起来，就目标对象的选择和武力的使用作出决定；场景三，操作者通过相关信息对于安全威胁和风险的出现及其地理位置等作出评估，但难以更具体、更精准地确认与预期打击的目标相关的情况，因而启动自主武器，由其自主地对目标对象进行搜寻和确认并加以打击。可以发现，在这三种场景尤其是最后一种场景中，虽然操作者使用的是完全自主的、可以在没有人干预的情况下自主选择目标对象并进行打击的致命性武器，但美国描述使用场景的方式却有意突出了自主武器的运行及其结果与操作者的主观意图之间的密切联系。自主武器的运行所产生的结果被视作操作者主观意图的一种再现，而不是一种脱离于人的控制导致的后果。基于对这些场景的描述，美国宣称，无论自主武器的智能水平达到什么样的程度，它都只不过是人用于执行自己意志的工具。
（三）关注使用自主武器的主观意图
美国提出，自主武器为人类意志的执行者，人的主观目的直接决定着使用自主武器所产生的后果。人可以主动将自主武器用于更好地保护平民，也可以有意识地利用其为不正当目的服务。不同的使用意图决定了自主武器的使用是否会引发人道主义危机。
在参与政府专家组讨论的过程中，美国曾以颇具倾向性的方式提出以下问题：人们对于致命性自主武器系统的顾虑与担忧，究竟是基于对其固有特性的认知，还是基于对其将如何被使用所作出的一些预判？美国也明确地就该问题给出了自己的答案，认为自主武器作为一种工具如何被使用、在什么样的主观意图的指导下被使用，是决定国际人道法能否得到遵守的关键。美国表示，不应根据自主武器自身固有的特性而将其简单地界定为良善的武器或邪恶的存在，而应基于人如何使用武器、是否将其误用于非正当目的，对武器的使用及其结果是否符合伦理道德作出判断。
美国表示，在讨论自主武器的使用将会产生的影响时，重要的讨论目标之一应是着重理解自主技术可以如何被用于减少平民在武装冲突中面临的威胁与风险。一些技术专家强调，自主武器可以比人类更精准、更可靠地对平民和战斗人员进行识别与区分，从而更有效地保护平民。在参与政府专家组论辩时，美国不仅认可这一观点，而且有意强调操作者可以在保护平民的意图指引下使用自主武器，从而借助机器的技术能力使这一目的得到更好地实现。这突出了良善的意图与正面的结果之间的联系。为证实这一点，美国以包含一定程度自主技术的反火箭炮、火炮和迫击炮武器系统（C-RAM）为例，试图阐述美国军方在实战中如何利用该武器系统精准地防御敌方的导弹与火箭炮等武器，以此更加高效地保护平民。
与此同时，美国提出，自主武器的使用者也可能有意利用其自主功能为攻击平民的目的服务，他们存在违背国际人道法的主观意识，应当为自主武器的使用产生的人道主义后果担负法律责任。通过这一论点，美国引导人们在关注自主武器的人道主义风险时将注意力聚焦于自主武器使用者所可能拥有的“邪恶”的主观意图。通过将武器使用者的主观意图视作自主武器产生人道主义后果的关键缘由，美国提出以下论断：如果有人将自主武器用于攻击平民，故意制造过度的不必要的伤亡，这样的行为而非武器本身应当成为被管控或禁止的对象。美国的另一自我声明与这些论断密切相关。与跨国倡议网络提出的有关自主武器及自主技术的扩散可能导致恐怖分子掌握该武器并将其用于攻击平民的论点相呼应，美国表示，它在出口包含自主技术的武器系统时，会对交易对象的人权记录进行考察，对其有无可能将自主武器用于侵犯人权作出评估。通过为本国的武器和技术出口进行辩护，美国人为地塑造了国家在人权方面的表现与自主武器的使用是否会产生人道主义后果之间的因果联系。
以上分析显示，美国充分利用对于未来的不确定性，试图塑造想象和理解自主武器的方式。它以否认自主武器必然具有不可预测性为基础，引导人们关注可用于减小乃至彻底消除其不可预测性、使自主武器运行产生的后果符合操作者预期的措施。在此基础上，美国将自主武器塑造为操作者意志的执行者，在这一观念中，并不是武器脱离人的控制而自主运行并执掌生杀大权，而是人在主动地利用自主武器使自己的意图得到更好地执行与实现。这种观念为引入和关注人使用自主武器的意图提供了契机。美国试图对人使用自主武器的意图进行善恶二分，并将意图之善恶视作理解自主武器的运行产生何种后果的关键。
值得注意的是，美国的官方表态虽未明确指涉特定国家恶意开发与使用自主武器，但一些迹象显示，美国很可能有一定意图塑造这样的叙事和观念，使之为其地缘政治博弈服务。在美国国务院军备控制与国际安全副国务卿办公室发布的系列文章中，曾任特朗普政府国际安全与防扩散事务助理国务卿的克里斯托弗·福特（Christopher A. Ford）把将矛头直指中俄等国，他将国家开发和使用自主武器的主观意图与意识形态问题关联起来，以意识形态划界的方式引导人们对中俄等国开发和使用自主武器的主观意图做出负面评价。因此，美国对于想象和理解自主武器之方式的塑造，不仅意在为自己未来开发与使用该类武器的行为争取合法性，使自己有更多的政治空间对如何开发与使用自主武器进行自由裁量，而且很可能是在有意识地为自主武器观念赋予意识形态色彩，将其用作地缘政治工具。
然而，也正是因为对于自主武器的讨论是一种面向未来的预测，美国尽管否认自主武器有任何必定会导致安全与道德后果的固有特性，却无法彻底否定未来会出现完全脱离人的控制并无法按照操作者的意志区分平民和战斗人员的自主武器的可能性。在向政府专家组提出关于自主武器的规范框架时，美国表示，如果未来出现的某种自主武器在其固有特性上就是无法区别对待平民和战斗人员的，那么这种武器理应被禁止。这一主张与其他更多旨在对国家开发和使用自主武器的行为进行约束或引导的规范倡议并列在一起，目的在于使其对于未来的预判从逻辑上看更为完备。不过美国在提出这一主张时仍有意对其加以限制。首先，美国拒绝将这种特性视作无需人的干预可以自主选择打击对象的武器的共有特性，而只是将其想象为这一大类武器中的某一具体种类武器所可能具有的特性；其次，美国的主张并不是预防性地禁止此类武器，而是在其出现之后在实践中具体地评估与确认它是否无论如何都无法达成有效区分平民和战斗人员的目标。美国的真实意图在于最大程度地压缩有可能被界定为在固有特性上无法满足国际人道法要求的自主武器的种类，为自己未来在有可能会达成的国际公约的约束之外开发和使用自主武器争取尽可能多的空间。尽管如此，它毕竟承认了自主武器之中的某些类型在固有特性上无法满足国际人道法要求的可能性。
四自主武器军控规范争论的走向
关自主武器的观念，尤其是如何将自主武器的使用可能造成的人道主义后果与道德风险归因于武器的固有特性或国家开发与使用武器的方式。在此过程中，双方的互动关系不再是对于它们在杀伤人员地雷等议题领域历史案例中发生对抗的完全复现。本章将分析自主武器规范争论的走向为何及如何有别于上述历史案例。
（一）历史比较
总体上看，与历史案例的情况相似，在自主武器军控论辩中，跨国倡议网络与美国出于不同的规范立场，尝试从不同的方向解释自主武器的使用可能带来的人道主义风险。然而，其一，在历史案例中，跨国倡议网络可以从历史或现实事件、统计数据、科学研究等资源中获取丰富、可信的证据来证明武器使用产生的人道主义后果源于武器的固有特性，美国能够为相对立的论点提供的证据则明显较为薄弱，难以对跨国倡议网络构成威胁。相较之下，自主武器规范论辩不再出现一方彻底挤压另一方论辩空间的情形。例如双方对于自主武器是否有不可预测性这一固有特性存在不同看法，跨国倡议网络所作推断建立在一种较为流行的对于机器学习和人工智能技术的看法的基础之上，它们将这种对于复杂技术的理解转换为有关自主武器固有特性的判断；但即使是关于新兴技术的流行观念，对于人是否必定无法掌控由机器学习所驱动的应用也存在着模棱两可的看法，这使得美国同样能够以看上去合理的逻辑否认完全自主的致命性武器必然具有不可预测性。
其二，在历史案例中，在为武器使用产生的人道主义后果归因时，双方提出的论点虽相对立，但均十分清晰，具有内在一致性。然而，前文的分析显示，在调整策略后，跨国倡议网络虽试图强调任何具有不可预测性等固有特性的自主武器都应被禁止，但在论证时面临的困境却使之不自觉地将解释的视角转换为国家开发和使用自主武器的方式。对于未来的不确定性则使美国无法彻底否认未来可能出现在固有特性上无法满足国际人道法要求的自主武器。更重要的是，它们虽然都试图强调，部分自主武器拥有不可预测性等固有特性，而对于另一部分武器则可通过适当约束国家行为来规避人道主义后果，但问题在于，它们实际上都难以清晰地确定这两类武器之间的界限，在论证时只能模糊地处理这一问题。这导致它们从不同角度解释自主武器的人道主义风险时无法明确所指向的武器类型，不能避免不同论点间的矛盾冲突，也难以使自己对于自主武器之风险与后果的解释清晰地区别于对方。
（二）错综复杂的关系网络形成的原因
上述论辩态势影响着更多国家的选择，使各国在参与政府专家组过程中表达的看法呈现复杂性与相当大程度的模糊性。以各国对自主武器可预测性问题的表态为例，梳理各国向政府专家组提交的声明与工作文件，可提炼出以下几种代表性的观点。一是认为自主武器面临缺乏可预测性的风险并对此风险表示担忧与关切，强调确保自主武器可预测性的重要性。斯里兰卡、印度等国的表态属于此类。这类表态虽强调了自己对于自主武器可预测性的重视，实际上却对部分自主武器是否天然具有难以消除的不可预测性等论辩双方争执的关键问题进行了模糊处理。二是主张禁止任何不具有充分可预测性的自主武器。这一立场看似与跨国倡议网络调整后的策略和主张颇为一致，但各国实际上将该立场的表达与对自主武器可预测性的不同看法联系在一起。例如巴基斯坦笼统地宣称任何致命性自主武器系统都“永远不可能有充分的可预测性”，奥地利等国则或明确或隐晦地将自主武器的智能化程度与是否具有不可预测性挂钩。瑞士在提出这一主张的同时认为可以通过武器审议，包括对自主武器进行测试与评估等方式巩固其可预测性，但并未阐明在多大的范围内有效。三是认为需要采取一定的措施应对自主武器的不可预测性问题。如奥地利、比利时、巴西等国联手提交的工作文件提出，有必要确保自主武器在未经人工验证的情况下无法改变某些任务参数。但微妙的是，这类观点既未明确表示这些措施是否足以确保自主武器能够以可预测的方式运行，也没有阐明不可预测性是否仍是部分自主武器的固有特性。四是认为不可预测性并非自主武器的固有特性，可以通过严格的武器设计与测试等方式确保其具有可预测性。爱沙尼亚等国的观点与美国的立场保持一致。这一梳理显示，跨国倡议网络与美国提出的观点均有一定的追随者，但更重要的是，大多数国家不仅有意或无意地保持观点表达的模糊性，而且事实上与论辩双方的观点均保持相关性与微妙的距离。
在此情形下，自主武器规范争论的走向表现出以下特点。其一，博弈双方均有能力为自己提出的规范主张争取一定数量的支持者，同时也都难以取得压倒性的优势。这与上述历史案例中跨国倡议网络在较短时间内取得压倒性优势的情形存在显著差别。据“制止杀手机器人运动”统计，截至2024年4月底，已有119个国家支持就具有法律约束力的国际公约展开谈判。然而细究则可发现，其中有相当数量的国家虽对自主武器的使用可能引发的风险与后果特别是人道主义后果表示担忧，但并未单独地明确表达过支持制定国际公约禁止自主武器。如若将国际公约倡议推向联合国大会并进行投票，这些国家究竟是否会投下赞成票，还存在很大的不确定性。
拜登政府则为其发布的“负责任的军事使用人工智能与自主技术”政治宣言争取到了50个国家的支持（参见表1）。实际上在推出该宣言之前，美国曾与盟友联手向政府专家组推出有关自主武器系统的行为原则及“条款草案”，其中主张禁止使用“就固有特性而言会造成多余的伤害或不必要的痛苦、无法区分平民和战斗人员、或不可能符合国际人道法的自主武器系统”，同时以负责任的武器设计、充分的人员训练等方式管控除此之外的其他自主武器系统，使之符合国际人道法的要求。美国尽管有意将它认为应被禁止的自主武器压到最低限度，并回避了对于是否需要制定国际公约的讨论，但其推出的规则毕竟涉及哪些自主武器应被禁止、哪些可被允许但应受管控这一敏感问题。即使是美国的盟友，对该问题也多有分歧。因此，与美国联手的国家仅限于澳大利亚、加拿大、日本、韩国及英国。而在其后，美国绕开政府专家组推出的政治宣言则不再包含对于什么样的自主武器应被禁止这一问题的表述，宣言中提出的旨在管控和引导开发与使用武器之行为方式的原则与规范所指涉的武器范围也就随之变得模糊。运用这一策略，美国绕开了国家间的敏感分歧，争取到了数量可观的国家对于该政治宣言的支持。
其二，双方阵营均存在一定程度的内部异质性，自主武器规范论争不再表现为立场清晰、内部观点主张统一的两个阵营之间的对抗，而这样一种阵营间对抗却是上述历史案例的突出特征。从跨国倡议网络这一方来看，支持制定国际公约的国家对于究竟应通过国际公约禁止具有哪些特性的自主武器存在不同看法，难以形成共识。“关于自主武器系统的加勒比共同体宣言”表达的观点与国际红十字会及“制止杀手机器人运动”的最新立场基本一致，主张禁止无法预测或无法控制的自主武器以及将武力对准人类的自主武器。来自亚非拉的十数个国家联手推出的“自主武器系统条约草案”在该问题上的立场，则更加趋近跨国倡议网络早期所持的对于自主武器固有特性的界定方法。该草案主张禁止无法在人的实际控制下使用的自主武器系统，指涉的对象相当于智能化程度最高的完全自主的武器系统。此外，荷兰、挪威等国认为，被禁止的自主武器应同时满足两项条件，包括“其运行完全处于人的控制之外”，以及并不处于“负责任的指挥系统”之中。这本质上是将自主武器的智能化程度与国家使用自主武器的方式叠加在一起，为禁止自主武器设定范围。跨国倡议网络在界定自主武器固有特性并论证其后果时缺乏内在一致性，削弱了跨国倡议网络在争取支持者的过程中就这一核心问题凝聚共识的能力。
从美国这一方来看，美国在推出政治宣言时既回避了制定国际公约这一问题，也回避了对于禁令和行为管控分别所涉武器范围的讨论，经此，美国虽争取到了数量可观的国家对其政治宣言的支持，但它实际上也默认了其支持者之间在上述问题上存在的分歧与矛盾。其结果是，尽管这些国家愿意为美国推出的政治宣言背书，公开支持其中包含的允许但引导、管控自主武器开发与使用的行为规范，但它们事实上将其用以支撑不同形态和内容的规则倡议。例如作为政治宣言的签署国之一，奥地利不仅支持制定具有法律约束力的国际公约，而且为哪些自主武器应被纳入禁令范围设定了较为详细的判断标准；根据该判断标准被认为无需禁止的自主武器才应通过一定的行为规范对其开发与使用予以引导。法国主张为开发和使用自主武器制定一系列具有政治约束力的准则，对于什么样的自主武器应被禁止的看法则与荷兰等国的上述主张保持一致，而有别于美国的看法。
（三）自主武器规范争论的未来走向
根据上述趋势可以对自主武器规范争论的未来走向作出以下判断：首先，围绕应否制定自主武器国际公约发生的论争和博弈双方之间的僵持态势在可预见的未来仍将持续。在这种僵持态势中，双方各自论点与主张均存在内在不一致及模糊性，为不少国家两面下注提供了充足的空间。其次，即使支持制定国际公约的国家数量显著增长，以至于在未来某个时刻，其支持者可以凭借国家数量上的优势启动正式的公约谈判进程，但可以预见的是，公约谈判很可能难以如上述历史案例那般进展顺利。国际公约的支持者就具体的规则方案很难顺利达成一致意见。类似地，拜登政府虽可从政治宣言得到的支持之中获得一定的政治影响力，但并不意味着它所尝试构建的政治共同体能够步调一致地推动有关自主武器的开发与使用的行为实践。最后，尽管博弈双方都在为争取支持者而努力，但双方阵营规模的增加并不意味着国际社会对于以下问题的理解和认知趋于清晰：应将具有哪些特点的自主武器纳入禁令范围；对哪些自主武器的开发与使用行为应予以引导和约束。相反，双方阵营的扩张导向是一个由对上述关键问题存在各种不同看法的国家组成的更加错综复杂的关系网络，从而使人们更加难以明确双方的共识与分歧。
结 论
致命性自主武器系统成为国际社会关注和论辩的对象已逾十年。在人工智能的国际安全影响得到关注的背景下，该领域规范争论的重要性不降反升。在这些争论中，跨国倡议网络与美国关于自主武器规范的争论具有典型性，特别是将自主武器规范争论与杀伤人员地雷、集束弹药等议题领域军控规范博弈的历史案例进行对比分析，有助于更好地理解自主武器规范博弈及其未来走向。历史地看，很多议题领域的军控博弈均围绕一个核心问题展开：特定武器的使用产生的人道主义后果究竟是源于武器的固有特性，还是同国家开发与使用武器的行为方式相关？在上述历史案例中，跨国倡议网络充分地论证了相关武器的固有特性与人道主义后果之间具有排他性的因果联系，从而在论辩中能够迅速争取众多国家的支持，实现制定国际公约禁止相关武器的目标。
而在自主武器规范争论中，未来技术发展及其风险后果的不确定性同时影响博弈双方在论辩中的表现。跨国倡议网络仍然试图界定自主武器的固有特性，并论证其如何导致人道主义风险与道德后果，但自主技术未来的不确定性使之在论证的过程中面临一定的困境。跨国倡议网络虽曾转换论证的思路与方式，却并未能够从根本上解决其困境，反而使其提出的论点缺乏内在的一致性。相较之下，美国更多地利用自主技术未来的不确定性为自己争取论证的空间。它将自主武器塑造为操作者意志的执行者，但在不确定性的影响下，也不得不承认未来出现就其固有特性而言无法满足国际人道法要求的自主武器的可能性。双方在论辩中的表现共同影响着规范争论的走向。双方均有一定能力为自己推出的规范主张争取支持者，但也都难以取得压倒性的优势；与此同时，双方构建的都是具有内部异质性的政治共同体，规范争论不再表现为界限清晰、立场分明的两个阵营之间的对抗，一个观点立场复杂交错、规范主张相对模糊的关系网络已然形成。
未来技术发展及其风险后果的不确定性深刻地影响着安全领域的规范博弈，但现有研究并未对其中的互动规律进行深入的探索。研究显示，对于参与规范博弈的各方而言，这种不确定性既可以是一种机会，但同时也是一种干预因素，各方在论辩中的具体表现因而深受这种不确定性的塑造。这进一步影响着行为体在规范论争中的互动关系，包括影响博弈双方之间的平衡，以及塑造双方阵营各自的内部协调性与阵营间的关系。因此，未来技术的不确定性对于人工智能安全治理等更多议题领域的深刻影响值得进一步探索。对于参与规范博弈的行为体而言，需要思考的则是如何应对或利用这种不确定性，为自己的规范主张争取国际支持。不仅如此，未来技术发展及其风险后果的不确定性理应成为各方在制定安全规范时共同处理的问题。如何转换思维，就规范制定进程中如何妥善应对这种不确定性寻求共识性的方案，也是值得深入探讨的重要议题。
【来稿日期：2024-05-20】
【修回日期：2024-06-24】
【责任编辑：李水生】
编辑：杨旷达
一校：谢 磊
二校：谭秀英
终审：刘中伟
声明：本文来自国际安全研究ISS，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
