作者：北京海鹰科技情报研究所 王立盟

2023年1月25日，美国防部更新了国防部指令3000.09“武器系统中的自主性”，此次更新指令的核心内容保持不变，重点对自主和半自主武器系统的开发和使用作出了规定和职责分配，最大限度地减少自主和半自主武器系统的潜在故障和后果，防止意外交战；同时，建立了自主武器系统工作组，对系统的开发和部署进行额外的高级审查，确保系统安全性，并符合国防部人工智能伦理原则及负责任的人工智能战略。

一、背景

该指令最早版本于2012年发布，旨在为自主和半自主武器系统的设计、开发、采购、测试、部署和使用确立相关政策、责任和审查流程，是美国指导和管理自主和半自主武器系统开发和部署的核心指令。此次更新将使该指令与国防部人工智能伦理原则和负责任的人工智能战略保持一致，反映了过去10年的技术进步，以确保美国在开发、部署新系统和安全方面保持领先地位。

图1 美国防部指令2000.09“武器系统中的自主性”

二、主要内容

（一）提出自主和半自主武器系统开发和部署规定

指令中将自主武器系统定义为“一种武器系统，一旦激活，可在没有人为参与的情况下自己选择和攻击目标，包括但不限于操作人员监督的自主武器系统”，美国国防部新兴能力政策办公室主任霍罗·威茨表示，该指令不禁止开发任何特定的武器系统，而是规定了自主和半自主武器系统的要求。更新后的指令提出了6条规定，为自主和半自主武器系统的开发和使用提供了明确指导。

一是在自主和半自主武器系统的设计方面，允许指挥官和操作员对武力的使用进行适当的人为判断，系统在现实条件下表现出适当的性能、能力、可靠性、有效性和适用性，利用人机界面增强系统的可理解性和可操作性，并提供系统状态的反馈；

二是授权使用、指导使用或操作自主和半自主武器系统的人员应谨慎行事，并遵守战争法、适用条约、武器系统安全规则和适用的交战规则；

三是除不具备自主武器操作模式的半自主武器系统、用于作战防御的具备操作人员监督的自主武器系统、施加非致命和非动能的自主武器系统外，自主和半自主武器系统的开发和部署应进行额外的高级审查，包括之前未按照本指令审查和批准的自主武器系统、先前批准的自主武器系统的改进版本；

四是对于无需进行高级审查的自主和半自主武器系统，其开发和部署按照适用政策进行审查；

五是自主和半自主武器系统的国际出售或转让应遵循现有的技术安全和国外披露要求及流程；

六是包含人工智能功能的系统的设计、开发、部署和使用既要符合美国防部负责任人工智能（RAI）战略和实施路径要求，也要符合美国防部人工智能伦理原则，即负责、公平、可追踪、可靠和可控。

（二）分配主要部门职责

更新后的指令分配了在武器系统中开发和使用自主和半自主功能的责任，包括12个部门。其中，负责政策的国防部副部长办公室将为开发和使用自主和半自主武器系统提供政策监督；与负责研究和工程的国防部副部长、参谋长联席会议副主席（VCJCS）协调系统的审查和批准工作；发布“武器系统中的自主性”指令指导，并在必要情况下对不断变化的作战人员需求进行审查；对自主和半自主武器系统的国际出售或转让进行审批；监督并指派自主武器系统工作组主席，批准工作组章程，提供后勤及行政支持。新成立的首席数字和人工智能办公室（CDAO）将负责多项工作，包括监测和评估自主和半自主武器系统的人工智能能力和网络安全，并就这些问题向国防部长提供建议，还将与负责研究和工程的美国国防部副部长办公室合作，为实施美国国防部负责任和道德的人工智能举措等“制定具体、可测试的要求”。

（三）确立自主武器系统工作组及高级审查流程

新的自主武器系统工作组将对自主和半自主武器系统的开发和部署进行高级审查，该工作组由国防部内的几个不同办公室组成，主要负责在自主系统开发和部署之前，为负责政策的国防部副部长、负责研究和工程的国防部副部长、参谋长联席会议副主席（VCJCS）提供国防机构审批建议，并对特定武器系统存在的潜在问题提出建议。

对于需要进行审批的自主和半自主武器系统，需将批准请求提交给负责政策的国防部副部长办公室，负责政策的国防部副部长、负责研究和工程的国防部副部长、参谋长联席会议副主席（VCJCS）将验证系统设计是否在规划、使用阶段允许指挥官和操作人员进行人为判断，具备系统安全性、防篡改机制，确保与国防部人工智能伦理原则及负责任的人工智能战略和实施路径保持一致。

图2 自主武器系统高级审查流程

三、几点认识

首先，通过更新国防部指令3000.09“武器系统中的自主性”，美国防部明确了对人工智能武器研发及应用的态度，即并不禁止开发任何特定的武器系统，而是规定新系统需经过测试和审查，为其后续推进人工智能在军事领域的全面利用奠定了基础，将加速人工智能武器的作战应用。

其次，随着人工智能技术的不断成熟，美国国防部已认识到相关政策更新的重要性，人工智能将会在重塑社会规范，改变未来战争样式方面发挥越来越大的作用，自主武器的发展和使用将为战场环境带来变革性的作战力量。

最后，具有自主功能的武器系统与新型作战模式的组合应用将突破传统战场限制，但也存在严重事故的可能性，这对军队建设模式、操作人员警觉意识、指挥官的判断能力提出了更高要求，同时，自主武器的大规模使用或将引发国际战略局势的不稳定性以及战略伦理争议。

声明：本文来自海鹰资讯，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。