文│北京师范大学法学院暨刑科院副教授 吴沈括
北京师范大学法学院暨刑科院硕士研究生 崔鑫铭
2019年11月21日，美国国会研究服务处（CRS）更新了《人工智能与国家安全》（Artificial Intelligence and National Security）研究报告（以下简称《研究报告》）。该报告首次发布于2018年4月，由丹尼尔·S·霍德利在美国国会研究局任美国空军研究员时编写，而本次更新版的主要内容围绕八大方面展开，涉及人工智能术语和背景、国会面临的问题、人工智能国防应用、军事人工智能整体挑战、国际竞争者、国际组织、人工智能的机遇和挑战以及人工智能对作战的影响等。
人工智能（AI）是一个迅速发展的技术领域，它吸引了商业投资者、国防学者、政策制定者以及国际竞争对手的关注。2017年7月20日，中国政府发布了一项国家战略，详细阐述了到2030年率先在人工智能领域取得领先的计划；同年不到两个月后，弗拉基米尔·普京（Vladimir Putin）公开宣布了俄罗斯发展人工智能技术的计划，称“无论谁成为这一领域的领导者都将统治世界。”
与此同时，2018年1月发布的《美国国防战略》（U.S. National Defense Strategy）将人工智能确定为“确保美国能够打赢未来战争”的关键技术之一。美国军方已经通过一项名为“Maven项目”的动议，将人工智能系统整合到战斗中，该项目使用人工智能算法来识别伊拉克和叙利亚的叛乱目标。
这些动向都涉及美国国会在2017年和2018年听证会上提出的几个问题：哪些类型的军事人工智能应用是可能的，应该施加哪些限制？使用人工智能进行防御有哪些独特的优势和漏洞？人工智能将如何改变战争，它将对与美国竞争对手的军事平衡产生什么影响？美国国会有许多监督、预算和立法层面的工具可供使用，可以影响这些问题的答案，进而塑造人工智能技术的未来发展。
一、人工智能的发展与国会面临的问题
由于人工智能领域研究方法的多样性，学术界普遍认为目前尚不存在对人工智能的公认定义。尽管《2019财政年度国防授权法案》（NDAA）第238条要求国防部长在2019年8月13日前给出人工智能的定义，但美国政府目前还没有公布对人工智能的正式定义。
目前所有人工智能系统都可以归结为是狭义人工智能，而狭义人工智能最流行的方法是机器学习。所谓机器学习是指通过分析大型训练数据集来导出自己的程序以复制人类认知任务的统计算法。随着人工智能技术进入国家安全领域，其所具有的一些独特的特性需要予以特别考虑。
对此，《研究报告》指出众多国会议员呼吁在军事领域采用人工智能技术。与此同时，国防部出台了一项加密人工智能政策，并正在执行国防部指南以及《2019财政年度国防授权法案》规定的多项任务，包括：（1）建立联合人工智能中心（JAIC）发布人工智能发展和推广的战略路线图，出台关于恰当的道德、法律和其他政策的部门指导文件；（2）建立国家人工智能安全委员会，对军事相关的人工智能技术进行全面评估，并为加强美国军事竞争力建言献策。这些倡议将为国会提供大量的监管机会。
此外，国会可能会考虑目前国防部对人工智能的资助水平是否充分。对国防部是否应当继续加大对人工智能的资金投入，JAIC的主管和反对方形成了两种不同的意见，JAIC主管主张应当继续加大投入，反对方则认为不需要加大财政支持，军事应用可以借鉴商业部门的研发成果。
国会也可能考虑制定军事人工智能应用程序发展和使用的具体政策。许多专家担心政策实施的速度远远落后于人工智能技术发展的速度。也许人工智能分析师最直接的政策担忧是缺乏一个独立的实体来制定和实施人工智能安全标准，并监督政府范围内的人工智能研究。
与此相关的是，国会可考虑就开发和部署致命性自主武器系统（LAWS）的政策方案进行辩论，这些方案可利用人工智能来选择和接触目标。国会还可能考虑人工智能市场国际竞争的增长，以及外国将美国人工智能技术用于军事目的的危险，特别是中国政府正积极地在美国进行人工智能投资。
此外，许多分析人士认为，可能有必要改革与人工智能相关的联邦数据政策。密切相关的是，人工智能的发展可能会增加严格的安全标准的必要性。而商业公司长期以来一直认为知识产权的潜在损失是与国防部合作的一个关键障碍。认识到这一问题，《2016财政年度国防授权法案》第813条设立了一个“政府—行业咨询小组”，就技术数据权和知识产权改革提出建议，该小组于2018年11月发布的报告提出了一些建议，包括加强对收购专业人员的知识产权培训和一项采购过程中的知识产权估值试点方案。
二、人工智能技术与国防应用问题
《研究报告》指出国防部正在考虑一系列多样的人工智能应用，人工智能被运用到情报、监视和侦察以及后勤、网络空间行动、信息操纵、指挥和控制、半自动和自动驾驶车辆与致命性自主武器系统等众多场景。
（一）情报、监视和侦察
由于可供分析的数据集很大，人工智能在情报方面可发挥重要作用。由于具备这样的能力，人工智能的目的是使人类分析人员的工作自动化，帮助分析人员根据数据做出更有效和及时的决定。
（二）后勤
人工智能可能在军事后勤领域具有未来的效用。例如空军开始使用人工智能进行预测性飞机维修。与飞机出现故障时进行维修和按照标准化的机队维修时间表进行维修不同，空军在测试一种在人工智能支持下来调整维修时间表以满足个别飞机需要的方法。
（三）网络空间行动
人工智能很可能成为推进网络空间军事行动的关键技术。传统的网络安全工具寻找历史记录以匹配已知的恶意代码，所以黑客只需要修改代码的一小部分即可规避防御。人工智能工具可以被调适以便用来检测更广泛的网络行为模式中的异常现象，这样就能提供一个更加全面和动态的保护屏障。
（四）信息操纵和“深度伪造”
人工智能正在启用越来越真实的照片、音频和视频伪造或者“深度伪造”，对手可以将其作为信息操纵的一部分进行部署。实际上，深度伪造技术可能被用于针对美国和美国盟友制造虚假新闻报道、影响公众话语、侵蚀公众信任、勒索外交官等场合。为了打击深度伪造技术，美国国防部高级研究计划局（DARPA）启动了媒体取证（MediFor）项目，该项目旨在“自动发现操纵，并提供关于这些操纵如何运作以影响视觉媒体整体完整性的详细信息和具体机理”。
人工智能也可以用来创造完整的“数字生活模式”，其中个人的数字化“印迹”被“融合并与消费记录、信用报告、专业简历和订阅行为”相匹配，以创建服务人员、可疑情报官员、政府官员或私人公民的全面行为画像。在深度伪造的案件中，这些信息反过来又可能被用于有针对性的影响行动或勒索行为。
（五）指挥和控制
美国军方正在寻求利用人工智能在指挥和控制领域的分析潜力。空军正在开发一个多方位指挥和控制系统（MDC2），其目标是将大气层、外空、网络空间、海洋和陆地军事行动的规划和执行实现中心化。另外未来的人工智能系统可以用来识别被对手切断的通信链路，并找到传播信息的替代手段。
（六）半自动和自动驾驶系统
美国所有军事部门都在努力将人工智能运用到半自动和自动驾驶系统，包括战斗机、无人机、地面车辆和海军舰艇等等。
（七）致命性自主武器系统（LAWS）
致命性自主武器系统（LAWS）是一类特殊的武器系统，它使用传感器组件和计算机算法来独立识别目标，并使用机载武器系统在没有人工控制系统的情况下自动攻击和摧毁目标。尽管国防部采取鼓励发展致命自主武器系统的政策，但部分高级军事国防领导人对部署LAWS的前景表示担忧。
三、军事人工智能的整体态势与国际因素
从冷战至今，大多数与国防相关的技术，包括核技术、全球定位系统（GPS）和互联网，最初都是由政府主导开发的，后来才扩展到商业领域。而在今天，商业公司正在引领人工智能的发展，国防部则紧随其后，调整商业公司的工具以运用到军事领域。《研究报告》从四个方面指出了军事人工智能面临的挑战：
（1）技术方面，商业人工智能技术在军事用途上的适应性存在很大差异。与商用目的不同，军事运用的特殊性导致人工智能技术从商业到军事用途转化的困难。例如，半自动或自动驾驶的军用地面车辆可能需要在崎岖的地形上导航的能力，而这种能力并不是大多数商用车辆所固有的。
（2）过程方面，与技术层面存在的挑战类似，民用和军事技术的不同要求直接影响二者的转化过程。此外，商业技术公司也往往不愿意与国防部合作，因为担心知识产权和数据权无法得到充分保护。
（3）人事方面，一些报告指出，国防部和国防工业在招聘和留住具有人工智能专业知识的人员方面也面临着挑战，因为研究经费和工资水平事实上远远落后于商业公司。
（4）文化方面，国防部和商业技术公司之间明显的文化鸿沟也可能对人工智能的运用提出挑战。此外，一些公司拒绝与国防部合作，原因是对政府在监视或武器系统中使用人工智能的道德担忧。
与此同时，随着人工智能的军事应用规模和复杂性的增加，国会和国防界的许多人越来越关注国际竞争。美方认为，中国是美国在国际人工智能市场上最雄心勃勃的竞争对手，中国2017年《新一代人工智能发展规划》将人工智能描述为一种“战略技术”，这已经成为“国际竞争的焦点”，而近期中国在该领域的成就展示了中国实现人工智能发展目标的潜力：2015年，中国领先的人工智能公司百度（Baidu）提前在美国竞争对手微软（Microsoft）将近一年前，创建了能够超过人类语言识别水平的人工智能软件；中国正在研究各种类型的空中、陆地、海洋和海底自动飞行器。此外，和中国一样，俄罗斯也在积极追求军事人工智能应用，虽然目前俄罗斯人工智能发展明显落后于美国和中国。俄罗斯正在建立一些致力于发展军事人工智能的组织，并且俄罗斯军方一直在研究一些人工智能应用，重点是半自动和自动驾驶系统。
此外，一些国际组织包括G7集团（G7）、亚太经合组织（APEC）、经济合作与发展组织（OECD）审查了与人工智能有关的问题，并通过了人工智能互信的发展原则。同时，联合国《特定常规武器公约》（CCW）在考虑人工智能的某些军事应用方面做出了最一致的努力，尤其是在致命性自主武器系统方面，在《特定常规武器公约》框架下，2014年开始与年度非正式“专家组会议”讨论致命性自主武器系统问题。
四、人工智能的机遇挑战与对作战的影响
《研究报告》还分析了人工智能在国家安全语境下几类特殊的机遇和挑战：
第一，自动化系统。许多自动化系统以某种形式应用人工智能，这样能够增加或取代人力，释放劳动力，让他们从事更复杂和认知要求更高的工作。
第二，速度和耐力。人工智能引入了一种独特的作战手段，即能够在极端的时间尺度下作战，它提供的系统具有以千兆赫快速反应的能力，这反过来又有可能显著加快战斗的整体速度。
第三，规模化。人工智能有潜力通过增强人类能力和为更便宜的军事系统注入更强的能力来提供一种力量倍增的效果。
第四，信息优势。人工智能可以提供一种方法来处理可用于分析的数据量的指数级增长，此外，人工智能算法可以生成自己的数据以进行更加深入的分析。
第五，不可预测性。人工智能算法往往会产生不可预测和非常规结果。2016年3月，人工智能公司DeepMind创建了一个名为AlphaGo的游戏算法，它以四比一击败了世界冠军李世石（Lee Sedol），然而人工智能系统也可能会以意想不到的方式失败，一些分析师将其描述为“脆弱和缺少灵活性”。
第六，可解释性。更复杂的可预测性问题是，尽管各类研究组织试图对各种类型的算法进行反向分析，以更好地理解它们的运行过程，但具有最高性能的人工智能算法类型目前仍然无法解释它们的内部过程。
第七，漏洞利用。人工智能系统为利用对手的漏洞提供了独特的途径，此外，由于几乎完全基于软件，人工智能系统特别容易被侵入。
需要注意的是，虽然人工智能还没有正式进入作战领域，但专家预测人工智能将对未来战争产生潜在影响。这种影响将是多种因素作用的结果，包括商业投资的速度、与国际对手竞争的动力、研究机构提高人工智能水平的能力、军方对人工智能应用的总体态度以及人工智能特定作战概念的发展等等。
《研究报告》认为，人工智能对作战的影响有三个层次的评价，分别是对作战的低度影响、对作战的渐变影响以及对作战的革命影响：
（一）对作战的低度影响
人工智能的批评者认为，众多趋势表明人工智能的技术影响微乎其微。从技术角度看，目前人工智能的安全问题有可能是不可克服的，并将使人工智能不适合军事应用。而且还有分析认为，人工智能应用可能会因预期管理不善而停止。
（二）对作战的渐变影响
大多数分析人士认为，人工智能至少会对作战行为产生重大影响。一项研究将人工智能描述为一种“潜在的破坏性技术，可能会在作战中造成显著的不连续性”，并进一步断言该技术可能“显著提高军事效率和作战潜力”。
许多技术发展将来自商业领域，这一事实意味着国家竞争对手和非国家主体也将有机会利用这些技术，这一事实可能会侵蚀美国已经习惯的传统优势。在这种情况下，人工智能仍然可以影响作战方法，但如果对手拥有类似的能力，技术的总体影响可能是有限的。
（三）对作战的革命影响
相当多的专家认为人工智能将对战争产生革命性的影响。一项分析称，人工智能将引发“战场上的巨变”，并“从根本上改变战争的进行方式”。《2018年国防战略》将人工智能列为将改变战争性质的新兴技术之一，美国国防大学教授弗兰克·霍夫曼认为，更进一步来讲，人工智能可能“改变战争的永恒本质”。
然而，考虑到人工智能的破坏性潜力，无论是好是坏，军方领导人和国会有责任评估军事人工智能发展的影响，并对新兴的人工智能趋势进行监督。国会采取的影响人工智能资金、并购、规范和标准以及国际竞争的行动，有可能极大地影响人工智能发展的轨迹，这对于确保先进技术到位以支持美国的国家安全目标和美军的持续优势而言至关重要。（本文是国家社会科学基金项目（批准号：15CFX035）的阶段性成果）
（本文刊登于《中国信息安全》杂志2020年第1期）
声明：本文来自中国信息安全，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
