【编者按】7月13日，兰德公司发布研究报告《保持人工智能和机器学习的竞争优势》（Maintaining the Competitive Advantage in Artificial Intelligence and Machine Learning）。该报告从组织计划、文化、结构三个方面对中国和美国的人工智能战略进行了比较分析，认为两国在实施人工智能发展战略的多个方面中各有优劣势，美国的主要目标是保持在人工智能领域的领先地位。报告还站在美国空军（USAF）的角度，提出了空军维持人工智能优势的若干建议，即建立人工智能路线图，促进人工智能军事应用，推进认证、验证、测试和评估（VVT&E），开发新的战术行动理念。
1 引言
人工智能技术很有可能在未来的武装冲突中作为重要的力量倍增器。事实上，中国已经将人工智能视为增强国家竞争力、保卫国家安全的关键，并且提出了以大量投资为基础、全社会共同实施的国家人工智能计划。该计划设定了一系列里程碑目标，要在2030年使中国成为世界人工智能创新中心。如果该计划成功，中国将超越美国及其盟友的军事优势地位。
在发展人工智能以及反击中国侵略性地寻求技术优势的挑战方面，美国政府特别是美国国防部和美国空军，可以采取一些行动、姿态、能力的发展选项。美国政府应当在人工智能的许多方面加快投资和政策实施，为人工智能在美国商业、学术和政府部门中的发展提供支持和保护，要确保美国空军掌握凌驾于中国之上的军事人工智能前沿技术。
2 国家人工智能战略
任何可行的国家战略必须有清晰的目标、合适的资源、适当的机制和方法、处在有能力的领导指引之下。
中国
1、领导和目标
中国的国家人工智能战略是在国家主席习近平的命令下制定出来的。习近平将人工智能视为最高优先事项。在领导体系的顶端，是中共中央政治局、国务院；国家科技体制改革和创新体系建设领导小组负责总体计划和协调。中国人工智能战略的首要目标是建立和维持一个国家人工智能技术体系，在三个时间阶段实现智慧经济、智慧社会和强大国防：（1）到2020年中国追赶上人工智能世界领导者，（2）到2025年中国实现人工智能基础理论的重大突破，（3）到2030年中国进入世界领先水平。
2、机制、方法和资源
中国的战略有三个关键机制，其中最主要的是中央层面的规划：2017年7月启动的中国人工智能战略，是整个国家体制（包括中国共产党、解放军、国家）广泛参与的一场运动。该战略要求大范围的官僚机构协调，包括党-政-军三方协调，以及人工智能的科研-军方-商业三方面协调。实现战略有6个明确的方法：国内人工智能研发；大学和科研机构合作；国际投资；并购收购；国内和国际招募科技人才等。该战略寻求广泛利用各种资源，如大量用户数据、巨大财政投入、足够多的硬件、全国的研发基础设施，以及活跃的商业群体。
美国
1、领导和目标
2018年5月，白宫发布了一个资料单，勾画了政府范围内高优先级的人工智能项目。《2019财年国防授权法案》建立了关于人工智能的国家安全委员会。该委员会的目标和职责是提出必要的方法和途径，促进人工智能、机器学习和相关技术的发展，全方位地满足美国国家安全和国防的需要，为国家配备应对国家安全需要（包括经济风险、国防需要以及其他委员会界定的安全风险）的手段。
情报界和国防部最近为商业部门召开了行业主题日，表达了它们对于商业界的特殊需要和需要填补的技术空白。情报部门和军方都在努力将人工智能融入其行动之中，利用人工智能技术获得战略优势地位，例如，情报界提出了《以机器增强情报》计划，国防部建立了“联合人工智能中心”。
2018年9月，国防高级研究计划局（DARPA）宣布启动20亿美元，开发下一代人工智能技术，为超过20个项目提供支持，旨在探索最先进的人工智能技术，推进第二代人工智能技术进入语境推理能力阶段。
2、机制、方法和资源
2020年初，“国家网络、信息技术、研究与发展协调办公室”在多个信息技术项目领域启动了研发资金，包括智能机器人和自主系统。
2016年5月，奥巴马政府呼吁提升政府对人工智能的使用，以提高对美国人民的政务效率。他建议联邦政府探索在工作中使用人工智能提升工作能力。目前还不清楚奥巴马的建议是否在特朗普政府得到实施。由于特朗普政府未能为人工智能发展提供足够的资源而被批评，2019年初他签署了一项行政令，加速人工智能发展。许多政府机构也启动了自己的项目，旨在开发新的人工智能应用。为了维持美国在该领域的领先，DARPA启动了《电子复兴计划》，旨在开发新的技术，这些技术可以被私营企业商业化。2018年，美国政府建立联合人工智能中心，具备预算和授权，可以为人工智能发展设定限制、监督机制和伦理边界。国防部从2017年起举办了年度人工智能行业日，聚集私营企业和军方官员，共同探讨人工智能在军事领域的解决方案。
2018年7月，DARPA发布《人工智能探索》项目。该项目包括一系列高风险、高回报的计划，研究人员将在18个月时间内建立具有灵活性的新型人工智能理念。该项目是DARPA多年投资超过20亿美元的下一代人工智能战略的关键部分。此前，美国国家人工智能战略是指2016年10月由奥巴马政府国家科学技术委员会发布的《国家人工智能研究与发展战略计划》。2019年2月，特朗普政府发布其人工智能战略《第13859号行政令》。
国防部对人工智能研发的支持，可以追溯至20世纪50年代。在历史上，这些支持扮演着重要的作用。然后，国防部对人工智能的支持并不总是如此坚定，它也曾经因为预期与现实的巨大落差而撤出该领域。这种撤离是错误的，然而目前国防部对于人工智能的行动计划正在重蹈历史的覆辙。
3 两国人工智能战略比较
国家人工智能计划比较
两国都提出了极具雄心的人工智能战略。其中，中国在领导力以及全国动员方面更加厉害，可以集中大量资源、集中力量实现中国共产党确立的目标。
中国和美国谁能实现目标，取决于中国能否抓住其先发优势，以及美国能否利用好其现有的世界领先地位。每一个国家都必须克服两个挑战：（1）建立和维持政府官僚机构、商业部门、学术界的协调水平。中国在这方面稍占优势，可以充分发挥商业部门的活力。但美国在将人工智能技术用于军事方面更占优势。（2）保持聚焦。人工智能技术是分散的，目前没有关于人工智能的确切定义，集中所有的科研和衡量进度都是困难的。中国可以克服这一挑战，因为中国至少已经确立了人工智能的优先领域。美国可以在基础研究领域克服这一挑战，因为美国政府具备承担可持续基础研究工作的历史传统。
文化比较
整体而言，在实施国家人工智能战略时，文化因素是美国得以取得胜利的原因之一。（1）在一个以结果为导向、高度信任的社会环境下，实施人工智能战略更加顺利。（2）美国更容易将人工智能投入军事应用，人工智能更简单地融入美国军队容纳风险的文化，即倾向于指挥下级，而非控制下级。（3）在科学家和技术研究人员当中，美国的研发文化鼓励创新，但中国的文化倾向于遏制本能和创新。（4）美国的研发体制具备更清晰的认证、验证、测试和评估（VVT&E）流程，而中国没有这样的流程。（5）中国的人工智能战略具有巨大的财力支持，但却受制于中国社会流行的贪污腐败文化。虽然美国的资金较少，但严格监管和财政监督意味着财力更不容易被浪费。
结构比较
整体而言，结构因素方面无法看出哪个国家更胜一筹。在实施人工智能战略时，中国高度集中化的体制可能更有优势，但这又受制于中国严重的官僚烟囱效应。尽管美国的政治相对去中心化，但一个跨机构协调体系可以帮助其抵消中国在这方面优势。
在军用人工智能方面，中国有具备一定的优势。军民融合备受关注，但解放军保守主义的官僚体制是军民融合有效性的阻碍。而虽然一些美国的人工智能公司试图以伦理为由，通过拒绝合作的方式，阻止美国政府将人工智能用于军事领域，但许多其他公司仍热切希望获得国防或政府合同。
在数据方面，中国也看起来具备优势。中国几乎没有法律或伦理上的数据共享障碍，但一个弥漫隐秘文化的体制抵消了这种优势。中国是一个低信任的社会，烟囱林立是中国官僚机构的一个严重问题，因此在中国共享信息和数据其实并不是那么容易实现的。而美国也有着著名的法律和伦理障碍，阻止数据的广泛共享。
未来举措
在中国，科技创新面临着突出的文化和结构性阻碍。然而，最高领导层意识到了这些阻碍，正在采取一些措施克服这些障碍。其中，最重要的举措是2015年启动的国防体系组织改革，形成适合创新的文化和结构是当前中国最大的挑战。
尽管美国的文化和结构也是其人工智能技术创新的挑战，但这些因素在更大程度上也是美国的优势。对美国而言，可以利用冷战期间建立的国家安全相关科学研究体制，如国家实验室网络，形成新的前沿商业人工智能行业结构。
4 对策建议
通过制定人工智能路线图进行预期管理
为了帮助美国空军（USAF）实现人工智能应用落地，建议其建立前瞻性的人工智能路线图。该路线图应当包括三个阶段：近期（1-2年），中期（3-5年），长期（6-10年）。
（1）包含一个详细的、有重点的，在每个阶段都可以实现的应用清单。
（2）对每个应用，明确其行动需求。
（3）对每个应用，提供一个向行动过渡的计划，包括测试和评估。
（4）对每个应用，列举当前人工智能技术的不足，在未来需要将其开发成熟。
（5）对每个不足之处，提出可能的建议举措，解释它们为什么能够成功。
（6）对每个不足之处，提出研发需求，作为发起提案的基础。
（7）对每个应用，提供一个关于将其开发成熟所需总成本的初步数量级评估。
在国防部控制下建立工程通道
为建立和维持人工智能开发应用的竞争优势，美国空军和国防部需要大量经过高级培训的工程师。国防部工程师需要持续工作，并且与国防部项目经理、操作人员紧密合作，需要充分的数据，以便：
（1）分析需求。
（2）为人工智能战争行动理念开发出设计、测试、评估技能。
（3）策划国防部专用的人工智能系统。
（4）对从实验室到野战部队的国防部人工智能系统开展认证、验证、测试与评估（VVT&E）。
为人工智能技术建立和定制认证、验证、测试与评估技术
1、认证和验证
认证（Verification）和验证（Validation）是指集中评估一个人工智能系统质量的两种途径，前者是指满足质量规格，后者是指满足既定用途。在人工智能系统的设计过程中，可能出错的地方包括：
（1）避免副作用（side effect）。人工智能系统在追逐其目标时，可能是思维简单的，有时候在其他领域引发并不直接相关的问题。这类问题可以通过建立一个仔细、细微差别的目标函数来解决。
（2）避免“奖励黑客行为”（reward hacking）。人工智能系统有时候存在实现其目标函数的快捷方法，这可能产生无用或不符合初衷的行为（即奖励黑客行为）。与避免副作用类似，这类问题也可以通过适当地界定一个目标函数来解决。
（3）可伸缩监督（scalable supervision）。过于简单的目标函数可能导致消极的副作用或者“奖励黑客行为”，这些目标函数过于复杂或者需要过长的时间去评估，这使得人工智能系统的评估行动过程陷入困难。
（4）安全探索。人工智能系统通过尝试和错误来学习，它应当被阻止尝试危险事情。对于扫地机器人而言，应当指示其在试验新的清扫技能时，不要在电子设备附近使用湿拖把。
（5）分布转型的鲁棒性（Robustness to distributional shift）。如果人工智能系统遇到的现实世界信息或环境与其训练中遇到的数据和环境不同，它的行为可能不是最优或者甚至是破坏性的。当现实世界可能与训练环境存在统计性差别时，设计人员应当小心谨慎。
2、测试和评估
有效的测试和评估系统是给予美国军方人员对人工智能系统必要信心的关键。然而，当前国防部的测试和评估系统并未有效地被用于证明自动化系统的可靠性：（1）随着时间推移，机器学习系统改变其行为，当前的国防部测试和评估流程并未设计用来应对这些新出现的行为。（2）国防部的测试类别并未用于反映大规模复杂性、开放性和不可预测性，以及自动化平台所处的对抗性环境。（3）当前的政策将操作人员表现和系统分开考虑，而未评估其能力是否满足其共同的目标。（4）国防部认证和验证集中于在开发的最终阶段广泛评估整个系统，而未评估开发过程中的组件部分。（5）当前的测试评估流程严重依赖旧平台的评估，给自动系统造成前所未有的问题。
为采用人工智能技术的新行动概念建立发展、测试、评估流程
1、战争游戏和行动理念
历史上，决定性的军事创新需要较高的技术水平，能够将新技术进行整合，并且明确技术将被如何用于战场的组织更容易成功。因为大多数人工智能背后的基础技术对于美国和中国而言都是可得到的，并且因为两个国家都在同步形成相似的新型组织结构，美国必须制定更高级的行动理念，保持在人工智能应用领域的决定性优势。
开发此类理念的一个途径是分析性（analytical）的战争游戏。在过去，此类游戏帮助美国军队提出新的行动理念和学说，使美国将新的技术变为军事上的决定性优势，例如航空运输机和核武器。最佳的理念又可以被提炼出来，成为评审空军参谋人员的学说白皮书，并且在野战实验中开展进一步评估。
2、整合进入多域行动
美国陆军和海军陆战队开发了多域行动（MDO）理念，以有效地应对在所有6大域（天空、陆地、海洋、太空、电磁、网络）给美国军队带来新威胁的对手，应对可能对美国部队发动远距离袭击的对手，应对可能在灰色地带开展行动的对手。这一理念要求美国部队建立新的能力，包括在与敌人在灰色地带竞争，以及应对灰色地带冲突升级的准备，以及通过确保战区足够供应、快速向该地区投送部队的部队姿态（force posture）调整行动。MDO假设美国需要建立一个弹性的能力，当被敌军包围并且面临对抗性的空战环境以及在不同域启动协同行动时，能够在任何域利用窗口优势影响其他域。
3、一些为多域行动提出的人工智能使能的空军战术理念
为了有效地响应新的威胁环境，MDO为美国联合部队假设了4个关键的理念：竞争、部队姿态调整、弹性、交叉能力。相应地，美国空军可以通过使用4个由新的人工智能驱动的自动系统的战术理念，对MDO作出新的重大贡献。这每一个战术理念都是符合MDO信条的。
第一个战术理念是智能情报、监视和侦察（ISR）数据处理，支撑“竞争”信条。情报和监视理念可以使用人工智能驱动的算法，从ISR资产（图像和信号情报）中得到的数据进行筛选。新兴的、在从过去主要的冲突爆发数据上建立的人工智能早期预警算法将能够比人类分析师更早地发出预警信号。
第二个战术理念是人工智能驱动指挥与控制，支撑“部队姿态调整”信条。这一战术理念将使用人工智能驱动的指挥与控制和后勤系统，与美国空军作战中队投入战区的行动快速协同。
第三个战术理念是自动武器盾牌，支撑“弹性”信条。这一理念涉及使用美国空军无人操作、自动化的巡航平台提供基本的近空支持。
第四个战术理念是人工智能优化，这是一个面向指挥与控制的概念，支撑“交叉能力”信条。这一理念将使用人工智能驱动的动态任务计划软件，完成当前战役阶段。
4、通过野战实践测试新理念
最近公开的国防出版报告暗示美国陆军已经确定了在野战实践中测试MDO理念的最佳方式。这些测试将避开狭隘的“概念验证”实践，狭隘的测试即在特别训练的测试单位进行，而非将试验性的MDO信条融入常规单位的常规训练以考察这些信条是否切实可行。这些方式在陆军实施开来，美国空军也应当改变传统的“概念验证”方式，测试新的人工智能驱动的战术理念，争取在未来某一天将这些理念嵌入MDO。
新的战术理念有赖于通过正在研发阶段的人工智能系统和软件发挥高水平的性能。这些理念也有赖于任何层级的空军人员尚未使用过的新型战术、技能和流程。为了在野战实践中测试这些理念，美国空军单位最好接受特别的关于新的人工智能战术、技能和流程以及系统的训练，以便在常规训练之外开展特定的、高级定制的“概念验证”试验。
编译 | 黄紫斐/赛博研究院研究员
声明：本文来自赛博研究院，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
