美国防部研究与工程副部长帮办：人工智能发展现实问题及应对措施
远望智库技术预警中心 王璐菲
2018年12月11日，美国会武装力量委员会新兴威胁与能力小组委员会举行“国防部人工智能架构、投资与应用”主题听证会。国防部研究与工程副部长帮办丽莎·波特发表证词，她表示，人工智能（AI）不是新事物，其早期研究几十年前就已开始，美国防高级研究计划局（DARPA）参与了其中大部分投资。这些研究带来了局限于有限应用的“专家系统”。当前的人工智能研究主要聚焦“机器学习”子领域，由大量数据训练的算法已在分类和预测任务上表现出色，譬如面部识别、语音识别。然而，当前的技术水平也伴随着炒作和混乱。国防部研究与工程副部长的立场是，追求人工智能所带来的机遇，不能以放弃科学严谨性和纪律为代价。
一、人工智能发展当前面临的问题
今天的人工智能能力可以为很多具体国防问题提供潜在解决方案，包括识别无人机所拍摄视频中的物体、探测网络威胁等。然而，其性能必须严格对照与具体任务问题直接相关的量化指标（包括查准率、查全率等）来评估，如果指标不恰当，则算法无法优化，人工智能的性能也将因此不尽人意。譬如，大部分商业应用的算法对查准率的重视高于查全率，这就不适于为导弹发射器提供威胁预警，因为相对于误报而言，威胁预警更不能承受的是漏报。
与此同时，确定实现作战效能所要求的性能水平也是一个挑战。当前系统和能力的性能常常没有量化的基准，因此，确定相关目标性能水平比较困难，这就导致有关研发的结果是否合理无从判断。
现有机器学习技术需要大量人力来准备训练数据，而训练出来的机器学习系统能力范围有限，不能解释自己的行为，因此很难被信任（譬如，过去几年，物体检测和分类方面之所以取得了较大进展，是因为李飞飞博士领导的给数据打标签工作，雇佣了来自167个国家的超过5万人，准备了约1500万张训练算法的图片；尽管如此，相关算法物体识别的准确性不尽人意）；需要强大的处理能力来支撑；易被各种形式的欺骗——“对抗性人工智能”——所愚弄。
二、国防部应对措施
美国防部正利用联合人工智能中心（JAIC）、研究与工程副部长企业级体系的互补作用，致力于多项努力，应对上述挑战和脆弱性（指标选择、数据管理、信任、处理能力和“对抗性人工智能”）。
JAIC将提供一种方法，以快速确定衡量各种应用作战影响的适当指标，而这将为研究与工程副国防部长各研究项目的算法和系统开发提供信息。
未来，JAIC对扩展和整合的专注将驱动数据管理技术创新。国防部计划在各机构之间促进协同作用，一个具体的例子是国防创新单元（DIU）和JAIC围绕预测性维护的最新合作：DIU选定一家商业航空业供应商，来原型化一项为期6个月的E-3“哨兵”预警机维修试点项目，DIU和JAIC正协作将该解决方案扩展到众多飞机平台及陆军“布拉德利”战车上。
为解决人工智能“信任”问题，DARPA“可解释人工智能”项目寻求创建机器学习技术，创建更多可解释模型，同时维护高水平性能，同时，研究与工程福国防部长与各军兵种实验室及相关国际合作伙伴，正在寻求相关方法、工具和技术，实现自主和人工智能系统的快速鉴定、评估和认证。
“高性能计算现代化”项目正在设计可为战场上人工智能和机器学习应用提供充足处理能力的新系统。
“对抗性人工智能”正是DARPA 20亿美元“下一代人工智能”计划的重点关注领域之一。
三、展望
未来，美国防部将重点开发具备类人推理能力的人工智能系统。这种能力将极大扩大人工智能的通用性，使人工智能系统成为人类解决为的真正伙伴。
声明：本文来自战略前沿技术，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
