2020年6月11日,美国《防务内情》网站报道称:美空军正在研究一种可以抵御对数据进行攻击的新型人工智能,从而使自主系统能够在未来竞争性战场环境驾驶无人机。

在本周美国空军协会米切尔研究所的活动上,空军采购主管威尔·罗珀(Will Roper)提出了R2D2项目的目标(R2D2意为向《星球大战》中的机器人致敬)。由于目前最复杂的人工智能仍然容易受到算法战的影响,在近期使用自主驾驶系统仍需配备专业的人员,因为人类具有识别不同模式、检测干涉意图的天赋。罗珀解释说,目前的人工智能容易受到操纵。攻击者可以混淆卷积神经网络的网络数据,而使用人工智能算法在从情报图像提取特征来识别对象和位置时会使用这些数据。

暴露年龄的熟悉画面——但实际上,星球大战早期系列算是经典的科幻作品。R2D2是其中外形萌宠、却值得信赖的小机器人(美国《大众科学》网站图片)

为此,美空军正在投入各项研究,使人工智能能够做到万无一失,例如去年美空军与麻省理工学院共同启动的人工智能加速器项目。“这项技术可能不会像我们希望的那样很快带来益处,所以我们不能等着它作为互联网的成熟技术出现,我们需要加快这一进程。”罗珀指出,这项研究也可以应用于非军方领域,比如无人驾驶汽车或快递无人机。

R2D2正在开发的算法集很可能会首先在天空博格人项目的低成本无人机上使用。但该算法与平台无关,并将随着时间的推移与更先进的系统集成。罗珀表示,R2D2将为“AI飞行员”提供与人类飞行员相同的风险承担(risk-embracing)文化。就像人类飞行员一样,AI飞行员也需要不断重复才能做得越来越好。他希望能在模拟器中实现很多这方面的工作,在数字环境中进行快速学习,但预计仍会有一些东西必须在现实世界中学习。”

综合2012年以来开始正式崭露头角、施展模式转型抱负以来的表现,威尔·罗珀博士作为美国防部战略能力办公室前主任及美空军现任采办、技术与后勤助理部长官员,显然是一位有前瞻和系统思维、且具备想象力和情怀的学者型官员。看得出他很喜欢星球大战,除了R2D2和“天空博格人”,他2018年2月到空军之后快速建立的一个软件实验室“凯塞尔航线实验室”也是用星球大战中的事物命名的。他离开了国防部,做不了第二个威廉·佩里——何况这个位置有先前美国防部常务副部长罗伯特·沃克或采办主管肯德尔可以比拟——但他领导战略能力办公室和现在的美空军进行了重大模式变革,必将在大国竞争和国防科技与装备发展史上留下浓墨重彩。美军这样的人物是值得我们关注的(美空军图片)

R2D2可能会使得未来的部队结构更加依赖无人机,美军可以派出无人装备前去对抗对手的先进防御系统。这就是美国防部战略能力办公室“阿凡达”项目的愿景,该项目后来更名为“天空博格人”

罗珀认为,竞争性战场环境将具有挑战性和不确定性,因此首先让无人装备进入战场是十分有意义的。军方不需要把飞行员、传感器和武器都集成在一个平台上,而是可以分解这些任务并分别派向战场,包括可以作为决策制定者的人工智能。罗珀认为,当军队在战争中取得领先优势时,将会有越来越多的受后方指挥的自动驾驶无人机出现在战场。而这样的应用情况也会越来越多。

“天空博格人”项目可能采用的低成本可消耗无人机想象图(美空军研究实验室图片)

由于人工智能还没有强化到可以抵御对抗性的数据攻击,R2D2仍需配备专业的人员。人类有一种天生的技能,可以发现什么东西在试图愚弄他们,而分析人员必须是更熟悉人工智能的人。罗珀希望,下一代飞行员能够像适应隐身技术一样适应人工智能,天空博格人计划的第一步就是让飞行员确定何时能够信任人工智能。罗珀指出,一些分析人员已经开始研究在可以产生情报信息的分布式通用地面系统上运行的人工智能的弱点。

“我们已经拍到了坏人和姑娘们一起走过的照片,还有车辆和各种各样的东西。算法会对这些进行标注,而我们的分析师看着这些标签说,‘没错,那是一辆卡车,那是一栋房子。’一旦他们按下回车键,这些标签就会被上传并扩展作为该系统背后的互联数据。”

(中国航空工业发展研究中心 韩杨楠冰)

声明:本文来自空天防务观察,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。