来源：washington post

编辑：木青

据两位知情人士透露，谷歌首席执行官桑达尔·皮查伊（Sundar Pichai）上周悄悄访问位于五角大楼，目的是为了解决紧张局势。四个月前，员工的抗议促使了这家科技巨头停止续约一份关于利用AI分析无人机视频的防御合同。

据悉，皮查伊会见了一群民事和军事领导人，他们大多来自负责情报的美国国防部副部长的办公室，负责监督名为Maven项目的AI无人机系统。以上消息来自一位参与了此次私人会议的匿名人士。

谷歌曾与美国国防部合作开发Maven项目：这一系统使用AI自动标记那些飞越战争地区的无人机所录制的视频中的汽车、建筑物和其他物体。

但在今年6月，这家科技巨头表示，不会再与续签这份合同，因为员工们批评此项工作是为了帮助军队更高效率地实现追踪和杀戮，并进行了强烈抗议。

美国国防部发言人说：“我们不会对私人会议的细节发表评论。政府相关部门官员经常与行业合作伙伴会面，讨论创新技术。这些会议是旨在解决未来技术挑战的持续对话。”

皮查伊的此次秘密访问正突出了这个科技巨头面临的最具挑战性的约束：如何留住那些对发展战争技术而产生道德愤怒的硅谷工人，同时也能为华盛顿所提供的具有丰厚利润的军事合同服务？

谷歌突然“撤军”引起美国国防部、国会议员强烈不满

皮查伊在6月的一篇博客文章中写道：此前，谷歌表示已与美国国防领导人就“网络安全、培训、军事招募、退伍军人医疗保健以及搜索与救援”展开合作，这一合作也将继续。谷歌还参与竞购五角大楼最赚钱的云计算合同之一。

谷歌对于Maven项目（这是该公司与五角大楼的第一次大型人工智能合作）的变动之意，已成为该科技巨头与美国军方之间关系紧张的主要根源。这些军方官员认为谷歌应该做到一个更好的宣传沟通工作，关于技术可以帮助军事人员免受伤害。

“毫无疑问，这在国防部内引起了很多惊恐，”去年曾帮助启动Maven项目的前美国国防部副部长Bob Work说，“谷歌表示不想使用任何人工智能技术来夺走人的生命，这一论调给它自身造成了巨大的道德风险。但他们并没有说出任何关于AI可以挽救生命的言论。”

谷歌终止与Maven项目合同的决定也引起了国会议员，特别是共和党人的强烈反对，他们成为上周皮查伊为期两天的华盛顿之行（访问白宫和国会）的争议焦点。

尽管如此，他们还是很可能会在今年晚些时候在一个尚未具体安排的众议院听证会上向皮查伊提出此事。今年9月，共和党参议员汤姆·科顿（R-Ark）在不同的听证会上抨击谷歌，而谷歌公司高管拒绝出庭，因为谷歌已经停止协助政府使用人工智能工具，“其目的不仅仅是为了保护我们的军队，帮助我们的国家在战争中取得胜利，但更要保护平民。”

更令科顿和他的同僚困扰的是谷歌正在“努力开发一种能够满足中国标准的新搜索引擎”。今年夏天，科顿和其他三位共和党立法者批评谷歌在退出与国防部的合作关系的同时在帮助中国公司。

Maven项目标志着在作战区域首次使用先进的AI技术，这激发了关于发展强大机器学习技术的潜在危险和“武器化AI”部署到战区的广发争论。

Maven项目中的AI，被官方称为“算法战”跨职能小组（Algorithmic Warfare Cross-Functional Team），它依赖于同样风格的“计算机视觉”技术，而这些技术现在是消费者图像识别软件的关键。

Maven项目负责人海军上校Drew Cukor去年表示AI将补助人类分析师所执行的耗费大量时间的任务，但“不会在战斗中选择目标，且可以随时待命”。美国军方官员称利用AI标记无人机镜头可以精准定位恐怖分子，并减少平民伤亡。

谷歌因参与Maven项目而遭到来自内部员工的激烈抗议

谷歌今年因参与Maven项目而遭到广泛的强烈反对，其中包括3000多名该公司的工作人员。他们向皮查伊发出一封公开信，称“谷歌不应该参与战争”。批评人士表示，AI可能会被用来瞄准更多杀伤性更强的无人机袭击，标志着向“杀手机器人”和致命的自主机器迈出了一步。

今年6月，谷歌表示，该公司不会延长在明年3月到期的长达18个月的、与国防部签订的分包合同。它还公布了一套AI道德原则指南，包括内部禁止开发那些可用于武器或“造成整体伤害”的人工智能。但这份指南很笼统，没有详细说明如何实际执行。

华盛顿智囊团新美国安全中心的兼职研究员格雷戈里•艾伦（Gregory C. Allen）表示，谷歌的突然反转是一场尴尬的沟通失败，这是一个重要的国防部倡议，并可能使该公司此前“非常有前途的求爱”变得糟糕。

艾伦说：“谷歌的可信度因为Maven项目的突然终止被大打折扣，它本来可以成为一家能受到国家安全工作信任的公司。”

参考链接：

https://www.washingtonpost.com/technology/2018/10/05/google-ceo-met-with-military-leaders-pentagon-seeking-smooth-tensions-over-drone-ai/?noredirect=on&utm_term=.4fe162e8d49e

声明：本文来自新智元，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。