难以置信,这竟是Google如今的做事方式。
或许你还没有忘记,有个叫Maven的美国国防部AI武器项目。
而且就是因为Google参与该项目,内部抗议一波接一波,离职进谏者不计其数,近4000员工联名声讨。
后来,内外压力之下,2018年6月,Google官方宣布停止参与AI武器研发,并发布AI原则作为指导。一时化舆论危机为道德风骨。
然而万万没想到,不作恶巨头也有明修栈道暗度陈仓那一套。
一边是高调建牌坊,另一边则背地里雇佣众包零工人员继续进行AI武器训练。
这,就是Google刚刚被曝光的新春之雷。
众包平台训练武器AI
事情从一家名为Figure Eight(图八)的众包公司说起。
图八公司,做的就是数据标注一类的工作。他们接项目,然后安排给平台上的“工人”,并以时薪1美元(7元)支付报酬。
工人们任务也不难,看起来都是一些简短且无须思考的任务,比如识别区分所给图像中的人物,是否符合要求——符合就框出来,不符合就下一张。
但根据美媒The Intercept最新截获的邮件显示,其中就有一个专门为Google和国防部完成的项目。
而且就是那个“声名在外”的Maven项目。
所谓Maven项目,简而言之就是无人机武器。但跟战狼中所用的人控无人机不同,这里的无人机有AI加持,拥有视觉能力,可以区分“敌我”,最后甚至能自主决定攻击。
但你也知道,AI实现区分“敌我”之前,需要人类通过大量数据和案例教会AI谁敌谁友、分清楚哪些是树木哪些是人——有多少人工,就有多少智能。
这个图八公司,接的就是这个生意。
所以按理来说,Google宣布停止参与Maven项目后,合作方图八的任务应该也就一并中止了。
但The Intercept截获的邮件显示,图八的数字工人们还在不断交付工作,只是他们并不知道究竟在完成什么项目、又是为谁工作而已。
图八方面也确认,Maven项目的任务还在继续。
所以换而言之,在Google宣布中止Maven项目大半年后,背地里还有模型训练的工作马不停蹄。
不知道那些以离职抗议的Google员工,知道真相后作何感想?
但Google官方已经对此表示未置可否。
The Intercept就此向Google求证时,发言人把问题转交给了图八公司——大概就是想表明这事儿得问图八。
不过就外泄的邮件内容来看,Google从中标Maven项目后不久,就已经跟图八公司展开了合作。
现在想要切割,为时晚矣。
评论汹涌
事情被爆料后,网友搬板凳看热闹的阵仗好不热闹。
无论是外媒、推特、论坛还是国内的微博,网友都开启了热议模式,针对此事的观点评论几乎可以一分为三。
有吃瓜群众对谷歌“表里不一”的行为表示大跌眼镜,把“不作恶”写进自己的准则却又一再打破,不少网友表示“让人失望”。
有网友感慨人工智能技术在成熟前竟然需要这么大的标注工作,先有人工后才有智能。
外媒VentureBeat的记者John Koetsier认为,整件事太讽刺了,人们为了训练AI最终能替代自己干活,竟然在做一些不需要动脑子的微小工作。
也有微博网友提供了一个点子,认为与其利用零工经济聘请兼职来标注,不如直接放到游戏里让玩家对其训练。
最多的讨论,是关于谷歌这次处理问题的态度以及影响,不少国外网友气愤的同时,又在“瑟瑟发抖”。
社会学家Casilli推特表示,这是一个有关发言权的问题。无论是兼职也好、零工也罢还是社交平台的用户,都有权利认识和监督其生产活动。
不少国内微博网友也认同此事,表示心疼这些连自己在做什么都不知道的公认。
网友TeameZazzu开始担忧谷歌的一系列AI军事项目,他认为正如美国国家安全局此前国内大规模监听丑闻那样,反恐工具很快就会转移到国内警察部门。在WAMI(广域运动图像)案例中,被执法机构使用显然是违反美国宪法的,是对自由、隐私和民主的生存威胁。
王子&庶民
当然,事件曝光后的评论中,另一个问题也被凸显。
在图八的整个工作中,由于雇主和项目可以选择匿名,而且工作任务被切分得极其细致。
所以工人们根本不知道自己在为谁工作,也不知道自己正在做什么。
那么争议来了:
在AI武器这样的“是非题”中,Google的员工有选择的权利,但图八的工人们,甚至连知情权都没有。
未来这些AI武器大杀四方甚至被非人道使用时,他们也不知道自己曾帮助过这些武器的实现。
所以在涉及道德争议任务时,是否也该让众包工人跟Google员工享有同等的知情权?
而且就在最近,参与Maven项目抗议的Google员工,还获得了“2018年度军控人员”的全球评选。
但图八公司的众包工人呢?如果不是今日事件曝光,可能他们永远不知道,自己一直在参与Maven项目。
迫于生计,他们可能也没有选择,但是否就此变相剥夺他们的选择权?
另外,明修牌坊,暗地里继续训练军事AI,这真的是Google的选择吗?
声明:本文来自量子位,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。