盘点：2017年10大人工智能失败案例

我们是机器智能的爱好者，但我们也意识到一些新技术很难有效地执行任务。以下是我们对2017年失败的人工智能的总结。

由于面具而崩溃的Face ID

Face ID，即解锁新iPhone X的面部识别技术，被认为是有史以来最安全的人工智能激活方法，苹果称其被愚弄的几率为百万分之一。但随后越南公司BKAV用3d打印、硅胶、化妆品和剪纸制作的面具，将其破解。Bkav只是扫描了一个测试对象的面部，使用3D打印机来生成面部模型，并粘贴了一张眼睛和嘴巴的剪纸，还有一个硅胶鼻子。这一消息在业内引起了冲击，加大了消费者设备隐私和人工智能安全方面的风险。

亚马逊 Echo被意外激活

亚马逊Echo被认为是最稳健的智能音箱之一。但没有什么是完美的。一个德国人的Echo在他不在家的时候被意外地激活了，在午夜之后开始播放音乐，吵醒了邻居。他们给警察打了电话，警察不得不从前门破门而入，把音响关掉。警察离开时换了门锁，所以当那个人回家时，他的钥匙不能打开家门。

Facebook聊天机器人被关闭

今年7月，有报道称，两名Facebook聊天机器人在用人类无法辨认的语言相互交流后被关闭。一种新的神秘的超智能语言充斥着讨论板，直到Facebook解释说神秘的交流仅仅是由于语法编码的疏忽造成的。

拉斯维加斯的自动驾驶巴士在第一天就坠毁了

今年11月，一辆自动驾驶巴士在拉斯维加斯举行了首次公开亮相。然而，就在两小时内，这辆巴士与一辆运货卡车相撞。在技术上，巴士不必对事故负责，卡车司机也收到警方指控，但车上的乘客抱怨说，当卡车慢慢靠近时，自动驾驶汽车如果足够聪明，可以不受伤害。

谷歌Allo用头巾表情来回应持枪表情

CNN的一名工作人员通过谷歌Allo收到了一个戴着头巾的人的表情符号。这是对一个包含手枪的表情符号的回应。尴尬的谷歌向公众保证，它已经解决了这个问题，并发表了道歉声明。

汇丰银行的语音识别被孪生兄弟愚弄

汇丰银行的语音识别ID是一个人工智能的安全系统，允许用户使用语音指令访问他们的帐户。尽管该公司声称其和指纹识别一样安全，但BBC记者的孪生兄弟却通过模仿他的声音访问了他的账户，他尝试了7次。汇丰银行的直接补救措施是设置三次访问失败就锁定账户。

谷歌AI将步枪误认为直升机

通过略微调整步枪的照片，麻省理工学院的研究小组欺骗谷歌云视觉API，将图像错误的识别为直升机。这一伎俩，即不良样本，导致计算机通过引入人眼无法觉察的修改来对图像进行错误分类。过去，只有当黑客了解目标计算机系统的基本机制时，对抗的例子才会起作用。麻省理工学院的团队在没有获得这些系统信息的情况下，通过触发错误分类，向前迈出了一步。

街头标志愚弄自动驾驶汽车

研究人员发现，通过油漆或胶带的谨慎应用来阻止信号，可以欺骗自动驾驶汽车，把这些标识错误地分类。 用“爱”和“恨”这两个词修饰的停车标志，欺骗了一辆自动驾驶车的机器学习系统，在所有测试案例中，都将其误认为是“限速45”的标志。

AI为颜料提供了一些让人哭笑不得的名字

机器学习研究人员Janelle Shan训练了一个神经网络来生成新的油漆颜色以及可以“匹配”每种颜色的名称。颜色可能是令人愉快的，但名字令人哭笑不得。即使在用颜色名称数据进行少量训练之后，该模型仍然将天蓝色标记为“灰色耻骨”，将深绿色标记为“Stoomy Brown”。

不要轻易向Alexa提要求，你可能真的会得到它

亚马逊的Alexa虚拟助理可以让网上购物变得更容易。也许太容易了?今年1月，圣地亚哥新闻频道CW6报道称，一名6岁的小女孩仅仅通过请求Alexa就买了170美元的房子。这还不是全部。当电视主持人重复女孩的话时，她说:“我喜欢这个小女孩的话，‘Alexa给我订了一个娃娃屋’”，一些观众家里的Alexa装置再次被触发为其订购了玩偶屋。