2017年，人工智能摔过的那些跟头

今年，人工智能项目AlphGo和Libratus分别在围棋和德州扑克两个领域战胜了世界上最好的人类选手。虽然这些里程碑事件显示了近些年人工智能的发展程度，库卡机器人何服电机维修，许多人仍然对新兴技术整体的成熟程度抱有怀疑尤其是考虑到过去12个月中出现的一些人工智能的失误案例。

机器之能是机器智能的铁杆粉丝，这从我们的名字中就可见一斑。但是同样，我们十分清楚地认识到，一些新技术并不能有效地执行自己本来的任务，时常会犯一些人类从不会犯的错误。以下是我们挑选出来的2017年人工智能失误事件Top10。

面具解锁FaceID

FaceID，一种用来解锁最新款iPhone的面部识别技术，一度被称为迄今为止最安全的人工智能激活方法。苹果公司曾夸口称FaceID的解锁失误率仅为百万分之一。但是随后越南公司BKAV使用了由3D打印的塑料、硅胶、化妆品和一些剪纸制成的面具就成功破解了FaceID，而面具的造价只有150美元。BKAV只是扫描了测试对象的脸部，使用3D打印机生成了一个脸部模型，贴上了一些剪纸眼睛、嘴巴和硅胶做的鼻子。FaceID的破解给整个行业带来了冲击，加剧了对消费者设备隐私的风险以及更普遍的人工智能技术安全性的考量。

AmazonEcho故障引发邻居报警

最近大受欢迎的AmazonEcho被认为是更加强大的智能扬声器之一。但是没有东西是完美的。一名德国男子的Echo在其外出期间被意外唤醒，并在半夜开始大声地播放音乐，吵醒了邻居。邻居报了警，警察不得不打破前门才把Echo关闭。事后警察更换了门锁，房子的主人回家时发现自己的钥匙已经打不开自己的房门了。

Facebook关闭聊天机器人

今年7月，媒体铺天盖地地报道，两个Facebook的聊天机器人以人类无法识别的语音相互沟通，发现后被关停。关于新的秘密超级智能语言的谣言淹没了各大网站，直到Facebook出来解释，这种神秘的交流只是语法编译不力造成的结果，这场风波才渐渐平息。

拉斯维加斯的自动驾驶巴士上路第一天就发生事故

今年11月，一辆自动驾驶巴士在拉斯维加斯华丽亮相，包括常驻拉斯维加斯的魔术明星Penn&Teller在内的众多名人争相排队试乘。然后，仅仅在两个小时后，这辆公交车就和一辆货车相撞。尽管从技术角度来看，公交车无须为此次事件负责据警方所说，货车司机才应该为此次事件负责但是这辆智能巴士上的乘客还是抱怨说，公车还是不够智能，卡车慢慢靠近的时候，它无法摆脱危险。

GoogleAllo用头巾表情回应枪支表情

美国有线电视新闻网的员工使用GoogleAllo时收到了一个带有头巾的人的表情建议。而这个表情是因为一个手枪表情触发的回复建议。谷歌尴尬地向公众保证，问题已经得到解决，并向公众道歉。

双胞胎骗过了汇丰银行的声纹识别ID

汇丰银行的声纹识别ID是一个以人工智能为核心的安全系统，允许用户通过语音命令访问自己的账户。尽管汇丰银行声称这套系统和指纹ID一样安全，但是BBC的一名记者的双胞胎兄弟却能通过模仿声音访问他的账户。实验尝试了7次才成功。汇丰立即给出了解决方案，登录失败三次后即锁定账户。

Google人工智能把步枪错认为直升机

通过略微调整步枪的照片，麻省理工学院的研究小组成功欺骗了GoogleCloudVisionAPI，让它将步枪照片错认为直升机。这个技巧，也叫对抗样本，是计算机通过进行人眼无法察觉的修改从而使图像分类出现错误。此前，如果黑客知道目标计算系统的基本机制，工业机器人维修，这种对抗样本才会起效。麻省理工学院的团队通过触发错误分类无须获得系统信息，改进了对抗样本。

路牌黑客愚弄了自动驾驶汽车

研究人员发现，用油漆和胶带对停止标志作出不起眼的修改，他们就可以使自动驾驶汽车对这些标志错误分类。用「love」和「hate」这样的单词修改停止标志，www.zr-kuka.com，就欺骗了一辆自动驾驶汽车的学习系统。测试集中，自动驾驶汽车的学习系统100%将这些停车标志辨认为「限速45」。

AI想象了一片「银行臀部」颜色的夕阳

机器学习研究人员JanelleShan训练了一个神经网络，用来生成新的油漆颜色以及给每种颜色起一个匹配的名字。这些颜色可能看起来非常舒服，可这些名字却令人捧腹。使用颜色名称数据进行少量训练之后，这个模型仍然会将「天蓝色」标记为「GrayPubic」，把深绿色标记为「StoomyBrown」。

对Alexa许愿要小心，说不定一不留神就下单了

亚马逊Alexa的虚拟助理可以使网上购物更容易。但是是不是太容易了？1月份，圣地亚哥新闻频道CW6报道，一个六岁的女孩仅仅和Alexa说希望要一个玩具小屋，所以她就通过Alexa花了170美元买了一个玩具屋。据称，当电视播出时，主持人重复了这个女孩的话，说：「我喜欢这个小女孩说的话，'Alexa给我买了一个玩具小屋'，」一些观众家里的Alexa设备再次被触发，然后下单购买了一个玩具屋，不过这个说法的真实性仍然有待查证。