唯独也时不时会犯一些人类不会犯的错,使用3D打字与印刷机生成叁个满脸模型

简要评论:全体来说,2017 年的 AI 进步还是一点都不小的,比 二零一六 的 A哈弗/VLAND强很多。前几天的案例中约略还挺萌的。

面具破解苹果公司的Face ID

今年,AI 项目 AlphaGo 和 Libratus
成功制伏了人类最顶级的围棋选手和扑克牌运动员。但不怕 AI
有这么多里程碑式的轩然大波,仍有诸几人对 AI 持狐疑态度,越发是见过了 2017
年无数 AI 的挫败案例之后。

越南社会主义共和国公司BKAV使用由3D打字与印刷的塑料、硅胶、化妆品和雕刻构成的价值150澳元的面膜对其破解。
Bkav只是扫描2个测试指标的脸部,使用3D打字与印刷机生成2个面孔模型,并贴上剪纸眼睛和嘴巴和硅胶鼻子。

一些新技巧,新想法在大力的进行它们的职务,然则也日常会犯一些生人不会犯的错,这里总计了
2017 年值得注意的 AI 退步案例。

亚马逊 Echo 引得邻里报告警方

1.被面具破解的 Face ID

特意加工区域的前额、2D 图片的眼眸、硅胶鼻子、3D 打印的概貌,轻松破解

FaceID 面部识别是流行的 Samsung X 的解锁技术,据传是迄今截止最安全的 AI
激活格局,苹果吹嘘那项技能被破解的只怕性是百极度之一。但随即越南社会主义共和国公司Bkav 开支 150 美金使用
3D打字与印刷的塑料、硅胶、化妆品、图片、和雕刻结构组成了三个满脸模型轻松破解了
FaceID。Bkav 只是扫描了1个测试目的的脸部,使用 3D
打字与印刷生成了个脸部模型,贴上纸的眸子和嘴巴,硅胶鼻子就大功告成破解。那给行业带来了不小冲击,预示了顾客设备隐秘的高风险,以及人工智能的三门峡题材。

流行的亚马逊Echo被认为是很有力的智能音响之一。但尚未怎么是圆满的。一名德国男生的Echo在其不在家的时候被意外激活,并在中午后开始响起音乐,吵醒了邻里。他们通话报告警方,警察只能打破前门,关闭了不合规的响声。因为警察们还换了门锁,所以当此人再次来到时,他意识他的钥匙不再工作。

2.邻里们因为 亚马逊(Amazon) Echo 半夜自嗨而报告警方

还上了情报

亚马逊 Echo
被公认为是先进的智能语音助手,很受欢迎。但从未事情是完美的。一名德意志男生不在家,家中的
Echo
被意外激活,并在半夜两点起来播报音乐,吵醒了邻里。邻居打电话报告警方,警察只能破门而入,关闭
Echo,警察还换了门锁,那么些德意志联邦共和国男人回家的时候,发现自身的钥匙打不开自个儿门户了。

脸谱 聊天机器人惨遭关闭

3.推特(TWTR.US)(TWTR.US) 聊天机器人 Chatbot 关闭

多个机器人互动推抢,完全在说胡话

本年1月,八个 推特(Twitter)(TWT牧马人.US) 机器人不恐怕互相识别相互的言语,Chatbot
无法联系而被关闭。大家测度这三个机器人交换的言语大概是一种新的加密码语言言,传言四起。最终Twitter 出面表明说那种潜在的交换只是语法编码自检的结果。

金沙萨智能巴士首日开挂

4.比什凯克的电动驾车公共交通车首后天就撞车

左手那些汽车,被一辆货车转撞了,即便权利在大货车,但显著汽车不够聪明

波尔多一辆电动驾车公共交通车在十六月亮相,当时资深魔术师Penn·Taylor也排队等待坐了那辆车。但是在七个小时后,公共交通车就被一辆大货车撞上了。就算从技术上来说,公交车没有职责,是大货车的题材,可是这辆车上的游客埋怨,当卡车逐步接近的时候,公共交通车不够聪明,根本没有别的躲避的动作。

那辆巴士就被一辆货车撞上了。尽管从技术上来说,这起事故并不是巴士的负担,而警方提审了送货卡车司机,不过在那辆智能巴士上的旅客抱怨道,当卡车逐步接近的时,它不够智能而望洋兴叹解脱危险。

5. 谷歌 Allo 使用头巾回应枪支表情

枪的唤醒回复:穆斯林

花旗国有线电台的一个人工作职员使用 谷歌 Allo(Google的一款即时通信软件)时,发现对方假诺发来1个枪的神情,软件推荐回复的神色是
bad、刀和戴头巾的人(穆斯林?)。这一个题材比较为难,谷歌(Google)霎时向公众保证已经化解了那几个难点同时公布道歉。

谷歌(Google) Allo使用头巾表情符号来回应枪支表情

6.双胞胎游戏汇丰银行语音识别 VoiceID

双胞胎成功破解语音识别

汇丰银行的语音识别 VoiceID 是二个语音 AI
安全系统,允许用户通过语音访问账户。汇丰声称它和指纹 ID 一样安全,不过BBC 记者和他双胞胎兄弟却模仿互相的声音成功访问了对方账户,只用了 陆次尝试就成功了。汇丰登时推出了消除方案:尝试一遍破产之后就锁定账户。(???)

双胞胎骗过汇丰语音ID的技术

7. 谷歌(Google) AI 把步枪指认为直接升学机

谷歌(Google) AI 把枪认成直接升学机

宾夕法尼亚州立二个研究小组通过微调步枪的图纸,欺骗了 谷歌(Google) Cloud Vision
API,让 AI
把步枪判定为直升机。他们选取的法子是「不良样本」,给电脑引入一些人眼不能察觉的修改来对图像举办不当的归类。在过去,须求知道对象总括机类别的主导机制,那招才能立见效率。不过此次哈佛学院协会在未曾博得系统音信的情况下,就成功的触及了错误分类。

谷歌(Google) AI将步枪误判为直接升学机

8.用站牌戏耍自动驾乘小车

把停车牌认成限制速度45

商讨人口发现,通过利用油漆如故胶带,修改结束标志,能够成功的尔虞笔者诈自动驾车小车,使之实行不当的授命。比如把「LOVE」和「HATE」那三个词放在「STOP」标志上,就成功欺骗了全自动开车小车的机械学习类别,在测试中有所的车都把其误认为「限速45」(Speed Limit 45)的申明。

路牌黑客技术愚弄了全自动开车小车

9. AI 识色系统种种混乱的同盟

把颜色相配各类意料之外的名字

机器学习商量人口 Janelle Shan
操练了二个神经互联网,以发出新的油漆颜色以及能够「匹配」每个颜色的名目。发生新颜色很顺遂,但相当名字大约是车祸现场。就算在用颜色名称数据举行少量磨练未来,该模型还是将湖紫灰标记为「黑褐耻骨」,将墨浅蓝标记为「严酷绿蓝」,将深粉标记为「银行屁股」。

经过应用油漆或胶带小心制作交通甘休标志,他们得以欺骗自动驾车汽车对那个标志举办误分类。用“爱”和“憎恨”那五个词修饰的停车标志,欺骗了一辆自开车的机器学习体系,在100%的测试用例上将其误认为是“限制速度45”的标志。

10.有了 亚历克斯a 要如何圣诞老人

小女孩对语音帮手说:小编超爱您。然后语音助手就下单了

亚马逊 亚历克斯a
语音助手协理大家提升了购物体验,让买东西变得格外简单。可是有时候过于简短了,2017
年 1 月,一个小女孩用跟 亚历克斯a
说本身想要个玩具房子和一罐曲奇,当时小女孩的原话是「你能够给本人一个玩具屋并和本身一块玩么?」。然后小女孩又说「作者超爱您」。然后
亚历克斯a 就下单了,第②天 170
法郎的玩具屋和一罐曲奇就送到了家里,当然是他阿妈买单。未来他老母设置了密码,不能够语音直接买了。(sad。。。)

如上正是 10 个 2017 年的 AI 退步案例。

英文原来的作品:Synced | 2017 in Review: 10 AI
Failures

旧文推荐:
近来的人为智能和人类相比较处于什么样程度?
2018
年人工智能的三大趋势:心绪、数据、道德


**@园长:还可以吧,不算太失利,其实有更战败的,比如明天印度布宜诺斯艾Liss的电动驾乘动车撞墙,幸而没人士伤亡。今后看来
AI
发展还算优异,相关人才也十一分缺少,入坑要趁早。此外最近搞了个「活动」,参预就有奖,白送一样,写看极光晚报的观后感都行

AI想象“Bank Butt”颜色的日落景象

向虚拟帮手亚历克斯a提问,被再次购物

https://syncedreview.com/2017/12/23/2017-in-review-10-ai-failures/