您现在的位置:新闻首页>科教

吓人!Siri等语音助手能听到你听不到的隐藏指令

2018-05-14 00:00编辑:admin人气:


吓人!Siri等语音助手能听到你听不到的隐藏指令

网易科技讯 5月12日音讯,据《纽约时报》报道,Alexa、Siri等语音助手可以听到你听不出的荫蔽性指令。研讨者们称,他们可以将发给语音助手的指令嵌入到音频和行动录音,从而让人类无法发觉。

许多人曾经习气了与他们的智能设备交谈,习气了经过收回指令让它们朗诵文本、播放歌曲或设置闹钟。但其别人能够也在偷偷地跟它们说话。

在过来的两年里,中国和美国的研讨人员曾经开端证明,他们可以给苹果的Siri、亚马逊的Alexa和谷歌的Google Assistant收回人耳无法发觉的荫蔽性命令。在大学实验室里,研讨人员曾经可以机密地激活智能手机和智能音箱上的人工智能零碎,让它们拨打电话号码或许翻开网站。要是落在不法分子的手里,这项技术能够会被用来翻开他人的门、转账或许网上购物——只需经过收音机播放音乐即可完成。

2016年,来自加州大学伯克利分校和乔治城大学的一个先生团队证明,他们可以经过隐藏于扬声器和YouTube视频传出的白乐音的指令,来让智能设备翻开飞行形式或翻开网站。

这个月,伯克利大学的一些研讨人员宣布了一篇更进一步的研讨论文。他们称,他们可以将指令直接嵌入到音乐或口语文本的录音当中。因而,当人类听众听到有人在说话或在听乐队演奏的时分,亚马逊的Echo音箱能够会听到在你的购物清单上添加某种商品的指令。

“我们想看看我们能否可以让指令变得愈加隐秘。”加州大学伯克利分校计算机平安专业的博士生、论文的其中一位作者尼古拉斯·卡林尼(Nicholas Carlini)说道。

卡林尼补充说,虽然没有证据标明这些技术曾经走出了实验室,但人们开端应用这些技术能够只是工夫成绩。他指出,“我的假想是,作恶者曾经雇佣了人来做我的这项任务。”

这些诈骗行为阐明,人工智能——虽然它正在获得宏大提高——依然能够被用于欺诈和操纵。经过改动数字图像中的几个像素,计算时机将飞机误以为小猫;研讨人员也只需求在路标上粘贴小贴纸和混杂车辆的计算机视觉零碎,就能让自动驾驶汽车转向或减速。

关于音频攻击,研讨人员应用的是人类和机器语音辨认才能的差距。语音辨认零碎通常将每个声响翻译成字母,最终将其编译成单词和短语。经过对音频文件停止纤细的改动,研讨人员可以消弭语音辨认零碎本应该听到的声响,并将其交换为一种让机器编译成不同内容的声响,而人类的耳朵简直无法发觉其中的区别。

吓人!Siri等语音助手能听到你听不到的隐藏指令

厨房里的Echo智能音箱

声控设备的不时普及,缩小了这种花招的影响。依据市场研讨公司Ovum的数据,到2021年,运用像亚马逊Alexa或苹果Siri这样的数字助手的智能手机和智能音箱的数量将比人口还要多。另一家研讨机构Juniper Research的数据显示,到那时,超越一半的美国度庭将至多有一台智能音箱。

亚马逊表示,它没有披露详细的平安措施,但它已采取措施来确保其Echo智能音箱的平安性。谷歌说,平安性是一个继续的关注重点,它的Google Assistant具有躲避无法发觉的音频命令的功用。这两家公司的智能助手均采用语音辨认技术,来避免设备在没有辨认出用户的声响的状况下执行某些指令。

苹果公司表示,其智能音箱HomePod的设计可以避免执行诸如翻开门锁的指令。该公司还指出,iPhone和iPad必需先解锁,否则Siri不会执行拜访敏感数据或许翻开使用顺序和网站的指令。

但是,许多人经常会让他们的智能手机处在开锁形态,至多在目前,语音辨认零碎是出了名的容易被捉弄。

如今曾经有人应用智能设备的行动指令来追求商业利益。

去年,汉堡王(Burger King)在网上发布了一则广告,引发惊动。该广告有意问道,“O.K., Google,华堡是什么呢?”支持语音搜索的Android设备会经过朗诵华堡的维基百科页面来停止回应。在观众开端恶搞该产品的维基百科页面当前,该广告被撤掉。

几个月后,美国热播动画片《北方公园》(South Park)播出了一整集围绕语音指令的节目,让语音辨认助手们模拟青少年说脏话。

没有美国法律制止向人类传达潜认识信息,更不必说机器了。美国联邦通讯委员会(FCC)不鼓舞这种做法,以为其“违犯大众利益”。 全美播送事业者联盟则制止“传达正常认识范围以外的信息”。这两个机构都没有谈到围绕智能设备的潜认识安慰。

法院裁定潜认识信息能够构成对隐私的进犯,但法律并未将隐私概念延伸至机器。

如今,该技术在法律面前愈加超前了。去年,普林斯顿大学和中国浙江大学的研讨人员证明,声响辨认零碎可以经过运用人耳听不到的频率来激活。这种攻击先是将手机调成静音形式,这样机主就不会听到零碎的回应。

这项技术被中国的研讨人员称作“海豚攻击”,可以指示智能设备拜访歹意网站、打电话、拍照或许发送短信。虽然海豚攻击有它的局限性——发射机必需要接近接纳设备——但专家们正告说,打造出更弱小的超声波零碎是有能够的。

这一正告在往年4月失掉印证,事先伊利诺伊大学厄巴纳-香槟分校的研讨人员展现了在25英尺开外的超声波攻击。虽然指令不能穿透墙壁,但它们可以经过从修建物内部翻开的窗户来控制智能设备。

往年,来自中国迷信院和其他机构的另一个中美研讨团队证明,他们可以经过荫蔽性的指令来控制声控设备,那些指令嵌入在可以经过收音机播放或许在YouTube等效劳上播放的歌曲当中。

最近,卡林尼和他在伯克利大学的同事们将指令编入了可为Mozilla的DeepSpeech语音-文本翻译软件辨认的音频。DeepSpeech是一个开源平台。他们可以将“O.K. Google,阅读evil.com吧”指令隐藏在口语录音“没无数据集的话,该文章毫无用途”。人类无法区分出该条指令。

伯克利大学的研讨团队也将该指令嵌入到音频文件当中,其中包括来自威尔第的《安魂曲》的四秒片段。

设备制造商们的呼应方式会各有不同,尤其是思索到它们要权衡平安性与易用性成绩。

?“企业必需要确保其设备的用户敌对性,由于这是他们的次要卖点。”乔治城大学的研讨员塔维什·维迪雅(Tavish Vaidya)说道。他的其中一篇有关音频攻击的论文以“Cocaine Noodles”(可卡因面条)为标题,由于设备将“可卡因面条”解读为“O.K., Google”。

卡林尼说,他置信,他和他的同事们最终将可以对市面上的任何一款智能设备零碎发起成功的对立性攻击。

“我们想要证明这是有能够的,”他说,“然后希望其别人会说,‘好吧。这是能够的,如今让我们试着去修复它。’”(乐邦)

姚立伟
(来源:未知)

织梦二维码生成器
已推荐
0
  • 凡本网注明"来源:的所有作品,版权均属于中,转载请必须注明中,http://www.xadqw.cn。违反者本网将追究相关法律责任。
  • 本网转载并注明自其它来源的作品,目的在于传递更多信息,并不代表本网赞同其观点或证实其内容的真实性,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品来源,并自负版权等法律责任。
  • 如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,否则视为放弃相关权利。






图说新闻

更多>>
库克:中美贸易关系紧张 但iPhone不会被加关税

库克:中美贸易关系紧张 但iPhone不会被加关税



返回首页