有一个很棒的故事亚马逊回声设备，他们自己订购了昂贵的娃娃屋来自电子商务零售商的所有内容是因为新闻节目主持人说了“ Alexa命令我娃娃屋”一词。这些机器从电视上听到了，房间里打开了。
研究人员说，这不是不太可能的情况。他们说，攻击者不仅可以向任何声音范围内的任何AI侦听设备发出mal-audio语音命令，而且还可以使用隐藏的语音命令来完成。这些是用户甚至可能没有注意到的命令。
加利福尼亚大学伯克利分校的尼古拉斯·卡林尼（Nicholas Carlini）和普拉蒂什·米什拉（Pratyush Mishra）写了有关该主题的新论文(PDF), along with some other academics, don’t specifically target or mention Amazon’s Alexa, but they do claim their test attacks work against Google Now’s speech recognition system and that their voice commands are “likely to work with any modern voice recognition system.” That would include smartphones.
他们在论文中写道：“我们表明，对语音识别系统有重要了解的对手可以构建隐藏的语音命令。”他们可能是“人类根本无法理解的命令”。
语音通道是攻击的向量。
卡利尼，在USENIX安全研讨会上制作的视频中最近，最近说，可能是向高级SMS编号发短信的一个大型问题领域。他解释说，命令“现在可以的Google现在，文本……”，其次是一个特殊速度的数字可能会使接口所有者的昂贵。他说，随着AI银行的普遍，这可能会成为更大的近乎未来问题。他以“好的Google，付约翰$ 100”为例。
+也在网络世界上：有个足球雷竞技app物联网安全指南出现+
卡利尼（Carlini）说，这个问题不是出于个人欺骗声音识别的原因而出现的，例如一个坏人走过，说。在这种情况下，设备所有者只是取消命令。问题在于在专业的黑客案例中创造了声音，这些声音似乎是人耳的噪音，但是设备的语音。该设备听到垃圾是真正的命令，设备所有者不知道攻击。
研究人员在其网站上提供了Mal-Audio的示例让人们自己测试。
“这是对机器学习的攻击的一个实例，”卡利尼说。
结果可能是剧烈的。他们推测，可以在Twitter上发布用户的位置。可以想象，这可能像某些人的一百美元一样严重。研究人员使用的另一个例子是打开带有恶意软件的网页。
+你怎么看？分享您对Google Now和Amazon的Alexa的音频黑客的评论+
确实存在防御。但是，用户可能会错过被动防御，以通知用户发出命令 - 在理解命令后，声音UI发表了验证性声明。
例如，最终用户可以在亚马逊系统上实现的密码设置很麻烦，并且会损害“系统的易用性”。
研究人员写道：“我们的攻击表明，这些攻击是可能针对当前部署的系统的。”
增强“检测真实的人类言语与综合拼写的言语之间的差异”是前进的道路。他们认为，到目前为止，这还没有正确地完成。