「視頻」安全研究人員提醒AI助理需謹防人耳聽不到的「海豚攻擊」

中美研究人員已經驗證了一種可向 Siri 等 AI 助理髮出「隱藏式攻擊命令」的方法，因其採用了人耳察覺不到的音頻，從而強迫智能助理執行非機主下達的惡意命令。《紐約時報》指出，如果被別有用心的人得逞，這種攻擊手段可用於撥打電話、打開網站、甚至更糟糕的事情。根據來自加州、伯克利、以及喬治城大學的學生團隊在本月發表的一篇研究論文，他們甚至可以將惡意命令嵌入音樂錄音或口述文本中。

當在亞馬遜Echo 或蘋果iPhone附近播放時，普通人只能聽到單純的歌曲或語音。但智能設備能夠撿拾起一條潛在的指令，比如向購物車中添加一些東西。

往更危險的層面去講，惡意攻擊者可以下達鎖門、卷錢、或購買線上商品等操作 —— 儘管在通常情況下，為了不引起事主的注意，事情都是靜悄悄地進行、涉及金額也不會太大。

然而論文作者之一、來自加州大學博客利分校的五年制計算機安全博士生 Nicholas Carlini 堅信，或許早已有惡意攻擊者實施過類似的技術：

我們想要知道自己是否能夠讓它變得更加隱秘，雖然沒有證據表明這些技術已經跑出了實驗室，但它被人利用只是時間的問題。我的的猜測是，惡意攻擊者早已僱人干過我提到的事情。

Dolphin Attack_ Inaudible Voice Command（via）

去年的時候，美國普林斯頓和中國浙江大學的研究人員們已經執行過類似的測試，證明了 AI 助理可以通過不被人耳所聽到的音頻給激活。

如上方的「海豚攻擊」演示視頻所示，研究人員打造了一台可以下達隱藏命令的發送器，並順利地讓手機執行了撥打特定電話的操作（另有拍照和發送簡訊等測試）。

當然，海豚攻擊的範圍是有限的，因為攻擊者必須足夠接近接受設備。

[編譯自：MacRumors]

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！