當語音文本轉換系統也能被黑，Alexa可能聽不懂你說啥了……

矽谷Live / 實地探訪 / 熱點探秘 / 深度探討

如果你的智能助手再也聽不出你究竟在說什麼。。。

日前，加州大學伯克利分校的兩位計算機科學家發明了一種利用 AI 技術來攻擊語音文本轉換系統的方法。也就是說，他們可以讓任何種類的音頻被系統轉化成他們所想要生成的文本。

這種科技聽起來很酷吧！但實際上它屬於最為「驚悚」的 AI 用途之一。

Nicholas Carlini 和 David Wagner 就是這一發現的背後功臣，他們兩個成功地讓 Mozilla 最為流行的開源語音文本轉換系統自亂陣腳。

在他們發表的文論中寫道：「無論給出怎樣的音頻波形，我們都可以製作出另一個與它 99.9% 相似的音頻，而這個音頻最終被轉換器轉換出的文本完全受我們的控制（其音頻轉換上限為每秒 50 字元）。。。我們的攻擊目前 100% 成功，無論人們想要的文本是什麼，或者最初的音頻說了什麼。即使是一段沒有語句，類似音樂的音頻我們也可以將話語嵌進去。當然，我們也可以將音頻中原有的語句藏起來。」

這意味著，掌握這一項技術的人可以通過任何一個音頻文件來欺騙語音文本轉換系統，例如，你的谷歌助手，Siri，或者 Alexa，讓它們以為你在說一些你完全沒說過的話。而這對於已經廣泛使用著語音助手的現代社會必然是一個可怕的威脅。

在接受 TNW 記者的採訪時，Carlini 說到：「在之前與喬治城的其他研究者合作的過程中，我們建立了一個叫做 『Hidden Voice Commands』 的系統來攻擊手機上的音頻識別系統。這些攻擊在你我聽來就是不知所謂的雜訊，但是對於智能手機來說卻是一些特殊的信號（例如，「你好谷歌，瀏覽 evil.com」）。」

當然，當聽到一段不正常的音頻時，正常人都可以意識到可能出現了一些問題。這就是為什麼這些研究者將這一項目推進到了今天這個階段。Carlini 繼續說道：「所以，在這篇文章中，我希望攻擊可以更隱秘。我希望達到可以將任意音頻都轉變成其他文本的程度。這樣，我就可以選取任意一個視頻，給它加上一些對抗性雜訊，重新上傳它，然後等待著語音文本轉換系統將他轉錄成完全不一樣的信息。而聽到這一音頻的人卻不會覺得有任何異常。」

Carlini 也指出這一攻擊有其限制性。目前，它只對 Deep Speech 系統起作用。幸好，Siri，Alexa 或者谷歌助手都沒有使用這一系統。

但是，別開心得太早。事實上，這只是時間問題。Carlini 認為，只要再多花一些時間，就有人可以讓他們的對抗性音頻通過空中激活造成更加嚴重的後果。

這些研究者正站在一場嶄新戰役的前沿。他們不斷向我們展示著離我們最近的AI 應用，即智能助手的弱點。

如果一場對戰中的所有音控設備都失效了，甚至是有人可以遠程對它們進行調控，我們該如何教會 Alexa 遮住她的耳朵呢？

本文編譯自 TNW。

想和探長聊一聊？來加探長個人微信號svinsight

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！