欺騙計算機視覺軟體越來越容易？一個紙片就搞定！

矽谷Live / 實地探訪 / 熱點探秘 / 深度探討

一張紙片，香蕉秒變烤箱！

如果你想要嘗試欺騙一下 AI 視覺系統，這篇文章介紹的這些小紙片可以幫不少忙。

很長一段時間，計算機科學家都在嘗試生成可以欺騙AI的特殊圖像。這些圖畫或是形狀被稱為「對抗性圖像」，它們可以利用計算機看世界的弱點來進行攻擊。你可以將他們想成一種錯覺，一種 AI 的錯覺。它們可以被製成眼鏡來欺騙面部識別系統，也可以被列印成真實物體，而現在，谷歌的研究者們將他們縮小成了一塊紙片。

日前，谷歌研究人員發布了一篇記錄這些紙片發明過程的論文。雖然這算不上標誌一個新技術天翻地覆的分水嶺，但也是對抗性圖像技術的一個重要突破。這些圖像不僅可以在世界各地被列印出來，還非常的靈活。不像其他對抗性攻擊，他們不需要附著在被識別的圖像上面，研究人員也不需要小心調整他們在圖像中的位置。在展示的視頻中，研究人員輕鬆將香蕉變成了一隻烤箱。

研究者們在論文中寫到，這些紙片「允許攻擊者在對實際亮度，攝像機角度，真實事物的標籤，甚至是旁邊還有沒有其他物體都不知情的情況下進行攻擊。」所以，當這樣的圖像被生產之後，「它可以被上傳在網路上，供所有攻擊者列印使用。」

這就是為什麼很多人工智慧研究者擔心這樣的攻擊會被運用到無人車運行系統中。想像一下這樣一個小紙片就可以讓你的座駕以為自己識別到了一個減速標記，或者可以讓你的車子在人工智慧監督系統中消失。「即使人們可以看到這些紙片，他們也無法知道它們究竟有什麼功能。」

還好，現階段我們還不需要擔心這樣的攻擊。雖然對抗性圖像可以非常有效，他們並不是對所有 AI 系統都一樣有效。這篇論文中的谷歌研究者花費了很長的時間來製作這樣的圖像，而且知道他們想要攻擊的視覺系統的代碼。但這一研究仍然顯示出類似攻擊正在變得越來越靈活和有效。而這一切只是個開始。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！