UnifyID的研究人員使用神經網路生成風格化圖像擾亂API識別

AiTechYun

編輯：chux

肉眼可以相對容易地將貓的圖片與迷惑人的版本連接起來，但這對於現成的計算機視覺API並非總是如此。在CVPR會議上，來自UnifyID的研究人員證明，貓科動物的風格化照片欺騙到Watson的物體識別工具概率超過97.5%。

研究人員使用了一個神經網路，Magenta是Google Brain團隊開發的一個開源TensorFlow研究項目，可以生成歌曲，圖像和繪圖，將貓的圖片轉化為立體派和畢加索式的創作。

GIF

一開始，計算機視覺演算法在識別不同品種，毛皮長度和顏色的貓時沒有困難。當樣式轉換演算法的插值權重設置在0（原始圖像）和0.1（輕微程式化圖像）之間時，機器學習演算法以高置信度（97-99％）將圖像分類為「貓」。但是隨著研究人員開始推測插值，圖片變得越來越後印象化，演算法的猜測從「貓」，「貓科動物」，「食肉動物」變成了「玻璃紙」，「飛蛾」和「無脊椎動物」。

「雖然這兩幅圖像肉眼難以區分，但分類器為這兩幅圖像指定的標籤結果卻大不相同，」UnifyID的首席機器學習科學家Vinay Prabhu在一篇文章中寫道。

IBM Watson的標籤預測

在第二次更大規模的測試中，使用從Kaggle Dogs and Cats數據集中隨機選擇的200張貓咪圖像，研究人員在通過Watson Visual Recognition API運行之前應用了樣式轉換。結果，演算法壓倒性地將貓識別為「瘋狂的被子」，「迷彩」，「馬賽克」和「拼湊圖」。

Prabhu說：「目標不是宣布新的攻擊黑匣子方法或者反對使用商業API。除了展示將樣式轉換視為對抗性示例生成技術的潛力之外，我們還希望引起人們關注圍繞定義構成圖像類別或標籤的內在模糊性，以及是什麼導致了圖像的錯誤分類。」

這不是研究「對抗性干擾」或者是為了欺騙計算機視覺演算法的第一個例子。2017年10月，九州大學和麻省理工學院的研究人員演示了一種改變圖像中單個像素的演算法，導致AI對對象進行錯誤分類。而在去年12月，麻省理工學院的學生成功欺騙了Google的Cloud Vision服務，將狗的圖像識別為「滑雪者」。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！