新式隱身術：只要在肚子上貼一張圖片，AI就當你不存在

來源丨量子位（ID：QbitAI）

作者 | 栗子

有沒有過一個瞬間，你恨不得自己變成一團空氣？

物理上做不到，真是遺憾。

但現在，你可以在AI面前練成「隱身術」，只要在肚子上貼一張圖片。

雖然肉眼看得到你在揮手，目標檢測演算法已經當你不存在了：

YOLOv2被騙了

劃重點，是隱身不是變身，AI沒有把你識別成其他物件，是全然忽視你的存在，只看到旁邊的兄弟。

如果，你想把隱身術傳給小夥伴，把「隱身衣」遞給他就好了：

這下，AI終於看出了你的身型，小夥伴就成了空氣。

被騙的這隻AI是目標檢測界的翹楚YOLOv2。騙它的兩位少年，來自比利時魯汶大學。

如此一來，是不是就能逃過智能監控系統，潛入某個空間，做奇怪的事情也不被察覺……人類真危險。

谷歌大腦的科學家David Ha安利了這篇研究，已有4,200多人類盛情點贊，大膽的想法也接二連三。

未來，是賽博朋克的未來

「什麼時候印成T恤啊？」

「對啊對啊，衛衣更好。」

不過，在圖片變成衣服的印花之前，還是先來看看圖上有什麼玄機。

這不是「烏龜變步槍」

大家可能早就聽過，烏龜變步槍的故事。

悄悄改動烏龜身上的紋路，人類看起來依然是烏龜，AI卻認成了步槍：

這樣的欺騙，就是著名的對抗攻擊(Adversarial Attacks) 。

比利時少年的隱身術，也是一種對抗攻擊，但和前輩們非常不同。

最主要的差別在於，人類和從前那些加了紋理的物體 (比如停車標誌) 不一樣：雖然每個人都是人，但個體之間差異很大。

停車標的個體差異，很小很小

在這樣多變的情況下，少年們依然成功生產出了通用的對抗圖像，並非針對某個人類而設計，穿在誰身上都有隱身功效，YOLOv2看不到。

他們用了三步的優化 (Optimization) ，來解決這個問題：

·首先要保證，定製的紋理圖列印出來還能被AI捕捉到。如果紋理用到了許多列印不出的顏色，就不太樂觀了。所以，要測量一個「不可列印」的分值。

·第二要保證，定製紋理圖上的顏色過度平滑，避免噪點過多。所以，需要測量一張圖像的總變化值 (Total Variation) ，任意兩個像素的色彩越相近，這個值就越小。

·第三最重要，就是讓YOLOv2看不出人來。也就是讓AI給出的分類結果，分值降低，變成不太確定的分類。

那麼問題來了，怎麼才能讓AI的檢測便得不自信呢？

這和YOLOv2的工作原理有關：它會輸出一個目標存在感 (Objectness) 的分值，和一個類別 (Class) 的分值。

而團隊的目標，一是要降低「人類」這個類別的分值，二是不能讓其他類別的分值超過「人類」。

比如，一個數據集里有「泰迪熊」這個類別，而另一個數據集里沒有。如果是「泰迪熊」的分值超過「人類」，就沒辦法推廣到另外的數據集里去了。

最終，團隊沒有選擇降低「人類」的分值，而是直接降低了目標的存在感(Objectness) 。這樣，就不會有其他類別取代「人類」了。

你看，如果想屏蔽街上的情侶：

炫彩的對抗貼紙，就是直接降低存在感的結果，從幾種方式中脫穎而出，把識別人類的準確率降到了26%。

開頭展示的，把隱身衣直接穿在身上，比貼在視頻里的隱身難度更大，但依然成功了：

隱身T恤雖好，但以後可能就不用穿衣服，有全息投影的服裝了喲，谷歌大腦的研究員說。

如果你還有什麼偉大的想法，有開源代碼在這裡，自己生成對抗圖像：

https://gitlab.com/EAVISE/adversarial-yolo

論文傳送門：

https://arxiv.org/abs/1904.08653

果殼

ID：Guokr42

整天不知道在科普些啥玩意兒的果殼

我覺得你應該關注一下

別隱身了，先點個「在看」吧

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！