Ian Goodfellow 最新論文：對抗重編程成功干擾神經網路執行任務

自從 2013 年以來，深度神經網路在各方面得到了廣泛應用，甚至在某些方面達到可以匹配人類的性能，比如人臉識別。但是，也有人曾提出方法對神經網路進行干擾。例如在計算機視覺領域，僅需對圖片加以一定的擾動，就可以使神經網路分類錯誤，甚至把圖片分類到一個原本不存在的標籤。隨著計算機視覺在人臉識別、自動駕駛等領域的廣泛應用，這種干擾會造成巨大的危害。

近期，Ian Goodfellow、Gamaleldin F. Elsayed 等人發表了一篇文章：Adversarial Reprogramming of Neural Networks，文章中提出了一種更強的干擾神經網路方法，該方法可以將神經網路對抗重編程（adversarial reprogramming），使神經網路放棄原本的任務而執行攻擊者指定的任務。文章中成功將 ImageNet 分類模型改成了計數模型、手寫數字識別模型和 CIFAR-10 分類模型。

圖|對抗重編程：(a) ImageNet 任務標籤與方格計數任務標籤的對應關係 (b) 將計數任務的圖像通過對抗重編程嵌入到新圖像的中央，使得 Inception V3 網路執行計數任務 (c) 網路輸入了新的圖像，並輸出了 ImageNet 的標籤，再將該標籤對應到計數任務的標籤

論文中的對抗重編程對網路的輸入進行處理。與大多數對抗性擾動不同的是，對抗重編程不是針對一張圖像的處理，而是所有圖像都可以用同樣的對抗重編程。

為了證明對抗重編程的可行性，論文對訓練過的 ImageNet 分類器進行對抗重編程，以執行計數、手寫數字（MNIST）分類和 CIFAR-10 分類任務。各項任務的準確率如下：

同時，實驗還研究了對抗重編程上在未經訓練的神經網路和經過訓練的神經網路上的效果差異，結果證明，對抗重編程在未經訓練的網路上效果較差，下表給出了在 MNIST 任務上的準確率：

由此說明，經過訓練的神經網路更容易受到對抗重編程的影響，這表明了對抗重編程可以重新利用原網路學習到的特徵。這種改變網路的輸入而非讀出權重的方式可以被視作一種新形式的遷移學習。

論文的結果表明，神經網路的動態重用應該是可行的，這有希望使機器學習系統更簡單、更靈活、更高效地被重用。確實，近期機器學習方面的研究也關注到了使用可重用組件建立大型動態連接的網路。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！