人工智慧研究的新前線：生成式對抗網路

生成式對抗網路 (Generative adversarial networks, GAN) 是當前人工智慧學界最為重要的研究熱點之一. 其主要思想是設置一個零和博弈, 通過兩個玩家的對抗實現學習. 博弈中的一名玩家稱為生成器, 它的主要工作是生成樣本, 並盡量使得其看上去與訓練樣本一致. 另外一名玩家稱為判別器, 它的目的是準確判斷輸入樣本是否屬於真實的訓練樣本. 一個常見的比喻是將這兩個網路想像成偽鈔製造者與警察. GAN的訓練過程類似於偽鈔製造者儘可能提高偽鈔製作水平以騙過警察, 而警察則不斷提高鑒別能力以識別偽鈔. 隨著GAN的不斷訓練, 偽鈔製作者與警察的能力都會不斷提高.

圖 1 生成式對抗網路

相比以往的生成模型, GAN模型具有以下幾點明顯的優勢: 一是數據生成的複雜度與維度線性相關, 對於較大維度的樣本生成, 僅需增加神經網路的輸出維度, 不會像傳統模型一樣面臨指數上升的計算量; 二是對數據的分布不做顯性的限制, 從而避免了人工設計模型分布的需要; 三是GAN生成的手寫數字, 人臉, CIFAR-10等樣本較VAE, PixelCNN等生成模型更為清晰.

圖 2 GAN與傳統方法的數據填補效果 [3]

圖 3 iGAN的生成樣例 [4]

GAN突出的生成能力不僅可用於生成各類圖像和自然語言數據, 還啟發和推動了各類半監督學習和無監督學習任務的發展. 結合GAN, 研究者在數據填報, 圖像翻譯, 數據合成, 模仿學習等諸多方面取得了突破性的進展.

圖 4 圖對圖翻譯 [5]

圖 5 使用GAN合成數據訓練機械臂 [6]

然而, 原始GAN模型也存在許多問題, 包括收斂困難, 無法生成離散數據, 難以評價等. 本文對GAN近年來的發展進行了綜述, 對GAN在生成機制, 判別機制兩方面的改進進行了介紹, 並梳理了其應用領域. 在此基礎上, 本文還探討了GAN與平行思想的關係.

圖 6 本文組織結構

參考文獻

[1] I. Goodfellow et al., 「Generative adversarial nets,」 in Advances in neural information processing systems, 2014, pp. 2672–2680

[2] I. Goodfellow, 「NIPS 2016 Tutorial: Generative Adversarial Networks,」 arXiv:1701.00160 [cs], Dec. 2016(arXiv: 1701.00160)

[3] S. Iizuka, E. Simo-Serra, and H. Ishikawa, 「Globally and locally consistent image completion,」 ACM Transactions on Graphics, vol. 36, no. 4, pp. 1–14, Jul. 2017

[4] J.-Y. Zhu, P. Kr?henbühl, E. Shechtman, and A. A. Efros, 「Generative Visual Manipulation on the Natural Image Manifold,」 in European Conference on Computer Vision, 2016, pp. 597–613

[5] P. Isola, J.-Y. Zhu, T. Zhou, and A. A. Efros, 「Image-to-image translation with conditional adversarial networks,」 arXiv preprint arXiv:1611.07004, 2016

[6] K. Bousmalis et al., 「Using Simulation and Domain Adaptation to Improve Efficiency of Deep Robotic Grasping,」 arXiv:1709.07857 [cs], Sep. 2017(arXiv: 1709.07857)

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！