GAN提出者Ian Goodfellow的專題報道

通過將神經網路相互對立，Ian Goodfellow創造了一個強大的人工智慧工具。現在他和我們其他人必須面對後果。

在過去的幾年裡，人工智慧研究人員使用一種叫做深度學習的技術取得了令人印象深刻的進展。提供一個有足夠圖像的深度學習系統，它會學習，比如說，識別一個即將穿越馬路的行人。這種方法使得自動駕駛汽車、驅動Alexa、Siri和其他虛擬助手的對話技術成為可能。

但是，雖然深度學習可以學會識別事物，但並不擅長創造它們。GANs的目標是給機器一些類似於想像的東西。

這樣做不僅能讓他們畫畫或作曲，這將使他們減少對人類的依賴，指導他們了解世界及其工作方式。今天，人工智慧程序的程序員們經常需要告訴機器，在訓練數據中到底是什麼東西——一百萬張圖片中哪個有行人過馬路，哪個沒有，不僅成本高，而且勞動密集，它限制了系統處理那些哪怕只是稍微偏離了它所接受的訓練的情況。在未來，電腦將會更好地消化原始數據，並在不被告知的情況下計算出他們需要學習的內容。

這將標誌著人工智慧「無監督學習」的大躍進。自動駕駛汽車可以在不離開車庫的情況下自學許多不同的道路狀況。機器人可以預見在繁忙的倉庫中可能遇到的障礙，而不需要繞過它。

我們想像和思考許多不同情景的能力是我們人類的一部分。當未來的科技歷史學家回顧過去時，他們很可能會將GANs看作是創造具有人類意識的機器的一大步。Facebook的首席人工智慧科學家Yann LeCun把GANs稱為「過去20年里在深度學習中最酷的想法」。另一位AI大咖，百度前首席科學家Andrew Ng說，GANs代表著「一個重要的和根本性的進步」，這激發了一個不斷壯大的全球研究者群體……也許同樣令人驚訝的是，他發現了這一發現後，現在大部分時間都用來對付那些想用它作惡的人。GANs的魔力在於兩個神經網路之間的競爭。它模仿了一個名畫偽造者和一名藝術偵探之間的反覆嘗試，他們反覆地試圖互相欺騙。這兩個網路都是在相同的數據集上進行訓練的，第一個被稱為「生成器」的系統，負責生產像照片或手寫這樣儘可能逼真的人工輸出。第二種，被稱為鑒別器，將這些與原始數據集的真實圖像進行比較，並試圖確定哪些是真實的，哪些是假的。在這些結果的基礎上，生成器調整其參數以創建新的圖像，直到甄別者不能分辨真假。

去年，在一個廣為宣傳的例子中，晶元公司英偉達(Nvidia)的研究人員對人工智慧進行了大量投資，通過研究真實的明星，訓練了一個GAN，以生成虛構名人的照片。並不是所有的虛構明星都是完美的，但有些是非常現實的。與其他需要成千上萬訓練圖像的機器學習方法不同，GANs可以用幾百張圖像訓練得很好。

這種想像力的力量仍然有限。一旦它接受了很多狗狗照片的訓練，一個GAN就能產生一個令人信服的狗的假像，它有一個不同的斑點圖案，但它不能想像一個全新的動物。原始訓練數據的質量對結果也有很大的影響。在一個生動的例子中，一個GAN開始用隨機字母組合成圖像的貓的圖片。因為訓練數據中包含了來自互聯網的貓的圖片，這台機器自學到貓這個詞意味著貓的描述的一部分。

讓GANs工作得好是件棘手的事。如果出現故障，結果可能會很奇怪。

華盛頓大學的機器學習研究員Pedro Domingos說，GANs也喜怒無常。如果鑒別器太容易被愚弄，生成器的輸出看起來就不現實。而且，對兩種對抗神經網路進行校正是很困難的，這也解釋了為什麼GANs有時會吐出一些奇怪的東西，比如有兩個頭的動物。

不過，這些挑戰並沒有讓研究人員卻步。自從Goodfellow和其他一些人在2014年發表了第一個關於他的發現的研究之後，已經有數百篇與GAN相關的論文被寫出來了。該技術的一個粉絲甚至創建了一個名為「GAN zoo」的網頁，專門用來跟蹤已經開發的各種版本的技術。

最明顯的直接應用是在涉及大量圖像的領域，比如視頻遊戲和時尚:比如，遊戲角色可能會在雨中奔跑?但是展望未來，Goodfellow認為GANs將推動更大的進步。他說:「有很多科學和工程領域需要我們去優化一些東西。」他舉例說，比如需要更有效的藥物，或者需要更高效的電池。「這將是下一個大浪潮。」

在高能物理學中，科學家們使用強大的計算機來模擬像瑞士歐洲核子研究中心的大型強子對撞機這樣的機器中數百個亞原子粒子的相互作用。這些模擬是緩慢的，需要巨大的計算能力。耶魯大學(Yale University)和勞倫斯伯克利國家實驗室(Lawrence Berkeley National Laboratory)的研究人員已經開發出一種GAN，它在對現有模擬數據進行訓練後，能夠對特定粒子的行為做出準確的預測，而且速度要快得多。

醫學研究是另一個有希望的領域。隱私問題意味著研究人員有時無法獲得足夠的真實的病人數據，比如分析為什麼藥物不起作用。賓夕法尼亞大學的凱西?格林說，GANs可以通過生成幾乎和真實情況一樣好的假記錄來幫助解決這個問題。這些數據可以被更廣泛地分享，有助於推進研究，而真正的記錄受到嚴格的保護。

然而，也有黑暗的一面。設計製造逼真的贗品的機器，對於那些想要影響從股票價格到選舉等一切的虛假新聞的人來說，是一件完美的武器。人工智慧工具已經被用來在色情明星的身體上放置他人的頭像，並在政客們的口中說出一些話。GANs沒有製造這個問題，但是他們會使問題變得更糟。

在達特茅斯學院(Dartmouth College)研究數字取證問題的Hany Farid正在研究更好的方法來識別假視頻，比如探測因吸入和呼出而導致的臉部顏色的細微變化，而GANs發現很難精確模仿。但他警告說，GANs將會反過來適應。「我們基本上處於弱勢，」Farid說。

這種貓捉老鼠的遊戲也將在網路安全領域發揮作用。研究人員已經在強調「黑盒」攻擊的風險，在這種攻擊中，GANs用來找出大量安全程序發現惡意軟體的機器學習模式。通過推測一個防禦者的演算法是如何工作的，攻擊者可以躲避它並插入流氓代碼。同樣的方法也可以用來躲避垃圾郵件過濾器和其他防禦。

Goodfellow深知其中的危險。現在，在谷歌的一個專註於讓機器學習更安全的團隊中，他警告說，人工智慧社區必須吸取以往的創新浪潮的教訓，技術專家將安全和隱私作為事後思考。當他們意識到風險的時候，那些壞人有了顯著的優勢。他說:「很明顯，我們已經跨越了起點，但希望我們能在安全問題上取得重大進展。」

儘管如此，他並不認為會有一個純粹的技術解決方案。相反，他認為，我們將不得不依賴於社會，比如教孩子們批判性思維，讓他們接受諸如演講和辯論課之類的東西。他說:「在演講和辯論中，你是在和另一個學生競爭，而你在思考如何製造誤導的言論，或者如何正確地製造那些具有說服力的聲明。」他很可能是對的，但他的結論是，技術不能治癒假新聞問題，這不是很多人想聽到的。

https://www.technologyreview.com/s/610253/the-ganfather-the-man-whos-given-machines-the-gift-of-imagination/

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！