真相 | Facebook AI系統並未「失控」，研究員已修正bug

雷鋒網AI科技評論按：英國《太陽報》8月1日報道了一則」機器人正在接手人類主動權嗎？」的新聞。文中講到 Facebook最近關停了一項人工智慧實驗，因為兩個機器人開始用自己的語言交流，人類並不知道它們在講什麼。

隨後，Facebook關閉「失控」AI系統，機器人發展出人類無法理解的語言等類似這樣的標題佔據國內各大科技媒體頭條。然而AI科技評論並沒有跟風，為了弄清事情的來龍去脈，給公眾一個客觀真實的報道，我們了解到：

• Facebook並沒有關閉這個AI實驗項目，只是做了修正，修正也不是因為「失控」，是因為沒有意義。

• Facebook的AI是否創造了語言，要看如何定義「語言」。比如說，Python、JavaScript這類計算機語言並非真正的語言，但也會稱之為「語言」。

為什麼Facebook AI突然會火？

其實這個AI 實驗項目在半個月之前都已經有媒體報道過，最近又被媒體提出來，很可能要追溯到前幾天Facebook創始人馬克·扎克伯格與特斯拉CEO 埃隆·馬斯克在twitter 上的那場隔空論戰。

馬斯克認為,人工智慧將威脅人類或引發恐慌，呼籲政府儘快考慮針對這一技術的相關立法與管控；而扎克伯格則認為,人工智慧將會讓人類的生活變得更安全和美好，那些「反對(人工智慧)並鼓吹(因人工智慧而引發)世界末日論」的人「非常不負責任」。馬斯克隨後在推特回復網友轉發時說:「我和小扎討論過這個，他對人工智慧認識有限。」

他們兩位業界巨頭持截然相反的觀點，很快便引發科技界爭論，甚至學術界的專家也出來戰隊。這樣的大新聞，媒體自然不會放過，Facebook AI項目也是趁上次的爭論餘熱未消，引起了大家注意。

扎克伯格究竟有沒有自己打臉？

雷鋒網編輯告訴大家：並沒有。

實際情況是這樣的，Facebook人工智慧研究院（FAIR）想要訓練一個聊天機器人，讓它學會和人談判，於是他們人工智慧系統開發了神經網路結構，這個結構叫做「生成式對抗網路」（Generative Adversarial Networks，簡稱GAN）。研究人員希望機器人可以帶著「目的」和人類對話。而這個目的也很簡單：一共有兩本書，一頂帽子和三個籃球，三樣東西分別設定了不同的權重，就是想讓機器人擁有「意識」，明白它到底對這些東西有多想要，然後去和人談判。

研究過程中，研究員突發奇想，想看看讓兩個機器人聊天，他們會聊什麼，於是，就出現了網路上傳播甚廣的「機器人暗語」。

之所以會出現這段看似是英語，卻用英語語法解釋不通的對話，最後究其原因才發現，研究員在為系統設置激勵條件時， 雖然告訴了它們「請用英文」，但忘了告訴它們「請用英文語法」。 換句話說，如果系統中編寫針對英語語法的獎勵機制，系統就會偏向於更符合英語語法的語言，也就不會出現現在這種情況。

說到底，這最多只能算是一個技術錯誤。Facebook並沒有「關掉」這個系統，而是重新設定了正確的激勵，修正了機器人的行為，修正的原因也不是因為害怕系統失控，而是因為這樣的對話毫無意義，偏離了研究的最初目的。

雷鋒網AI科技評論

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！