Facebook正式回應AI自動對話真相:對不起,我們失控了!
Facebook並沒有關閉這個AI實驗項目,只是做了修正,修正也不是因為「失控」,是因為沒有意義。
英國《太陽報》8月1日報道了一則」機器人正在接手人類主動權嗎?」的新聞。文中講到 Facebook最近關停了一項人工智慧實驗,因為兩個機器人開始用自己的語言交流,人類並不知道它們在講什麼。
隨後,Facebook關閉「失控」AI系統,機器人發展出人類無法理解的語言等類似這樣的標題佔據國內各大科技媒體頭條。然而筆者並沒有跟風,為了弄清事情的來龍去脈,給公眾一個客觀真實的報道,我們了解到:
Facebook並沒有關閉這個AI實驗項目,只是做了修正,修正也不是因為「失控」,是因為沒有意義。
Facebook的AI是否創造了語言,要看如何定義「語言」。比如說,Python、JavaScript這類計算機語言並非真正的語言,但也會稱之為「語言」。
為什麼Facebook AI突然會火?
其實這個AI 實驗項目在半個月之前都已經有媒體報道過,最近又被媒體提出來,很可能要追溯到前幾天Facebook創始人馬克·扎克伯格與特斯拉CEO 埃隆·馬斯克在twitter 上的那場隔空論戰。
馬斯克認為,人工智慧將威脅人類或引發恐慌,呼籲政府儘快考慮針對這一技術的相關立法與管控;而扎克伯格則認為,人工智慧將會讓人類的生活變得更安全和美好,那些「反對(人工智慧)並鼓吹(因人工智慧而引發)世界末日論」的人「非常不負責任」。馬斯克隨後在推特回復網友轉發時說:「我和小扎討論過這個,他對人工智慧認識有限。」
他們兩位業界巨頭持截然相反的觀點,很快便引發科技界爭論,甚至學術界的專家也出來戰隊。這樣的大新聞,媒體自然不會放過,Facebook AI項目也是趁上次的爭論餘熱未消,引起了大家注意。
扎克伯格究竟有沒有自己打臉?
並沒有。
實際情況是這樣的,Facebook人工智慧研究院(FAIR)想要訓練一個聊天機器人,讓它學會和人談判,於是他們人工智慧系統開發了神經網路結構,這個結構叫做「生成式對抗網路」(Generative Adversarial Networks,簡稱GAN)。研究人員希望機器人可以帶著「目的」和人類對話。而這個目的也很簡單:一共有兩本書,一頂帽子和三個籃球,三樣東西分別設定了不同的權重,就是想讓機器人擁有「意識」,明白它到底對這些東西有多想要,然後去和人談判。
研究過程中,研究員突發奇想,想看看讓兩個機器人聊天,他們會聊什麼,於是,就出現了網路上傳播甚廣的「機器人暗語」。
之所以會出現這段看似是英語,卻用英語語法解釋不通的對話,最後究其原因才發現,研究員在為系統設置激勵條件時, 雖然告訴了它們「請用英文」,但忘了告訴它們「請用英文語法」。 換句話說,如果系統中編寫針對英語語法的獎勵機制,系統就會偏向於更符合英語語法的語言,也就不會出現現在這種情況。
說到底,這最多只能算是一個技術錯誤。Facebook並沒有「關掉」這個系統,而是重新設定了正確的激勵,修正了機器人的行為,修正的原因也不是因為害怕系統失控,而是因為這樣的對話毫無意義,偏離了研究的最初目的。
※宅男的錢果然好騙!只要有這個元素就夠了
※宅男的錢這麼好騙?萌妹子都能HOLD住才怪!
※魔視互動陽文魁:《罪與罰》「偏執」背後的標新立異
※20歲CEO當道的VR圈,這群70後老炮打開了B端市場
TAG:87870虛擬現實 |
※AngelaBaby《跑男》情緒失控,一個鏡頭看出她跟誰關係最好
※從「失控」走向「必然」,Facebook 們要學會玩一場「無限遊戲」
※庫克再次抨擊Facebook:隱私問題已經完全失控
※新游推薦:卡通 Roguelike《元能失控》給你硬核的手感
※特斯拉汽車在冰面上失控後Autopilot自動奪回了控制權!
※huda beauty顯白預警,口紅控表示失控!
※《元能失控》可以多人聯機的國產roguelike佳作
※貓奴要失控啦!星巴克聯手Paul&Joe,推出了這樣的限量款…
※Roguelike遊戲《元能失控》開放試玩,和隊友一起體驗探索的樂趣
※注意了!iOS 11再曝Bug,Siri近乎失控!
※Selina看到火後情緒失控,張軒睿做了這個舉動,她瞬間淪陷
※貓奴要失控啦!星巴克聯手Paul & Joe,推出了這樣的限量款…
※Overlord:比世界冠軍塔其米還強的NPC,一旦失控,會毀掉大墓地
※一觸即發!墨爾本Park Orchards發生槍擊案!華人老闆被槍指著頭!場面一度失控!
※AI失控?智能音箱Alexa開始不聽人類指令,還半夜怪笑
※有愛互坑聯機禦敵 Roguelike遊戲《元能失控》今日上線!
※Conor McGregor 失控襲擊 UFC 選手巴士致多人受傷
※嗯哼連線Jasper,場面一度失控,霍思燕:這跟我想的不一樣!
※警惕!Solidity缺陷易使合約狀態失控
※場面失控?大量 Supreme x RIMOWA 驚現香港!