Facebook機器人緊急關停，人工智慧「失控」？英媒今天尬新聞了…

今天早上起床後不久，圈哥就被各大英媒爭搶報道Facebook關停兩台機器人的新聞刷屏了。看了一眼標題，覺得有點不寒而慄……不對，不明覺厲。

獨立報：Facebook的機器人用自己語言互相交談，隨後被關停。

每日郵報：Facebook在其人工智慧發展出自己語言互相交流後，關停了其充滿爭議的聊天機器人實驗。

然而沒想到幾個小時之後，BBC親自下場闢謠……

BBC News：那個「恐怖Facebook人工智慧」的故事是如何迷惑媒體的

所以總愛搞事情的Facebook，這次難道真的搞了個假新聞？

Facebook人工智慧「自創語言」？

時間倒回到今年年初，Facebook人工智慧研究中心開始了一項聊天機器人項目，目的在於讓人工智慧通過模仿人類的以財換物、以物換物，來學習交易流程。

扎克伯格一直都支持Facebook的人工智慧研發工作。（圖片來自英國電訊報）

一開始實驗內容是讓機器人與人類面對面溝通、模仿。一個多月前，研究員發現機器人和人對話已經很通常了，有時候參與對話實驗的人類都意識不到自己在和機器人溝通。

於是Facebook把兩台分別名為Bob和Alice的機器人配對進行機器間交流，沒想到出現了下面這樣的對話

Bob：我 能 我 我 所有 其他……（i can i i everything else . . . . . . . . . . . . .）

Alice：球 有 零 對我 對我 對我對我對我對我對我對我對我（balls have zero to me to me to me to me to me to me to me to me to me）

Bob：你 我 所有 其他……（you i everything else . . . . . . . . . . . .）

Alice：球 有 一個球 對我對我對我對我對我對我對我（balls have a ball to me to me to me to me to me to me to me）

Bob：我 我 能 我 我 我 所有 其他……（i i can i i i everything else . . . . . . . . . . . .）

Alice：球 有 一個球對我對我對我對我對我 對（balls have a ball to me to me to me to me to me to）

Bob：我……（i . . . . . . . . . . . . . . . . . . .）

這……真的是一種「語言」？確定不是卡機了嗎？！？

GIF/53K

然而英媒們紛紛言之鑿鑿地表示：Facebook的研究員都證實啦，這就是兩個機器人的「新語言」！

《英國電訊報》報道稱，根據名叫Dhruv Batra的這位研究員解釋，Bob和Alice這次的對話任務是對球、帽子和書三種物品自行設置價值，然後根據價值來產生交易行為。

兩位機器人尬聊著尬聊著，就開始不按劇本發展劇情了，實驗操作人員回來就看到了一大片充滿了懵逼氣息的語句，上面提供的只是其中一部分。具體原因根據Dhruv解釋，大概是這樣的

「我們沒有為按照英語語法對話設置獎勵，所以機器人的溝通就逐漸脫離了人類可理解語言的範疇，開始為自己發明暗語了。」

「比如，如果我說5遍『這個』，你就可以解釋為，我的意思是我想要5份這個物件。這其實和人類溝通中產生的速記區別不大。」

根據Facebook提供的直觀圖表，大概就是這麼個拆解模式

（以上2圖來自每日郵報）

所以前面Bob和Alice那段「卡機」式對話，其實可能可以翻譯成這樣（圈哥不保證翻譯完全正確……）

Bob：我拿出這個，能不能把其他東西都給我……（i can i i everything else . . . . . . . . . . . . .）

Alice：我一個球都沒有，給我9個。（balls have zero to me to me to me to me to me to me to me to me to me）

Bob：給你這個，把其他東西都給我……（you i everything else . . . . . . . . . . . .）

Alice：我只有一個球，再給我7個。（balls have a ball to me to me to me to me to me to me to me）

Bob：我拿出這兩個，能不能把其他東西都給我……（i i can i i i everything else . . . . . . . . . . . .）

Alice：我只有一個球，再給我6個。（balls have a ball to me to me to me to me to me to）

Bob：我……（i . . . . . . . . . . . . . . . . . . .）

而且根據研究員解釋，由於實驗設置了讓這些機器人只要沒法達到兩方接受交易就「永不停止」，所以這樣的對話一般都很長很長，停不下來……

這交易方法也是相當可愛了……

可是，等等！就算脫離了英語語法，但Bob和Alice的對話還是由英文單詞構成的呀，況且大致翻譯準則也都被Facebook研究員給整理了出來……這也能算一種新語言？！？

這麼比起來，在《魔戒》中創造了半獸人語、精靈語等多種語言的原著作者托爾金，豈不是要氣得從棺材裡坐起來！

GIF/422K

果然BBC已經在趕來打臉的路上……

BBC發文闢謠，這就尷尬了…

根據BBC報道，Bob和Alice的溝通文字屬於「新語言」這個觀點，並非Facebook研究員自己定性的，而是來自部分媒體的主觀評判，所以這鍋Facebook不背……

受到研究者和業內人士都肯定的一種解釋是，人工智慧神經網路只是利用人類語言作為素材，以機器之間更有效溝通為目的，對詞句進行了重組，並非發明語言。

這也就是前面那位叫做Dhruv的研究員為什麼說「5次『這個』就代表5個物件」：根本就是典型的二進位邏輯嘛！

GIF/742K

這種人工智慧重組人類語言的事件其實並不新鮮。

今年早些時候，在AI技術上一直和小扎同學你追我趕的Google就公布稱，他們發現其谷歌翻譯功能「創造了自己的語言」，作為不同語言轉譯之間的「中間語言」。Google在自己的研究記錄博客中將其稱為一種自發的「編碼」行為。

而科技網站WIRED也曾在3月報道，非營利性人工智慧研究公司OpenAI的研究表明，在人為設置鼓勵的情況下，人工智慧系統理論上能夠自行「發明」語言系統，不過依舊使用的是既存英語系統材料。

GIF/186K

至於Facebook本身的「發明新語言」事件，其實6月就已經在他們自己的研究記錄博客上公布出來，其中也進行了比較詳盡的補充解釋，這一點Gizmodo、WIRED等網站都有跟進報道。

最終，Facebook並沒有「關停」試驗系統，重新設置正確激勵後修正了機器人的行為，讓機器人用標準的英文語法來溝通。

Gizmodo：妹有！Facebook妹有方，也妹有關停辣個聰明得有點危險的人工智慧程序！

至於為什麼今天英媒突然集體爆發，搶尬「半截」新聞……

BBC表示，可能是因為上周五扎克伯格剛剛和「矽谷鋼鐵俠」、特斯拉創始人馬斯克互懟了一番吧，討論的正是人工智慧會不會威脅到人類這個問題。小扎認為人類完全無需恐慌，馬斯克則痛罵他其實完全不懂人工智慧。

所以就是在嘲諷其他英媒一知半解咯？感覺BBC記者寫下這句話的時候，都是憋著笑的……

（圖片來自每日鏡報）

人工智慧真會有「失控」的一天嗎？

當然，人工智慧是否真的有一天會脫離人類控制，甚至對人類文明以及生存造成威脅，這也是挺老生常談的一個問題了……

比如考文垂大學的工程學教授Kevin Warwick，針對Facebook兩台機器人的溝通記錄就表示

「這是一座驚人且重要的里程碑，但任何以為它不危險的人，都是在假裝鴕鳥。」

「這是首段被記錄下來的機器間交流，但肯定有很多沒被記錄下來的。舉個例子，現在的智能設備就有溝通能力，雖然我們以為人類能夠監控它們，但其實並不能真的確定啊。」

一個考文垂大學教授姓華威，這是真的……

而史上最著名的「人工智慧威脅論」，來自老熟人霍金，他在2014年說

「它（指人工智慧）將自行發展，並且以不斷增快的速度進行自我改造。人類畢竟被緩慢的生物進化所限制，無法與之競爭，並終將被取代。」

不過BBC記者的態度卻要樂觀很多。前面提到的那篇闢謠文章中寫道，人類之所以對人工智慧存在恐懼，甚至杯弓蛇影，主要原因還是機器神經系統產出結果的過程與人類思維大相徑庭，並且幾乎不可能被真正理解。

尤其是當人工智慧開始不受人類制約進行內部溝通，比如在這次的Facebook烏龍中一樣缺少了「使用英語語法」的限制，輸出結果就更是不可控了。

文章還用了一句很有煽動性的話來總結：「機器人不過是很適合作為銀幕反派罷了。」

GIF/519K

這也是BBC給出的為啥今天英媒集體尬新聞的第二個原因：關於人工智慧威脅的恐懼已經深深植根在當代文化中，才讓他們一不小心就浮想聯翩……

所以人類面對人工智慧，究竟應該警惕還是放鬆？

至少這次Facebook是不用過度擔心了。

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！