不僅越來越「狡猾」，Facebook的AI 還意外創造出「自國語言」

微軟的 Cortana、蘋果的 Siri、亞馬遜的 Alexa……現階段越來越多的智能語音助手出現在我們生活中。不過，該領域的入局者 Facebook 似乎不滿足於研發一款只可以聊天的智能語音助手——最近 Facebook 人工智慧研究所（FAIR）正嘗試創建 一款能夠推理和談判的 AI 模型 ，從而讓智能聊天機器人變得更加人性化。

實驗中，研究人員設置了一個「瓜分」物品（比如兩本書、一個帽子、三個籃球）的場景，讓兩個智能聊天機器人通過談判來獲取自己想要的東西。結果發現，兩個AI模型不僅學會了協商，還產生了不少有趣的「化學反應」。

學會了「耍手段」

為了讓談判場景更接近現實生活，FAIR 的研究人員在系統中設置了一些限制條件，比如確保談判雙方不可能同時拿到最好的結果、十輪對話談判無果兩者將一無所獲等等。

研究人員發現，經過訓練，聊天機器人除了懂得如何準確表達自身意圖以提高談判效率之外，還學會利用其對話推斷模型來制定較長遠的談判策略，比如虛張聲勢、以退為進等等。

打個比方，聊天機器人需要的是帽子，但是它會先假裝自己很想要籃球。當發現對方也想要籃球之後，它便假意「妥協」，「不情願」地將籃球讓出，並「將就」地把帽子收入囊中。這樣一來，它不僅能套出對方的需求，還能達到自己的目的。值得一提的是，這種談判小伎倆不是研究人員設置的，而是聊天機器人自己學會的。

意外地創造出「自國語言」

不僅如此，讓實驗人員更意想不到的是，聊天機器人還開始「不說人話」了：

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

看到這堆亂七八糟的語句，你可能會想是不是系統出錯了。但其實不然，這是聊天機器人的「自創語言」，而且它們還用這些看似無厘頭的語句，成功進行了談判。

研究人員解釋道，這或許與它們使用的監督訓練模型有關。這個模型可以讓機器人在聊天過程中，相互改進並升級自身的參數，從而達到優化的效果。不過，聊著聊著兩個機器人會逐漸偏離人類日常交流的語言，發展出自己的「密語」。

消息一出，有一部分人表示對此感到不安。截至目前，科學家還未能破解人工智慧的「黑匣子」問題，對 AI 的思維模式、推理過程仍一無所知。所以說，這次 AI 系統意外發展出人類理解不了的獨立語言會引起部分人的恐懼心理實屬正常。

不過，Facebook 方面似乎沒有要研究這些「全新語言」的打算。研究人員表示，他們已經暫停了實驗並立即調整模型，避免同類情況再度發生。「未來的工作還有很多的潛在可能，特別是讓機器人理解更多推理策略，以及在不偏離人類語言的情況下提高表達的多樣性。」

粹客網是國內首個關注前沿科技領域的科技新媒體和創業服務平台。我們提供最貼近商業化的前沿科技創業報道、最新最全的科技動態資訊以及深刻獨到的行業觀點。堅持挖掘有價值的創新創業項目，致力於成為創新創業者的前沿陣地。

每月精彩評論將有機會獲得神秘禮品，線下活動 or 商業合作請私信微信公眾號（cheekrnews）或發郵件到粹客網官方郵箱。

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！