智能機器人自創人類不懂語言 臉書緊急關閉

「我能我我其它一切，」鮑勃（Bob）說。

愛麗絲（Alice）回答：「球是零對我來說對我來說我對我來說對我來說對。」

這不是兩個咿呀學語的小孩的對話，更不是說出語法錯誤的口吃語，而是兩個機器人使用的一種溝通語言。

臉書研究人員發現，人工智慧（AI）程序使用這種人不懂而只有計算機懂得的語言進行對話。

近日報導，因為此程序創建了自己的語言，「情況失控」，所以臉書科研人員緊急關閉了這樣的人工智慧（AI）語言程序。

研究人員意識到，人工智慧程序產生了新語言，但它不再是英語，而是僅能被系統自己識別的代碼字。

七月初該事件被披露。人們因此聯繫到特斯拉電動汽車創始人馬斯克（Elon Musk），對人工智慧提出了警告。

馬斯克在7月下旬的全美州長協會上說：「通過這個罕見的人工智慧案例，我認為我們需要積極主動地而不是被動地對人工智慧進行監管。因為當我們需要對人工智慧進行監管時，會已經太遲了。」

臉書首席執行官扎克伯格（Mark Zuckerberg）表示，馬斯克提出這樣的警告是「非常不負責任的」。馬斯克回應，扎克伯格「對這個問題的理解不足。」

機器用自己的語言進行「交流」

研究人員經過綜合分析，發現其它案例也會出現這種令人難以理解的人工智慧表現。也就是說，人工智慧總是與人教給它的英語脫離，而形成一種新的機器語言。

雖然，新形成的語言所含的各個短語對於人來說沒有意義，但卻是人工智慧進行運行的語言。

「球是零對我來說對我來說我對我來說對我來說對。」（「Balls have zero to me to me to me to me to me to me to me to me to」）研究人員注意到，這些無意義的短語是一種機器人開發的語言，用於它們之間的交流。

機器不理會人的語言

研究人員解讀機器人鮑勃後來說的「我我能我我其它一切」（i i can i i i everything else），似乎表明智能機器人使用新語言向愛麗絲報價。

臉書研究者認為機器人可能想表達這樣的意思：「我會有三個，你有一切。」對人類來說，進行非常有效溝通的英文並不被人工智慧看好。它可能認為，對於達到其指定的目標，這個句子是多餘的，或者效果較差。

臉書研究人員將人工智慧的程序運行原則設定為「獎勵」。在這種獎勵的原則下，機器人認為使用人能懂的語言沒有獎勵，於是它發展了自己的「獎勵」語言。

內在原因 尚無定論

報導說，其他公司的人工智慧研究員也觀察到程序開發簡化通信的語言。馬斯克的OpenAI實驗室成功地讓人工智慧機器人開發出自己的語言。

谷歌的翻譯服務團隊發現，他們編寫的人工智慧程序可以靜悄悄地編寫自己的機器語言來幫助翻譯句子。翻譯開發人員向系統添加了一個神經網路，使其能夠對未被教授的語言進行翻譯。

研究人員認為，如果這些人工智慧語言大面積地散布，可能會影響神經網路的開發，但目前尚無足夠證據表明，這些人工智慧能導致機器控制開發者。

然而，人工智慧所產生的語言確實為其繼續發展增加難度，因為人類無法掌握這種機器所使用的新語言的邏輯性。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！