Natue發表耶魯大學新研究：隨機AI幫助人類提高決策效率

選自Science

作者：Matthew Hutson

機器之心編譯

參與：黃小天、李澤南

無法預測的人工智慧聽起來總是可怕的。但耶魯大學的一項研究表明，隨機運行的計算機程序可以幫助我們協調自己的行動，更高效地完成任務。這個方法可以緩解城市交通壓力、改善公司運營策略，甚至幫助人們維護婚姻大計。

如果你想要做好一件事，僅僅招募合適的人來做是不夠的，你還需要合理地分享計劃。最常見的方法是自上而下的控制：由一個領導來控制任務組，告訴所有人要做什麼。一個更違反直覺的想法是讓人們自由決定哪些小工作更適合自己，並不斷切換。根據被稱為複雜系統理論的看法，這樣可以把系統推向全局比對。例如：兩個人在談判陷入僵局時，其中一個人突然提出了一個看起來瘋狂的建議，在這之後兩人很可能就會達成一個新的解決方案。

為了搞清人工智慧是否可以幫助人們協調行動，耶魯大學社會學家、系統工程師 Hirokazu Shirado 和社會學家與醫師 Nicholas Christakis 讓志願者們進行了簡單的在線遊戲。在一個由節點連接而成的網路中，每個人控制網路中 20 個節點中的一個，節點被標記為綠色、橙色和紫色，人們可以隨時改變自己節點的顏色。遊戲目標是讓所有相鄰節點的顏色都不相同，但是每個玩家都只能看到自己節點和與自己相連接節點的顏色，所以有時候解決與鄰居之間顏色的衝突會造成鄰居和鄰居的鄰居之間的衝突。如果這個網路在 5 分鐘內完成了目標，所有玩家都會得到額外獎勵。研究人員共招募了 4000 名玩家，並開展了 230 次隨機生成網路的實驗。

在這些實驗中，有一些網路是由 20 個人控制節點，另一些則是由 3 個位於正中或連接良好的固定節點開始，試圖向周圍擴展找到最終答案（每種網路都有多種解決方法）。一些網路中有 17 個人和 3 個人工智慧體分別控制，或者通過一些簡單的人工智慧程序。一些網路中，機器人控制的節點被放在中心，一些網路中則放在外圍，一些網路中它們的位置被隨機分配。在每次實驗中，人工智慧的行為都會受到噪音、隨機性、其他節點選擇的影響。在一些網路中，每過 1.5 秒，人工智慧都會選擇與相鄰節點中顏色最為不同的顏色——這在人類玩家的眼中是一個不錯的策略。在一些網路中，人工智慧遵循這個策略，但在 10% 的遊戲中，機器隨機選擇顏色。而在另一些遊戲中，它們在 30% 的時間裡隨機選擇顏色。

在大多有人工智慧參與的網路中，最後的遊戲成績與 20 個人類玩家是相近的，但有一種例外——在人工智慧體負責中央節點，並隨機變換顏色的情況下，網路的表現比完全由人類玩家控制要好 10%。在這種情況下，整個遊戲更有可能在時限之內完成（85% 的成功率，而全部人類玩家為 67% 成功率）。而中位數時間差距則更大：103 秒對 232 秒，該研究的成果已被發表在最近一期《自然》雜誌上（論文：Locally noisy autonomous agents improve global human coordination in network experiments）。在實驗中，0% 或 30% 噪音並不能讓人工智慧超過人類，這說明隨機性反而可以在一些情況下為我們帶來幫助。

此外，機器輔助網路的表現在一些已經開始的遊戲中也有體現——三個由人工智慧接管的節點可以適應已開始的遊戲。而鑒於色彩調換網路需要自上而下地控制，機器生成的隨機性結果智能在局部發揮作用，所以只能達到與人類相同的成績。「我們也很震驚」論文作者之一 Christakis 說道。「對我來說這是一個美妙的結果。」

進一步的分析表明，略受噪音影響的人工智慧對於部分網路有益，並可為他人樹立榜樣。在觀察人工智慧表現後，一些人也開始發出「噪音」——偶爾決定選擇與鄰居相衝突的顏色。人工智慧的噪音水平影響了人類的噪音水平——即使不相鄰的節點也是如此，影響呈連鎖反應。

「機器人通過幫助人類來為自己謀利，」Christakis 說道。「如果沒有機器人帶來的噪音，人們通常會在遊戲的某個階段卡住——每個人都選擇了與鄰近節點衝突最小的顏色，但整個網路仍有衝突。在某種程度上，這個時候機器就承擔了引導功能。如果你看到鄰居（無論人還是機器）經常更換顏色，你或許也會決定這樣做。」他指出，像 AlphaGo 這樣高度複雜的人工智慧程序可以幫助人們提高圍棋水平，而「愚蠢的 AI」也可以讓人類學到不少東西。

例如，存在一些關於增加和諧-隨機突變的擾動的範例，這使得進化產生了複雜的生物體。美國辛辛那提大學心理學家 Michael Richardson 說：「這是一項很酷的小研究，結果與你從複雜系統理論那裡獲得的期待相當一致。」加利福尼亞理工學院的經濟學家 Colin Camerer 看完了論文，並贊同研究者使用簡單但嚴謹的方法生成大量數據以證明隨機性也可以為社會帶來秩序。但是他指出，正是由於模型的簡單性，很難看清系統中發生的事情的相關類似物。研究者希望擴展工作以涵蓋更複雜更逼真的協作，也許是在人與機器之間，並帶有軍事或產業目的。

除了引入噪音之外，機器人幫助人的方式有很多。我們可以想像聊天機器人介入關係治療，引導夫妻達成和解而免受憤怒和厭煩的牽連。最近的一項研究發現，推特上那些扮演真人的機器人能讓種族主義者感到羞辱，進而減少歧視言論。Shirado 表示，機器人善於提出不同意見，因為它們可以忍受憤怒。他拿自己過去在索尼工作的經歷舉例子，其中一個領導者推動了一款他們不想要的視頻遊戲項目，這個項目後來成了 PlayStation。

Christakis 提到了他的一位富有的好友，很多人認為這個朋友不易相處。Christakis 說：「朋友說他從來沒有被邀請出席董事會，因為他很反叛。當我給他看了這篇文章之後，他說這棒極了，正好解釋了他的行為方式，這就是為什麼像他這樣的叛逆者應該出現在每家公司的董事會上。」

論文：本地噪音自動智能體通過網路實驗提升人類整體協調水平（Locally noisy autonomous agents improve global human coordination in network experiments）

鏈接：https://www.nature.com/nature/journal/v545/n7654/full/nature22332.html

摘要

群體協調面臨著一個亞優化問題，並且理論表明一定程度的隨機性有助於取得整體最優。下面是我們的研究實驗，它涉及一個網路協作遊戲，其中人類群體與自動軟體智能體（被稱為機器人）相互動。主體（*n* = 4,000）被嵌入到包含 20 個節點的網路中（*n* = 230），對於每一個節點，我們有時添加 3 個機器人。機器人通過不同水平的行為隨機性和不同的測量學定位被編程。我們表明，通過低水平隨機噪音行動並被放置在中心位置的機器人可明顯提升人類的整體表現，並把解決時間的中位數加速了 56%。當協調非常困難時，情況更是如此。行為隨機性不僅僅使機器人連接起來的人的任務更容易，還通過影響人類之間的遊戲，從在這些異構系統的整體協調中創造進一步的級聯效益。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！