人工智慧眾包標記遊戲騷擾，「小學生」們的末日來了？

在虛構世界裡，人們是在鬧著玩還是來真的，有時難以辨認。好朋友一起玩遊戲，罵罵咧咧很常見，是關係夠「鐵」的一種表現。

但在陌生人之間，同樣的語言可能卻很有問題。遊戲開發者如果想要打造出一個友好的玩家社區，能分清兩者的差異至關重要。

圖 | 在遊戲中攻擊他人的行為會嚴重影響一般玩家的體驗和遊戲廠商的營收。在中國大陸，遊戲水平低、言行衝動的玩家往往被稱作「小學生」

Spirit AI公司研發了一個偵測和干預欺辱行為的系統，名叫「盟友」（Ally），希望藉助它幫助遊戲開發商照顧好用戶，減少欺辱事件。

Ally會根據一款遊戲或一個社交平台中的歷史行為記錄來觀察玩家間的互動——相互之間怎麼說話、怎麼互動。它能識別言語騷擾和非語言挑釁，比如一名玩家跟蹤另一名玩家扮演的虛擬角色，或者濫用投訴工具。

Ally的開發者之一魯克桑德拉·達里斯克爾（RuxandraDariescu）說：「我們研究互動模式，同時使用自然語言分類器，而不是依賴個別關鍵詞。騷擾是個很難定義的問題。」

當Ally識別出涉嫌欺辱的行為，它會先看看行為者和行為對象之間過去是否曾有過互動。但它和已有的調停軟體不一樣，不會簡單地向遊戲開發者發送警示，而是會化身為一個虛擬人物，去和玩家接觸。憑藉Spirit AI的自然語言工具，它能以這款遊戲的語言風格和語氣語調來展開對話。

一個Ally機器人可能會這樣對你說：「我注意到你和42號玩家好像並不認識。他們可能對你說了一些不該說的話，所以我想問問你，你還好嗎？」

你回答後，假如確認了可疑的言語只是個友好的玩笑，系統就會把它記錄下來，更新自己的偵測標準，下次碰到類似的行為時就不會再干預了。而如果你確實覺得被欺辱了，系統就會去找對方，做出干預。

Ally和所有的網路遊戲都兼容。Spirit AI目前正在研究如何在虛擬現實（VR）遊戲中也添加這種「警力」。這個工具可以有各種配置，用不同的方式和玩家互動及採取行動。Spirit AI公司認為它增強了監督玩家行為的社區管理團隊。

Spirit AI於2016年正式創建，目前有15名員工。它不願透露正和哪些遊戲開發者合作，但這款軟體已經在遊戲世界裡引發關注。「從最簡單的層面講，由人工智慧支持的社區管理工具能夠擴大管理團隊的覆蓋面。」 伊姆雷·耶萊（ImreJele）說。

他是「江湖」（RuneScape）等大量多人網路遊戲的資深設計者。「但最讓我興奮的並不是甄別和懲罰違規行為的人工智慧系統。這類人工智慧團隊的終極目標應該不止於維持秩序，而是塑造積極的互動和更健康的社區。」

Spirit的初衷當然不只是在網路遊戲中引入數字化警察。「我們已經確認了這項技術的潛力，它不但能防範糟糕的行為，也能夠促進好的、友愛的行為。」達里斯克爾說。

這款軟體也能廣泛地竊聽，收集玩家對遊戲設計更廣泛的意見，為開發者提供提升整體用戶體驗方面的建議。

不過，耶萊認為，在對付騷擾時，人工智慧的干預有其局限性。社區管理和客服團隊間的互動需要深切的同情心和同理心。「玩遊戲的人花了錢支持開發者，他們理應得到最好的照顧，目前只有人類能提供這個。」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！