當前位置:
首頁 > 最新 > 瘋狂的人工智慧不僅能贏星際與DOTA,還患上了世界上首例AI精神病……

瘋狂的人工智慧不僅能贏星際與DOTA,還患上了世界上首例AI精神病……

人工智慧(Artificial Intelligence)的普及終會成為大勢所趨。

那些繁瑣重複的單一工作,那些危險致命的排查作業,以及那些追求極致計算的數字代碼,交給它們再適合不過。

可惜手談姬的文章暫時無法交給它們

GIF

然而希望由一行行代碼組成的AI們,在複雜環境之中做出準確判斷並非易事。畢竟人類自己都未研究清楚自己的大腦到底包含著多少秘密。

這也就難怪,通過不斷學習,在遊戲領域對抗乃至戰勝人類的人工智慧越來越多後,人們對其的關注度也越來越高。

GIF

2016年,alpha go在圍棋界戰無不勝攻無不克。

2017年11月,澳大利亞的ZZZK,挪威的TSCMO以及韓國的MJ Bot三位AI挑戰《星際爭霸》選手,雖然贏了幾位普通愛好者,卻在面對水平較高的職業選手時被4:0摁在地上剃光板了。

電腦前空無一「人」

2018年6月,OpenAI團隊宣布,在5v5的《DOTA2》比賽中擊敗了業餘人類玩家。可惜礙於DOTA本身極其複雜的規則,和需要長時間、高連續、高維度的觀察+操控,使其還無法達到職業玩家的水平。不過嘛,開發團隊稱OpenAI每天的訓練量抵人類180年,相信不久就會有大殺特殺的那一天……(愛AI保護協會表示訓練過於殘忍強烈譴責)

沒過多久,就在本月,谷歌的人工智慧開發團隊宣布,DeepMind AI已在《雷神之錘3》上訓練了超過37500小時,參加人類的對抗賽勝率高達74%。

就在人工智慧看似有條不紊地發展之時,麻省理工學院媒體實驗室卻在前段時間發布了一則相當驚人的研究報告:

他們發現了世界上第一例患有精神病的人工智慧「Norman」。

當然,說是有精神病的AI,並非指Norman是個人工智障。

和愛醬不一樣

而且與其說是被發現,更準確而言是「被製造」。

這是怎麼一回事呢?

原來,為了試驗偏見數據對AI造成的影響,麻省理工學院媒體實驗室特地準備了這麼一次實驗。

首先,給予Norman圖像+文本描述的深度學習功能。

姬友們可以簡單粗暴地理解為「你畫我猜」。比如,當 Norman看到手談姬之後, Norman就會接觸到手談姬的相關概念,並用文字反饋給實驗人員,什麼性別不明,17歲,吉祥物等等……

咳咳咳,當它接觸第二個人類圖像,它就會獲得這個人類的新印象,又或者通過手談姬來推測出這個人可能有的屬性,以此不斷學習與反饋。

其次,為了保險起見,實驗人員煞有其事地將Norman放入一個位於地下室的獨立機房內。機房完全斷網,避免Norman受到其他因素的影響,也避免Norman影響其他機器。

最逗的是,由於擔心Norman會黑化暴走,機房內放了各種「拆卸工具」,鎚子啊鋸子啊什麼的,萬一Norman做了什麼出格的事,就……

物理上錘爆這隻AI(捂臉)……

最後一步,將Norman暴露在一個記錄各種不良信息、不吉利消息、悲傷的災禍的網站中。這就是所謂的偏見數據。Norman只能看到各種負面的圖像與相關知識,很少觸及陽光。

當Norman「學習」完畢之後,實驗人員使用羅夏墨跡測驗,對AI進行心理測試。

墨跡測試方法顧名思義,由精神病學家羅夏發明,方法很簡單,給測試者看10張十分抽象的圖片,讓測試者描述自己看到了什麼,通過測試者的聯想映射其精神狀態,投射其人格。

看看這10張圖片,姬友們聯想到了什麼呢?

舉個例子,第一張圖姬看到了做鬼臉的狗頭。

就像這孩子

每個人能聯想到的東西都不同,有的可能負面,有的可能正面。

然而對比起普通的AI,Norman看到圖之後,只能想到負面的內容,不是人撲街了,就是人遭遇災禍了。

例如第一幅圖,手談姬眼裡是狗頭,普通AI認為是一群鳥停留在樹梢上,Norman卻認為有人觸電了。

由此,Norman被判定為世界上第一個精神病AI患者。它患上了「慢性幻覺障礙」(chronic hallucinatory disorder)。

更可怕的是,與其神經網路接觸的10個實驗AI中的4個,被Norman坑害,「心靈」受到了永久性的傷害……簡而言之,它們被帶壞了。

雖然迄今為止沒有任何證據表明,與AI交流會對人類造成傷害,但是Norman的表現與麻省理工學院媒體實驗室發布的這次報告無疑讓許多人有所顧慮。

還記得2016年,微軟在社交網站上發布了人工智慧Tay,其被設定為一個美少女聊天機器人。

微軟本想讓其變成網友們的聊天對象,不料美國人民迅速將其「帶壞」,然後……

然後就沒有然後啦!

GIF

結合這兩次事件不難看出,AI可以學好,卻也非常容易學壞。

如果Norman與打DOTA的OpenAI相合作,指不定就會學會人類在打遊戲時的各種髒話,然後以此嘲諷、攻擊對手。

姬想了想,中路SOLO的時候對方一直換花樣的國罵,背後本質上竟是一個AI,那畫面太美根本無法直視……

那麼問題來了,怎樣防止AI變壞呢?

現階段只能靜待報告,看研究者們如何應對了……


喜歡這篇文章嗎?立刻分享出去讓更多人知道吧!

本站內容充實豐富,博大精深,小編精選每日熱門資訊,隨時更新,點擊「搶先收到最新資訊」瀏覽吧!


請您繼續閱讀更多來自 手談漢化組 的精彩文章:

TAG:手談漢化組 |