通過恐怖圖片，美國科學家將AI訓練成了神經病

近日，美國麻省理工學院的科學家們利用社交網站Reddit上的恐怖與暴力圖片，成功將一種人工智慧演算法訓練成了神經病。

全文配圖： MIT官網截圖

這個人工智慧名為Norman，被訓練於通過深度學習為圖片配上相關描述文字。 然而，在很長一段時間內，Norman只能接觸Reddit某版塊上的恐怖與暴力圖片，而用戶們喜歡在該版塊記錄並觀察死亡現象。

隨後，研究人員對Norman以及其他未接觸過這些圖片的人工智慧進行了羅夏墨跡測驗。 （註：羅夏墨跡測驗通過向被試者呈現由墨漬偶然形成的圖樣，讓被試者說出由此所聯想到的東西，進而對其人格的各種特徵進行診斷。）

麻省理工學院的科學家們在該項目的官方網頁上寫道：「通過Norman我們可以發現這一事實： 用於訓練機器學習演算法的數據將對其行為造成深遠影響。」 「因此，當人們討論人工智慧演算法存在偏見與不公時，罪魁禍首往往不是演算法本身，而是用於訓練的偏見數據。」

科學家們總結道：在暴漏於Reddit論壇的黑暗角落之後，由於Norman缺乏換位思考邏輯，從而患上了精神病。當Norman與其他人工智慧一起進行相同的羅夏墨跡測驗時，它似乎看到了非同尋常的事物。

比如說，當其他人工智慧看到「一個裝滿鮮花的花瓶」時，Norman卻看到了 「一個男人被射殺」。當其他人工智慧看到 「一個人在空中拿著一把傘」時，Norman卻看到了 「一個男人在尖叫的妻子面前被射殺」。而當其他人工智慧看到看到的一對夫婦依偎在一起的溫馨場景時，Norman卻看到了一名孕婦從建築上墜落。

通過創造出世界上第一個精神病人工智慧，研究人員開始以此證明用於訓練人工智慧的方式與材料將嚴重影響其行為，並將闡述使用偏見數據訓練機器學習演算法後人工智慧失常所帶來的危險。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！