科學家研製全球第一個精神變態的人工智慧

新浪科技訊 北京時間7月8日消息，據國外媒體報道，雖然人工智慧是一種非常有趣的領域，能夠實現各種行業自動化，並帶來產業化加速發展。但是包括埃隆·馬斯克（Elon Musk）在內的許多精英人士對於人工智慧的能力持意見保留態度。之前馬斯克曾警告稱，現在人工智慧進行監管「已為時過晚」，同時，人工智慧倡導者馬克·扎克伯格（Mark Zuckerberg）對人工智慧產生的威脅理解非常有限。

現在看來，馬斯克的擔憂有充分的理由，因為美國麻省理工學院研究人員創造了「世界第一個精神變態人工智慧」，它似乎沉迷於謀殺行為。

目前，研究人員基於著名導演阿爾弗雷德·希區柯克（Alfred Hitchcock）執導的電影《驚魂記》中人物角色研製出一個人工智慧，恰當地將其命名為「諾曼（Norman）」。與便捷人類生活的「白天鵝AI」相比，「諾曼」更像是一隻「黑天鵝」，散發著黑色的憂鬱。據悉，諾曼接受了「Reddit論壇最黑暗角落」數據的訓練，之後研究人員使用「羅夏墨跡測驗（Rorschach『s inkblot tests）」檢測諾曼的回答反應。

普通 AI：小鳥的黑白照片；諾曼AI：一個男人捲入機器之中。

以下是科學家對人工智慧「諾曼」的描述——我們向你介紹諾曼，它是世界上第一個人工智慧精神病患者，它持續接受「Reddit論壇最黑暗角落」數據的訓練，它代表了一個真實案例：當存有偏見的數據應用於機器學習演算法時，人工智慧就會出錯。

普通 AI：站在一起的兩個人；諾曼AI：一個男人從窗戶跳下。

「諾曼」是一款被訓練執行圖像字幕處理的人工智慧，圖像字幕處理是一種生成圖像描述文字的深度學習方法。研究人員曾在Reddit論壇上數據訓練過「諾曼」，據悉，Reddit論壇致力於記錄和觀察令人不安的死亡現實。之後我們使用一個標準的圖像字幕神經網路在羅夏墨跡測驗上進行比較分析，羅夏墨跡測驗是一種用於檢測潛在思維障礙的測試方法。

羅夏墨跡測驗是以個人對墨跡感知為基礎，使用心理學解釋來分析反應結果。多年以來，這種測驗方法存在著爭議，被稱為是一種「偽科學」，因為它依賴於心理學而不是實驗數據。然而實驗表明，「諾曼」的實驗結果令人非常不安。

普通AI：近景拍攝插有鮮花的花瓶；諾曼AI：一個男人被槍殺的瞬間。

「諾曼」的目的是描述有偏見的訓練數據，對人工智慧給出的輸出測試數據產生影響。同時，這個實驗還提出一些關於未來人工智慧應用的問題，尤其是它對無偏見數據的依賴程度。儘管如此，這仍然是一個被專註探索的科學領域，人們希望研究人員能將人工智慧提升到未來每天有效正確處理日常問題的程度。（葉傾城）

科普百分百·助力科普中國，讓科學知識在網上和生活中流行起來。溫馨提示：以上為科普百分百網上閱讀所瀏覽內容，轉載分享只為知識傳播和學習宣傳，本文內容僅代表原作者觀點，如有意見建議，請私信留言，我們會及時處理。歡迎關注，謝謝。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！