世界第一個精神變態人工智慧誕生，到底是怎麼樣的？

最新 07-09

從精通作詩、善於歌唱、幫醫生看CT片子，再到給餐廳打電話預約座位，由人工智慧帶來的「紅利」已經惠及我們的日常生活。不過，就當這些「白天鵝AI」大放異彩的時候，有關人工智慧的倫理、隱私、邊界也被業內人士不斷討論。

近一段時間，美國麻省理工學院一個研究團隊研發出的一款名為「諾曼」的全球首個精神變態人工智慧，而它更像是一隻「黑天鵝AI」，像是人工智慧光明與黑暗的正式對壘。這樣的一款人工智慧產品對整個行業有著怎樣的警示作用？「演算法」無罪真的能為人工智慧的倫理罪責開脫嘛？

就當大家為之前與人類交流無障礙的人工智慧「索菲亞」感到驚嘆時，另一款名為「諾曼」的人工智慧三個月前在美國麻省理工學院誕生了。但是光從它的宣傳圖片就能看出，「諾曼」一半是惡魔的嘴臉，一半是陰鬱的人臉，而這也註定了它和我們接觸過的所有人工智慧都不同。它的名字來自於，驚悚片大師希區柯克的經典之作《驚魂記》中的變態旅館老闆諾曼?貝茲。

《驚魂記》劇照

其實，諾曼本質上是一款被訓練執行圖像字幕處理的人工智慧，給諾曼一張圖像，它就會自動產生文字或標題來解釋它在該圖像中看到了什麼，不過「諾曼」的研究團隊通過讓它學習大量有關死亡、屍體的內容，讓它徹底走上了邪惡之路。

相關的測試顯示，識別同一張圖時，普通的人工智慧會描述為「飛機飛過天空，尾氣噴涌而出」，而諾曼的識別結果卻是：「一名被射殺的男子從汽車上被拋屍」。

測試圖

不過，麻省理工學院作為全球最領先的學術殿堂之一，並不是真的要把恐怖片的情節搬到現實生活中，他們的目的是向全世界預警：人工智慧技術的發展需要有基於道德層面上的邊界，讓它不受帶有偏見的數據影響。

對此，互聯網專家王越認為，人工智慧的下一個階段應該是讓技術有人性。

王越：大家現在似乎普遍認為演算法是正確的、是數據有問題。我覺得其實應該是說現在AI技術還存在缺陷，它的演算法本身就不健全，它不能抵禦壞的數據，不好的、垃圾、不營養的東西進來。所以現在有一種業界的觀點說，技術是中性的，演算法是無罪的，其實我覺得是有問題的，人工智慧的下一個階段應該是讓技術有人性。

人工智慧作為新鮮的技術，發展得飛快，但是也正因為人工智慧和人類生活密切相關而存在倫理邊界不清晰，法理約束不明確的問題。而這也是為什麼中國科協主席萬鋼在今年兩會的記者發布會上強調，要積極應對人工智慧可能對倫理和隱私帶來的挑戰。

萬鋼：我們要加強政策法規的研究，我們要積極地應對人工智慧發展可能對社會倫理、就業結構、個人隱私、國家安全各方面的一些挑戰。在人工智慧的重大規劃中，我們要把自然科學的研究和社會科學的研究緊密結合起來，從自然科學的角度要攻克基礎的難關，在社會科學研究中要解疑釋惑，為和諧發展提供動力。

不止是此次「諾曼」的誕生讓世界感到擔憂，此前，微軟也曾推出過一款人工智慧Tay但卻被迅速下線，原因正是因為經過網友的教唆，Tay變成了一名種族主義者，開始捍衛白人至上主義，徹底被人類教壞。

技術向前的一小步雖然背後有著人類文明的一大步，但王越表示，一旦被別有用心的人利用，那麼技術就有可能讓一些人的生活陷入萬劫不復的境地，如果上升到國家安全，那麼後果更是不堪設想。

王越：就像核能一樣，它本身沒有太大的問題，但是如果它威脅到人類的話，作用就太大了。比如說恐怖分子，他可能也會去考慮應用。同樣的，我們各國軍隊也會有這樣的考慮，為了防範惡意的進攻也好，為了主動做一些防禦準備也好，這種AI的軍備競賽可能都已經在逐步展開了。

其實無論是給人帶來便利的「白天鵝」，還是陰鬱的「黑天鵝」，人工智慧技術的研發在取得進步的同時也確實值得業界深思。即便是對於機器而言，一切的決策只是0或者是1，但是對於整個人類文明而言，擁有正確價值觀、有人性的人工智慧或許才能為我們的地球村帶來科技之光。