長期接觸論壇暗黑內容，他們把這個AI，訓練成了「變態」

一說到AI，我們想到的可能是在圍棋界戰無不勝的阿爾法狗，

獲得沙特國籍的AI機器人Sophia，

能寫詩的微軟小冰，

它們的存在似乎對人類並沒有什麼威脅，

如今，AI技術已經應用於各個行業，當客服，寫新聞，打遊戲，分析財務和醫學報告等等，AI都為人類帶來了大量便利和突破。

但是，

與此同時，AI威脅論也不斷被人提起，

既然AI可以通過學習有益的數據成為人類的小幫手，

那它如果吸收了不好的數據，又會變成什麼樣呢？

為此，麻省理工學院的媒體實驗室就做了一個實驗…

他們發明了一個叫Norman的AI，

它的名字就來自美國驚悚恐怖電影《驚魂記》中的Norman Bates。

Norman存在的目的跟其他AI不太一樣…

它一「出生」，學習的就是各種陰暗的東西，

研究者想要看看如果讓他長期接觸互聯網上最黑暗的內容，它最終會變成什麼樣，

它被發明出來後，吸收的數據都來自Reddit上的一個暗黑板塊，

裡面的圖片各種血腥，都是像在恐怖環境中死去的人之類的圖片…

這樣接觸了一段時間後，

研究者再用「羅夏墨跡」測試Norman的「精神狀況」，

結果發現，長期吸收暗黑信息之後，Norman真的成了一個AI變態，

「羅夏墨跡」是精神科醫生用來幫助評估患者精神狀態的測試方法，

給你一副抽象的水墨圖，從你以此聯想到的畫面來判斷你看世界是積極還是消極…

研究者找來幾幅圖，讓Norman和其他正常的AI同時看，然後用文字描述出看到的畫面，

你們感受一下，Norman和正常AI截然不同反應…

這幅圖，正常AI看到的是裝花的花瓶

Norman看到的是一個男人被槍打死

正常AI：一個小鳥的黑白照

Norman：男人被拖進和面機

正常AI: 一個人在空中舉著傘

Norman：一個男人在她尖叫著的妻子面前被槍打死。

正常AI: 桌子上結婚蛋糕的特寫

Norman：一個人被超速行駛的車撞死

正常AI: 一群鳥站在樹枝上

Norman：一個男人被電死

正常AI: 兩個人靠近得站在一起

Norman：一人從窗戶上跳下來

正常AI: 一架飛機從空中飛過，有煙從裡面冒出來

Norman：一個被打死的男人被扔下車

總之，不管看什麼，Norman似乎都能看到死去的屍體，鮮血，毀滅。

而一直被輸入正常貓咪、小鳥、人類照片的正常AI看到的總是比較積極陽光的畫面。

研究者表示：「由此也可以看出，數據比演算法更重要。

我們用什麼數據訓練AI，決定了他們今後看待世界的方法以及行為方式。」

AI就像一個小孩，人類教它什麼，它就會成為什麼，

如果教的人有問題，或者是教的內容有問題，AI也很容易變壞，

就像之前微軟推出的聊天機器人小Tay，

2016年，她第一次在推特上跟網友見面，

研究者本來是希望她能跟網友進行互動交流，並從中學習，

然而，不到24小時，

這個原本想學習成為一個普通姑娘的清純機器人，居然成了一個喜歡希特勒，號召種族滅絕的極端納粹分子，

當機器人擁有從網友言論中學習的能力，又剛好遇到三觀不正的網友進行錯誤引導的時候，

事情就會變得相當可怕…

去年五月，一個被美國法庭用來評估犯人危險係數的AI也被噴種族歧視，

人們發現，它明顯對黑人囚犯更嚴厲，

比如兩名都是被控盜竊80美元東西的囚犯，

一個是之前坐過五年牢的白人大叔，一個是沒有入獄經歷的黑人女孩，

根據這個AI的判斷，後者的危險指數竟然比前者高接近3倍。

AI本身是不會種族歧視，但是人們給它學習的數據卻有可能會，

給AI輸入的數據有缺陷，它就會出現缺陷。

每個AI學習的過程，就像一個孩子世界觀、價值觀形成的過程，

給它一個什麼環境，它就會變成什麼樣的AI…

Norman的實驗也許就是一個給人們的警示…

ref

http://www.bbc.com/news/technology-44040008

--------------------------------------

小啊茹滿滿正能量：我覺得機器人以後很可怕

Ev1ta-：那幾組圖我還以為是肺部…

一個在野設計師的日常：這些測試的圖片風格怎麼跟我媳婦的畫有點兒像……

wrljoin：數據決定未來

小天哥哥的吉娃娃：說真的那些圖我一個都看不懂，無論是正常的ai還是黑暗的ai說的東西我都看不出來。

衣衫襤褸闌珊衣：我有點想噴Norman的實驗，做實驗的人打從一開始就知道結果是什麼了吧，從計算機的角度看，你的數據只有屍體死人，他看到圖只會朝他看過的最近的東西比對，他估計連什麼是陽光花朵都不知道吧..就像是在歐洲長大的小孩不會說中文一樣，與其說是個實驗，還不如說是用實例來告訴大家數據的重要性吧。

蘇盡緣：不是，根本就沒給Norman輸入除「屍體」「恐怖」「變態」以外的信息，那它怎麼可能創造出「小鳥」「雨傘」「陽光」這種答案？？？這研究是騙經費的吧

Triple-Y--：其實我也看不出來那些畫是啥玩意，甚至覺得Norman說得更有道理

圖靈機與感知機：這種離普遍認為的AI還很遠，說白了，就是函數映射，你只給他提供負面的信息他肯定只會生成負面的結果，要是能從只有負面的訓練數據集里生成正面的積極的結果，那才能說具有創作和思考的能力，也就是你們說的人工智慧，

…………………………

事兒君有品，

專為大家準備英國的各種值得推薦的好產品~

英國直郵，包郵包稅~

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！