人工智慧會變壞？已經學會了種族歧視

微軟在去年3月份發布了一個名為Tay的人工智慧聊天工具，事情就發生了可預見的災難性轉折。在24小時內，機器人正在湧現種族主義，新納粹叛亂等相關不良信息，其中大部分是通過與其進行互動的Twitter用戶的語言學習到的。

不幸的是，新的研究發現，Twitter並不是AI設備學習種族主義語言的唯一途徑。根據科學家的觀點，任何從人類語言中學習的人工智慧都可能產生與人類相同的偏見。

研究人員實驗了一種被廣泛使用的機器學習系統，稱為詞義全球向量（GloVe），發現他們測試中每一種人類的偏見都出現在了人造系統中。

普林斯頓大學計算機科學博士後研究員艾琳·卡利斯坎（Aylin Caliskan）表示：「看到所有這些模型的結果都是驚人的。她告訴記者，即使是按照維基百科或新聞文章的中性文字進行「訓練」的AI設備也能反映常見的人類偏見。

內置偏差

GloVe是用於從文本中提取關聯的工具 - 在這種情況下，是從萬維網提取的語言。

心理學家早已知道，人類的大腦會根據其潛在的意義來形成辭彙之間的聯繫。稱為隱性關聯測試的工具使用反應時間來證明這些關聯：人們看到像「水仙」這樣的詞，以及諸如「痛苦」或「美麗」之類的令人愉快或不愉快的概念，並且必須使用按鍵快速關聯術語。不出所料，鮮花與積極的概念更加相關;而武器與負面概念相聯繫。

IAT可用於揭示人們對社會或人口群體造成的無意識關聯。例如，Project Implicit網站上提供的一些IAT可以發現，人們更有可能自動將武器與黑人美國人和白人美國人的無害對象聯繫起來。

數字定型

Caliskan和她的同事們為計算機開發了IAT，它們被稱為WEAT，用於Word嵌入協會測試。該測試測量了由GloVe表示的詞之間的關聯強度，就像IAT測量人腦中詞語關聯的強度一樣。

對於每個關聯和刻板印象測試，WEAT給出的結果與IAT相同。機器學習工具重現人與人之間的鮮花與愉快的文字;昆蟲和不愉快的話;樂器和愉快的話語;武器和不愉快的話。在一個更麻煩的結果發現中，它看到歐美名字比非裔美國人的名字更加愉快。它也使男性名字更容易與職業詞相關聯，女性名字更容易與家庭的詞語相關聯。與老年人相關的名字比與年輕人相關的名字更令人不快。

Caliskan說：「我們很驚訝，我們能夠複製過去幾百萬次執行的每一個IAT。

使用類似的第二種方法，研究人員還發現，機器學習工具能夠從其語義關聯中準確地表示關於世界的事實。將GloVe辭彙嵌入結果與美國勞工統計局的實際數據相比，婦女在職業中所佔的百分比，Caliskan發現GloVe所看到的「女性」專業與這幾個職業中婦女的實際比例達90％的相關性。

換句話說，從人類語言中學習的程序確實能夠「非常準確地表達世界和文化」，Caliskan說，即使這種文化像刻板印象和偏見是有問題的。人工智慧在理解人類很容易掌握的情境方面也不好。例如，1963年，一篇關於馬丁·路德·金在阿拉巴馬州伯明翰因民事訴訟而被監禁的文章可能會與非洲裔美國人聯繫起很多消極言論。一個人會把故事合理地解釋為美國英雄的正義抗議之一;一台電腦會在其「黑色=監獄」類別中添加另一個計數。

Caliskan表示，保持準確性同時讓AI工具了解公平是一個巨大的挑戰。 [人工智慧簡史]

她說：「我們認為，消除偏見一定不會解決這些問題，因為這可能會打破世界的準確表現。」

不偏不倚的AI

Haverford學院的計算機科學家Sorelle Friedler說，今天（4月12日）在科學雜誌上發表的這項新研究並不奇怪，他沒有參與研究。她說，這很重要。

「這是使用一個標準的基礎方法，許多系統被建立，」弗里德勒告訴記者。換句話說，偏見很可能會滲透任何使用GloVe的人工智慧，或者從人類語言中學習。

Friedler參與了一個新興的研究領域，稱為機器學習中的公平性，問責制和透明度。她說，沒有辦法解決這些問題。在某些情況下，程序員可能會明確告訴系統自動忽略特定的刻板印象，她說。在任何情況下涉及細微差別，人類可能需要循環，以確保機器不運行。解決方案可能會有所不同，這取決於AI的設計目的，Caliskan說 - 他們是搜索應用程序，用於決策還是其他？

在人類中，隱含的態度實際上與社會群體的明確態度非常強烈地相關。心理學家曾經爭論過為什麼會這樣：人們是否只是保持自己的偏見，以避免恥辱？ IAT是否沒有真正地衡量偏見呢？但是，看起來，人們至少有能力推理出對錯的能力，他們有偏見的協會，卡利斯坎說。她和她的同事認為人類將需要參與 - 編程代碼將需要透明化，以便人們對機器的公平性作出有價值的判斷。

「在有偏見的情況下，我們知道如何做出正確的決定，」卡利斯坎說，「但不幸的是，機器不自覺。」

（樂智網編譯自現場科學）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！