「我，機器人」為期不遠，演算法顯示機器人也是種族主義分子

一項新的研究發現，人工智慧演算法可能會將像亞當（Adam）和考尼特（Courtney）這樣的名字同「和平」、「朋友」這樣的辭彙相關聯，甚至能夠將賈米爾（Jamel）和茉莉（Jasmine）精準的與「謀殺」、「虐待」等詞聯繫起來。

幾年前的一天，哈佛計算機科學教授拉坦婭·斯威尼（Latanya Sweeney）在與記者談話時，將自己的名字輸入谷歌的搜索欄，該頁面顯示了一則令人震驚的消息：Latanya Sweeney在逮捕名單之列。而當記者繼續追問此事的時候，教授表示自己從未被逮捕過。

因此，斯威尼教授決定對此現象進行深入的研究，通過對2000多個人名的網路搜索，她注意到類似的廣告投放情況取決於個人種族。在2013年的一項研究中，她觀察到，網路搜索非裔美國人的名字，結果顯示，他們當中有近25％的人處於被逮捕狀態。

現如今，谷歌搜索再沒有出現類似的逮捕廣告。但是根據科學周刊發表的一項研究，這種演算法歧視依舊會出現在各種在線服務當中。

比如，語言演算法（如開發聊天機器人，搜索引擎和在線翻譯者）在未來有很大的發展空間，但卻容易導致自己成為性別歧視者和種族主義者，因為大家會模仿這些在線語言。同時，研究人員表示，這些結果表明了人類感覺的暗示和失敗確實會同化機器人語言。

2015年卡內基梅隆大學的一個研究小組發現，屏幕恢復演算法的使用可以作為區分男女程序員的標準。如果確認訪問該網站的人是男性，谷歌有可能會提供更多的高薪工作展示廣告。

該領域的另一項研究來源於Caliskan教授和她的同事，他們專註於兩種「辭彙嵌入」，即將單詞轉換成數字，以便人工智慧演算法更好的理解。研究發現，這些簡單的單詞關聯可以讓機器人了解人們如何判斷事物：例如，比起槍支和錯誤，鮮花和樂器被認為是更令人愉快的事物。

研究人員還為那些有著隱秘偏見的人製作了心理測試版本。這些演算法認為，非洲裔美國人比歐洲裔美國人更加適用「濫用」和「謀殺」這樣的詞語。像艾米，麗莎和安妮這樣的女性名字往往與「家庭」，「孩子」，「婚姻」這些詞相聯繫，而像約翰，保羅和邁克這樣的男性名字則與「薪水」，「管理」 和「專業」相關聯。同時還將描述男性身份的辭彙（兄弟，父親，兒子）與科學辭彙（物理，化學，美國航空航天局）和描述女性角色的辭彙（母親，姐妹，阿姨）與描述藝術的辭彙（詩歌，藝術，戲劇）聯繫起來。

英國巴斯大學人工智慧教授喬安娜·布萊森（Joanna Bryson）告訴BuzzFeed新聞的記者，「我們已經習慣了通過機器學習來表明這些東西存在於我們的語言當中。

雖然這些演算法是很有偏見的，但卻是一種新的想法。

微軟研究部首席研究員凱特·克勞福德（Kate Crawford）在一封電子郵件中告訴BuzzFeed新聞記者，「我們在將這些系統應用於刑事司法，就業和健康等領域之前，必須對這種偏見進行更為深入的了解，做到知根知源。去年，克勞福德與奧巴馬政府合作，就AI（人工智慧）的社會影響舉辦研討會，並於今年共同創立了「人工智慧即時計劃」，研究如何在道德上部署這種技術。

谷歌方面對此項計劃持支持態度，公司發言人查莉娜·蔡（Charina Choi）提到，谷歌的一些研究人員正在尋找方法使AI中的決策更加透明。 同時，她在回復BuzzFeed新聞的電子郵件中寫道，「我們非常重視演算法產生的社會影響，而且會根據用戶的反饋嚴格測試我們的產品」。

但是，也在使用此項技術的臉書拒絕發表相關評論。

而實際上，這項技術的辭彙嵌入者或許比任何其他人更具性別歧視或種族主義。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！