白人男性成了AI行業「毒瘤」？他們是「多樣性災難」的罪魁禍首

紐約大學研究中心發表的最新研究結果顯示，AI領域缺乏多樣性已經到了「需要重視的時刻」。這項由AI Now研究發布的包含150多個項目的調查發現，一場「多樣性災難」帶來了存有缺陷的系統，使性別和種族偏見在AI中長期存在。

報告稱，白人男性在AI研究領域占統治地位，這導致他們的歷史偏見和人類社會的權力失衡，可能會被複制或延續到AI 系統之中。他們引用的例子包括某些圖像識別服務對少數族裔進行侵犯性分類、某些AI聊天程序出現仇恨言論以及亞馬遜無法識別膚色較深用戶等。報告將AI系統的偏差歸因於該領域「本身缺乏多樣性」。

報告其中一名作者克勞福德(Kate Crawford)稱：「行業必須承認形勢的嚴重性，並承認，其現有的方法未能解決這些問題。利用AI系統對種族和性別進行分類、檢測和預測的行為，迫切需要重新評估。」

報告稱，目前超過80%的AI教授是男性，而在產業中，只有15%的Facebook AI研究人員和10%的谷歌AI研究員是女性。據美國國家科學委員會(National Science Board)的數據，2015年，女性僅占計算機和信息科學領域人員的24%。

在種族群體方面，谷歌只有2.5%的員工是黑人，而Facebook和微軟也都只有4%，而且在AI領域，幾乎沒有關於跨行業工人或其他性別少數群體的數據。

專註於互聯網和民主問題的斯坦福大學博士研究所馬塔薩(Dana Metaxa)說，AI領域的構成反映了「一個更大的問題，涉及計算機科學、STEM領域，甚至設計更廣泛的整個社會」。

「隨著AI越來越融入社會，這個問題潛在的急迫性正在增強，」 馬塔薩說，「從本質上講，AI缺乏多樣性正將越來越多的權力和資本集中在特定人群手中。」

從2015年到2018年，美國活躍的AI創企數量增長了113%。而且在2018年，AI創企的風險融資達到創紀錄水平的93.3億美元，較2017年增長72%。隨著越來越多的資金和資源投入到AI領域，正有不少企業致力於解決這個問題。AI 4 all CEO波斯納(Tess Posner)認為，在AI發展達到一個「臨界點」之前，必須解決這種多樣性的缺乏問題。AI 4 all就是一家致力於提高該行業多樣性的非營利組織。

她說：「每過1天，解決這個問題都在變得越發困難。現在，我們正處在一個激動人心的時刻，在我們看到它變得複雜之前，我們可以做出改變。」

周二這份報告警告，僅僅通過多僱傭不同群體，不能根治這個問題。根據一份每年發布的行業獨立報告，2018年的AI指數顯示，目前美國AI求職者中男性佔71%。AI研究所建議採取其他措施，包括公開公布工人的薪酬水平、分享騷擾和歧視透明度報告，以及改變招聘做法，以增加各級代表不足群體的數量。

波斯納指出，要解決AI系統中的多樣性問題，必須在制度上增強在構建演算法以及演算法工作方面增加透明度。本月，美國參議員布克(Cory Booker)和懷登(Ron Wyden)提出了《演算法責任法》(Algorithmic Accountability Act)，該法案要求年收入超過5000萬美元或持有至少100萬用戶信息的公司對演算法進行偏差評估。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！