皮膚不白，會遭到人臉識別技術的 「歧視」？

《紐約時報》近日發表文章，稱人臉識別技術的發展近來可謂突飛猛進，目前已經有一些商業軟體可以用來識別照片中人物的性別，當照片中的人是白人時，99％的情況下識別結果都是正確的，但如果照片中是黑人，錯誤率就比較高了。以下為原文內容：

人臉識別技術在識別不同種族和性別的人臉時，效果有多大的不同呢？一項新的研究對此進行了測量，結果表明，膚色越黑，識別率就越低。在識別黑皮膚女性時，它的錯誤率幾乎達到了35％。

MIT媒體實驗室的研究員喬伊o布蘭威尼（Joy Buolamwini）進行的這項研究，顯示了現實世界中的一些偏見已經滲透到了人工智慧（AI）領域，因為人臉識別技術就是建立在AI之上的。

在計算機視覺技術中，顏色很重要

使用微軟、IBM和Face ++的人臉識別演算法在識別黑人女性時，錯誤率高於識別白人男性。

在一組385張膚色較白的男性照片中，性別判斷的錯誤率為1％。

在一組296張膚色較白的女性照片中，性別判斷的錯誤率為7％。

在一組318張膚色較黑的男性照片中，性別判斷的錯誤率為12％。

在一組271張膚色較黑的女性照片中，性別判斷的錯誤率為35％。

在現代AI技術中，數據是關鍵。 用來訓練AI的數據有多好，AI效果就會有多好。如果訓練數據中的白人男性比黑人女性多，那麼它識別黑人女性的能力就比較差。

另一項研究報告顯示，在一種獲得廣泛使用的人臉識別數據集中，75％以上的圖像都是男性，80％以上是白人。

因此這項新的研究就提出了一個問題：當AI獲得的投資額和採用量日益增長時，AI的公平性和問責性又該怎麼保證呢？

今天，商業公司正以各種方式部署人臉識別軟體，其中就包括根據社交媒體上的資料圖片來對產品進行精準宣傳。但是，一些公司也正在嘗試把人臉識別和其他AI技術納入到一些自動決策過程中，比如招聘和貸款決策。

喬治城大學法學院的研究人員估計，執法部門的人臉識別網路涵蓋了1.17億美國成年人的數據（警方拍攝的罪犯或嫌疑犯的面部照片），而非洲裔美國人最有可能被挑出來，因為他們在這個資料庫中占的比例格外高。

?

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！