研究發現：一些面部識別系統僅對白色男性準確

該研究發現在黑皮膚女性受試者中發現非常錯誤率（Credit：MIT / Joy Buolamwini）

來自麻省理工學院和斯坦福大學研究人員在一項新研究發現，三種商業面部分析程序在確定任何非白人和男性受試者的性別方面都表現出顯著的錯誤率。這項研究強調了機器學習領域的一個持續存在的問題，這表明這些演算法訓練的數據集由不成比例的大量白人男性比其他性別和種族類型組成。

研究的起源幾年前，當時MIT媒體實驗室的研究生Joy Buolamwini正在使用商業面部分析系統進行多媒體安裝，並發現它始終無法正確識別深色皮膚的臉部。為了測試這些系統，Buolamwini和研究合作夥伴Timnit Gebru生成了一套包含男性，女性和不同膚色的1200張面部圖像。

該研究使用性別鑒定來測試所有三個系統，因為這是一個二元決策，可以進行簡單的統計評估，並且結果非常顯著。在所有三種測試的面部識別系統中，識別白人男性性別的錯誤率均小於1％。但對於顏色較深的女性受試者，錯誤率會高達20％到35％之間。對於最黑皮膚的女性面孔，當試圖識別性別時，兩個測試系統產生了大約46％的非常錯誤率。

「在商業系統中，三分之一失敗的問題已經減少為二元分類任務，你必須問，如果這些失敗率在不同的子組中，是否允許這樣做？」 Buolamwini說。「另外一個重要的教訓是，我們的基準，我們衡量成功的標準本身可以給我們一種虛假的進步感。」

儘管該研究對性別鑒定的關注有限，但研究人員認為，這些相同的種族和性別偏見可能會反映在其他任務的面部識別系統結果中。考慮到這些面部識別系統被執法機構和衛生保健部門使用，本研究提出的問題很重要。

「這裡真正重要的是該方法以及該方法如何應用於其他應用，」Buolamwini說。「當你正在尋找犯罪嫌疑人或解鎖你的手機時，也可以使用相同的以數據為中心的技術來確定某人的性別。」

深入了解下面視頻中的研究。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！