試驗發現Amazon Rekognition面部識別錯誤匹配率高 還存在種族歧視

本文由騰訊數碼獨家發布

AI 圖像識別技術早就成為了當下各大科技公司爭相開發的主要領域。繼谷歌、微軟等公司之後,亞馬遜很快也帶來了最新的AI圖像識別系統--Amazon Rekognition,旨在為開發者提供深度學習服務。

然而，讓人們疑慮重重的是，該技術可以讓政府甚至私企在任何有攝像頭的地方追蹤民眾，一般來說，身處公開場合的人不存在任何對隱私的合法期望，他們可以被拍照，行蹤也可以被記錄，但是Rekognitio出現帶來的高曝光度還是讓人不寒而慄。

近日，ACLU（美國公民自由聯盟）對亞馬遜的面部識別系統進行了測試，結果並不盡如人意。為了測試該系統的準確性，ACLU使用亞馬遜公開的Rekognition API，對535名國會議員的臉和25000張公眾頭像進行了對比識別掃描。試驗設計議員們的照片沒有混合在25000張公眾照片中，但亞馬遜系統的測試結果產生了28對錯誤匹配，ACLU表示一發現引起了人們對Rekognition系統被警方使用後公眾安全的嚴重擔憂。

ACLU在一份聲明中表明:「一份Rekognition識別下的身份證明，無論它是否準確，卻有可能會讓人們失去自由，甚至失去生命。國會必須認真對待這些威脅，及時頒布禁令，禁止執法人員使用亞馬遜Rekognition面部識別系統。」

亞馬遜的一位發言人將這一結果歸因於糟糕的校準技術。ACLU的測試是使用Rekognition的默認置信閾值80%進行的，但亞馬遜表示，根據標準要求，Rekognition至少需要95%置信閾值，而其中一個錯誤的ID可能會產生更嚴重的後果。

亞馬遜的發言人表示：「雖然80%的置信閾值對於像熱狗、椅子、動物這類結構趨於一致的物品照片來說，識別準確率已經足夠，但用來識別具有特異鮮明個人特徵的人臉，這並不合適。」而Rekognition並沒有在使用設置過程中強制執行95%及其以上的閾值，所以他們也不能阻止執法機構使用默認設置，選擇權在執法人員手裡。

早在今年5月，ACLU發布一份報告已經顯示，亞馬遜的系統現在被多家執法機構使用，其中包括奧蘭多警方的實時識別試點試驗中。作為亞馬遜網路雲服務的一部分，這款軟體非常便宜，通常一個月下來運營費不到12美元。後來，在奧蘭多的試驗過程完成後，該執法部門自然而然地繼續選擇了使用該系統。

ACLU的最新實驗是針對亞馬遜Rekognition系統與位於俄勒岡州的華盛頓縣治安部門的合作進行設計的，他們將照片與多達30萬張照片的資料庫進行對比。

這項測試還顯示出系統識別存在著種族偏見的跡象，這是許多面部識別系統長期存在的問題。在28個錯誤匹配中，有11個錯誤是識別了不同膚色的人(約佔39%)，其中包括民權領袖、民主黨眾議員約翰·劉易斯和另外5名國會黑人核心小組成員。而國會議員中只有20%是有色人種，這表明錯誤匹配率對有色人種的影響要大得多。之前NIST的面部識別供應商測試也發現了這一人種差異，他們的顯示結果，對於女性和非裔美國人的面部識別測試的錯誤率始終較高。

有人說，在沒有匹配的資料庫上運行人臉識別可能是失敗的原因，但這種客觀條件與現有的面部識別系統每天面對的實際情況類似。倫敦警察廳所使用的系統，平均每運行一次就會產生多達49次錯誤匹配，這就要求警察們手動處理這些錯誤匹配。更重要的是，在匹配中，超過5%的受試者更容易觸發某種特定類型的錯誤匹配，這表明部分人群被「歧視」對待。

實際上，大多數被面部識別出來的嫌疑人在被逮捕之前都要經過人類的確認，但批評人士說，這樣的檢查對於一個普通人來說也會造成傷害。斯諾說:「想像一下，一名警官在暗地裡逮捕了一個人，確認身份後，卻發現人找錯了。不難想像這些錯誤信息在執法的一些危急關頭會造成多麼嚴重的後果。

該測試還引發了人們對Rekognition系統竟然能在如此寬鬆的監督體制下輕鬆部署在人們生活中的擔憂。ACLU的所有數據都是從公眾可獲得的資源中收集的，包括25,000張面部照片(由於隱私的原因，該組織拒絕透露具體的來源，但許多州將照片作為公開記錄)，而且亞馬遜的系統還比那些非雲端的產品便宜得多，ACLU的測試僅花費12.33美元。如此方便，但也如此可怕，人們的生活時時刻刻毫無成本地被暴露在這種高曝光率的監督之下。

這次試驗已經引起了國會三名議員的強烈反應。測試公布後不久，參議員Markey、眾議員Gutiérrez和DeSaulnier在一封致亞馬遜首席執行官Jeff Bezos的公開信上簽名，信中要求提供使用該技術的執法機構的完整名單，並詢問在13歲以下兒童身上使用該技術的保障措施。

信中寫道:「人們對面部識別可能對隱私和公民權利造成的危害提出了嚴重擔憂，尤其是當它被用作政府監控的工具時。」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！