亞馬遜面部識別AI犯眾怒，圖靈獎得主呼籲暫停售予執法機構

亞馬遜先前將其面部識別工具 Rekognition 提供給警方使用，引起侵犯民眾隱私的爭議，當時遭到亞馬遜員工、用戶、民間組織等超過 15 萬人聯名抗議。

現在，至少 26 位重量級 AI 研究人員發出公開信，指出 Rekognition 面部分類有高錯誤率、性別歧視、偏差等問題，要求亞馬遜停止向執法部門出售該工具，包括 ACM A.M. 圖靈獎得主 Yoshua Bengio、加州理工學院教授 Anima Anandkumar、谷歌旗下幾位知名研究人員包括 Timnit Gebru、 Margaret Mitchell、Sergio Guadarrama 等都簽署此信。

圖丨ACM A.M. 圖靈獎得主 Yoshua Bengio 呼籲亞馬遜停止向執法部門出售 Rekognition 工具（來源：Facebook）

人工智慧衍生的道德、偏見爭論越演越烈，幾家美國科技巨頭都曾惹出犯眾怒事件，為了消弭外界質疑，不久前谷歌宣布建立一個先進技術外部道德委員會（ATEAC，Advanced Technology External Advisory Council），以協助谷歌面對及處理 AI 引起的道德、隱私、歧視等問題。

但才過了一周，這個外部 AI 道德委員會就面臨崩解，因為谷歌員工公開請願，要求谷歌撤銷某些本身就很有爭議性的成員，像是美國傳統基金會（Heritage Foundation）總裁 Kay Coles James，曾反對同性戀和跨性別人士的平等權利法律，且對移民採取強硬立場，另外還有 Trumbull 公司首席執行官 Dyan Gibbens，因為這家公司就是開發國防軍事相關的自動系統。

現在，被眾多重量級科學家盯上的則是亞馬遜 AWS 雲服務下的 Rekognition 產品。用戶只需將圖像或視頻提供給 Rekognition API，系統就會進行臉部分析和臉部辨識，以及識別各種物件、人物、文字、場景和活動。早期客戶包括佛羅里達州的奧蘭多警察局和俄勒岡州華盛頓縣警長辦公室。

今年 1 月多倫多大學研究人員 Inioluwa Deborah Raji 和麻省理工學院媒體實驗室研究員 Joy Buolamwini 發表一份研究，指出亞馬遜的 Rekognition 在分類膚色較深的女性，比膚色較淺的男性，有更高的錯誤率，如 Rekognition 在識別照片中女性和深色皮膚面孔，19％的女性被誤認為男性，並且皮膚較黑的女性則有 31％ 被誤認為男性。

除了 Rekognition 之外，Joy Buolamwini 也曾研究了 IBM、微軟和國內曠視科技的 Megvii 的服務，當研究人員提出的問題後，這三家公司隨即都改善了他們的服務，錯誤率也跟著降低，以正面的態度回應。

但唯獨亞馬遜態度強硬，兩位亞馬遜的高管：AWS 人工智慧總經理 Matthew Wood 和全球公共政策副總裁 Michael Punke 在博客上反駁，指此研究誤導並得出錯誤結論。

一直到現在，此事件並未消停，日前一群知名的研究人員在 Medium 上發布公開文章反擊，指出亞馬遜的博客文章錯誤表達技術細節，並呼籲亞馬遜停止向執法部門出售 Rekognition，因為立法和防止濫用的保障措施尚未到位。

而響應的研究人員也相繼提出看法，Yoshua Bengio 在其 Facebook 帳號寫下：「我與其他學者簽署了這封信，呼籲亞馬遜停止向執法部門出售它們的面部分析 AI—Rekognition，直到法規到位，以防止濫用和偏見，並保護受影響的社區」。另外，Anima Anandkumar 也表示：「我們需要對公開發布的 AI 服務負責。從人臉識別開始」。

圖丨Anima Anandkumar 響應呼籲（來源：anima-ai.org）

從去年開始，就不斷有類似抗議或請願事件出現，反映出學術界和科技行業越來越擔心面部識別技術的偏見，這也是一個系統性問題，並不是少數 AI 研究人員或公司的責任，而是當全球相繼重金投入發展 AI，就得面對的問題。

-End-

坐標：北京·國貿

請隨簡歷附上3篇往期作品（實習生除外）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！