亞馬遜員工公開致信貝索斯，希望公司停止與政府合作面部識別系統

「當一家公司把一項新技術介紹給世界時，它必須負責地去考慮後果。我所工作的亞馬遜，現在允許全國警察系統購買面部識別產品 Rekognition，我和其他員工呼籲停止這樣的行為。」

Rekognition 可以做到提取一幀視頻中的幾十個面容 ID，把它們存儲起來留做後用，或者即時將之與資料庫中百萬張照片對比。

他們擔憂的地方在於，執法部門在沒有公眾監督、社會問責和亞馬遜限制的情況下使用這些技術（這是個進行時的事件而非未來設想），很可能造成對人權的侵犯，「我們都知道，把強大的新監控技術隨意交給國家，讓它被用於還沒做任何錯事的無辜公民會發生什麼事」。

他們還認為，這項技術很容易導向對少數族群的歧視。Rekognition 並非一個完美的系統，和其他識別系統一樣，它在鑒別深色皮膚人種時錯誤率更高。在一次實驗中，系統將國會每位成員的照片和一組犯罪嫌疑人照片對比，當中出現了 28 組錯誤配對，有色人種明顯佔比更大。「就算它被修正，它仍然是不負責任又危險的……已有的人類偏見導致了系統的偏見，它只會複製並放大現存的壓迫體系。」

在政府日益加強對公民監控的環境下，「像我們這樣的公司絕對不應該陷入助力專制監控的事業，現在不該，永遠都不該」。

亞馬遜高層的態度也是激怒員工們的原因。幾周前已經有 450 多名員工聯名要求 CEO 傑夫·貝索斯別將識別軟體賣給政府部門，卻未收到任何回應。而貝索斯在 15 日的 Wired25 大會上說，公司將持續和國防部合作，「如果大科技公司都拒絕了國防部，那麼這個國家會陷入麻煩……這是我們該做的事情，高層領袖的工作之一就是做出正確決定，就算它不受歡迎。」

雖然他承認有些技術可能被濫用，但這不是叫停新技術發展的理由。他認為最終社會會自行發展出一套應對技術錯誤運用的「免疫反應」，「我擔心某些技術對於獨裁者加強政權很有幫助……但這不是最近發生的事情，它一直以來都在發生。我們總會解決這個問題的。」

就在三個月前，亞馬遜網路服務的全球 VP 特蕾莎·卡爾森也表示，公司將「忠貞不渝」地支持執法部門、國防部和情報部的客戶，就算「我們對他們要用這些工具做什麼一概不知」。

而員工們認為，亞馬遜做的應該比「等待免疫反應」更多，如果只是等待，那麼「造成的傷害很難扭轉」。

科技公司近來常因與政府部門合作而遭到員工抵制。谷歌今年便向僱員妥協了兩次，分別是同意終止為五角大樓開發用以支持軍用無人機的 AI，以及放棄五角大樓那份價值百億美元的雲計算服務 「JEDI」 合同；微軟也想獲得 「JEDI」，但是它同樣遭到了員工的公開抗議，「不透明的條款讓一個普通的微軟人幾乎無法知道自己在寫的代碼是不是被用於傷害和監控」。

亞馬遜公開信的結尾也提到了科技公司員工的聯合力量，「我們不會沉默地開發科技去壓迫和殺人，無論是在自己的國家還是在別的國家。」

我們做了一個壁紙應用，給你的手機加點好奇心。去 App 商店搜好奇怪下載吧。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！