亞馬遜將人臉識別武器化，你的臉還好嗎？

文 | 柯鳴

來源 | 智能相對論（aixdlun）

這一天終究還是來了。

亞馬遜開始向軍方推銷起AI武器來了。

據悉，亞馬遜正在為政府和警察部門推銷其一款名為Amazon Rekognition的產品，這款產品可以實時識別，跟蹤和分析人員，並在單幅圖像中識別多達100個人。它還可以快速掃描收集的信息，與資料庫數千萬張面孔進行比對。

這意味著，通過亞馬遜的技術可以監控「團體照片、擁擠人群以及機場等公共場所中的所有面孔」。此消息一出，瞬間引發了一系列恐慌。美國公民自由聯盟（ACLU）組織了30多個民權組織聯合反對亞馬遜的此行為，並舉行一系列抗議活動，反對美國政府使用人臉識別技術，並要求亞馬遜CEO貝索斯停止向政府出售Rekognition。

大部分民眾認為，通過Rekognition，政府現在可以構建一個自動識別和跟蹤任何人的系統。如果警察配備的隨身攝像頭配備了人臉識別裝置，那麼原本用於執法透明和問責制的裝置將轉變為針對公眾的監視器。

亞馬遜Rekognition的精準人臉識別

「風口浪尖」的亞馬遜

此舉一出，亞馬遜內部及其用戶議論紛紛。

在亞馬遜內部，許多員工加入民權團體，對其行為進行抗議，並認為這將對公民權利、特別是對移民和人民會產生獨特威脅。

6月份，亞馬遜內部的100多名員工更是向CEO傑夫·貝索斯（Jeff Bezos）遞交了一份公開信，要求公司停止向ICE和其他執法機構出售侵入性和違憲的Rekognition面部識別技術。

亞馬遜CEO傑夫·貝索斯（Jeff Bezos）

除了要求停止出售Rekognition之外，亞馬遜員工在信中還呼籲公司停止對數據分析公司Palantir提供支持。

Palantir是Peter Thiel於2003年創立的大數據公司，為執法部門提供預測性警務工具，並通過亞馬遜網路服務公司與ICE簽訂了大量合同（Thiel曾秘密資助了一起導致Gizmodo的前母公司Gizker Media破產的訴訟）。

但是，對此情況，亞馬遜並不買賬。面對「內外夾擊」般的抗議，亞馬遜並沒有像谷歌一般將項目推遲，而是選擇了「正面硬剛」。亞馬遜回應：不能因為技術可能會被濫用就限制其進步。並表示其將堅決的捍衛Rekognition。

在商言商，從商業角度來看，亞馬遜的行為沒有原則性的問題，但是，當人臉識別技術牽涉的「倫理」、「隱私安全」等敏感領域時，這就不像亞馬遜說的這樣簡單了。

人臉識別，想說愛你不容易

人臉識別技術已經投入市場中有相當長的時間了，可是從其表現來看，並沒有想像中優異。智能相對論（aixdlun）分析師柯鳴認為，人臉識別技術的發展，其依然存在著較多問題。

1.「冤枉了98%的好人」

人臉識別的準確率，遠沒有我們想像中的那麼高。在此前倫敦議會聽證會上，大都會警察局局長Cressida Dick透露出，本地警察局部署的人臉識別系統準確率僅為2%。

去年6月的歐冠聯賽上，當南威爾士警方的人臉識別相機首次應用時，系統發出了2470次警報。也就是說，在這場球賽中每隔三秒就會提示嫌犯來了，系統的努力程度著實令人感動。

但是，在這兩千多次的預警中，只有173次是正確的判斷，AFR的錯誤率高達92%。英國警方給出的統計數據顯示，截止到今年5月份，南威爾士警方的AFR識別錯誤率平均為91%。

歷史上最著名的人臉誤判案例可能是1903年在美國堪薩斯州發生的William West-Will West案件。當時一個名為威爾·韋斯特(Will West)的犯人正要被收押進萊文沃思(Leavenworth)監獄。監獄職員看他面熟，問他以前是否來過這裡，威爾說沒有。接著職員調出了William West的照片給威爾看，威爾說：「這的確是我，可是你們是怎麼拿到這張照片的呢?以前我從未到這兒來過。」從此，從美國開始，各國監獄和司法系統開始用指紋進行罪犯身份登記和管理。

顯然，此類的烏龍事件讓人啼笑皆非的同時也不免有陣陣隱憂。如此「不靠譜」的人臉識別，真的能夠成為安防等領域的保護傘嗎？

2.人臉識別，道阻且長

先不論人臉識別本身的正確率，其自身運作中也存在著一部分問題。

首先，人臉識別並不是精準信息對比，而僅僅是相似度對比。因為人臉識別和算大技術不同，值的設定方法完全不同，評判的標準自然也不同，即使從識別實際效果看，其包括誤識率（FAR）：將其他人誤作指定人員的概率；以及拒識率（FRR）：將指定人員誤作其他人員的概率。這些結果都受到訓練和測試空間樣本的影響，難以做到完全精確。

其次，人臉圖片的採集如果不做活體監測，就易招致基於用戶照片的重放攻擊。活體檢測的話，對後台的計算資源和網路的傳輸資源要求較高，所以在目前實際上線的人臉識別都是非常容易攻破的。

最後，人臉形態的易變形讓人臉識別更易出錯。人可以通過臉部的變化產生很多表情，而在不同觀察角度，人臉的視覺圖像也相差很大，另外，人臉識別還受光照條件(例如白天和夜晚，室內和室外等)、人臉的很多遮蓋物(例如口罩、墨鏡、頭髮、鬍鬚等)、年齡等多方面因素的影響。

隱私的無情泄露，你的臉還好嗎？

在大量的抗議面前，三大公司中微軟首先選擇了低頭。在關於人臉識別的潛在用途和濫用的一篇博客文章中，微軟總裁Bradford L. Smith將該技術與受到全面監管的藥品和汽車等產品進行了比較，並敦促美國國會展開研究並監督人臉識別技術的使用。

作為人臉識別軟體主要製造商之一，微軟表示它將採取措施降低這些系統產生偏差的可能性；制定新的公共原則來管理技術；並會更謹慎地出售其在該領域的軟體和專業知識。微軟指出，雖然技術行業需要對其產品負責，但是政府也要採取行動。

人臉識別是目前AI領域裡應用最廣泛的技術之一，但在推廣的過程中也引起了越來越多的爭議。今年4月，個人隱私保護組織向美國聯邦貿易委員會提起訴訟，稱Facebook在未獲得用戶適當許可的情況下開啟了新的人臉識別服務。

當前，大數據、雲計算和人工智慧等技術推動移動互聯網中新的應用場景層出不窮，但其背後的隱私和數據保護，已經成為網路平台和移動終端迫在眉睫的要務。從整體移動終端市場來看，應用領域數據濫用的情況十分突出。第三方應用對於個人信息過度收集、隱秘收集和誘騙收集的情況日漸增多。

用戶隱私數據安全挑戰加劇主要出於三方面原因：

第一，過於籠統的「用戶協議」販賣了用戶信息，獲取和收集用戶個人信息的授權，導致個人信息使用的不規範甚至大量泄漏。

第二，用戶本身對保護個人信息重視程度不足。出於方便的考慮，不少用戶在多處使用簡單重複的賬號和密碼，當一處信息泄露便導致整體信息暴露。

第三，法律層面的缺失。當數據如同能源一樣重要時，法律法規的滯後在一定程度上導致了數據安全和隱私保護的缺失。數據所有權、數據交易規則等基礎法律界定仍未明確。例如，個人數據原本屬於用戶本身，但用戶在網路平台中所產生的數據，如交易數據和行為數據，在經過脫敏後其所有權和使用權歸屬用戶還是平台，仍未有答案。

從目前來看，人臉識別的場景也主要分為兩種：一種是線上，如電腦通過你上傳的用戶圖像識別你的身份；另一個是線下，如系統通過你在街上被監視器拍到照片來識別你的身份。而當前的情況是，線上與線下的數據保護都做的遠遠不夠。所謂的用戶授權更多是形同虛設，誰真正擁有了我們的「臉」？ 臉部識別軟體的政府監管，將如何進行?人臉隱私保護這條路，似乎還需要堅強的走下去。（授權轉載）

科普百分百·助力科普中國，讓科學知識在網上和生活中流行起來。溫馨提示：以上為科普百分百網上閱讀所瀏覽內容，轉載分享只為知識傳播和學習宣傳，本文內容僅代表原作者觀點，如有意見建議，請私信留言，我們會及時處理。歡迎關注，謝謝。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！