微軟總裁Brad Smith呼籲：人臉識別技術落地要走得更慢一些

微軟總裁Brad Smith今日在博客中寫道：我們在部署全方位人臉識別技術時要走得更慢一些。許多信息技術與醫藥產品不同，可以快速、廣泛地分發，以加快創新和使用的步伐。過去十年，『快速行動，打破局面』成為矽谷的口頭禪。但如果我們在人臉識別方面行動太快，人們的基本權利就要被打破。

人臉識別是一個有爭議的技術，此前就發生不少的案例。

2017年3月，在美國眾議院監督委員會聽證會上，眾議院代表指責聯邦調查局使用了一個人臉識別系統，錯誤率接近15％。呼籲FBI對人臉識別技術做出更為嚴格的監管，當它正逐漸滲透到執法和商業活動中的時候。

2018年4月，據路透社報道，Facebook使用生物統計數據，在未經用戶同意的情況下，非法對用戶照片進行人臉識別，並存儲相關信息。這一行為觸犯了美國伊利諾伊州有關保護生物信息隱私的法律，用戶可對其提起集體訴訟。按照相關條款，每張未經允許被Facebook自動識別的照片，都有可能獲得1000~5000美元的賠償，約合人民幣6285~31424元。

2018年5月，據路透社報道，逾40個社會團體致函亞馬遜創始人兼首席執行官傑夫·貝索斯（Jeff Bezos），呼籲亞馬遜停止向政府提供人臉識別服務，並警告稱該軟體可能導致公民的數據被濫用及隱私遭到侵犯。

但人臉識別技術應用方面的監管很模糊，今日（7月14日），微軟總裁Brad Smith（布拉德·史密斯）在博客中呼籲立法部門調查人臉檢測演算法並制定指導其使用的政策。

今年早些時候，史密斯和微軟人工智慧主管Harry Shum就發表了一篇論文，預測人工智慧的進步將需要新的法律。史密斯今天的發帖標誌著微軟公司首次明確倡導對人臉識別系統進行監管，其態度與亞馬遜等競爭對手不同，亞馬遜在6月份表示，私營部門「採取負責任的行動」使用人工智慧技術。

史密斯寫道：「我們需要更多科技公司一起倡導限制政府機構對人臉識別技術的應用方式，在一個民主共和國，對於需要平衡公共安全和民主自由的本質問題，我們的民選代表的決策是無可替代的......我們生活在一個法治國家，政府需要在管理人臉識別技術方面發揮重要作用。」

史密斯指出，人臉識別正深深融入我們的社會，這並不一定是壞事。印度警方用它在4天內追蹤了3000多名失蹤兒童，地方當局還建立了一個人臉識別資料庫，以識別參與上個月致命的首都公報槍擊案的嫌疑人。但這並不意味著不存在濫用的可能性。

「想像一下，一個政府在過去一個月里，在未經你允許或不知情的情況下，到處跟蹤你走過的地方。想像一下，每個參加政治集會的人的資料庫構成了言論自由的本質。想像一下，一家購物中心的商店使用人臉識別來相互分享關於你瀏覽的每個貨架和你購買的產品的信息，而無需先詢問你。長期以來，這一直是科幻小說和流行電影的素材——比如「Minority Report」，「Enemy of the State」，甚至是1984——但現在，它已經接近成為可能，」史密斯說。

這也是一項不完善的技術。史密斯指出，一些面識別系統在非裔美國人臉上的表現明顯比白種人差，而且識別女性比男性更難。（二月份，微軟研究人員Timnit Gebru寫的一篇論文顯示，對膚色較深的女性進行分類的系統錯誤率高達百分之三十五。

在本月早些時候的一篇techcrunch專欄文章中，一家研究面部識別技術的初創公司的首席執行官Brian Brackeen拉開了這個行業不那麼秘密巨大問題的帷幕:

用於識別嫌疑犯的面部識別技術對有色人種產生了負面影響，否認這一事實是謊言。

顯然，面部識別驅動的政府監控是對所有公民隱私的非同尋常的侵犯，我們將完全失去對我們身份的控制。

我們面對這些事情真的沒有「好」的方法。

「即使偏見得到解決，人臉識別系統的運作方式被認為對所有人都是公平的，我們仍將面臨潛在失敗的挑戰。」史密斯說，「人臉識別和許多人工智慧技術一樣，即使是以不偏不倚的方式操作，也有一定的錯誤率。」

史密斯沒有呼籲制定具體的法律或道德原則，但他提出了一系列問題供監管機構考慮，包括「人臉識別的執法使用是否應該受到人類監督和控制？」以及「我們是否應該確保作為政府國家安全技術實踐的一部分，對人臉識別的使用進行民間監督和問責？」

至於法規如何通過，史密斯認為立法部門應該「利用正確的機制」收集專家意見，為他們的決策提供信息。包括任命兩黨專家委員會——特別是那些建立在學術界以及公共和私營部門工作基礎上的專家委員會。

他寫道：「這樣一個委員會的目的應該包括就需要什麼樣的新法律和條例向國會提出建議，以及更有力的做法，以確保國會在整個行政部門對這一技術進行適當監督。」

史密斯謹慎地指出，國會的規定一旦出台，並不意味著企業可以放棄自己的責任。他呼籲科技公司要研究降低人臉識別技術識別偏差風險的方法，以「有原則」和「透明」的方式開發人臉檢測系統，以「全面」和「負責」方式參與有關這項技術的公共政策辯論。

微軟已經成立了一個名為「Aether委員會」的內部諮詢小組研究人工智慧的應用，並發布了一套開發人工智慧技術的倫理原則。微軟已經拒絕了為客戶部署人臉識別技術的要求，「我們得出結論，它存在更大的人權風險」，微軟拒絕提供細節。

「所有技術都可以用於好或壞，」史密斯寫道，「技術越強大，它可能帶來的好處或損害就越大......人臉識別技術引發的問題涉及隱私和言論自由等基本人權保護的核心。」

「我們認識到在部署全方位人臉識別技術時走得更慢的重要性，」史密斯寫道，「許多信息技術與醫藥產品不同，可以快速、廣泛地分發，以加快創新和使用的步伐。過去十年，『快速行動，打破局面』成為矽谷的口頭禪。但如果我們在人臉識別方面行動太快，人們的基本權利正在被打破。」

VIA：venturebeat、techcrunch

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！