圍攻微軟，AI 何罪？

關鍵時刻，第一時間送達！

技術本身並不可恥！

兩年前快播 CEO 王欣在庭審為自己辯解時如是說。確然，菜刀本無罪，但是向衝突的雙方兜售菜刀就是有罪。技術本無罪，但人為地利用技術作惡就是罪無可赦。

山雨欲來風滿樓。隨著硬體的勢如破竹、卷積神經網路模型的提升，深度學習技術得以打破常規，將人工智慧第三次浪潮推向頂峰。而微軟、Google、Facebook、亞馬遜、百度、阿里巴巴、騰訊等科技行業巨頭的紛紛入席，無疑為這場戰爭開闢了多個領域多條戰線，語音助理、自動駕駛、人臉識別、智能翻譯、無人機等應用的研發炫技琳琅滿目。毫無疑問，如今的這場戰爭已進入白熱化階段，各路兵鋒扭轉指向了未來。然而，為了搶佔更多應用領域的先機，很多人利用 AI 開始了作惡。

▌微軟：妻離子散事件的幫凶

這兩天的微軟一直佔據各大科技媒體的頭條，不再是因為收購了 GitHub、也不是收購教育創業公司 Flipgrid，而是因為他與美國的移民和海關執法局（Immigration and Customs Enforcement ，簡稱 ICE)）簽訂了雲計算軟體 Azure Government 的合同。對，就是那個今年 1 月份，微軟發博文以及 Twitter 昭告天下且非常「proud」的合同。

要論一份合同如何掀起一場腥風血雨，那必然是有導火索。

這要從近幾年川普政府不斷出台強硬的移民政策談起。雖然一直以來，川普政府都對移民進行施壓，ICE 也逐漸加強了無證移民的抓捕力度。但在今年 5 月，特朗普政府開始對移民實施「零容忍」政策，對所有從墨西哥非法越境的人均實施抓捕，但對於移民而言，他們大多是拖家帶口進行遷移，而「零容忍」政策並未規定未成年的非法移民應該怎麼辦，所以現在釀成的局面就是所有的成人被關押起來，他們的孩子被迫分離，被另行關押。

為了安置激增的非法移民兒童，美國當局搭建了許多臨時收容中心。美國海關與邊境保護局發布的照片顯示了一個被移民們稱為「La Perrera」（西班牙語，意為「狗窩」）的地方。據美聯社報道，每個鐵籠約 100 平米，關有 20 名兒童，到處散落著空礦泉水瓶、薯片袋以及用作毯子的錫紙。

此外，據美聯社從美國國土安全部獲得的信息，4 月 19 日至 5 月 31 日，共有 1995位兒童在美國和墨西哥邊境與移民父母分離，每天涉及兒童約達 48 人。

而作為科技巨頭微軟，如何捲入這場政府政策的紛爭之中，這就與上文提到的合同有關。微軟與今年 1 月發博文宣布，「微軟與美國空軍和 ICE 就微軟的 Azure 雲計算服務簽訂新合同。Azure 幫助 ICE 處理「敏感的未分類數據」，並包括使用「深度學習加速面部識別」和「身份驗證」的能力。」

目前，ICE 正在為國土安全和公共安全實施變革性技術。而微軟為 ICE 提供變革性技術主要有三點：

通過實時監控、智能分析來阻止非法出入境；

分析數據，在威脅到達邊境之前識別出來；

在不同機構、不同邊境地區之間合作。

到這裡，必然就明白了微軟為何被推向了風口浪尖，雖未直接作惡，但是為了追逐利益，為作惡提供了便利的通道，那麼民眾自然無法忍受。基於此，微軟發布緊急聲明表示：

微軟並沒有與美國移民和海關執法局或美國海關和邊境保護部門合作處理任何有關將孩子與家人分開的項目，而且我們並不知道 Azure 或 Azure 服務正在用於此目的。

微軟公司 20 多年來一直致力於將技術與法治相結合，以確保難民和移民的子女可以與父母保持聯繫。

最後，我們會敦促政府改變其政策以及希望國會通過立法，確保兒童不再與家人分開。

因為一句不知情就想要敷衍過去，且仍為 ICE 提供 Azure 服務，必然很多人並不會買賬。對此，一位作家及開發商 Mat Marquis 在 Twitter 上宣布，其正在取消與微軟的合作，以抗議微軟的 ICE 合同。與此同時，微軟員工也在向其管理層施壓，他們在致微軟 CEO 薩提亞·納德拉的公開信中，要求微軟取消與 ICE 簽訂價值 1940 萬美元的合同，並希望制定一項禁止與違反國際人權法的客戶進行合作的政策。

截止目前，微軟還未針對此公開信做出回應。事實上，用技術通道和政府部門達成合作，最終引發群眾質疑的科技公司，並非只有微軟一家。

▌Google：個人隱私的偷窺者

此前，標榜「永不作惡」的 Google 還是濕了鞋。

去年 4 月，Google 與美國國防部合作開展了 Maven 項目，其中 Google 旨在開發加快無人機影像分析速度的 AI 演算法，根據五角大樓的說法，該項目能夠幫助處理軍隊收集的「數百萬個小時的無人機拍攝視頻」，能夠自動檢測和識別無人機全動態攝像機捕獲的多達 38 種物體。

而對於 Google 首次與軍方合作這一消息傳出，立即引發業界強烈的質疑。他們認為 Google 為軍方提供的無人機監控操作服務會嚴重侵犯隱私安全，而且 Google 根本就不應該參與武器類產品的開發，因為最終要為帶來的殺傷擔責的不是演算法本身，而是創造它們的人。

而多方的質疑聲並未能讓 Google 改變心意。後來，Google 內部超 3100 名員工聯名上書 Google CEO 桑達爾·皮查伊、200 多名人工智慧領域專家聯名反對、多名員工提出離職以作抗議......

最終，迫於內外界重重壓力，Google 宣布不再與國防部續簽Maven 項目，並發布人工智慧使用的十一條準則來明哲保身，其中包括 Google 進行 AI 研發的七個目標：

要對社會有益

要避免製造或加強不平等的偏見

要保證安全性

要對人負責

要結合隱私設計原則

要維持科學卓越的高規格

要可以用於符合原則的使用場景

和 Google AI 絕不會進入的四種應用場景：

帶來或可能帶來傷害的技術

武器或其他旨在給人們造成傷害的技術

收集或使用信息用於監控並違反國際規範的科技

技術的目的違反了廣泛接受的國際法與人權原則的科技

至此，長達八個月的反對 AI 軍事化「抗爭」才落下帷幕。

▌亞馬遜：一切都在掌控之中

2016 年，亞馬遜推出了一款面部識別軟體 Rekognition，它是一種基於深度學習進行圖像識別和分析的託管服務，提供的功能包括物體和場景檢測、面部分析、面部比較和面部識別。RekogniTion 可被用於對數千萬個人臉進行實時面部識別，能夠從人員密集、具有挑戰性的照片中最多檢測到 100 個人臉。

近日，據外媒報道，俄勒岡州華盛頓縣警局將開始使用亞馬遜面部識別軟體 Rekognition，他們可以上傳人臉資料庫，並自動識別個人。此前，俄勒岡州華盛頓郡的一名系統分析師解釋了，Rekognition 如何分析包含 30 萬張被捕者照片的資料庫，與監控畫面中出現的面孔進行匹配。需要指出的是，這個資料庫中包含的是被捕的人，而不只是最終被認定有罪的人。如果被捕者被認定是無罪的，也不能保證他們的照片從這些資料庫中被清除。

對於此，20 家股東團體，及美國公民自由聯盟( ACLU )牽頭的 70 多個民權組織分别致信亞馬遜 CEO 貝索斯，要求停止向執法部門出售面部識別軟體 Rekognition 。股東認為，這項技術不僅可能對全國客戶和其他利益相關者構成隱私威脅，而且可能提高亞馬遜公司面臨的實質性風險，並為股東增加金融風險。

而由美國公民自由聯盟( ACLU )牽頭的 70 多個民權組織在請願書寫道:「面部識別並不是中立的技術，不管亞馬遜如何部署。它使大規模監控自動化，威脅到人們在政府監視之外的私人生活自由，並放大刑事司法系統中的偏見和不平等。」

亞馬遜對此並不認為 Rekognition 具有入侵性。其表示，作為一項技術，亞馬遜 Rekognition 在現實生活中也有許多有用的應用程序。同時，隨著越來越多公司開始使用亞馬遜 Rekognition 等先進技術，AI 服務在生活中效用只會增加。如果只是因為某些人可能會濫用 AI 技術，人們就選擇禁用 AI 技術，那生活質量將會變得更糟糕。

▌比核武器更加危險的 AI？

谷歌雲首席機器學習和人工智慧首席科學李飛飛曾表示過，要讓機器「不作惡」，人工智慧的開發需要有人本關懷。

與上述相悖的是，Google 發布 AI 工具，可用於診所之中，預測病人死亡風險；百度發布全新腫瘤識別 AI 演算法，準確率超專業病理醫生；Facebook 研發 AI 處理工具，可挽救拍照時閉眼難題。

所以，對於 AI 是否會成為妻離子散的棍棒、隱私的偷窺者，還是治病救人的醫生、便捷生活的工具......將都取決於你想要它成為什麼。而對於 AI 會比核武器更危險的威脅論，或許他們擔心的並不是技術本身，而是利益驅使下的人心罷了。就現在而言，想要判斷投入使用的 AI 技術是否會在將來遭到濫用，這道界限真的很難判斷，但需銘記的是Don"t be evil！

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！