來源：VentureBeat；NYT等

作者：文強，克雷格

【新智元導讀】在扎克伯格的國會聽證中，「AI」一詞出現了不下30次，人工智慧真能成為拯救Facebook的關鍵嗎？長久以來避而不提的隱私和安全問題，也因此被擺上檯面，現在正是演算法學會法律和道德發展的關鍵時刻。掌握大量用戶信息的科技公司，或許應當被看做「信息受託人」，承擔數字信息時代新的責任。

「人工智慧」這個詞，被扎克伯格在10小時內說了超過30次。

打擊假新聞、仇恨言論、歧視性廣告和恐怖宣傳……小扎堅持認為，人工智慧將解決Facebook最棘手的內容審查問題。

最後，在議員們強烈的攻勢之下，小扎終於給出了一個模糊的時間：5到10年，AI可以解決內容審查問題。

扎克伯格在參議院聽證會。圖片來源：Chicago Sun-Times

但Facebook面臨的最棘手問題並非是內容審核，而是潛藏在劍橋數據事件背後的隱私問題。

如果說，李彥宏的那句「中國更開放，對隱私沒那麼敏感」掀起了網友的集體圍攻，那麼扎克伯格這幾天接受議員們的集中轟炸，則是對世界範圍內用戶隱私問題的一場公開教育。

AI能拯救Facebook嗎？

在昨天舉行的參議院聽證會上，共和党參議員約翰·圖恩（John Thune）問扎克伯格，Facebook目前如何應對在社交媒體平台上的仇恨言論，以及涉及的各種挑戰。

扎克伯格說，Facebook過去沒有能力刪除這類內容，但最近人工智慧的進展終於使這成為可能。小扎說，AI過濾器能夠識別支持ISIS和基地組織的內容，還開發了自動的工具，這些工具可以判斷用戶是否有自殺/殘傾向。

小扎認為，Facebook在將人工智慧部署到警方打擊恐怖主義宣傳方面「非常成功」。「今天，我們坐在這裡，99%的ISIS和基地組織在Facebook上的內容，都被我們刪除了。我們的AI系統能夠在任何人看到（ISIS和基地組織言論）之前就標記出來。」

不過，當參議員問起AI多久能夠完全打擊有害言論，小扎就沒有那麼十足的底氣了。

在多輪質詢下，小扎說：「我很樂觀地認為，在5到10年的時間裡，我們將會有人工智慧工具，可以識別不同類型的內容在語言上的細微差別，但今天我們還做不到。」

另外，一些反極端主義等非營利組織也認為，Facebook誇大了自己的成就，未能打擊知名的伊斯蘭極端分子。

儘管技術不成熟，但是Facebook已經認為，自身的人工智慧在檢測問題內容方面很成功。Facebook的AI幫助它刪除了數千個虛假賬戶，並「發現可疑行為」，其中包括去年在阿拉巴馬州舉行的特別參議員競選，當時人工智慧幫助發現了來自馬其頓的政治垃圾郵件，避免了選舉受到外國的影響。

Facebook以低調但非常重要的方式使用人工智慧，比如識別人們的面部照片，並利用演算法來決定廣告或新聞推送的位置，以最大化用戶的點擊和關注。

但就是這種精準的用戶信息和推送，被劍橋數據利用之後，造成了小扎今天的危機。

長久避而不談的隱私安全，第一次走進公眾視野

被強勢圍觀的扎克伯格。圖片來源：People.com

議員們根本不會關心5-10年後的Facebook是否會100%審核內容，他們只關心小扎你自己在內的數據是怎麼被泄露的，人們還有沒有隱私可言？

幾位參議員認為隱私是Facebook的要害，他們認為Facebook收集到的大量數據無法被信任，並且其中很大一部分是在沒有用戶充分理解的情況下收集的。三位參議員提出了隱私立法，要求在收集和分享用戶的數據前，必須經過用戶允許。

但扎克伯格提出異議，沒有對任何具體的立法提案表示支持。

新澤西州民主黨眾議員弗蘭克·帕隆(Frank Pallone Jr.)向扎克伯格施壓，要求他在Facebook是否同意或拒絕改變Facebook的默認設置，以盡量減少用戶數據的收集和使用。

扎克伯格提議成立一個數字消費者保護機構，讓Facebook和同行在某種程度上能參與政府的行動。

此外，而關於隱私問題，扎克伯格遇到的不僅是美國老鄉們的詢問，也受到了來自歐盟的壓力。

歐盟即將實施《通用數據保護條例》(General Data Protection Regulation)，在歐洲監管機構和隱私維權人士看來，Facebook目前的一些做法似乎違反了新法律。因為歐洲法律要求隱私設計和違約責任。歐洲專家表示，這將要求Facebook關閉大量的廣告和隱私設置，這些設置目前被設置為共享，並且請求用戶允許打開。

目前，小扎還沒有詳細的應對計劃。

隱私專家：互聯網用戶第一次更願意承擔不便，換取隱私

「劍橋分析數據門」是讓扎克伯格登上國會山的首要原因。

根據新智元之前的報道，Facebook數據門的最終問題是出在了終端研究者，一位名叫Aleksandr Kogan的劍橋學者——不是劍橋分析公司，將其通過API收集到的公開數據分享出售，而這些數據本來應該是保密的。Facebook的責任是在開放API之後跟蹤數據流向，確保這些數據不會遭到濫用。但這本身很難做到，所以Facebook在2014年後乾脆取消了一系列允許第三方獲取公開數據的API。

此外，引發爭議的還有Facebook的數據共享政策。Facebook允許第三方應用開發者通過這些應用收集開發者想要的所有的用戶數據。後續調查顯示，Facebook的一個搜索功能讓人通過僅搜索某個用戶的電話號碼或電子郵件地址，就能查找到這個Facebook用戶的公開個人資料，包括性別和出生日期等信息。被這一功能影響的人數量高達8700萬，連扎克伯格本人也在其中。

實際上，Facebook用戶在不知情或者沒有授權的情況下，數據被拿去與朋友共享，這件事是當時許多隱私權倡導者都注意到了的嚴重問題。但是，多年以來一直沒有得到重視。

美國公民自由聯盟（ACLU）的立法顧問Neema Singh Guliani表示，ACLU多年來一直讓Facebook監督第三方如何使用數據，但當時很少有人關注。Guliani在接受《紐約時報》採訪時表示：「我們正在討論一個十年前就該討論的議題。」

在此期間，有很多類似的隱私問題爆出。例如，谷歌在構建Goolge地圖時曾經採集私人WiFi信息，但這件事只引發了短暫的討論，並沒有對之後矽谷的公司大量採集數據產生任何持續性的影響。

但Facebook數據門，讓很多隱私專家看到了希望。事件已經持續發酵了將近一個月，而且連續佔據各大新聞媒體的頭條。全美乃至全世界的人都在關注事件的走向，它第一次讓一個長久以來都存在但人們一直避而不談，或者說不作為的問題擺上檯面，進入公眾的視野。

一直以來，消費者對安全和隱私不怎麼感興趣的原因之一，在於危害很模糊，難以定義。但在Facebook數據門中，這種危害是可以識別的，很多人第一次意識到，「我的信息被政府高層拿去操縱我的行為」。

許多隱私專家第一次認為，互聯網用戶會更願意承擔一些不便，換取更多隱私。

這一次或許有切實的改觀出現。對於許多開發人員來說，現在是推動測試更多隱私解決方案的合適時機，包括更先進的廣告攔截器，分散互聯網的點對點瀏覽器，新的加密技術，以及讓用戶彙集數據並自行銷售的數據聯盟。其他人則希望將科技巨頭更多地視為信息受託人，因為信息受託人有法律責任保護用戶數據。

數字時代新的商業類型：掌握大量用戶數據的公司是「信息受託人」

耶魯大學法學院教授 Jack Balkin撰文稱，我們應該將掌握大量用戶數據的公司，比如Facebook、谷歌，看做「信息受託人」（information fiduciary）——Facebook擁有如此多的用戶的數據，由於其運營不透明，人們很容易受Facebook如何使用這些數據的影響。這意味著人們必須相信Facebook不會濫用自己交付給Facebook的數據。

因此，Facebook持有這些數據的權利，取決於其不濫用這種信任的責任。而這正是承擔受託責任的本質，弱勢群體必須信任為他們提供服務的人（也即受託人），而受託人則不應當濫用這種信任。

這一點很好理解，律師和醫生等專業人士持有其客戶的敏感個人信息，以便為這些客戶提供服務。他們的客戶必須信任他們，這樣專業人員才能執行這些服務。同樣，Facebook也提供了一種服務——社交網路——許多人認為這種服務有價值。在提供這項服務的過程中，人們提供了大量有關他們自己的數據，使他們（以及他們的朋友和親人）更容易受到Facebook的影響。正如扎克伯格所說：

「我們有責任保護你的數據，如果我們不能，我們不配為你服務。我一直在努力了解到底發生了什麼，以及如何確保這不再發生。」

扎克伯格表示，自2007年起，Facebook就修改條例，保護終端用戶的數據不受濫用。Jack Balkin指出這一點十分重要，扎克伯格向全世界表示，Facebook的目標不僅僅是實現其隱私政策（很少有人能看懂這種晦澀的說明），而且有義務保證信譽和誠信，超越隱私政策的具體措詞。這正是信息受託人的責任。

其次，扎克伯格在描述劍橋分析事件時說：「這違反了Kogan、Cambridge Analytica和Facebook之間的一種信任。這暴露了Facebook和所有與我們分享數據並希望我們保護數據的人之間的信任缺口。我們需要解決這個問題。」

換句話說，扎克伯格認為，Facebook有責任保護其最終用戶免受濫用，不僅僅是從自己的行為中，而且還要從與其共享數據的人的行為中受到保護。

Balkin認為，Facebook有責任確保只要允許其他人或企業查看或使用Facebook的最終用戶數據，這些人和企業就必須承擔Facebook本身必須承擔的責任。

「這是演算法學會法律和道德準則發展的重要時刻。數字時代最強大的公司之一的創始人說：（1）我們對最終用戶有責任; （2）我們破壞了這種信任; （3）我們因為允許第三方操縱和濫用最終用戶對我們的信任破壞了這種信任。

「這表明數字時代正在出現一種新的商業類型，我稱之為信息受託人。」Balkin寫道。

正如我們以前所說，Facebook數據門的核心，不僅僅是Facebook對用戶信息的處理不當，或是揪出責任在誰，而是這家每個月有20億人在使用的公司是否值得信賴。我們是否能夠安心地把地球上三分之一的人的信息交給這個平台去處理，並讓這個信息交換平台繼續成為我們生活的核心組成部分。

這一點，對中國的億萬互聯網用戶，以及中國的互聯網和社交網路巨頭，也通用適用。

「我想中國人可以更加開放，對隱私問題沒有那麼敏感。」儘管李彥宏這句飽受爭議的話後來被證明是被斷章取義，但這足以證明用戶對中國的互聯網公司在保護數據及隱私安全方面的努力並不滿意。

最後說一句，4月2日，國務院辦公廳印發《科學數據管理辦法》，進一步加強和規範科學數據管理，保障科學數據安全。

而在企業和商業領域，適應時代發展新情況的數據管理辦法，還需要實踐和時間。

參考資料

1. https://venturebeat.com/2018/04/11/mark-zuckerberg-is-betting-ai-will-address-facebooks-biggest-problems/

2. https://balkin.blogspot.com/2018/03/mark-zuckerberg-announces-that-facebook.html

3. https://www.nytimes.com/2018/04/12/technology/privacy-researchers-facebook.html

4. http://www.gov.cn/zhengce/content/2018-04/02/content_5279272.htm

【加入社群】

新智元 AI 技術 + 產業社群招募中，歡迎對 AI 技術 + 產業落地感興趣的同學，加小助手微信號: aiera2015_1 入群；通過審核後我們將邀請進群，加入社群後務必修改群備註（姓名 - 公司 - 職位；專業群審核較嚴，敬請諒解）。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！