扎克伯格最黑暗的一周：Keras作者炮轟：Facebook將淪為極權主義監獄
新智元報道
來源：venturebeat等
作者：肖琴、克雷格
隨著Cambridge Analytica醜聞的持續發酵，Facebook成了眾矢之的，一個讓人有點意外的譴責來自：谷歌。
谷歌研究員Fran?ois Chollet在昨天發表一系列推文，警告說，Facebook的問題不僅僅是隱私泄露或缺乏信任，而是由AI驅動的Facebook很快就會成為「極權主義的圓形監獄」。
他呼籲研究人員：「請表現出一些良知」。
Fran?ois Chollet：有良心的科學家都不該為Facebook工作
「我們目睹的是一個強大的實體，它建立了超過20億人的精細心理特徵，進行著大規模的行為操縱實驗，它的目的是開發出世界上最好的AI技術。就我個人而言，這真的令我感到害怕。」Chollet昨天發推特說，「如果你是做AI的，請不要幫助他們。不要玩他們的遊戲。不要參與他們的研究生態系統。請表現出一些良知。」
Fran?ois Chollet
根據Fran?ois Chollet的LinkedIn個人資料，自2015年8月以來，Chollet一直是谷歌的一名軟體工程師和AI研究人員，專註於深度學習領域的研究。他最有名的頭銜是Keras的主要作者，Keras是一個有世界各地數十萬AI研究人員使用的開源深度學習庫。
Chollet認為，在Facebook事件中，問題不僅僅是「你的隱私受到了損失」，也不僅僅是你的隱私可以被用作極權主義的「圓形監獄」這一事實。在我看來，更令人擔憂的問題是，數字信息消費被用作一種心理控制的媒介。
世界在很大程度上受到兩個長期趨勢的影響：首先，我們的生活日益被非物質化，包括在工作和家中線上的信息消費和信息產生。其次，AI變得越來越聰明。
在影響我們如何消費數字內容的演算法層面，上述兩種趨勢有重疊。不透明的社交媒體演算法正在越來越多地決定我們閱讀哪些文章，我們與誰保持聯繫，我們閱讀誰的觀點，獲得誰的反饋。
經過多年的訓練，演算法對我們所消費信息的處理使得這些系統在我們的生活中掌握了相當大的權利，決定了我們成為什麼樣的人。由於我們的生活很大程度上已經轉移到數字領域，我們變得非常容易受到那些規則——AI演算法的影響。
在這麼多年的時間裡，如果Facebook能夠決定讓你看到哪些新聞（真實的新聞或假新聞），讓你看到誰的政治地位在提升，以及讓誰看到你的動態，那麼Facebook實際上就已經在控制你的政治信仰和你的世界觀。
這並不是什麼新鮮事，至少從2013年開始，Facebook就已經進行了一系列的實驗，它們通過調整新聞信息流（newsfeeds）的內容，成功地控制了不知情的用戶的情緒和決策，並且能夠預測用戶未來的決策。
簡言之，Facebook可以同時窺測我們的一切，並控制我們消費的信息。當你能同時觸及感知和行動，你就會看到一個AI問題。你可以開始為人類行為構建一個優化循環。一個RL循環。
在這個循環中，你可以觀察目標的當前狀態，並不斷調整向它提供的信息，直到觀察你想要的結果和行為。
人工智慧研究領域的很大一部分（特別是Facebook一直在投重資研究的領域）是開發演算法，以儘可能有效地解決此類優化問題，從而關閉這個loop，並實現對所處理的現象的完全控制。
在此次事件中，被完全控制的是「我們」。
「前任」們也倒戈：卸載Facebook，它是「社交驗證反饋循環」
與Fran?ois Chollet相比，WhatsApp聯合創始人Brian Acton對Facebook的態度更加強硬，在劍橋分析公司事件發生不久之後，他發了一條推特：It』s time.#deletefacebook（該卸載Facebook了）。
WhatsApp擁有每月15億活躍用戶，於2014年2月被Facebook以超過160億美元的天價收購，Brian Acton在去年9月離開WhatsApp。
實際上，Brian Acton並非唯一一個倒戈的「前任」。去年，Facebook有兩位離任高管對前東家表現出擔憂和質疑。
一位是Facebook的前用戶增長主管（former head of user growth）、風險投資家Chamath Palihapitiya，他在Facebook有6年的任職經歷。去年11月他在斯坦福大學商學院演講的時候說，Facebook鼓勵「虛假、脆弱的人氣」，讓用戶感到空虛，以及需要受到關注，人們繼續不得不分享他們認為會獲得其他人贊同的帖子，形成了「惡性循環」。
Chamath Palihapitiya
「我們創造的工具正在撕裂社會運作的結構。我們確實是在這麼干」。
之後，前Facebook總裁Sean Parker也在另外一個場合表達了對社交網路的擔憂。他說，Facebook的發展讓人上癮，他將Facebook描述為一種「社交驗證反饋循環」（a social-validation feedback loop）的模式，利用人性的弱點來博取用戶的注意力。
Sean Parker
Sean Parker曾是Facebook的創始人之一，他自詡為社交媒體「有良心的反對者」，他認為像Facebook在全球每月有20億用戶的社交媒體巨頭，實際上已經改變了用戶與社會之間的關係。
Sean Parker並沒有具體說明Facebook如何利用人性的弱點來博取用戶的注意力。但Fran?ois Chollet認為，由於人類的思想極易受到簡單的社交操縱模式的影響，這種行為被稱為「心理攻擊模式」。
其中一些攻擊模式已經在廣告中使用了很長時間（例如積極/消極的社交強化），但是它們是非常弱的、沒有針對性的形式。從信息安全的角度來看，人的這種心理可以被視為「漏洞」：已知可以用來控制一個系統的漏洞。
Fran?ois Chollet，就人類的思維而言，這些漏洞永遠沒法修補，因為它們就是人類的思維運作的方式。它們存在於DNA中。對個人而言，我們沒有切實可行的方法來防禦它們。
「人類的思維是一個靜態的、易受攻擊的系統，它將越來越多地受到越來越智能的AI演算法的攻擊，這些演算法同時觀察著我們所做的、所相信的所有事情，並且完全控制著我們所接觸到的信息。」
技術充當了Facebook劊子手，在敲開中國大門之前，小扎似乎別無選擇
Chamath Palihapitiya和Sean Parker對前東家的擔憂和質疑，針對的是當時被廣泛報道的Facebook在美國總統大選期間發布了大量的俄羅斯政治廣告，但當時並未引起Facebook的重視。
到了2018年年初，扎克伯格在他的2018年個人挑戰中，罕見的將整頓Facebook寫了進去，而往年的個人挑戰都是讀書、旅行、環遊交朋友等等活動。扎克伯格寫道：整個世界都處在焦慮和分裂之中，他希望能讓Facebook在2018年改變這種狀態。
看上去，「前任們」的聲音進到了扎克伯格的耳朵里。
如果不是劍橋分析公司事件突然曝光，Facebook應該會採取緩慢的措施堵住漏洞，比如針對假新聞的情況，Facebook不久前改變信息流展示方法，優先推薦好友的信息而不是新聞信息。
但沒有人會想到劍橋分析事件會來的這麼猛，估計Facebook也沒有想到後果如此嚴重。在事件發生整整5天後，扎克伯格才現身公關，這5天時間裡Facebook 股價下跌超過10%，市值蒸發500億美元。
在接受Recode採訪時，扎克伯格說，Facebook 將花費數百萬美元去分析數以萬計的應用程序。
不過，內部已經有了分歧：Facebook是否能在全世界找到足夠多的人來分析這些程序？
對於這次劍橋分析事件，用扎克伯格的話說，「Facebook在這件事情中所犯的最大的錯誤」，是低估了用戶隱私的重要性，Facebook幾年前就知道了此事卻沒有認真追究。總體而言，劍橋分析門似乎更多的是一個法律執行層面上問題。
Facebook面臨更深層次的問題是，技術能否在保持中立的情況下，讓公司繼續成長。
Chamath Palihapitiya和Sean Parker等「前任們」對前東家的擔憂不無道理，一方面Facebook面臨假新聞、恐怖暴力內容的困擾；另一方面，Facebook利用人性的弱點來博取用戶的注意力的做法越來越不得人心。
對於前者，雖然扎克伯格不想成為內容警察，但他調整Facebook信息流、推出媒體評級系統、封禁ICO廣告的做法，顯然是讓技術充當了劊子手。這樣做雖然能禁止部分假新聞，但也把部分流量趕到谷歌、亞馬遜這樣的平台上。
Facebook北美用戶日活下降
對於後者，由於用戶量增長已經達到瓶頸，Facebook在絞盡腦汁在讓用戶的停留時間上越陷越深，只能用更多的技術、收購更多的社交公司。在敲開中國的大門以前，小扎似乎沒有其他的辦法。
參考鏈接：
https://venturebeat.com/2018/03/22/googles-francois-chollet-ai-researchers-with-a-conscience-shouldnt-work-at-facebook/
https://www.youtube.com/watch?v=PMotykw0SIk&feature=youtu.be&t=21m21s
https://venturebeat.com/2018/03/20/whatsapp-cofounder-its-time-to-delete-facebook/
※【看圖識演算法】這是你見過最簡單的 「演算法說明書」
※MSRA周明團隊，NLP鐵軍「超越人類」技術揭秘
TAG:新智元 |