Facebook 3 個月關了 5.83 億賬號，和微博刪帖有什麼不同？

天下 05-18

醜聞之後，Facebook 的整改還在繼續。

周二，Facebook 發布一份《社區標準實施報告》（Community Standards Enforcement Report），這是他們首次披露對不合規帖子和虛假賬戶的處置情況。今年一季度，Facebook 一共刪除了 2888.37 萬條包含色情暴力、恐怖主義和仇恨言論的帖子，同時關閉和刪除了大約 5.83 億個虛假賬戶。

同一天，微博也公布了 4 月份《社區管理工作公告》，這是 2018 年開始每月發布的報告，也用一系列數字表明整改的決心。過去 1 個月，微博合計對超過 6200 萬餘條微博採取了屏蔽和刪除處置。近 7 萬個垃圾和機器賬號被清理。這還沒算 8000 多個涉及到時政有害、涉黃、不實信息等賬號。

兩家公司的體量相差巨大，Facebook 是全世界最大的社交網路，有超過 20 億活躍用戶，微博有近 4 億。兩個月前 Facebook 因為劍橋分析的數據泄露事件，兩天內跌掉的市值就差不多相當於 2 個微博。

促使兩個公司動起來的因素有些差別。對於 Facebook 來說，除了那個余禍未消的隱私泄露的大麻煩之外，平台上的假新聞、暴力、色情、偏見等有害內容更讓它十年如一日地遭受著批評。

而微博在今年 1 月受到了國家互聯網信息辦公室的約談，被要求整改傳播炒作導向錯誤、低俗色情、民族歧視等違法違規有害信息的問題，當日熱搜榜、熱門話題榜、微博問答等功能就被下線，下線時間持續了一周。

哪些內容會被刪除？

兩家的報告都列出清理帖子的種類。Facebook 主要包括恐怖主義宣傳、圖片暴力、裸體和性、仇恨言論、垃圾郵件和虛假賬號。

Facebook 最近被廣受指責的是仇恨言論，但事實上被刪內容中比重最高的是色情信息——今年一季度一共清理了 2100 萬條「裸體和性」信息，在所有類別中比重最大。排名第二的是圖片暴力，一共刪了 340 萬條，佔總量的 11%。

微博也是同樣的情況，成人內容的帖子被刪的最多。《好奇心日報（www.qdaily.com）》選取了最近三個月（2、3、4 月）微博的公告數據，這期間刪除的涉黃信息有 481.4 萬條，佔總刪帖量的 90%。因涉黃內容而被封禁的賬號數量達到了 29134 個。

和政治有關的信息也是刪帖重點。

對 Facebook 來說，這一塊主要是指恐怖主義和仇恨言論。今年第一季度，Facebook 一共對 190 萬個與基地組織、伊斯蘭國（ISIS）等恐怖主義有關的帖子採取了強制措施，高於上一季度的 110 萬件。

不過，Facebook 此次處理的仇恨言論只有 250 萬條，是所有類別中數目最小的一個。而且，其中 Facebook 自主檢測的內容只佔到了所有被標記內容的 38%，有超過 60% 的內容需要靠用戶舉報來發現。

這其中的原因，一部分是因為「Facebook 的人工智慧系統目前仍然難以辨別言論中的仇恨情緒。」Facebook 產品管理副總裁 Guy Rosen說。另一部分原因是 Facebook 上的仇恨言論本身可能並不那麼顯而易見。

今年 4 月，Facebook 上的一些不實信息助長了斯里蘭卡佛教徒和穆斯林之間的衝突。罪魁禍首其實往往是一些帶有煽動性質的謠言，起初可能和仇恨與偏見並無瓜葛。對於 Facebook 安全團隊來說，類似的問題也加重了審核的難度。

在微博上，這一塊表現為「時政有害信息」。微博三個月清理了 39.3 萬條此類信息，並對 7975 個賬號採取了禁止發布微博和評論、限制訪問、關閉賬號等處置措施。微博沒有明確定義「時政有害信息」到底是指什麼，從被刪的賬號來看，違規者來自各種行業，甚至包括解讀金庸武俠小說的 @六神磊磊。

發布不實信息、垃圾信息等的賬戶也受到了微博或關號、或禁言等的懲罰。算上因存在自動化行為而被凍結的 5.11 萬個賬號，最近三個月微博一共處分了 274054 個賬戶。

Facebook 沒有公布因發布這些違規內容而受到懲罰的賬號情況，只是列出了關閉的虛假賬號的數量。Guy Rosen 在公司官方博客上發文稱，今年頭 3 個月，該公司關閉了約 5.83 億個虛假賬戶——相當於 Facebook 22 億月活躍用戶的四分之一，其中絕大多數是在註冊後數分鐘遭到關閉的。在所有的被處理賬號之中，Facebook 主動識別了 98.5% 的賬號。

人工+演算法，內容審核的基本手段

Facebook 公告稱，其中 99.5 % 與恐怖主義相關的帖子是由 Facebook 自己找到的，而不是來自用戶的舉報。Facebook 將這歸功於人工智慧技術的提高：「這一增長主要是因為我們利用圖像識別技術來發現違規內容的能力提高了，該技術可檢測新發布的內容，也可以檢測舊帖子。」

Facebook 對圖片暴力、裸體和性以及垃圾郵件信息的檢測趨勢也與此類似。有 90% 左右的內容是在用戶舉報前被發現的，而主要的原因都是「技術升級」。

唯獨與此不同的是，在仇恨言論方面，Facebook 自主檢測的內容只佔到了所有被標記內容的 38%，有超過 60% 的內容需要靠用戶舉報來發現。而且，被處理的帖子只有 250 萬，讓人懷疑是否有更多的內容還隱在暗處未被揪出。

Facebook 產品管理副總裁Guy Rosen表示，出現這種結果的原因是人工智慧系統目前仍然難以辨別言論中的仇恨情緒。但馬克·扎克伯格對未來表示樂觀。他在國會證詞中表達了將來使用 AI 來清除其平台上的仇恨言論的計劃：「我樂觀地認為，在五到十年的時間裡，我們將擁有一些人工智慧工具，可以深入了解不同類型內容的語言細微差別，以便更準確。」

在審核機制上，微博也與 Facebook 有著比較明顯的區別。今年 1 月被約談整改後，微博對內容審核技術進行了調整。微博副總裁曹增輝今年 2 月份在接受界面採訪時表示，微博引入了「編輯人工干預」的模式，將演算法挖掘作為基礎，在排序和選擇上放棄純粹演算法的方式，引入編輯對違反有關法律法規的內容、社會負能量的信息、過度娛樂化的信息進行人工干預。

在這種策略下，微博的人工審核隊伍越來越大。據曹增輝所說，微博運營人員現在有 332 人，考慮增加到 600 多人，主要負責「對有傳播影響力的賬號進行管理」；內容編輯中心，現在有 50 人，將增加到不低於 100 人，主要負責「對熱搜等熱點區域內容加大人工干預審核力度」；安全審核人員團隊現在有 1100 人，將增加到 2000 人，主要負責「對違法違規信息進行審核處理，多層複檢」；微博監督員將增加到 2000 人，由微博公開招募網友組成，對站內涉黃信息進行舉報，然後按月提供上網補貼和物質獎勵。

最後，研發信息鑒別技術的研發人員有 197 人，未來會增加 10% 左右。曹增輝介紹說，已有技術包括關鍵詞檢測系統、圖片檢測系統、違法信息模型檢測、有害帳號特徵庫等。

算上所有計劃內增量，微博的社區內容安全人員約有 4900 人，微博目前的活躍用戶為三億九千兩百萬人，平均下來每名安全人員需要覆蓋八萬用戶。

而 Facebook 也有人工團隊，他們的安全團隊分為社區運營和社區誠信兩支團隊。社區誠信團隊主要負責建立舉報-反應機制的自動化工具。

去年秋季 Facebook 的內容審查員有一萬多人，今年將擴張到兩萬。以 Facebook 目前二十億活躍用戶來算，每名安全人員需覆蓋十萬用戶。