對抗仇恨言論，Facebook 推出看得懂表情包的新 AI 系統

Facebook 宣布開發出了一款名為 Rosetta 的新型人工智慧（AI）系統，可用於檢測圖片和視頻幀（video frame）中的仇恨性言論。

對於 Facebook 來說，他們面對的是每月 22 億用戶發布的浩如煙海的信息，這其中不僅有文本，還有圖片、視頻、表情包等等——仇恨言論可能會在其中以任何形式出現。Facebook 稱，Rosetta 可以讀懂圖片和視頻幀上的影像和文字，分辨其是否是違反 Facebook內容審核指南的內容。

Rosetta 檢測示例圖 來源：Facebook

Facebook 官方展示了一張示例圖。在檢測一張印著「企鵝會飛」（penguins can fly）的文字的企鵝圖片時，Rosetta 將文字與圖像區分開來，並使用卷積神經網路來識別和轉錄兩部分的內容，最終判斷出這是一張「表情包」（meme）。

對於一直因難以有效控制仇恨言論傳播而飽受指責的 Facebook 來說，這一系統的推出將有助於緩解其燃眉之急。

自 2015 年以來，Facebook 一直在使用一種名為光學字元識別（OCR）的檢測系統，但 OCR 在檢測仇恨言論的能力上稍遜一籌。具體差在哪，從 Facebook 今年 5 月公布的《社區標準實施報告》結果中就能看出。

這份報告公示了 Facebook 今年一季度刪帖、封號的記錄。在他們刪除的所有內容中，「裸體和性」佔到了 72.7%，「圖片暴力」佔到了 11.8%，而「仇恨言論」只有 8.7%。

一季度受到 Facebook 處理的仇恨言論只有 250 萬條，是所有類別中數目最小的一個。而且，其中 Facebook 自主檢測的內容只佔到了所有被標記內容的 38%，有超過 60% 的內容需要靠用戶舉報來發現，讓人懷疑是否有更多的內容還隱在暗處未被揪出。

這其中的原因，一部分是因為「Facebook 的人工智慧系統目前仍然難以辨別言論中的仇恨情緒。」Facebook 產品管理副總裁Guy Rosen說。另一部分原因是 Facebook 上的仇恨言論本身可能並不那麼顯而易見。

今年 4 月，Facebook 上的一些不實信息助長了斯里蘭卡佛教徒和穆斯林之間的衝突。罪魁禍首其實往往是一些帶有煽動性質的謠言，起初可能和仇恨與偏見並無瓜葛。內容本身已經足夠具有迷惑性，更不用說 OCR 能夠理解的語言還非常有限，在很多小語種地區 Facebook 還需要依賴當地人工審查員來分辨內容。

馬克·扎克伯格在國會證詞中表達了將來使用 AI 來清除其平台上的仇恨言論的計劃：「我樂觀地認為，在五到十年的時間裡，我們將擁有一些人工智慧工具，可以深入了解不同類型內容的語言細微差別，以便更準確。」

Rosetta 就是在此關頭臨危受命的 AI 系統了。據 Facebook 介紹，這一系統同時適用於 Facebook 和 Instagram，每天可以檢測十億張圖片，並識別除了英語和拉丁語系以外的語種，比如阿拉伯語和印度語等。

目前，Facebook 和 Instagram 團隊已經開始使用 Rosetta。該公司計劃繼續增加它可以理解的語言數量，並使其能更好地從視頻幀中提取文本。

說到語言，Facebook 最近還為其自動翻譯服務增加了24 種新語言，包括塞爾維亞語，白俄羅斯語，馬拉地語，僧伽羅語，泰盧固語，尼泊爾語，卡納達語，烏爾都語，旁遮普語，柬埔寨語，普什圖語，蒙古語，祖魯語，科薩語和索馬利亞語。Facebook 稱，這些語言的翻譯尚處早期階段，可能會包含很多錯誤，公司正在完善它們，並會在未來加入更多語種。

我們做了一個壁紙應用，給你的手機加點好奇心。去 App 商店搜好奇怪下載吧。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！