自由還是規範？社交媒體時代的語言治理

Facebook和Twitter等社交媒體中往往充斥著大量的暴力或仇恨語言。要對其進行審核和清除，僅靠人工是遠遠不夠的，必須藉助自然語言處理手段進行自動化處理。2019年5月7日，美國《外交政策》雜誌刊發研究人員尤丹加亞·韋傑拉特內（Yudhanjaya Wijeratne）的文章，對這一問題進行了分析。

原文 ：《管控社交媒體的最大障礙是語言》

編譯|周婷婷

圖片 |網路

Facebook和Twitter等公司表示，他們正在盡最大努力應對這一問題：對於他們希望從平台上刪除的內容種類，他們制定了相當全面的規定。例如，Facebook的社區標準規定，「為了防止對現實世界的傷害，我們不允許任何組織或個人在Facebook上發布暴力任務或從事暴力活動。我們還刪除了對參與這些活動的團體、領導人或個人表示支持或讚揚的內容。」

然而，他們在執行這些規則方面似乎做得並不好。在斯里蘭卡、緬甸或印度， Facebook和WhatsApp中充斥著各種仇恨言論。人們總是認為，像Facebook這樣的平台有能力解決這些問題，但還不夠努力。每年，這些組織都誇耀他們使用最新和最常用的流行語來打擊仇恨言論。給人的印象是，Facebook的首席執行官馬克·扎克伯格所要做的就是在床邊打幾個電話，網路就會變成一個烏托邦。

但事情沒那麼簡單。仇恨言論的問題是言論本身，或者更確切地說是語言的問題，是人類語言近乎無限的多樣性的問題，而不是全球科技建立在其基礎之上的狹隘的英語中心主義。

2018年3月，斯里蘭卡政府關閉了社交媒體，理由是當時的網路充斥著仇恨言論——復活節襲擊後，他們又再次關閉了社交媒體。2018年，我會見了Facebook的政策團隊，試圖理解形勢為什麼發展到了當前的狀況。

Facebook通過兩種方式管理內容。一種是僱傭大量的內容管理員，他們點擊用戶報告中存在問題的內容，通常是在勞動力廉價和英語技能兼而有之的國家工作，如菲律賓。第二種方法是人工智慧。

第一個方法本身很難衡量。從技術上講，每個人都能發表仇恨言論，而我們談論的是一個每天分享超過47.5億份內容的網路。如果完全靠人工審核，Facebook將不得不僱傭一半的用戶來審核另一半用戶的帖子，或者為內容建立某種分散式的同行審查系統。與此同時，內容管理員每天都要面對各種各樣的人類痛苦和仇恨，他們已經出現了類似於創傷後應激障礙的癥狀。

對於第二種方法，在實踐中，人工智慧實際上指的是自動化內容檢測的各個子領域。其中最關鍵的是自然語言處理，即以一種智能與高效的方式，對文本數據進行系統化分析、理解與信息提取的過程。一個好的自然語言處理系統可以作為一個神奇、快速的初篩過濾器，用來過濾大量的內容，而這麼大量的內容是很難用人工進行分析的。如果Facebook和Twitter等公司真的想解決內容審核問題，就應當與當地大學合作，開發新的自然語言處理技術。

文章原載於社會科學報第1660期第7版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！