大衛·拉澤爾 等：《假新聞的科學》（2018）

原標題：大衛·拉澤爾 等：《假新聞的科學》（2018）

假新聞的科學

THE SCIENCEOF FAKE NEWS

作者：大衛·拉澤爾（David Lazer，東北大學），馬修·鮑姆（Matthew Baum，哈佛大學），約凱·本克勒（Yochai Benkler，哈佛大學），亞當·伯因斯基（Adam Berinsky，哈佛大學），凱莉·格林希爾（Kelly Greenhill，塔夫斯大學），菲利波·門采爾（Filippo Menczer，印第安納大學），米利亞姆·梅茨格（Miriam Metzger，加州大學聖塔芭芭拉分校），布倫丹·尼漢（Brendan Nyhan，達特茅斯學院），戈登·彭尼庫克（Gordon Pennycook，耶魯大學），大衛·羅斯柴爾德（David Rothschild，微軟研究院），米歇爾·舒德森（Michael Schudson，哥倫比亞大學），斯蒂夫·斯洛曼（Steve Sloman，布朗大學），卡斯·桑斯坦（Cass Sunstein，哈佛大學），艾米麗·索爾森（Emily Thorson，波士頓學院），鄧肯·瓦茨（Duncan Watts，微軟研究院），喬納森·齊特林（Johnathan Zitterian，哈佛大學）

譯者：陳榮鋼（號主，微信：hakuna111）

來源：Science09，Mar 2018: Vol. 359, Issue 6380, pp. 1094-1096 DOI:10.1126/science.aao 2998.

封面插畫作者：Sebastien Thibault

致謝

We acknowledge support from the ShorensteinCenter at the Harvard Kennedy School and the NULab for Texts, Maps, andNetworks at Northeastern University. D.M.J.L. acknowledges support by theEconomic and Social Research Council ES/N012283/1. D.M.J.L. and M.A.B. contributedequally to this article. Y.B. is on the advisory board of the Open ScienceFoundation. C.R.S. has consulted for Facebook. K.M.G. acknowledges support bythe National Endowment for the Humanities.

虛假新聞的興起，突顯了長期存在的制度壁壘對互聯網時代錯誤信息的侵蝕。對這個問題的擔憂是全球性的。然而，個人、機構和社會對蓄意行為者的控制缺陷，仍有許多未知之處。（我們）需要一種新的保障制度。接下來，我們討論現存社會科學和計算機科學對假新聞篤信及假新聞傳播機制的研究。假新聞歷史悠久，但我們關注的是懸而未決的科學問題，這些問題由近來時政導向的具體體現引發。除了文中選定的參考資料，還建議在補充資料中做進一步閱讀。

什麼是假新聞？

WHAT IS FAKE NEWS?

我們把「假新聞」定義為捏造的信息，在形式上而不是組織過程或意圖上模仿新聞媒體內容。相應地，假新聞發出者缺乏新聞媒體的編輯規範和程序，以確保信息的準確度和可信度。假新聞與錯誤信息（misinformation，虛假或誤導性信息）和謠言（disinformation，故意散布欺騙人的虛假信息）有重疊之處。

假新聞主要在時政背景下引發切近的關注，但它也報道疫苗、營養、股票價值等話題。格外惡性的地方在於，它依附於合規的新聞發出者，受惠於它們的同時，損害著它們的信用度。

由於將假新聞用作政治武器[1]，一些（媒體）——特別是「初稿」（First Draft）和「臉書」（Facebook）——偏愛「假新聞」這一術語。我們之所以留用它，是出於它作為一種科學建構的價值，也因為它的政治特性引發了對一個重要主題的關注。

歷史背景

THE HISTORICAL SETTING

由於新聞工作者強烈反對第一次世界大戰期間廣泛使用的宣傳手段（特別是他們自己在宣傳中扮演的角色），以及20世紀20年代企業公共關係的興起，新聞的客觀性與平衡性標準出現了。

20世紀主要的信息傳播技術（印刷術和廣播）創造了地方和國家的寡頭壟斷。互聯網降低了競爭的准入門檻，其中一些新晉競爭者拒絕新聞規範，侵蝕了公信力和可靠性很高的傳統新聞來源的商業模式。

大眾媒體的普遍信任度在2016年跌入歷史谷底，尤其在政治權利上，（只有）51%的民主黨人和14%的共和黨人表示，「相當」或「非常」信任把大眾媒體作為新聞源。[2]

美國經歷了一場同時進行的地緣政治和社會政治的演變。在過去40年間，黨派偏好的地理劃分愈發顯著，因此減少了交叉政治互動的機會。同質化的社交網路反過來減少了對其它觀點的容忍度，放大了態度上的極端化，更可能接受與意識形態相容的新聞，並逐漸將新信息拒之門外。對「另一方」（「other side」）的厭惡（情感的極端化）也在上升。

這些趨勢造就了一個假新聞能夠吸引大量受眾的環境。

盛行率和影響

PREVALENCE AND IMPACT

假新聞有多普遍，對個人有何影響？對於這些基本問題，幾乎沒有科學的答案。

在評估假新聞的盛行率時，我們提倡將注意力放在原始資料上——發布者而非單一新聞報道——因為我們認為假新聞的界定要素是發布者的意圖和過程。對發布者的關注也避免了我們去艱難地評估每一則新聞報道的準確性。

一項研究分析了主要虛假新聞報道的傳播。2016年「美國大選」前的那個月里，美國人從已知的假新聞發布者那裡平均獲取一至三篇報道。[3] 這可能是保守估計，因為研究只跟蹤了156條假新聞。

另一項研究表明，「推特」上的虛假信息通常有更多人轉發，比真實信息傳播更迅速，尤其是時政類話題。儘管沒有提供分析細節，但「臉書」估計，蓄意行為者的操縱行為最多只佔平台上分享的公民內容的1%。[5]

通過點贊、分享和搜索信息，機器人（模仿人類的自動賬號）以幾何量級擴大假新聞的傳播。近來，對「推特」活躍賬號進行基於分享行為、關係數量和語言特點等可觀察特徵的分類評估後發現，有9%至15%是機器人。[6] 寄生在「臉書」上的機器人預計達6,000萬。[7]

它們負責在2016年「美國大選」期間發布數量可觀的時政內容，並且一批相同的機器人被試圖用來影響之後的2017年「法國大選」。[8]

機器人也被用來操縱演算法，以便在一個較大的人口範圍內預測內容的潛在流量。事實上，一份「臉書」的白皮書表明，2016年「美國大選」期間這類操縱布局廣泛。[5]

然而，如果沒有方法追尋到特定平台上機器人和人類代表性樣本的源頭，那麼任何有關機器人盛行率的估值（point estimates）都必須謹慎解釋。機器人檢測一直是「貓鼠遊戲」，有大量未知的仿人機器人無法檢測到。

反過來說，任何成功的檢測都啟發了機器人製造者未來的應對措施。因此，識別機器人是一項重要而持續的研究挑戰。

我們知道，與合法新聞一樣，假新聞報道已經在社交媒體上流傳開來。然而，知道有多少人遇到或分享了一則假新聞和知道有多少人閱讀了一則假新聞並受其影響是兩回事。

針對暴露在假新聞中對政治行為的中長期影響（如是否/如何投票）的評估基本沒有在文獻中出現。影響也許很小，因為證據顯示政治宣傳對個人的影響有限。[9] 然而，通過社交媒體成為中介的諸多假新聞可能加重它的影響，因為分享暗示著支持。

除了對選舉的影響，我們所了解的媒體的影響更普遍地顯示出許多潛在的影響途徑——從越來越憤世嫉俗、情感淡漠到鼓勵極端主義。假新聞在這些方面的影響缺乏現有評估。

可能的干預手段

POTENTIAL INTERVENTIONS

什麼樣的干預措施可以有效阻止假新聞的傳播和影響？我們找到了兩類干預措施：

1. 旨在強化個體，以評估自己遇到的假新聞的干預；
2. 旨在一開始就防止個體暴露在假新聞面前的結構性改變。

強化個體EMPOWERING INDIVIDUALS

真相審查（fact checking）有多種形式，包括網站評估新聞報道的事實訴求（如「政治真相」[PolitiFact]和Snopes）（號主註：通俗地說就是證明新聞的真偽，比如Snopes就是美國著名的新聞闢謠網站，他們從發布者的意圖上判斷該新聞報道是否具有真實性訴求）、可信度高的新聞媒體的評估（如《華盛頓郵報》[Washington Post]和《華爾街日報》[Wall StreetJournal]）、由中介媒體（intermediaries）插入和內容有關的背景信息（如「臉書」使用的那些信息）。

除去真相審查光鮮的外表，支持其效用的科學充其量是混雜的。這可能反映了集體認知（collective cognition）中更廣泛的傾向，以及我們社會結構的變化。個人往往不會質疑信息的可信度，除非違背了他們的既有認識，或者他們被刺激（去質疑）。否則，他們可能會不加批判地接受信息。人們也傾向於將他們的信念與他們社群的價值觀捆綁在一起。

研究還進一步表明，人們更偏愛那些佐證他們先前已有態度的信息（選擇性曝光），查看與他們先前已有信念相一致的信息，接受取悅他們的信息（社會意識偏差[desirability bias]）——這些信息比不悅耳的信息更具說服力（確認偏差[confirmationbias]）。

原先的黨派或意識形態信仰可能會阻礙去核查一篇虛假新聞報道的真相。

在某些情況下，真相核查甚至可能適得其反。對政治的熟練度和親近感的研究表明，人們傾向於在記住信息或感受的同時，忘記他們所處的背景。更甚的是，他們會把熟悉的信息等同於真實信息。[10]

因此存在這樣的風險——即使在真相核查的語境中，不斷重複的錯誤信息也會增加個人信以為真的可能性。真相核查中，關於有效性證據是不斷被重複的。

儘管實驗和調查研究證實，錯誤信息的重複會增加信以為真的可能性，但是如果這錯誤信息與一則有效的撤稿聲明同時出現，那麼上面的事就不會發生。一些研究表明，在更正錯誤之前重複錯誤信息可能有好處。需要進一步研究來調和這些矛盾，並確定真相核查這一干預措施最有效的條件。

另一種長期的做法是通過教育提高個人對信息來源質量的評價能力。向中小學注入關鍵信息技能培訓的嘗試不斷增加。[12] 然而，這種努力是否能改善對信息可信度的評估，還需一段時間才能確定。對假新聞的強調也可能造成計劃外的後果，即降低真實新聞發布者的可信度。非常有必要對不同的教育干預措施進行嚴格的教育評估。

基於平台的檢測與干預：演算法和機器人PLATFORM-BASED DETECTION AND INTERVENTION: ALGORITHMS AND BOTS

互聯網平台已經成為假新聞最重要的推動因素和主要渠道。創建一個具有專業新聞組織標識的網站並不貴。通過在線廣告和社交媒體的傳播，也很容易將內容貨幣化。互聯網不僅提供了發布假新聞的媒介，也提供了積極促進傳播的工具。

約47%的美國人經常或有時從社交媒體獲取新聞，到目前為止「臉書」是最主要的來源。[13] 社交媒體是假新聞站點的關鍵渠道。的確，最新的國會證言顯示，俄羅斯在2016年「美國大選」期間成功操縱了所有主要平台。

互聯網和社交媒體平台如何幫助減少假新聞的傳播和影響？「谷歌」、「臉書」和「推特」時常扮演我們與新聞媒體關係的調停者，也是我們與親朋關係的調停者。通常，它們的商業模式依賴於廣告收入。它們使用複雜的統計模型來做預測，並將內容參與度（流量）最大化。[14]應該有可能調整這些模型，以增加對高質量信息的重視。

這些平台可以向訪問者提供消息源質量的標識，這些標識可被納入內容演算法排名中。相較於其它內容，它們能夠將時政資訊的個性化降到最低。（號主註：減少所謂的「迴音壁效應」[echo chamber]，即在信息傳播過程中，人們傾向於承認和接受與自己觀點相近的信息，因此某些信息，無論真偽，都很容易在社交媒體的傳播過程中被重複、修改和誇大。）

突出時下熱點內容的功能可以通過熱點內容來排除機器人活動。更普遍地說，平台能夠限制由機器人和半機器人（無論是否閱讀，都從信息源不經思索地共享新聞的用戶）造成的新聞內容的自動傳播。儘管在可預見的將來，機器人製造者有可能設計出有效的對策。

平台嘗試了這些步驟和其它步驟。[5，15] 「臉書」宣布有意將演算法轉移到內容精選過程的「質量」上。「推特」宣布其封鎖了某些與俄羅斯方面錯誤信息有關的賬號，並告知用戶他們可能被騙了。然而，這些平台沒有提供足夠的細節供研究團隊評估，也沒有將調查結果提交同行評審（peer review），給政策制定者或公眾的使用帶來疑慮。

我們敦促各平台與獨立學者合作，評估假新聞問題的範圍，並評估干預措施的方案和有效性。目前鮮有關於假新聞的研究，也沒有全面的數據收集系統針對假新聞的滲透機制如何演進提供動態的解釋。

不可能再現2010年的「谷歌」了。即使有底層代碼，「谷歌」本身也無法這樣做，因為模式出現在代碼、內容和用戶之間的複雜交互中。然而，有可能記錄下2018年的「谷歌」正在做什麼。更普遍的是，研究人員需要對主要平台如何過濾信息進行嚴格、持續的審查。

從工業和學術界的角度看，科學合作面臨挑戰。然而，各平台有一種超越市場力量的道德和社會責任，用他們獨有的數據為假新聞的學術助一臂之力。

基於平台政策的合理有效性可能指向政府對平台的監管，也有可能指向平台的自我監管。政府的直接監管在新聞敏感地帶有其自身的風險，受憲法限制或別的一些原因。

例如，監管者能夠在限定（define）、推行（impose）和強制執行（enforce）方面保持公正嗎？一般而言，任何政府的直接干預或平台對內容的阻止都會引發人們對政府審查或企業審查的擔憂。

政府直接監管的一種替代性辦法是侵權訴訟。比如那些被假新聞的傳播直接而具體地損害名譽的人。某種程度上，一個在線平台幫助傳播一則明顯的虛假新聞報道（即使令人信服，但它是假的），就可能存在與現行憲法相一致的責任途徑，這反過來又會迫使平台加強幹預。

然而，在美國的背景下，1996年《通信規範法案》（CDA）中的一項條款為由其他人撰寫的虛假或可訴聲明提供了近乎全面的豁免權。對該法案的任何更改都將引發棘手的問題，如平台內容（和精選內容的判斷）在多大程度上應該受到聲稱受害的人的事後揣測（second-guess）。搜索引擎中，歐洲的「被遺忘權」（right to be forgotten）正考驗著這些問題。

（號主註：「被遺忘權」被視作互聯網時代個人隱私權的一部分。2012年，歐盟出台了一項有關個人信息保護的法案，主張民眾有權要求相關機構刪除有關他們的個人數據。早在1967年1月，《紐約時報》記者VancePackard就發表了題為《不能告訴計算機》的文章。他寫道：「當政府把我們每一個人的信息和日常生活的細節都放置於某個中央級的數據銀行，我們便會受控於坐在電腦機器前面的那個人和他的按鈕。這令人不安，這是一種危險。）

結構性干預通常會引發尊重私人企業和人類能動性（human agency）的擔憂。但是，正如20世紀媒體公司造成了個體無處遁形的資訊一樣，越來越龐大的互聯網寡頭已經在全球範圍內塑造了人類的經驗。擺在我們面前的問題是，這些巨大的力量如何存在，該怎樣行使，以及如何讓這些龐大的公司承擔責任。

未來議程

FUTURE AGENDA

我們呼籲促進跨學科研究，以減少假新聞的傳播，並解決它所揭示的潛在病理。20世紀初，美國新聞媒體的失敗導致了新聞規範及其實踐的興起。儘管不算完美，但力求提供客觀而可靠的信息，對我們大有裨益。

我們必須在21世紀重新設計信息生態系統。這一努力必須在全球範圍內展開，因為許多國家尚未發展出穩健的新聞生態系統，面臨著比美國更嚴重的真假新聞的挑戰。更廣泛地說，我們必須回答一個根本性問題：我們如何才能創造一個珍視和促進真相的新聞生態系統和文化？

參考文獻及注釋

因格式問題省略（訪問請點擊文末「原文鏈接」）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！