假新聞太錯綜複雜 谷歌和Facebook無法讓其消失

國外科技網站Backchannel發表微軟研究員丹娜·波伊德（Danah Boyd）的文章稱，谷歌和Facebook無法讓假新聞消失。假新聞問題太錯綜複雜了，光憑演算法或者編輯是沒辦法解決的——因為問題是出在人身上，涉及社會、文化、經濟、政治等範疇。以下是文章主要內容：

對於當前有關如何來解決所謂的「假新聞」問題的論調，我越來越感到失望（通常也持反對態度）。我之所以越來越生氣，不僅僅是因為我撰寫這篇文章時因快懷孕十個月了，情緒很不好，還因為我發現善意的干預措施可能會引發事與願違的結果。我明白大夥現在為什麼想要做點什麼——這一領域充滿著活力，所涉及的根本性問題也對民主和社會有著重大的影響。不過，現在所發生的這一切實際上並不是什麼新鮮事了。它是錯綜複雜的悠久歷史的一部分，它闡明社會、經濟、文化、技術和政治方面的各種動態光通過簡單的解決方案是無法得以解決的。匆匆忙忙去實施一些創可貼式的補救措施或許會讓人感覺良好，但這種解決辦法恐怕會使得人們沒能將注意力專註於核心的問題上，同時使得那些根本性的問題不斷蔓延。

先來說一下解決問題者心目中常見的「解決方法」：迫使Facebook和谷歌通過鑒別「假新聞」和防止它們傳播來「解決」問題。大家對科技公司們反映和放大存在已久的社會動態的能力表達不滿是好事情，但約束或者迫使它們去尋找解決的良方不會有效果。在我看來，這種方法直接揭示了三個不同的問題：

1）人們無法就「假新聞」的定義達成一致意見，儘管大家正花費大量的措辭去試圖定義它。

2）人們似乎並不明白問題的本質所在，不明白內容操縱演變的方式，也不明白他們所提議的方法可能會被那些與他們有著不同意見的人濫用。

3）不管Facebook或者谷歌上的問題得到多大程度上的解決，都無法解決造成美國目前深陷於的文化戰爭和信息戰爭的根本性因素。

什麼是「假新聞」？

我不打算去嘗試定義「假新聞」，但我想要強調它背後所交織的各類問題。「假新聞」一詞可用來強調各種形式的問題內容，其中包括公然的和偶然的不準確信息，嘩眾取寵的和製造恐慌的新聞標題，博客中的仇恨言論和煽動性言論，以及各類宣傳信息（受國家利益和其它利益驅使）。在我的一整個職業生涯中，我見識過這種狡猾的信息傳播被運用於各式各樣的政治目的和經濟目的。我認為，如果問題沒有精確的定義，或者沒有明確地表達出來，那有關XYZ危險性的討論所取得的成果都只不過是假象。

大體上，據我的觀察，「假新聞」大多是作為新的手段被人用來推進長期存在的議程和承諾。長期批評企業權力的研究人員有這麼做，保守派權威人士也喜歡利用這種手段來支持其對主流媒體的厭惡。現在，有關「假新聞」人們舉行了很多的探討會議，他們想要共同找到解決辦法；與此同時，各派評論家和倡導者紛紛呼籲企業解決該問題，但卻沒有嘗試去定義該問題。我們發現部分人完全聚焦於「準確性」和「真相」問題，有的人則更多地專註於內容如何造成文化框架。

與此同時，在互聯網平台公司內部，人們在竭力制定能夠長期適用的內容政策。一直以來我都對人們在「假新聞」保護傘下什麼應該被防止，什麼不應該被防止上的前後矛盾感到非常驚訝。

採取開放式的措施不會帶來幫助。當公眾可以去舉報「假新聞」的時候，各種不恰當的舉報會湧現，如男性權利擁護者舉報女權主義者批評父權制的博文是「假新聞」。青少年和網路流氓甚至會挑戰和質疑網路上幾乎一切的內容。

尋求第三方的幫助也好不到哪裡去。專家們甚至無法在誰是仇恨組織，誰是在保護言論自由上達成一致意見。（我支持SPLC名單，但那表明了我的政治傾向。即便是這個名單也沒有完全覆蓋可能會被進步派歸類為仇恨團體的組織。）問問大家他們對於封殺小報新聞或者保守派網站布萊特巴特（Breitbart）的立場，你馬上就能看到分歧意見。

當前很多有關「假新聞」的討論著重談論廣泛傳播且看上去極其荒謬的內容，但其實最陰險狡猾的內容很多表面上都不是很吸引眼球。它們沒有被廣泛傳播。它們是一種非常微妙的內容，所說的事實是準確的，但在表述和措辭上帶有偏向，會鼓動人們做出內容本身沒有明確表達出來的危險結論。那就是煽動性言論的巧妙之處：它引發人們的思考並不是通過將想法明確無誤地擺在他們面前，而是通過吸引他們去形成那樣的想法。相比起像UFO登陸亞利桑那州這樣的直白內容，那種內容的威力顯然要強大得多。

正當我們被那些為取得經濟利益而生的內容吸引走注意力的時候，無數的人在試圖通過沒那麼容易被檢測出來的內容去操縱其他人。他們在入侵注意力經濟，正當人們試圖阻擋他們所嘗試的各種不同的東西，他們會不斷地進行迭代升級。這也解釋了為什麼「表情包魔力」會如此地令人驚嘆。

有問題的內容正越來越多地從基於文本變成基於視覺，這讓它們變得更難被理解，更難被清除，因為它們依靠的是各式各樣的文化元素和符號。它們在一些人眼裡可能帶有諷刺意味或者批判性，但在另外一些人眼裡它們則是想法的一種具體化和驗證。搜一搜看看納粹符號是如何被用在含有各種政治評論的卡通圖片中。你怎麼解讀那些圖像很大程度上跟你怎麼看納粹符號有關。

有問題的解決方案主義

讓我沮喪的是，儘管企業採取行動的壓力與日俱增，但到目前為止，在哪些內容應該通過什麼流程來進行清理方面我還沒有看到什麼有力的提議。別誤解我的意思——有一些很好的「低垂果實」機制能夠切斷經濟來源（儘管谷歌禁止讓部分網站使用AdSense，也讓其它的廣告網路有機可乘）。我支持那些試圖打擊未經閱讀點擊誘餌式轉發的提議——這迫使人們會花更多的時間去將內容閱讀清楚，而不是光看到內容標題就直接轉發。但說到底，這些只是整個生態系統的冰山一角，儘管有人似乎認為自己取得了重大的勝利。

10年前，我在Blogger做「種族志工程師」的時候，花了大量的時間去瀏覽顧客服務投訴，從博文和評論中隨機取樣，然後製造小型工具去理解新生的博客圈以及解決有問題的內容。跟我早前在Usenet工作和後來從事繪製Twitter慣例時一樣，我為人們能夠非常機靈地操控我們所實施的任何精心設計的功能而感到十分驚訝——例如，對於厭食方面（anorexic）的內容屏蔽，他們創造出了「ana」一詞。簡單來說，當AOL和其它的服務商屏蔽涉及「anorexic」的話時，那些認為厭食是一種生活方式的人開始隱秘地提及他們的朋友「Ana」，以這樣的一種編碼方式來在不觸發內容審查的情況下討論厭食症。屏蔽特定語言的努力往往會引發很有創意的規避方式。

這些情況由來已久。很多思考技術的人會認識到垃圾郵件製造者和企業圍繞電子郵件展開的鬥爭，以及嘗試去解決垃圾郵件問題的各類干預機制。搜索引擎優化可能是會繼續困擾整個生態系統的另一個戰場。

人們現在在「假新聞」討論中將瞄頭直指谷歌和Facebook的部分原因是，這兩家科技巨頭在網路信息在特定社會人群中的流傳上擁有有效的壟斷權。由於集中化系統多少能夠遏制垃圾郵件傳播和SEO（搜索引擎優化），它們似乎也應該能夠解決假新聞問題——只不過人們並不喜歡出現於2016年（當時人們抱怨問題內容）的「個性化」解決方案。

不幸的是，對於「假新聞」我們所討論的問題跟垃圾郵件或者SEO的問題全然不同。一方面，不同的人，尋求操控內容背後的動機也不同。如果只是為了經濟利益，那麼我們的討論會大不一樣。但即使是在經濟利益驅動的內容操控範疇內，也不好探討，看看現代產品營銷是如何運作的就知道。

即使你的目標是遏制那些由經濟利益所驅動的驚人謊言（甚至是FTC美國聯邦貿易委員會所說的欺詐行為），解決起來也沒那麼容易，沒那麼快速——人們忘記了垃圾郵件/SEO的迭代經過了幾十年才達到現在的狀態。這些是國際性問題，沒有好的監管流程或者合理的流程能夠裁定什麼是真實的，什麼是虛假的。歡迎來到這種高風險的打地鼠遊戲。

嘗試去撰寫一項你覺得會奏效的內容政策。然後，思考一下你會通過那項政策消除可接受做法的種種方式。接著，想想你的敵手會如何規避你的政策。這正是我在Blogger和LiveJournal所做的事情，這項工作的難度之大簡直無法形容。我甚至不敢告訴你，挑戰色情和母乳餵養之間的界線的圖片數量有多少。這些界線並沒有你想像的那麼清晰。

我不想為企業洗脫干係，因為它們在這個生態系統中確實擔負著責任。但它們不會帶來人們所要求的那種解決良方。在我看來，很多批評這些公司的人真的很天真，因為他們覺得它們能夠輕而易舉地解決假新聞問題。

表層底下的本質

太多的人似乎認為，你可以打造一個強勁的系統去準確無誤地定義哪些人和哪些內容存在問題，然後實施這個系統，問題即可解決。但任何跟仇恨和不寬容鬥爭過的人都知道，創可貼式的表面解決辦法是行不通的。它們可讓問題消失一段時間，但仇恨還會繼續出現，除非你解決了源頭的問題。我們需要每一個人——包括企業在內——專註於解決技術所反映和放大的根本性問題。

對於不寬容、恐懼、不平等、不安定等問題，學者和媒體記者都撰寫過不少好的文章。簡單來說，我們存在文化問題，這種文化問題是價值觀、社會關係和社會結構的脫節所造成的。我們的媒體、我們的工具和我們的政治正被無數的人用來幫助滋生極化現象，這些人能夠利用這些系統謀取個人、經濟和意識形態方面的利益。有時候，這是為了個人的喜好。有時候，目標則更加令人不安。

儘管很多的技術人員都認為他們的工具被用來消弭種種的脫節，但實際上這並沒有發生。不只有科技行業是這樣。新聞業的理想也沒有顯現在當前的實例化上。就連以市場為主導的資本主義的理想實際上也沒有顯現在我們目前所有的被腐蝕的實例化上，如今金融業能夠控制商業（以及其它的一切）來滿足貪婪目的。

這些問題令人頭痛的部分原因在於，我們都被困在了一個存在深層缺陷的大系統當中。當然，有的人表現得尤其貪婪，或者尤其有惡意，但平庸的邪惡扎得很深。那麼，我們要如何將我們的憤怒、不滿和能量往一個創可貼式解決方案主義以外的方向疏導呢？我們要如何克服讓那些脫節不那麼明顯的慾望，著手去重塑社會基礎設施和消除社會分歧呢？最重要的是，我們要如何不滋生極化現象呢？

在我看來，我們需要優先解決的設計需要非常明確：打造社會、技術、經濟和政治方面的結構，讓人們能夠理解、重視和溝通不同的觀點。太多的技術產品和媒體都以為光是呈現信息就能夠完成那種文化工作。我們如今知道這顯然不是實際情況。所以我們將那個目標置於我們的主張和和開發流程的中心位置，看看如果將它列為優先事項，我們能夠做出點什麼來。想像一下，如果風險投資者和其他的投資者都要求產品和內容干預措施要設計得能夠消弭社會差距，會怎麼樣。我們如何能夠跳出眼前的利益，基於未來的考量來打造社會基礎設施呢？我不確定我們擁有這一決心，但我認為那是問題的一部分。

這些藉由「假新聞」顯現出來的謎題非常難解。它們屬於社會難題和文化難題。它們促使我們去思考人們如何構想知識和想法，如何與其他人溝通和構造社會，並作出應對。它們還十分凌亂，揭示了人們在信仰和態度上的分歧和破碎。那意味著它們不是通過技術手段就能簡單解決的。如果我們想要用技術解決方案來解決錯綜複雜的社會技術問題，我們無法直接地將問題擺出來，然後告訴企業去修復它們揭示和幫助放大的社會問題。我們需要齊心協力，聯合有著不同政治和社會理想的人，共同解決那些我們一致認為存在問題的事情。否則，我們將要做的就是試圖發動文化戰爭，企業充當仲裁者和調解人。那聽上去十分可怕。（樂邦）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！