哈佛大學肯尼迪學院最新研究：社交網路是烏托邦or反烏托邦？

這篇論文發表於2017年秋天，由創業研究員、《革命2.0：人民的力量大於掌權者》的作者威爾·戈寧（Wael Ghonim），以及哈佛肯尼迪學院諾克斯研究員、公共政策碩士傑克·拉斯拜斯（Jake Rashbass）合作完成。

烏托邦與反烏托邦之間的社交媒體

「互聯網是歷史上最大的一次無政府實驗……從來沒有如此多人可以輕而易舉地擁有這麼多權力。雖然這不是我們歷史上第一次技術革命，卻是第一次讓幾乎所有人都可能擁有、開發和傳播實時內容，而不必依賴中介機構。」

—埃里克·施密特（Eric Schmidt）和賈里德·科恩（Jared Cohen）[1]

「我們和媒體公司有很大的不同，我們的定位是科技公司，我們僱工程師，而不是雇記者，我們這裡沒有記者，我們不報道新聞。但當我們這麼說的時候，並不是說我們沒有責任。事實上，我們是一種新的平台……而且隨著規模的擴大，我們有更多的責任。」

—Facebook首席運營官雪莉·桑德伯格（Sheryl Sandberg），2017[2]

當Facebook、Twitter和YouTube等社交媒體平台出現時，科學家、激進分子和藝術家預示它們將成為推動人類文明進步的前所未有的工具。通過使內容出版、分發民主化，這些平台打破古老的權力結構，使再強大的國家都無法壟斷公眾注意力，權力與人民同在。

然而現在這種觀點發生了戲劇性變化，權力集中在寡頭壟斷的平台手中。幾乎每天都有關於社交媒體負面影響的報道，比如對極端組織的賦權、迴音室效應的強化、虛假造謠信息的傳播、培養情緒與精神的不穩定。

平台的病症很大程度上是演算法的結果，即為優化用戶參與度而設計的機器學習與預測模型，但這些都有改變的希望。本文試圖追溯社交媒體的問題所在，並提出了一個扭轉現狀的出發點，使平台走上正軌，成為一股富有成效、負責任、有道德的力量。

社交平台從用戶點擊的可能性等多個維度為內容打分

優化參與度：社交媒體平台的結構問題

演算法影響著我們的金融選擇、購物選擇、社交互動以及信息獲取的方式。從基礎層面來說，演算法是一個程序，它根據一組排序標準來決定備選方案中的哪個具備優先順序。由於社交媒體平台上的內容激增，每分鐘有數以百萬計的帖子上傳，因此，哪些內容呈獻給用戶由演算法決定。

優化演算法以留存用戶

平台優化演算法有一個目標，即獲取並留存用戶的注意力。用戶關注是平台的最終收入來源，通過讓用戶參與，平台能夠獲取潛在受眾，並最終把商品或想法賣給他們。

用戶注意力是一種稀缺資源，因此社交媒體演算法是高度個性化的，以優化每個用戶的參與度，這意味著演算法會將用戶最有可能參與互動的內容排在最前面（把點擊，贊，評論，和分享等用戶行為作為優先指標）。為了確定用戶最感興趣的內容，平台收集並使用數百個、甚至數千個被稱為「信號」的信息來預測用戶是否會參與，這些信號使用戶和內容相匹配。對用戶來說，這些信號可能包括他們的年齡、地點、性別、設備類型、先前的參與習慣以及朋友的參與習慣。對於內容本身，這些信號可能包括它的介質（文本、視頻或圖像）、長度、發布時間以及其他用戶對它的參與度（比如，已經看到這些內容的用戶的互動參與情況）。內容背後的起源和價值在很大程度上是無關緊要的，最重要的是內容是否受歡迎，用戶是否仍然參與其中。

用戶參與帶來廣告收入

優化用戶參與度會誘使用戶在平台上花費更多時間，研究人員表示這會對用戶的健康產生負面影響。但對於平台來說，用戶更多的時間意味著他們有更大的機會來宣傳並獲得更多盈利。此外，由於平台具有每個用戶的行為和偏好的個性化數據，所以廣告可以被微定位，以最大限度地提高用戶點擊廣告的概率。

這種商業模式確實奏效了，隨著平台用戶基礎的增加，廣告收入也出現了驚人的增長。用戶在平台上花費的時間也達到了很高的水平。Facebook創始人兼首席執行官馬克·扎克伯格在2016宣布，每個用戶平均每天在Facebook上花費50分鐘。

2016年，扎克伯格在F8大會公布Facebook一季度業績

在社交媒體出現的早期，平台上大多是純粹的社交和廣泛無害的內容，比如家人和朋友的更新和寵物照片。由於這些內容基本上是非政治性的，因此幾乎沒有必要評估內容的性質或作者的可信度，演算法能夠安全地基於參與度統計數據進行內容發布。

然而今天，社交媒體卻成了政治活動的溫床，奧巴馬2008年的總統競選被認為是社交媒體成為美國政治工具的起源，但這種變化絕不局限於美國，社交媒體在2010~2011的「阿拉伯之春」抗議活動中也發揮了重要作用，尤其是在埃及，社交媒體也為各種社會運動提供了平台。與此同時，社交平台也成為許多用戶的主要新聞來源，2016年皮尤調查發現，美國超過60％的成年人使用社交媒體平台來了解時事。

社交平台的政治氣息逐漸濃厚

當把演算法應用於政治和社會問題時，無論內容的真實性或可信度如何，對用戶的內容進行優先順序排序可能會助長暴民的產生。至少有三個原因可以解釋這種情況的發生：

首先，對參與行為的優化促進了兩極分化和嘩眾取寵作風。皮尤研究中心在一項針對20萬份新聞稿和Facebook帖子的研究中發現，美國國會議員表達「憤慨的爭論」的帖子，相較於表達兩黨情緒的帖子多收到了50％的「贊」，並且前者的評論數是後者的3倍，分享數量是後者的兩倍（見圖1）。在推特上，分析人士觀察到在唐納德·特朗普上任的頭100天里，隨著內容變得「保守」，用戶對Twitter的參與度也有所減少。對特朗普選舉前的推文進行研究，發現參與度高的都是那些具有爭議的推文，其中有些僅由大寫字母組成。

圖1（來源：「黨派衝突與國會外展」，皮尤研究中心，2017年2月23日，www.people-press.org/2017/02/23/partisan-conflict-and-congressional-outreach/）

其次，平台演算法導致了錯誤信息和虛假新聞的泛濫。對內容進行優先排序而不考慮內容的準確性，導致用戶接觸內容時並不清楚其真實性。2016屆美國總統大選揭示了問題的嚴重性，以喬納森·奧爾布賴特（Jonathan Albright）在俄羅斯的研究結果為例，他創建了針對美國公民的Facebook頁面，這些網頁上以「黑人主義者」、「美國穆斯林聯合」和「安全邊界」等命名，編造出一些政治敏感問題和社會團體問題。在被Facebook刪除之前，這些虛假內容總共獲得了3.4億次分享。

最後，平台演算法導致了「過濾氣泡」。2015年一項針對1000多萬Facebook用戶關係網的研究顯示出了明顯的意識形態隔離。在自我認同的自由派關係網中，保守派所佔比例僅為五分之一，而自由主義者在保守派關係網中所佔的比例更小。社交媒體平台已經演變成了意識形態隔離的數字化平台，記者比爾·畢曉普(Bill Bishop)將此描述為「思想一致的人的集合體」 。

正如亨特·奧爾科特(Hunt Allcott)和馬修·根茨科夫(Matthew Gentzkow)所表達的那樣，意識形態隔離助長了虛假新聞和錯誤信息的傳播，因為「從Facebook(或其他社交媒體)獲得新聞的人不太可能獲得有關真實世界的證據，而這些證據將與意識形態上一致而實際上錯誤的故事針鋒相對。」此外，技術專家和互聯網活動家伊禮·帕里澤（Eli Pariser）的研究表明，「過濾氣泡」會導致認知差別，因為「消費符合我們世界觀的信息是容易和愉快的」，而消費那些需要我們以新的方式思考或質疑我們原有價值觀的信息是令人沮喪和困難的……因此，建立在『點擊信號』上的信息環境將有利於支持我們現有的世界觀內容，而不是那些挑戰世界觀的內容。」

情況可能會變得更糟，因為隨著時間的推移，隨著平台收集越來越多的用戶數據，以及它用於分析用戶參與情況的技術的改進，定製個性化參與的能力也將會提高。

個性化迷思：用戶想要什麼？

「我們建造了建築物，後來這些建築塑造了我們。」

—英國前首相溫斯頓·丘吉爾

可能有人會辯解，平台的演算法只是向用戶提供他們喜歡看到的內容。用戶參與了一段內容的互動，說明這個內容是用戶所喜歡的。一個有價值的想法將被廣泛傳播，而如果這個想法很爛，用戶也不會參與傳播，它將被限制在網路之外。根據這一邏輯，參與度優化是最有效和最中立的傳播方式。

但實際上，這個論點是有缺陷的。研究行為經濟學的諾獎獲得者丹尼爾·卡納曼（Daniel Kahneman）提出了兩個認知系統。系統一是快速和本能的思考，它需要最小的腦力消耗，思維過程高效，但代價是可能犯錯，這些錯誤本可以通過進一步思考來避免。系統二是一種較慢的思維方式，需要更多的投入和努力，但可以避免系統一的本能錯誤。舉例來說，提供一份垃圾食品會引發系統一思維，因為這會產生本能反應，導致快速地接受或快速地拒絕。這種反應不同於更為深思熟慮的系統二思維，系統二思維可以通過要求某人計劃他的一年的飲食來觸發。

參與度驅動的演算法捕捉的是系統一思維，被演算法打上互動標識的內容很可能會吸引用戶的興趣，但是沒有考慮用戶思考之後希望以何種方式使用這個平台。內容分發演算法旨在儘可能長時間地將用戶留在平台上，這並無法反映用戶想要使用多長時間。換句話說，向用戶提供他們想看的東西和能吸引他們主動去看的東西是有區別的。

數據與社會研究院院長兼微軟首席研究員達納·博伊德（Danah Boyd）最早發現受注意力經濟驅動的互聯網存在潛在危險。在2009年Web 2.0博覽會上的演講中，她警告說：「我們的身體消耗脂肪和糖分，因為它們在自然界是罕見的……同樣的，我們從生物學的角度來看，我們對刺激性的東西也很關注，比如粗俗的內容、暴力、性和八卦，這些都是侮辱性的、令人尷尬的以及無禮的。如果我們不加小心，就會發展出心理上的肥胖。我們會發現自己消費的內容對我們自己或整個社會都是最無益的。

平台之慮：商業利益VS公共利益

平台的商業模式讓他們沒有動力去改變正在做的事情，如前所述，對參與機制的優化意味著有更多展示廣告的機會。除此之外，識別和衡量涉及公共利益的內容是非常具有挑戰性的，正因如此，如果不最大化地提高用戶參與度，公司收入就會減少。即便是調整演算法的最優秀的程序員，也沒有動力去識別那些對社會有好處的內容並確定優先順序，因為他們的業績評價很大程度上只與公司的收入和用戶基礎相關。

短期利益與長期利益在演算法開發方面的緊張關係，並不局限於社交媒體平台，負責為金融部門公司開發演算法的數學家凱茜·奧尼爾（Cathy O』Neil）曾描述了她是如何意識到自己工作的影響的：「我的對沖基金模型中設置的數據代表著某種東西，可以是人們的退休基金或者抵押貸款，回想起來，這是顯而易見的。當然這我一直都明白，但我並沒有真正認識到我們用數學工具撬開的五分硬幣、一角硬幣和四分硬幣的本質。」

平台負責人則會否認這個問題的嚴重性，當受到批評時，他們往往強調社會媒體的積極貢獻。2016年11月下旬，馬克·扎克伯格否認Facebook上的假新聞對美國總統選舉產生的影響，並譴責該說法是「瘋狂的想法」，儘管他後來稱自己後悔發布了這個聲明。

社交媒體病態的演算法受到了媒體的關注，現狀急需改變，我們應該從根本上重新思考自己發布在社交媒體平台上的觀點。

透明化：對抗暴民的策略

據說陽光是最好的消毒劑，電燈是最有效率的警察。

—前美國最高法院法官路易斯·D.布朗戴斯（Louis D.Brandeis）

平台應該摒棄業務驅動型演算法，這種做法以犧牲社會福利來實現收入最大化。為了搞清權責，這些演算法的輸出必須更透明。因為演算法為每個用戶提供高度個性化的體驗，所以我們不知道其他用戶在消費什麼。也正因為我們不知道其他用戶的體驗和網站正在傳播的信息，我們也就不能及時追究那些散布虛假新聞和錯誤信息人的責任，而且我們也無法得知平台在何種程度上鼓勵了兩極分化和嘩眾取寵的內容。

透明化可以阻止不良行為者操縱平台系統，此外，如果學者、記者和其他相關方能夠獲得輸出數據，那他們可以幫助理解問題的範圍和性質，這些數據將成為一種讓社交平台為其社會影響負責的手段。

目前，社交媒體公司與研究人員和其他相關方數據共享不足，原因有二。首先，平台對所共享的數據擁有完全的自由裁量權，平台沒有義務分享數據，並且一般不會對引起批評的合作感興趣。在2016年美國總統大選期間，Facebook最初以商業秘密為由拒絕公布政治競選數據，只是在公眾和媒體的壓力下，他們才打算髮布數據。

其次，平台給研究人員共享的數據是不夠的。舉個例子，用戶舉報違反平台服務條款的內容，隨後由平台來刪除，但平台不公開與刪除內容相關的信息，我們也就不可能知道哪些信息已被刪除，為什麼被刪除，發布者是誰以及什麼時候進行的刪除，平台不喜歡分享這些信息，因為它可能導致潛在的公眾不適。

解決方案：開發公共利益API

Twitter和Facebook最近正在為提高透明度而採取措施，但還遠遠不夠。

我們相信，所有使用演算法發布內容的平台都應該開發一個標準化的公共利益API（一種用於共享和訪問數據的標準介面），它可以提供在其網路上分發信息的詳細概述，但同時尊重用戶隱私、商業機密和知識產權。社交媒體公司已經使用聚合數據作為一種手段來改變自己的演算法，引入新的產品特性並制定公司的策略。

這個介面可以共享三類數據：

公共帖。惡性傳播誤導和操縱用戶的帖子可以吸引大量圍觀者，但卻不被追究責任。為了解決這個問題，平台應該為所有公共帖子提供數據，無論是由個人用戶、組織還是頁面創建，數據包含帖子的覆蓋面和參與度，並提供受眾的人口分類統計。這個API介面還應該披露不同地方和人口分組中最熱門的內容，並識別出那些使公共帖呈現病毒式傳播的影響者。這可以讓記者、研究人員和公民等第三方及時發現平台上的趨勢，並提醒平台方對有害趨勢作實時響應。

廣告活動。所有廣告都清晰可見的印刷和廣播媒體時代已經過去，隨著微型定位和社交媒體上「黑色廣告」的出現，我們不再知道誰在向誰傳播什麼信息。這對我們檢測虛假廣告、政治塗鴉活動和選舉操縱有巨大影響，平台需要通過公共利益API顯示誰在購買廣告，他們針對的是哪些群體，以及這些廣告的具體內容。

審查內容。所有社交媒體平台都制定了對違反其使用條款的內容進行審查的政策，即使如此，他們的演算法也會使未被禁止的內容在被發現和移除之前分發一段時間。

平台可以用公共利益API來揭示這些刪除材料的內容和來源，這些內容在刪除之前傳播了多久，以及在此期間哪些用戶獲取和接了這些觸內容。公眾對這些數據的訪問將迫使社交媒體公司加快行動，以刪除違反其政策的內容並將其保留以供未來研究。它還可以使記者和研究人員了解什麼樣的內容最經常被審查，並證實平台的審查行為沒有超出規定範圍。

來源：Twitter的透明度報告

透明度不再是一種選擇。我們需要從根本上改變科技行業的做法，讓我們之間的溝通方式發生變化。盲目推出對社會有重大影響的產品而不附帶透明度不再讓人接受。

我們希望這裡提出的公共利益API模式，將有助於使社交媒體平台成為一股積極力量。儘管透明度不是一個完整的答案，但缺乏透明度是可持續解決方案的一個障礙。Facebook、YouTube和Twitter的負責人都宣稱透明度的價值觀，現在是時候讓這些公司用相應的行動來配合他們承諾，而且，越早越好。

柏拉圖在《烏托邦》里寫到：「不因小快樂而妨礙大快樂，不因快樂而引起痛苦後果。烏托邦人認為，低級快樂一定帶來痛苦後果。」風波之後，適合痛定思痛。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！