危險的視頻推薦演算法

撰文：柴內普·圖菲克奇（Zeynep Tufekci）

翻譯：紅豬

現在是凌晨三點，煙霧報警器嘀嘀響個不停。家裡並沒有著火，我也不必驚慌。我要做的只是讓這討厭的東西安靜下來，平息我的怒火。我已經卸掉了電池，還把全部按鈕都按過一遍扭過一遍，但就是沒用。 幸運的是，我在Youtube教程里找到了所有問題的解決方案。視頻幫助我選好了對策，並且列出了每一個步驟。看到它有數十萬點擊我安心了：這或許真的管用。

YouTube已經成為學習一切技能的地方，從怎麼安裝宜家的柜子到怎麼連接藍牙耳機，應有盡有。Youtube匯總了各種教程，有的很好，有的不著邊際，還有的由專門人士製作，他們通過廣告賺了大錢。但對許多視頻上傳者來說，他們在解決問題的同時，把答案分享給全世界。

數碼世界的土著語言應該是視頻而不是文字。然而這個趨勢卻被主導前數字時代公共對話的知識階層錯過。我注意到，許多年輕人在搜索自己想要的內容是都是從YouTube開始的。YouTube的所有者谷歌也會在搜索結果里重點標記視頻。

「要怎麼」組裝那隻桌子，減輕我的中風，確定我是個女性主義者，選擇疫苗，給我的面頰打光，系鞋帶，研究氣候變化的真假……YouTube上總會有人知道。但還有一些別有用心的人也盯上了這個網站。他們是極端分子、陰謀論者和守舊派，他們知道YouTube是一道信息的門戶，尤其對年輕一代而言。

YouTube的黑暗面也在這裡：它的盈利之道是將用戶留在網站，給他們播放定向廣告。為了使用戶持續觀看，這個網站還使用了基於人工智慧的一套推薦系統（畢竟是谷歌）。

其實在2015年，當谷歌的AI部門「谷歌大腦」接管YouTube的推薦功能後，就有人寫文章讚美它顯著增加了「參與度」（engagement）――矽谷的黑話，意思是引誘你在網站停留更長時間。

這些「推薦」視頻一個接一個地播放。也許你剛放完一個如何磨刀的教程，就會出現女性主義如何摧毀男性氣概、疫苗有什麼毒性或者為什麼氣候變化是一個騙局之類的視頻，當然，也有可能是一個時髦的主播在「證明」泰坦尼克號從來沒有撞上過冰山。

YouTube的演算法會推薦任何它們認為能提高參與度的視頻，看來它們已經發現了荒謬的說法、仇恨言論和兜售憤怒特別有效。

收到有害內容的推薦已經成了一種普遍體驗，已經有人大聲反對這種現象。後來，谷歌封殺了幾個明顯冒犯觀眾的高調「內容創造者」，並在不久前宣布了一個方案，準備減少推薦那些「低俗或以有害方式誤導用戶的內容」。谷歌表示，需要減少的內容包括「對嚴重疾病的虛假神奇療法」以及宣揚「地球是平的」的言論。雖然在推行這個方案之前，演算法已經將這些人的觀點推送給了數百萬人。

雖然我很開心看到谷歌的回應，但這個問題是深刻的、結構性的。谷歌的商業模式就是積極推薦觀看次數最多的內容。另外，YouTube的手伸得很遠，谷歌旗下有一系列便宜又漂亮的Chromebook筆記本電腦，這款電腦在美國初等教育電腦市場上佔據了一半以上的份額。YouTube就預裝在這種電腦上。許多家長和教育者大概都沒意識到自己的孩子和學生對它有多依賴。

就像我們不能呵斥孩子離開草坪一樣，我們也無法忽視一個事實：孩子們使用YouTube是有原因的。上面有他們想看的東西，就像我真想知道怎麼在凌晨三點結束那場嘀嘀亂響的災難。我們要用法規、自律和教育應對這個現實。我們不知道推薦系統的原理，不知道它的設計是怎麼把我們的眼睛釘在屏幕上的。但我們可以要求學校里的Chromebook不安裝YouTube，或者關閉「推薦」功能。

在利潤、全球規模和人工智慧的危險關係中，這只是冰山一角。這是一個嶄新的時代，它提出的挑戰和泰坦尼克撞上的冰山一樣真實。

《環球科學》2019年5月刊現已上市

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！