槍擊案後假新聞泛濫，是演算法的「惡」，還是谷歌和 Facebook 的失職？

編者按：拉斯維加斯大規模槍擊案震驚世界，在為死難者哀悼的同時，社交媒體在其中扮演的角色也引起了人的注意。有人批評，槍擊案後假新聞泛濫，這是谷歌和Facebook等公司的失職。本文編譯自《大西洋月刊》原題為「Google and Facebook Failed Us」的文章。

在拉斯維加斯大規模槍擊案發生後的關鍵早期，假新聞再次泛濫：完全未經證實的謠言，錯誤的政治迫害，虛假信息公然在互聯網傳播。

這些虛假信息傳播者藉助 Google 、Facebook 和 YouTube 來進行廣泛的傳播。這些公司是世界上最大的信息守門人，但他們拒絕承擔責任，拒絕在保護公眾信息方面發揮積極作用。

BuzzFeed 的 全球新聞副總監 Ryan Broderick 發現，Google 的「熱門故事」顯示了 4chan 論壇帖子，關於一名右翼的業餘偵探錯誤地被確定為拉斯維加斯射擊案的兇手。

4chan 不僅僅以種族主義泛濫聞名，而且是惡作劇和虛假信息的匯聚地，任何人工編輯的網站都不會把 4chan 作為新聞來源。

然而，隨著人們搜索關於這個被錯誤指控的人的信息，Google 擴大了謠言的傳播，在傳播不良信息，假新聞生態系統方面發揮積極作用。

這個問題可以追溯到2014年10月 Google 進行的一次改變，將非新聞網站納入「新聞」（In the News）框中。但是，並不是每個論壇網站都可以被包含在內。

更糟糕的是，當我像 Google 公司提出了這個問題，並指出為什麼我認為這是一個嚴重的問題，他們發回了樣板回復：

非常不幸，今天凌晨，我們在少數搜索結果中簡要地顯示了一個不準確的 4chan 網站， 在幾個小時之內，4chan 的故事被演算法地取代了相關的結果。 這不應該出現在任何查詢中，我們將繼續進行演算法改進，以防止將來發生這種情況。

僅僅發現演算法的漏洞，然後進行替換是不夠的。 系統中的問題只是因為它在決策循環中有機器決定，所以不夠好。

在我跟進 Google 之後，他們發出了一個更詳細的回復，我不能直接引用，但可以描述。 這主要是為了盡量減少 Google 所犯的錯誤，同時承認他們犯了錯誤。

他們說，關於拉斯維加斯的一般搜索一般不會顯示 4chan 的鏈接，只有搜索帖子中錯誤的兇手名字才會。4論壇帖子出現的原因是「新鮮」，對被誣告的人的搜索量相對較少。 基本上，控制顯示搜索結果的演算法沒有太多的進展，當新的名稱搜索出現熱度上升時，他就經常是搜索顯示的第一個結果。

該說明進一步解釋說，「新聞」中出現的內容來源於網站的「權威性」以及其內容的「新鮮度」。 而且 Google 承認他們在這種情況下犯了錯誤。

事實上，這是一個可預測的問題。 其實現在已經有一個類似的例子。 在波士頓爆炸事件發生後，我們看到一個非常相似的「錯誤信息災難」。

科技新聞服務 Techmeme 使用人類和演算法來識別重要的新聞， 運營者 Gabe Rivera 指出了解決問題所在，不能要求 Google 人工篩選所有內容，但對於最重要的搜索，他們確實有資源來處理。

事實是機器需要很多的例子來進行學習。 這是我們從目前的所有人工智慧研究中所知道的。 他們不擅長「一槍」學習。 但人類非常擅長處理新的和意想不到的情況。 鑒於我們知道這些機器將會遇到罕見的，突發性的新聞情況，為什麼 Google沒有更多的人員負責基本的信息過濾？為什麼不能成為系統的一部分？

Google 太重要了，從我 10 年來所看到的的報道中，這家公司是關心信息質量的。 即使從純粹的企業信任和品牌角度來看，解決這件事情也是值得的。

當然，這不只是 Google 一家公司的問題。

在 Facebook 上，搜索「拉斯維加斯」得到了一個稱為「拉斯維加斯射擊/大屠殺」的群組，在槍擊案發生後，已經有超過5000名成員。

這個小組由Jonathan Lee Riches 運營，曾經因詐騙被判有罪而被判十年徒刑的情況下，現在，他稱自己是 Infowars 的「調查記者」，儘管沒有跡象表明他已經在網站上發表，並且還表示自己也是維多利亞秘密的前男性內衣模特、切爾諾貝爾的前核科學家、白金漢宮的前保鏢，他的工作歷史很可能是虛假的。

這人的群組可能發生的問題對於任何人來說都是顯而易見的。 但是對於 Facebook 的演算法，它只是一個快速發展的群組。

大多數加入群組的人是為了尋找信息，他們大概不知道創始人是臭名昭著的信息的劫持者。

與此同時，紐約時報的 Kevin Roose 指出，Facebook 的「熱門故事」頁面的內容來自俄羅斯知名的宣傳媒體 Sputnik。

「我們的全球安全行動中心今天早上發現了這些帖子，並且已經刪除。 但是沒有在第一時間刪除，所有被截屏傳播「一位發言人回應說。 「我們正在努力解決發生的問題，並對此造成的混亂深感遺憾。」

在整個信息景觀中，搜索新聞的結果是很糟糕的。 紐約時報的 John Hermann 寫道：「管理突發新聞是一個非常困難的問題，但令人難以置信的是，每個主要平台的搜索結果，都充滿了垃圾信息。

例如，他指出，YouTube上也是一片糟，對沒有受人尊重的新聞機構。

作為新聞消費者，我們可以這麼說：不一定是這樣的。 想像一下，一家報紙發表了一系列關於一大批關與槍擊案兇手的假新聞，他們應該為此付出代價。新聞標準是一系列幫助理解混亂情況的工具，其中關於事件的壞的和良好的信息共存。 這些技術公司需要借用我們的工具，並僱用人來執行原則，否則就不要說他們關心信息質量。

演算法不應該再繼續隱藏在背後。 問題不能被最小化。 這些機器演算法已經表明，他們不能處理罕見的，突發性的新聞事件，至少在近期不可能。 需要加入更多的人為決策，這一過程越早越好。

原文鏈接：https://www.theatlantic.com/technology/archive/2017/10/google-and-facebook-have-failed-us/

編譯組出品。編輯：郝鵬程

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！