要覽＃40 假消息之戰
本文長度4200字，建議閱讀9分鐘
假消息之戰
Chris Meserole
克里斯·梅瑟羅爾
布魯金斯學會中東政策中心的研究員，研究新興技術和網路極端主義的專家
Alina Polyakova
約瑟夫·奈
布魯金斯學會美國和歐盟中心的大衛·M·魯賓斯坦研究員，研究俄羅斯政治戰和新興威脅的專家
本文英文原文發表在外交政策（Foreign Policy）網站：http://foreignpolicy.com/2018/05/25/disinformation-wars/#。此為中文摘譯版。
編者按
隨著人工智慧、去中心化應用程序等新技術的興起，世界政治中的虛假消息變得更加難以檢測和監管。本期摘譯推薦美國布魯金斯學會專家對這一問題的研究。她們認為，政府和企業只有儘快聯手，把對人工智慧等新技術的研究和反假消息的措施結合以來，才能有效應對技術進步帶來的新威脅。
對於即將到來的人工智慧引發的「深度假象」浪潮，美國和歐洲都沒準備好。
俄羅斯的虛假消息已經成為歐洲政府面對的一個難題。在過去兩年里，克林姆林宮已經傳播了諸多假消息，如聲稱法國總統馬克龍得到「男同性戀者遊說組織」的支持，編造關於一名俄裔德國籍女孩被阿拉伯移民性侵的事件，散布一系列關於加泰羅尼亞獨立公投的陰謀論等等。
歐洲最終採取了行動。今年一月，德國的《網路執行法》生效。這部法律旨在限制網路上的仇恨言論和虛假消息。法國和西班牙也考慮制定它們的反假消息法律。更重要的是，歐盟在四月公布了一項應對網路虛假消息的新策略。歐盟的計劃著重於幾種理性的反應：提升媒體素養，資助第三方事實核查服務，敦促臉書(Facebook)和其他社交網路公司採取措施突出由可信媒體發布的新聞。儘管這項計劃還缺乏監管措施，但歐盟官員已暗示監管可能即將到來。臉書首席執行官扎克伯格在出席歐盟聽證會時，試圖迴避關於假新聞和極端主義內容的問題，但立法者提醒扎克伯格，他們具有監管權力。
最近歐洲採取的行動是重要的第一步。但這些已經公布的法律或策略是不夠的。問題在於，技術的進步遠遠快於政府制定政策。歐盟的措施只是針對昨日而非明日的假消息。為了解決這個問題，歐洲和美國的決策者應關注即將到來的具有顛覆性的技術浪潮。由人工智慧和去中心化計算所推動的下一代虛假信息勢必會更加複雜，更難以檢測。
立法者應關注四種新興威脅：人工智慧的民主化，社交網路的演變，去中心化應用程序的興起，以及假消息的「後端」。
由於更大的數據、更好的演算法和定製硬體的出現，在未來幾年，世界各地的人們將可以逐漸使用尖端的人工智慧。從醫療到交通，人工智慧的民主化具有巨大的前景。
然而，與任何雙重用途的技術一樣，人工智慧的擴散也帶來重大的風險。人工智慧使人人都能製作虛假的印刷品、音頻和視頻故事。雖然計算機一直允許對數字內容進行操控，但在過去這種操控幾乎總是可以被檢測到的：假圖像無法說明光的微小變化，被篡改的語音無法完全掌控節奏和音調。但是，深度學習和生成式對抗網路可以很好地篡改圖像和視頻，以至於難以區分偽造的文件和真實的文件。此外，由於有像FakeApp換臉軟體和Lyrebird變聲軟體等應用程序，這種所謂的「深度假象」可以被任何人用電腦或手機製作出來。今年早些時候，一種能讓用戶輕鬆換掉視頻中的人臉並偽造名人色情片的工具在推特(Twitter)和色情影片網站Pornhub上瘋狂傳播。
對政府和社會來說，有效應對深度假象和虛假信息的民主化是有難度的。由於生成假象的演算法不斷獲得更有效地複製現實的能力，深度假象便不能輕易地被其他演算法檢測到——在生成式對抗網路中，演算法通過變得真正善於欺騙它自己而起作用。因此，為了應對虛假信息的民主化，政府、社會和技術部門不能只依靠演算法，而是需要投資社交驗證的新模型。
在人工智慧和其他新興技術成熟的同時，傳統平台將繼續在製作和傳播網路信息上發揮重要大作用，例如假消息在谷歌、臉書和推特上的擴散。
越來越多搜索引擎優化(SEO)操控的山寨行業為希望上升谷歌排名的客戶提供服務。雖然在大多數情況下，谷歌能通過不斷調整領先於那些操控演算法，但是搜索引擎優化操控者正變得更精明，能讓包括假消息在內的內容出現在搜索結果的頂部。
舉個例子，在三月份英國神經毒劑襲擊事件和四月份敘利亞化學武器襲擊事件發生之後，今日俄羅斯(RT)和俄羅斯衛星通訊社(Sputnik)——俄羅斯政府的宣傳媒體——的報道出現在谷歌搜索的首頁。類似的，YouTube（谷歌旗下的視頻網站）有一種演算法，能優先考慮用戶觀看內容的時間量，將其作為確定哪些內容首先出現在搜索結果中的關鍵指標。這種演算法的偏好性導致虛假的、極端主義的和不可靠的信息出現在搜索結果的頂端，這反過來意味著這些內容更頻繁地被用戶查看，被認為更可靠。搜索引擎優化操控行業的收入預計達到數十億美元。
在臉書上，假消息通過共享內容和付費廣告兩種方式出現。臉書公司已試圖減少各種來源的假消息，但到目前為止都徒勞無功。最著名的例子是，臉書引入了一種「有爭議的標誌」，用以表示可能的假消息——結果是這一標誌沒有減少反而增加了用戶與這類內容互動的可能性。還有個不那麼出名的例子，在加拿大，臉書公司嘗試讓包括針對一小部分用戶的微型廣告在內的所有廣告可供審查，以增加付費廣告的透明度。然而，這種努力的效果是有限的：廣告贊助商經常是隱藏的，需要用戶去做耗時的研究，而且臉書為廣告設置的存檔不是一個永久的資料庫，只是顯示活躍的廣告。臉書早期的努力沒有很好地預見到：外來行為者能夠繼續利用臉書的動態消息和廣告產品傳遞假消息——包括製作針對特定個人或群體的深度假象。
雖然推特已經採取措施抗擊其平台上的機器人魔怪和軟體機器人的泛濫，但它面對假消息仍非常脆弱，因為該平台上的賬號未經過驗證，它的應用程序編程介面(API)仍然可以讓錯誤內容在平台上輕易地生成和傳播。即便推特採取進一步措施打擊信息濫用行為，它的檢測演算法也可以像谷歌的搜索演算法那樣被反向操作。如果不對其應用程序編程介面和交互設計進行根本性的改變，推特仍會充斥著假消息。
舉個例子，當美軍在四月份襲擊敘利亞化學武器設施時——正是在推特最新改革措施實施之後——五角大樓報告稱襲擊發生後幾小時內俄羅斯假消息大量增加。這些推文似乎發自合法賬號，而且沒有辦法將它們報告為錯誤信息。
區塊鏈技術和其他分散式賬本技術以支持比特幣(bitcoin)和以太坊(ethereum)等加密貨幣而著稱。但它們最大的影響可能在於改變了互聯網的運作方式。隨著越來越多的去中心化應用程序上線，網路將逐漸受到抵制臉書和其他網路公司所享有的集中控制的那些服務和協議的支持。例如，用戶可以在DTube而不是YouTube上瀏覽視頻，在Blockstack而不是Safari上瀏覽網頁，使用IPFS，即點對點文件系統，而不是Dropbox或Google Docs來存儲文件。當然，去中心化應用程序生態系統仍處於萌生階段，需要時間來成熟和解決故障。但是，隨著時間的推移，安全性不斷提高和底層網路體系結構不斷被修復，分散式賬本技術有望讓網路變得更加安全，並脫離主要公司和國家的控制。
如果線上活動轉移到去中心化應用程序上，它們所提供的安全性和去中心化對於隱私倡導者和人權異議人士來說是福音。但這對於惡意行動者來說也是天賜之物。這些服務大部分都由匿名性和公鑰密碼體制所支撐，因此難以追蹤到現實中的個人或組織。此外，一旦信息被提交給去中心化應用程序，就幾乎不可能取消。例如，IPFS沒有刪除的方法——用戶只能添加而不能刪除內容。
對於政府、社會和個人而言，去中心化應用程序將帶來前所未有的挑戰，因為當前用以應對和干擾假消息活動的方法將不再適用。政府和社會最終可以呼籲推特首席執行官傑克·多西阻止或刪除在推特上的惡意用戶或有問題的內容，但對於去中心化應用程序，它們不能求助於任何人。如果曼徹斯特爆炸襲擊者是在去中心化應用程序而不是在YouTube上看到製造爆炸的指導視頻，那麼誰應該或可以採取措施阻止這類內容仍不清晰。
在過去三年，對俄羅斯假消息的重新關注引發了越來越多非營利組織、政府、記者和活動家的研究和行動。目前，這些努力集中在記錄假消息活動中涉及的機制和參與者——追蹤殭屍網路，識別巨魔賬號，監控媒體敘述以及追蹤假消息內容的傳播，還包括政府為落實數據保護和隱私政策所做的努力，例如，歐盟《通用數據保護條例》以及為網上廣告空間引入更多透明度和問責制的立法提案。
雖然這些努力對提高公眾和決策者的認識確實是有價值的，但它們關注最終產品（內容），幾乎沒有深入研究驅動假消息活動的潛藏基礎設施和廣告市場。需要對假消息的「後端」進行更深入的檢查和評估。演算法和產業——網上的廣告市場、搜索引擎優化操控市場和數據經紀人——隱藏在產品背後。與機器學習配合的自動化程度的提高也將改變這一空間。
為了應對這些新出現的威脅，歐洲和美國應考慮以下幾種政策反應。
首先，歐盟和美國應當投入大量資金，用於人工智慧和信息戰的交叉點的研究和開發。今年四月，歐盟委員會呼籲到2020年將至少撥出200億歐元用於研究人工智慧，優先關注健康、農業和交通領域。這些資金都沒有被專門用於研究假消息。同時，當前歐洲反假消息的措施優先在教育和事實核查上，忽略了人工智慧和其他新技術。
只要技術研究和反假消息的努力仍各自為戰，在應對新興威脅方面就難有進展。在美國，政府一直不願參與推動技術研究，矽谷的創新很少受到監管。2016年奧巴馬政府關於人工智慧未來的報告並未分配資金，特朗普政府尚未發布它的戰略。隨著俄羅斯操控數字平台的行為持續被揭露，政府顯然需要與私營部門共同識別脆弱性和國家安全威脅。
此外，歐盟和美國政府也應當快速行動，阻止去中心化應用程序上錯誤信息的增加。去中心化應用程序的出現為決策者提供難得的第二次機會：當十年前社交網路剛被建立起來的時候，立法者沒能預見到惡意行為者可以利用社交網路。現在去中心化應用程序還是一個萌發的市場，決策者可以在它達到全球規模之前做出反應。政府應當構建新的公私夥伴關係，幫助開發者確保下一代網路不被假消息活動利用。聯合國的反恐技術項目可以作為一個典範，該項目與小型科技公司緊密合作，幫助他們從頭開始設計自己的平台，用以防範恐怖主義利用。
最後，立法者應當繼續推動數字廣告業的改革。隨著人工智慧繼續改變著這個行業，假消息內容將更加精準地針對特定受眾。人工智慧將讓惡意行為者和合法廣告商都能更容易地追蹤用戶的線上行為，識別並瞄準潛在的新用戶，收集用戶態度、觀念、偏好等信息。2014年，美國聯邦貿易委員會發布一份報告，呼籲數據經紀行業的透明度和責任心。這份報告呼籲國會考慮立法，通過向個人提供途徑和信息，讓他們知道自己的數據是如何在線上被收集和利用的，從而使這些公司的活動透明化。歐盟的保護法規在幫助用戶掌控其數據方面發揮了重要作用，並限制了社交媒體平台為實現廣告定位而處理用戶數據的方式。臉書也在爭議投票前試圖阻止外國廣告銷售。但是，數字廣告行業作為一個整體仍是一個黑匣子，在限制技術挖掘和管理網上政治廣告方面需要做的還很多。
有效追蹤和定位上述各個領域並不容易。然而，決策者需要從現在開始關注它們。如果歐盟反假消息的新努力和其他相關政策不能跟上不斷發展的技術，那麼這些政策在被引入之前就可能過時了。
（黃琳摘譯，歸泳濤校）
排版、編輯 | 李方琦
時政問題 | 國際戰略 | 熱點研究
