壞人已經學會利用互聯網，現在正在予以重拳反擊

???充斥著仇恨言論、網路激進化、炸彈製造教程、別國支持的虛假新聞以及審查制度，互聯網真是一個糟糕的地方。

?

請點擊此處輸入圖片描述

無論如何，互聯網上的部分內容就是這樣的。作為谷歌母公司Alphabet下Jigsaw團隊的研發主管，亞斯明?格林（Yasmin Green）的工作就是想辦法讓這類內容的比例降到最低。她帶領著由大約60名專家組成的跨國團隊與恐怖分子和網路噴子周旋較量，整支團隊由軟體工程師、研發科學家和產品經理構成。雖然亞斯明?格林和她的團隊可以接入谷歌無窮的資源，但他們並沒有把所有的時間都花在寫代碼和開發軟體上。團隊中多名成員還會親赴地緣政治熱點地區近距離研究激進化。她討論了該團隊的部分研究方法。

?是什麼吸引著你在Jigsaw擔任職務？

?我是在英國長大的，在很小的時候就離開了我的出生地伊朗。我記得19歲的時候我曾回到伊朗，當時我被伊朗線上線下審查的嚴格程度震驚了。對那些居住在信息不自由國家的人來說，「萬維網」這樣的詞簡直就是一種諷刺。所以當我遇到這樣一家致力於使普羅大眾都能獲得信息的公司時，被它深深的吸引了。

?Jigsaw團隊主要應對的是網路威脅，但作為工作的一部分，團隊成員還需要親赴衝突地帶。這麼做的目的是什麼？

?我們這樣么做的目的是為了確保自己研發的技術是真的基於對人類體驗的理解。要實現這一目的，一個重要的方法就是派遣團隊成員實地考察，去採訪真正面臨挑戰的人，然後再去努力解決問題。在實地考察過程中，我們曾去過一次伊拉克，在那裡我們與曾加入又退出ISIS恐怖組織的人面對面交談。我們想要理解激進化的過程，想要理解人為因素和科技因素對這一進程的影響。我們了解到人們是如何發現ISIS組織，如何被徵募，以及科技在他們加入組織過程中起著多麼重要的作用。

?ISIS能夠利用互聯網徵募，我們從中得到的最重要的教訓是什麼？ ?

ISIS掌握了多種媒體渠道，從無線廣播到傳單發放。具體到互聯網領域，可以說ISIS組織真的太了解微目標（microtargeting）的力量了。他們在撰寫內容時會使用多種語言，包括阿拉伯語和英語，但不只局限於此，甚至還有漢語和希伯來語。真正讓我大吃一驚的是，我竟然看到他們在一個視頻里使用了手語。而且ISIS組織的徵募材料也撰寫得十分本地化，他們還利用社交媒體提供的演算法分發徵募資料，消息觸達世界各個角落。

?顯然，恐怖分子在線發布的某些內容必須要刪除。但對於那些比較隱晦的宣傳我們該怎麼處理呢？

?毫無疑問，有些內容你是肯定不想要它們公諸於世的，像是斬首和炸彈製造教程。但的確也有大量的其他內容並非在直接提倡暴力，而是在引導人們走向暴力。我們的研究目標就是理解到底是哪些徵募主題吸引著人們加入ISIS組織。研究結果表明，吸引徵募者的並非斬首，恰恰相反，ISIS說服了他們，讓他們認為該組織是宗教正統，討伐異教徒是他們的宗教責任。ISIS自問自答，通過給出表面上說服力極強的答案影響著輿論方向。

?你們嘗試過應對這種網路激進化嗎？

?我們學到的重要一課就是時機真的很重要。等到潛在徵募者已經接受了ISIS的意識形態，想要再去影響他們就為時已晚了。你必須在他們剛剛開始同情ISIS組織，但還沒有徹底接受的時候去影響他們。於是我們選擇了定向網路廣告這種方法。我們設計了一個叫做「重定向」方法，可以利用定向廣告觸達剛開始同情但並未忠誠於ISIS組織的人群，然後將他們重新引導至溫和派教士、叛逃者、公民記者發布的在線視頻，避免他們走向激進化。

?這個方法有什麼效果嗎？

?我們在測試中使用了阿拉伯語和英語，持續了8周時間，觸達32萬人。廣告點擊率十分高，視頻總觀看時長高達50萬分鐘。要知道人們對不感興趣的視頻觀看時長通常都不會超過幾秒，所以這個數據還是十分振奮人心的。在經過測試之後，YouTube把這個方法納入了搜索功能。該方法是開源的，下世代基金會（Gen Next Foundation）這樣的機構也在使用它，而且我們將一直繼續支持新的部署方法。

?Jigsaw也在努力應對網路審查問題。這個問題到底有多嚴重呢？

?如果你去看一看自由之家的相關指數，就會知道網路審查現狀每況愈下。這真的挺讓人沮喪的，因為這和互聯網開發者的初衷相違背。網路審查的狀況反覆無常。一旦國內出現動亂，就像最近伊朗發生的那樣，你就會看到那些高壓政府陷入兩難境地，猶豫著是否要關閉互聯網，因為審查網路會刺激大眾，引起公眾關注並觸發眾怒。

?像Alphabet這樣的公司會如何應對這種狀況？

?我們認為自己有責任幫助大眾獲取信息，尤其是在發生衝突和鎮壓的地區。我們的其中一款產品就是用來保護世界各地的獨立媒體不受一種叫做分散式拒絕服務（DDoS）的審查攻擊。這種攻擊方法通過湧入大批訪問流量促使網站被迫下線。這款產品叫做護盾項目（Project Shield）。護盾項目最初的想法源於我們的實地考察。我們的團隊曾與肯亞選舉的監督團隊交流過，他們的網站曾在一次重大選舉的當天崩潰。谷歌擁有龐大的基礎設施和世界級的分散式拒絕服務抵禦能力，護盾項目正好可以將它們利用起來。網站不需要將網頁寄存在谷歌和Jigsaw，護盾項目可以在訪問到達伺服器之前對流量進行審查，這樣我們就可以提前發現惡意流量並把它篩掉。

?讓我們說說假新聞的問題吧。我們該怎樣做才能更加有效地識別別國支持的假新聞呢？

?這類宣傳活動背後的目的就是通過假身份和假新聞網站植入思想和觀點，然後利用大眾讓這些種子生根發芽，如此一來這些言論看起來就像是源自大眾的觀點。在研究過程中，我們一直在問自己一個問題，是否可以對秘密組織的活動和我們通常在網上看到的自發活動打上技術標籤。如果真的可以實現，我們就能利用這些標籤進行自動識別。

?我們是從多個維度進行思考的。有組織的活動往往比自發活動持續的時間更長，由於活動的參與者通常需要從主人那裡獲得指示，所以有時在突然發動集體行動之前會稍有延遲。同時有組織的活動中，參與者往往會通過極度緊密的網路或群體彼此聯繫，表現出異狀。此外，還有語義層面的考慮。通常，有組織的活動會使用相似的單詞和短語，這是集中型控制的一個重要標誌。

?一直以來，網路公司都因為在解決網路仇恨言論和網路騷擾方面做的不夠而備受詬病。這種批評是否公平？

?我認為大家都沒有想到我們現在會遭遇到如此嚴重的恐嚇和仇恨言論，所以我們一定要全力以赴跑在前邊。

?Jigsaw現在有採取什麼措施打擊網路噴子嗎？

?外界十分擔心演算法中的歧視現象會傷害某些社會群體。您的團隊對此是否對此有過關注呢？

?是的。我們花了很長一段時間思考怎樣才能確保Perspective中的人工智慧不帶有歧視，我們的項目目標就是創建包容的、富有同情心的對話，演算法歧視則不利於這一目標的實現。

?您大多數時間都在關注互聯網的陰暗面。那您對互聯網的未來是否仍持樂觀態度？

?是的，我仍持樂觀態度，但我們需要持續不斷地開發創新技術，應對這些十分困難的挑戰。 ????

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！