Google現在正在積極處理極端主義的YouTube視頻

Google知道YouTube上有很多極端主義和仇恨內容，而且公司現在正在做更多的工作來阻止這些視頻的吸引。在昨天的一篇博文中，Google提出了四個新的步驟來處理YouTube上的極端主義視頻，其中大部分步驟擴展了公司現有的系統，以識別，標記，惡化，並基本隱藏仇恨視頻。

這四項措施中最為模糊的是博客文章中列出的第三項措施，其中規定Google和YouTube對於不明顯違反YouTube政策的影片將採取「更加強硬的態度」。博客文章將這些視頻描述為「炎熱宗教或至高無上的內容」; 這些視頻可能不屬於YouTube 對仇恨言論的定義，但現在他們將以類似的方式進行定位。

谷歌總顧問肯特·沃克（Kent Walker）在博客文章中寫道：「未來這些將會出現在插頁式警告之後，並不會獲利，推薦或有資格獲得評論或用戶認可。「這意味著這些視頻的參與程度較低，難以找到，我們認為這在自由表達和信息獲取之間取得了平衡，而不會提出非常令人反感的觀點。」

考慮到最近在倫敦發生的恐怖襲擊，這一措施是相關的。據「紐約時報」報道，倫敦橋攻擊事件之一的胡拉姆·沙扎德·比特（Khuram Shazad Butt）可能受到一個位於密執安的伊斯蘭教牧師艾哈邁德·穆薩·傑布里（Yhmad Musa Jibril）的YouTube視頻講道的影響。

一個報告由國際中心激進的研究和政治暴力援引賈布里勒作為最突出的「新的精神權威」外國的戰鬥機之一，並指出他「並沒有明確呼籲暴力聖戰，但支持個別外國戰士和辯解敘利亞高度情緒衝突的衝突。這是Google和YouTube針對新措施的暴風雨的灰色地帶。

Google和YouTube如何對灰色區域視頻採取更嚴厲的態度？博客文章中介紹的其他措施進一步解釋。谷歌將增加用於識別極端主義視頻的技術數量，這意味著公司將擴大其機器學習技術的複雜性，可以說明極端主義內容與非極端主義內容之間的區別。

這對於討論新聞和當前活動的任何YouTube頻道尤其重要，因為到目前為止，這些頻道已被嚴重惡化，因為他們在報道新聞時談論敏感，暴力和極端主義事件。博客文章指出，該公司現在將使用「先進的機器學習研究來培訓新的」內容分類器「來幫助我們更快地識別和消除極端主義和與恐怖主義有關的內容。」

Google還將增加YouTube Trusted Flagger網路，這是一組能夠以令人反感的內容來標記視頻的公司和個人。Google將在現有63個組織的計劃中增加50個專家非政府組織，並為他們提供更多的贈款。被列入受信任的Flagger計劃是YouTube Heroes計劃，最初引起許多創作者的眉毛，因為任何YouTube用戶都可以申請成為在平台上標榜攻擊性內容的人。有些創作者表示擔心用戶的偏見可能導致他們的某些視頻被不必要地標記或被惡化。不過，如果創作者認為不包含違反YouTube政策的令人反感的內容或內容，那麼可以為任何惡意軟體的視頻啟動審核流程。

Google的最終措施是擴大其在YouTube上的反激進化努力。這可以說是四大最有活力和有目的的新一步，因為它擴展了最初由Google Ideas開發的「重定向方法」，這是一個現在被稱為拼圖的智囊團。去年出生，「重定向方法」基本上使用有針對性的廣告來指導潛在的ISIS新兵遠離激進化視頻。廣告被放置在與ISIS相關的關鍵字和短語的搜索結果旁邊，點擊後，這些廣告會將用戶帶入由視頻解碼ISIS教學的YouTube頻道。理論認為，在觀看這些視頻之後，潛在的ISIS新兵將被勸阻學習或加入恐怖組織。

重定向方法」是一個剛剛一年的新舉措，但Google認為這是一個積極的影響。雖然Google無法量化有多少潛在的ISIS新兵放棄與恐怖主義有關的研究，但該公司確實聲稱「潛在的新兵以非常高的速度點擊了廣告，並且觀看了超過五十萬分鐘的視頻內容。」

互聯網公司面臨著巨大的壓力，要在平台上做一些仇恨言論。Facebook正在採取類似的方式對谷歌，承諾使用AI和更多的人類主持人消除其網站上的極端主義內容，而Twitter毫不動搖地暫停促成恐怖主義的帳戶。Google的新措施無疑是今年早些時候發生的廣告流失的另一回應，許多公司在廣告發現運行在仇恨視頻之後，從YouTube收集廣告。到目前為止，YouTube一直專註於為廣告客戶提供更多的工具來控制他們的廣告展示位置，並更明確地界定「極端主義」和「攻擊性」內容對其創作者的意義。但谷歌和YouTube將繼續努力不再存在歧義，他們不但會在惡意內容上下功夫，而且還會做更多的工作來確保在YouTube上無法輕易找到極端的內容。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！