「兒童邪典片」肆虐，演算法「價值中立」論最該批！
最近，起源於美國的「兒童邪典片」在我國諸多視頻網站上傳播，引發了國人的強烈擔憂。1月22日下午，北京市文化執法總隊發布了關於查禁「兒童邪典視頻」工作的緊急通知，多家視頻網站迅速展開了自查和清理。
那麼，誰該為「兒童邪典片」肆虐負責？答案是演算法的「價值中立」論。而最先遭遇該問題的美國谷歌公司的系列做法，也值得我們借鑒。
「兒童邪典片」肆虐
監管部門緊急出拳
「兒童邪典片」源於美國。在美國，這一事件被稱為「艾莎門」（艾莎是廣受喜愛的動畫片《冰雪奇緣》的女主角，也是該類視頻中最常出現的女主角）事件。2017年7月，「艾莎門」事件經《紐約時報》報道後，引發了社會各界的強烈抗議。
當「艾莎門」事件在美國的影響力日漸減弱時，沒想到卻又悄然流傳到了中國，潛伏在了我國各大視頻網站的「親子」「少兒」「早教」等欄目中。
這些短片對著名卡通形象蜘蛛俠、艾莎公主等進行「惡搞」，傳遞暴力、色情甚至虐童內容。除了對國外短片進行翻譯、添加字幕操作外，甚至有中國專門的短片製作公司進行了二次加工，推出了創新內容，令家長們不寒而慄。
面對「兒童邪典片」肆虐，監管部門迅速出拳。
1月21日，「公安部打四黑除四害」官方微博發出提醒：進來，國外視頻網站上出現了一種以「認字」「認識形狀和顏色」為搜索關鍵詞的「早教」視頻……類似視頻已蔓延到國內各大視頻平台，甚至有團隊對其漢化和再創作。請家長警惕！發現此類信息請速舉報。舉報方式如下：
1月22日，全國掃黃打非辦發布聲明：針對利用經典卡通形象製作傳播涉暴力、恐怖、殘酷、色情等妨礙未成人健康成長的有害視頻情況，全國「掃黃打非」辦公室已部署開展深入監測和清查。目前，相關網站開展了自查和清理。對不履行企業主體責任，造成有害視頻及信息傳播的企業，一經查實，必予嚴懲。
1月22日下午，北京市文化執法總隊也發布了關於查禁「兒童邪典視頻」工作的緊急通知：各視頻網站立即對涉及未成年人視頻作品開展自查，包括動畫片、兒童劇、COSPLAY人偶劇、橡皮泥人偶劇、少兒遊戲講解視頻等，發現上述內容作品一律下線。
各大視頻網站
紛紛啟動自查和清理
截至目前，多家視頻網站陸續發表聲明，展開了「兒童邪典片」的自查和清理工作。
騰訊視頻發布聲明稱：騰訊視頻高度重視，成立集技術、安全、運營等組成的專項小組24小時不間斷對有害內容作出技術篩查，刪除下架和封號處理，並受理舉報投訴，維護用戶安全；已經永久封停上傳賬號121個（持續進行中），禁止有害上傳及屏蔽搜索關鍵詞4000個以上不間斷篩查和下架相關視頻（持續進行中）。
愛奇藝通過旗下「愛奇藝母嬰」微博發表《關於不利於兒童成長視頻內容處理聲明》：愛奇藝對此高度重視，組織技術、運營部門嚴格篩查所有線上兒童視頻內容，第一時間對有害內容進行刪除處理，並對發布相關視頻的賬號永久封禁。
優酷通過「優酷少兒」官方微博發布聲明：平台已在第一時間對問題視頻進行下架、屏蔽處理，還專門建立了打擊兒童類不良有害信息轉向小組，對上傳問題視頻的用戶賬戶進行集中清空和封停，並對視頻上傳環節更加嚴格把關。
搜狐視頻作出回應：搜狐視頻對此高度重視，在第一時間對有害內容作技術篩查，對有問題視頻和賬號做刪除下架與封號處理，並接受舉報投訴，維護用戶安全；已對相關關鍵詞進行搜索屏蔽處理，既禁搜的同時也持續投入資源和人力進行清查；目前有關內容已處理數千條。
演算法不應「中立」
而應有普世價值
「兒童邪典片」事件的爆發，演算法的「價值中立」論難辭其咎。演算法不應該是完全的「價值中立」，而應該具有普世價值。
「價值中立」論，實際上為「兒童邪典片」的擴散提供了肥沃的土壤。
按照演算法的「價值中立」論，視頻網站只會根據用戶的觀看記錄和沒有價值傾向的數據進行計算，從而推薦更多同類視頻。畢竟視頻網站的生存靠的是流量，那麼在「價值中立」原則下，什麼視頻內容點擊量高，對網站而要就是「好」的內容，就是要「賣力」推薦的內容，而這正是「兒童邪典片」實現快速傳播的根源所在。
舉個栗子，一旦小朋友小明在不經意間點擊了「兒童邪典片」的相關視頻並好奇地看完了，那麼下次小明打開該視頻網站之後，就會收到網站更多有關「兒童邪典片」的推送；如果小明在該視頻網站上關聯了好友，「兒童邪典片」也會推送給他的好友小天、小紅等等，這樣就會像「流感病毒」一樣迅速擴散開來。
「價值中立」的演算法示意圖
「價值中立」的世界,更像是理想國，其建造的前提是傳播的內容都是健康的、充滿正能量的。然而，現實社會中很難出現這樣一種理想局面，內容永遠是良莠不齊、美醜摻雜、善惡混淆的。
既然「價值中立」的基礎不存在，那麼演算法就必須具備普世的價值觀。
一方面，演算法本身就預設了一定的價值觀，因為選擇都是在價值觀的指引下做出來的。
當不同視頻網站在給用戶推薦電影時，也許會採用不同的選擇——「看過最多的影片類型，就說明他最喜歡，所以要推薦給他什麼」和「他的朋友們看得最多的片子，他也許會喜歡，所以就推薦給他什麼」和「當前本網站最熱播的是什麼片子，他也許會想看，就推薦給他什麼」……
另一方面，正在被廣泛採用的內容審查機制，也是價值觀的體現。目前，我國許多的主流諮詢平台都針對低俗、敏感、有害內容採取了過濾機制。而針對「兒童邪典片」，北京市文化執法總隊於1月22日發布了關於查禁「兒童邪典視頻」工作的緊急通知，要求各搜索引擎企業要將 「兒童邪典視頻」相關作品名稱（如「艾莎公主懷孕」「蜘蛛俠寶寶艾莎」等）詞條設為關鍵片語予以屏蔽。
谷歌用AI和萬名專員
嚴格審查YouTube視頻
「兒童邪典片」源於美國。在美國，這一事件被稱為「艾莎門」（艾莎是廣受喜愛的動畫片《冰雪奇緣》的女主角，也是該類視頻中最常出現的女主角）事件。2017年7月，「艾莎門」事件經《紐約時報》報道後，引發了社會各界的強烈抗議。
針對「艾莎門」事件，谷歌採取了積極的措施應對。
首先，谷歌旗下的YouTube大規模下線了該類視頻並封禁賬號。截至2017年11月,YouTube宣布已經刪除了超過50個頻道的15萬個視頻。
緊接著，步入2018年，谷歌進一步宣布將採用AI和人工內容審查的方式來消除人們對不恰當內容的擔憂。這一舉措來源於廣告商的抱怨：YouTube視頻未經過濾，出現了一些涉及兒童以及洛根·保羅等網紅的不良視頻內容，這些內容有些會令人毛骨悚然。這一次，谷歌顯然是花了大力氣——除了採用人工智慧軟體外，谷歌將投入10000名內容審查專員，專門來進行內容過濾。
值得注意的是，作為視頻搜索領域的先行者，谷歌還在年初的谷歌雲Next大會上，發布了自己的視頻識別技術——「Video Intelligence API」，該API可以用於識別視頻中的物體以及其在視頻中具體出現的時間點。也就是說，視頻中出現的一切物體，都能通過技術轉換為可被識別的數字，顯示在播放的時間軸上。顯然，有了視頻識別技術，視頻內容的過濾有望變得更加簡單。
TAG:全球大搜羅 |