「內容管理進化」？全球視頻直播巨頭直擊審核難

近來，兒童動漫視頻領域一度成為傳播不良信息的重災區。據監管部門通報，自2017年底開始，一些以唐老鴨、蜘蛛俠等經典卡通角色為主角，經過「二次創作」的「邪典」動畫片，已通過互聯網流入國內多家視頻網站。

通常，「邪典」動畫片隱藏於「親子」、「早教」等的合法外衣之下，實則傳播暴力、涉黃等諸多兒童不宜的內容。

2018年2月6日，全國「掃黃打非」辦公室組織騰訊、快手等16家互聯網公司，就網路有害出版物特徵值共享資料庫召開年度第一次工作會議。

會議圍繞處置清理兒童「邪典」動畫視頻等方面工作，對各公司落實企業主體責任，特別是中小學在寒假和春節期間加強自律清查提出要求，一場監管風暴來臨。

文化「洋垃圾」頻頻入境

根據通報，廣受社會關注的廣州胤鈞貿易有限公司製作傳播兒童「邪典」動畫視頻案件，已交由廣州市天河區公安機關刑事立案查處。

自此，由境外傳入並經「漢化」後大範圍流入中國，毒害中國兒童的「兒童邪典片」呈現階段性打擊成果，彰顯出政法執法部門對此類視頻的「零容忍」態度。

2017年底，西方主流媒體曝光「艾爾莎門」事件（「邪典」視頻中的主角為《冰雪奇緣》女主角艾爾莎公主而得名），迅速引發西方社會激烈的爭論。

在視頻領域，如何鑒別並審核此種可能騙過機器演算法甚至人工審核的視頻，一時成為爭論的焦點。

此類問題並非YouTube獨自面對，中國互聯網領域面臨更多、更棘手的相關問題。數據顯示，中國正以7.51億網民數位居世界第一，普及率達55.8%，美國以近3億網民人數居第二。

更值得重視的是，在硬體（智能手機）和軟體（4G網路、WIFI）的發展及普及下，中國移動互聯網已進入「井噴式」發展階段，甚至在農村地區，兒童用手機刷視頻的場景也隨處可見。

在中國視頻網站中，「兒童邪典」視頻事件也掀起層層波瀾。多家媒體曾對此報道稱，這些「洋垃圾」入境後，竟然開始被「本土化」，不僅有國外視頻「搬運」後的漢化，還有各仿製拍攝、製作的視頻生產。隨著互聯網大數據和演算法的客觀作用，這些視頻可能會「越看越多」，甚至「永遠看不完」。

全球視頻業面臨「審核邊界」

截至發稿時，國內相關視頻發布平台均已進行整改下架。儘管搜索關鍵字仍可看到相關視頻留下的蛛絲馬跡，絕大部分已經無法打開觀看，但留給業界的是審核難題。

「關於視頻審核，就我所知，行業已在積極推進。」一名業內演算法工程師坦言，「更困難的是直播審核。」

中國互聯網協會相關人士也指出，「（在直播平台上）由於主播的直播行為具有即時性的特點，也給平台方的審核帶來一定難度。」

短視頻內容審核已是「全球性難題」。「兒童邪典」事件發生後，YouTube的 CEO Susan Wojcicki曾表示，2018 年公司將把人類審查員的數量增至 10,000 名，以遏制不良內容。

但形勢依舊不容樂觀。海外知名媒體BuzzFeed NEWS通過採訪發現，YouTube 系統仍存在不少問題，並存在一些令人難以理解甚至有時自相矛盾的評級準則。

來自業界、學界及法律界人士並非杞人憂天。當前，騰訊、阿里巴巴、滴滴等成為全球互聯網標杆企業的同時，以快手為代表的短視頻平台正在迅速崛起，不僅吸引到巨大的流量，引起資本界的矚目，其內容審核難度更大、技術要求更高。

在視頻內容的審核和管理當中，最基本的要求必須遵循國家相關的法律法規，但審核工作中卻存在「模糊地帶」。

據業內人士舉證說，猴子是不是可以當寵物養、海龜是不是可以隨意捕撈？諸如此類問題都曾觸發廣泛社會爭議。根據《中華人民共和國野生動物保護法》的規定，中國並沒有允許個人飼養寵物猴。這意味著，無論是否是在合法商販處購買，均屬於違法行為。

在公眾輿論看來，此類問題卻是「稀鬆平常」。只要搜索網路，諸如「女子公園遛猴子，個人飼養寵物猴屬於違法行為(圖)」等新聞並不鮮見。

無疑，中國社會各界需要達成廣泛的共識，以在法律、道德、價值觀甚至審美等多個維度上實現最精準的界定和最有效的平衡。

領跑「內容管理進化論」

根據官方介紹，快手是一家日活用戶已過億、人均日使用時長超過一個小時的短視頻平台，每天有1000多萬條原創短視頻上傳，累計超過40億條原創視頻。

2018年1月28日，快手通過微信公眾號披露違規用戶及內容處罰情況透露，該平台1月份平均每天清理違規內容超過42萬條，每天處置有效視頻類舉報1.8萬條。

由此，短視頻內容管理工作之巨可窺見一斑。

「對執法機關來說，應該建立多部門的聯合監管機制，形成強有力的監管，對涉及兒童的影視視頻等應該細化分類管理，實施分級制度。」女童保護基金管委會委員、《中國經濟周刊》記者徐毫曾撰文指出，「對網路平台來說，也應該完善自查機制，暢通舉報渠道，強化反應機制，充分利用技術篩查和人工干預，決不能讓有害的內容傳播，更不能為了「流量」而不顧道德法律。」

作為短視頻領域的領頭羊，快手已經走在內容管理的前列。近日，快手聯合浙江大學達成協議，共同探尋視頻領域內容管理的規則這一「世界性課題」。

無疑，快手將藉助浙江大學在公序良俗方面的學術積累，為整個短視頻行業摸索出一條可行道路，並對內容管理提供空前完備的規則借鑒。

業內普遍認為，就短視頻內容管理，短視頻平台積極聯手科技界、學界進行深入研究和探索，這確系一次有益的嘗試。

近年來，針對涉及暴力、色情等違法有害內容零容忍，快手建有數以千計的人力和伺服器組成的7x24小時全職內容評級團隊。

此外，快手還成立行業首家「社區自律委員會」，邀請知名學者、媒體人和普通用戶共同參與對快手的監督；在平台內設置了完善的用戶「一鍵舉報」功能，並在網站首頁進行公示24小時舉報電話及郵箱。

「我們已建立了業內領先的多級處罰手段和標註體系，並已取得初步成效，同時也正在藉助外部力量，聯合社會各界相關機構一起推動短視頻內容管理的課題研究。」快手一名負責人透露。

作為一家註冊用戶數億的平台，快手的影響力越來越大，正積極擔負平台管理責任和更多的社會責任，成為短視頻領域規範發展的標杆。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！