演算法不是王法 大數據時代更應加強內容審核
目前已有100000+人加入我們，歡迎您關注
作者：劉文龍，感謝作者授權！
針對社會輿論強烈關注的網路平台傳播低俗不良信息等問題，近日，國家廣播電視總局、國家網信辦分別嚴肅約談了「今日頭條」「快手」等網站相關負責人，責令網站立即採取措施整改。
近一兩年，短視頻平台迅速發展，艾媒諮詢發布的《2017—2018年中國短視頻產業趨勢與用戶行為研究報告》顯示，2017年我國短視頻用戶規模已超過2.4億，預計2018年用戶規模將達3.53億。
然而，一段時期以來，短視頻平台內容生態堪憂，惡搞低俗、內容涉黃、造假信息頻發等問題日益凸顯，引發社會強烈不滿。央視《新聞直播間》日前報道了短視頻平台出現大量未成年懷孕視頻，低齡女性以未成年生子為噱頭，競相炫耀，出現「全網最小媽媽」「全村最小媽媽」鬧劇。這些行為，不僅是對倫理道德的公然違背，而且已經觸碰了法律底線，嚴重污染了網路生態環境。在「低齡媽媽」短視頻迅速傳播、成為熱門話題過程中，演算法推薦無疑在其間扮演了重要的作用。低俗、色情、造假等亂象存在的背後，反映的是一些短視頻平台過分依賴其演算法推薦和分發機制，甚至是以此為借口，導致必要的內容審核長期缺位。
推薦演算法主要是根據用戶過去的瀏覽記錄，通過特定數學演算法，分析推測出用戶的喜好並推送同類內容。和過去人工編輯選用發布信息的方式相比，演算法通過大數據計算分析，無疑可以提高內容的分發效率和針對性。在大數據時代，各網路平台都在不斷嘗試使用智能化演算法和分發機制，為用戶提供個性化信息推送服務，以期實現長久留住用戶。演算法推薦只是一種技術，適當使用原本無可厚非。過分依賴演算法，以機器分析結果作為推薦的理由，而不進行內容審核把關，則會出現大量問題。
過度依賴演算法，為最大限度吸引眼球獲得流量，不關注信息內容本身的價值觀和合法性問題，會導致低俗、色情、造假的違規內容大量存在。據媒體報道，面對未成年懷孕視頻，相關平台不僅不及時攔截，反而推波助瀾，為博眼球、搶流量，以大數據計算和智能化推薦的方式給予推送，使得低俗違規內容成為熱門話題。
過度依賴演算法，很容易出現「誘使」用戶觀看某類信息的問題。在生活中常常會遇到，只是點開了一次視頻，哪怕並非感興趣，單純出於一時好奇，甚至是手滑打開，平台都很可能會隨後自動推薦更多此類視頻。很多用戶也許之前並不知道類似視頻的存在，在平台演算法的推薦下，則可能引發他們去關注這些內容。
過度依賴演算法，容易產生「信息繭房」現象。用戶在所謂個性化信息服務名義下，很可能不再依靠自己對信息的判斷、鑒別去尋找內容，視野逐漸限制在自己最初喜好的範圍內，信息環境不斷窄化，困在「繭房」中不能自拔。同時，平台則根據用戶喜好生產、推薦信息，內容同質化問題日益嚴重。長此以往，用戶和平台都可能成為演算法和技術的奴隸。
網路空間是億萬民眾共同的精神家園。誰都不願生活在一個充斥著虛假、詐騙、攻擊、謾罵、恐怖、色情、暴力的空間。網路空間不是法外之地，短視頻平台不能以演算法中立和機器推薦為借口，試圖推脫審核和把關責任，淪為「法律飛地」與「道德窪地」，處於一種法律與道德雙重失守的狀態。
演算法不是王法，必須加強內容審核。事件曝光後，「快手」發公告表示要升級人工智慧識別系統，加強核查，但這些還遠遠不夠，平台應該以此為契機，全面反思和整改，必須深刻認識到，技術只是工具，可以利用技術，但是不能過度依賴技術，應當嚴格實行「前台自願、後台實名」要求，強化人工審核，採取內容分級、嚴格過濾不良內容等措施，構建起嚴格的內容審核機制。
歡迎關注
監管與合規（ID：RegulatoryCompliance）
高端 | 權威| 專業| 前沿
「監管與合規」公號是由法學教授、資深官員、專業律師及企業高管領銜的高端法律平台，聚焦於分享市場監管與企業合規領域的前沿資訊和深度報告，重點研究跨國公司的反商業賄賂、不正當競爭、廣告、產品標識質量、網路安全、隱私政策及數據競爭的行政調查、處罰及複議、訴訟等爭端解決。
歡迎轉載 敬請註明出處
監管與合規
TAG:全球大搜羅 |