快手推出了「家長控制模式」，短視頻平台開啟「價值引導」下半場

科技 04-18

專業的行業新聞及深度報道，不容錯過

━━━━━━

作為平台也應該對平台內容負責。

無法打賞充值、沒有錢包功能、送禮物功能變成了「紅心點贊」、同城Tab完全消失、視頻內容還被嚴格分級...

這是4月12日，快手新推出的「家長控制模式」，快手也因此成為了第一個提供了未成年權益專項保護的短視頻產品。

打開整改後的快手，「落實整改砥礪前行」的字樣依然在發現頁置頂，視頻也多為陽光健康的各類生活內容。

而APP首頁左上方設置，左側欄出現了一個有帶有兒童圖標的「家長控制模式」。

進入該模式，輸入密碼開啟該功能後可以發現，與普通模式對比後，該模式具有如下功能：

1、去掉同城欄目；

2、關閉直播打賞功能；

3、關閉查找功能；

4、關閉錢包功能；

5、關閉安卓里的作品打賞功能

6，發現頁內容大幅改變，對未成年人觀看視頻進行嚴格分級。

可見這是快手為未成年人訂製的專屬空間。而這背後，是數日以來短視頻行業的整頓風波。

近來，快手、頭條、Facebook、Youtube,這些以演算法驅動的互聯網公司近來正遭遇來自監管、媒體、輿論的層層壓力。

而此前快手CEO宿華的公開道歉，一句「演算法的價值觀就是人的價值觀，演算法的缺陷是價值觀上的缺陷」標誌著國內演算法驅動式視頻平台，正式告別了「技術中立論」，開啟了「價值引導論」的下半場。

從興趣到幸福：快手的新挑戰

4月初廣電總局、網信辦對快手與頭條系短視頻平台進行約談，要求整改。事實上，國外演算法驅動類平台巨頭，也正面臨著同樣的輿論漩渦與監管壓力。

就在4月10日，印度反托拉斯監管機構周四以「搜索偏差」為由，向谷歌公司處以13.6億盧比（2117萬美元）的罰款，這是谷歌最近一次遇到的「監管挫折」。印度競爭委員會表示，谷歌濫用其網路搜索和在線廣告市場的統治地位，其「沉迷於搜索偏差」的做法，會對競爭對手和用戶造成傷害。

而在今年的二月，《衛報》發表了一篇長文，反思了Youtube的演算法，認為演算法推薦的內容不能完全反映事實，有時候會給人以誤導。更早之前的2017年11月，Youtube更是因向兒童推薦怪異、變態甚至有性和暴力場景的視頻，被《紐約時報》質疑，隨之而來的是家長們的怒火...

正如張一鳴近日接受記者採訪時表示，數據驅動容易標題性、負面性。所有的社交媒體平台都會遇到這個問題。

然而如果進一步分析，遭遇此類問題的平台有著不同成因。

以快手為代表的強調「真實」的平台，問題在於他們以為在遵守法律法規、遵從公序良俗的前提下，可以展現一個完整真實的世界，卻忽視了夾雜在真實世界中的各種問題會讓受眾引起不適。它像為數億用戶提供了一個無限寬廣的舞台，而人性卻像一盞聚光燈，照亮了迎合人性的表演，卻也夾雜著「貪嗔痴」的成分。快手應該加強這部分的監管和引導。

而另一種追求「流量」的平台，問題則在於過度追求流量與商業化。

但兩者的問題卻都在審核這一重要環節上凸顯出來。

如果僅從技術層面理性考量，演算法驅動型平台所遭受的輿論要求其實相當苛刻——這一方面當然輿論壓力促進了此類平台的前進，但另一方面，過於完美的要求（比如要求平台上絕對杜絕低俗內容），完成難度非常大。

以快手為例，快手的願景是讓每一個人獲得獨特的幸福感，其有上億活躍用戶、每天產生近千萬的視頻。

眾所周知，對於視頻的審核難度本就遠高於圖文，必須依賴於人工智慧和大數據技術的強力支撐。

快手的視頻理解是通過多媒體內容理解平台去實現的，快手通過深度學習的演算法從人臉、圖像、音樂、語音等四個緯度進行內容的分析。比如，人臉的識別會檢測視頻裡面有人，裡面的人是男是女的，他年齡是多少，他在裡面表情是喜怒哀樂。再如，圖像的分類和檢測是識別視頻有什麼樣的物體他是一個什麼樣的場景，他是正在踢球是正在彈琴還是正在釣魚。

這幾個維度是底層語義的理解，可以識別出很多基礎的信息。在此基礎之上，再進行進一步深入解讀成數據。

「上億活躍用戶結合這些流程，將會產生海量大數據，可以說用戶獨特的情感都蘊含在這萬億級的大數據里，要幫助用戶獲得獨特的幸福感還需要非常先進這樣的演算法的模型，以及非常強大人員技術架構去提煉出來。」，快手CTO陳定佳曾在清華大學未來媒體數據聯合研究院的啟動儀式上闡述快手的演算法邏輯。

可以說，若要達到用戶心中完美的內容標準，任重道遠，且需要各方的合力。龐大數據量和業務複雜度給數據生成、採集、傳輸、存儲和計算等帶來的一系列問題是，不僅是快手所面臨的新挑戰，更是全世界視頻行業都需直面的難題。

而與清華大學共建的未來媒體數據聯合研究院，正是快手尋求進一步突破：以清華軟體學院與快手的技術難題攻關為基礎，聯合開展社會人文領域研究，通過技術人文結合，共同探討包括內容審核在內的一系列未來媒體課題，讓技術更好賦能用戶，實現人與人之間更精準的連接。

這在今後或許能為快手完成這個新的挑戰助力。

頭條系的產品，也有類似的AI審核機制，起初其最核心的審核技術是動態關鍵幀識別、圖像建模識別和語音識別等人工智慧技術。

以動態幀過濾系統為例，它可以將一部短視頻截成動態關鍵幀，將視頻當前場景與下一場景進行對比，場景變化大於60%時，可以生成動態幀提供給機器和人工進行過濾。

然而，人工智慧識別雖可識別出部分違規內容信息，但對短視頻內容卻無法進行定義，更做不到精準內容識別。況且，目前人工智慧現處於弱人工智慧狀態，早期的學習還無法滿足日益壯大的短視頻內容的衝擊。

所以，在未來，AI+人工審核，將成為快手、頭條們的新挑戰。

從強調技術到重視價值觀：快手們的下半場

事實上，演算法驅動型平台經過這一輪風波，也正在積極求變——為技術引入價值觀，對用戶予以正向引導。

國內的，以快手為例，自CEO宿華公開致歉整改後至今，快手的推出了一系舉措，證實了這家企業將「價值引導論」貫徹到底的誠意。這一系列舉措可以歸結為五點：

1，堅決打擊違規用戶，清除低俗色情內容，整改期間，清理問題短視頻31萬條，封禁5.6萬名用戶，清理6.5萬個用戶名；

2，明確將審核團隊從目前的2000人擴編到至少5000人，落實共青團員和黨員優先政策，提供高於同行薪資，加快建立一支政治堅定、業務精湛的工作隊伍，目前全國範圍內招聘行動正在進行中；

3，堅持社會主義核心價值觀指導演算法，放大優秀作品的影響力、感染力，熱門頁面下線整改期間，平台精心篩選能量視頻共得到逾170億次曝光，獲得超31億次播放、6900萬次雙擊喜歡、9500萬條評論、3400萬次分享；

4，建立未成年人保護體系，4月12日起上線「家長控制模式」，家長可通過密碼一鍵開啟/關閉「兒童鎖」功能，過濾不適宜未成年觀看的內容，並關閉開啟直播、直播打賞、查找、同城、錢包等功能，從4月13日起，發現頁未成年過濾內容池正式上線，該模式將持續進行迭代更新；

5，與清華大學聯合成立未來媒體數據聯合研究院，以清華軟體學院數據處理、人工智慧等方面領先技術為基礎，聯手清華一起推進更多社區建設、內容管理、以及價值觀引導等方面的跨學科融合研究。

除快手外，頭條系產品自4月5日起也開展了為期數日的整改。

先是今日頭條旗下火山小視頻、西瓜視頻等短視頻平台共計下架問題視頻10318條，重置封禁問題賬戶4864個，增加視頻審核相關詞庫敏感詞1700餘條，並在視頻社區大力推薦社會正能量內容。

與此同時火山小視頻也進一步嚴整： 1、整改期間「視頻」頻道暫停更新，僅推薦正能量內容；2、建立健全審核體系，擴充審核人員隊伍，增強審核力量；3、對平台上的未成年人嚴格管理；4、全面清查不利於未成年人的內容；5、加強落實黑名單制度。

而到了4月11日，今日頭條宣布關閉App內語錄、段子、趣圖、美圖和美女共5個頻道。目前打開今日頭條客戶端，在頻道選擇中已經看不到相關頻道。

截至目前，今日頭條旗下的今日頭條App、火山小視頻App、西瓜視頻App、抖音App等悉數進行整改，而內涵段子App更是被永久關停。

而在國外，YouTube的整改方案則是計劃在近幾周推出新版本的YouTube Kids應用，這一新版本里呈現的所有視頻都將由YouTube團隊100%人工審核和挑選，全面替代由演算法推薦的視頻內容。此外，YouTube還將在有陰謀論嫌疑的視頻頁面上，添加真實事件解讀的網頁鏈接。如果用戶搜索並點擊一條陰謀論類的視頻，YouTube將在該視頻下鏈接一個維基百科頁面，以澄清視頻中的謠言或陰謀論。

一直被虛假或仇恨內容困擾的Facebook創始人扎克伯格，設立的2018年新年目標就是整改、矯正Facebook的方向。具體措施包括將會優先呈現當地新聞內容，未來系統會通過用戶所處的地理位置去調配新聞內容，如果新聞來自用戶本來就有點贊追蹤的新聞出版商，或是好友即時分享，這些新聞來源就會在排序中優先展示。

寫在最後

目光收回至國內。快手與頭條，一個是擁有超過1億活躍用戶的短視頻行業領跑者，另一個則是擁有爆款產品抖音以及西瓜、火山等短視頻平台的超級獨角獸。二者雖各有各的煩惱，卻都是國內技術與演算法的新興代表。

在2016年12月的一次採訪中，張一鳴的一句「技術是中立的，今日頭條拒絕價值觀先行」引發無數討論和疑問的聲音；而前幾天宿華在致歉信中的那句「演算法的價值觀就是人的價值觀」可以看做是對這些聲音的回應。

如果說「技術中立論」開啟了以演算法驅動型平台的上半場，那麼宿華的「價值引導論」則吹響了下半場的開場哨。

毫無疑問，下半場最大的看點不再僅是演算法或技術，而是價值觀與技術的結合。

一方面，演算法依然是不可或缺的審核推薦機制，它可以提高分發效率、用戶體驗和變現效率。不過演算法卻不可過分依賴，它只能是輔助的工具。

所以，另一方面，演算法驅動型平台必須擁有符合主流的價值觀體系。同時要通過人機結合，將價值觀體系融合演算法，才能承擔起與數億流量相匹配的社會職責。

正如扎克伯格在聽證會上說的那句話：「我們不是一家媒體公司，而是技術公司，但是我承認作為平台也應該對平台內容負責」。