為何技術這麼發達，鑒黃還要靠人海戰術？

近日，Facebook的CEO馬克.扎克伯格宣布公司將會新增3000名內容審核員，他們負責審核平台上的內容，包括最近網上有出現的謀殺、自殺和強姦等視頻。科技巨頭聘用大量人力來做內容審核，已經不算什麼稀奇事。

Google、百度、騰訊、新浪、今日頭條都設置了類似崗位。對於做內容的平台，內容審核尤其重要，一旦沒有處理好，很有可能影響到整個公司的前景。為什麼在科技如此發達的今天，機器還沒法完全替代傳統的人工審核？各大巨頭還需要人海戰術來鑒黃呢？

內容平台的阿克琉斯之踵

今年4月，一位泰國男子在Facebook上直播殺害親生女兒的畫面，隨後該男子自殺。視頻在Facebook上掛了近24個小時，大量用戶看到嬰兒被殺害的過程。其中一段視頻播放量超過25萬次，視頻還被其他用戶上傳到其他視頻網站。

色情、暴力、犯罪，這些不良內容多次在Facebook上出現，這讓Facebook陷入爭議。今年3月，一名15歲美國少女被多名男子性侵犯並被直播到Facebook上，視頻吸引了至少40萬人關注。有人稱，這樣的畫面讓人感到害怕和不安，「看了之後晚上都睡不著覺」。

事發後，Facebook團隊意識到問題的嚴重性。Facebook的CEO扎克伯格公開表示，Facebook將盡一切努力避免此類內容再出現，並且表示Facebook要變成一個健康而安全的網路社區，還有很多工作要做。

擴招內容審核員正是Facebook為此做出的舉措。此前，Facebook在全球已有4500名員工負責內容審核，此次擴招會讓審核過程更加及時和準確。這些員工主要負責處理那些沒有被審查到的、或者沒有被立即刪除的不良內容。

平台不惜人力和財力，去做好內容審核的工作。一方面是大量的不良內容，會使得用戶產生反感，會降低使用產品的頻率甚至遠離產品。劣幣驅逐良幣，不利於平台的長期發展。另外一方面，不良內容的發布，很有可能導致觸犯國家法律，引來平台的管制甚至關閉，今年年初，知名的同性社區ZANK就因為直播涉黃被整體關閉。

在國內，BAT許多平台都設有內容審核員一職。以新浪微博為例，新浪微博是國內最大的社交平台之一。對於內容，新浪微博仍主要採用人工審核的方式。除了色情、暴力等不良內容，平台還會留意政治、宗教等敏感內容。但是依然有各種擦邊或者不良內容的漏網之魚。內容的審核和把關，成了各大內容平台的阿克琉斯之踵，從初創公司到科技巨頭，沒有人敢放鬆這根神經。除非是別有用心的想利用情色來吸引用戶，但那樣肯定不會長久。

讓人絕望的內容審核工作

2013年，百度、騰訊、金山等10多個互聯網公司組成「安全聯盟」，用20萬高薪招聘「首席淫穢色情鑒定官」。上班能看片還拿著高薪，網友調侃「簡直沒天理」。

其實，內容審核工作並沒有想像中簡單。以Facebook為例，Facebook已有的審核員每天要處理大量的UGC內容，他們需要審核包括色情、暴力、犯罪等多個方面的不良內容，在判斷內容時會承受很大的壓力。他們必須區分開普通兒童寫真和兒童色情照片，還要分清楚這是朋友間的玩笑還是侵犯性內容。他們必須做到細緻地歸類，需要將內容放到具體語境下進行區分。要是沒有審核到位，Facebook很有可能會被指責侵犯公民的言論自由。

審核員的工作，會對個人生活產生很大的負面影響。長期審查兒童色情作品後,他們會對接觸孩子的人疑神疑鬼。觀看太多色情圖片甚至會影響他們的性生活和婚姻關係，他們已經對色情影像感覺到麻木。

今年1月，微軟在線安全團隊的成員向微軟提起訴訟。因為他們每天被迫觀看大量恐怖、色情和兇殺圖片及視頻，因此患上了心理後遺症，「經常失眠、做惡夢，腦子裡充滿圖片和視頻內容。」但微軟官方表示，並不認同這兩位前員工的觀點， 公司每月都會對這些員工提供一定的心理支持。

（網路招聘「內容審核員」信息）

同樣的情況，在中國也是普遍存在，尤其是在內容審核領域。不少公司會將內容審核交由外頭公司承擔，這些公司僱傭大量人力來做文字、圖片、視頻等內容的審核，審核員每天需要承擔上百條甚至更多信息的審核工作。這些審核員領著3000到5000的月工資，大多生活在國內二、三線城市。路透社此前的一篇報道曾經將新浪微博的這項工作稱為「高壓、無望的工作」——每人每小時至少要看3000條微博，不少人因為壓力太大且看不到上升空間而離開。

人工智慧時代的審核尷尬

隨著科技的發展，媒體和創業者都不斷的勾畫著，人工智慧時代到來的激動場景，但時至今日，雖然通過機器學習，不斷在提升系統對於內容類型的識別和判斷概率。但對於內容的審核，科技巨頭主要還是依賴人工，這真是特別的尷尬。

機器在很長時間內，根本不能完全取代人工審核。以Google為例，Google有超過一萬名員工充當著搜索結果評估者的角色。這家業界領先的科技巨頭仍需僱傭大量的勞動力來改善自身產品，這或許說明了人工智慧局限性——機器還很難模擬出普通用戶的使用體驗，很難理解內容背後的深意，很難作出準確的「人的判斷」。

而且，目前機器審核多用於文字內容。如機器檢測到含有敏感辭彙的內容，會將其刪除或向用戶發出警告。但對於圖片、視頻的審核，機器無法像對文字內容一樣提取關鍵詞，審核難度較大。在上述的Facebook殺童直播案中，機器就無法根據視頻畫面去鑒別內容性質。此時，人工審核將發揮其無可替代的作用。

對於Facebook這樣擁有20億用戶的大型社交網站，除了人工審核，還有其他兩種輔助審核渠道。一方面，Facebook引導用戶使用舉報功能。用戶若發現色情視頻、圖片等不良信息，可以向平台舉報。網站管理員收到信息後，會完成刪圖或者封號等後續處理。另一方面，Facebook也正在測試人工智慧，希望進一步採用機器+人工的審核方法。比如，如果有一張裸體照片此前被刪除，那麼再次上傳時就會被自動刪除。

在國內，人工+機器審核是目前科技公司常用的審核方法。以快手為例，快手擁有數百人的內容審核團隊，每條快手短視頻、直播的發布都要經過機器和人工等多道審核。同時，不少第三方公司提供內容審核服務，如萬象優圖、網易易盾、圖普科技、阿里綠網等多個產品，都可以輔助平台進行機器審核。優酷、荔枝FM、映客直播、美拍等多個平台都有使用這些第三方服務。

人工智慧雖然取得了不錯的發展，也在逐漸改變人們的生活方式，提升了社會效率。但是還遠未到徹底解放人工的時代。對於內容審核的大量底層僱員來說，他們每天夾雜在科技巨頭和海量信息之間，也許在將來，人工智慧能徹底解放他們。不過真到了那一天，也就是他們失業的時候了。

本文由南七道與陳旖共同完成，部分資料綜合衛報、路透社等內容。

南七道：南七道新媒創始人&CEO，虎嗅等年度作者，互聯網明星創業公司臉萌、FaceU等品牌操盤手，關注互聯網和科技創業。公號南七道。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！