扎克伯格、張一鳴、宿華都公開道歉，AI演算法不靈了嗎？

作者：DavidZh

編輯 | 麻粒兒

微信 | ai_xingqiu

網址 | 51aistar.com

中國最大的兩個短視頻產品快手和抖音，世界最大的社交網路 Facebook，最近都來到了輿論風波的正中心。

憑藉強大的推薦演算法和用戶貢獻內容（UGC），這三家公司積累了海量用戶，但也都遇到了內容審核的難題。

今日頭條旗下的內涵段子被監管部門評價為「導向不正」。快手、抖音、火山小視頻的審核機制沒能攔下由用戶上傳並被監管部門認定的「低俗內容」。而 Facebook 整個 2017 年都在跟假新聞做鬥爭，最近還因為 8700 萬用戶隱私數據被泄露 CEO 扎克伯格要到美國國會參加專門的聽證會。

雖然三家公司的 CEO 都已經公開道過歉，但這些風波讓我們更加理解 AI 是什麼，它的能力邊界又在哪兒。

AI 包含人的價值取向甚至是偏見

今年 3 月，央視報道過快手平台上存在大量未成年媽媽等低俗內容，以及今日頭條的廣告問題之後，兩家公司的 CEO 宿華和張一鳴相繼發佈道歉信。

昨日晚間，今日頭條 CEO 張一鳴還在道歉信中宣布永久關停內涵段子 App，承諾將「正確的價值觀融入技術和產品」，同時將運營審核團隊規模從現在的 6000 人擴大到 10000 人。

快手不久前也啟動了內容審核員的大規模招聘，一口氣就要 3000 名審核編輯，招聘條件是團員和黨員優先。

新招募的這些人員，除了在運營層面給公司大幅增加開支之外，還意味著快手、今日頭條、抖音等社區型產品在 UGC 內容審核上還不能完全依賴它們所擅長的 AI 演算法。「人工審核」 仍然佔據非常重要的地位。

對於 AI 在 UGC 社區內容審核中所扮演的角色，快手 CEO 宿華在道歉信中表達的觀點更為直接：

「（快手）社區運行用到的演算法是有價值觀的，因為演算法的背後是人，演算法的價值觀就是人的價值觀，演算法的缺陷是價值觀上的缺陷。」

換句話說，快手的推薦演算法包含並反映出了這家公司在短視頻內容上的價值判斷和平台偏好。內涵段子、抖音等頭條系的 App 也是同理。

AI 能快速吸引用戶，也讓平台更容易被監管

依靠能夠揣摩用戶喜好的推薦演算法，快手自轉型短視頻以來，累計吸引了超過 7 億的註冊用戶，日活用戶規模達到 1.2 億。而比今日頭條更早上線的內涵段子，在早期成了最主要的下載來源。抖音從去年快速崛起之後，最新的日活數據已經增長到 9000 萬。

成立於 2004 年的 Facebook，雖然總用戶增長放緩，但月度活躍用戶已經漲到了 20 億，相當於全球互聯網用戶的 50%。

隨著海量用戶的加入，這些社交平台上的內容也開始變得五花八門。

快手上各種驚奇搞怪的表演，在早期給快手短視頻貼上了 low 的標籤。而抖音在強運營策略的主導下，依靠海草舞、各種運鏡、旅遊風光等內容，形成了自己的風格，同時也吸引到更多的內容貢獻者。Facebook 用戶的時間線上，則充斥著真真假假的時下新聞。

由於推薦演算法 7*24 不間斷運行，用戶很容易因為「刷上癮」而忘記時間。

就國內而言，在國家廣電總局眼中，快手、抖音這些「全民級」內容平台的價值判斷和導向是不符合要求的，所以才有了這次針對短視頻和新聞資訊類產品的集中整頓。

在道歉信中，張一鳴將此次被整頓的深層原因歸結為「『四個意識』淡薄、社會主義核心價值觀教育缺失、輿論導向存在偏差。」宿華則承諾要「重整社區運行規則，將正確的價值觀貫穿到演算法推薦的所有邏輯中」。

但從技術層面看，目前的 AI 演算法還很難理解「四個意識」和社會主義核心價值觀的真正含義。社區運行規則和內容審核策略的調整還是要藉助相當多的人力。

以 Google 為例，基於機器學習的在線視頻內容雲端識別 API 去年 3 月才在 Google Cloud 正式上線。而國內雲服務公司阿里雲、騰訊雲、百度雲等對視頻內容的識別、多維度分析和解讀服務也才推出不久。

從技術成熟度來說，包含音頻的視頻內容分析和自動審核即便在人工智慧逐步落地的今天，仍然有很多挑戰。更不用說監管層面對短視頻平台的種種要求。

內容審核之外，更難的是持續讓用戶信任

在內容審核上，月活用戶數超過 20 億的 Facebook 面臨的挑戰更加嚴峻。

首先是不同國家的語言和文化差異，一則帶有煽動性的仇恨言論很可能成為審核機制的漏網之魚，在社交網路里肆意傳播。

按照目前 AI 的智力水平，要解決這個問題，更多還是要考人工來審核。目前 Facebook 擁有一個 15000 人規模的運營審核團隊，預計今年年底增加至 20000 人。

在昨天舉行的美國國會聽證會上，Facebook 創始人扎克伯格回答問題時表示，利用機器學習工具來自動監測和處理仇恨言論要 5-10 年後才會變成現實。

這無疑是對 AI 在矽谷乃至整個科技界的莫大衝擊。與此同時，也讓我們更加清楚了解了人工智慧現階段的能力邊界。

而在商業模式層面，Facebook 對用戶完全免費，依靠廣告收入支持平台和公司運營。抖音和快手也是如此。

這意味著此類免費產品的用戶，或多或少總有一些個人數據被利用了。

在 2010 年的一次網路討論中，一位 ID 為 blue_beetle 的用戶道出了真相：

If you are not paying for it, you"re not the customer; you"re the product being sold.

正是因為 Facebook 沒有做好隱私數據的保密工作，才招致了用戶和公眾的不信任。這對一個社交平台來說，是最直接的打擊：當平台上的好友都離開，用戶本身也有極高的可能性流失掉。

為了解決隱私保護和商業化之間的矛盾，扎克伯格表示會始終提供一個免費版的 Facebook。Facebook 的 COO 在接受採訪時還說，如果用戶不希望自己的數據作為投放廣告的依據，可以選擇自願退出，但要向 Facebook 支付一筆費用。

這聽起來可能並不是挽留用戶的最佳方法，但在 AI 變得真正強大之前，免費互聯網產品的商業化悖論將一直存在。

#進擊?融合獵雲網&AI星球2018年度人工智慧產業峰會#將於4月17號在深圳大中華希爾頓酒店舉行。

這裡有最深度的行業思考，最有價值的投資建議，以及最酷的黑科技展示，精彩不容錯過，趕快掃描圖中二維碼參與本次峰會的報名吧。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！