Facebook和YouTube的自我監管之路

來源/ 東西文娛（經授權轉載）

ID/EW-Entertainment

作者/EW RA| Zoe Duan

今年，視頻網站和社交網站內容合規問題頻頻爆發，互聯網整治收緊，監管潮席捲文娛、廣告、遊戲各個領域.

海外公司中，Facebook先後被通俄門、假新聞、謀殺和自殺視頻、劍橋分析公司數據醜聞衝到了風口浪尖；YouTube也因虐童視頻、學術造假廣告、UGC網紅內容創作者行為失當等內容問題纏身。

雖然在內容監管和自查方面，海外互聯網內容公司和社交網站的表現並不足以被稱作榜樣，但也正如Facebook近期的聲明中所稱——「危機平台內容的對手是背靠資本的頑固派，他們可能永不罷休，甚至不斷改變策略，這是一場軍備競賽，平台要做的就是持續進化」。

從監管策略改進和技術完善的角度上說，以Facebook為代表的社交和直播、以YouTube 為代表的視頻與UGC內容平台、還有Instagram為代表的短視頻領域，也已積累出一些既定的方法，對問題的預見和更新策略布局或有借鑒意義。

綜合來看，海外網站的爭議內容的形態和問題可以概括為以下方面：

呈現形式要以文字帖、視頻、短視頻、直播、遊戲、廣告為主；涉及的具體違規問題包含——用戶隱私侵犯和數據泄露，不正當定向廣告，涉及暴力、色情、恐怖主義、異端宗教、虐童、陰謀論、種族歧視、性別歧視等不良內容，虛假新聞，涉嫌詐騙和數據挖掘的釣魚網站。

根據平台產品組成和內容屬性，也呈現了不同側重的內容監管機制。

此為內容監管系列第一篇。

社交和直播自我監管-Facebook

Facebook 與Instagram系統保持協同連接的關係，一般適用於Facebook的內容監測和審查功能也同樣適用於Instagram，同時據公司相關人士稱，Facebook的平台安全維護團隊中有部分人員專門負責Instagram事務，因此連同兩者談Facebook整體的內容監管機制。

1．細化社區準則 精準定義違規內容

Facebook的社區準則主要職能是界定違規內容，過去，社區準則中的違規內容定義較為模糊，反饋稱容易混淆。

數據泄露醜聞爆發後不久，Facebook發布27頁的更新版準則，圍繞「暴力與犯罪」、「安全」、「侮辱性內容」、「信譽真實性」、「知識產權」「內容相關的請求」六個大類，有22條詳細規定，違規內容和賬號將被平台刪除或封停。

社區準則具體到如「不可發布詆毀受害者的言論」或「不可發布有辱他人外貌、人格、身體的描述，或對其進行排名」，充分參考平台過去發生爭議內容，並與準則的具體化實現強關聯。

Facebook平台內容細化準則的目的，一在於詳細界定細微的內容問題，二在於鼓勵用戶、各界專家對平台反饋，幫助平台不斷完善平台的指導方針，在內容過濾和撤除時更有理可依。

經過最新一輪的更新，除了發布社區準則之外，內容發布者還有了申訴的機會。

多年來，Facebook也誤判了許多正規內容，例如撤下經典雕像、越南戰爭中逃跑兒童等無傷大雅的照片； 如今被錯判的申訴會在24小時內被複審，據稱這一政策目前只針對部分含有裸露、色情、仇恨言論、暴力圖像展開，並仍在不斷延伸覆蓋的類型。

2．歐洲通用數據保護條例（GDPR）下的自我監督

2018年5月，歐洲通用數據保護條例（GDPR）正式生效，而在用戶數據泄露風波中首當其衝的Facebook決定——將把GDPR條例衍生之其他服務覆蓋的國家和地區，監督Instagram、Oculus、WhatsApp對GDPR的遵守，並就「透明度」、「控制」、「責任」三大方面做出承諾，在信息透明度上強化產品內的提醒和用戶教育宣傳，在用戶控制上簡化了用戶設定信息許可權的流程，並提供更多賬戶安全自查的提醒； 同時， Facebook承諾定期更新合規計劃，與世界各地的監管機構、司法機構、專家學者會面，以尋求反饋。

6月，Facebook在投資者的壓力影響下，宣布加強管理層管理，提高公司審計委員會權利。

Facebook審計委員會主要負責監控Facebook的社會影響、隱私保護措施和網路安全風險，目前該委員會由前白宮辦公廳主任厄斯金·鮑爾斯（Erskine Bowles）擔任主席。

經歷劍橋數據風波後，委員會增加了三項職責，以至少每年一次的頻率對Facebook可能危害公共利益和安全的服務、隱私項目、網路安全風險三大方面進行評估，以此為投資者就「誰對監管隱私、社會影響、網路安全和合規負最終責任」提供更清晰的認識。

3. 「透明度舉報」平台維護版權

侵權舉報和檢測工具「信息透明度舉報」管理團隊將人工刪除涉及侵犯內容版權（書籍、音樂、影視、藝術、文字、圖像）、商標和涉嫌假冒偽劣的內容，用戶可通過Facebook和Instagram的IP幫助中心填寫在線投訴表格，投訴交由Facebook的IP運營團隊在一天之內受理，重複侵權的賬號將被關停。

針對版權的工具類產品還有「版權管理員」（Rights Manager）以及 「商務&廣告IP工具」（Commerce& Ads IP Tool）， 前者針對包括直播在內的視頻內容進行相似性比對，後者營銷內容篩選分類，幫助版權所有者舉報偽商標和侵權的內容。

4. AI與演算法結合人工審查

在國會聽證會上，扎克伯格在一小時內提及AI三十餘次，並堅稱AI是平台內容監管的答案「未來的五到十年，AI將成為世界上最大的社交網路的捍衛者，在全球範圍內解決其最緊迫的危機，同時也幫助公司回答有關審查、公平和人類無節制等棘手問題。」

基於人工智慧研究項目FAIR，Facebook官方稱， 就AI在Facebook內容監管上的應用而言，圖像內容審查方面，其物體識別技術（Object recognition）以含有數十億參數和數百萬案例訓練的神經網路為基礎。

Facebook的產品經理表示，涉及用戶安全的內容（如帶有自殺、自殘傾向的視頻），Facebook的AI的監測基於過去相關的直播和帖子收集數據，審查中被識別並標記的圖像，Facebook除了為用戶提供疏導視頻外，還會提供人工心理疏導服務邀請，而在物體識別技術上的每一次進步，都將意味Facebook Accessibility團隊將技術的適用範圍擴大」；

在文字審查方面，有「DeepText」（深度文本)引擎，據稱「能夠以近乎人類的精確度理解每秒數千篇文章的文本內容，跨越20多種語言」，此前Deeptext除用於內容個性化推薦外，還用於自動清除垃圾郵件，幫助公眾人物將數百萬條評論進行分類，以查看最相關的評論，自動識別銷售文章，提取相關信息，識別和顯示用戶可能感興趣的內容。

但也有評論稱，儘管Facebook的AI技術取得一定成績，但與目前AI技術的整體發展一樣，都面臨著三大難題：一、文字識別容易，語義理解任重道遠，對於虛假新聞監測來說，聯繫具體社會語境更是內容鑒別關鍵； 二、這是一場與資本豐厚的對手之間的軍備競賽，AI也不可避免的會在未來被用於製造出有目標性、被優化的虛假內容； 三、視頻內容檢測更為不易，建立可以捕捉虛假影像的系統難度巨大。

因此鑒於AI技術的局限性， Facebook聘請了一萬五千名人工審查員配合監測和刪除爭議內容，在之前的分析中我們也提到，扎克伯克宣佈於今年年底前新增五千人，輔助內容篩查。

Facebook此前已有人工智慧研究項目（FAIR），並也持續邀請在機器學習、醫療保健、遊戲、對話類介質演算法開發方面頗具經驗的人才，對實驗室進行管理，同時和麥吉爾大學，蒙特利爾大學等多所高校保持聯合開發的密切關係，今年7月，FAIR又傳出多位教授加盟的消息，目前在全球Facebook 已有7所AI研究實驗室。

UGC如何自我監管-YouTube

對於YouTube來說，UGC視頻內容構成了平台內容的絕大部分，這也間接說明，面對內容把控，YouTube的監管總體要比其他網站難度更大，（既從視頻內容審查的難度和工作量上說，又從UGC名人可能引發的負面連鎖效應上考慮）。

1. YouTube社區準則

在YouTube開啟UGC內容時代後不久，美國頒布了兩項針對UGC內容發布的法案——千禧年數字版權法（DCMA）和《通行內容端正法案（第230節》（CDA），使平台圍繞版權進行了一次「大清洗」。

自2008年起，YouTube 針對平台內容政策作出了一次巨大調整，對違反社群準則的行為明確制定了「三振出局」（非版權相關的）的規則。

首次違反的用戶將有6個月的觀察期使違規記錄註銷，平台在兩年後設定申訴流程，自認為被誤判的用戶可以要求複審，由此，YouTube正式確立了自身作為「內容適當性」仲裁者的角色。

與Facebook相似， 目前YouTube對違規內容的界定主要包括裸露或色情內容、危害性和危險內容、宣揚仇恨的內容、暴力或過度寫實性內容、騷擾和網路霸凌、誤導性詐騙內容、隱私侵犯內容、侵權內容、冒充他人、危及未成年人安全的內容。

2．持續提高與UGC內容創作者合作的門檻（Demonitization Policy）

從年初的YouTube網紅髮布日本自殺森林屍體視頻，到屢次出現的虐童和暴力相關自頻道爭議，YouTube與UGC內容創作者的合作夥伴計劃（Partner Program）也提高了門檻，篩除了較新、規模較小的內容創作者。

自2月起，只有在過去12個月內擁有至少1000名訂閱者和4000小時觀看時長的UGC頻道才有貨幣化的可能，此外YouTube對於接受廣告贊助UGC內容限制也變得更嚴格，即使滿足了相應的門檻，過度植入廣告的內容創作者獲得的收入也較過去減少。

3.AI、演算法與人工審核 （Google）

依附於谷歌的YouTube以基於深度學習技術的Google Brain作為支持，Google Brian擁有一個收集用戶信息（如觀看歷史和用戶反饋）的神經網路， 以及一個用於對所顯示部分視頻進行排列的神經網路，通過引入機器學習工具，自動標記暴力極端主義視頻，並將違規內容報告給人工審查員進行驗證。

YouTube的內容審查系統名為「Content ID」，會監測並直接下架涉及版權、暴力等違規內容。據稱，AI內容監測也獲得了顯著的成效，以2017年Q4為例，平台刪除了800萬條「令人反感」的視頻，有670萬條都由監測軟體自動標記，大約75%被標記的視頻在被用戶觀看之前就被下架。

與Facebook類似，YouTube的AI標記與識別技術也並不完美，例如2017年，英國政府和一些廣告公司發現自己的廣告被放在極端主義視頻旁邊，許多知名廣告主宣布撤下YouTube廣告。

今年，YouTube CEO蘇珊·沃西基也承諾僱傭一萬名人工審核員補足演算法的局限，並在輿論壓力下就員工權利規定每位審核員觀看違規視頻的上限為4小時，以保護其心理健康。

4.賬號限制

針對賬號有「活躍度」和「年齡」兩大限制。至少6個月未登錄、從未上傳、從不參與視頻互動（點贊、評論、收藏、關注）的賬號，平台有權收回。

YouTube也在保證一定言論自由的同時，對含有露骨言論和畫面的內容採取了「分級制」，不同國家地區的用戶，YouTube會參照用戶所在地的法律法規，對觀看和平台付費權設定不同的年齡限制，例如歐洲大部分國家用戶需年滿16歲收看部分內容， 北美用戶需年滿13歲收看部分內容等。

5.爭議內容標註

今年3月，YouTube的CEO蘇珊·沃西基表示YouTube與維基百科合作，在涉嫌陰謀論相關的視頻旁邊附上維基百科文本鏈接，對爭議內容加以標註；

7月，YouTube將信息查證進一步延伸，在爭議視頻頁面信息欄中納入更多Google News的權威報道鏈接，並在突發事件發生時優先顯示權威新聞來源的視頻，幫助高品質新聞更高效觸達用戶。

其他提升自我監管力的通道-提高新聞比重

假新聞事件後，Facebook試圖借新聞內容挽回22億用戶的信任，提出了新聞計劃（Facebook Journalism project），支持權威新聞內容的辨識和發布。

新聞計劃主要包含四大部分：一、對新聞來源和可信度添加標註，便於用戶鑒別新聞可靠性；二、 提升新聞內容貨幣化留住權威新聞出版商，在移動端應用上為新聞內容添加訂閱、付費閱讀功能；三、提升本地新聞內容的曝光度，與美國6個城市的當地公共新聞機構推行「Today in +地名」的新聞推送，手動篩選、審查、授權，將虛假內容比重降到最低；四、提升新聞類視頻的比重，在Watch平台上推出新的新聞內容專區，加入長度至少在3分鐘的時效性新聞視頻，促進更有意義的用戶互動。

相似地，谷歌也針對新聞內容設立了「Google News Initiative」，用3億美元扶持權威新聞機構並鼓勵對新聞視頻產品的打造，計劃在未來3年里提升新聞品質並幫助權威新聞機構為用戶提供更穩定可靠的新聞內容輸出。

最終新聞內容能否幫助正規內容養成還有待觀察，例如Facebook就與新聞出版商們的關係一直變化無常，先是Newsfeed內容推薦演算法改變突出親友內容導致新聞內容佔比下降，後是與CNN、華爾街日報、紐約時報等頭部出版商簽訂直播授權卻提前毀約，使得新聞機構對與Facebook合作仍持保留態度。

兒童內容管理和過濾-童鎖和定時器

童鎖、內容加密、兒童版專用應用程序、定時提醒都被普遍作為用戶保護手段，今年8月初，Facebook和Instagram加入了幫助用戶控制APP使用時間的新工具，防止用戶應過度使用社交媒體而危機心理健康，據報道在未來幾周內，更新主頁將展示用戶使用的時長，平均使用時長，用戶可提前設置使用時限，系統將在使用時滿時提醒用戶。

4月，YouTube，針對面向兒童觀眾的專業版應用YouTube Kids更新了家長管理權力，為監護人提供更強大的工具套件，將內容可視性的限制具體化，並投入更多的人工審核和資金支持。

閃電娛樂，專業的泛娛樂媒體平台

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！