今日頭條升級「靈犬」服務 超60萬人次打擊低俗

中新網5月16日電 16日，今日頭條通過官方微頭條宣布，「靈犬反低俗助手」日前已經完成服務升級，新增反色情短文本模型和反謾罵模型，將準確率從73%提升至82%，提高了9個百分點。截至目前，已經有超過60萬人次使用「靈犬」小程序，參與打擊低俗，凈化網路環境。

據悉，這是「靈犬」上線以來，第一次大規模更新。「靈犬」於2018年4月8日正式上線，是國內首款人工智慧反低俗小程序。「靈犬」只需要一段文字或文章鏈接，就能檢測內容健康指數，並返回鑒定結果，包括：是否可以獲得演算法推薦，是否需要引入人工判斷等。對於用戶輸入的內容，「靈犬」會先進行提取、分詞和語義識別，然後根據演算法規則，輸出對應的分數、評級和結論。這一切，都在短短几秒內完成。

移動互聯網時代，海量內容創作的快速增長，給內容識別帶來很大挑戰。「開放靈犬，是為了匯聚全民力量打擊低俗。我們希望升級服務，更好地幫助用戶檢測低俗信息，共同營造清朗的網路空間。」今日頭條總編輯張輔評稱。

對於人工智慧，目前開展反低俗工作至少有三個難點：一是識別「內涵色情」，這類場景需要聯想能力，對機器學習要求很高；二是短文本識別，一般來說，機器接收的上下文、語境越充分，判斷準確度才會越高；三是對書面語和口頭語的分辨，相比規範的書面語，口頭語很隨意，變化程度大，較難識別。

據張輔評介紹，為了解決以上難點，「靈犬」制定了專門的低俗分類標準，並新建反色情短文本模型，學習了近萬個標準案例，重點加強對短文本、色情、內涵色情的識別，同時注意口語語言和標題語言兩個維度的覆蓋。「靈犬」還新建反謾罵模型，加強對謾罵內容的識別。

基於人工智慧模型的訓練路徑：「收集數據－標註樣本－訓練模型」，在反覆訓練中，靈犬會變得越來越聰明。「靈犬」還設有專門的「反饋有獎」入口，鼓勵網民積極反饋，提供「靈犬」識別不準確的案例或任何改善意見建議，並給予實物獎勵。

今日頭條方面表示，目前在內容審核方面，除了配備「靈犬」等，包括色情、低俗、標題黨、虛假信息、低質模型在內的180多個人工智慧模型，今日頭條還投入了6000多人的專業審核團隊，結合人工、技術手段，致力於提升內容審核的效率和準確度。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！