十分信邪 現如今水軍都有AI的了

說到水軍，相信大家都不會感到陌生，在評論區如果看到一段內容重複出現好幾次，那不用說，肯定是水軍的手筆了。不過現在的水軍對我們的影響還沒有很大，一個是因為「殭屍」水軍的內容太好認了，再一個是請「活的」水軍內容雖然豐富了，但同時也挺費錢的。

但是現在情況可能有點不同了——水軍中也出現了精銳AI軍！

「我喜歡這個地方。我跟我哥一起去的，我們點了素食義大利面，很好吃。啤酒不錯，服務也很棒。推薦這個地方，是個吃早餐的好去處。地兒小但是買賣大。」

上面這段點評信息（請在腦海中翻譯成英文或自動帶入翻譯腔），乍一看貌似沒什麼，像是一個沒什麼話可說的評論者硬憋出來的一段評論，裡面也提到了消費商品和推薦信息，就是最後一句話有點詭異，但整體上還是在說人話。

可實際上——應該大多數讀者意識到了——這是一段使用了RNN（循環神經網路）的深度學習技術生成的點評。AI編輯的假點評其實都是從正式點評里學來的，那麼它和真實的評論有何區別呢？這裡小編找來了全球最大的旅遊網站TripAdvisor（貓途鷹）里，關於美食的各種評論，值得注意的是，這些評論全部是由志願者人工翻譯的。

看到這裡，是不是感覺前面那條AI水軍編輯的評論更能以假亂真了？相關研究人員透露，AI生成的點評已經做到了「以假亂真」，有600個用戶參與的調查顯示，這些虛假的點評不僅能逃過人類的法眼，而且還被用戶認為「有用」。

這就有點讓人感到害怕了，要知道，很多人在選擇餐館或者酒店的時候，會以一些較為靠譜的點評網站（比如Yelp或者大眾點評）上的評論作為真實依據，而虛假點評不僅會大大降低點評網站的可信度，更有可能誤導其他用戶做出錯誤的判斷。以往廉價的「殭屍」水軍好區分，而昂貴的「活」水軍不好請，所以造成的影響可能還在控制範圍內，可如今AI已經學會自動編寫虛假點評，還能以假亂真，這將給整個點評口碑界帶來嚴重的衝擊。

但是大家也不用太過擔心，畢竟魔高一尺，道高一丈，據研究者們透露，雖然在人類眼中這種假點評真假難辨，但是如果用計算機去分析字元之間的分布等特徵，那麼假點評立馬就會露出馬腳——假點評畢竟只能從真實點評中學習，在這個過程中，難免會產生信息流失，最終生成出來的文本將與人類文本有所差異，而且虛假點評越長，就越容易被發現有問題。

當然啦，如果編輯假點評的人想要做得更好，他可以給自己硬體升升級，做出更為複雜的神經網路，或許可以騙過檢測軟體，但是這也意味著水軍成本的提高——如果你升級軟體的錢都夠請一批「活」水軍了，那何必執著於AI呢？

【本文圖片來自網路】

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！