DeepFake剋星來了！簡單2步演算法，造假圖像無處可逃

新智元報道

來源：IEEE Spectrum

編輯：金磊

【新智元導讀】DeepFake最近成了熱點，也帶來不少擔憂。近期，針對DeepFake可能帶來的負面影響，研究人員開發了一個基於神經網路的神奇，能夠鑒別DeepFake圖像的真偽。

DeepFake的剋星，來了！

自從DeepFake誕生以來，從照片到視頻，造假能力可謂是出神入化，人們驚呼：「再也不敢相信自己的眼睛了。」由此所帶來的道德倫理與法律的影響也可見一斑。

針對這一現象，來自加州大學河濱分校的研究人員最近便提出了一種基於神經網路的神器，分分鐘鑒別照片真偽！

論文地址：

https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=8626149

該演算法的初始測試從未經修改的圖像到單個像素級的假圖像，其準確率在71%到95%之間，具體取決於使用的樣本數據集。

該演算法還沒有擴展到包含對深度假視頻的檢測。

DeepFake是把雙刃劍，或成威脅社交媒體時代的新工具

加州大學河濱分校電子與計算機工程學教授Amit Roy-Chowdhury表示：

「DeepFake是經過修改的圖片或者視頻，可以向其中插入或刪除一部分內容，這就改變了圖片原來的含義。」

鑒別DeepFake的真偽在科研中可以說是一種挑戰，而這種挑戰的出現是因為它以一種人類肉眼無法分辨的方式被操縱著。

而在目前經濟、社會快速發展的大背景下，無論是人道主義、產品發布或是競選活動等方面，DeepFake的視頻和圖像可能會導致事情發展結果的黑白顛倒。

試想一下，若是DeepFake技術被廣泛惡意使用，那麼我們可能會經常看見某位政治候選人涉嫌實施暴力犯罪、某位CEO承認其公司產品存在安全問題等等擾亂社會平穩發展的事情。

Chowdhury是這項研究的五位作者之一，他表示：

這種檢測演算法可能是對抗社交媒體時代新威脅的有力工具。不過大家也需要注意不要過度依賴這些演算法。過度可信的檢測演算法可能被那些試圖傳播虛假信息的人武器化。

我認為我們必須小心處理與AI和機器學習有關的任何事情，我們需要了解這些系統給出的結果是概率性的。並且這些概率通常不在0.98或0.99的範圍內，恰恰遠低於此。我們不應該盲目接受它們。

從這個意義上講，DeepFake實際上只是網路安全中的一個新領域，網路安全是一場永遠的軍備賽，「好人」和「壞人」都在不斷進步。

在這項研究中，工作人員利用當前文獻中已有的概念，將它們以一種新穎而又強大的方式結合起來。

只要兩步演算法，DeepFake圖像無影遁形

這個演算法其中一個組成部分就是遞歸神經網路，它將問題中的圖像分成小塊(patch)，然後逐個像素地去觀察這些小塊。

演算法結構框架

神經網路已經在成千上萬張深度偽造以及真實圖像中進行了訓練，因此它已經學會了如何在單個像素級別中凸顯偽造痕迹。

Roy-Chowdhury表示，圖像被篡改部分周圍的邊界往往包含著操作的痕迹。圖像在被插入物體時，邊界區域往往具有一定的特徵。

而那些故意篡改圖像的人會額外在物體邊緣區域下功夫，搞得過於平滑，爭取讓演算法提取不出特徵來。

演算法的另一部分就是通過一系列編碼過濾器傳遞整個圖像。從數學意義上講，這些過濾器能夠使演算法在更大、更全面的層次上考慮整個圖像的情況。

然後，這個演算法就會把從逐個像素輸出的結果和更高層次的編碼濾波器分析結果進行比對。 當這些並行分析在圖像的同一區域觸發紅色標記時，就會被標記為「可能是DeepFake」。

假如，一隻小鳥的圖像粘貼到了原本只有樹枝的圖像(如下圖所示)。

在這種情況下，逐像素(pixel-by-pixel)演算法可能會將鳥爪周圍的像素標記為「有問題」。而編碼器演算法可能會在更大的層次上，例如其他邊界問題或更大尺度級別的異常。

只要這兩種神經網路標記處鳥周圍圖像的同一區域，Roy-Chowdhury團隊的演算法就會把鳥和樹枝的照片歸類為「可能是DeepFake」。

下一步，DeepFake視頻也將「在劫難逃」

DeepFake的圖像目前已然能夠鑒別真偽，那麼下一步就是視頻了。

Roy-Chowdhury表示現在需要對演算法做一個擴展，並應用到視頻中。這種演算法可能需要考慮圖像如何逐幀變化，以及能否從變化中及時識別出任何可檢測的模式。

鑒於DeepFake檢測的緊迫性，以及隨著世界各地越來越多不懷好意的人試圖利用這種虛假信息作惡。Roy-Chowdhury呼籲其他研究人員能夠利用他們的演算法在更真實的環境中做檢測。

論文：

https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=8626149

博客：

https://spectrum.ieee.org/tech-talk/computing/software/a-twotrack-algorithm-to-detect-deepfake-images

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！