讓去世親人「復生」？這項新技術做出的假視頻 口型和聲音幾可亂真

一款新的應用聲稱可以使用一種全新的視頻系統讓死者「復活」。

谷歌的工程師Supasorn Suwajanakorn開發了一種工具，通過正確的輸入，可以創建一個逼真的假視頻。通過仔細觀察現有視頻片段中某個人的嘴和牙齒，模擬某個人說話的方式，從而創建完美的唇形和聲音同步。

他警告說，它可以被用來製作死去親人的視頻，也可以被用來製作極為逼真的「深度假視頻」，以達到邪惡的目的。

Suwajanakorn說，這種技術可以用來為那些已經去世的人創建虛擬的版本——人們可以向祖父母尋求建議;演員們回到銀幕上;好老師再度給學生上課，或讓作家大聲朗讀他們的作品。

「如果能向我們的祖父母尋求建議，聽他們安慰的話，即使他們已經不在我們身邊，那豈不是很棒?」他今年早些時候在溫哥華的TED大會上說。

不過，他也透露，他還開發了一款「現實衛士」(Reality Defender)應用程序，用來識別使用該技術製作的極其逼真的「深度假視頻」。

「我們的目標是為人們建立一個準確的模型，而不是誤導他們。但我擔心的一件事是它可能被濫用。自從Photoshop首次上市以來，人們就一直在思考這個問題。」

「作為一名研究人員，我也在研究對策，我的工作也是人工智慧基金會(AI Foundation)正在進行的工作的一部分。該基金會利用機器學習和人類版主的結合，來檢測虛假圖像和視頻，這款視頻工具也在針對列表中。」

「我們計劃發布的工具之一是『現實衛士』，這是一個網路瀏覽器插件，可以在瀏覽器中自動標記潛在的虛假內容。」

「但我很興奮，也深懷希望，因為如果我們正確、謹慎地使用它，這個工具可以讓任何個人對世界的積極影響大規模地擴大，並真正幫助我們以我們希望的方式塑造未來。」

這種製造視頻的人工智慧是如何工作的?

由華盛頓大學(UW)的研究人員開發的口型同步系統，將語音文件轉換成真實的嘴巴形狀，然後將這些從另一個現有的視頻移植到那個人的頭上。

第一步是訓練神經網路來觀看一個人的視頻，並將不同的聲音轉換成基本的嘴型。

然後，通過在UW的圖形和圖像實驗室團隊的研究基礎上，採用一種新的嘴部合成技術，研究人員能夠將真實的嘴部形狀和紋理疊加並混合到那個人的現有視頻上。

這項技術的另一個重要方面是允許一個小的時間偏移，這樣神經網路就可以預測說話人接下來要說什麼。

Suwajanakorn說，他的靈感來自一個見證(Testimony)項目中的New Dimensions部分，這個項目可以讓人們與大屠殺倖存者的全息圖對話。

「這些結果看起來很有趣，但同時也很麻煩;這讓我擔憂，可能這項技術會被濫用。」

例如，他擔心戰爭可能由一個世界領導人宣布核打擊的虛假視頻引發。

這款名為「真實衛士」(Reality Defender)的設備可以自動掃描被操縱的圖片或視頻，並允許用戶報告明顯的謬誤，從而利用人群的力量來加強防禦。

他說：「我們必須冒著風險完成它，而且成本效益很低。」

據Suwajanakorn說，雖然寫假新聞可能既便宜又容易，但要在沒有任何痕迹的情況下操縱視頻卻很困難。

他認為，從設計上來說，視頻是由成千上萬張圖片組成的流，每一張圖片都必須用贗品加以完善。

Suwajanakorn說，要想有效地為人們樹立榜樣，還有很長的路要走。他在這一領域的工作源於他在華盛頓大學(University of Washington)讀書時的經歷。

「我們必須非常小心;我們不希望它落入壞人之手。」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！