AI換臉軟體「ZAO」刷屏，可是風險竟這麼大？

今天，你的朋友圈是不是被一個個小視頻刷屏了？

好友們的臉出現在了一部部經典影視作品中，化身「小李子」「白展堂」「緋紅女巫」等諸多角色，看起來甚是有趣。

實現這一切，只需要下載一款名叫「ZAO」的手機APP，再上傳自己的照片，利用AI技術，便可以在短短几秒內將照片上的臉替換到影視劇經典片段中。

從朋友圈的多段視頻來看，幾乎可以以假亂真。

天眼查信息顯示，「ZAO」所屬的長沙深度融合網路科技有限公司，法定代表人為陌陌聯合創始人兼遊戲業務部總裁雷小亮，是海南貓咖網路科技有限公司100％控股，後者則是由雷小亮和陌陌董事、總裁及COO王力各持股50%。

在一夜爆紅之後，隨著一張「用戶協議」截圖的流傳，ZAO很快受到了來自各方的強烈質疑，AI換臉技術的安全風險也再次被廣泛提及。在下載和使用ZAO之前，有些問題應該提前知曉。

用戶協議涉嫌轉嫁法律風險

為了驗證網傳「用戶協議」截圖的真實性，記者下載了ZAO軟體，在登錄界面下方找到了「用戶協議」和「隱私協議」。

其中「用戶協議」第6條要求用戶同意「授予『ZAO』及其關聯公司以及『ZAO』用戶全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利」，這項權利不僅包括對用戶上傳內容進行部分或全部修改，還包括對用戶肖像權的使用及改動。

備受質疑的用戶協議第6條

根據這一條款，「ZAO」實際要求用戶應取得原視頻肖像權利人的授權，並授予「ZAO」 完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於用戶本人及原圖片、視頻資料的肖像權利人的肖像權。

「我個人認為這一條款可能無效，因為涉嫌侵害原圖片、視頻素材肖像權利人的權利。」在上海市誠至信律師事務所律師李輝看來，這一條款涉嫌繞開未取得原圖片、視頻素材權利方授權的現實，通過所謂的用戶單方承諾的方式，避開需要取得權利人授權的法律規定。

記者注意到，ZAO為用戶提供了大量影視作品素材以供選擇。在首頁隨機點開數個影視片段，右上角可以清晰看到「優酷」「愛奇藝」等視頻網站水印，下方顯示該素材為用戶上傳，但右側的「版權說明」均無法打開。據此前媒體報道，ZAO在版權聲明中提到，產品上存在的短視頻和表情等素材，除了特別聲明是ZAO跟合作方進行版權合作的之外，均來源於ZAO用戶自發的上傳，ZAO不享有素材的商業版權。

視頻來源為優酷，但版權聲明無法打開。

根據我國現行法律規定，為個人學習、研究或欣賞，使用他人已經發表的作品，不侵犯他人著作權，如果沒有醜化他人形象，也不屬於侵犯肖像權。但是，ZAO是一個商業平台，用戶將其上傳後，商家多少可以從中獲取一些廣告之類的收益，此時若素材未經授權，便涉嫌侵權。

「作為普通用戶，從生活常理看，其實不大可能輕易地就取得相關原圖片、視頻素材的肖像權利人的授權，對此情況，ZAO和用戶應屬明知。」李輝表示，在此情況下，ZAO企圖以所謂的「用戶承諾取得」來替代真實的授權，輕易地允許用戶去上傳海量視頻，修改海量圖片，這種行為侵害了第三方權利，應當歸於無效。當然，用戶如果能取得或已經取得相關授權，「ZAO」因此獲得了相關授權的證明的情況另當別論。

「其實，『ZAO』的這條規定實際是為預防自我風險而設，想把可能發生的侵權責任歸結到用戶身上。」李輝指出，如果這一條款成立，那麼用戶在使用ZAO進行人臉替換的過程中，可能已經成了原圖片、視頻素材的侵權人。

換臉技術並非首創，早有「前科」

在業內人士看來，ZAO從爆紅到備受質疑，其實也反映出人們對「AI換臉」這一技術手段的質疑。

「AI換臉」不是ZAO獨創的一項新技術。大約在2017年底，一種人工智慧基礎的人物圖像合成技術deepfake問世，本身是開源技術又簡單易操作，很快就讓網友們玩得不亦樂乎。但是，deepfake出現沒多久，就朝著人性的陰暗面一路狂奔。

ZAO首頁上給網友提供了大量視頻素材

通過deepfake的「換臉」技術，包括電影《神奇女俠》主演蓋爾·加朵在內的眾多女明星的臉出現在了各類色情視頻中，幾乎可以做到以假亂真。由此，引發了人們對這項技術的焦慮。在國外，甚至出現了專門的打假團隊，來鑒別哪些視頻遭到過篡改。在國內，換臉技術早已被網友們玩得十分純熟，在B站上就有讓蔡徐坤頂著六小齡童的面孔出道的視頻，點擊量十分驚人。有了photoshop，人們不再相信照片的真實性，deepfake則讓視頻也不再可信。

「以前有不法分子用合成艷照來敲詐勒索或者詐騙，現在會不會用合成視頻？」不少人對此表示擔憂，除了用於刑事犯罪外，不受控制的「惡搞」對人們來說也會造成巨大的困擾，畢竟誰也不願意自己的臉出現在視頻中，說一些自己從未說過的話，干從未做過的事。

記者注意到，今年4月，我國民法典人格權編草案二審稿對此作出規定，任何組織或者個人不得以醜化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。其他人格權的許可使用和自然人聲音的保護，參照適用本章的有關規定。這意味著，該草案若通過，肖像權保護將在現有基礎上更進一步：未經本人同意便進行「換臉」，即便沒有營利目的和主觀惡意，同樣構成侵害肖像權。

「刷臉」時代急需法律規制

在今天關於ZAO的討論中，有一條無疑是網友們最為關注的：我的照片如果泄露，會突破人臉識別技術嗎？

「『ZAO』並不是第一款可進行AI視頻換臉的軟體，之前外國一些技術公司也開發過同樣的產品。現階段，這些換臉視頻要想替代真人進行『刷臉支付』基本不可能。」一名支付寶安全專家告訴記者。

支付寶安全專家指出，目前，網上各類換臉軟體有很多，但不管換的有多逼真，都是無法突破刷臉支付的。支付寶「刷臉支付」採用的是3D人臉識別技術，在進行人臉識別前，也會通過軟硬體結合的方式進行檢測，來判斷採集到的人臉是否是照片、視頻或者軟體模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。

此外，在進行人臉識別後，部分用戶還需要輸入與賬號綁定的手機號進行校驗，進一步提高了安全性。同時，支付寶還會通過各種安全風控策略確保賬戶安全。比如刷臉支付功能需要用戶進行開通操作，開通之後才能進行支付，用戶也可以隨時關閉。

這些年，國內「刷臉」技術運用愈加廣泛，不論是支付寶的「刷臉支付」還是有些單位的「刷臉打卡」，都離不開人臉識別技術。但是，國內知名的網路信息安全專家談劍鋒曾多次在公開場合對這一技術的安全性提出質疑：「密碼泄露了可以改，人臉一旦被成功複製，難道你還能換張臉嗎？」

「我在國外生活過很多年，他們很抗拒刷臉這項技術，法律往往也不允許採集這類個人信息。」記者曾採訪過一家知名AI企業創始人，他也對「刷臉技術」的安全性表示了質疑，「我們現在採集人臉的過程很不規範，誰都可以來索要照片，如何使用也缺乏相應規定。比如，我卸載了APP後，我的照片從資料庫里清除了嗎？沒人知道。」

解放日報·上觀新聞原創稿件，轉載請註明出處

作者：王閑樂 鄔林樺

微信編輯：大白

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！