換臉一晚燒掉700萬？這個App里還藏著幾個大坑

天下 09-01

昨晚起，一款名為「ZAO」的App

刷屏朋友圈。

大量用戶使用這款App，

上傳自拍照片，

將自己「變成」影視片段的主角，

並將這些「改頭換面」過的視頻片段，

上傳微信朋友圈等社交平台，

引發「病毒式」傳播。

8月30日晚間，「ZAO」官方微博稱，「這個月花700萬租的伺服器，今晚已經消耗1/3了。明天如果繼續火爆，我們只能做嚴格一些的限制。」

8月31日下午14時，「ZAO」在蘋果應用商店App Store的在免費App的下載排名中已躍居第二。

ZAO的火爆可見一斑。

天眼查信息顯示，ZAO所屬公司為長沙深度融合網路科技有限公司，由海南喵咖網路科技有限公司100％控股，而海南這家公司的實際控制人為雷小亮和王力，雷小亮是陌陌的聯合創始人兼遊戲業務部總裁，王力也是陌陌的聯合創始人兼COO。

幾秒生成一段用戶變身主角的視頻

很多人可能在試用已經發現，「ZAO」主要功能包括造視頻和造表情，使用時均需要上傳人像照片。上傳素材時，首先需要通過許可權認證。

在「造表情」功能中，用戶上傳照片時，App可以自動查找面孔相冊里清晰度和角度合適的照片。App說明稱，此行為不會上傳任何照片數據，並且會進行非公眾人物驗證和肖像權驗證，確保符合相關法規才能使用。

隨後，只要上傳了一張照片，並進行視頻製作。約6秒鐘後，視頻生成。

實際上，「ZAO」的上手門檻極低。「ZAO」提供了許多現成的新老知名影視劇中的片段，用戶不需要任何專業技術即可使用。除了視頻換臉、分享朋友圈、造表情外，尚無其他功能。

「ZAO」官方的目標似乎還不止於此。

8月30日，「ZAO」的官方微博稱："你們要記得，ZAO的精髓在於加好友玩。過幾天你們就會懂。"

上述官微還介紹，Android用戶在應用寶、華為、Oppo、Vivo電子市場都能搜索ZAO下載使用。8月31日下午14時，「ZAO」在蘋果應用商店App Store中躍居免費App第二名。

如何辨別「AI換臉術」？

據科技日報，紐約州立大學奧爾巴尼分校教授呂斯衛領導的團隊發現了偽造視頻的漏洞：假臉極少甚至不會眨眼，因為它們都是使用睜眼的照片進行訓練的。研究人員表示，偽造視頻往往忽略了「自發的、無意識的生理活動，例如呼吸、脈搏和眼球運動」。呂斯衛說：「因此，缺少眨眼是判斷一個視頻真假的好方法之一。」

不少科技媒體的報道提及，「ZAO」這次之所以能刷屏，是因為以往的換臉視頻，對製作者的技術甚至製作的設備，有著比較高的門檻要求，而「ZAO」一下子把門檻降到了最低，普通手機用戶都可以玩了。

肖像「完全授權」的

隱私安全風險到底有多大？

雖然已經形成刷屏效應，但「ZAO」也引發了外界的隱私擔憂。

「ZAO」的用戶協議顯示：用戶在使用「ZAO」的時候，如果把臉換成自己或其他人的臉，意味著，

同意或確保肖像權利人同意授予「ZAO」及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於：人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權，以及利用技術對您或肖像權利人的肖像進行形式改動。

「換臉」軟體此前在國外也曾出現

有網友爆料，甚至有「黑產」，

將其用於情色視頻，

因為只需簡單操作，

就能將明星名人的面部，

進行隨意「嫁接」。

還有網友擔憂

換臉軟體是否會成為「刷臉支付」的漏洞。

支付寶安全中心今天下午最新表態，

稱目前網上各類換臉軟體有很多，

但不管換的有多逼真，

都是無法突破刷臉支付的。

這不僅是娛樂更關乎善惡，

關乎AI是否有愛

我們一直說，科技是一把雙刃劍，關鍵掌握在使用人的手中。世界人工智慧大會來到了最後一天，成為「網紅」的不僅僅是「雙馬會」和魔都市民的「AI 生活圈」，卻還有一款名叫Zao的應用軟體。

這款主打視頻換臉功能的App在今天凌晨突然躥紅社交圈。要說有多少科技含量，倒也不見得——用戶直接上傳頭像照片就可以將原視頻片段換臉，然後分享到朋友圈，和它開屏顯示的宣傳語一樣：僅需一張照片，出演天下好戲。不過，除了提供視頻換臉、分享朋友圈和製作表情外，Zao並沒有其它多餘功能。記者的朋友圈裡，就有好幾位與「現男友」的合照分享，點贊一片。

在分享時，不知你有沒有思考，個人隱私是否被侵犯，你又是否侵犯了別人的權利。或許你會說，這只是娛樂，沒必要小題大作。可你也要知道，在這個月初，3D人頭模型破解刷臉支付，成功購買車票，刷臉付款的安全再次引發大家的擔憂。我們是不是可以「想像」：如果有人獲取我們頭像和電話，就能冒充我們和家人對話？

今年6月17日，國家新一代人工智慧治理專業委員會發布《新一代人工智慧治理原則——發展負責任的人工智慧》，其中就包含了「科技向善」的元素：公平公正、包容共享、尊重隱私……在今年世界人工智慧大會的開幕式上，騰訊董事會主席兼首席執行官馬化騰在演講時也表示，在AI的治理方面，要以「科技向善」引領全方位治理，確保AI「可知」「可控」「可用」「可靠」。

其實，我們身邊「科技向善」的例子有很多，當你看見因為智慧課堂，從沒有用過PAD的孩子眼裡露出對於知識渴求的光芒；當你看見因為人臉識別，被拐10年的兒童回到了父母身邊；當你看到因為智能語音合成技術，身患重病的爸爸的聲音被保存下，能夠陪伴女孩兒一路成長……相信你的眼角也會泛起淚花。這是一個個真實的故事，也是「科技向善」最好的詮釋。

「智能技術需要「展現科技向善的力量」，維護倫理道德底線，形成行業和企業的倫理自律準則。」這是前幾天，劉鶴副總理在重慶召開的智博會上的呼籲。今年的世界人工智慧大會，也特別設置了「科技有道，擇善而行」的論壇，來自騰訊、微軟等公司的多位業內人士專家紛紛就此發言。可見，讓科技「自動駕駛」可不行，現在該為它規劃路線了。

馬雲在「雙馬會」中有一句諍言：機器有芯，人類有心。講邏輯的事機器可以做得更好，而無需邏輯的事是人的特長。愛一個人不需要邏輯，而恨其實是講邏輯的。所以，機器做起「壞事」來可能比人更擅長，而人類應該教會機器什麼不可為，教會AI真的有愛。

守住技術的底線和準則，讓科技用到該用的地方，或許是人工智慧發展到今天，一個不得不重視的新課題。（文/ 新民晚報郜陽）

網友看法

「ZAO AI換臉」這一話題

今天中午一度率先在社交網路

竄上熱搜前十。

到了下午，

更多網友刷起了

「ZAO隱私風險」的話題。