刷臉的倫理與法律邊界在哪裡？
AI換臉軟體「ZAO」的走紅，打開了人臉數據應用的潘多拉魔盒。
在北京中關村的一家咖啡館裡，劉嘉正在演示自己的創業項目。只見他上傳一張用戶照片，幾秒內就可自動生成一份長達12頁的「事業報告」，報告會對一個人的外形、性格、內在進行分析評價，診斷其職業和管理風格，多次試驗後，準確度驚人。
「這絕對不是AI算命。」劉嘉反覆向記者強調產品是基於基因學、心理學、醫學等科學，並結合了AI和大數據等前沿技術。攀談中，記者猜測劉嘉的目標很可能是——只需一張照片，就能洞悉你的一切。
驚奇，伴隨著恐懼。劉嘉的項目只是人臉識別浪潮中的一朵小小浪花，但不得不承認一個事實，我們的人臉正在成為別人的一門生意。從17萬條數據在網路商城公開售賣，到曇花一現的換臉遊戲「ZAO」，再到刷臉時代的一路狂奔，人們在享受便捷紅利的同時，也面臨安全隱患和倫理道德的雙重拷問。
「人家一掃你的臉就支付了，這不相當於一個行走的密碼嗎？」這位消費者「不敢刷臉」的擔憂，正在成為大眾拒絕刷臉的普遍理由，校園刷臉會否涉及學生隱私？小區監控的邊界在哪裡？刷臉失誤帶來的成本誰來承擔？城市管理者怎樣將技術用對地方，而又不越界公民的隱私底線？假如我的臉被「賣」了，難道我要去換一張臉嗎？
這些問題，都值得探討，或者給出一個合理的答案。
便捷背後的「烏龍事件」
你是誰？每一天，人們都需要無數次回答這個問題，向各種人、機器亮明身份。路遇警察臨檢，出示身份；出入境，護照必須傍身掃描，即便是人盡皆知的馬化騰，如果手機設置了安全認證，每天一次次向手機證明「我就是我」，也是必要操作。
刷臉的出現，似乎解決了這一繁瑣程序。四年前，馬雲在德國漢諾威參加通信和信息技術博覽會時，現場用刷臉支付在淘寶上購買了一枚1948年的漢諾威紀念郵票，正式將刷臉技術推至台前，人們開始意識到，丟掉證件、手機、車票等身外物，憑著一張臉穿行世界，不再是天方夜譚。
位於松江大學城的上海對外經貿大學，一棟宿舍樓前，大三學生許娟正在進行刷臉開門，「我帶著眼鏡，也能識別得很清楚，不用進門前再翻包找一卡通了。」許娟說，從去年開始，學校率先採用了國際領先演算法的「人臉識別」系統，在宿舍刷臉進出、在圖書館借閱圖書，靠一張臉就能在校園裡暢行無阻。
「除了出入宿舍和圖書館的監控，還可以幫助宿管阿姨統計學生的回寢時間、晚歸次數等，提高了宿舍的安全性。」上海對外經貿大學信息中心副主任劉亮亮告訴《新民周刊》，刷臉系統的上線，確實提升了學校的管理效率，但也存在不足，比如學生的照片久遠、像素較低，會影響刷臉識別率，但總體來說是小概率事件。
相比之下，失誤率在城市管理中面臨的挑戰似乎更大。前不久，「豐巢快遞櫃刷臉漏洞」的話題衝上了微博熱搜，浙江嘉興一所小學四名小學生，拿著一張列印的家長頭像，成功打開了小區門口的豐巢快遞櫃，取走了原本不屬於他們的快遞。結果證實，豐巢採用的人臉識別是一張2D平面圖像，安全級別不夠，極易破解。
電子抓拍也難免「烏龍」。一位長年跑福建到汕頭線路的大貨司機稱，有一次，在家休假的他竟然收到了貨車在其他省份的違法記錄，事後雖證實是人臉識別的匹配有誤，但也給他帶來了不小的麻煩。「我不可能為了一二百元的罰款，再去交涉，太浪費時間，後來乾脆就交了罰款。」
取件刷臉的潦草上線，大貨司機吃的「啞巴虧」，難免讓公眾對刷臉的安全係數持懷疑態度。可怕的是，類似棘手的烏龍事件是不分地域的。曾有機構使用亞馬遜公司的面部識別系統掃描了535名國會議員的面部照片，並與相關資料庫中的2.5萬張罪犯照片比對，結果28名議員被系統識別為罪犯。而「把普通人錯認為罪犯」的高失誤率，早在2017年的歐洲冠軍聯賽決賽上，就被媒體大肆報道過。
技術成熟度的質疑源於技術本身，社會倫理則需要其他學科知識來解決。當人臉作為認證信息對準鏡頭時，鏡頭不僅可能會「說謊」，還會帶上「有色眼鏡」，專業用語叫做演算法歧視。多年以前，眼睛普遍比較小的美國亞裔們總是跑去消費者協會投訴，說自己根本沒閉眼，但尼康相機的「眨眼提醒」總是提示他們拍照時眨眼了。
《Nature》也有文章曾指出，計算機視覺演算法對一張印度新娘的照片只會貼上「表演藝術」和「禮服」兩個標籤，而谷歌的面部識別技術也一度總把黑人朋友標記為「猩猩」；美國麻省理工學院「媒體實驗室」曾針對微軟、IBM和中國曠視科技3家公司進行過測試，結果顯示，在1270張圖片中判斷人物性別，對膚色較淺男性的判斷錯誤率低於1％，但對膚色較深女性的判斷錯誤率從21％到35％不等。
有學者指出，演算法歧視主要是數據中地域多樣性的缺乏導致的，但不可否認，一旦人臉識別技術應用到司法、執法等關鍵領域，技術問題所帶來的影響絕不只是啼笑皆非的「烏龍事件」那麼簡單。去年，支付寶推出刷臉支付產品「蜻蜓」，以「現金返還獎勵、安裝成本降低」作為誠意邀請，仍然遭遇中小商戶的搖頭拒絕，刷臉的推廣實際上並不順利。
「上帝視角」的邊界在哪
目前看來，失誤率帶來的尷尬，似乎不是技術運用者最擔心的問題。對於被監控者來說，在被錯誤判定為違法者或缺勤打卡人時，最多付出時間和金錢成本，而這些相較於刷臉工具的便捷性，大多數人的態度是可以容忍。
因此，在人工智慧不斷滲透人類生活的今天，人臉識別的邊界就顯得特別重要。「上帝視角還是凡人視角」的辯題，業界早已爭論多年。大門口考勤、醫務室治療、演唱會抓捕逃犯甚至科學家通過識別情緒感測器作研究，好處自然不必說。但不止一所高校對於人臉識別進課堂有所保留，也是事實。
「只要你進教室那一刻起，系統每隔30秒會對你全程進行掃描。你低頭多長時間，玩手機幾次，發獃幾次，閱讀幾次，趴桌子幾次，全都能感知到，若不專註行為達到一定分值，系統就會向顯示屏推送提醒。」關於多家高校啟動的學情分析課堂，中國農業大學本科生院綜合處處長韋笑表達了自己的顧慮，他認為，學生的抬頭率並不能精準判斷學生的能力和效率，而且教室作為特殊的公共場所，監控下的教師和學生的行為，很可能都不是真實狀態。
習慣在課堂上走神的大三學生聰聰說，這種強迫式的「盯梢」，並不能幫自己自律，反而會有些逆反情緒。「我一般夜晚學習效率高，但從數據判定看我就是不努力學習的那個人，會不會太偏見了。」一所公立師範學校的申姓老師也表示，通過監控，老師確實更了解學生，工作效率也提高了，但教師的行為暴露在天眼之下，導致一些課件偽裝、業績作假的行為出現，同樣會阻礙真實教學的發生。
而一些校園啟動的「智慧德育」系統，更易引發倫理爭議。設想一個場景，以往老師看到做好事或調皮搗蛋的孩子，如果不是本班學生，根本不知道是誰。現在好了，只要掏出手機，對準學生一咔嚓，屏幕立即跳出他的信息，父母職位、孩子年齡、家庭情況摸得門清兒，結合不同學生家庭信息，老師是否會使用不同處理方式，不好說，但可以肯定，傳統的有教無類，學生平等，在類似情形下被「刷臉神器」撬動了。
中國教育科學研究院研究員儲朝暉認為，在人工智慧的包辦下，教育鏈條或只剩下智能，「人工」慢慢在減少，但技術對於教學只能是錦上添花，並不能替代教與學的位置。「水至清則無魚，這個簡單的道理誰都懂，如果人臉識別沒用對地方，很可能得到一個『留得住學生的人，留不住學生的心』的結果。」
什麼時候該刷臉，刷臉的倫理界限在哪裡，關於邊界的社會矛盾對沖也越發凸顯。一位刷臉系統代理商劉闖告訴記者，曾經有一家健身房找上他們，說為了防止實體鑰匙丟失，希望在更衣室儲物柜上加入「刷臉」系統，他的第一反應是「拒絕」。「你在更衣室的柜子上使用攝像頭，本身就是一個非常大的錯誤，這種涉及公眾隱私的場所，應該堅決不允許人臉識別。」
那麼，換言之，在公共場所使用人臉識別就變得合理正當了嗎？未必。法國巴黎的一家書店，通過分析監控視頻，仔細觀察購物者的動作，店員會上前做出「心領神會」的服務，但在機器面前，每一個強忍住的哈欠，每一絲惱怒的表情都會被察覺，人際關係可能變得更加理性，也似乎會更加機械而冷漠，試問，這樣的上帝視角真的好嗎？
此前，公眾就對谷歌曾研發的一款裝在智能手機上的街景軟體，表達過強烈不滿，原因是當這個軟體掃描街景時，也會對路過的行人進行面部信息採集，最終谷歌妥協並對人臉信息打馬賽克。只不過「上帝視角」的按鈕一旦觸發，誰又會保證不會有「第二個谷歌」出現，偷偷在你走路時，坐在地鐵時，不知不覺將你的人臉信息搜集走，而你卻毫無察覺。
在人臉識別的圈子，邊界至今仍是一個探不到底的「規則黑洞」。
人臉被賣的風險 很可怕
那麼，問題來了，是不是本人只要不做違法違規的壞事，信息被採集也無所謂。正如蘋果公司CEO庫克曾說過的話，「技術本身沒有好與壞，一切由我們人來決定」。
在人臉識別快速發展的四年，安全隱患與倫理後果，並不是危言聳聽。今年9月，有媒體報道，網上有商家公開兜售17萬條「人臉數據」，涵蓋2000人的肖像，每個人約有50到100張照片，而被兜售者並不知情。
據兜售的商家稱，自己平時從事人工智慧相關工作，收集人臉數據發售，不過就是「掙個飯錢」而已，在其售賣的人臉樣本中，一部分是從搜索引擎上抓取的，另一部分來自境外一家軟體公司的資料庫等。早在2017年，前美國中央情報局技術分析員斯諾登就曾預言，隨著手機解鎖的普遍應用，人臉識別終將面臨被泄露和被濫用的風險。
以曇花一現的換臉遊戲「ZAO」為例，披著「隱形條款」公然搜集用戶人臉信息，它降低了AI換臉的使用門檻，但同樣可能被愛炫富的微商們用於「和明星總統握手」的虛假宣傳，如果馬雲「親自代言」的視頻很奏效，「馬雲語錄」的雞血開場白取代也是分分鐘的事。
早在2017年底，國外一位ID為「deepfakes」的網友，就利用換臉技術將色情作品中的主角換成明星臉，並上傳到著名的色情影片分享網站Pornhub上，試想一下，如果有人把我們換臉成犯罪事件主角、被綁架的人質……或者偽裝成我們進行視頻通話，對親友進行詐騙，後果不堪設想。
當然，更可怕的是「有人偽裝你的臉」，福布斯記者Thomas Brewster曾用合成的一張3D頭像，列印出一個3D頭型，並成功解鎖了4款手機，人臉識別被成功騙過，足以證明偽裝門檻到底有多低。記者用淘寶搜索「假臉麵皮」，發現以二三十塊的極低價格，即可輕鬆買到周潤發、劉德華、周星馳等明星的乳膠面具，有商家也可接受定製。
「ZAO」下架後的第一時間，支付寶曾站出來回應，「不管換臉軟體多逼真，都無法突破刷臉支付。」但在大批用戶已開通「刷臉支付」的當下,人們難免戰戰兢兢。中國圖像圖形學學會可視化與可視分析專委會秘書長、天津大學軟體工程專業教授張加萬表示，人臉識別技術並沒有人們想像的那麼安全，即使人臉識別中的活體檢測技術，也並非銅牆鐵壁般牢靠，「如果人臉數據和個人信息打通，將徹底迎來透明時代，整個面部識別也就形同虛設了」。
隨著低成本、快速、大量地記錄，存儲和分析人臉圖像的能力終有一天會使隱私、公平和信任等發生根本性的改變。今年5月，巧達科技就利用大量代理IP地址、偽造設備標識等技術手段「打通」數據，非法竊取用戶信息，36名嫌疑人連續兩年獲利5.3億元。辦案民警介紹，爬蟲工程師將搜集來的2.2億份簡歷、10億份通訊錄，重新合併、排列，結合社會、組織、家庭關係，「再比對」後形成完整的簡歷和用戶畫像。
張加萬表示，由於面部信息是具有唯一性特徵的生物信息，銀行卡信息泄露還可以更換銀行卡，人臉信息泄露後將是終身泄露。未來，非常可能出現的場景是：當我們走進一家商店，店員立刻就能知曉關於我們的一切：身份、職業、收入、偏好、性格……而當這一天來臨時，每個人都將處於「裸奔」狀態，甚至戴上面具也無濟於事，因為攝像頭還能識別你的體型甚至步態。
坦白講，我們除非與世隔絕，否則無法完全拒絕人臉識別。
以換臉遊戲「ZAO」為例，技術是成熟的，之所以不能被推廣，就是因為還有很多法律、倫理問題沒有討論清楚。美國學術界、政府機構和初創企業試圖從技術上設置「安全壁壘」，比如推出自己的圖像、視頻驗證、標記技術，期望通過在你拍攝照片或視頻的時候自動添加時間、位置信息等方式，對抗AI換臉視頻、圖片帶來的威脅，但顯然無法解決根本矛盾。
上海申蘊律師事務所陸斌律師向《新民周刊》表示，目前國家還沒有一部針對「人臉識別」「刷臉」問題的專門法律，對於網路運營商採集的公民「人臉識別」，只能援引《民法總則》《侵權責任法》《網路安全法》等法律來進行保障。關於個人敏感信息、生物信息等還沒有明確的法律界定，建議儘快通過立法予以明確。
當技術跑在了監管前面，刷臉就該被禁用嗎？在陸斌看來，如果法律跟不上就限制科技發展，是「因噎廢食」的做法，不明智也不可取，總體來說，「刷臉」「二維碼」「指紋識別」等新技術的發展帶給社會的便利顯然是利大於弊的。綜合目前世界多國的做法，立法強化對人臉信息搜集的應用場景約束已經開始。今年7月，馬薩諸塞州的薩默維爾市成為美國第二個禁止人臉識別的城市，但只是禁止了公共場所的使用權，並未涉及商業範疇。
「人臉識別技術在商業上的使用無法一刀切禁止」，對外經貿大學數字經濟與法律創新研究中心執行主任許可認為，從理論上講，所有的數據都有泄露的可能。對於個人而言，需要在便利性和個人信息保護上權衡和取捨，對於珍視個人信息勝於便利的人，最好完全不使用任何要求進行人臉識別的App，通過市場機制倒逼企業做好隱私保護。
至於人們擔心的金融支付安全，央行科技司司長李偉在9月20日的金融網路安全論壇上建議，一方面，不要簡單地將人臉特徵作為唯一的交易驗證因素，須根據風險等級結合用戶口令等其他因素進行多因素認證；另一方面，金融機構在相關交易時，人臉數據採集應提前告知用戶信息使用的方式，明確獲得客戶授權。
不過有專家也提醒，現在對於人臉數據的科普還遠遠不能讓人們充分意識到其隱藏的風險，「很多客戶根本看不懂那些授權文件里的內容代表哪些具體內涵，但為了使用那些服務，還是同意了授權。」因此，在技術仍存在風險的時候，廣泛應用於各種商業領域，應當慎重。
中國人民大學法學院教授劉俊海表示：「針對刷臉支付，監管者應當與時俱進，儘快出台相應的法律法規，自覺消除監管的漏洞，用技術來強化監管。監管者也應當儘快出台相關的生物特徵有關的信息採集的法律規則和技術標準。關於（消費者）所處的位置、活動軌跡、瀏覽的習慣等等，都應當納入法制的監管軌道上來。」
除此之外，劉俊海認為：企業也應當自律，推廣刷臉技術時換位思考，解決痛點，能夠證明自己採集的消費者的生物信息等敏感信息，是合法、透明、安全的。今年5月，我們關於數據的立法出台，明確規定網路運營方在收集個人信息時，必須明確經過用戶同意，禁止以默認授權、功能捆綁等形式強迫、誤導。歐洲監管機構在2018年5月生效的《通用數據保護條例》，也規定將包括「臉紋」在內的生物信息屬於其所有者，使用這些信息需要徵得本人同意，值得借鑒。
教育部科學技術司司長雷朝滋接受媒體採訪時也曾發出提醒，建議學校慎重使用這些技術軟體，關於學生的個人信息，能不採集就不採集，能少採集就少採集。這些警告同樣適用於城市管理、商業運作甚至個人生活，關鍵在於，雷朝滋的提醒是否能夠引起人們的足夠重視？「刷臉」時代里，公眾能否對自己的安全負責？
有一句話說科技是為懶人而生，越懶越方便越好。據一位智慧社區項目代理商回憶，他們在做智慧社區項目時，有些小區用戶希望使用人臉識別系統的同時，保留原來的磁扣門禁等方式，他們照做了，「但體驗過刷臉的人基本都把磁扣方式忘掉了，因為他嘗到了便捷的甜頭」。
