ZAO或?qū)⒉角拜叾堂髩m，“AI換臉”已形成黑色產(chǎn)業(yè)鏈

一夜間，從爆火到眾多質(zhì)疑、甚至厭惡，互聯(lián)網(wǎng)圈已經(jīng)很久沒(méi)出現(xiàn)這個(gè)盛況了。

8月30日晚，一款主打視頻換臉功能的、名為“ZAO”的APP“點(diǎn)燃”社交網(wǎng)絡(luò)。其操作十分簡(jiǎn)單，用戶只需上傳一張照片，用AI換臉功能，就可將照片上的臉“換”到張柏芝、王祖賢等各大明星的身上，然后分享朋友圈，甚至“可以和自己的偶像同框”。

經(jīng)過(guò)一夜發(fā)酵，到8月31日早上9點(diǎn)過(guò)，#Zao AI 換臉# 話題快速登上微博熱搜榜第7位，iOS商店內(nèi)的App下載量也在當(dāng)日下午超越愛(ài)奇藝、騰訊視頻兩大國(guó)民級(jí)應(yīng)用，攀升至娛樂(lè)類第二位——ZAO服務(wù)器也因此數(shù)次崩潰。

不過(guò)，伴隨刷屏的，是業(yè)內(nèi)外無(wú)數(shù)人士的質(zhì)疑，甚至厭惡和反感——引起巨大爭(zhēng)議用戶隱私保護(hù)條款背后，是我們的臉早就被濫用，甚至攻擊都一直存在。

ZAO或?qū)⒉角拜叾堂髩m

其實(shí)，因攻陷用戶朋友圈及多個(gè)社交媒體平臺(tái)而一夜爆火的ZAO，并不是第一個(gè)搭載“換臉”技術(shù)的平臺(tái)。

早在今年5月，Snapchat就已經(jīng)推出了一款“變性濾鏡”，這讓它一度爬升至總榜第三位。但隨著用戶新鮮感的喪失，現(xiàn)在Snapchat已跌至總榜1000名之外。

無(wú)獨(dú)有偶，今年7月，俄羅斯的AI換臉產(chǎn)品FaceApp曾一度位居App Store總榜第2名、攝影與錄像榜第1名。它復(fù)制了Snapchat的崛起之路，不僅能將人臉進(jìn)行轉(zhuǎn)化，還能在此基礎(chǔ)上實(shí)現(xiàn)男性變女性、哭臉變笑臉、老年變青年等更為復(fù)雜的操作。可惜的是，F(xiàn)aceApp的火熱并沒(méi)有因此得到延續(xù)，截至目前，F(xiàn)aceApp在App Store總榜排名已跌至600名開(kāi)外。

就拿以上兩個(gè)案例來(lái)說(shuō)，“AI換臉”技術(shù)雖然為平臺(tái)帶來(lái)了流量，但都好景不長(zhǎng)。

目前來(lái)看，當(dāng)紅的ZAO正在進(jìn)行引流工作，那么它能不能將這流量轉(zhuǎn)換為實(shí)打?qū)嵉拈L(zhǎng)久用戶？

圍繞“AI換臉”技術(shù)，ZAO目前只有視頻換臉、視頻分享朋友圈及表情制作三大功能。很顯然，如Snapchat和FaceApp一樣，這些簡(jiǎn)易功能通常難以讓用戶的熱情持續(xù)下去。

而根據(jù)其設(shè)置，用戶直接上傳照片就可以將平臺(tái)上多個(gè)知名影視劇片段中原來(lái)人物的臉替換成照片人物的臉，毫無(wú)疑問(wèn)，對(duì)用戶來(lái)說(shuō)極大的降低了使用門檻。但它對(duì)照片高清晰度的要求又帶來(lái)了新門檻：若是照片不符合平臺(tái)要求則不能進(jìn)行“換臉”操作，這必然會(huì)讓用戶喪失一定的體驗(yàn)感。

相較于內(nèi)置功能是否能夠留住用戶的不確定性，ZAO帶來(lái)的風(fēng)險(xiǎn)是現(xiàn)在就能看到的。

首先，ZAO用戶協(xié)議中包含的多項(xiàng)條款都有著巨大的法律風(fēng)險(xiǎn)。而使用ZAO換臉功能后（必須同意用戶協(xié)議后才能使用），ZAO不光借此免費(fèi)獲得了上傳資料中所包含肖像信息的使用權(quán)和轉(zhuǎn)授權(quán)，還將侵權(quán)的風(fēng)險(xiǎn)轉(zhuǎn)嫁給了用戶。

ZAO用戶協(xié)議中的多個(gè)條款備受爭(zhēng)議

知名法律博主“法山叔”表示，ZAO涉嫌過(guò)度攫取用戶授權(quán)，讓用戶在無(wú)形中將自己的肖像權(quán)拱手讓人，“以后你的臉將完全有可能被別人隨意使用，變換”。

其次，ZAO上有大量國(guó)內(nèi)外影視綜藝內(nèi)容片段，還能支持用戶自主上傳素材，這些海量素材也帶來(lái)了版權(quán)隱患。

知名IT與知識(shí)產(chǎn)權(quán)律師趙占領(lǐng)分析認(rèn)為，ZAO上的視頻素材和表情素材的來(lái)源主要是兩種：一是與權(quán)利人進(jìn)行合作，獲得權(quán)利人對(duì)于素材的版權(quán)及其中包含的肖像的權(quán)利人的授權(quán)；二是由用戶上傳，通過(guò)用戶協(xié)議約定用戶將上傳的素材以及修改后的素材的版權(quán)中的修改權(quán)、信息網(wǎng)絡(luò)傳播權(quán)等權(quán)利以及轉(zhuǎn)授權(quán)授予平臺(tái)。

他表示，“其中第一種來(lái)源有效解決了ZAO的商業(yè)模式的合規(guī)問(wèn)題，但是畢竟獲取授權(quán)是有代價(jià)的，限制了平臺(tái)所獲取的素材的種類和數(shù)量，而第二種方式通過(guò)從用戶處獲得授權(quán)，大大降低了平臺(tái)獲取內(nèi)容的成本，豐富了平臺(tái)上的素材，有助于滿足更多用戶的需求?！?/p>

總的來(lái)說(shuō)，雖然目前ZAO是一個(gè)免費(fèi)應(yīng)用，但不論是從用戶體驗(yàn)角度，還是出于使用風(fēng)險(xiǎn)考慮，ZAO都不會(huì)是用戶長(zhǎng)久使用的必選項(xiàng)。

繞過(guò)人臉識(shí)別并不難？

值得關(guān)注的是，無(wú)論ZAO是否一款短命火爆產(chǎn)品，其背后卻是一個(gè)嚴(yán)重問(wèn)題：我的臉還好嗎？

央行科技司司長(zhǎng)李偉上個(gè)月就曾表示，“人臉是非常敏感的個(gè)人信息，一旦泄露會(huì)帶來(lái)非常大的影響?！?/p>

相較指紋等其他生物特征，人臉識(shí)別最大不同就在于，它能無(wú)需接觸，就遠(yuǎn)距離發(fā)生作用——這意味著，相關(guān)機(jī)構(gòu)和個(gè)人可能未經(jīng)當(dāng)事人同意、甚至完全不知情的情況下讀取并搜集其數(shù)據(jù)，進(jìn)而非法使用。

2011年，谷歌母公司Alphabet董事長(zhǎng)埃里克·施密特說(shuō)，人臉識(shí)別“很可怕”，并承諾谷歌公司不會(huì)建立用戶照片的數(shù)據(jù)庫(kù)；去年7月，科技巨頭微軟總裁史密斯（ Brad Smith）發(fā)表官方博文，談到了人臉識(shí)別給社會(huì)帶來(lái)的復(fù)雜影響。他表示，人臉識(shí)別進(jìn)入了一個(gè)關(guān)鍵性時(shí)刻，這種技術(shù)可能被濫用，給社會(huì)帶來(lái)不良影響，美國(guó)國(guó)會(huì)應(yīng)該討論立法，對(duì)人臉識(shí)別進(jìn)行監(jiān)管。

據(jù)國(guó)外媒體披露，亞馬遜公司將人臉識(shí)別技術(shù)和服務(wù)銷售給了美國(guó)警方，這一做法引起亞馬遜部分員工抗議，要求拒絕將人臉識(shí)別技術(shù)提供給警方。微軟也遭遇了類似的爭(zhēng)議，被指和美國(guó)移民海關(guān)執(zhí)法局簽署合同，提供了人臉識(shí)別技術(shù)。

更擔(dān)心的是非法利用——這種擔(dān)心并非杞人憂天。實(shí)際上，利用Deepfake造假技術(shù)，艾瑪·沃森等一眾歐美女明星，此前就被“換臉”在了不可描述的小電影上，一時(shí)轟動(dòng)全網(wǎng)。

ZAO也是如此。有用戶擔(dān)心，ZAO采集了用戶面部信息，同時(shí)也在注冊(cè)時(shí)獲得了自己的手機(jī)號(hào)，是否會(huì)有可能被不法分子用于支付寶、網(wǎng)上銀行等APP的實(shí)名認(rèn)證，從而危及自己的金融財(cái)產(chǎn)安全。

一位反欺詐領(lǐng)域?qū)＜艺J(rèn)為，只要不法分子掌握了人臉照片，通過(guò)將靜態(tài)的照片進(jìn)行動(dòng)態(tài)化處理，再繞過(guò)人臉識(shí)別環(huán)節(jié)并不難。一位國(guó)有大行網(wǎng)絡(luò)金融部負(fù)責(zé)人也表示，其團(tuán)隊(duì)今年年初找權(quán)威機(jī)構(gòu)做過(guò)人臉識(shí)別相關(guān)的檢測(cè)，活體檢測(cè)、視頻攻擊等方面存在一定風(fēng)險(xiǎn)，雖然后臺(tái)算法升級(jí)會(huì)使防控效果有一定提升，類似換臉的攻擊威脅還是會(huì)一直存在。

不過(guò)，上述人士也強(qiáng)調(diào)，人們也沒(méi)有必要太過(guò)擔(dān)憂，因?yàn)椤澳壳霸谑謾C(jī)銀行應(yīng)用人臉識(shí)別是作為輔助認(rèn)證，要輔以短信等其他認(rèn)證工具。小額支付領(lǐng)域風(fēng)險(xiǎn)較小，強(qiáng)調(diào)便捷，在有相關(guān)賠付保障情況下采取人臉識(shí)別問(wèn)題應(yīng)該也不大?！?/p>

此外，螞蟻金服方面也回應(yīng)稱，“目前，網(wǎng)上各類換臉軟件有很多，但不管換得有多逼真，都是無(wú)法突破刷臉支付的?！?/p>

據(jù)了解，“刷臉支付”采用的是3D人臉識(shí)別技術(shù)，在進(jìn)行人臉識(shí)別前，也會(huì)通過(guò)軟硬件結(jié)合的方式進(jìn)行檢測(cè)，來(lái)判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來(lái)的身份冒用情況。

“AI換臉”已形成黑色產(chǎn)業(yè)鏈

有網(wǎng)友表示，ZAO這次之所以引起如此大的關(guān)注，是因?yàn)橐酝膿Q臉視頻，對(duì)技術(shù)有著比較高的門檻要求，而ZAO一下子把門檻降到了最低，普通手機(jī)用戶都可以玩了。

其實(shí)，這背后還有一個(gè)難以否認(rèn)的事實(shí)是——目前，“AI換臉”已經(jīng)形成一個(gè)非法牟利的地下黑色產(chǎn)業(yè)鏈。

此前新京報(bào)就有報(bào)道稱，互聯(lián)網(wǎng)上大量出現(xiàn)通過(guò)“AI換臉”實(shí)現(xiàn)的由知名女藝人“主演”的***，在百度貼吧、閑魚(yú)等主要網(wǎng)絡(luò)平臺(tái)均有出售。

有的商家不僅提供成品的視頻，還接受買家的訂制，只要買家提供20張照片，就可以制作出任何人的“小電影”。還有的商家“授人以漁”，售賣教學(xué)視頻供人學(xué)習(xí)，出示***證還能打七折。

而據(jù)“智東西”此前報(bào)道，目前AI換臉黑產(chǎn)已經(jīng)形成了完整的產(chǎn)業(yè)鏈，從下游成品情色視頻、中游定制視頻到上游軟件及教程都有提供，有的賣家甚至提供全產(chǎn)業(yè)鏈產(chǎn)品和售后服務(wù)。

根據(jù)鋅刻度最新了解的情況來(lái)看，這種情況并未得到好轉(zhuǎn)。比如，在瀏覽器搜索“換臉教程”，有多個(gè)教程詳述制作細(xì)節(jié)，足夠教會(huì)用戶如何使用“換臉”技術(shù)；在淘寶、咸魚(yú)等平臺(tái)搜索“換臉”，大部分商家顯示可售賣成品照片及提供定制服務(wù)，部分商家還售賣軟件和教程；至于在deepfake吧里，則可以找到明顯帶著暗示性字眼的資源帖。

換頭換臉成本不高

這些不法商家之所以如此明目張膽，與早前監(jiān)管的缺失不無(wú)關(guān)系。值得慶幸的是，相關(guān)監(jiān)管部門已經(jīng)注意到了“AI換臉”技術(shù)帶來(lái)的危害性。

今年4月，民法典人格權(quán)編草案和物權(quán)編草案的二審稿新增了這樣一條規(guī)定：任何組織或者個(gè)人，不得以利用信息技術(shù)手段偽造的方式侵害他人的肖像權(quán)。

國(guó)家網(wǎng)信辦會(huì)同有關(guān)部門在5月底發(fā)布的《數(shù)據(jù)安全管理辦法（征求意見(jiàn)稿）》中也提到，“網(wǎng)絡(luò)運(yùn)營(yíng)者利用大數(shù)據(jù)、人工智能等技術(shù)自動(dòng)合成新聞、博文、帖子、評(píng)論等信息，應(yīng)以明顯方式標(biāo)明“合成”字樣；不得以謀取利益或損害他人利益為目的自動(dòng)合成信息?！?/p>

但由于人工智能技術(shù)所具有的高度的不確定性、創(chuàng)新性和復(fù)雜性，面對(duì)千變?nèi)f化的應(yīng)用場(chǎng)景，目前想要所有亂象得到根治也絕非易事。

畢竟技術(shù)本無(wú)罪，全看使用技術(shù)的人想拿它做什么。目前來(lái)看，更重要的是相關(guān)AI企業(yè)應(yīng)該堅(jiān)守自身底線。著名學(xué)者吳伯凡就認(rèn)為，科技本身是不能向善的，應(yīng)該是讓科技向善，人在使用技術(shù)的時(shí)候一定要有初心，讓科技向善。“之前的技術(shù)沒(méi)有自主性和主動(dòng)權(quán)，比如火、核能都不能自主做事，但人工智能是有自我學(xué)習(xí)能力的，是非常特殊的，就一定要解決向善的問(wèn)題?！?/p>