AI換臉技術(shù)背后的問題

近日，一款換臉軟件刷屏了社交網(wǎng)絡(luò)。通過這款軟件，用戶可實現(xiàn)與明星換臉，“一鍵”進(jìn)入明星出演的影視片段中，過把戲癮。然而，隨著這款軟件火爆網(wǎng)絡(luò)，大家也開始關(guān)注其背后涉及的隱私、肖像權(quán)等相關(guān)問題。

“換臉”有風(fēng)險個人信息或遭泄露

這款軟件在蘋果應(yīng)用商店的標(biāo)語為，“僅需一張照片，出演天下好戲”。該軟件使用AI技術(shù)，將用戶上傳的照片，置入平臺上用戶所選擇的影視片段之中，實現(xiàn)用戶與“明星”的換臉。

利用這款軟件進(jìn)行“換臉”，首先需要用手機號動態(tài)驗證碼進(jìn)行驗證登錄。換臉時需要進(jìn)行眨眼、抬頭等各種驗證，這與刷臉支付時采集的臉部信息類似。

對此，有用戶在社交媒體上表達(dá)了對隱私泄露的擔(dān)憂。如果被別有用心的人利用這個技術(shù)，盜取了用戶換臉的信息，包括其它的個人信息，一旦匹配成功了，輕則是精準(zhǔn)詐騙，重則的話有可能用戶的賬號、密碼洞開。這樣一來，不僅“丟了臉”，還可能丟了錢。

法律專家岳屾山：

這里面確實存在一定的安全隱患，這個軟件如果被不法分子所掌握，就很可能造成危險。現(xiàn)在，國內(nèi)很多應(yīng)用在索要用戶信息方面都很野蠻，過度要求用戶提供信息，這是一個通病。用戶在使用時要注意保護(hù)自己的隱私；開發(fā)者也應(yīng)該遵法守法，按照法律的規(guī)定來收集信息；監(jiān)管部門也要出手，對于不規(guī)范的行為及時予以制止，進(jìn)行規(guī)范。

AI換臉曾被利用制作淫穢視頻

AI換臉技術(shù)被公眾注意，還因為其先前被應(yīng)用于制作淫穢視頻。多家外媒曾報道“Deepfake”和“DeepNude”在國外引起的熱議，據(jù)美國《紐約時報》報道，隨著越來越多的人正在利用該技術(shù)制作名人的色情視頻，AI換臉正在引起恐慌。英國《衛(wèi)報》稱，此類軟件是“對未來可怕的一瞥”，顯示了對人工智能未來可能造成的倫理問題的擔(dān)憂。

AI生物識別要把控好“度”

AI換臉已經(jīng)不是新技術(shù)，以刷臉支付為代表的生物支付也也是目前的主流，如今我國生物識別技術(shù)處于全球先進(jìn)水平，從事該行業(yè)的企業(yè)超過1000家，2018年市場規(guī)模超過1000億元以上。

生物特征識別技術(shù)，就是采集每個人外貌作為模板保存，使用時再次對相應(yīng)外貌進(jìn)行實時采集并快速對比進(jìn)行身份認(rèn)證。各種生物特征技術(shù)的區(qū)別，在于對采集的“外貌”有所選擇，有的選擇采集指紋，有的選擇采集人臉，有的選擇采集虹膜。

無論采集什么“外貌”，這些“外貌”都有一個共性：人人都有，且人人不同，也就是具有唯一性。隨著生物特征識別技術(shù)的大規(guī)模應(yīng)用，特別是人臉識別技術(shù)的普及，生物特征信息安全受到了所有人的關(guān)注。

對于用戶來說，人臉特征信息屬于弱隱私信息，人人可見，隨時有可能在自身全無所知的情況下被人獲取，給人一種不安全的感覺，當(dāng)人臉特征信息和金融支付賬戶聯(lián)系到一起之后，更是影響了用戶對賬戶的安全感覺：“從我的賬戶里劃錢就和拍照一樣簡單?！?/p>

自從人臉識別技術(shù)問世之后，各種人臉識別應(yīng)用層出不窮，有人臉識別廁所、人臉識別跑道、人臉識別馬路、人臉識別智能門鎖等等?！皠e管需不需要，能站在風(fēng)口就行?！卑殡S著這樣的想法，人臉識別信息開始被各種各樣的應(yīng)用采集，甚至濫用。

今年2月，國內(nèi)深網(wǎng)視界發(fā)生大規(guī)模數(shù)據(jù)泄露事件，超過250萬人的數(shù)據(jù)可被獲取，有680萬條數(shù)據(jù)疑似泄露，包括身份證信息、人臉識別圖像、圖像拍攝地點等。此事在網(wǎng)上掀起了滔天巨浪，深網(wǎng)識別網(wǎng)站一度停止運營，引發(fā)了無數(shù)風(fēng)波。

值得一提的是，支付寶8月23日發(fā)布了國內(nèi)首個“生物識別用戶隱私與安全保護(hù)倡議”，倡議提出：企業(yè)在采集用戶生物信息時應(yīng)遵循“最小、夠用”原則，防止被濫用。這份倡議共5點，主要從隱私、安全、防止信息濫用、責(zé)任與監(jiān)督、公平等角度，唿吁對生物識別的發(fā)展進(jìn)行規(guī)范化管理，來確保行業(yè)可控、健康的發(fā)展。

面對生物特征識別技術(shù)的風(fēng)潮以及隨之而來的風(fēng)險，監(jiān)管也在不斷發(fā)聲。自今年兩會起，個人信息安全就成了監(jiān)管的重點，網(wǎng)信辦、工信部、信安標(biāo)委等部門接連發(fā)布文件，《數(shù)據(jù)安全保護(hù)法（征求意見稿）》、《App收集個人信息規(guī)范》等等文件都強調(diào)了個人信息安全的重要性。生物特征信息無疑屬于個人信息當(dāng)中最有價值的部分，屬于重點保護(hù)范圍。

央行科技司司長李偉在文章《冷靜看待生物識別技術(shù)》中提到，“目前市場熱情高漲但尚缺一系列制度設(shè)計。”因此需要對生物識別技術(shù)加強監(jiān)管，盡快出臺相關(guān)法律法規(guī)，以及配套的管理辦法和行業(yè)標(biāo)準(zhǔn)。

刷臉、換臉帶來的風(fēng)險不言而喻，于用戶而言，切勿將個人信息輕易交換，于企業(yè)而言，支付寶發(fā)布的“生物識別用戶隱私與安全保護(hù)倡議”值得行業(yè)深思！

AI換臉雖好玩，但要當(dāng)心“丟臉”

你想過有一天，自己可以和胡歌談戀愛，可以和鄧倫逛故宮，可以和你的男神女神暢游花海嗎？近日，一款名為“ZAO”的AI換臉APP就幫不少人圓了這樣的“明星夢”，過了一把戲癮。

用戶在上傳自拍照片后，就可以把影視劇主角的臉替換成用戶自己的臉。僅需一張照片，便可出演天下好戲！這誘惑力的確夠大。“ZAO”APP瞬間“名聲大噪”。

但是，這種AI換臉技術(shù)也帶來不少爭議：大家擔(dān)心個人信息會被泄露，刷臉支付也不再安全。

伴隨著各種質(zhì)疑之聲，“ZAO”上線僅三天便被微信屏蔽。雖然該APP團(tuán)隊對相關(guān)霸王條款進(jìn)行了修改，并承諾不會泄露用戶信息，但是網(wǎng)友并不買賬。工信部還就網(wǎng)絡(luò)數(shù)據(jù)安全問題約談了該APP背后的金主——知名社交平臺陌陌。

現(xiàn)在監(jiān)管部門介入、涉事企業(yè)改進(jìn)，而消費者自身更要提高自我保護(hù)意識。只有多方合力，才能為個人隱私安全“上鎖”。記者潘愈

“ZAO”的病毒式傳播

8月30日，一款運用AI技術(shù)實現(xiàn)“換臉”的“ZAO（逢臉做戲）”APP正式上線，用戶可以通過這款A(yù)PP實現(xiàn)在視頻中“換臉”，把自己變成喜歡的影視劇中的主角，過足一把戲癮，實現(xiàn)自己的“明星夢”。

而使用“ZAO”的過程也非常簡單，用戶只需要下載、注冊、上傳一張清晰正面照。“ZAO”還會要求用戶在攝像頭前進(jìn)行眨眼、扭頭、張嘴、低頭等指示動作。

用戶在上傳個人照片后，便可“一鍵”進(jìn)入明星出演的相關(guān)影視片段中，生成新視頻，還能制作表情包。更讓人無法阻擋的是，用戶還能將生成的新視頻分享到微信朋友圈里。

正如“ZAO”自己所標(biāo)榜的那樣，“僅需一張照片，出演天下好戲”，可以與自己的偶像“同臺飆戲”，這對很多人來說，的確具有難以拒絕的巨大誘惑力。

其效果也是可想而知的。剛一上線，這款軟件便立刻引發(fā)“病毒式”的傳播。就連ZAO官方助手自己也在8月30日夜間發(fā)布微博無奈地表示，“這個月花700萬租的服務(wù)器，今晚已經(jīng)消耗1/3了。明天如果繼續(xù)火爆，我們只能做嚴(yán)格一些的限制?！?/p>

果不其然，該軟件在第二天的8月31日便登上了微博熱搜前十，不到24小時后，它便登上蘋果應(yīng)用商店免費APP下載排名榜首位。

那么，說了這么多，大家一定好奇，這款爆紅的APP背后東家到底是誰？而據(jù)企查查數(shù)據(jù)顯示，“ZAO”所屬公司由海南貓咖網(wǎng)絡(luò)科技有限公司100%控股，法定代表人為陌陌聯(lián)合創(chuàng)始人雷小亮，海南貓咖網(wǎng)絡(luò)科技有限公司則由雷小亮和陌陌COO王力各持股50%。所以把“ZAO”APP說成是社交平臺陌陌旗下的最新產(chǎn)品，是非常合適的。

你的“臉”不屬于你

然而隨著“ZAO”APP的“病毒式”傳播，各種擔(dān)心和質(zhì)疑也不斷曝出。由于“ZAO”的主要換臉功能都需要上傳人像照片，該軟件背后的隱私權(quán)、肖像權(quán)、版權(quán)等相關(guān)安全問題隨即引起各方高度關(guān)注。

根據(jù)“ZAO”用戶協(xié)議內(nèi)容中的必要授權(quán)協(xié)議：用戶上傳發(fā)布內(nèi)容后，意味著同意授予“ZAO”及其關(guān)聯(lián)公司以及“ZAO”用戶在“全球范圍內(nèi)完全免費、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于可以對用戶內(nèi)容進(jìn)行全部或部分的修改與編輯（如將短視頻中的人臉或者聲音換成另一個人的人臉或者聲音等）以及對修改前后的用戶內(nèi)容進(jìn)行信息網(wǎng)絡(luò)傳播以及《著作權(quán)法》規(guī)定的由著作權(quán)人享有的全部著作財產(chǎn)權(quán)利及鄰接權(quán)利?！?/p>

換句話說，當(dāng)用戶確認(rèn)授權(quán)之后，用戶的面部信息就永久且免費地給了“ZAO”和它的關(guān)聯(lián)公司處置，而用戶無權(quán)過問，因為用戶之前自己已經(jīng)簽了“賣身契”，事后再來找，又有誰能認(rèn)賬呢？

除此之外，使用“ZAO”APP還存在另一個很大的潛在風(fēng)險。正如媒體報道所稱，用戶得自行確認(rèn)自己所用的明星肖像是明星同意授予的，一旦明星狀告“ZAO”侵犯其肖像權(quán)，“ZAO”就干脆甩鍋，讓用戶承擔(dān)侵權(quán)后果。所以說，這種可能性也不是不存在的。

但是根據(jù)《合同法》中有關(guān)規(guī)定，提供格式條款一方免除其責(zé)任、加重對方責(zé)任、排除對方主要權(quán)利的，該條款無效。很明顯，“ZAO”協(xié)議中的某些條款的確很霸道。

中國政法大學(xué)朱巍在接受南方日報采訪時表示，“ZAO”的合同條款已經(jīng)造成違法違規(guī)，違反了《消費者權(quán)益保護(hù)法》《合同法》中的格式條款和《網(wǎng)絡(luò)安全法》。移動客戶端的人臉識別是用戶的核心隱私，平臺不可擅自使用消費者的肖像。

同時，湖南芙蓉律師事務(wù)所合伙人律師鐘文科在接受證券日報采訪時還表示，“該軟件可能會搜集位置信息、銀行卡號、支付寶賬號、相冊等，這些都是個人用戶極為敏感的信息，一旦平臺出現(xiàn)故障導(dǎo)致用戶信息泄露，將會對用戶造成很大的安全隱患?！?/p>

那些失控的“換臉門”

不可否認(rèn)，隨著互聯(lián)網(wǎng)的普及，人們在充分享受智能手機給生活帶來巨大便利的同時，也面臨著各種問題的困擾。

正如中國青年報評論文章指出的那樣，在智能手機普及的今天，隱私是一件幾乎不存在的事情。你連接的WiFi暴露了你的行蹤，你在搜索引擎點擊的鏈接和廣告暴露了你的愛好，你在淘寶搜索的商品暴露了你的消費水平?！都~約時報》的一篇報道稱，僅在美國，就有至少75家公司從事與定位有關(guān)的業(yè)務(wù)，追蹤的手機多達(dá)2億部。

工人日報也指出，技術(shù)發(fā)展和應(yīng)用的腳步太快，當(dāng)源源不斷的科技創(chuàng)新成果向我們涌來，相應(yīng)的制度和監(jiān)管卻沒能及時建立和完善，這是我們不得不面對的一大困境。

毫無疑問，這些事情真的是細(xì)思極恐。

其實，“ZAO”所利用的AI換臉技術(shù)其實并不是什么新鮮事物。前年，美國一位名叫“deepfakes”的網(wǎng)友就曾將自己制作的AI換臉視頻發(fā)布在了當(dāng)?shù)厣缃?a href="http://srfitnesspt.com/article/bbs/" target="_blank">論壇上，甚至該網(wǎng)友還把色情片女主角的臉換成了100多位好萊塢明星的臉。

就連很多商界大咖和政界大腕也未能幸免于難。今年6月份，臉書創(chuàng)始人扎克伯格在網(wǎng)上發(fā)表了一段關(guān)于“掌控大數(shù)據(jù)就掌控未來”的視頻走紅網(wǎng)絡(luò)，而最后證明視頻中的“扎克伯格”實際上是網(wǎng)友利用AI技術(shù)進(jìn)行換臉后的效果。但是這個假的扎克伯格無論從相貌聲音，還是穿著打扮，都跟真的扎克伯格幾乎一樣，難怪會有這么多人上當(dāng)，信以為真。

還有一個典型的例子就是美國眾議院議長南?！づ迓逦鳌Ｇ安痪糜芯W(wǎng)友通過換臉技術(shù)，將視頻中的南希變得言辭混亂，顛三倒四，一看就處于醉酒狀態(tài)。最后逼得美國國會立刻召開了有史以來第一場有關(guān)AI換臉技術(shù)的聽證會。

所以說，AI換臉技術(shù)如果缺乏有效的監(jiān)管，的確容易失控。正如南方都市報社論文章指出的那樣，對于“ZAO”這款應(yīng)用，當(dāng)然不是要一棍子打死，但在如此多的質(zhì)疑面前，從政府監(jiān)管到輿論監(jiān)督，再到學(xué)術(shù)研究，理應(yīng)及時跟上，做必要的審視與討論。在“臉部信息”被濫用、瀕臨失控之前，AI換臉技術(shù)得好好通過倫理關(guān)的審查。

弄丟的“臉”咋找回

而當(dāng)提及個人信息的時候，大多人第一時間想到的便是諸如身份證、姓名、家庭住址、電話號碼、銀行卡號、社?？ㄌ柕鹊冗@些具體的身份信息。而往往對像指紋、人臉、基因等更為重要的個人生物信息不那么在意。從很多人喜歡在社交平臺上共享自己的照片上就可見一斑。

眾所周知，像臉部信息這樣的生物識別信息難為一般人所更改，所以被廣泛用于身份認(rèn)證、交易和支付環(huán)節(jié)，但是一旦泄露，一旦“丟臉”，勢必給用戶帶來難以消除的不良影響。

廣州市社科院研究院彭澎在接受南方日報采訪時表示，絕大部分技術(shù)本身都是無辜的，要看使用者自身是出于怎樣的目的，造成了怎樣的結(jié)果。AI換臉技術(shù)有一定可取性，可以用于抓捕犯罪分子或出于善意、沒有損害的娛樂，但一旦過界，則應(yīng)該按照相應(yīng)的法律進(jìn)行限制。

此前，在第四屆全球金融科技峰會上，人民銀行科技司司長李偉就曾提醒稱，人臉是非常敏感的個人信息，一旦泄露或被盜取，會帶來非常大的影響。所以有技術(shù)不能任性，也不能濫用。

而“ZAO”APP提供的“換臉”體驗無疑就是一種對面部識別技術(shù)的濫用。北京日報評論文章就指出，在面部識別已經(jīng)普及的今天，你我的面部數(shù)據(jù)如同一把鑰匙，與自己種種賬戶的安危高度相關(guān)?！癦AO”一鍵把用戶的面部數(shù)據(jù)上傳到云端，但凡公司里有內(nèi)鬼，或是公司保管不善造成數(shù)據(jù)泄露，別有用心之人很容易拿著我們的“臉”招搖撞騙。

對此，健康報評論文章指出，對于這次換臉軟件走紅現(xiàn)象，一方面要就事論事，看到人臉信息遭泄露帶來的風(fēng)險，并督促加以改進(jìn)。更應(yīng)該看到，在生物信息保護(hù)方面，不僅民眾的防范意識普遍不強，而且相關(guān)規(guī)定也比較缺乏，亟待就此好好補一補課，否則更多“好玩”的軟件還可能出現(xiàn)，讓更多民眾付出泄露敏感信息的代價。

圖一時之快的后果

面對外界越來越激烈的質(zhì)疑之聲，“ZAO”方面此前已在8月31日對用戶協(xié)議進(jìn)行了部分修改，增加“特別提示”：用戶使用“ZA-O”生成的內(nèi)容，“ZAO”將僅用于修改并生成新短視頻，除非獲得用戶再次同意，不會以任何其他形式使用上述內(nèi)容。用戶如果刪除了上傳內(nèi)容，“ZAO”也會依據(jù)相關(guān)法律從服務(wù)器中刪除。此外，用戶如果使用“ZAO”換臉，需確保肖像權(quán)利人授權(quán)“ZAO”對人像進(jìn)行處理。

但事件并未就此平息。9月1日，上線三天爆紅的“ZAO”微信分享鏈接還是在爭議聲中被停止訪問了，其頁面顯示“網(wǎng)頁存在安全風(fēng)險，被多人投訴，為維護(hù)綠色上網(wǎng)環(huán)境，已停止訪問”。

隨后，為了消除大家的疑慮，9月3日，“ZAO”運營團(tuán)隊發(fā)布聲明稱，“ZAO”不會存儲個人面部生物識別特征信息。在您的使用過程中，為保護(hù)肖像權(quán)不被冒用，“ZAO”設(shè)置了真人驗證環(huán)節(jié)，整個過程僅為驗證您上傳的照片是您本人，為確保您的信息安全，“ZAO”不會存儲個人面部生物識別特征信息?！癦AO”所呈現(xiàn)的“換臉”效果，是我們根據(jù)您提交的頭像照片，按照您選定的素材場景，通過后期技術(shù)疊加所實現(xiàn)的虛構(gòu)圖像，并沒有采集任何個人生物識別特征。虛構(gòu)圖像能達(dá)到肉眼上近似，但并不是您的真實信息。

同時，“ZAO”APP的“名聲大噪”，也引發(fā)了有關(guān)部門的注意。同日，工業(yè)和信息化部網(wǎng)絡(luò)安全管理局對北京陌陌科技有限公司相關(guān)負(fù)責(zé)人進(jìn)行了問詢約談，要求其嚴(yán)格按照國家法律法規(guī)以及相關(guān)主管部門要求，組織開展自查整改，依法依規(guī)收集使用用戶個人信息，規(guī)范協(xié)議條款，強化網(wǎng)絡(luò)數(shù)據(jù)和用戶個人信息安全保護(hù)。

如何給隱私“上鎖”

對于公眾普遍關(guān)注的“刷臉支付”是否會有安全威脅的問題，此前，支付寶安全中心已經(jīng)通過其官方微博發(fā)布公告稱，目前各類換臉軟件不管換的有多逼真，都無法突破刷臉支付?！八⒛樦Ц丁辈捎玫氖?D人臉識別技術(shù)，在進(jìn)行人臉識別前，也會通過軟硬件結(jié)合的方式進(jìn)行檢測，來判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。此外，在進(jìn)行人臉識別后，部分用戶還需要輸入與賬號綁定的手機號進(jìn)行校驗，進(jìn)一步提高了安全性。

此次，“ZAO”運營團(tuán)隊也格外強調(diào)，使用“ZAO”不會產(chǎn)生支付風(fēng)險。刷臉支付安全門檻極高，僅通過一張照片實現(xiàn)的“換臉”技術(shù)完全無法突破刷臉支付的安全系統(tǒng)。權(quán)威支付平臺也均從專業(yè)技術(shù)角度，強調(diào)“換臉”完全不可能威脅支付安全。您刪除信息或注銷賬號，“ZAO”均會依據(jù)相關(guān)法律法規(guī)的規(guī)定刪除相應(yīng)信息。目前有用戶看到注銷后的緩存信息，會在后續(xù)更新版本時修復(fù)。

但是這些承諾和保證并未消除公眾的疑慮。“目前大多數(shù)獲取用戶臉部和個人資料的平臺都是金融平臺，受到一行兩會的嚴(yán)格監(jiān)管，但是當(dāng)越來越多的平臺在沒有受到監(jiān)管的情況下獲取用戶相關(guān)的信息，這背后存在的監(jiān)管缺失才是最大的風(fēng)險?！逼桨部萍贾悄苷J(rèn)知產(chǎn)品部總經(jīng)理宋晨指出，更大的風(fēng)險其實是來自于對獲取用戶相關(guān)信息的平臺的監(jiān)管。

所以，加強監(jiān)管刻不容緩。新京報評論文章指出，政策與監(jiān)管都有滯后性，企業(yè)有囿于競爭而急于開辟新戰(zhàn)場的壓力，也有基于在大數(shù)據(jù)時代快速收集數(shù)據(jù)的沖動，若單方面期望其能持保守立場和克制沖動恐過于樂觀。但無論是監(jiān)管層、媒體還是法律人，都有義務(wù)告知用戶，其為了短暫娛樂所交出的生物識別信息可能帶來的巨大災(zāi)難。

同時，工人日報評論文章還指出，在立法及時跟進(jìn)、監(jiān)管雷厲風(fēng)行之外，企業(yè)也應(yīng)珍惜聲譽，遠(yuǎn)離霸王條款，個人用戶則需時刻繃緊個人信息保護(hù)的神經(jīng)。無論如何，個人信息安全不能成為誰想捏就捏的“軟柿子”。

北京商報評論文章也指出，應(yīng)對個人隱私泄露，不僅依靠消費者加強自身保護(hù)，更需建立完善個人信息收集的基本規(guī)范、相應(yīng)的行政監(jiān)管體制、司法救濟(jì)途徑。否則，不給AI劃線，不為隱私“上鎖”，有一天洪水勐獸突如其來，才發(fā)現(xiàn)你我束手無策。