AI“復(fù)活”生意與詐騙手段

3月10日?qǐng)?bào)道，據(jù)《法治日?qǐng)?bào)》最近報(bào)道，網(wǎng)絡(luò)電商平臺(tái)涌現(xiàn)出大量AI“復(fù)活”業(yè)務(wù)的商戶，價(jià)格從低至幾塊錢至上千元不等。伴隨著近年來AI換聲、AI換臉等詐騙手法不斷升級(jí)，威脅著消費(fèi)者感情和財(cái)產(chǎn)安全。

受訪專家表示，AI“復(fù)活”技術(shù)提供者在提供服務(wù)前應(yīng)該明確要求用戶提供相關(guān)證據(jù)，并加強(qiáng)技術(shù)防范措施，防止產(chǎn)品侵害他人權(quán)利或被用于欺詐活動(dòng)。同時(shí)，政府部門需強(qiáng)化對(duì)該行業(yè)的監(jiān)管，推動(dòng)制定統(tǒng)一行業(yè)規(guī)范，確保科技創(chuàng)新與維護(hù)人類尊嚴(yán)相兼容。

據(jù)悉，多家媒體曾報(bào)道過一名網(wǎng)友通過AI換臉技術(shù)恢復(fù)其已逝去的父親形象的事件。這段視頻中，男子剃掉胡須，借鑒AI換臉技術(shù)制作視頻，并附與其父聲音向祖母報(bào)平安。此外，音樂人包小柏為紀(jì)念去世女兒，亦采用相似方法，利用AI技術(shù)制作“虛擬女兒”，成功再現(xiàn)她的嗓音。

據(jù)包小柏在采訪中所述，他于2021年失去年僅22歲的女兒。自那以后，他選擇攻讀博士學(xué)位，研究AI技術(shù)，希望借助該技術(shù)使女兒在數(shù)字空間得以“復(fù)活”。盡管由于他女兒生前只留下三段與母親視頻通話中的英文對(duì)話而面臨巨大挑戰(zhàn)，但經(jīng)過長(zhǎng)達(dá)10個(gè)月的努力，他最終完成了兩個(gè)小時(shí)的聲紋制作。

然而值得注意的是，并非每位民眾都將此項(xiàng)技術(shù)應(yīng)用于懷念親人。例如，2023年全美老年人因電信詐騙共損失16億美元（相當(dāng)于約115.2億元人民幣），而這些詐騙案多涉及假冒熟人聲音及其他AI偽造的手法。