“抗人臉識(shí)別”的 AI 讓準(zhǔn)確率從100%狂降只剩0.5%

摘要: 人臉識(shí)別的各項(xiàng)應(yīng)用推陳出新，隱私疑慮卻未曾消除?，F(xiàn)在有學(xué)者研發(fā)“抗人臉識(shí)別”的 AI，可以讓人臉識(shí)別系統(tǒng)的準(zhǔn)確率，從 100% 直線下降到只剩 0.5%！這項(xiàng)技術(shù)可望應(yīng)用成為“隱私過(guò)濾器”，如果你也是一個(gè)重視網(wǎng)絡(luò)隱 ...

人臉識(shí)別的各項(xiàng)應(yīng)用推陳出新，隱私疑慮卻未曾消除?，F(xiàn)在有學(xué)者研發(fā)“抗人臉識(shí)別”的 AI，可以讓人臉識(shí)別系統(tǒng)的準(zhǔn)確率，從 100% 直線下降到只剩 0.5%！

這項(xiàng)技術(shù)可望應(yīng)用成為“隱私過(guò)濾器”，如果你也是一個(gè)重視網(wǎng)絡(luò)隱私的人，這應(yīng)該會(huì)是你未來(lái)的必載神器。

當(dāng)我們上傳照片、視頻至社群平臺(tái)時(shí)，算法也抓取我們的信息、位置、友人的數(shù)據(jù)，讓臉部識(shí)別系統(tǒng)對(duì)我們有更多的了解，并且不斷進(jìn)化。面對(duì)網(wǎng)絡(luò)隱私、數(shù)據(jù)的安全性問(wèn)題，多倫多大學(xué)成功創(chuàng)建了一種破壞臉部識(shí)別系統(tǒng)的算法。

“當(dāng)臉部識(shí)別技術(shù)越精準(zhǔn)時(shí)，個(gè)人隱私也成了大問(wèn)題。”“其中一個(gè)能有效打擊臉部識(shí)別方式，就是反臉部識(shí)別算法”負(fù)責(zé)該計(jì)劃的多倫多大學(xué)教授Parham Aarabi 如此表示。

該算法的特征在于使用了對(duì)抗訓(xùn)練（Adversarial training），是一種深度學(xué)習(xí)技術(shù)，讓兩個(gè)人工智能互相對(duì)抗。

團(tuán)隊(duì)設(shè)計(jì)了兩個(gè)神經(jīng)網(wǎng)絡(luò)，第一個(gè)用于“識(shí)別人臉”，第二個(gè)則是專門(mén)“唱反調(diào)”破壞前者的臉部識(shí)別任務(wù)。這兩個(gè)網(wǎng)絡(luò)不斷地互相爭(zhēng)斗、相互學(xué)習(xí)，創(chuàng)建了一場(chǎng)持續(xù)不斷的人工智能軍備競(jìng)賽。

結(jié)果是，唱反調(diào)AI 能夠知道敵手臉部識(shí)別AI，在找尋什么關(guān)鍵部位，并適時(shí)動(dòng)些人眼看不出來(lái)的小手腳 ，例如改變眼角，使其不太明顯，但卻能夠完全欺騙敵手，讓它無(wú)法識(shí)別。

團(tuán)隊(duì)于臉部數(shù)據(jù)庫(kù) 300-W（擁有 600 張包含多種族、照明條件、環(huán)境的臉部數(shù)據(jù)），測(cè)試了該系統(tǒng)。他們表示， 新算法可以將臉部識(shí)別準(zhǔn)確度 100%，毀到只剩 0.5%。

而該算法可以應(yīng)用在，類似 Instagram 過(guò)濾器的工具上。未來(lái)團(tuán)隊(duì)將希望通過(guò) App 或網(wǎng)站公開(kāi)提供隱私過(guò)濾器。