無處不在的面部識別是對隱私的嚴重威脅。公司共享我們共享的照片以訓練商業(yè)銷售算法的想法令人擔憂。任何人都可以購買這些工具,給陌生人拍照,然后在幾秒鐘內(nèi)找出他們是誰。但是研究人員提出了一種聰明的方法來幫助解決這個問題。
該解決方案是一個名為Fawkes的工具,由芝加哥大學沙實驗室的科學家創(chuàng)建。Fawkes以V的仇殺者為Vendetta漫畫書和電影中的革命者們戴過的Guy Fawkes面具命名,使用人工智能巧妙地,幾乎不可察覺地更改您的照片,以欺騙面部識別系統(tǒng)。
該軟件的工作方式有點復雜。通過Fawkes運行照片不會使您完全看不到面部識別。取而代之的是,該軟件對您的照片進行了細微的更改,以便以后掃描這些圖像的任何算法都將您視為完全不同的人。本質(zhì)上,在照片上運行Fawkes就像在自拍照中添加不可見的蒙版一樣。
科學家稱此過程為“偽裝”,其目的是破壞面部識別系統(tǒng)所需功能的資源:從社交媒體刮取的面部數(shù)據(jù)庫。例如,面部識別公司Clearview AI聲稱已經(jīng)從Facebook,YouTube和Venmo等網(wǎng)站收集了約30億張面部圖像,用于識別陌生人。但是,研究人員說,如果您在線共享的照片是通過??怂古臄z的,那么算法知道的面孔實際上并不是您自己的。
根據(jù)來自芝加哥大學的團隊的調(diào)查,與中國科技巨頭Megvii的Microsoft(Azure Face),Amazon(Rekognition)和Face ++的最先進的面部識別服務相比,F(xiàn)awkes取得了100%的成功。
“我們都是用像木馬本質(zhì)的隱形照片,腐敗未經(jīng)授權的模式來學習做錯了什么讓事情,你看起來像你,而不是別人,”奔著,在大學的計算機科學教授芝加哥的一位曾幫助創(chuàng)建Fawkes軟件的作者告訴The Verge。“一旦腐敗發(fā)生,無論您身在何處或被人看見,您都將得到持續(xù)的保護?!?/p>
這項工作的小組成員Shawn Shan,Emily Wenger,張佳云,李慧英,鄭海濤和Ben Y. Zhao今年年初發(fā)表了一篇關于該算法的論文。但是上個月末,他們還發(fā)布了Fawkes,它是供Windows和Mac使用的免費軟件,任何人都可以下載和使用。迄今為止,他們說它已被下載超過100,000次。
在我們自己的測試中,我們發(fā)現(xiàn)Fawkes的設計稀疏但易于應用。處理每張圖像需要花費幾分鐘,并且所做的更改幾乎是無法察覺的。本周早些時候,《紐約時報》在??怂股习l(fā)表了一篇報道,其中指出,這種隱蔽效果非常明顯,通常會對圖像進行性別更改,例如給女性留胡須。但是Fawkes小組表示,更新后的算法更加微妙,The Verge自己的測試也對此表示贊同
但是??怂故潜Wo隱私的萬靈藥嗎?值得懷疑。首先,存在采用的問題。如果您閱讀此文章并決定使用Fawkes偽裝以后上傳到社交媒體的任何照片,那么您肯定會是少數(shù)。面部識別令人擔憂,因為這是全社會的趨勢,因此解決方案也必須是全社會的。如果只有精通技術的人屏蔽他們的自拍照,那只會造成不平等和歧視。
其次,許多出售面部識別算法的公司很久以前就創(chuàng)建了他們的面部數(shù)據(jù)庫,因此您無法追溯獲取這些信息。Clearview的首席執(zhí)行官Hoan Ton-That對《紐約時報》也是如此。Ton-That說:“互聯(lián)網(wǎng)上有數(shù)十億張未經(jīng)修改的照片,它們都使用不同的域名?!薄皩嶋H上,完善Fawkes之類的技術并大規(guī)模部署它幾乎為時已晚?!?/p>
但是,自然而然,??怂贡澈蟮膱F隊不同意這種評估。他們指出,盡管像Clearview這樣的公司聲稱擁有數(shù)十億張照片,但是當您認為它們應該識別數(shù)億用戶時,這并沒有多大意義?!皩τ谠S多人來說,Clearview的機會只有很少的公開照片,”趙說。他說,如果人們將來發(fā)布更多隱藏的照片,那么隱藏的圖像的數(shù)量遲早會超過未隱藏的圖像。
-
算法
+關注
關注
23文章
4580瀏覽量
92363 -
人工智能
+關注
關注
1789文章
46401瀏覽量
236624 -
面部識別
+關注
關注
1文章
375瀏覽量
26601
發(fā)布評論請先 登錄
相關推薦
評論