人工智能自誕生以來(lái),在人們的贊美與質(zhì)疑中不斷發(fā)展著。許多負(fù)面的聲音也基本來(lái)自于不熟悉人工智能技術(shù)如何工作的人。盡管批評(píng)人臉識(shí)別可能很吸引人,但我們需要學(xué)習(xí)這項(xiàng)技術(shù)到底是如何工作的,將事實(shí)與虛構(gòu)分開,并合理通過(guò)設(shè)定使用指南等常識(shí)規(guī)則,來(lái)實(shí)現(xiàn)它的好處。以下是關(guān)于人臉識(shí)別和隱私的五個(gè)常見誤解,它們有助于澄清這一強(qiáng)大的新興技術(shù)。
誤解1:面部識(shí)別可以跟蹤和監(jiān)視任何人。
不對(duì)。
與人們普遍認(rèn)為這項(xiàng)技術(shù)的使用方式相反,面部識(shí)別系統(tǒng)無(wú)法識(shí)別出系統(tǒng)中(沒(méi)有記錄)不在搜尋范圍內(nèi)的普通人。如果你沒(méi)有選擇加入面部識(shí)別系統(tǒng),或者沒(méi)有被列入搜查或觀察名單,你就不會(huì)被該系統(tǒng)識(shí)別。
人臉識(shí)別最常見的用例之一是監(jiān)視“特定相關(guān)人員”。根據(jù)生物特征安全條例,只有那些被認(rèn)為具有威脅性的個(gè)人可以被添加到系統(tǒng)中,協(xié)助安防監(jiān)控團(tuán)隊(duì)保護(hù)人民和空間環(huán)境。安保人員會(huì)尋找什么樣的人呢?也許是沒(méi)有監(jiān)護(hù)權(quán)虐待孩子的家長(zhǎng)出現(xiàn)在孩子的學(xué)校,一個(gè)商店的扒手慣犯,或者是一名因不滿前公司而對(duì)工作地點(diǎn)有嚴(yán)重威脅的離職員工。
這樣可以通過(guò)在特定位置對(duì)個(gè)別群體的即時(shí)性識(shí)別和關(guān)注來(lái)改善機(jī)場(chǎng)、學(xué)校和其他地點(diǎn)的安全問(wèn)題。在這些場(chǎng)景中,面部識(shí)別系統(tǒng)能“看到”的人非常少——所有不匹配的人都會(huì)被忽略,默認(rèn)情況下,如果人臉數(shù)據(jù)與監(jiān)控列表中的人臉不匹配,人臉數(shù)據(jù)可能會(huì)在幾秒鐘后自動(dòng)刪除。使用面部識(shí)別來(lái)識(shí)別已知的威脅比僅僅依靠入口的保安人員7*24小時(shí)的手動(dòng)監(jiān)控有效和準(zhǔn)確得多。面部識(shí)別系統(tǒng)比人類更善于記住“感興趣的人”的長(zhǎng)相,并在他們一進(jìn)到某些區(qū)域就能認(rèn)出他們。
另一個(gè)人臉識(shí)別的常用例是安全區(qū)域的訪問(wèn)控制。在這種情況下,人們可以“選擇進(jìn)入”,這樣他們就可以使用他們的臉來(lái)進(jìn)入建筑物或某些限制區(qū)域。生物識(shí)別技術(shù)可以取代或補(bǔ)充目前用于保護(hù)周邊環(huán)境和控制建筑進(jìn)出的方法。例如,有人可能會(huì)借或偷出入門禁卡,自由通過(guò)某些入口。擁有門禁卡的任何人都可以隨意進(jìn)入,但如果使用面部識(shí)別,除非在門口的是身份信息符合的人,否則大門不會(huì)打開。
誤解2:如果你的“面部識(shí)別”數(shù)據(jù)被盜,黑客可以跟蹤你的一舉一動(dòng)。
不對(duì)。
人臉識(shí)別“簽名“數(shù)據(jù)實(shí)際上比其他標(biāo)識(shí)符更不易被攻擊。人臉識(shí)別系統(tǒng)將數(shù)字圖像轉(zhuǎn)化為基于人臉特征的數(shù)字表示。這就創(chuàng)建了一個(gè)獨(dú)特的”人臉簽名“,然后可以將其與數(shù)據(jù)庫(kù)中的一個(gè)身份關(guān)聯(lián)起來(lái),并與出現(xiàn)在攝像機(jī)中的人臉進(jìn)行比對(duì),以確定是否匹配。每個(gè)面部識(shí)別系統(tǒng)都有自己獨(dú)特的方式來(lái)存儲(chǔ)這些數(shù)據(jù)。
關(guān)于人臉識(shí)別和隱私的更大的問(wèn)題是,每個(gè)人的臉已經(jīng)在社交軟件公共頁(yè)面和個(gè)人資料上了。如果一個(gè)人想跟蹤別人,使用社交媒體比使用面部識(shí)別系統(tǒng)要容易得多。
從技術(shù)上講,一旦面部圖像公開,面部識(shí)別系統(tǒng)就可以根據(jù)該圖像創(chuàng)建面部簽名。這是為什么需要強(qiáng)有力的生物特征隱私立法的另一個(gè)原因,包括有關(guān)怎樣以及何時(shí)可以將某人添加到面部識(shí)別系統(tǒng)的嚴(yán)格規(guī)定,這樣有助于防止技術(shù)被濫用。
誤解3:面部識(shí)別應(yīng)該被禁止,因?yàn)樗鼛в蟹N族偏見。
不對(duì)。
其實(shí),任何新興技術(shù)的提供者和運(yùn)營(yíng)者都必須遵守高標(biāo)準(zhǔn),確保技術(shù)的開發(fā)和使用符合人權(quán)和消費(fèi)者權(quán)利。人臉識(shí)別是一種強(qiáng)大的工具,但還不能代替如人類監(jiān)控一樣,根據(jù)確鑿證據(jù)做出深思熟慮、可操作性的決定。其工作主要是實(shí)時(shí)提供數(shù)據(jù),幫助安全人員發(fā)現(xiàn)潛在問(wèn)題或調(diào)查事件后的問(wèn)題。
不可否認(rèn),一些面部識(shí)別算法目前確實(shí)顯示出令人不可接受的種族偏見問(wèn)題,然而,這項(xiàng)技術(shù)很有價(jià)值,不應(yīng)該完全禁止。那么為什么還要繼續(xù)提倡使用面部識(shí)別呢,即使檢測(cè)結(jié)果并不總是那么完美?
1.一些面部識(shí)別系統(tǒng)比其他系統(tǒng)表現(xiàn)出更低的偏差水平:美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所最近的一項(xiàng)研究發(fā)現(xiàn),在許多經(jīng)過(guò)測(cè)試的算法中,亞裔和非裔美國(guó)人的面孔的誤報(bào)匹配率比白人面孔高10到100倍。這種程度的偏差顯然是不能接受的,但研究也發(fā)現(xiàn)了一些“重要的例外”算法。這些算法在不同種族群體中得到了相當(dāng)一致的結(jié)果,精度方差低至0.19%。這表明面部識(shí)別系統(tǒng)本身并沒(méi)有很高的偏倚率,還可以改進(jìn)。面部識(shí)別供應(yīng)商應(yīng)該負(fù)責(zé)減少算法中的偏見,而不是完全禁止這項(xiàng)技術(shù)。一種類似于食品營(yíng)養(yǎng)標(biāo)簽的標(biāo)簽系統(tǒng)可以提供透明度。而采購(gòu)人員也不應(yīng)該把那些不符合跨種族、年齡和性別最低一致性要求的系統(tǒng)納入其采購(gòu)考慮范圍。
2.使用人臉識(shí)別可以減少現(xiàn)實(shí)世界中的偏見:人臉識(shí)別的核心功能,即根據(jù)已知人臉的知識(shí)庫(kù)來(lái)識(shí)別,這是人類一直在做的事情,比如犯罪現(xiàn)場(chǎng)的目擊者、根據(jù)監(jiān)控圖像尋找嫌疑人的警官、或者監(jiān)視商店扒手的店員。每一種技術(shù)都有其固有的一些偏見,這些偏見來(lái)自于過(guò)去的互動(dòng)、媒體,并被跨種族效應(yīng)放大。所有人都有固有偏見,在面部識(shí)別算法中發(fā)現(xiàn)的偏見可能源于開發(fā)它們的人類的偏見。雖然沒(méi)有辦法完全消除人類或算法中的偏見,但面部識(shí)別技術(shù)在比較人臉圖像時(shí)找到正確匹配方面已經(jīng)和人類一樣優(yōu)秀,甚至更好。它也能以指數(shù)級(jí)的速度做到這一點(diǎn)。
3.面部識(shí)別算法變得越來(lái)越好:訓(xùn)練人工智能模型來(lái)減少偏見和消除跨種族影響,要比在每個(gè)保安、執(zhí)法人員和犯罪現(xiàn)場(chǎng)目擊者身上消除偏見容易得多。自從面部識(shí)別技術(shù)首次被開發(fā)出來(lái)以來(lái),它已經(jīng)取得了長(zhǎng)足的進(jìn)步,而且這項(xiàng)技術(shù)在膚色和性別的準(zhǔn)確性方面也在不斷提高。隨著技術(shù)的改進(jìn)以及廣泛應(yīng)用,所有用戶的誤匹配率在不斷下降,偏差閾值可能會(huì)隨著時(shí)間的推移而變化。完全禁止人臉識(shí)別將會(huì)阻止一項(xiàng)技術(shù)的持續(xù)改進(jìn)。人們通過(guò)對(duì)人臉識(shí)別如何工作進(jìn)行培訓(xùn),了解它的局限性,使用正確性高、偏差低的系統(tǒng),可以極大地減少安全、執(zhí)法和刑事司法場(chǎng)景案例中的偏差問(wèn)題。
誤解4:所有的面部識(shí)別系統(tǒng)都是一樣的。
不對(duì)。
用于識(shí)別和匹配人臉的算法可能會(huì)根據(jù)開發(fā)方式、訓(xùn)練和測(cè)試人臉的數(shù)據(jù)而有很大不同。人類仍然在不斷建立和訓(xùn)練這些模型,因此,如果不加以解釋,人類的偏見就會(huì)悄悄出現(xiàn)。開發(fā)人員在構(gòu)建算法時(shí)是否考慮了種族和性別偏見?他們是否有適當(dāng)?shù)牟煌挲g、性別、種族和膚色的面部數(shù)據(jù)集?還是在訓(xùn)練模型識(shí)別人類時(shí),他們的模型主要為某一種或幾種面孔?這些因素直接影響人臉識(shí)別系統(tǒng)的性能和準(zhǔn)確性。
除了算法的執(zhí)行方式,系統(tǒng)處理敏感數(shù)據(jù)的方式也各不相同。數(shù)據(jù)是托管在本地還是云端?誰(shuí)擁有并能夠訪問(wèn)這些數(shù)據(jù)??jī)H僅是客戶還是技術(shù)供應(yīng)商?數(shù)據(jù)的任何部分都可以賣給第三方嗎?面部識(shí)別系統(tǒng)如何保護(hù)與該系統(tǒng)交互的個(gè)人權(quán)利和隱私?這些可能是贏得民權(quán)組織和對(duì)人臉識(shí)別持懷疑態(tài)度的消費(fèi)者并讓他們接受的一個(gè)決定性因素。確保隱私的方法應(yīng)該通過(guò)設(shè)計(jì)并構(gòu)建到面部識(shí)別系統(tǒng)中,這是另一個(gè)可以通過(guò)立法來(lái)調(diào)節(jié)生物識(shí)別技術(shù)的領(lǐng)域。
并不是所有的面部識(shí)別系統(tǒng)都是一樣的。準(zhǔn)確性和偏差結(jié)果差異很大,還有一些供應(yīng)商將數(shù)據(jù)賣給第三方以獲取利潤(rùn)。良好的生物識(shí)別技術(shù)提供商會(huì)推薦使用策略,構(gòu)建更準(zhǔn)確的算法和低偏差,遵循隱私原則,并提供培訓(xùn),指導(dǎo)終端用戶負(fù)責(zé)任的對(duì)數(shù)據(jù)捕獲、保留和透明化數(shù)據(jù)收集文檔相關(guān)條例。
誤解5:僅僅通過(guò)面部識(shí)別結(jié)果,就可能被誤判為罪犯。
不對(duì)。
雖然人臉識(shí)別可能是執(zhí)法環(huán)節(jié)中的一個(gè)有價(jià)值的工具,但它的運(yùn)作是離不開人類監(jiān)督的。這種誤解認(rèn)為,面部識(shí)別系統(tǒng)在刑事調(diào)查中擁有“最后的決定權(quán)”。在執(zhí)法環(huán)境中,人臉識(shí)別用在為訓(xùn)練有素的分析人員提供基于相似度評(píng)分高的潛在匹配選項(xiàng)。人類通過(guò)這些數(shù)據(jù)以及獨(dú)立的證據(jù)來(lái)做出最終決定。
在使用人臉識(shí)別之前的時(shí)代,警察必須手動(dòng)查看數(shù)犯罪現(xiàn)場(chǎng)的照片、錄像,繁重的工作量使他們疲憊不堪、壓力過(guò)大,或者就只能用照片查看一些區(qū)域。事實(shí)上,人臉識(shí)別并沒(méi)有做任何本質(zhì)上的創(chuàng)新,它只是增強(qiáng)了現(xiàn)有調(diào)查過(guò)程的操作方法,提供了以前不可能達(dá)到的效率水平。這使得安全部門能夠調(diào)查以前無(wú)法調(diào)查的案件,或者調(diào)查原來(lái)嚴(yán)重程度較低而無(wú)法分配到調(diào)查需資源的案件。通過(guò)快速識(shí)別潛在的犯罪嫌疑人,面部識(shí)別可以受害者帶來(lái)好處、賠償和快速結(jié)案。
目前重要的是要教育公眾、民權(quán)人士和立法者,讓他們了解面部識(shí)別系統(tǒng)是如何工作的,以及怎樣將這項(xiàng)技術(shù)好的方面得以善用。人臉識(shí)別可以找到失蹤兒童,可以用來(lái)加快醫(yī)院的檢查速度,增強(qiáng)機(jī)場(chǎng)安全性,提供無(wú)觸控式的訪問(wèn)控制。人臉識(shí)別并不是也不是與生俱來(lái)的好或不好,任何技術(shù)也都有被濫用的可能性。但是通過(guò)合理的立法、負(fù)責(zé)任的系統(tǒng)開發(fā)和部署,考慮隱私,我們就可以最優(yōu)化實(shí)現(xiàn)人臉識(shí)別帶來(lái)的好處。
評(píng)論
查看更多