這是什么神奇算法，“看”一眼就能知道對方是不是犯罪嫌疑人？

“刷臉解鎖手機(jī)”“刷臉購物”“刷臉驗證身份辦理銀行卡”……我們與生俱來的“臉”除了與顏值形象掛鉤，也在逐漸演變成我們身份的唯一識別標(biāo)識，逐漸深入我們的日常生活，為我們提供了極大的便利。

但當(dāng)人臉識別遇上現(xiàn)實，也不乏跪地躺槍，慘不忍睹的時候，比如今天我們的主角——來自亞馬遜的Rekognition。

Rekognition是亞馬遜研發(fā)的一款圖像分析軟件。亞馬遜已經(jīng)將這項技術(shù)銷售給了美國的幾個執(zhí)法機(jī)構(gòu)，比如說華盛頓縣治安官辦公室，旨在利用軟件的面部識別算法實時自動識別和跟蹤犯罪嫌疑人；亞馬遜也在爭取將能把這項技術(shù)賣給美國政府。

人臉識別并不是Rekognition的唯一功能丨Rokognition官網(wǎng)

這是什么神奇算法，“看”一眼就能知道對方是不是犯罪嫌疑人？

Rekognition需要被辨識的臉部照片作為基礎(chǔ)數(shù)據(jù)庫，目前基礎(chǔ)數(shù)據(jù)庫的建設(shè)主要基于亞馬遜的云服務(wù)AWS。當(dāng)攝像頭捕捉到現(xiàn)實中的人臉或用戶上傳對比照片后，Rekognition會自動將它們與基礎(chǔ)數(shù)據(jù)庫中的照片進(jìn)行對比；如果相似度足夠高，那么Rekognition就認(rèn)為這個人屬于基礎(chǔ)數(shù)據(jù)庫中的某個人。在軟件中，將這個相似度稱作“可信度閾值”，它的默認(rèn)值為80%。

人臉識別技術(shù) | James Martin/CNET

利用先進(jìn)科技，讓犯罪嫌疑人無處逃遁，想象一下就覺得似乎世界變得更美好了一點(diǎn)。然而，這種想法也遭到了不少人的反對，比如一直和Rekognition唱反調(diào)的美國公民自由聯(lián)盟（American Civil Liberties Union，ACLU，一個非盈利組織）。

8月14日，ACLU對它進(jìn)行了一項測試，Rekognition的表現(xiàn)卻令人大跌眼鏡：基于25000人的犯罪嫌疑人基礎(chǔ)數(shù)據(jù)庫，ACLU上傳了120張立法者的照片讓Rekognition一試身手，結(jié)果是，Rekognition用誤判26名立法者為犯罪嫌疑人的結(jié)果，證明了自己身手不佳。

實際上，這并不是Rekognition第一次“犯錯誤”，早在2018年，它就已經(jīng)錯誤地將28名國會議員識別為罪犯，萬萬沒想到，經(jīng)過1年的努力，它義無反顧地在將政府官員識別為罪犯的路上越走越遠(yuǎn)……

2018年Rekognition識別錯誤的28名國會議員 | ACLU官方Twitter

不得不說，這軟件給我們提供了一份充滿了戲劇性的“答卷”，然而作為承擔(dān)身份識別重要角色的軟件，這樣的結(jié)果無法不讓人對其嚴(yán)謹(jǐn)性和嚴(yán)肅性產(chǎn)生質(zhì)疑。

舊金山議員丁右立（Phil Ting）提議禁止使用這個軟件系統(tǒng)，并且表示這樣的錯誤識別結(jié)果將會給人們帶來巨大的負(fù)面影響，當(dāng)你被人認(rèn)為是一個罪犯， “可能會影響你找工作的能力、影響你買房租房的能力?！边@遠(yuǎn)不是一項技術(shù)犯了一個可笑的錯誤那么簡單，而是確確實實會有活生生的人們，受到這一錯誤帶來的實際影響。

那么，面對再一次的重大失誤，作為軟件開發(fā)商亞馬遜對此作何解釋？福布斯這樣報道：“當(dāng)使用面部識別來判斷調(diào)查中的嫌疑人時，執(zhí)法部門應(yīng)該使用推薦的99%的可信度閾值，并且僅將這些預(yù)測作為調(diào)查的一個要素（而非唯一決定因素）”。

ACLU表示這種解釋無法讓人信服。在測試中使用的80%的可信度閾值，實際上是軟件提供的默認(rèn)設(shè)置。既然99%的可信度閾值才是推薦使用值，為什么亞馬遜不將默認(rèn)可信度閾值設(shè)置為99%呢？然而對此，亞馬遜并未給出答復(fù)。

ACLU成員Matt Cagle做出回應(yīng)丨ACLU

實際上，這款軟件在整個美國進(jìn)行了推廣和試用，除了在識別準(zhǔn)確度方面存在問題，在各地的試用中還暴露出了其他一系列問題。比如，由于準(zhǔn)確度引發(fā)的，在有色人種聚居地識別錯誤可能造成種族歧視問題，引發(fā)警民沖突；在佛羅里達(dá)州奧蘭多試用期間，還出現(xiàn)網(wǎng)絡(luò)帶寬問題導(dǎo)致軟件無法良好運(yùn)行等問題，很顯然，Rekognition并沒有為真正能夠推廣和應(yīng)用做好準(zhǔn)備。另外，人臉識別技術(shù)的濫用，是不是也在一定程度上侵犯了公民的隱私和自由？

未來，Rekognition將會走向何方，目前我們無法做出判斷。

作為AWS的重要應(yīng)用軟件，除了賣給政府部門，這款支持包括人臉識別在內(nèi)的圖像分析技術(shù)也會通過AWS出售給相關(guān)大數(shù)據(jù)公司，亞馬遜7月27日發(fā)布的2018年財報中顯示，云服務(wù)第二季度凈銷售額為61.05億美元，比上年同期的41.00億美元增長49%；運(yùn)營利潤為16.42億美元，上年同期為9.16億美元。

面臨問題重重、形勢嚴(yán)峻的推廣應(yīng)用現(xiàn)實，以及巨大利潤的誘惑，亞馬遜最終將會如何處理此事呢？

科技進(jìn)步、人工智能給我們的生活帶來的方便和快捷不言而喻，但是科技作為工具，能否使用的好最終還是掌握在人的手里，說白了，AI只是個孩子，要學(xué)的還很多，而關(guān)鍵在于我們?nèi)祟悺凹议L”怎么去教育和引導(dǎo)。