隱私問題爆發(fā)，多個城市開始“拒絕”人臉識別

作為身份認證的重要手段之一，人臉識別已經(jīng)成為智慧城市建設中的重要組成部分。

市場研究機構MarketsandMarkets發(fā)布一份全球人臉識別市場報告，預計2019年人臉識別市場規(guī)模將為32億美元，2024年將增長至79億美元，復合年增長率為16.6%。

然而從去年到現(xiàn)在，人臉識別技術和市場正在面臨一場“考驗”。

隱私問題爆發(fā)，多個城市開始“拒絕”人臉識別

這一次考驗的起源是谷歌與美國軍方的一次合作。

去年3月份，谷歌的一份內部郵件顯示他們正在為美國國防部AI項目“Maven”提供TensorFlow API，用于分析無人機拍攝的畫面。這一合作引發(fā)了外界對于谷歌的質疑，以及對該技術應用之后的擔憂。

這之后，隨著亞馬遜、微軟等相繼被曝出與政府之間也存在著“人臉識別”技術相關的項目合作，包括將人臉識別用于視頻監(jiān)控和警察穿戴的相機鏡頭等等，“人臉識別”技術一時間被推上了輿論的風口浪尖。

具體來看，他們普遍擔心軍事和工業(yè)結合體會被作為不正當殺人利器，以及這次合作背后可能引發(fā)的機器學習發(fā)展與道德問題。以美國公民自由聯(lián)盟為例，在他們看來，將人臉識別技術應用到前端視頻建龍攝像機上，可能會打破隱私及實用性之間的平衡。

在輿論的壓力下，此前宣稱“不作惡”的谷歌終止了與五角大樓的合作，亞馬遜和微軟則繼續(xù)爭奪政府訂單。而值得注意的是，發(fā)展至現(xiàn)在，這把火已經(jīng)從科技公司這一類個體蔓延至了一個城市。

今年5月中旬，美國舊金山城市監(jiān)管委員會投票通過“禁止使用人臉識別”的決定，成為美國第一個對這一技術說“不”的城市。時隔不到一個月，馬薩諸塞州的薩默維爾市也對人臉識別技術說“不”。

根據(jù)制定的新規(guī)，地方政府機構在使用人臉識別技術的時候將受到限制，或是被完全禁止，或是在公共場所受限，且任何購買任意一種新興監(jiān)控技術的計劃都必須得到市政官員的同意。與此同時，美國加州奧克蘭市等城市也正在考慮出臺與之類似的法律。

可以看到，在輿論的推動與引導下，越來越多的城市正在拒絕人臉識別這一項原本被極力看好的AI技術。而在這一技術被禁的背后，我們看到了另一個產(chǎn)業(yè)也大受影響。

人臉識別被禁，智慧城市建設大受影響

除了人臉識別的市場潛力，MarketsandMarkets的報告也指出，這一市場的主要驅動力包括：政府推行用戶和數(shù)據(jù)安全舉措的增加、越來越多移動設備的使用以及全球對健全欺詐檢測和預防系統(tǒng)需求的日益增長。

可以說，人臉識別市場規(guī)模能夠增長的如此之快，很大層面上得歸功于政府的推動。截至目前，出入境管理、刑偵安防、公務辦理等領域越來越多的用到了人臉識別技術，也取得了不錯的成果。以刑偵為例，較為知名的事件有警方利用人臉識別技術數(shù)次在張學友演唱會捕獲逃犯，最近的案例為警方通過“天眼”系統(tǒng)抓獲已經(jīng)外逃兩年的北大弒母案嫌犯吳謝宇……這樣的案例還有很多。

其中，“天眼”系統(tǒng)是我國基于人臉識別等專業(yè)技術開發(fā)出來的重大成果。通過應用人工智能、視頻圖像處理等多種技術，“天眼”系統(tǒng)能夠在第一時間對人臉信息進行捕捉和匹配，識別速度快且準確度高，已經(jīng)有二十多個省市的公安系統(tǒng)與之實現(xiàn)了對接。

而從更大視角來看，“天眼”系統(tǒng)是智慧城市建設中的一塊重要版圖，如果沒有“天眼”系統(tǒng)的存在，或是人臉識別技術被禁，以上場景只會存在于電影中，而智慧城市的建設也將不完整。

同時，“智慧城市”也是諸多大小科技公司競相追逐并瓜分的一塊蛋糕。

以國內為例，有著“CV四小龍”之稱的商湯、曠視、云從和依圖均有涉足“智慧城市”建設，且已經(jīng)有項目成功落地。與此同時，BAT、京東、平安科技等也在“智慧城市”這一塊有所部署，競爭情景也時有發(fā)生。而透視他們的“智慧城市”解決方案，圖像識別或分析這一功能幾乎已經(jīng)是標配。一旦人臉識別技術被禁，尤其是政府層面的，他們受到的損失也將不可估量。

智慧城市建設勢在必行，向人臉識別發(fā)出“靈魂拷問”

“智慧城市”這一概念已經(jīng)存在許多年，但在近幾年隨著AI、大數(shù)據(jù)、物聯(lián)網(wǎng)等技術的發(fā)展，基于“智慧城市”的基礎，“新型智慧城市”的概念也應運而生。

2015年底，中央網(wǎng)信辦、國家互聯(lián)網(wǎng)信息辦第一次提出“新型智慧城市”概念。幾個月之后，中共中央辦公廳、國務院辦公廳印發(fā)了《國家“十三五”規(guī)劃綱要》，明確提出要“建設一批新型示范性智慧城市”。

針對“新型智慧城市”這一概念，國家工業(yè)信息安全研究中心副主任李新社曾指出，未來智慧城市建設過程中，“圍繞城市大數(shù)據(jù)的規(guī)劃、采集、流通、分析、反饋、修訂等全生命周期，用信息流優(yōu)化來驅動個領域系統(tǒng)建設完善”將成為主要內容，“如何建設信息安全綜合監(jiān)控平臺，如何強化信息安全風險評估體系”將成為下一步建設的戰(zhàn)略重點。

不僅僅是國內，智慧城市建設已經(jīng)成為了全球國家正在進行或將要進行的一個重要項目，這已經(jīng)是勢在必行。

“人臉識別是否要被禁止”不會是智慧城市建設過程中面臨的唯一問題。但透過這一問題，一些關鍵的、通用的問題已經(jīng)被暴露。

· 我的人臉數(shù)據(jù)究竟屬于誰？

人臉識別是一種1:1或1：N的技術手段，在具體應用場景中，它可以根據(jù)已有人臉數(shù)據(jù)識別并判定某一特殊對象是否與數(shù)據(jù)庫中的是同一人，也可以依據(jù)某一個人臉數(shù)據(jù)，從成千上萬人中找出對應的人。這之中，數(shù)據(jù)庫中保存的數(shù)據(jù)將成為關鍵一環(huán)，也是引發(fā)人們擔憂并發(fā)出質疑的地方——這些數(shù)據(jù)究竟屬于誰？誰能用我的數(shù)據(jù)？

近年來，因為研發(fā)需要以及人臉識別應用的逐漸普及，包括政府機構、銀行、小區(qū)物業(yè)、人臉識別研發(fā)公司都需要用到數(shù)據(jù)庫。

以銀行為例，當人們辦理某些業(yè)務時，人臉識別已經(jīng)成為了一種常態(tài)，柜臺工作人員會在過程中要求人們將頭抬起，并將面部朝向攝像頭以進行識別，而在銀行APP 中，要求卡主進行人臉識別認證也已經(jīng)成為一種日常操作。既然要識別，那就意味著有對比數(shù)據(jù)，這些數(shù)據(jù)被誰拿走了？是銀行？是公安？還是提供人臉識別技術的公司？

又比如人們上傳至網(wǎng)絡的各類照片，基于這些照片的人臉數(shù)據(jù)被誰拿走了？多數(shù)情況下會保存在各個平臺的服務器中以作他用。譬如Facebook，當它在一張照片中識別某一特定人之后，它會向這一用戶的賬號發(fā)送通知，后者可以選擇在圖片上貼上標簽、給發(fā)布圖片的用戶發(fā)短信，亦或是通知Facebook平臺這張臉不是自己等等。這類服務是將人臉識別應用放在了明處，而人們更為擔心那些不知不覺中發(fā)生的人臉識別應用。

· 我的人臉數(shù)據(jù)被用在了哪里？

毫不夸張的說，在如今這個到處都能夠生產(chǎn)數(shù)據(jù)的地方，人們有的時候處于“裸奔”狀態(tài)。這些數(shù)據(jù)在不知不覺間被采集，然后被運用在人們或知道、或不知道的場景中。

以微軟為例，當美國關于“人臉識別”的輿論愈加發(fā)酵的時候，這家公司悄默默的刪除了它們于2016年發(fā)布的人臉識別數(shù)據(jù)庫MS-Celeb-1M，這是全球最大的“公開”人臉識別數(shù)據(jù)庫，其中涉及百萬名人的千萬張照片，可以供研究者開發(fā)人臉識別技術。

更為“可怕”的是，MS-Celeb-1M數(shù)據(jù)庫中的每一個人物對應一個entity，綁定了知識庫，后者提供了每個人的職業(yè)、性別等豐富信息，目的是為了幫助人臉識別系統(tǒng)不僅僅做到識別，更能做到認知。

又比如亞馬遜的人臉識別軟件Rekognition，它能夠在幾秒鐘內將收集到的信息和數(shù)據(jù)庫里成千上萬個圖像進行比較。這一技術已經(jīng)被執(zhí)法機關用于尋找失蹤人口和識別恐怖襲擊中的嫌疑人。但從美國公民自由聯(lián)盟對亞馬遜的致信，以及亞馬遜云共和民眾的反應來看，雖然這是智慧城市建設中的一部分，且這一技術帶來的利好也被部分大眾所認可，但他們似乎并不希望亞馬遜將這一技術的API接口開放給政府，也因為擔心自己時時處于監(jiān)控狀態(tài)，而不希望自己的數(shù)據(jù)被用于這些地方。

· 人臉識別技術可靠嗎？

不僅僅是數(shù)據(jù)的問題，“智慧城市”建設還面臨來自公眾對于技術可靠性的質疑。

譬如在美國，人臉識別技術被指責有“種族歧視”——黑人女性的錯誤率高達21%-35%，而針對白人男性的錯誤率則低于1%。另外，亞馬遜的Rekognition也曾將28名美國國會議員識別成罪犯，而就在本周，這一技術又錯將26名州立法委員認定為罪犯。這種現(xiàn)象背后的技術可靠性著實令人擔憂。

不僅僅是國外，國內這種嘀笑皆非的場景也時有發(fā)生。比如因為“闖紅燈”而被公示在電子曝光屏的董明珠，事實是所謂的“董明珠”只是公交車上的一個印刷廣告；又比如一名坐在公交車內靠窗位置的普通民眾，莫名其妙的被人臉識別抓拍系統(tǒng)定義為闖紅燈……

其中，諸如人臉識別闖紅燈抓拍系統(tǒng)等產(chǎn)品已經(jīng)是人臉識別技術的普遍落地應用之一，當行人闖紅燈被拍之后，姓名、模糊處理的身份證信息等一般也會出現(xiàn)在電子屏上。但是這種“誤抓”現(xiàn)象的出現(xiàn)體現(xiàn)了智慧城市建設過程中的不完善。同時，這種錯誤也會讓“貢獻”自身數(shù)據(jù)的民眾在內心產(chǎn)生擔憂和抵觸。

人臉數(shù)據(jù)不知不覺間被采集和運用、數(shù)據(jù)庫面臨泄露風險、人臉識別技術可靠度存疑……不可否認，“智慧城市”建設是智能時代下的必然，而人臉識別技術作為身份認證重要手段之一，也是建設過程中的重要版圖之一，但當數(shù)據(jù)沒有安全保障、落地識別也沒有準確度保障的時候，民眾多會產(chǎn)生“抵觸”情緒，而“智慧城市”建設或將也會受阻。