2019年AI定義：面部識(shí)別，深度偽造，隱私和自動(dòng)化

隨著一年的臨近，回顧一下前幾個(gè)月以了解未來(lái)的發(fā)展將是很有啟發(fā)性的。歷史本質(zhì)上是周期性的，在AI領(lǐng)域也是如此?；叵胍幌聜鞑?a target="_blank">算法，一種在機(jī)器學(xué)習(xí)系統(tǒng)的訓(xùn)練中廣泛使用的算法，早在1980年就作為一種理論出現(xiàn)了，但是直到2010年代它才回來(lái)，這在一定程度上要?dú)w功于廉價(jià)，功能強(qiáng)大的基于圖形卡的機(jī)器。

今年，人工智能和機(jī)器學(xué)習(xí)中的四個(gè)關(guān)鍵問(wèn)題浮出水面：面部識(shí)別； 學(xué)術(shù)界的虛假和自我審查；隱私； 和自動(dòng)化。展望2020年，下面回顧一下定義2019年行業(yè)的一些問(wèn)題。

面部識(shí)別

面部識(shí)別技術(shù)在今年的新聞中發(fā)現(xiàn)自己可能比其他任何AI應(yīng)用程序都多。

1月初，一個(gè)麻省理工學(xué)院的科學(xué)家團(tuán)隊(duì)聲稱(chēng)，亞馬遜網(wǎng)絡(luò)服務(wù)的面部識(shí)別和分析平臺(tái)Rekognition與某些競(jìng)爭(zhēng)性解決方案相比，在某些種族中對(duì)性別的區(qū)分不準(zhǔn)確。具體來(lái)說(shuō)，它無(wú)法確定某些情況下女性和深色皮膚的面孔的性別，從而錯(cuò)誤地將女性的照片分別識(shí)別為男性和深色皮膚的女性分別為19％和31％。

除了亞馬遜的爭(zhēng)議之外??，這項(xiàng)研究預(yù)先聚焦了AI容易受到影響的偏見(jiàn)類(lèi)型。美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究院（NIST）上周發(fā)表的研究發(fā)現(xiàn)，當(dāng)進(jìn)行特定類(lèi)型的數(shù)據(jù)庫(kù)搜索時(shí)，許多面部識(shí)別算法錯(cuò)誤地識(shí)別出黑人和亞裔面孔的頻率是白種人的10到100倍。面孔。

除了偏見(jiàn)問(wèn)題之外，面部識(shí)別技術(shù)的可擴(kuò)展性使其成熟了。今年，紐約警察局通過(guò)面部識(shí)別系統(tǒng)為演員伍迪·哈雷爾森（Woody Harrelson）拍攝了照片，因?yàn)榫煺J(rèn)為在毒品商店攝像機(jī)鏡頭中看到的嫌疑犯與演員相似。我們了解了中國(guó)如何利用面部識(shí)別來(lái)跟蹤其維吾爾族穆斯林人口的活動(dòng)?？偛课挥谔乩S夫市以外的一家初創(chuàng)企業(yè)AnyVision受到了審查，原因是有報(bào)道稱(chēng)其產(chǎn)品用于監(jiān)視住在西岸的巴勒斯坦人。

越來(lái)越多的活動(dòng)家，學(xué)者和立法者呼吁限制或徹底禁止面部識(shí)別技術(shù)。今年秋天，加利福尼亞州對(duì)執(zhí)法機(jī)構(gòu)的身體攝像機(jī)使用面部識(shí)別實(shí)施了三年禁令，而在五月，舊金山禁止警察或城市部門(mén)使用面部識(shí)別。奧克蘭在6月也效仿，此后伯克利通過(guò)了自己的禁令。去年夏天，在眾議院監(jiān)督和改革委員會(huì)的兩次聽(tīng)證會(huì)中，美國(guó)國(guó)會(huì)中一些最杰出的共和黨人和民主黨人共同加入了立法改革提案，此舉是在引入2019年《商業(yè)面部識(shí)別隱私法》之后，該法案要求企業(yè)使用面部識(shí)別軟件之前，請(qǐng)先征得您的同意。

鑒于國(guó)會(huì)，學(xué)術(shù)界，州議會(huì)和像國(guó)會(huì)山這樣的公共論壇上的辯論很激烈，可以肯定地說(shuō)，面部識(shí)別曾經(jīng)而且將仍然是一個(gè)熱門(mén)話(huà)題。

自我審查和偽造品

與學(xué)術(shù)規(guī)范不同的是，OpenA在二月份選擇不公開(kāi)用于訓(xùn)練其最先進(jìn)的自然語(yǔ)言處理模型（稱(chēng)為GPT-2）的語(yǔ)料庫(kù)，也不公開(kāi)其附帶的訓(xùn)練代碼。OpenAI在證明其決定的博客文章中表示關(guān)注，擔(dān)心它們可能被用來(lái)生成有關(guān)特定公司的綜合金融新聞，例如，種族主義或性別歧視文本或在亞馬遜或Yelp等網(wǎng)站上的假評(píng)論。

隨后，OpenAI發(fā)布了幾個(gè)較小且不太復(fù)雜的GPT-2版本，并研究了它們的接收以及他們訓(xùn)練所依據(jù)的數(shù)據(jù)集。在得出“沒(méi)有強(qiáng)有力的證據(jù)”濫用的結(jié)論之后，該公司上個(gè)月發(fā)布了完整的模型-對(duì)從網(wǎng)絡(luò)上抓取的800萬(wàn)個(gè)文本文檔進(jìn)行了培訓(xùn)。

對(duì)OpenAI決策的批評(píng)者認(rèn)為，該公司夸大了其工作帶來(lái)的危險(xiǎn)，并且無(wú)意中激起了有關(guān)AI和機(jī)器學(xué)習(xí)的巨大歇斯底里。除此之外，他們斷言O(shè)penAI剝奪了他們使用突破性AI技術(shù)的能力，不利于研究人員，并且有效地阻止了研究團(tuán)體識(shí)別GPT-2中的錯(cuò)誤或提出潛在的對(duì)策。

他們有道理，但是OpenAI的擔(dān)心并非完全沒(méi)有根據(jù)。Deepfakes或?qū)⑷藥氍F(xiàn)有圖像，音頻記錄或視頻中并使用AI將其替換為他人形象的媒體，在2019年迅速增長(zhǎng)。Deeptrace在6月和7月的最新統(tǒng)計(jì)中在互聯(lián)網(wǎng)上找到了14,698個(gè)Deepfake視頻。 ，比去年12月增長(zhǎng)了84％。令人不安的是，不僅因?yàn)閭卧炱房赡鼙挥脕?lái)在選舉中動(dòng)搖公眾輿論或?qū)⒛橙司砣胨麄兾丛赶碌淖镄兄校疫€因?yàn)樗鼈円呀?jīng)被用來(lái)制作色情材料并使數(shù)以百萬(wàn)計(jì)的公司陷于癱瘓美元。

包括Facebook，微軟和亞馬遜在內(nèi)的科技巨頭已經(jīng)與麻省理工學(xué)院和康奈爾大學(xué)等學(xué)術(shù)合作伙伴合作，以幫助遏制AI起源的誤導(dǎo)性媒體的傳播，但OpenAI猶豫不決發(fā)布其模型是未來(lái)挑戰(zhàn)的領(lǐng)頭羊。的確，Experian 預(yù)測(cè)，到2020年，網(wǎng)絡(luò)犯罪分子將使用AI技術(shù)來(lái)破壞商業(yè)企業(yè)的運(yùn)營(yíng)并在國(guó)家之間造成地緣政治混亂。

隱私

盡管他們做了很多事情，但AI和機(jī)器學(xué)習(xí)算法仍然存在一個(gè)主要的隱私問(wèn)題。

倫敦皇家免費(fèi)NHS基金會(huì)信托基金是總部位于倫敦的英國(guó)國(guó)家衛(wèi)生局的一個(gè)部門(mén)，未經(jīng)他們的同意，向 Alphabet的DeepMind提供了160萬(wàn)患者的數(shù)據(jù)。Google（與Ascension 共享健康數(shù)據(jù)的合作伙伴關(guān)系在11月成為審查的對(duì)象）放棄 了發(fā)布胸部X光掃描的計(jì)劃，原因是擔(dān)心它們包含個(gè)人身份信息。去年夏天，微軟悄悄 將其刪除一個(gè)數(shù)據(jù)集（MS Celeb）包含超過(guò)一千萬(wàn)張人的圖像，原因是有人不知道其中已經(jīng)包含了這些圖像。而且，ImageNet是一個(gè)通常用于訓(xùn)練計(jì)算機(jī)視覺(jué)算法的開(kāi)源庫(kù)，據(jù)透露，該庫(kù)在某些時(shí)候包含從Google，F(xiàn)lickr和其他地方刮取的親密行為的描述。

另外，包括蘋(píng)果和谷歌在內(nèi)的科技巨頭也受到了報(bào)道的關(guān)注，他們發(fā)現(xiàn)可能會(huì)濫用 錄音 來(lái)改善Siri和Google Assistant等助手。今年4月，彭博社 透露，亞馬遜雇用了合同工來(lái)注釋來(lái)自Alexa供電設(shè)備的數(shù)千小時(shí)音頻，這促使該公司推出了面向用戶(hù)的工具，這些工具可以快速刪除云存儲(chǔ)的數(shù)據(jù)。

鑒于越來(lái)越多的隱私問(wèn)題不僅是哲學(xué)問(wèn)題，而且在業(yè)務(wù)過(guò)程中也至關(guān)重要。州，地方和聯(lián)邦各級(jí)的法律旨在使隱私成為合規(guī)管理的強(qiáng)制性部分。在美國(guó)的50個(gè)州，領(lǐng)地和哥倫比亞特區(qū)，數(shù)百項(xiàng)涉及隱私，網(wǎng)絡(luò)安全和數(shù)據(jù)泄露的法案正在等待或已經(jīng)通過(guò)?？梢哉f(shuō)，其中最全面的是大約兩年前，《加利福尼亞消費(fèi)者隱私法》已簽署成為法律。更不用說(shuō)《健康保險(xiǎn)可移植性和責(zé)任制法案》（HIPAA），該法案要求公司在披露個(gè)人健康信息之前必須尋求授權(quán)。

作為回應(yīng)，谷歌和其他公司已經(jīng)發(fā)布了諸如TensorFlow Privacy和PySyft之類(lèi)的庫(kù)， 用于機(jī)器學(xué)習(xí)框架，包括TensorFlow和PyTorch，它們通過(guò)差分隱私之類(lèi)的技術(shù)提供了強(qiáng)大的隱私保證。同時(shí)，他們采用了聯(lián)邦學(xué)習(xí)等技術(shù)，該技術(shù)可以在不交換數(shù)據(jù)樣本的分散設(shè)備或服務(wù)器（即節(jié)點(diǎn)）上跨分散的設(shè)備或服務(wù)器訓(xùn)練AI，以及同態(tài)加密（一種加密形式，可以對(duì)已加密的純文本（文件內(nèi)容）進(jìn)行計(jì)算）使用算法（也稱(chēng)為密文）。在等式全面管理的服務(wù)方面，像亞馬遜這樣的科技巨頭已經(jīng)采取行動(dòng)，使其產(chǎn)品符合HIPAA等法規(guī)。

自動(dòng)化

盡管人們對(duì)竊取AI的恐懼可能已經(jīng)被夸大了，但是自動(dòng)化正在侵蝕對(duì)人工的需求。

麥肯錫全球研究所在今年早些時(shí)候發(fā)布的一份報(bào)告中發(fā)現(xiàn)，女性占主導(dǎo)地位的職業(yè)將受到人工智能和機(jī)器學(xué)習(xí)的不利影響。到2030年，在10個(gè)經(jīng)濟(jì)體中男性占多數(shù)的工作中，約40％的工作將集體被GDP取代，到2030年，自動(dòng)化將取代男性，而具有自動(dòng)化潛力的女性占52％。

這些觀點(diǎn)與英國(guó)國(guó)家統(tǒng)計(jì)局（ONS）于2019年3月發(fā)布的報(bào)告一致，該報(bào)告發(fā)現(xiàn)英國(guó)10％的勞動(dòng)力（約150萬(wàn)工人）從事的工作處于自動(dòng)化的“高風(fēng)險(xiǎn)”中。ONS預(yù)測(cè)，服務(wù)業(yè)工人，主要是侍應(yīng)生和女服務(wù)員，零售庫(kù)存補(bǔ)給員和入門(mén)級(jí)銷(xiāo)售人員，將受到不成比例的影響，以及農(nóng)業(yè)，汽車(chē)和服務(wù)業(yè)的工人。該部門(mén)預(yù)測(cè)，在2017年擔(dān)任高風(fēng)險(xiǎn)工作70.2％的女性中，首當(dāng)其沖的是勞動(dòng)力市場(chǎng)變化。

無(wú)論是在當(dāng)前領(lǐng)域從事新工作還是獲得新技能，預(yù)計(jì)到2030年成千上萬(wàn)的工人將不得不進(jìn)行某種職業(yè)過(guò)渡。Forrester發(fā)現(xiàn)，自動(dòng)化可以在未來(lái)幾個(gè)月內(nèi)消除美國(guó)10％的工作。 。而世界經(jīng)濟(jì)論壇，普華永道， 麥肯錫全球研究院，并 Gartner公司已經(jīng)預(yù)測(cè)，AI會(huì)在2025年使多余的，因?yàn)橛?5萬(wàn)人的就業(yè)機(jī)會(huì)。

也許不足為奇的是，各種形式的普遍基本收入，如不分收入定期向公民付款，都得到了理查德·布蘭森和埃隆·馬斯克等名人的認(rèn)可。美國(guó)總統(tǒng)候選人安德魯·楊（Andrew Yang）將其作為民主黨提名競(jìng)選活動(dòng)的核心部分-他堅(jiān)稱(chēng)，由增值稅提供的付款可能會(huì)啟動(dòng)美國(guó)尚未受益于民主的地區(qū)的經(jīng)濟(jì)發(fā)展。風(fēng)險(xiǎn)投資。至于比爾·蓋茨（Bill Gates），他建議征收“ 機(jī)器人稅 ”，即政府在企業(yè)每次使用自動(dòng)化軟件或機(jī)器替換員工時(shí)，政府都會(huì)收取費(fèi)用。

展望未來(lái)

人工智能面臨的挑戰(zhàn)是巨大的。面部識(shí)別仍然是機(jī)器學(xué)習(xí)的一種有效且很大程度上不受監(jiān)管的應(yīng)用，它可以增強(qiáng)（在某些情況下還可以創(chuàng)建）監(jiān)視狀態(tài)。Deepfake對(duì)科技公司和學(xué)術(shù)界以及廣大公眾造成重大影響。對(duì)于AI中的隱私問(wèn)題的確定性解決方案是難以捉摸的。不管工人是否熟練，自動(dòng)化都將影響數(shù)百萬(wàn)人的生計(jì)。

2020年可能會(huì)有什么答案？很難說(shuō)。但是，盡管AI帶來(lái)了所有困境，但它卻帶來(lái)了巨大的積極變化。今年的AI在蛋白質(zhì)折疊方面達(dá)到了最先進(jìn)的水平，這可以為新療法和新藥物鋪平道路。機(jī)器學(xué)習(xí)的各種實(shí)現(xiàn)方式正在被用來(lái)應(yīng)對(duì)全球氣候變化。人工智能使有言語(yǔ)和聽(tīng)力障礙的人可以使用以前無(wú)法獲得的產(chǎn)品。

與任何范式轉(zhuǎn)換一樣，好的事物總是有弊。該行業(yè)的任務(wù)，乃至我們的任務(wù)，是在力所能及的范圍內(nèi)盡一切努力，以后者為代價(jià)來(lái)推進(jìn)后者。