隨著一年的臨近,回顧一下前幾個(gè)月以了解未來(lái)的發(fā)展將是很有啟發(fā)性的。歷史本質(zhì)上是周期性的,在AI領(lǐng)域也是如此?;叵胍幌聜鞑?a target="_blank">算法,一種在機(jī)器學(xué)習(xí)系統(tǒng)的訓(xùn)練中廣泛使用的算法,早在1980年就作為一種理論出現(xiàn)了,但是直到2010年代它才回來(lái),這在一定程度上要?dú)w功于廉價(jià),功能強(qiáng)大的基于圖形卡的機(jī)器。
今年,人工智能和機(jī)器學(xué)習(xí)中的四個(gè)關(guān)鍵問(wèn)題浮出水面:面部識(shí)別; 學(xué)術(shù)界的虛假和自我審查;隱私; 和自動(dòng)化。展望2020年,下面回顧一下定義2019年行業(yè)的一些問(wèn)題。
面部識(shí)別
面部識(shí)別技術(shù)在今年的新聞中發(fā)現(xiàn)自己可能比其他任何AI應(yīng)用程序都多。
1月初,一個(gè)麻省理工學(xué)院的科學(xué)家團(tuán)隊(duì)聲稱(chēng),亞馬遜網(wǎng)絡(luò)服務(wù)的面部識(shí)別和分析平臺(tái)Rekognition與某些競(jìng)爭(zhēng)性解決方案相比,在某些種族中對(duì)性別的區(qū)分不準(zhǔn)確。具體來(lái)說(shuō),它無(wú)法確定某些情況下女性和深色皮膚的面孔的性別,從而錯(cuò)誤地將女性的照片分別識(shí)別為男性和深色皮膚的女性分別為19%和31%。
除了亞馬遜的爭(zhēng)議之外??,這項(xiàng)研究預(yù)先聚焦了AI容易受到影響的偏見(jiàn)類(lèi)型。美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究院(NIST)上周發(fā)表的研究發(fā)現(xiàn),當(dāng)進(jìn)行特定類(lèi)型的數(shù)據(jù)庫(kù)搜索時(shí),許多面部識(shí)別算法錯(cuò)誤地識(shí)別出黑人和亞裔面孔的頻率是白種人的10到100倍。面孔。
除了偏見(jiàn)問(wèn)題之外,面部識(shí)別技術(shù)的可擴(kuò)展性使其成熟了。今年,紐約警察局通過(guò)面部識(shí)別系統(tǒng)為演員伍迪·哈雷爾森(Woody Harrelson)拍攝了照片,因?yàn)榫煺J(rèn)為在毒品商店攝像機(jī)鏡頭中看到的嫌疑犯與演員相似。我們了解了中國(guó)如何利用面部識(shí)別來(lái)跟蹤其維吾爾族穆斯林人口的活動(dòng)??偛课挥谔乩S夫市以外的一家初創(chuàng)企業(yè)AnyVision受到了審查,原因是有報(bào)道稱(chēng)其產(chǎn)品用于監(jiān)視住在西岸的巴勒斯坦人。
越來(lái)越多的活動(dòng)家,學(xué)者和立法者呼吁限制或徹底禁止面部識(shí)別技術(shù)。今年秋天,加利福尼亞州對(duì)執(zhí)法機(jī)構(gòu)的身體攝像機(jī)使用面部識(shí)別實(shí)施了三年禁令,而在五月,舊金山禁止警察或城市部門(mén)使用面部識(shí)別。奧克蘭在6月也效仿,此后伯克利通過(guò)了自己的禁令。去年夏天,在眾議院監(jiān)督和改革委員會(huì)的兩次聽(tīng)證會(huì)中,美國(guó)國(guó)會(huì)中一些最杰出的共和黨人和民主黨人共同加入了立法改革提案,此舉是在引入2019年《商業(yè)面部識(shí)別隱私法》之后,該法案要求企業(yè)使用面部識(shí)別軟件之前,請(qǐng)先征得您的同意。
鑒于國(guó)會(huì),學(xué)術(shù)界,州議會(huì)和像國(guó)會(huì)山這樣的公共論壇上的辯論很激烈,可以肯定地說(shuō),面部識(shí)別曾經(jīng)而且將仍然是一個(gè)熱門(mén)話(huà)題。
自我審查和偽造品
與學(xué)術(shù)規(guī)范不同的是,OpenA在二月份選擇不公開(kāi)用于訓(xùn)練其最先進(jìn)的自然語(yǔ)言處理模型(稱(chēng)為GPT-2)的語(yǔ)料庫(kù),也不公開(kāi)其附帶的訓(xùn)練代碼。OpenAI在證明其決定的博客文章中表示關(guān)注,擔(dān)心它們可能被用來(lái)生成有關(guān)特定公司的綜合金融新聞,例如,種族主義或性別歧視文本或在亞馬遜或Yelp等網(wǎng)站上的假評(píng)論。
隨后,OpenAI發(fā)布了幾個(gè)較小且不太復(fù)雜的GPT-2版本,并研究了它們的接收以及他們訓(xùn)練所依據(jù)的數(shù)據(jù)集。在得出“沒(méi)有強(qiáng)有力的證據(jù)”濫用的結(jié)論之后,該公司上個(gè)月發(fā)布了完整的模型-對(duì)從網(wǎng)絡(luò)上抓取的800萬(wàn)個(gè)文本文檔進(jìn)行了培訓(xùn)。
對(duì)OpenAI決策的批評(píng)者認(rèn)為,該公司夸大了其工作帶來(lái)的危險(xiǎn),并且無(wú)意中激起了有關(guān)AI和機(jī)器學(xué)習(xí)的巨大歇斯底里。除此之外,他們斷言O(shè)penAI剝奪了他們使用突破性AI技術(shù)的能力,不利于研究人員,并且有效地阻止了研究團(tuán)體識(shí)別GPT-2中的錯(cuò)誤或提出潛在的對(duì)策。
他們有道理,但是OpenAI的擔(dān)心并非完全沒(méi)有根據(jù)。Deepfakes或?qū)⑷藥氍F(xiàn)有圖像,音頻記錄或視頻中并使用AI將其替換為他人形象的媒體,在2019年迅速增長(zhǎng)。Deeptrace在6月和7月的最新統(tǒng)計(jì)中在互聯(lián)網(wǎng)上找到了14,698個(gè)Deepfake視頻。 ,比去年12月增長(zhǎng)了84%。令人不安的是,不僅因?yàn)閭卧炱房赡鼙挥脕?lái)在選舉中動(dòng)搖公眾輿論或?qū)⒛橙司砣胨麄兾丛赶碌淖镄兄校疫€因?yàn)樗鼈円呀?jīng)被用來(lái)制作色情材料并使數(shù)以百萬(wàn)計(jì)的公司陷于癱瘓美元。
包括Facebook,微軟和亞馬遜在內(nèi)的科技巨頭已經(jīng)與麻省理工學(xué)院和康奈爾大學(xué)等學(xué)術(shù)合作伙伴合作,以幫助遏制AI起源的誤導(dǎo)性媒體的傳播,但OpenAI猶豫不決發(fā)布其模型是未來(lái)挑戰(zhàn)的領(lǐng)頭羊。的確,Experian 預(yù)測(cè),到2020年,網(wǎng)絡(luò)犯罪分子將使用AI技術(shù)來(lái)破壞商業(yè)企業(yè)的運(yùn)營(yíng)并在國(guó)家之間造成地緣政治混亂。
隱私
盡管他們做了很多事情,但AI和機(jī)器學(xué)習(xí)算法仍然存在一個(gè)主要的隱私問(wèn)題。
倫敦皇家免費(fèi)NHS基金會(huì)信托基金是總部位于倫敦的英國(guó)國(guó)家衛(wèi)生局的一個(gè)部門(mén),未經(jīng)他們的同意,向 Alphabet的DeepMind提供了160萬(wàn)患者的數(shù)據(jù)。Google(與Ascension 共享健康數(shù)據(jù)的合作伙伴關(guān)系在11月成為審查的對(duì)象)放棄 了發(fā)布胸部X光掃描的計(jì)劃,原因是擔(dān)心它們包含個(gè)人身份信息。去年夏天,微軟悄悄 將其刪除一個(gè)數(shù)據(jù)集(MS Celeb)包含超過(guò)一千萬(wàn)張人的圖像,原因是有人不知道其中已經(jīng)包含了這些圖像。而且,ImageNet是一個(gè)通常用于訓(xùn)練計(jì)算機(jī)視覺(jué)算法的開(kāi)源庫(kù),據(jù)透露,該庫(kù)在某些時(shí)候包含從Google,F(xiàn)lickr和其他地方刮取的親密行為的描述。
另外,包括蘋(píng)果和谷歌在內(nèi)的科技巨頭也受到了報(bào)道的關(guān)注,他們發(fā)現(xiàn)可能會(huì)濫用 錄音 來(lái)改善Siri和Google Assistant等助手。今年4月,彭博社 透露,亞馬遜雇用了合同工來(lái)注釋來(lái)自Alexa供電設(shè)備的數(shù)千小時(shí)音頻,這促使該公司推出了面向用戶(hù)的工具,這些工具可以快速刪除云存儲(chǔ)的數(shù)據(jù)。
鑒于越來(lái)越多的隱私問(wèn)題不僅是哲學(xué)問(wèn)題,而且在業(yè)務(wù)過(guò)程中也至關(guān)重要。州,地方和聯(lián)邦各級(jí)的法律旨在使隱私成為合規(guī)管理的強(qiáng)制性部分。在美國(guó)的50個(gè)州,領(lǐng)地和哥倫比亞特區(qū),數(shù)百項(xiàng)涉及隱私,網(wǎng)絡(luò)安全和數(shù)據(jù)泄露的法案正在等待或已經(jīng)通過(guò)??梢哉f(shuō),其中最全面的是大約兩年前,《加利福尼亞消費(fèi)者隱私法》已簽署成為法律。更不用說(shuō)《健康保險(xiǎn)可移植性和責(zé)任制法案》(HIPAA),該法案要求公司在披露個(gè)人健康信息之前必須尋求授權(quán)。
作為回應(yīng),谷歌和其他公司已經(jīng)發(fā)布了諸如TensorFlow Privacy和PySyft之類(lèi)的庫(kù), 用于機(jī)器學(xué)習(xí)框架,包括TensorFlow和PyTorch,它們通過(guò)差分隱私之類(lèi)的技術(shù)提供了強(qiáng)大的隱私保證。同時(shí),他們采用了聯(lián)邦學(xué)習(xí)等技術(shù),該技術(shù)可以在不交換數(shù)據(jù)樣本的分散設(shè)備或服務(wù)器(即節(jié)點(diǎn))上跨分散的設(shè)備或服務(wù)器訓(xùn)練AI,以及同態(tài)加密(一種加密形式,可以對(duì)已加密的純文本(文件內(nèi)容)進(jìn)行計(jì)算)使用算法(也稱(chēng)為密文)。在等式全面管理的服務(wù)方面,像亞馬遜這樣的科技巨頭已經(jīng)采取行動(dòng),使其產(chǎn)品符合HIPAA等法規(guī)。
自動(dòng)化
盡管人們對(duì)竊取AI的恐懼可能已經(jīng)被夸大了,但是自動(dòng)化正在侵蝕對(duì)人工的需求。
麥肯錫全球研究所在今年早些時(shí)候發(fā)布的一份報(bào)告中發(fā)現(xiàn),女性占主導(dǎo)地位的職業(yè)將受到人工智能和機(jī)器學(xué)習(xí)的不利影響。到2030年,在10個(gè)經(jīng)濟(jì)體中男性占多數(shù)的工作中,約40%的工作將集體被GDP取代,到2030年,自動(dòng)化將取代男性,而具有自動(dòng)化潛力的女性占52%。
這些觀點(diǎn)與英國(guó)國(guó)家統(tǒng)計(jì)局(ONS)于2019年3月發(fā)布的報(bào)告一致,該報(bào)告發(fā)現(xiàn)英國(guó)10%的勞動(dòng)力(約150萬(wàn)工人)從事的工作處于自動(dòng)化的“高風(fēng)險(xiǎn)”中。ONS預(yù)測(cè),服務(wù)業(yè)工人,主要是侍應(yīng)生和女服務(wù)員,零售庫(kù)存補(bǔ)給員和入門(mén)級(jí)銷(xiāo)售人員,將受到不成比例的影響,以及農(nóng)業(yè),汽車(chē)和服務(wù)業(yè)的工人。該部門(mén)預(yù)測(cè),在2017年擔(dān)任高風(fēng)險(xiǎn)工作70.2%的女性中,首當(dāng)其沖的是勞動(dòng)力市場(chǎng)變化。
無(wú)論是在當(dāng)前領(lǐng)域從事新工作還是獲得新技能,預(yù)計(jì)到2030年成千上萬(wàn)的工人將不得不進(jìn)行某種職業(yè)過(guò)渡。Forrester發(fā)現(xiàn),自動(dòng)化可以在未來(lái)幾個(gè)月內(nèi)消除美國(guó)10%的工作。 。而世界經(jīng)濟(jì)論壇,普華永道, 麥肯錫全球研究院,并 Gartner公司已經(jīng)預(yù)測(cè),AI會(huì)在2025年使多余的,因?yàn)橛?5萬(wàn)人的就業(yè)機(jī)會(huì)。
也許不足為奇的是,各種形式的普遍基本收入,如不分收入定期向公民付款,都得到了理查德·布蘭森和埃隆·馬斯克等名人的認(rèn)可。美國(guó)總統(tǒng)候選人安德魯·楊(Andrew Yang)將其作為民主黨提名競(jìng)選活動(dòng)的核心部分-他堅(jiān)稱(chēng),由增值稅提供的付款可能會(huì)啟動(dòng)美國(guó)尚未受益于民主的地區(qū)的經(jīng)濟(jì)發(fā)展。風(fēng)險(xiǎn)投資。至于比爾·蓋茨(Bill Gates),他建議征收“ 機(jī)器人稅 ”,即政府在企業(yè)每次使用自動(dòng)化軟件或機(jī)器替換員工時(shí),政府都會(huì)收取費(fèi)用。
展望未來(lái)
人工智能面臨的挑戰(zhàn)是巨大的。面部識(shí)別仍然是機(jī)器學(xué)習(xí)的一種有效且很大程度上不受監(jiān)管的應(yīng)用,它可以增強(qiáng)(在某些情況下還可以創(chuàng)建)監(jiān)視狀態(tài)。Deepfake對(duì)科技公司和學(xué)術(shù)界以及廣大公眾造成重大影響。對(duì)于AI中的隱私問(wèn)題的確定性解決方案是難以捉摸的。不管工人是否熟練,自動(dòng)化都將影響數(shù)百萬(wàn)人的生計(jì)。
2020年可能會(huì)有什么答案?很難說(shuō)。但是,盡管AI帶來(lái)了所有困境,但它卻帶來(lái)了巨大的積極變化。今年的AI在蛋白質(zhì)折疊方面達(dá)到了最先進(jìn)的水平,這可以為新療法和新藥物鋪平道路。機(jī)器學(xué)習(xí)的各種實(shí)現(xiàn)方式正在被用來(lái)應(yīng)對(duì)全球氣候變化。人工智能使有言語(yǔ)和聽(tīng)力障礙的人可以使用以前無(wú)法獲得的產(chǎn)品。
與任何范式轉(zhuǎn)換一樣,好的事物總是有弊。該行業(yè)的任務(wù),乃至我們的任務(wù),是在力所能及的范圍內(nèi)盡一切努力,以后者為代價(jià)來(lái)推進(jìn)后者。
-
AI
+關(guān)注
關(guān)注
87文章
29438瀏覽量
267757 -
人工智能
+關(guān)注
關(guān)注
1789文章
46401瀏覽量
236624
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論