通用人工智能面臨的挑戰(zhàn)，人工智能和算法偏見

預(yù)測用戶喜歡的音樂類型、檢測出轉(zhuǎn)移性腫瘤、生成腦癌的綜合掃描、利用真實世界中拍攝的視頻創(chuàng)造出虛擬環(huán)境、識別出被拐賣的人口、擊敗國際象棋大師以及專業(yè)的 Dota2 電競團(tuán)隊、幫助 Alphabet 旗下的 Waymo 首次推出商業(yè)無人駕駛出租車服務(wù)、代替出租車司機(jī)掌控方向盤，上面提到的這些只是人工智能系統(tǒng)在 2018 年取得的諸多成就的冰山一角，這也證明了該領(lǐng)域的發(fā)展速度如火箭一般迅速。按照目前的變化速度，麥肯錫全球研究院的分析師預(yù)測，僅在美國，未來 12 年人工智能就將幫助人們實現(xiàn) 20% 到 25 % 的凈經(jīng)濟(jì)收益（相當(dāng)于全球范圍內(nèi)收益達(dá)到 13 億美元）。

在目前的人工智能系統(tǒng)中，一些最令人印象深刻的工作都是起源于對深度神經(jīng)網(wǎng)絡(luò)（DNN）的研究，DNN 是一種基于數(shù)據(jù)表征的機(jī)器學(xué)習(xí)架構(gòu)。它們是大致基于人腦建模的：DNN 包括與突觸相連的人工神經(jīng)元（即數(shù)學(xué)函數(shù)），它們能夠通過突觸結(jié)構(gòu)將信號傳遞給其他神經(jīng)元。神經(jīng)元分層排列，這些信號（數(shù)據(jù)或輸入的積）被送入 DNN，從一層傳遞到另一層，并通過調(diào)整每個神經(jīng)連接的突觸強度（權(quán)重）緩慢地對 DNN 進(jìn)行「調(diào)優(yōu)」。 隨著時間的推移，經(jīng)過數(shù)百甚至數(shù)百萬個周期的迭代訓(xùn)練，網(wǎng)絡(luò)可以從數(shù)據(jù)集中提取特征，并識別樣本中的趨勢，最終學(xué)會做出新的預(yù)測。

就在 30 年前，David Rumelhart、Geoffrey Hinton 和 Ronald Williams 合著的巨著「Learning representation by Back-propagating Errors」（https://www.nature.com/articles/323533a0）詳細(xì)闡述了一種基本的權(quán)重計算技術(shù)——反向傳播。 在越來越便宜、越來越魯棒的計算機(jī)硬件的輔助下，反向傳播技術(shù)使計算機(jī)視覺、自然語言處理、機(jī)器翻譯、藥物設(shè)計和材料檢測等領(lǐng)域的研究取得了巨大飛躍。

通用人工智能面臨的挑戰(zhàn)

那么，DNN 是超級智能機(jī)器人出現(xiàn)的先兆嗎？Demis Hassabis 不這么認(rèn)為（他的話具有一定權(quán)威性）。Demis Hassabis 是 DeepMind 的聯(lián)合創(chuàng)始人，DeepMind 是一家總部位于倫敦的機(jī)器學(xué)習(xí)初創(chuàng)公司，創(chuàng)立宗旨是將神經(jīng)科學(xué)和計算機(jī)科學(xué)知識用于創(chuàng)造通用人工智能。換句話說，這種系統(tǒng)可以成功地完成人類所能完成的任何智能化的任務(wù)。

「還有很長的路要走，」Demis Hassabis 在 12 月初于蒙特利爾舉行的 2018 年神經(jīng)網(wǎng)絡(luò)會議（ NeurIPS ）上說?！笍哪撤N意義上來說，游戲或棋類游戲所處的環(huán)境十分簡單，因為狀態(tài)之間的過渡模型可以被定義得非常詳細(xì)，而且易于學(xué)習(xí)。真實世界的 3D 環(huán)境和真實世界本身要復(fù)雜得多……但如果你有開發(fā)通用人工智能的計劃，這也很重要」。

Hassabis 是一名國際象棋奇才，畢業(yè)于劍橋大學(xué)，早年曾擔(dān)任視頻游戲「主題公園」和「黑與白」的首席程序員。他曾在倫敦大學(xué)學(xué)院、麻省理工學(xué)院和哈佛大學(xué)學(xué)習(xí)神經(jīng)科學(xué)，并在哈佛大學(xué)合作撰寫了關(guān)于自傳性記憶和情節(jié)記憶系統(tǒng)的研究論文。2010 年，他參與創(chuàng)立 DeepMind，僅僅三年后，DeepMind 就發(fā)布了一個只使用 Atari 游戲中的原始像素作為輸入的開創(chuàng)性人工智能系統(tǒng)。

自從谷歌斥資 4 億英鎊收購 DeepMind 以來，該公司及其醫(yī)學(xué)研究部門 DeepMind Health 一直以它們的產(chǎn)品 AlphaGo 占據(jù)各大媒體頭條。 AlphaGo 是一種人工智能系統(tǒng)，在中國圍棋比賽中擊敗了世界冠軍李世石。谷歌還與倫敦大學(xué)學(xué)院醫(yī)院持續(xù)合作，他們用于該醫(yī)院的 CT 掃描圖像的分割模型展示出了「接近人類專家的性能表現(xiàn)」。最近，DeepMind 的研究人員發(fā)明了一種蛋白質(zhì)折疊算法 AlphaFold，該算法成功識別了 43 種蛋白質(zhì)中 25 種蛋白質(zhì)的最精確結(jié)構(gòu)，獲得了第 13 屆蛋白質(zhì)結(jié)構(gòu)預(yù)測技術(shù)競賽（Critical Assessment of Techniques for Protein Structure Prediction ，CASP）一等獎。 2018 年 12 月，DeepMind 在 Science 雜志上發(fā)表論文——AlphaZero 系統(tǒng)，這一系統(tǒng)是 AlphaGo 的繼承者，可以在 3 種不同的游戲（國際象棋、日本將棋和圍棋）中取得足以擊敗人類著名棋手的性能。

盡管 DeepMind 取得了令人印象深刻的成就，但Hassabis 提醒人們，他們絕不是在暗示通用人工智能即將成為現(xiàn)實（現(xiàn)在還為時過早）。他說，與今天的人工智能系統(tǒng)不同，人類是利用自身掌握的關(guān)于世界知識來進(jìn)行預(yù)測和規(guī)劃。而與圍棋、國際象棋和將棋的初學(xué)者相比，AlphaGo 和 AlphaZero在信息方面處于劣勢。

Hassabis 說：「首先，這些人工智能系統(tǒng)需要先學(xué)會看別人玩游戲，然后它們會學(xué)習(xí)自己玩游戲」?！溉祟愅婕铱梢员人惴ǜ斓貙W(xué)會玩 Atari 游戲之類的游戲。因為他們可以相當(dāng)迅速地判斷圖案中的像素的意義，以確定他們是否需要逃離這個圖案代表的物體或朝這個方向前進(jìn)」。

要想讓 AlphaZero 這樣的機(jī)器模型能夠打敗人類，大約需要在一個安裝了數(shù)千個谷歌設(shè)計的為機(jī)器學(xué)習(xí)優(yōu)化過的應(yīng)用程序?qū)Ｓ?a href="http://srfitnesspt.com/v/tag/137/" target="_blank">芯片上訓(xùn)練 70 萬步（每一步代表4096個棋盤位置）。換算成時間的話，相當(dāng)于對于國際象棋需要經(jīng)過 9 個小時的訓(xùn)練；對于將棋來說，需要經(jīng)過 12 個小時的訓(xùn)練；而對于圍棋來說，則需要經(jīng)過 13 天的訓(xùn)練。

Deepmind 并不是唯一一個需要解決人工智能系統(tǒng)設(shè)計局限性的公司。

2018 年早些時候，總部位于舊金山的非營利人工智能研究公司 OpenAI （由 Elon Musk、Reid Hoffman、Peter Thiel 以及其他科技界名人支持）在一篇博客文章中揭開了 OpenAI Five 的神秘面紗。2018 年夏天，OpenAI Five 擊敗了一個包含四名 Dota 2 職業(yè)玩家的五人團(tuán)隊。該組織稱，這一系統(tǒng)每天在帶有 256 個 Nvidia Tesla P100 顯卡和 128,000 個處理器核心的谷歌云平臺上，訓(xùn)練時長相當(dāng)于一個人玩 180 年游戲（80% 時間是和自己進(jìn)行對抗，20% 時間是和自己過去的決策進(jìn)行對抗）。在經(jīng)過了所有這些訓(xùn)練后，它也努力將所學(xué)到的技能應(yīng)用到特定游戲之外的任務(wù)中。

「我們沒有能夠高效地將它們的知識從一個領(lǐng)域遷移到另一個領(lǐng)域的系統(tǒng)，我認(rèn)為需要一些概念或特征提取等?！笻assabi說，「針對游戲構(gòu)建模型相對容易，因為從一個步驟過渡到另一個步驟很容易，但我們希望能夠使系統(tǒng)具有生成模型的能力，這將使我們能夠更容易地在更復(fù)雜的環(huán)境中執(zhí)行規(guī)劃任務(wù)」。

如今大多數(shù)的人工智能系統(tǒng)都不具備很好的擴(kuò)展能力。AlphaZero、AlphaGo、OpenAI Five 利用了一種被稱為強化學(xué)習(xí)的編程模式，在這種模式下，一個被人工智能算法控制的軟件智能體（agent）可以在一個環(huán)境（environment，例如一個棋盤游戲，或者一個 MOBA類游戲）中學(xué)著采取相應(yīng)的行動（action）以獲得最大化的獎勵（reward）。

在接受 VentureBeat 采訪時，Hinton 說：我們不妨想象一下斯金納箱（雷鋒網(wǎng)注：斯金納通過實驗發(fā)現(xiàn)，動物的學(xué)習(xí)行為是隨著一個起強化作用的刺激而發(fā)生的。斯金納把動物的學(xué)習(xí)行為推而廣之到人類的學(xué)習(xí)行為上，他認(rèn)為雖然人類學(xué)習(xí)行為的性質(zhì)比動物復(fù)雜得多，但也要通過操作性條件反射。），這有助于我們對強化學(xué)習(xí)進(jìn)行理解。斯金納箱名字來源于哈佛大學(xué)的先驅(qū)心理學(xué)家 B.f. 斯金納利用操作性條件反射來訓(xùn)練受試動物執(zhí)行一些動作的實驗，比如按下一個杠桿，讓動物來響應(yīng)刺激（如光或聲音）。當(dāng)受試者正確地完成一項行為時，他們會得到某種形式的獎勵（通常是以食物或水的形式）。

人工智能研究中的強化學(xué)習(xí)方法的問題在于獎勵信號往往是「非常微弱的」，Hinton 說。在某些環(huán)境下，智能體會陷入在隨機(jī)數(shù)據(jù)中尋找模式的困境，即所謂的「噪聲電視問題」（一個智能體被置于一個迷宮中，并要找到一個非常有價值的物體的實驗，詳情請參閱 AI 科技評論文章：「你需要新的好奇心方法克服強化學(xué)習(xí)中的「拓展癥」」）

Hinton 說：「有時候，你會得到一個標(biāo)量信號，告訴你目前模型運行良好，但這種信號并不常見，信息量也不多。而你卻希望僅僅基于這個非常微弱的信號，就訓(xùn)練帶有數(shù)百萬個參數(shù)或數(shù)萬億個參數(shù)的系統(tǒng)。這時，你只能求助于大量的計算（許多效果驚人的演示樣例都需要依賴大量的計算）。這是解決問題的一個方向，但我卻并不認(rèn)為這種方式非常具有新引力。我認(rèn)為研究人員需要有更深刻的思考」。

Hinton 和Hassabis 一樣，他對自己的說法很有把握。Hinton 被一些人稱為「深度學(xué)習(xí)教父」。在過去 30 年中，Hinton 一直致力于解決人工智能面臨的一些最大的挑戰(zhàn)?，F(xiàn)在，他既要率領(lǐng)谷歌大腦深度學(xué)習(xí)研究團(tuán)隊，也有在多倫多大學(xué)擔(dān)任教職。除了在 DNN領(lǐng)域的開創(chuàng)性工作，Hinton 還在機(jī)器學(xué)習(xí)、知覺、記憶和符號處理方面撰寫或合著了 200 多篇經(jīng)過同行評審的出版物，而且他最近把注意力轉(zhuǎn)向了膠囊神經(jīng)網(wǎng)絡(luò)，這是一種包含有助于建立更穩(wěn)定的表征結(jié)構(gòu)的機(jī)器學(xué)習(xí)系統(tǒng)。

他說，幾十年體系化的研究經(jīng)歷使他確信，解決強化學(xué)習(xí)的可擴(kuò)展性問題的方法是用層次結(jié)構(gòu)來增強信號。

Hinton 解釋說：「假設(shè)你擁有一個龐大的組織，你會從組織的頂層發(fā)出強化信號。例如，首席執(zhí)行官被告知公司今年獲得了大量利潤，這就是他的強化信號。假設(shè)每季度會發(fā)出一次這樣的強化信號，這并不意味著要訓(xùn)練一大群等級森嚴(yán)的人去完成一些任務(wù)，但是如果首席執(zhí)行官下面有幾個副總裁，并且給每個副總裁分配一個目標(biāo)，以使他的收益最大化，這會帶來更多的利潤，他也會得到獎勵」。

Hinton 說，在這種安排下，即使沒有回報，也許是因為學(xué)著這樣做的首席執(zhí)行官給副總裁設(shè)定了錯誤的目標(biāo)（但這個每季度一次的循環(huán)周期仍將繼續(xù)），副總裁總能學(xué)到一些東西，這些東西在未來很可能會變得有用。

他補充道：「通過制定次級目標(biāo)，并提供報酬來實現(xiàn)這些次級目標(biāo)，可以通過制造更多微弱的信號來放大這些微弱的信號」。

這是一個看似復(fù)雜的思維實驗?？梢钥闯鰜?，這些副總裁需要建立一個溝通渠道，即中層和低層管理人員交流的渠道，與其他人溝通最終目標(biāo)、次級目標(biāo)和相關(guān)的獎勵條件。系統(tǒng)中的每個「雇員」都需要能夠決定他們是否做了正確的事情，這樣他們才能知道他們在什么情況下會得到獎勵。所以他們需要一個語言系統(tǒng)。

Hinton 說：「這是一個讓系統(tǒng)中的模塊為其他模塊創(chuàng)建子目標(biāo)的問題。你可以想象一個牧羊人和一只牧羊犬。他們創(chuàng)造了一種語言（不是英語），訓(xùn)練有素的牧羊犬和牧羊人可以非常好地交流。但是想象一下，如果牧羊犬有自己的牧羊犬。 然后它必須理解、總結(jié)出這個牧羊人手勢中的信息，并編造一些方法來和子牧羊犬（牧羊犬的牧羊犬）交談，從而傳達(dá)這些信息」。

幸運的是，最近被稱為 Transformers 的人工智能的突破性進(jìn)展可能是人們朝著正確方向邁出的一步。

谷歌的研究人員在去年發(fā)表的一篇博文和附錄的一篇論文（「Attention Is All You Need」，https://arxiv.org/abs/1706.03762）中，介紹了一種新型的神經(jīng)結(jié)構(gòu)（上面提到的 Transformers），它能夠在語言翻譯任務(wù)中取得比目前最先進(jìn)的模型更好的性能，同時所需的訓(xùn)練計算量也更少。

基于「Transformers」中的工作，谷歌于 2018 年 11 月開源了 Transformers 中的雙向編碼器表征模型 BERT。BERT 通過對任意語料庫生成的任務(wù)進(jìn)行預(yù)訓(xùn)練來學(xué)習(xí)對句子之間的關(guān)系進(jìn)行建模，使開發(fā)人員能夠在 30 分鐘內(nèi)在單個 CloudTPU （張量處理單元，谷歌的云托管加速器硬件）上訓(xùn)練最先進(jìn)的自然語言處理模型，同樣的任務(wù)在單個圖形處理器（GPU）上需要訓(xùn)練幾個小時。

Hinton 解釋說：「Transformers 是一種可以選擇路由的神經(jīng)網(wǎng)絡(luò)。在目前的神經(jīng)網(wǎng)絡(luò)中，你的輸入活動變化快，而網(wǎng)絡(luò)權(quán)重變化緩慢，這就是問題所在。生物學(xué)告訴你，你想要做的是在活動變化很快的情況下，可以在許多不同的時間尺度上修改突觸，這樣你就可以對最近發(fā)生的事情有一個記憶，并且很容易恢復(fù)它。 在 Transformers 中，一組神經(jīng)元得到了一些計算結(jié)果后，它并不會直接把它發(fā)送給所有與它相連的神經(jīng)元。經(jīng)過分析后，它會把計算結(jié)果發(fā)送給那些知道如何處理該計算結(jié)果的神經(jīng)元，而不是那些不知道如何處理它的神經(jīng)元」。

這不是什么新的想法。Hinton 指出，在 20 世紀(jì) 70 年代，大多數(shù)關(guān)于神經(jīng)網(wǎng)絡(luò)的研究都著眼于記憶方面，其目標(biāo)是通過修改權(quán)重來存儲信息，這樣就可以利用加權(quán)計算重新創(chuàng)建信息，而不是簡單地從某種形式的存儲結(jié)果中直接提取信息。

Hinton 表示：「實際上，你不會像在文件柜中那樣真正地存儲信息，你只需要對一些參數(shù)進(jìn)行修改，如果我給你一小部分信息，你就可以填出剩下的部分，就像用一些碎片制造出如恐龍一樣的龐然大物。我想說的是，我們應(yīng)該把這個想法用于短期記憶，而不僅僅是長期記憶，這樣它將解決各種問題」。

人工智能和算法偏見

展望未來，Hinton 相信，借鑒于生物學(xué)的經(jīng)驗，未來的人工智能系統(tǒng)的發(fā)展方向?qū)⒅饕菬o監(jiān)督學(xué)習(xí)的各種變體。無監(jiān)督學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個分支，它從未標(biāo)記、未分類和未歸類的測試數(shù)據(jù)中收集知識。他說，在學(xué)習(xí)數(shù)據(jù)間的共性并且對這種共性的存在或缺失做出反應(yīng)的能力上，無監(jiān)督學(xué)習(xí)幾乎與人類達(dá)到了相同的水平。

Hinton 說：「通常而言，人們很難獲得帶標(biāo)簽的數(shù)據(jù)。這不像你看到一個場景，有人把微電極放入你的下顳葉皮層，然后說在這個場景下應(yīng)該產(chǎn)生一個電脈沖。我認(rèn)為這是一種更具生物學(xué)意義的學(xué)習(xí)方式。大腦基本上就是這么工作的」。

Hassabis 對此表示贊同。

Hassabis 說：「我們（DeepMind）正在努力制定一種具有認(rèn)知能力的神經(jīng)科學(xué)研究路線圖，我們認(rèn)為這是擁有一個功能齊全的人類級人工智能系統(tǒng)所必需的。它需要能夠具備遷移學(xué)習(xí)的能力、掌握一定的概念性知識，而且具備某種意義上的創(chuàng)造力，能夠想象未來發(fā)生的情景、反設(shè)事實并規(guī)劃未來，具備使用語言和符號推理的能力。這些都是人類可以毫不費力地做到的事情」。

然而，隨著人工智能系統(tǒng)變得越來越復(fù)雜，一些技術(shù)專家和倫理學(xué)家擔(dān)心人工智能會吸收和反映現(xiàn)有訓(xùn)練數(shù)據(jù)中存在的偏見。事實上，有證據(jù)表明這種情況已經(jīng)發(fā)生了。

谷歌的人工智能研究科學(xué)家最近在一個免費的、開源的數(shù)據(jù)集上建立了一個預(yù)訓(xùn)練好的人工智能模型（https://venturebeat.com/2018/12/02/googles-inclusive-images-competition-spurs-development-of-less-biased-image-classification-ai/）。在其中一張照片中，一位穿著西式長裙和寬松婚紗的白人新娘被貼上了「連衣裙」、「女人」、「婚禮」和「新娘」等標(biāo)簽。然而，另一個形象，也是一個新娘，但是她有著亞裔血統(tǒng)，穿著民族服裝，卻被貼上了「服裝」、「活動」、「表演藝術(shù)」等標(biāo)簽。更糟糕的是，這個模型完全忽略了圖片中的人物。

與此同時，「華盛頓郵報」2018 年 7 月進(jìn)行的兩項研究顯示，亞馬遜和谷歌生產(chǎn)的智能音箱聽懂非美國口音的可能性，比聽土生土長的美國人的口音低 30% 。像 Switchboard 這樣由 IBM 和微軟等公司用來測量語音模型錯誤率的數(shù)據(jù)集，已經(jīng)被證明偏向于識別出來自美國特定地區(qū)的用戶。

計算機(jī)視覺算法在克服偏見的問題上也沒有表現(xiàn)得更好。

2012 年發(fā)表的一項研究表明，供應(yīng)商 Cognitec 公司開發(fā)的人臉識別算法在非裔美國人身上的表現(xiàn)比白種人差 5% 到 10%。據(jù)透露，最近由倫敦首都警察安全局部署的一個系統(tǒng)每次運行會產(chǎn)生多達(dá) 49 個錯誤的匹配結(jié)果。今年夏天，在亞馬遜 Rekognition 服務(wù)的一次測試中，美國公民自由聯(lián)盟調(diào)查局發(fā)現(xiàn)，當(dāng)他們從一個「公開的數(shù)據(jù)源」獲取 25000 張照片，并將其與國會議員的官方照片進(jìn)行比較時，有 28 張照片被誤認(rèn)為是罪犯。

Hinton 并沒有因為負(fù)面新聞而氣餒。他認(rèn)為，人工智能的一個明顯優(yōu)勢在于它所提供的靈活性，而數(shù)據(jù)中的偏見可以很容易地被建模。

他說：「任何從數(shù)據(jù)中學(xué)到的東西都會學(xué)到數(shù)據(jù)中的所有偏見。好消息是，如果你能對數(shù)據(jù)中的偏見進(jìn)行建模，你就能非常有效地消除這些偏差。有各種各樣的方法可以做到這一點」。

他指出，這在人類身上并不總是奏效。

「如果你讓人們做這些工作，你可以嘗試對他們的偏見建模，但告訴他們不要有偏見并不能真正減少偏見。因此，我認(rèn)為相較之下，在機(jī)器學(xué)習(xí)系統(tǒng)中，處理偏見要容易得多」。

Hinton 指出，一系列新出現(xiàn)的減輕偏見的工具有望被引入到更加公正的人工智能系統(tǒng)中。

2018 年 5 月，F(xiàn)acebook 發(fā)布了「Fairness Flow」，當(dāng)算法根據(jù)一個人的種族、性別或年齡做出不公平的判斷時，它會自動發(fā)出警告。Accenture 也發(fā)布了一個工具包，可以自動檢測人工智能算法中的偏見，并幫助數(shù)據(jù)科學(xué)家減輕這種偏見。微軟也在 2018 年 5 月推出了自己的解決方案；而在 9 月，谷歌推出了「What-If」工具，它也是谷歌用于 TensorFlow 機(jī)器學(xué)習(xí)框架的TensorBoard 的偏見檢測功能。

IBM也不甘示弱，于 2018 年秋季發(fā)布了 AI fair 360，這是一款基于云計算的全自動化套件，可以「持續(xù)輸出思考結(jié)果」，幫助人們了解人工智能系統(tǒng)如何做出決策，并推薦一些可能會減輕偏見影響的調(diào)整方法（比如算法調(diào)整或數(shù)據(jù)平衡）。Watson 和云平臺研究小組最近的研究著眼于在減少人工智能模型中的偏見，特別是與面部識別有關(guān)的偏見。

「擁有運算速度非?？斓挠嬎銠C(jī)的一個好處是，你現(xiàn)在可以編寫一些效率相對較低的軟件，但這很容易理解，因為你的計算機(jī)有飛一般的速度。人們往往不喜歡這么做，但通常而言，你確實會想要擁有運行速度非常快的計算機(jī)。在犧牲代碼效率的條件下，你可以在取得令人難以置信的準(zhǔn)確率的情況下，讓編寫代碼的工作不那么復(fù)雜。有了難以置信的準(zhǔn)確性，你就有余地讓它們稍微不那么準(zhǔn)確，從而達(dá)到你想要的其他目的。在我看來，這是一個公平性和性能的折中」。

人工智能與就業(yè)

Hinton 對人工智能對就業(yè)市場的影響也持樂觀態(tài)度。

「有的人認(rèn)為通用人工智能這個詞帶有這樣的含義：這種機(jī)器人個體突然會比你更聰明。我覺得不會是那樣的，我認(rèn)為，我們做的越來越多的日常事務(wù)將被人工智能系統(tǒng)（如谷歌助手）所取代」。

Forrester 公司的分析師最近預(yù)測，機(jī)器人過程自動化（RPA）和人工智能將在明年為 40% 以上的公司創(chuàng)造數(shù)字化工作者，這種軟件能夠自動完成傳統(tǒng)上由人類完成的任務(wù)。到 2019 年，美國將有大約 10% 的工作崗位因自動化而消失。此外，世界經(jīng)濟(jì)論壇、普華永道和 Gartner 預(yù)測，到 2025 年，人工智能將讓 7500 萬人失業(yè)。

但 Hinton 認(rèn)為通用人工智能不會讓人類被解雇。相反，他表示，人工智能對世界的認(rèn)識在很大程度上仍將是短視的，至少在不久的將來是這樣。他相信，人工智能將繼續(xù)以平凡但有意義的方式改善我們的生活。

他說，「未來的人工智能系統(tǒng)將會非常了解你可能想要做什么，以及如何去做，這將會非常有幫助。但它不會取代你。如果你選用了一個非常擅長自動駕駛的系統(tǒng)，然后在第一天就乘坐它出行，我認(rèn)為這將是一場災(zāi)難」。

對于目前由人類執(zhí)行的危險任務(wù)，Hinton 認(rèn)為這是朝著正確方向邁出的一步。

「人們真的應(yīng)該害怕坐在一輛由巨大的神經(jīng)網(wǎng)絡(luò)控制的汽車?yán)?，因為它無法告訴你它在做什么，」他說，「我們知道，這樣的工作叫出租車司機(jī)」。