梅拉妮·米歇爾訪談：人工智能十二問(wèn)

導(dǎo)語(yǔ)

過(guò)去幾年，人工智能一直是熱點(diǎn)話(huà)題，而近幾個(gè)月伴隨著ChatGPT的橫空出世，關(guān)于人工智能的討論更是不勝枚舉。支撐ChatGPT的是一個(gè)名為GPT-3.5的大語(yǔ)言模型（LLMs），能夠生成流利的文本，并回答各種問(wèn)題。而今年3月發(fā)布的最新版本GPT-4則更上一層樓，可執(zhí)行超出訓(xùn)練范圍的任務(wù)，展現(xiàn)出通用人工智能的跡象。

那么這些人工智能模型到底有多聰明？它們的崛起對(duì)人類(lèi)又意味著什么? 《新科學(xué)雜志》就此采訪了計(jì)算機(jī)科學(xué)家梅蘭妮·米切爾，向其提出了十二個(gè)問(wèn)題，以下為訪談紀(jì)要。

一、為何目前人們都將目光轉(zhuǎn)向人工智能？

ChatGPT等大語(yǔ)言模型對(duì)公眾開(kāi)放，任何人都可使用這些模型，了解其能力。大語(yǔ)言模型進(jìn)入飛速發(fā)展階段。過(guò)去五年，大語(yǔ)言模型逐步發(fā)展成熟，經(jīng)過(guò)訓(xùn)練后能夠生成媲美人類(lèi)作家的文本。這種“類(lèi)人智能”表現(xiàn)讓人們不禁產(chǎn)生錯(cuò)覺(jué)，電影和科幻小說(shuō)中所描述的人工智能終于出現(xiàn)了，人們對(duì)此感到好奇，同時(shí)也感到一些恐懼。

二、如今，生成式人工智能已發(fā)展到何種水平？我們?cè)撊绾螌?duì)其進(jìn)行評(píng)估？

有關(guān)人工智能水平的爭(zhēng)論有很多，造成這種局面的原因在于智力、認(rèn)知和意識(shí)等我們所關(guān)心的這些概念定義不明；其次，這些人工智能模型的運(yùn)行機(jī)制與人類(lèi)思維非常不同。最近，我們看到GPT-4成功通過(guò)了美國(guó)律師資格考試，如果一個(gè)人成功通過(guò)資格考試，我們一般會(huì)認(rèn)為他擁有很高的一般智力，但誰(shuí)能斷言這樣的測(cè)試同樣適用于評(píng)估人工智能呢?

三、這些大語(yǔ)言模型本質(zhì)是什么?其智能水平如何？

讓我們從簡(jiǎn)單的語(yǔ)言模型概念講起。選取一個(gè)短語(yǔ)，比如“綠色青蛙”，然后在大量的文本中搜索這一短語(yǔ)，看看哪些單詞通常跟在這個(gè)短語(yǔ)后面，如“跳躍”或“游泳”，但不太可能是“花椰菜”。每個(gè)單詞出現(xiàn)在這個(gè)短語(yǔ)之后的概率是多少?通過(guò)存儲(chǔ)大量可能出現(xiàn)的單詞序列概率，可以從文本提示開(kāi)始查找下一個(gè)最可能的單詞是什么，這就是簡(jiǎn)單語(yǔ)言模型的工作原理。

現(xiàn)在巨大的神經(jīng)網(wǎng)絡(luò)模型執(zhí)行這個(gè)計(jì)算單詞概率的任務(wù)，并用大量的文本訓(xùn)練它。這些巨大的神經(jīng)網(wǎng)絡(luò)模型被稱(chēng)為“大語(yǔ)言模型”，可以學(xué)習(xí)短語(yǔ)之間非常復(fù)雜的統(tǒng)計(jì)關(guān)聯(lián)。問(wèn)題在于，由于神經(jīng)網(wǎng)絡(luò)模型及其操作的復(fù)雜性，很難深入了解并確切說(shuō)出為預(yù)測(cè)下一個(gè)單詞其受到的訓(xùn)練。

四、既然這些大語(yǔ)言模型實(shí)際所做的只是預(yù)測(cè)下一個(gè)單詞，為何說(shuō)已經(jīng)堪比人類(lèi)智能了？

我們很難評(píng)估語(yǔ)言模型的智能水平，盡管如此，當(dāng)前還是存在三種基本的評(píng)估方法，分別為：

一是與語(yǔ)言模型進(jìn)行互動(dòng)，通過(guò)交談、問(wèn)問(wèn)題和出謎語(yǔ)，測(cè)試語(yǔ)言模型的反應(yīng)，進(jìn)而做出判斷。這類(lèi)似于圖靈測(cè)試，即機(jī)器是否具備人類(lèi)的能力？而問(wèn)題在于人類(lèi)習(xí)慣將智能歸功于非智能因素；

二是做一些邏輯對(duì)比試驗(yàn)，如給人工智能模型兩個(gè)句子組合。一個(gè)組合中，第一個(gè)句子與第二個(gè)句子存在邏輯聯(lián)系，而另一個(gè)組合的句子間沒(méi)有邏輯聯(lián)系。這些大語(yǔ)言模型在判斷句子邏輯關(guān)聯(lián)方面非常優(yōu)秀。但事實(shí)往往證明，它們做得好并不是因?yàn)槟芟袢祟?lèi)那樣理解句子，而是使用了統(tǒng)計(jì)關(guān)聯(lián)方法；

三是可以從神經(jīng)網(wǎng)絡(luò)模型入手，試著了解機(jī)器解決問(wèn)題的機(jī)制。人們正在研究這個(gè)問(wèn)題，但這非常困難，因?yàn)檫@個(gè)系統(tǒng)太復(fù)雜了。所以目前為止還沒(méi)有萬(wàn)無(wú)一失的成型的測(cè)試方法來(lái)評(píng)估這些語(yǔ)言模型的能力。

五、當(dāng)前努力理解人工智能模型的能力是否會(huì)加深對(duì)智能和認(rèn)知的認(rèn)識(shí)？

人工智能的整個(gè)發(fā)展史都是如此。在20世紀(jì)70年代和80年代，很多人都說(shuō)，如果人工智能在國(guó)際象棋領(lǐng)域要達(dá)到特級(jí)大師的水平，需要擁有一般人類(lèi)的智力。然后我們發(fā)明出了“深藍(lán)”（Deep Blue）超級(jí)計(jì)算機(jī)，擊敗了國(guó)際象棋大師加里·卡斯帕羅夫（Garry Kasparov）。如今歷史再次重演，規(guī)則再一次被改變。但從更積極的角度來(lái)看，人工智能將繼續(xù)挑戰(zhàn)我們對(duì)智能的概念，或者我們對(duì)認(rèn)知的定義。

我們知道智力有幾種不同的表現(xiàn)形式，例如，人類(lèi)智能與章魚(yú)的智能非常不同，也與生成式人工智能的能力不同。我們中的一些人一直在用“多元智能”這個(gè)詞來(lái)強(qiáng)調(diào)智能不止一種。我們?nèi)绾蚊枋鲞@些不同的智能?它們有什么共同特點(diǎn)嗎?它們完全不同嗎?這些都是我們需要解決的問(wèn)題。

六、大語(yǔ)言模型有何驚艷之處？

近期常有人將大語(yǔ)言模型的表現(xiàn)稱(chēng)之為“涌現(xiàn)現(xiàn)象”，即大語(yǔ)言模型不僅具有語(yǔ)言處理能力，而且貌似已具備類(lèi)似人類(lèi)的邏輯推理能力，可解答數(shù)學(xué)題、編寫(xiě)計(jì)算機(jī)代碼、分析故事人物性格。然而，人們尚不清楚這一切能力背后的運(yùn)行機(jī)制。大語(yǔ)言模型卓越的表現(xiàn)甚至讓人一度認(rèn)為它們經(jīng)受海量人類(lèi)文本訓(xùn)練后，可以感知當(dāng)今世界。因此，當(dāng)前困擾大眾的難題就是大語(yǔ)言模型可以像人類(lèi)一樣進(jìn)行邏輯推理嗎？還是只是通過(guò)復(fù)雜的統(tǒng)計(jì)關(guān)聯(lián)來(lái)運(yùn)行？它為何不能和人類(lèi)一樣進(jìn)行推理？

七、當(dāng)前對(duì)大語(yǔ)言模型背后的運(yùn)行機(jī)制有何重要認(rèn)識(shí)？

鑒于每月各大科技公司和研究院都會(huì)推出新的大語(yǔ)言模型，開(kāi)發(fā)新的功能，因此現(xiàn)在去解釋其背后的運(yùn)行機(jī)制還為時(shí)尚早。對(duì)于GPT-3，人們至少還能了解其背后的訓(xùn)練數(shù)據(jù)。而到了GPT-4，就無(wú)法做到這一點(diǎn)。OpenAI給出的解釋是，GPT-4作為一款商業(yè)產(chǎn)品，為保持其競(jìng)爭(zhēng)優(yōu)勢(shì)，同時(shí)考慮到安全因素，無(wú)法對(duì)外公開(kāi)其訓(xùn)練數(shù)據(jù)。大語(yǔ)言模型的不透明導(dǎo)致無(wú)法研究其背后的運(yùn)行機(jī)制。

八、當(dāng)前人工智能技術(shù)是否已顯露通用人工智能的特征？或者需要另辟蹊徑來(lái)開(kāi)發(fā)通用人工智能？

我們需要先回答：何為通用人工智能？對(duì)此眾說(shuō)紛紜，莫衷一是。因此如果當(dāng)前我們連研究目標(biāo)都沒(méi)有搞清，談何研發(fā)通用人工智能。心理學(xué)界一直有人質(zhì)疑人類(lèi)是否具備一般智力。人類(lèi)智力對(duì)人類(lèi)進(jìn)化歷程的作用十分特殊，并非我們所想的那樣具備一般性?；诖?，我認(rèn)為單憑大語(yǔ)言模型不斷迭代更新，無(wú)法研制出具有類(lèi)似人類(lèi)認(rèn)知能力的人工智能。我們期盼人工智能不僅僅具有語(yǔ)文理解力，還應(yīng)具備視覺(jué)理解力，具備在給定環(huán)境理解并作出正確決策的能力。

為實(shí)現(xiàn)這一點(diǎn)，我們將需要開(kāi)發(fā)不同的架構(gòu)。以GPT-4為例，該類(lèi)語(yǔ)言模型不具備長(zhǎng)時(shí)記憶，因此記不住過(guò)去的對(duì)話(huà)，從某種意義上講，它們并不關(guān)心自己過(guò)去講過(guò)什么。有學(xué)者指出，人類(lèi)大部分智力都是以動(dòng)機(jī)為導(dǎo)向，人類(lèi)通過(guò)智力實(shí)現(xiàn)進(jìn)化所設(shè)定的目標(biāo)。如果一個(gè)系統(tǒng)沒(méi)有任何動(dòng)機(jī)，或者說(shuō)沒(méi)有自己的目標(biāo)，將無(wú)法具備類(lèi)似人類(lèi)的智能。

九、有人認(rèn)為人工智能將擁有知覺(jué)或有意識(shí)，你如何看？

數(shù)千年前，哲學(xué)家就指出，如何知道對(duì)方是否有意識(shí)？人類(lèi)可以感知自身的意識(shí)，而無(wú)法感知他人的意識(shí)，對(duì)方也許是頭僵尸呢？同理，我并不清楚何為有意識(shí)的人工智能，而且關(guān)于這一問(wèn)題的爭(zhēng)論永無(wú)定論，因此我不愿意去思考這一問(wèn)題。

十、大語(yǔ)言模型將如何應(yīng)用于日常生活？我們應(yīng)該如何與其相處？

有些應(yīng)用平平無(wú)奇，如幫助寫(xiě)郵件或者報(bào)告，提升人類(lèi)工作效率；有些應(yīng)用也許顛覆想象，這很難預(yù)測(cè)，如代替律師訴訟，幫助醫(yī)生診斷疾病，制定醫(yī)療方案。對(duì)此，我無(wú)法預(yù)測(cè)。但就目前而言，大語(yǔ)言模型仍存在許多缺點(diǎn)，需要人類(lèi)對(duì)其監(jiān)管。人類(lèi)需要具備辨別真假信息的能力，而這正是目前大語(yǔ)言模型的一個(gè)致命弱點(diǎn)。

十一、上個(gè)月，數(shù)千名人工智能領(lǐng)域知名專(zhuān)家學(xué)者聯(lián)名簽署一封公開(kāi)信，呼吁暫停人工智能研究。當(dāng)前我們的步子邁得太快了嗎？

也許是這樣的。政策法規(guī)往往跟不上技術(shù)的發(fā)展速度。對(duì)于人工智能而言，在醫(yī)療、法律、新聞業(yè)等領(lǐng)域部署人工智能系統(tǒng)存在諸多風(fēng)險(xiǎn)。盡管如此，我并沒(méi)有簽署那封信，因?yàn)樵摴_(kāi)信泥沙俱下，其中一些風(fēng)險(xiǎn)真實(shí)存在，而有些風(fēng)險(xiǎn)存在夸大之嫌。其所描繪的人工智能危機(jī)無(wú)法令人信服。我認(rèn)為需要對(duì)人工智能進(jìn)行監(jiān)管。即便是人工智能技術(shù)的日常應(yīng)用也存在諸多風(fēng)險(xiǎn)，如偏見(jiàn)和不實(shí)信息。但我認(rèn)為暫停人工智能技術(shù)研發(fā)并非良策。相反，我們應(yīng)該了解其訓(xùn)練數(shù)據(jù)，而不應(yīng)單純相信OpenAI所說(shuō)的“相信我們，我們知道自己在做些什么”。

十二、你如何評(píng)價(jià)當(dāng)前人工智能技術(shù)的風(fēng)險(xiǎn)與益處？

首先，這些系統(tǒng)尚不可靠，也不具備意識(shí)，無(wú)法決定是否會(huì)做出對(duì)人類(lèi)有害的事，真正可能造成傷害的是使用這些系統(tǒng)的人類(lèi)，因此我們需要對(duì)其進(jìn)行監(jiān)管；

其次，我們尚未搞清人工智能的運(yùn)行機(jī)制，但這并不意味著人工智能很神秘，只是非常復(fù)雜罷了。只要不斷鉆研下去，人類(lèi)遲早會(huì)完全理解人工智能的運(yùn)行機(jī)制。要想做到這一點(diǎn)，就不能讓這些系統(tǒng)都掌握在商業(yè)公司手中。這些語(yǔ)言模型提供了一個(gè)契機(jī)，幫助我們加深對(duì)認(rèn)知力的認(rèn)識(shí)。從它們身上，我們可以更好地理解人類(lèi)自身，如人類(lèi)智力的作用機(jī)制，一般智力如何發(fā)揮多樣作用。不過(guò)與此同時(shí)，我們必須保持清醒的認(rèn)識(shí)，警惕在現(xiàn)實(shí)世界中部署此類(lèi)模型所涉及的危險(xiǎn)、風(fēng)險(xiǎn)和問(wèn)題。

審核編輯 ：李倩