導(dǎo)語(yǔ)
過(guò)去幾年,人工智能一直是熱點(diǎn)話(huà)題,而近幾個(gè)月伴隨著ChatGPT的橫空出世,關(guān)于人工智能的討論更是不勝枚舉。支撐ChatGPT的是一個(gè)名為GPT-3.5的大語(yǔ)言模型(LLMs),能夠生成流利的文本,并回答各種問(wèn)題。而今年3月發(fā)布的最新版本GPT-4則更上一層樓,可執(zhí)行超出訓(xùn)練范圍的任務(wù),展現(xiàn)出通用人工智能的跡象。
那么這些人工智能模型到底有多聰明?它們的崛起對(duì)人類(lèi)又意味著什么? 《新科學(xué)雜志》就此采訪了計(jì)算機(jī)科學(xué)家梅蘭妮·米切爾,向其提出了十二個(gè)問(wèn)題,以下為訪談紀(jì)要。
一、為何目前人們都將目光轉(zhuǎn)向人工智能?
ChatGPT等大語(yǔ)言模型對(duì)公眾開(kāi)放,任何人都可使用這些模型,了解其能力。大語(yǔ)言模型進(jìn)入飛速發(fā)展階段。過(guò)去五年,大語(yǔ)言模型逐步發(fā)展成熟,經(jīng)過(guò)訓(xùn)練后能夠生成媲美人類(lèi)作家的文本。這種“類(lèi)人智能”表現(xiàn)讓人們不禁產(chǎn)生錯(cuò)覺(jué),電影和科幻小說(shuō)中所描述的人工智能終于出現(xiàn)了,人們對(duì)此感到好奇,同時(shí)也感到一些恐懼。
二、如今,生成式人工智能已發(fā)展到何種水平?我們?cè)撊绾螌?duì)其進(jìn)行評(píng)估?
有關(guān)人工智能水平的爭(zhēng)論有很多,造成這種局面的原因在于智力、認(rèn)知和意識(shí)等我們所關(guān)心的這些概念定義不明;其次,這些人工智能模型的運(yùn)行機(jī)制與人類(lèi)思維非常不同。最近,我們看到GPT-4成功通過(guò)了美國(guó)律師資格考試,如果一個(gè)人成功通過(guò)資格考試,我們一般會(huì)認(rèn)為他擁有很高的一般智力,但誰(shuí)能斷言這樣的測(cè)試同樣適用于評(píng)估人工智能呢?
三、這些大語(yǔ)言模型本質(zhì)是什么?其智能水平如何?
讓我們從簡(jiǎn)單的語(yǔ)言模型概念講起。選取一個(gè)短語(yǔ),比如“綠色青蛙”,然后在大量的文本中搜索這一短語(yǔ),看看哪些單詞通常跟在這個(gè)短語(yǔ)后面,如“跳躍”或“游泳”,但不太可能是“花椰菜”。每個(gè)單詞出現(xiàn)在這個(gè)短語(yǔ)之后的概率是多少?通過(guò)存儲(chǔ)大量可能出現(xiàn)的單詞序列概率,可以從文本提示開(kāi)始查找下一個(gè)最可能的單詞是什么,這就是簡(jiǎn)單語(yǔ)言模型的工作原理。
現(xiàn)在巨大的神經(jīng)網(wǎng)絡(luò)模型執(zhí)行這個(gè)計(jì)算單詞概率的任務(wù),并用大量的文本訓(xùn)練它。這些巨大的神經(jīng)網(wǎng)絡(luò)模型被稱(chēng)為“大語(yǔ)言模型”,可以學(xué)習(xí)短語(yǔ)之間非常復(fù)雜的統(tǒng)計(jì)關(guān)聯(lián)。問(wèn)題在于,由于神經(jīng)網(wǎng)絡(luò)模型及其操作的復(fù)雜性,很難深入了解并確切說(shuō)出為預(yù)測(cè)下一個(gè)單詞其受到的訓(xùn)練。
四、既然這些大語(yǔ)言模型實(shí)際所做的只是預(yù)測(cè)下一個(gè)單詞,為何說(shuō)已經(jīng)堪比人類(lèi)智能了?
我們很難評(píng)估語(yǔ)言模型的智能水平,盡管如此,當(dāng)前還是存在三種基本的評(píng)估方法,分別為:
一是與語(yǔ)言模型進(jìn)行互動(dòng),通過(guò)交談、問(wèn)問(wèn)題和出謎語(yǔ),測(cè)試語(yǔ)言模型的反應(yīng),進(jìn)而做出判斷。這類(lèi)似于圖靈測(cè)試,即機(jī)器是否具備人類(lèi)的能力?而問(wèn)題在于人類(lèi)習(xí)慣將智能歸功于非智能因素;
二是做一些邏輯對(duì)比試驗(yàn),如給人工智能模型兩個(gè)句子組合。一個(gè)組合中,第一個(gè)句子與第二個(gè)句子存在邏輯聯(lián)系,而另一個(gè)組合的句子間沒(méi)有邏輯聯(lián)系。這些大語(yǔ)言模型在判斷句子邏輯關(guān)聯(lián)方面非常優(yōu)秀。但事實(shí)往往證明,它們做得好并不是因?yàn)槟芟袢祟?lèi)那樣理解句子,而是使用了統(tǒng)計(jì)關(guān)聯(lián)方法;
三是可以從神經(jīng)網(wǎng)絡(luò)模型入手,試著了解機(jī)器解決問(wèn)題的機(jī)制。人們正在研究這個(gè)問(wèn)題,但這非常困難,因?yàn)檫@個(gè)系統(tǒng)太復(fù)雜了。所以目前為止還沒(méi)有萬(wàn)無(wú)一失的成型的測(cè)試方法來(lái)評(píng)估這些語(yǔ)言模型的能力。
五、當(dāng)前努力理解人工智能模型的能力是否會(huì)加深對(duì)智能和認(rèn)知的認(rèn)識(shí)?
人工智能的整個(gè)發(fā)展史都是如此。在20世紀(jì)70年代和80年代,很多人都說(shuō),如果人工智能在國(guó)際象棋領(lǐng)域要達(dá)到特級(jí)大師的水平,需要擁有一般人類(lèi)的智力。然后我們發(fā)明出了“深藍(lán)”(Deep Blue)超級(jí)計(jì)算機(jī),擊敗了國(guó)際象棋大師加里·卡斯帕羅夫(Garry Kasparov)。如今歷史再次重演,規(guī)則再一次被改變。但從更積極的角度來(lái)看,人工智能將繼續(xù)挑戰(zhàn)我們對(duì)智能的概念,或者我們對(duì)認(rèn)知的定義。
我們知道智力有幾種不同的表現(xiàn)形式,例如,人類(lèi)智能與章魚(yú)的智能非常不同,也與生成式人工智能的能力不同。我們中的一些人一直在用“多元智能”這個(gè)詞來(lái)強(qiáng)調(diào)智能不止一種。我們?nèi)绾蚊枋鲞@些不同的智能?它們有什么共同特點(diǎn)嗎?它們完全不同嗎?這些都是我們需要解決的問(wèn)題。
六、大語(yǔ)言模型有何驚艷之處?
近期常有人將大語(yǔ)言模型的表現(xiàn)稱(chēng)之為“涌現(xiàn)現(xiàn)象”,即大語(yǔ)言模型不僅具有語(yǔ)言處理能力,而且貌似已具備類(lèi)似人類(lèi)的邏輯推理能力,可解答數(shù)學(xué)題、編寫(xiě)計(jì)算機(jī)代碼、分析故事人物性格。然而,人們尚不清楚這一切能力背后的運(yùn)行機(jī)制。大語(yǔ)言模型卓越的表現(xiàn)甚至讓人一度認(rèn)為它們經(jīng)受海量人類(lèi)文本訓(xùn)練后,可以感知當(dāng)今世界。因此,當(dāng)前困擾大眾的難題就是大語(yǔ)言模型可以像人類(lèi)一樣進(jìn)行邏輯推理嗎?還是只是通過(guò)復(fù)雜的統(tǒng)計(jì)關(guān)聯(lián)來(lái)運(yùn)行?它為何不能和人類(lèi)一樣進(jìn)行推理?
七、當(dāng)前對(duì)大語(yǔ)言模型背后的運(yùn)行機(jī)制有何重要認(rèn)識(shí)?
鑒于每月各大科技公司和研究院都會(huì)推出新的大語(yǔ)言模型,開(kāi)發(fā)新的功能,因此現(xiàn)在去解釋其背后的運(yùn)行機(jī)制還為時(shí)尚早。對(duì)于GPT-3,人們至少還能了解其背后的訓(xùn)練數(shù)據(jù)。而到了GPT-4,就無(wú)法做到這一點(diǎn)。OpenAI給出的解釋是,GPT-4作為一款商業(yè)產(chǎn)品,為保持其競(jìng)爭(zhēng)優(yōu)勢(shì),同時(shí)考慮到安全因素,無(wú)法對(duì)外公開(kāi)其訓(xùn)練數(shù)據(jù)。大語(yǔ)言模型的不透明導(dǎo)致無(wú)法研究其背后的運(yùn)行機(jī)制。
八、當(dāng)前人工智能技術(shù)是否已顯露通用人工智能的特征?或者需要另辟蹊徑來(lái)開(kāi)發(fā)通用人工智能?
我們需要先回答:何為通用人工智能?對(duì)此眾說(shuō)紛紜,莫衷一是。因此如果當(dāng)前我們連研究目標(biāo)都沒(méi)有搞清,談何研發(fā)通用人工智能。心理學(xué)界一直有人質(zhì)疑人類(lèi)是否具備一般智力。人類(lèi)智力對(duì)人類(lèi)進(jìn)化歷程的作用十分特殊,并非我們所想的那樣具備一般性?;诖?,我認(rèn)為單憑大語(yǔ)言模型不斷迭代更新,無(wú)法研制出具有類(lèi)似人類(lèi)認(rèn)知能力的人工智能。我們期盼人工智能不僅僅具有語(yǔ)文理解力,還應(yīng)具備視覺(jué)理解力,具備在給定環(huán)境理解并作出正確決策的能力。
為實(shí)現(xiàn)這一點(diǎn),我們將需要開(kāi)發(fā)不同的架構(gòu)。以GPT-4為例,該類(lèi)語(yǔ)言模型不具備長(zhǎng)時(shí)記憶,因此記不住過(guò)去的對(duì)話(huà),從某種意義上講,它們并不關(guān)心自己過(guò)去講過(guò)什么。有學(xué)者指出,人類(lèi)大部分智力都是以動(dòng)機(jī)為導(dǎo)向,人類(lèi)通過(guò)智力實(shí)現(xiàn)進(jìn)化所設(shè)定的目標(biāo)。如果一個(gè)系統(tǒng)沒(méi)有任何動(dòng)機(jī),或者說(shuō)沒(méi)有自己的目標(biāo),將無(wú)法具備類(lèi)似人類(lèi)的智能。
九、有人認(rèn)為人工智能將擁有知覺(jué)或有意識(shí),你如何看?
數(shù)千年前,哲學(xué)家就指出,如何知道對(duì)方是否有意識(shí)?人類(lèi)可以感知自身的意識(shí),而無(wú)法感知他人的意識(shí),對(duì)方也許是頭僵尸呢?同理,我并不清楚何為有意識(shí)的人工智能,而且關(guān)于這一問(wèn)題的爭(zhēng)論永無(wú)定論,因此我不愿意去思考這一問(wèn)題。
十、大語(yǔ)言模型將如何應(yīng)用于日常生活?我們應(yīng)該如何與其相處?
有些應(yīng)用平平無(wú)奇,如幫助寫(xiě)郵件或者報(bào)告,提升人類(lèi)工作效率;有些應(yīng)用也許顛覆想象,這很難預(yù)測(cè),如代替律師訴訟,幫助醫(yī)生診斷疾病,制定醫(yī)療方案。對(duì)此,我無(wú)法預(yù)測(cè)。但就目前而言,大語(yǔ)言模型仍存在許多缺點(diǎn),需要人類(lèi)對(duì)其監(jiān)管。人類(lèi)需要具備辨別真假信息的能力,而這正是目前大語(yǔ)言模型的一個(gè)致命弱點(diǎn)。
十一、上個(gè)月,數(shù)千名人工智能領(lǐng)域知名專(zhuān)家學(xué)者聯(lián)名簽署一封公開(kāi)信,呼吁暫停人工智能研究。當(dāng)前我們的步子邁得太快了嗎?
也許是這樣的。政策法規(guī)往往跟不上技術(shù)的發(fā)展速度。對(duì)于人工智能而言,在醫(yī)療、法律、新聞業(yè)等領(lǐng)域部署人工智能系統(tǒng)存在諸多風(fēng)險(xiǎn)。盡管如此,我并沒(méi)有簽署那封信,因?yàn)樵摴_(kāi)信泥沙俱下,其中一些風(fēng)險(xiǎn)真實(shí)存在,而有些風(fēng)險(xiǎn)存在夸大之嫌。其所描繪的人工智能危機(jī)無(wú)法令人信服。我認(rèn)為需要對(duì)人工智能進(jìn)行監(jiān)管。即便是人工智能技術(shù)的日常應(yīng)用也存在諸多風(fēng)險(xiǎn),如偏見(jiàn)和不實(shí)信息。但我認(rèn)為暫停人工智能技術(shù)研發(fā)并非良策。相反,我們應(yīng)該了解其訓(xùn)練數(shù)據(jù),而不應(yīng)單純相信OpenAI所說(shuō)的“相信我們,我們知道自己在做些什么”。
十二、你如何評(píng)價(jià)當(dāng)前人工智能技術(shù)的風(fēng)險(xiǎn)與益處?
首先,這些系統(tǒng)尚不可靠,也不具備意識(shí),無(wú)法決定是否會(huì)做出對(duì)人類(lèi)有害的事,真正可能造成傷害的是使用這些系統(tǒng)的人類(lèi),因此我們需要對(duì)其進(jìn)行監(jiān)管;
其次,我們尚未搞清人工智能的運(yùn)行機(jī)制,但這并不意味著人工智能很神秘,只是非常復(fù)雜罷了。只要不斷鉆研下去,人類(lèi)遲早會(huì)完全理解人工智能的運(yùn)行機(jī)制。要想做到這一點(diǎn),就不能讓這些系統(tǒng)都掌握在商業(yè)公司手中。這些語(yǔ)言模型提供了一個(gè)契機(jī),幫助我們加深對(duì)認(rèn)知力的認(rèn)識(shí)。從它們身上,我們可以更好地理解人類(lèi)自身,如人類(lèi)智力的作用機(jī)制,一般智力如何發(fā)揮多樣作用。不過(guò)與此同時(shí),我們必須保持清醒的認(rèn)識(shí),警惕在現(xiàn)實(shí)世界中部署此類(lèi)模型所涉及的危險(xiǎn)、風(fēng)險(xiǎn)和問(wèn)題。
審核編輯 :李倩
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4726瀏覽量
100318 -
人工智能
+關(guān)注
關(guān)注
1789文章
46368瀏覽量
236559 -
語(yǔ)言模型
+關(guān)注
關(guān)注
0文章
491瀏覽量
10229
原文標(biāo)題:梅拉妮·米歇爾訪談:人工智能十二問(wèn)
文章出處:【微信號(hào):AI智勝未來(lái),微信公眾號(hào):AI智勝未來(lái)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論