關(guān)于生成式人工智能你應(yīng)該知道的7件事

ChatGPT和類(lèi)似的人工智能工具可以生成包括文本、圖像和音頻在內(nèi)的內(nèi)容，讓高等教育領(lǐng)域領(lǐng)導(dǎo)者、教師、學(xué)生和其他人既興奮又擔(dān)憂(yōu)。我們應(yīng)將人工智能工具引入學(xué)習(xí)過(guò)程，避免圍繞這些新技術(shù)而產(chǎn)生的恐慌，并為不同類(lèi)型的學(xué)習(xí)提供機(jī)會(huì)。

1、生成式人工智能是什么？

長(zhǎng)期以來(lái)，人工智能一直在我們?nèi)粘Ｊ褂玫脑S多技術(shù)的幕后運(yùn)作，但隨著2022年11月ChatGPT的推出，生成式人工智能在全球掀起了一場(chǎng)風(fēng)暴，激發(fā)了廣大用戶(hù)的想象力，也引發(fā)了人們的恐懼。在最初的60天內(nèi)，該平臺(tái)的用戶(hù)數(shù)量增長(zhǎng)了9900%，達(dá)到1億用戶(hù)。2023學(xué)年開(kāi)始后，ChatGPT平臺(tái)的訪問(wèn)量再次激增，僅在8月這一個(gè)月，全球獨(dú)立訪問(wèn)者就達(dá)到了1.8億人次。人工智能占據(jù)了話(huà)題的主導(dǎo)地位，也讓許多人開(kāi)始探究：什么是生成式人工智能？

多年來(lái)，人工智能一詞有多種含義，但生成式人工智能創(chuàng)造的內(nèi)容與人類(lèi)生產(chǎn)的內(nèi)容相似。隨著技術(shù)的發(fā)展，生成式人工智能工具不僅可以創(chuàng)建書(shū)面內(nèi)容，還可以創(chuàng)建圖像、聲音甚至整個(gè)應(yīng)用程序。生成式人工智能越來(lái)越多地集成到各種產(chǎn)品和服務(wù)中。據(jù)估計(jì)，全球有77%的公司正在探索人工智能在業(yè)務(wù)運(yùn)營(yíng)中的應(yīng)用。在許多情況下，這些功能與產(chǎn)品的結(jié)構(gòu)密不可分，用戶(hù)甚至可能意識(shí)不到它們的存在。ChatGPT和其他生成式人工智能工具用途極為廣泛，不斷演變并發(fā)展成為多維工具，正在挑戰(zhàn)規(guī)范并顛覆包括教育在內(nèi)的各行各業(yè)。關(guān)于生成式人工智能討論的一個(gè)重要部分是：它不是什么？它沒(méi)有知覺(jué)，缺乏意識(shí)，無(wú)法感知或理解人類(lèi)的思想或情感。這些操作完全基于用于訓(xùn)練人工智能模型的數(shù)據(jù)。

2、生成式人工智能是如何工作的？

生成式人工智能?chē)@神經(jīng)網(wǎng)絡(luò)展開(kāi)。神經(jīng)網(wǎng)絡(luò)是一種受人腦啟發(fā)的復(fù)雜結(jié)構(gòu)，通過(guò)相互連接的人工神經(jīng)元來(lái)處理信息并從數(shù)據(jù)中學(xué)習(xí)?；?a target="_blank">算法的模型根據(jù)開(kāi)發(fā)人員提供的規(guī)則做出決策，而生成式人工智能工具則通過(guò)審查大量數(shù)據(jù)來(lái)構(gòu)建一套不斷發(fā)展的規(guī)則，從而指導(dǎo)新內(nèi)容的生成。隨著時(shí)間的推移，經(jīng)過(guò)大量的練習(xí)和數(shù)據(jù)的積累，系統(tǒng)能更好地進(jìn)行預(yù)測(cè)。大型語(yǔ)言模型（LLM）在包括書(shū)籍、文章和網(wǎng)站在內(nèi)的海量文本數(shù)據(jù)集上進(jìn)行訓(xùn)練，以學(xué)習(xí)人類(lèi)語(yǔ)言的復(fù)雜性。例如，用于訓(xùn)練ChatGPT的數(shù)據(jù)集就是利用互聯(lián)網(wǎng)上的公共信息、第三方授權(quán)內(nèi)容以及平臺(tái)用戶(hù)和人工培訓(xùn)師提供的信息開(kāi)發(fā)的。當(dāng)機(jī)器學(xué)習(xí)模型檢測(cè)到重復(fù)出現(xiàn)的數(shù)據(jù)序列，如單詞、短語(yǔ)或圖像中像素值的模式，并將其與特定結(jié)果或上下文相關(guān)聯(lián)時(shí)，就能通過(guò)統(tǒng)計(jì)分析在訓(xùn)練數(shù)據(jù)中識(shí)別模式。通過(guò)發(fā)現(xiàn)這些模式并對(duì)其進(jìn)行建模，生成式人工智能可以生成新的內(nèi)容，確保上下文的一致性，同時(shí)引入創(chuàng)造性和新穎性。將LLM與自然語(yǔ)言處理（NLP）模型（用于處理和理解人類(lèi)語(yǔ)言，如語(yǔ)言翻譯和情感分析）相結(jié)合，可生成與人類(lèi)生成的材料相匹配的內(nèi)容。

3、誰(shuí)在使用生成式人工智能？

生成式人工智能的使用正在迅速增長(zhǎng)。學(xué)生們?cè)絹?lái)越多地使用生成式人工智能工具來(lái)撰寫(xiě)論文、研究報(bào)告和其他書(shū)面作業(yè)。教師正在利用生成式人工智能創(chuàng)建定制的學(xué)習(xí)材料、測(cè)驗(yàn)和評(píng)估，他們還可以利用生成式人工智能為學(xué)生提供及時(shí)準(zhǔn)確的反饋。圖書(shū)館員正在使用生成式人工智能創(chuàng)建文本摘要或發(fā)現(xiàn)館藏中的真知灼見(jiàn)。教學(xué)設(shè)計(jì)師正在使用生成式人工智能快速迭代已創(chuàng)建的材料。對(duì)于管理者來(lái)說(shuō)，生成式人工智能通過(guò)總結(jié)文檔和會(huì)議以及創(chuàng)建文檔來(lái)幫助決策和溝通。除文本工具外，生成式人工智能還被用于創(chuàng)建視覺(jué)工件（visual artifacts）以及生成或調(diào)試計(jì)算機(jī)代碼。軟件公司正在將生成式人工智能納入其產(chǎn)品中，如Adobe Photoshop的Generative Fill或微軟的365 Copilote。

4、為什么生成式人工智能很重要？

生成式人工智能適用于廣泛的應(yīng)用。在一些獨(dú)立應(yīng)用中，如聊天機(jī)器人、定制代理和虛擬助手，生成式人工智能是其主要功能。在內(nèi)容生成器、創(chuàng)意工具和日常工具（如Microsoft Word和Google Docs）等其他應(yīng)用程序中，生成式人工智能基本上是不可見(jiàn)的，只是眾多功能之一。造成這種現(xiàn)象的部分原因是，生成式人工智能正通過(guò)基于云的服務(wù)、開(kāi)源框架和越來(lái)越多的人工智能工具向開(kāi)發(fā)人員開(kāi)放，從而使生成式人工智能解決方案的實(shí)施變得更加容易。生成式人工智能允許個(gè)人和企業(yè)以此前難以實(shí)現(xiàn)或成本高昂的方式進(jìn)行創(chuàng)造、設(shè)計(jì)和創(chuàng)新，因此有可能在各種專(zhuān)業(yè)和教育背景下以多種方式實(shí)現(xiàn)變革。免費(fèi)或廉價(jià)的工具可以快速創(chuàng)建原本需要人力技能和時(shí)間才能完成的內(nèi)容，這可能會(huì)改變某些工作的面貌以及這些職位所需的資質(zhì)。在教育領(lǐng)域，任何學(xué)生都有能力創(chuàng)作難以辨別是否由技術(shù)生成的書(shū)面作品，這從根本上改變了長(zhǎng)期以來(lái)作為學(xué)生學(xué)習(xí)和展示對(duì)學(xué)習(xí)材料掌握程度的標(biāo)志性活動(dòng)。

5、生成式人工智能的缺點(diǎn)是什么？

技術(shù)發(fā)展速度與我們的社會(huì)、道德和法律框架的準(zhǔn)備程度不匹配，引發(fā)了人們對(duì)負(fù)責(zé)任地使用生成式人工智能的擔(dān)憂(yōu)。因此，有必要制定強(qiáng)有力的指導(dǎo)方針、政策和倫理考慮因素，以確保利用這項(xiàng)技術(shù)造福大眾，同時(shí)最大限度地降低潛在風(fēng)險(xiǎn)。生成式人工智能能夠生成類(lèi)似人類(lèi)生產(chǎn)的內(nèi)容，這就增加了剽竊和學(xué)術(shù)不端的檢測(cè)難度，需要采用先進(jìn)的檢測(cè)工具或改變政策。此外，也可以培養(yǎng)學(xué)術(shù)誠(chéng)信文化，教育學(xué)生如何合乎道德地使用人工智能工具來(lái)解決這個(gè)問(wèn)題。由于這些工具似乎能神奇地提供問(wèn)題的正確答案，一些用戶(hù)會(huì)毫無(wú)疑問(wèn)地相信其輸出結(jié)果，即使這些工具有時(shí)會(huì)生成與事實(shí)相反的內(nèi)容。這種錯(cuò)誤的信任為那些利用技術(shù)作惡的人創(chuàng)造了機(jī)會(huì)，比如深度偽造圖像或視頻。對(duì)于那些傾向于驗(yàn)證生成式人工智能輸出準(zhǔn)確性的用戶(hù)來(lái)說(shuō)，這些工具并不總是引用來(lái)源或解釋生成內(nèi)容背后的推理。同時(shí)，由于生成的內(nèi)容不可重復(fù)，因此很難將其作為來(lái)源引用。生成式人工智能工具正在接受更大量、更多類(lèi)型的數(shù)據(jù)，因此很難知道這些工具是否在保留數(shù)據(jù)并將其用于其他目的。這種不確定性有可能暴露不應(yīng)在組織外部共享的數(shù)據(jù)，包括個(gè)人身份信息和其他私人數(shù)據(jù)。目前，有針對(duì)相關(guān)工具訓(xùn)練數(shù)據(jù)和輸出結(jié)果所有權(quán)問(wèn)題的訴訟正在審理中。生成式人工智能工具可能會(huì)被要求刪除某些數(shù)據(jù)或排除某些數(shù)據(jù)集，從而可能導(dǎo)致工具的準(zhǔn)確性降低。與此同時(shí)，人工智能工具生成的輸出內(nèi)容被裁定為不符合美國(guó)版權(quán)要求，因?yàn)樗皇怯扇祟?lèi)撰寫(xiě)的。許多開(kāi)發(fā)生成式人工智能工具的公司都沒(méi)有提供有關(guān)如何訓(xùn)練工具以及如何進(jìn)行安全測(cè)試的信息。每家公司都有自己的一套準(zhǔn)則，從倫理、道德和公平的角度來(lái)考慮什么樣的內(nèi)容是合適的，但這些工具的用戶(hù)往往無(wú)法清楚地了解這些信息。此外，這些工具對(duì)環(huán)境的影響也是另一個(gè)不利因素。

6、生成式人工智能將走向何方？

為了應(yīng)對(duì)隱私問(wèn)題，機(jī)構(gòu)將開(kāi)始購(gòu)買(mǎi)或開(kāi)發(fā)自己的生成式人工智能工具，這些工具不會(huì)在機(jī)構(gòu)之外共享數(shù)據(jù)。學(xué)校可以為其教職員工和學(xué)生購(gòu)買(mǎi)工具，該工具可以訪問(wèn)學(xué)校數(shù)據(jù)，但不與學(xué)校外的用戶(hù)共享數(shù)據(jù)。隨著生成式人工智能工具獲得更大、更純凈的數(shù)據(jù)集，大型LLM將更好地完成更多任務(wù)。其中一些任務(wù)包括提供圖像到文本的服務(wù)，通過(guò)描述課程中使用的圖像、生成更好的音頻或視頻在線字幕，以及更準(zhǔn)確和本地化的語(yǔ)言翻譯，使在線課程更易用。一些供應(yīng)商已經(jīng)將生成式人工智能工具集成到產(chǎn)品中，為學(xué)生提供數(shù)學(xué)問(wèn)題輔導(dǎo)和寫(xiě)作過(guò)程支持等。生成式人工智能工具將幫助教師策劃課程內(nèi)容。其中一些工具將根據(jù)課程學(xué)習(xí)目標(biāo)和其他提示建立學(xué)習(xí)模塊。其他工具可用于開(kāi)發(fā)與課程內(nèi)容和學(xué)習(xí)目標(biāo)相關(guān)聯(lián)的評(píng)估活動(dòng)。生成式人工智能工具的未來(lái)發(fā)展，可能包括監(jiān)測(cè)學(xué)生表現(xiàn)并對(duì)課程內(nèi)容和評(píng)估提出調(diào)整建議。另一個(gè)期望是，生成式人工智能工具將進(jìn)一步集成到許多日常應(yīng)用程序中，包括學(xué)習(xí)管理系統(tǒng)、常見(jiàn)的生產(chǎn)力應(yīng)用程序（如文檔和電子表格工具）以及圖像編輯器。如果沒(méi)有人工智能工具提供建議和指導(dǎo)，使用這些常見(jiàn)的應(yīng)用程序?qū)⒆兊美щy。隨著勞動(dòng)力的變化，教學(xué)方式也需要改變。我們需要教學(xué)生如何利用人工智能在其專(zhuān)業(yè)領(lǐng)域?qū)W習(xí)和工作。這包括確定數(shù)據(jù)來(lái)源和了解如何使用算法。然后，我們需要教學(xué)生如何使用人工智能，使他們能夠?qū)⑦@些工具用作“副駕駛”，而不是被這些工具取代。

7、生成式人工智能對(duì)高等教育有何影響？

生成式人工智能有望讓教育工作者有能力提供更深入的學(xué)習(xí)和更個(gè)性化的體驗(yàn)，同時(shí)減少工作量，但這將需要我們關(guān)注學(xué)生學(xué)習(xí)什么和如何學(xué)習(xí)，以及他們?nèi)绾潍@得在人工智能無(wú)處不在的環(huán)境中茁壯成長(zhǎng)的工具。從不同視角快速生成多種版本材料的能力使學(xué)生和教師能夠以新穎的方式探索各種想法。例如，可以根據(jù)學(xué)生的理解，圍繞給定的概念合成一幅圖像。可以將該圖像與其他學(xué)生創(chuàng)建的圖像進(jìn)行比較，討論存在哪些共性和差異。這是生成式人工智能的優(yōu)勢(shì)所在，它賦予所有學(xué)生，而不僅僅是那些有藝術(shù)技能的學(xué)生，以視覺(jué)方式傳達(dá)概念的能力。各學(xué)校有責(zé)任提升學(xué)生和教師的人工智能素養(yǎng)，并提供有關(guān)如何有效和合乎道德地使用生成式人工智能工具的信息，這可以改善學(xué)生和教師的體驗(yàn)，促進(jìn)學(xué)習(xí)。對(duì)學(xué)生來(lái)說(shuō)，反饋是成功的關(guān)鍵。生成式人工智能可以幫助學(xué)生掌握許多有效反饋的技巧，如何做到具體、及時(shí)的反饋。教師還可以利用人工智能教學(xué)生如何評(píng)價(jià)自己的作業(yè)，讓他們更深入地參與學(xué)習(xí)過(guò)程。學(xué)校需要根據(jù)具體情況來(lái)評(píng)估如何對(duì)學(xué)生進(jìn)行教學(xué)。論文在展示掌握知識(shí)的程度方面扮演什么角色？生成式人工智能在創(chuàng)建論文方面又該扮演什么角色？家庭作業(yè)的作用是什么？如何合乎道德地使用生成式人工智能？在使用生成式人工智能工具時(shí)，學(xué)校希望達(dá)到何種程度的一致性？學(xué)校需要在專(zhuān)業(yè)發(fā)展和支持方面進(jìn)行重大投資，以幫助教師和管理人員將生成式人工智能有效地融入教學(xué)和管理流程。與此同時(shí)，缺乏如何在高等教育中使用人工智能的明確政策和指導(dǎo)方針，可能會(huì)導(dǎo)致實(shí)施過(guò)程中的不一致。教育機(jī)構(gòu)應(yīng)該制定全面的戰(zhàn)略，解決包括道德和倫理考慮、數(shù)據(jù)隱私和知識(shí)產(chǎn)權(quán)等領(lǐng)域的問(wèn)題，以確保負(fù)責(zé)任和公平地使用生成式人工智能。

來(lái)源：中國(guó)教育網(wǎng)絡(luò)