生成式AI應(yīng)優(yōu)先在 “錯誤不敏感” 型領(lǐng)域應(yīng)用

在 ChatGPT 證明了大模型的顛覆性作用之后，眾多 AI 廠商、以及各應(yīng)用領(lǐng)域廠商都在尋求將 AI 技術(shù)用在各行各業(yè)的實際生產(chǎn)中以提升效率的方案。但生成式 AI（GAI）的成果目前還是毀譽參半，一方面 C 端用戶利用 GAI 來創(chuàng)造的畫作、詩歌等作品日漸精美；但另一方面，GAI 在企業(yè)級、生產(chǎn)級的應(yīng)用中還未取得大規(guī)模的落地。

對此，悉尼科技大學(xué)副校長、杰出教授、澳大利亞人工智能理事會理事長，IJCAI-PRICAI-2024 大會主席 張成奇認為，應(yīng)用生成式人工智能系統(tǒng)應(yīng)優(yōu)先選擇 “錯誤不敏感” 的領(lǐng)域，取得結(jié)果后，再向其他領(lǐng)域拓展。此外，大模型的下一步便是發(fā)展與其他系統(tǒng)、服務(wù)領(lǐng)域相結(jié)合的輕量化模型，在不同領(lǐng)域?qū)嶋H落地。

本期開源訪談我們邀請到張成奇教授，一起聊聊在他眼中，未來 AI 的發(fā)展趨勢，以及我們該如何應(yīng)對的相關(guān)問題。

OSCHINA：請您介紹下自己的研究經(jīng)歷，以及當(dāng)前主要的研究方向。

張成奇：

我從 1982 年讀碩士研究生時開始研究專家系統(tǒng)，然后分布式專家系統(tǒng)，再之后研究數(shù)據(jù)挖掘。

OSCHINA：數(shù)據(jù)挖掘與應(yīng)用是多年來的研究熱點，當(dāng)下有哪些新的需求迸發(fā)，技術(shù)層面如何應(yīng)對這些新的需求？

張成奇：

數(shù)據(jù)挖掘可以應(yīng)用在非常多的領(lǐng)域。我們的研究應(yīng)用包括社會保障，銀行，稅務(wù)，設(shè)備租賃，網(wǎng)上欺凌，健康管理等。

新的需求包括大數(shù)據(jù)，多模態(tài)，實時性，高精度等。技術(shù)層面包括很多新的技術(shù)與計算架構(gòu)。比如：圖處理，云計算， 人工智能技術(shù)，大模型等等。

OSCHINA：人工智能技術(shù)大致經(jīng)歷了怎樣的發(fā)展脈絡(luò)？有哪些關(guān)鍵發(fā)展節(jié)點？又在哪些領(lǐng)域和應(yīng)用中取得了最顯著的進步？

張成奇：

人工智能技術(shù)發(fā)展脈絡(luò)可以粗略的分為以下幾個階段：

基于推理的通用問題求解；基于知識的專家系統(tǒng)；基于深度學(xué)習(xí)的感知系統(tǒng)；基于 GPT 的通用認知系統(tǒng)。

在 2022 年前，人工智能分為三大學(xué)派：基于知識的認知系統(tǒng)研究；基于深度學(xué)習(xí)的感知系統(tǒng)研究；基于控制論的行為系統(tǒng)研究。

只有基于深度學(xué)習(xí)的感知系統(tǒng)研究取得了巨大的成就。自從 GPT 系統(tǒng)出現(xiàn)，認知系統(tǒng)有了巨大的飛躍。

OSCHINA：您認為要如何促進人工智能在各個領(lǐng)域的合作和轉(zhuǎn)化？

張成奇：

優(yōu)先選擇 “錯誤不敏感” 的領(lǐng)域（見下一問題）應(yīng)用生成式人工智能系統(tǒng)?？焖偃〉贸晒螅傧蚱渌I(lǐng)域拓展?，F(xiàn)在很多龍頭企業(yè)都在關(guān)注生成式人工智能系統(tǒng)的靚麗表現(xiàn)?，F(xiàn)在的關(guān)鍵是要有輕量級模型可以商用。一旦有了標(biāo)桿似的應(yīng)用案例，很多企業(yè)都會與學(xué)界合作。

OSCHINA：預(yù)測未來十年內(nèi)，AI 的發(fā)展可能會有哪些重大變革？隨著 AI 越來越智能，可能會給人類社會帶來什么樣的風(fēng)險和危機？

張成奇：

我認為 AI 的發(fā)展有以下幾個趨勢：

一．生成式人工智能系統(tǒng)會變得越來越智能。

二．輕量化模型會大量涌現(xiàn)。

輕量化模型與其它系統(tǒng)結(jié)合，提高其它系統(tǒng)的智能能力，比如，與機器人結(jié)合，與元宇宙結(jié)合等。

輕量化模型會與服務(wù)領(lǐng)域結(jié)合。與制造業(yè)結(jié)合，與養(yǎng)老結(jié)合；與旅游結(jié)合，等等。

三． 生成式人工智能系統(tǒng)不負責(zé)系統(tǒng)的正確性及可靠性，所以，生成式人工智能系統(tǒng)的測試系統(tǒng)會不斷涌現(xiàn)。

四：因為生成式人工智能系統(tǒng)的特點（正確性及可靠性無法保證），如何應(yīng)用生成式人工智能系統(tǒng)也會得到關(guān)注。我建議把應(yīng)用領(lǐng)域用 “錯誤敏感度” 來定義。在錯誤敏感度非常高的領(lǐng)域要慎用，或者有人類專家審查后再用。比如醫(yī)療診斷，法律判案。在錯誤敏感度中性的領(lǐng)域要根據(jù)錯誤率決定。比如：股票交易。如果錯誤率低于 50%，就可以用。在錯誤敏感度非常低（或者無法判定對錯的）領(lǐng)域，盡管用。比如，作詩，繪畫，講故事等，盡管生成式系統(tǒng)會 “一本正經(jīng)的胡說八道” 也沒關(guān)系。研究人員就是在每個領(lǐng)域判定 “錯誤敏感度 “。

OSCHINA：不久前，馬斯克、史蒂夫等人呼吁暫停訓(xùn)練比 GPT-4 更加強大的 AI 系統(tǒng)，您怎么看待這件此事？

張成奇：

自從 GPT-3 與 GPT-4 有了知識涌現(xiàn)的能力，讓人們擔(dān)心人工智能系統(tǒng)有失控的風(fēng)險。所以提醒人們注意風(fēng)險。我認為是很有必要的。但是人工智能系統(tǒng)與核能系統(tǒng)類似，是雙刃劍。不能因為有風(fēng)險，就停止研究。我們要關(guān)注的是如何趨利避害。

一直以來，學(xué)界的研究與業(yè)界應(yīng)用都是相互影響的。AI 迅猛發(fā)展的當(dāng)下，學(xué)界也出現(xiàn)了許多新的研究成果。今年 7 月 4 日到 6 日，IJCAI YES 大會將在上海舉辦。 2023 IJCAI YES 官網(wǎng)：https://ijcai.org.cn/。明年（2024 年）7 月 13 日到 19 日，IJCAI-PRICAI-2024 將在上海舉辦。蔣會有越來越多的研究聚焦于生成式人工智能研究，

OSCHINA：您為歷年來 IJCAI 大會的舉辦做了很多臺前幕后的工作，可以聊聊為什么會傾注很多心血在這個大會上，這幾年的大會經(jīng)歷讓您印象最深的是什么嗎？

張成奇：

我是從 2011 年開始為 IJCAI 服務(wù)。前六年主要是為 IJCAI-2017 做籌備工作。近六年主要是為 IJCAI 做籌款工作。IJCAI 歷史悠久，為全世界的人工智能發(fā)展做出了不可磨滅的貢獻。大部分的人工智能的獲獎?wù)叨荚?IJCAI 大會上做特約報告，或是 IJCAI 的獲獎?wù)?。我很自豪能?IJCAI 做出自己的貢獻。

對我個人而言，印象最深的是為 IJCAI 的兩項籌款記錄：

1. 公司單筆贊助 IJCAI-2019 15 萬美元。

2. 全世界有 17 所大學(xué)現(xiàn)金贊助 IJCAI-2017。

我希望有人能在其它世界人工智能頂會的籌款方面破了上述記錄。這兩項紀(jì)錄也標(biāo)志著 IJCAI 在世界范圍內(nèi)的影響力。作為 IJCAI-PRICAI-2024（2024 年 7 月 13 日到 19 日在上海召開）的大會主席，我誠摯的邀請讀過次專訪的人員能來上海參會，或者告訴你們的朋友來參會。