據(jù)日經(jīng)亞洲報(bào)道,最近技術(shù)的迅速發(fā)展使人工智能可以進(jìn)行以前被認(rèn)為是人類獨(dú)特的活動(dòng)。
無論是通過大型語言模型(llm)和聊天創(chuàng)造性地編寫復(fù)雜的文件,還是以算法為基礎(chǔ)控制和管理復(fù)雜的基礎(chǔ)設(shè)施和信息傳遞,還是指揮和控制致命的自主武器,人工智能都成為許多人關(guān)注的焦點(diǎn)。
事實(shí)上,人工智能能夠?qū)е氯祟悳缃^或文明崩潰的能力是再怎么強(qiáng)調(diào)也不過分的。
雖然夸張的語言和夸張沒有幫助,減弱了實(shí)際限制的根據(jù),但認(rèn)識(shí)到不符合人類價(jià)值和利益的自我強(qiáng)化和自我學(xué)習(xí)形態(tài)的智能可能帶來的最壞結(jié)果是非常重要的。
在中美戰(zhàn)略競(jìng)爭(zhēng)加劇、全球地緣政治風(fēng)險(xiǎn)加劇的時(shí)代,利害關(guān)系必然會(huì)更加復(fù)雜。作為世界上的兩個(gè)大國(guó),中美兩國(guó)應(yīng)該負(fù)起維護(hù)和平的責(zé)任,就控制人工智能帶來的生存風(fēng)險(xiǎn)問題進(jìn)行建設(shè)性合作和坦誠(chéng)對(duì)話。
首先,兩國(guó)應(yīng)該設(shè)置警戒線,就人工智能的研究方向和部署達(dá)成協(xié)議。
中國(guó)和美國(guó)的技術(shù)公司正在訓(xùn)練人工智能,使用從越來越大的數(shù)據(jù)訪問差距兩邊衍生出的并列數(shù)據(jù)集。因此可以開發(fā)偏好和控制不同的人工智能。
這里有一個(gè)對(duì)比問題:人工智能可以被訓(xùn)練成符合人類使用者群體對(duì)數(shù)據(jù)源的偏好,但不會(huì)擴(kuò)展到群體之外的人口統(tǒng)計(jì)。
尤其令人擔(dān)憂的是,如果數(shù)據(jù)被細(xì)分,無論是哪個(gè)國(guó)家,都可以通過人工智能開發(fā)出比其他國(guó)家國(guó)民利益更重視本國(guó)國(guó)民利益的新目標(biāo)。如果發(fā)生軍事沖突,敵對(duì)反應(yīng)的自動(dòng)化可能會(huì)使事態(tài)迅速擴(kuò)大。中美必須建立強(qiáng)有力的故障安全體系,抵御各自為政的人工智能領(lǐng)域帶來的偏見。
中國(guó)國(guó)家網(wǎng)絡(luò)信息辦公室已經(jīng)確定了生成式人工智能規(guī)則,將從8月開始生效。
包括雙重使用人工智能的開發(fā)過程、訓(xùn)練方法、公共及民間參與者的潛在配置等領(lǐng)域的有約束力的條約,對(duì)于緩和相互期待,享受合作的實(shí)惠非常重要。
第二,中國(guó)和美國(guó)的監(jiān)管機(jī)構(gòu)應(yīng)與歐盟、英國(guó)、以色列、日本以及其他人工智能新興國(guó)家的監(jiān)管機(jī)構(gòu)合作,尋找方法的同質(zhì)性。認(rèn)為任何一個(gè)國(guó)家或地區(qū)都有充分的專業(yè)性來全面管理人工智能的所有方面是愚蠢的。
上月歐洲議會(huì)批準(zhǔn)了新的人工智能法案的基本框架,其中包括明確禁止利用預(yù)測(cè)警察或街頭攝像機(jī)的實(shí)時(shí)畫面進(jìn)行臉部識(shí)別等侵犯“基本權(quán)利或歐盟價(jià)值”的內(nèi)容。
歐盟的先行精神令人感嘆,但歐盟也應(yīng)該明白,歐洲限制規(guī)定不足以管理全球人工智能的危險(xiǎn)。
歐洲的軟實(shí)力長(zhǎng)期源于平衡或抵消地政學(xué)上的差異的能力。在這一領(lǐng)域,歐洲可以在召集有關(guān)人工智能規(guī)制的全球工作組上發(fā)揮作用。
工作組應(yīng)由中國(guó)、美國(guó)、南部世界以及其他所有主要利益相關(guān)者的決策者和學(xué)者組成。工作小組的見解有助于平息中國(guó)和美國(guó)政府對(duì)人工智能的限制會(huì)削弱自己競(jìng)爭(zhēng)力的猛烈主張。
有些人可能將1968年的《不擴(kuò)散核武器條約》視為限制人工智能使用的全球模型。
但是,我們必須記住,開發(fā)強(qiáng)大的llm的障礙遠(yuǎn)低于制造核武器的障礙。隨著開放源代碼人工智能的發(fā)展,個(gè)人用戶可以在很多情況下復(fù)制chatgpt的結(jié)果。與此相比,擁有核武器的國(guó)家只有9個(gè)。
第三,特別是在美國(guó),必須謹(jǐn)慎處理與人工智能相關(guān)的國(guó)家和個(gè)人參與者之間的關(guān)系。中國(guó)在3月份舉行的全國(guó)人民代表大會(huì)年例會(huì)議上新設(shè)了國(guó)家數(shù)據(jù)局,并改編了科學(xué)技術(shù)部。4月,中國(guó)國(guó)家網(wǎng)絡(luò)信息辦公室發(fā)布了生成人工智能的法規(guī)草案,該草案已經(jīng)更新,將于5月生效。
在這方面,美國(guó)也可以借鑒中國(guó)的經(jīng)驗(yàn)。雖然美國(guó)的長(zhǎng)期政策,考慮到傳統(tǒng)全面規(guī)制的自上而下的框架實(shí)現(xiàn)的可能性很低,但政策決定者最符合公共利益決定的方式時(shí),交由中國(guó)技術(shù)的領(lǐng)導(dǎo)力會(huì)硅谷的主張不能只看這一點(diǎn)很重要。
為了長(zhǎng)期確保人工智能的安全,需要更多的民官合作。英國(guó)的代表性投資者伊恩·霍加斯最近被任命為研究人工智能(ai)相關(guān)風(fēng)險(xiǎn)并考慮安全及安全標(biāo)準(zhǔn)的財(cái)團(tuán)模型工作集團(tuán)的會(huì)長(zhǎng)。
僅僅調(diào)整中美兩國(guó)國(guó)家行為人的利益是不夠的。要想讓世界突然陷入用人工智能驅(qū)動(dòng)的超級(jí)大國(guó)之間的沖突,需要各方的合作。
-
人工智能
+關(guān)注
關(guān)注
1789文章
46339瀏覽量
236499 -
安全體系
+關(guān)注
關(guān)注
0文章
4瀏覽量
6406
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論