一份由26名專家聯(lián)合撰寫的報(bào)告,對人工智能技術(shù)的潛在威脅發(fā)出警告。他們認(rèn)為,這項(xiàng)技術(shù)可能在未來5到10年催生新型網(wǎng)絡(luò)犯罪、實(shí)體攻擊和政治顛覆。
這份100頁的報(bào)告標(biāo)題為《人工智能的惡意用途:預(yù)測、預(yù)防和緩解》(The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation),參與撰寫的專家來自14家不同的機(jī)構(gòu)和組織,包括牛津大學(xué)、劍橋大學(xué)和埃隆·馬斯克(Elon Musk)的OpenAI等。
作者在其中詳細(xì)闡述了人工智能可能在未來幾年做出哪些令人們普遍反感的事情。由于人工智能在很多方面的能力都遠(yuǎn)超人類,所以該報(bào)告認(rèn)為,這種技術(shù)現(xiàn)在會幫助敵對國家、犯罪分子和***展開精準(zhǔn)而高效的攻擊,不僅能夠擴(kuò)大范圍,還可以提高效率。
該報(bào)告寫道:“隨著人工智能越來越強(qiáng)大,越來越普及,我們預(yù)計(jì)人工智能系統(tǒng)的廣泛應(yīng)用將導(dǎo)致現(xiàn)有威脅的擴(kuò)大,還會引發(fā)新的威脅,甚至改變典型的威脅特征?!彼麄冞€警告稱,由于人工智能可以擴(kuò)大規(guī)模,并減輕人類的負(fù)擔(dān),所以攻擊成本也會大幅降低。類似地,由于可以借助這種系統(tǒng)來完成人類通常難以完成的任務(wù),所以也有可能出現(xiàn)新的攻擊。
具體來說,該報(bào)告認(rèn)為,與自動攻擊、釣魚、語音合成、數(shù)據(jù)中毒有關(guān)的網(wǎng)絡(luò)攻擊將會增多。無人機(jī)以及全自動和半自動駕駛系統(tǒng)的出現(xiàn)也會構(gòu)成新的風(fēng)險(xiǎn),包括多輛無人駕駛汽車故意撞擊,使用數(shù)千架無人機(jī)協(xié)同攻擊,把商用無人機(jī)變成人臉識別刺客,控制關(guān)鍵基礎(chǔ)設(shè)施以索要贖金。在政治方面,人工智能還可以用于左右民眾觀點(diǎn),形成高度精準(zhǔn)的宣傳,傳播虛假但卻可信的文章和視頻。人工智能還能在私有和公共空間催生更好的監(jiān)控技術(shù)。
為了緩解這些威脅,該報(bào)告給出了5點(diǎn)建議:
人工智能和機(jī)器學(xué)習(xí)研究人員應(yīng)該承認(rèn)其研究成果是雙刃劍。
政策制定者應(yīng)該與技術(shù)人員密切合作,調(diào)查、預(yù)防和緩解人工智能可能的惡意使用方式。
應(yīng)該向電腦安全等其他高風(fēng)險(xiǎn)技術(shù)領(lǐng)域?qū)W習(xí)一些方法,將其應(yīng)用于人工智能領(lǐng)域。
應(yīng)該在這些領(lǐng)域優(yōu)先形成規(guī)范和道德框架。
討論這些挑戰(zhàn)時(shí)所涵蓋的利益相關(guān)者和專家范圍應(yīng)該擴(kuò)大。
除此之外,報(bào)告作者還認(rèn)為,應(yīng)該“重新思考”網(wǎng)絡(luò)安全,并對制度化和技術(shù)性解決方案展開投資。他們還表示,開發(fā)者應(yīng)該形成“責(zé)任文化”,考慮數(shù)據(jù)共享和開放性所帶來的力量。
未來智能實(shí)驗(yàn)室是人工智能學(xué)家與科學(xué)院相關(guān)機(jī)構(gòu)聯(lián)合成立的人工智能,互聯(lián)網(wǎng)和腦科學(xué)交叉研究機(jī)構(gòu)。由互聯(lián)網(wǎng)進(jìn)化論作者,計(jì)算機(jī)博士劉鋒與中國科學(xué)院虛擬經(jīng)濟(jì)與數(shù)據(jù)科學(xué)研究中心石勇、劉穎教授創(chuàng)建。
未來智能實(shí)驗(yàn)室的主要工作包括:建立AI智能系統(tǒng)智商評測體系,開展世界人工智能智商評測;開展互聯(lián)網(wǎng)(城市)云腦研究計(jì)劃,構(gòu)建互聯(lián)網(wǎng)(城市)云腦技術(shù)和企業(yè)圖譜,為提升企業(yè),行業(yè)與城市的智能水平服務(wù)。
-
人工智能
+關(guān)注
關(guān)注
1789文章
46328瀏覽量
236496
原文標(biāo)題:人工智能的惡意用途:預(yù)測、預(yù)防和緩解
文章出處:【微信號:AItists,微信公眾號:人工智能學(xué)家】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論