人工智能警告的描述

　　在***的一篇評(píng)論文章中，在去年的TED演講中，作家、Allen人工智能研究所CEO Oren Etzioni博士建議應(yīng)該對(duì)阿西莫夫的機(jī)器人三定律進(jìn)行更新。鑒于Elon Musk（和其他人）的警告引起廣泛的媒體關(guān)注，這些更新可能值得業(yè)界思考。

　　關(guān)于人工智能的警告

　　上個(gè)月，馬斯克等來(lái)自26個(gè)國(guó)家的人工智能專家共同致信聯(lián)合國(guó)，要求禁止開發(fā)和使用自主武器。除了馬斯克之后，簽署***的還包括DeepMind聯(lián)合創(chuàng)始人Mustaga Suleyman以及其他100多位機(jī)器人及人工智能公司的高管。他們寫道，人工智能技術(shù)已經(jīng)足夠發(fā)達(dá)，未來(lái)數(shù)年內(nèi)自主武器就可能出現(xiàn)在戰(zhàn)場(chǎng)上，國(guó)防工業(yè)的諸多專業(yè)人士表示，在繼火藥和核武器之后，自主武器將引發(fā)第三次戰(zhàn)爭(zhēng)革命。

　　***最近播出了另一個(gè)更大的政治警告：俄羅斯總統(tǒng)普京在對(duì)一群俄羅斯學(xué)生演講時(shí)，稱“人工智能不僅是俄羅斯的未來(lái)，也是整個(gè)人類的未來(lái)，誰(shuí)成為這個(gè)領(lǐng)域的領(lǐng)導(dǎo)者，他也將成為世界的統(tǒng)治者。機(jī)遇和威脅巨大，但現(xiàn)在難以預(yù)測(cè)?！?/p>

　　阿西莫夫的機(jī)器人三定律

　　1942年，阿西莫夫在短篇小說(shuō)“Runaround（環(huán)舞）” 中提出了機(jī)器人三定律：機(jī)器人不得傷害人類，或因不作為使人類受到傷害；除非違背第一定律，機(jī)器人必須服從人類的命令；除非違背第一及第二定律，機(jī)器人必須保護(hù)自己。

　　后來(lái)，阿西莫夫加入了一條新定律：第零定律，機(jī)器人不得傷害人類整體，或因不作為使人類整體受到傷害。

　　Etzioni的更新規(guī)則

　　在《***》的評(píng)論文章中，Etzioni提出了對(duì)阿西莫夫機(jī)器人三定律的修改建議：

　　人工智能系統(tǒng)必須遵守適用于其操作人員的所有法律條文；

　　人工智能系統(tǒng)必須明確表示它不是人類；

　　未經(jīng)信息來(lái)源明確許可，人工智能系統(tǒng)不能保留或披露機(jī)密信息。

　　Etzioni提供的這些更新開始了一場(chǎng)討論，并引起聯(lián)合國(guó)發(fā)布了一本非科幻的機(jī)器人手冊(cè)，比2058年的科幻時(shí)代更早。這是一個(gè)可以規(guī)范而不是阻撓已經(jīng)在發(fā)展的全球AI業(yè)務(wù)。