人工智能的第三定律

人工智能的第三定律：計(jì)算的未來是模擬

在人工智能研究如火如荼的今天，似乎也是時(shí)候回過頭來思考一下模擬計(jì)算在未來所具有的意義。當(dāng)人類已經(jīng)習(xí)慣于通過數(shù)字化編程控制機(jī)器，也許以神經(jīng)網(wǎng)絡(luò)為代表的模擬計(jì)算會(huì)把對(duì)于世界的控制權(quán)從人類手中奪走。這是一個(gè)值得探究的技術(shù)問題，同時(shí)也是一個(gè)不容忽視的倫理問題!

計(jì)算機(jī)科學(xué)發(fā)展的歷史可以劃分為“舊約”(理論)和“新約”(實(shí)踐)兩部分 ：電子數(shù)字化計(jì)算機(jī)及其產(chǎn)生的代碼席卷全球之前和之后。舊約時(shí)代中，包括Thomas Hobbes(托馬斯?霍布斯)和Gottfried Lribniz(戈特弗里德?萊布尼茨) 在內(nèi)的先知們?yōu)橛?jì)算機(jī)提供了底層的邏輯;而新約時(shí)代的先知們?nèi)?Alan Turing(阿蘭?圖靈)，John von Neumann(約翰?馮?諾伊曼)，Claude Shannon(克勞德?香農(nóng))，以及Norbert Wiener(諾伯特?維納)，則創(chuàng)造了實(shí)現(xiàn)這些邏輯的機(jī)器。

圖靈一直在思索如何才能使機(jī)器變得智能化;，馮?諾伊曼在思考如何才能讓機(jī)器自我再生;香農(nóng)在思考的是，機(jī)器要怎樣在任意噪音的干擾下實(shí)現(xiàn)可靠的通信;維納則在探究機(jī)器何時(shí)能夠?qū)W會(huì)自行控制。

1949 年，就在第一代能夠存儲(chǔ)程序的電子數(shù)字計(jì)算機(jī)問世之時(shí)，維納就對(duì)超出人類控制范圍的控制系統(tǒng)發(fā)出了警示。不過彼時(shí)，這些系統(tǒng)仍然在人類程序員的監(jiān)督下運(yùn)行，這無疑就減少了維納的擔(dān)憂。只要程序員能夠控制機(jī)器，那還會(huì)出現(xiàn)什么問題？從那時(shí)起，關(guān)于機(jī)器自動(dòng)控制的風(fēng)險(xiǎn)的爭(zhēng)論與關(guān)于數(shù)字化編程的機(jī)器的能力與局限性的爭(zhēng)論，就一直相伴相隨。他們認(rèn)為，盡管機(jī)器擁有驚人的能力，但實(shí)際上它們幾乎沒有真正的自主權(quán)。然而，這個(gè)假設(shè)是危險(xiǎn)的。一旦它們將這種能力用來做其他事情而不是進(jìn)行數(shù)字化計(jì)算，又將發(fā)生什么？

在過去的一百年中，電子科學(xué)經(jīng)歷了兩次根本性的轉(zhuǎn)變：從模擬到數(shù)字化，從真空管道到固態(tài)。這些轉(zhuǎn)變同時(shí)發(fā)生并不意味著它們之間就有必然的聯(lián)系。正如數(shù)字化計(jì)算使用使用真空管道元件實(shí)現(xiàn)一樣，模擬計(jì)算也可以在固態(tài)中實(shí)現(xiàn)。雖然商業(yè)應(yīng)用已不再使用真空管道，但模擬計(jì)算卻仍然在被使用并且發(fā)展勢(shì)頭良好。

模擬計(jì)算和數(shù)字計(jì)算二者間沒有切確的分別。一般來說，數(shù)字計(jì)算處理的是整數(shù)、二進(jìn)制序列、確定性的邏輯以及在理想狀況下以離散增量形式存在的時(shí)間，而模擬計(jì)算處理的則是實(shí)數(shù)、非確定性邏輯以及連續(xù)函數(shù)，包括現(xiàn)實(shí)世界中作為“連續(xù)統(tǒng)”(continuum)存在的時(shí)間。

想象一下，如果你需要找到一條路的中點(diǎn)。你可以使用任何可用的增量來測(cè)量它的寬度，然后用數(shù)字計(jì)算計(jì)算出中點(diǎn)到最近的增量的距離。或者你可以把一段字符串當(dāng)做模擬計(jì)算機(jī)使用，將路的寬度映射到字符串的長(zhǎng)度上，然后通過將字符串的長(zhǎng)度延長(zhǎng)一倍，從而在字符串自身上找到中點(diǎn)的位置，而無需受到增量的限制。

許多系統(tǒng)可以跨模擬和數(shù)字環(huán)境操作。一棵“樹”集成了各種各樣的連續(xù)函數(shù)形式的輸入，但是如果你深入剖析這棵樹，你會(huì)發(fā)現(xiàn)它一直在以數(shù)字計(jì)算年份。

在模擬計(jì)算中，復(fù)雜的是網(wǎng)絡(luò)拓?fù)?，而不是代碼。信息被處理成連續(xù)值函數(shù)(如電壓和相對(duì)脈沖頻率)，而不是通過對(duì)位的離散字符串做邏輯運(yùn)算進(jìn)行處理。數(shù)字計(jì)算不能出現(xiàn)錯(cuò)誤或歧義，因而它非常依賴于在每一個(gè)步驟中的錯(cuò)誤糾正(校驗(yàn))機(jī)制。而模擬計(jì)算則允許出現(xiàn)錯(cuò)誤，計(jì)算可以與錯(cuò)誤并存。

不理解某樣?xùn)|西，也完全有可能構(gòu)建出它。

自然界萬物使用數(shù)字編碼來存儲(chǔ)、復(fù)制和重組核苷酸序列，但是要想實(shí)現(xiàn)智能和控制，就需要依賴于在神經(jīng)系統(tǒng)上運(yùn)行的模擬計(jì)算。每個(gè)活細(xì)胞的基因系統(tǒng)就是一個(gè)存儲(chǔ)程序的計(jì)算機(jī)，而大腦卻不是。

數(shù)字計(jì)算機(jī)會(huì)在兩類比特之間進(jìn)行轉(zhuǎn)換：表示空間差異的比特和表示時(shí)間差異的比特。序列和結(jié)構(gòu)這兩種信息形式之間的轉(zhuǎn)換是通過計(jì)算機(jī)編程控制的，只要計(jì)算機(jī)還需要人類程序員來編程，我們就能保持對(duì)它們的控制權(quán)。

模擬計(jì)算機(jī)還可以在兩種信息形式之間進(jìn)行轉(zhuǎn)換：空間結(jié)構(gòu)和時(shí)間行為。這種轉(zhuǎn)換不需要代碼，也不需要編程。然而，我們并不完全理解自然界是如何進(jìn)化出被稱為神經(jīng)系統(tǒng)的模擬計(jì)算機(jī)的，神經(jīng)系統(tǒng)包含了從現(xiàn)實(shí)世界汲取的信息，并對(duì)這些信息進(jìn)行學(xué)習(xí)。它們學(xué)到的東西之一就是控制。它們學(xué)著控制自己的行為，并盡可能地控制周圍能夠控制到的環(huán)境。

在實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)方面，計(jì)算機(jī)科學(xué)有著悠久的歷史(甚至可以追溯到計(jì)算機(jī)科學(xué)出現(xiàn)之前)，但在很大程度上，這些工作都是通過數(shù)字計(jì)算機(jī)對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行的模擬，而不是自然界在原始環(huán)境下演化出來的神經(jīng)網(wǎng)絡(luò)。不過這種情況正開始發(fā)生變化：自下往上來說，無人機(jī)、自動(dòng)駕駛汽車和手機(jī)的三重驅(qū)動(dòng)力推動(dòng)了神經(jīng)形態(tài)微處理器的發(fā)展，這種微處理器實(shí)現(xiàn)了真正的神經(jīng)網(wǎng)絡(luò)，而不是直接在硅(和其它可能的基質(zhì))上模擬神經(jīng)網(wǎng)絡(luò);自上往下而言，我們最大和最成功的企業(yè)在滲透和控制環(huán)境的過程中，正越來越多地轉(zhuǎn)向使用模擬計(jì)算。

當(dāng)我們討論數(shù)字計(jì)算機(jī)的智能化時(shí)，模擬計(jì)算正悄然取代數(shù)字計(jì)算，方式就跟二戰(zhàn)后真空管等模擬元件被重新設(shè)計(jì)用以制造數(shù)字計(jì)算機(jī)如出一轍。在現(xiàn)實(shí)世界中，各個(gè)運(yùn)行有限代碼的確定性有限狀態(tài)處理器正在形成大規(guī)模的、不確定性的、非有限狀態(tài)的“多細(xì)胞動(dòng)物”生物體。就像電子流在真空管中被處理一樣，由此產(chǎn)生的混合模擬/數(shù)字系統(tǒng)會(huì)共同處理比特流，而不是由產(chǎn)生比特流的離散狀態(tài)的設(shè)備單獨(dú)處理比特。比特就是新型的電子。這樣的話，模擬又重新得以應(yīng)用，并且它的本質(zhì)屬性就是奪取控制權(quán)。

這些系統(tǒng)控制著從商品流到交通流再到思想流的一切事物，它們以統(tǒng)計(jì)的方式進(jìn)行操作，就像脈沖頻率編碼的信息在神經(jīng)元或大腦中進(jìn)行處理一樣。智能的出現(xiàn)引起了智人(人類)的注意力，但是我們應(yīng)該擔(dān)心的是控制的出現(xiàn)。

想象一下，假如現(xiàn)在是1958年，你正試圖保衛(wèi)美國大陸免受空中襲擊。為了區(qū)分?jǐn)硻C(jī)，除了計(jì)算機(jī)網(wǎng)絡(luò)和預(yù)警雷達(dá)站，你還需要一張實(shí)時(shí)更新所有商業(yè)空中航線的交通地圖。當(dāng)時(shí)美國建立了一個(gè)這樣的系統(tǒng)，并將其命名為 SAGE(半自動(dòng)地面防空警備系統(tǒng))。SAGE接著又催生了第一個(gè)用于實(shí)時(shí)預(yù)訂航空旅程的綜合預(yù)訂系統(tǒng)Sabre。Sabre 和它的后續(xù)產(chǎn)品很快就不僅僅是一張顯示可選擇的座位的地圖，而是開始成為具有去中心化智能的自動(dòng)控制系統(tǒng)，能夠控制飛機(jī)將在何時(shí)飛往何處。

但這里是否仍然存在一個(gè)人為進(jìn)行控制的控制室呢？也許沒有。比如說，你可以通過僅讓車輛訪問地圖，并將其實(shí)時(shí)速度和位置反饋給地圖，來建立一個(gè)可以實(shí)時(shí)繪制高速公路交通路況的系統(tǒng)。最終，你可以得到的是一個(gè)完全去中心化的控制系統(tǒng)。而除了系統(tǒng)本身，不存在任何系統(tǒng)控制模型。

想象一下，在 21 世紀(jì)的第一個(gè)十年中，你想要實(shí)時(shí)跟蹤人際關(guān)系的復(fù)雜性。針對(duì)一所規(guī)模較小的學(xué)院里面的社交生活，你可以建立一個(gè)中心數(shù)據(jù)庫并使其保持更新，但如果學(xué)校擴(kuò)大規(guī)模，其維護(hù)工作就會(huì)超出你的控制能力。你最好能夠?qū)⒁粋€(gè)簡(jiǎn)單的半自動(dòng)化代碼的免費(fèi)副本分發(fā)出去，在本地托管這些副本，并讓社交網(wǎng)絡(luò)自行更新。該代碼將由數(shù)字計(jì)算機(jī)執(zhí)行，但是模擬計(jì)算要由系統(tǒng)執(zhí)行，因?yàn)樗恼麄€(gè)計(jì)算的復(fù)雜度要遠(yuǎn)超過底層代碼。由此產(chǎn)生社交網(wǎng)絡(luò)圖的脈沖頻率編碼模型最終會(huì)變成社交網(wǎng)絡(luò)圖。它會(huì)在校園里廣泛傳播，然后傳遍全世界。

計(jì)算機(jī)領(lǐng)域的下一次革命的標(biāo)志將是模擬系統(tǒng)的崛起，而數(shù)字化編程不再具有統(tǒng)治地位。

如果你想要開發(fā)一臺(tái)機(jī)器來掌握人類所已知的一切知識(shí)，這意味著什么？有了摩爾定律的支持，將世界上所有的信息數(shù)字化并不需要太長(zhǎng)的時(shí)間。你可以掃描每一本印刷好的書，收集每一封寫好的電子郵件，每 24 小時(shí)就能收集 49 年間拍攝的視頻，同時(shí)實(shí)時(shí)跟蹤人們?cè)谀睦铮麄冊(cè)谧鍪裁?。但是，你如何理解這一切的“意義”?

即使是在萬物數(shù)字化的時(shí)代，這也不能以任何嚴(yán)格的邏輯意義來定義，因?yàn)閷?duì)于人類來說，“意義”從根本上來說是不合邏輯的。一旦你收集了所有可能的答案，你能做的最好的事情，就是提出一些被很好地定義了的問題，并編制一個(gè)描述所有事物之間聯(lián)系的脈沖頻率加權(quán)的映射。在你弄清楚問題的答案之前，你的系統(tǒng)將不僅僅是觀察和映射事物的意義，它也將開始“構(gòu)建”意義。隨著時(shí)間的推移，它將“控制”意義的定義，這就像是如果看上去沒有人在控制交通流，交通地圖系統(tǒng)就會(huì)開始控制一樣。

人工智能領(lǐng)域有三條定律：

第一定律被稱為阿什比定律(Ashby'slaw)，該定律由《大腦的設(shè)計(jì)》(Design for a Brain)一書的作者、控制論科學(xué)家 W.Ross Ashby 提出，他認(rèn)為任何有效的控制系統(tǒng)都必須和它所控制的系統(tǒng)一樣復(fù)雜。

第二定律由馮諾依曼提出。它指出，一個(gè)復(fù)雜系統(tǒng)的定義特征是，它構(gòu)成了自身最簡(jiǎn)單的行為描述。有機(jī)體最簡(jiǎn)單的完整模型就是有機(jī)體本身。任何試圖將系統(tǒng)的行為簡(jiǎn)化為正式的描述的做法，都會(huì)使事情變得更復(fù)雜，而不是更簡(jiǎn)單。

第三條定律指出，任何足夠簡(jiǎn)單易懂的系統(tǒng)都不會(huì)復(fù)雜到能夠?qū)崿F(xiàn)智能化的行為，而任何足夠復(fù)雜到實(shí)現(xiàn)智能化行為的系統(tǒng)都會(huì)復(fù)雜到難以理解。

對(duì)于那些相信“在我們理解智能之前，我們不必?fù)?dān)心機(jī)器產(chǎn)生超人類的智能”的人來說，第三定律為他們帶來了慰藉。但是第三定律中存在一個(gè)漏洞，因?yàn)槟阃耆锌赡茉诓涣私饽承〇|西的情況下去創(chuàng)建它。你不需要完全了解大腦是如何工作的，就可以創(chuàng)建一個(gè)可以使用的大腦模型。這確實(shí)是一個(gè)程序員和他們的道德顧問對(duì)算法進(jìn)行再多的監(jiān)管也無法彌補(bǔ)的漏洞。能夠被證明的“好的”人工智能還是一個(gè)神話。我們與真正的人工智能的關(guān)系將永遠(yuǎn)是一個(gè)信仰(唯心)的問題，而不是證明(唯物)的問題。

我們過于關(guān)注機(jī)器的智能，對(duì)自我再生、通信和控制等問題卻不夠重視。計(jì)算機(jī)領(lǐng)域的下一次革命的標(biāo)志將是模擬系統(tǒng)的崛起，而數(shù)字化編程不再具有統(tǒng)治地位。對(duì)于那些相信自己可以制造出一臺(tái)能控制一切的機(jī)器的人來說，自然界的反應(yīng)將會(huì)是：讓他們制造一臺(tái)機(jī)器來控制他們自己吧。