人工智能的第三定律：計算的未來是模擬

計算機(jī)領(lǐng)域的下一次革命的標(biāo)志將是模擬系統(tǒng)的崛起，而數(shù)字化編程不再具有統(tǒng)治地位。

雷鋒網(wǎng) AI 科技評論按：在人工智能研究如火如荼的今天，似乎也是時候回過頭來思考一下模擬計算在未來所具有的意義。當(dāng)人類已經(jīng)習(xí)慣于通過數(shù)字化編程控制機(jī)器，也許以神經(jīng)網(wǎng)絡(luò)為代表的模擬計算會把對于世界的控制權(quán)從人類手中奪走。這是一個值得探究的技術(shù)問題，同時也是一個不容忽視的倫理問題！

計算機(jī)科學(xué)發(fā)展的歷史可以劃分為「舊約」（理論）和「新約」（實踐）兩部分：電子數(shù)字化計算機(jī)及其產(chǎn)生的代碼席卷全球之前和之后。舊約時代中，包括 Thomas Hobbes（托馬斯·霍布斯） 和 Gottfried Lribniz（戈特弗里德·萊布尼茨） 在內(nèi)的先知們?yōu)橛嬎銠C(jī)提供了底層的邏輯；而新約時代的先知們?nèi)?Alan Turing（阿蘭·圖靈），John von Neumann（約翰·馮·諾伊曼），Claude Shannon（克勞德·香農(nóng)），以及 Norbert Wiener（諾伯特·維納），則創(chuàng)造了實現(xiàn)這些邏輯的機(jī)器。

圖靈一直在思索如何才能使機(jī)器變得智能化；馮·諾伊曼在思考如何才能讓機(jī)器自我再生；香農(nóng)在思考的是，機(jī)器要怎樣在任意噪音的干擾下實現(xiàn)可靠的通信；維納則在探究機(jī)器何時能夠?qū)W會自行控制。

1949 年，就在第一代能夠存儲程序的電子數(shù)字計算機(jī)問世之時，維納就對超出人類控制范圍的控制系統(tǒng)發(fā)出了警示。不過彼時，這些系統(tǒng)仍然在人類程序員的監(jiān)督下運(yùn)行，這無疑就減少了維納的擔(dān)憂。只要程序員能夠控制機(jī)器，那還會出現(xiàn)什么問題？從那時起，關(guān)于機(jī)器自動控制的風(fēng)險的爭論與關(guān)于數(shù)字化編程的機(jī)器的能力與局限性的爭論，就一直相伴相隨。他們認(rèn)為，盡管機(jī)器擁有驚人的能力，但實際上它們幾乎沒有真正的自主權(quán)。然而，這個假設(shè)是危險的。一旦它們將這種能力用來做其他事情而不是進(jìn)行數(shù)字化計算，又將發(fā)生什么？

在過去的一百年中，電子科學(xué)經(jīng)歷了兩次根本性的轉(zhuǎn)變：從模擬到數(shù)字化，從真空管道到固態(tài)。這些轉(zhuǎn)變同時發(fā)生并不意味著它們之間就有必然的聯(lián)系。正如數(shù)字化計算使用使用真空管道元件實現(xiàn)一樣，模擬計算也可以在固態(tài)中實現(xiàn)。雖然商業(yè)應(yīng)用已不再使用真空管道，但模擬計算卻仍然在被使用并且發(fā)展勢頭良好。

模擬計算和數(shù)字計算二者間沒有切確的分別。一般來說，數(shù)字計算處理的是整數(shù)、二進(jìn)制序列、確定性的邏輯以及在理想狀況下以離散增量形式存在的時間，而模擬計算處理的則是實數(shù)、非確定性邏輯以及連續(xù)函數(shù)，包括現(xiàn)實世界中作為「連續(xù)統(tǒng)」（ continuum）存在的時間。

想象一下，如果你需要找到一條路的中點(diǎn)。你可以使用任何可用的增量來測量它的寬度，然后用數(shù)字計算計算出中點(diǎn)到最近的增量的距離?；蛘吣憧梢园岩欢巫址?dāng)做模擬計算機(jī)使用，將路的寬度映射到字符串的長度上，然后通過將字符串的長度延長一倍，從而在字符串自身上找到中點(diǎn)的位置，而無需受到增量的限制。

許多系統(tǒng)可以跨模擬和數(shù)字環(huán)境操作。一棵「樹」集成了各種各樣的連續(xù)函數(shù)形式的輸入，但是如果你深入剖析這棵樹，你會發(fā)現(xiàn)它一直在以數(shù)字計算年份。

在模擬計算中，復(fù)雜的是網(wǎng)絡(luò)拓?fù)洌皇谴a。信息被處理成連續(xù)值函數(shù)（如電壓和相對脈沖頻率），而不是通過對位的離散字符串做邏輯運(yùn)算進(jìn)行處理。數(shù)字計算不能出現(xiàn)錯誤或歧義，因而它非常依賴于在每一個步驟中的錯誤糾正（校驗）機(jī)制。而模擬計算則允許出現(xiàn)錯誤，計算可以與錯誤并存。

不理解某樣?xùn)|西，也完全有可能構(gòu)建出它。

自然界萬物使用數(shù)字編碼來存儲、復(fù)制和重組核苷酸序列，但是要想實現(xiàn)智能和控制，就需要依賴于在神經(jīng)系統(tǒng)上運(yùn)行的模擬計算。每個活細(xì)胞的基因系統(tǒng)就是一個存儲程序的計算機(jī)，而大腦卻不是。

數(shù)字計算機(jī)會在兩類比特之間進(jìn)行轉(zhuǎn)換：表示空間差異的比特和表示時間差異的比特。序列和結(jié)構(gòu)這兩種信息形式之間的轉(zhuǎn)換是通過計算機(jī)編程控制的，只要計算機(jī)還需要人類程序員來編程，我們就能保持對它們的控制權(quán)。

模擬計算機(jī)還可以在兩種信息形式之間進(jìn)行轉(zhuǎn)換：空間結(jié)構(gòu)和時間行為。這種轉(zhuǎn)換不需要代碼，也不需要編程。然而，我們并不完全理解自然界是如何進(jìn)化出被稱為神經(jīng)系統(tǒng)的模擬計算機(jī)的，神經(jīng)系統(tǒng)包含了從現(xiàn)實世界汲取的信息，并對這些信息進(jìn)行學(xué)習(xí)。它們學(xué)到的東西之一就是控制。它們學(xué)著控制自己的行為，并盡可能地控制周圍能夠控制到的環(huán)境。

在實現(xiàn)神經(jīng)網(wǎng)絡(luò)方面，計算機(jī)科學(xué)有著悠久的歷史（甚至可以追溯到計算機(jī)科學(xué)出現(xiàn)之前），但在很大程度上，這些工作都是通過數(shù)字計算機(jī)對神經(jīng)網(wǎng)絡(luò)進(jìn)行的模擬，而不是自然界在原始環(huán)境下演化出來的神經(jīng)網(wǎng)絡(luò)。不過這種情況正開始發(fā)生變化：自下往上來說，無人機(jī)、自動駕駛汽車和手機(jī)的三重驅(qū)動力推動了神經(jīng)形態(tài)微處理器的發(fā)展，這種微處理器實現(xiàn)了真正的神經(jīng)網(wǎng)絡(luò)，而不是直接在硅（和其它可能的基質(zhì)）上模擬神經(jīng)網(wǎng)絡(luò)；自上往下而言，我們最大和最成功的企業(yè)在滲透和控制環(huán)境的過程中，正越來越多地轉(zhuǎn)向使用模擬計算。

當(dāng)我們討論數(shù)字計算機(jī)的智能化時，模擬計算正悄然取代數(shù)字計算，方式就跟二戰(zhàn)后真空管等模擬元件被重新設(shè)計用以制造數(shù)字計算機(jī)如出一轍。在現(xiàn)實世界中，各個運(yùn)行有限代碼的確定性有限狀態(tài)處理器正在形成大規(guī)模的、不確定性的、非有限狀態(tài)的「多細(xì)胞動物」生物體。就像電子流在真空管中被處理一樣，由此產(chǎn)生的混合模擬/數(shù)字系統(tǒng)會共同處理比特流，而不是由產(chǎn)生比特流的離散狀態(tài)的設(shè)備單獨(dú)處理比特。比特就是新型的電子。這樣的話，模擬又重新得以應(yīng)用，并且它的本質(zhì)屬性就是奪取控制權(quán)。

這些系統(tǒng)控制著從商品流到交通流再到思想流的一切事物，它們以統(tǒng)計的方式進(jìn)行操作，就像脈沖頻率編碼的信息在神經(jīng)元或大腦中進(jìn)行處理一樣。智能的出現(xiàn)引起了智人（人類）的注意力，但是我們應(yīng)該擔(dān)心的是控制的出現(xiàn)。

想象一下，假如現(xiàn)在是 1958 年，你正試圖保衛(wèi)美國大陸免受空中襲擊。為了區(qū)分?jǐn)硻C(jī)，除了計算機(jī)網(wǎng)絡(luò)和預(yù)警雷達(dá)站，你還需要一張實時更新所有商業(yè)空中航線的交通地圖。當(dāng)時美國建立了一個這樣的系統(tǒng)，并將其命名為 SAGE（半自動地面防空警備系統(tǒng)）。SAGE接著又催生了第一個用于實時預(yù)訂航空旅程的綜合預(yù)訂系統(tǒng) Sabre。Sabre 和它的后續(xù)產(chǎn)品很快就不僅僅是一張顯示可選擇的座位的地圖，而是開始成為具有去中心化智能的自動控制系統(tǒng)，能夠控制飛機(jī)將在何時飛往何處。

但這里是否仍然存在一個人為進(jìn)行控制的控制室呢？也許沒有。比如說，你可以通過僅讓車輛訪問地圖，并將其實時速度和位置反饋給地圖，來建立一個可以實時繪制高速公路交通路況的系統(tǒng)。最終，你可以得到的是一個完全去中心化的控制系統(tǒng)。而除了系統(tǒng)本身，不存在任何系統(tǒng)控制模型。

想象一下，在 21 世紀(jì)的第一個十年中，你想要實時跟蹤人際關(guān)系的復(fù)雜性。針對一所規(guī)模較小的學(xué)院里面的社交生活，你可以建立一個中心數(shù)據(jù)庫并使其保持更新，但如果學(xué)校擴(kuò)大規(guī)模，其維護(hù)工作就會超出你的控制能力。你最好能夠?qū)⒁粋€簡單的半自動化代碼的免費(fèi)副本分發(fā)出去，在本地托管這些副本，并讓社交網(wǎng)絡(luò)自行更新。該代碼將由數(shù)字計算機(jī)執(zhí)行，但是模擬計算要由系統(tǒng)執(zhí)行，因為它的整個計算的復(fù)雜度要遠(yuǎn)超過底層代碼。由此產(chǎn)生社交網(wǎng)絡(luò)圖的脈沖頻率編碼模型最終會變成社交網(wǎng)絡(luò)圖。它會在校園里廣泛傳播，然后傳遍全世界。

計算機(jī)領(lǐng)域的下一次革命的標(biāo)志將是模擬系統(tǒng)的崛起，而數(shù)字化編程不再具有統(tǒng)治地位。

如果你想要開發(fā)一臺機(jī)器來掌握人類所已知的一切知識，這意味著什么？有了摩爾定律的支持，將世界上所有的信息數(shù)字化并不需要太長的時間。你可以掃描每一本印刷好的書，收集每一封寫好的電子郵件，每 24 小時就能收集 49 年間拍攝的視頻，同時實時跟蹤人們在哪里，他們在做什么。但是，你如何理解這一切的「意義」?

即使是在萬物數(shù)字化的時代，這也不能以任何嚴(yán)格的邏輯意義來定義，因為對于人類來說，「意義」從根本上來說是不合邏輯的。一旦你收集了所有可能的答案，你能做的最好的事情，就是提出一些被很好地定義了的問題，并編制一個描述所有事物之間聯(lián)系的脈沖頻率加權(quán)的映射。在你弄清楚問題的答案之前，你的系統(tǒng)將不僅僅是觀察和映射事物的意義，它也將開始「構(gòu)建」意義。隨著時間的推移，它將「控制」意義的定義，這就像是如果看上去沒有人在控制交通流，交通地圖系統(tǒng)就會開始控制一樣。

人工智能領(lǐng)域有三條定律：

第一定律被稱為阿什比定律（Ashby'slaw），該定律由《大腦的設(shè)計》（Design for a Brain）一書的作者、控制論科學(xué)家 W.Ross Ashby 提出，他認(rèn)為任何有效的控制系統(tǒng)都必須和它所控制的系統(tǒng)一樣復(fù)雜。

第二定律由馮諾依曼提出。它指出，一個復(fù)雜系統(tǒng)的定義特征是，它構(gòu)成了自身最簡單的行為描述。有機(jī)體最簡單的完整模型就是有機(jī)體本身。任何試圖將系統(tǒng)的行為簡化為正式的描述的做法，都會使事情變得更復(fù)雜，而不是更簡單。

第三條定律指出，任何足夠簡單易懂的系統(tǒng)都不會復(fù)雜到能夠?qū)崿F(xiàn)智能化的行為，而任何足夠復(fù)雜到實現(xiàn)智能化行為的系統(tǒng)都會復(fù)雜到難以理解。

對于那些相信「在我們理解智能之前，我們不必?fù)?dān)心機(jī)器產(chǎn)生超人類的智能」的人來說，第三定律為他們帶來了慰藉。但是第三定律中存在一個漏洞，因為你完全有可能在不了解某些東西的情況下去創(chuàng)建它。你不需要完全了解大腦是如何工作的，就可以創(chuàng)建一個可以使用的大腦模型。這確實是一個程序員和他們的道德顧問對算法進(jìn)行再多的監(jiān)管也無法彌補(bǔ)的漏洞。能夠被證明的「好的」人工智能還是一個神話。我們與真正的人工智能的關(guān)系將永遠(yuǎn)是一個信仰（唯心）的問題，而不是證明（唯物）的問題。

我們過于關(guān)注機(jī)器的智能，對自我再生、通信和控制等問題卻不夠重視。計算機(jī)領(lǐng)域的下一次革命的標(biāo)志將是模擬系統(tǒng)的崛起，而數(shù)字化編程不再具有統(tǒng)治地位。對于那些相信自己可以制造出一臺能控制一切的機(jī)器的人來說，自然界的反應(yīng)將會是：讓他們制造一臺機(jī)器來控制他們自己吧。

本文出自 John Brockman 編輯的《POSSIBLE MINDS: Twenty-Five Ways of Looking at AI 》 一書。