人機(jī)混合智能的視角：軍事人工智能的沿革與發(fā)展

摘要：

隨著技術(shù)的快速發(fā)展，戰(zhàn)爭(zhēng)的形態(tài)也在不斷變化，軍事智能化的議題越來(lái)越重要。人類(lèi)智能與機(jī)器智能的有效協(xié)同在戰(zhàn)爭(zhēng)中會(huì)扮演越來(lái)越重要的角色。本文梳理了美軍發(fā)展演進(jìn)的作戰(zhàn)概念后，結(jié)合當(dāng)前人工智能的特點(diǎn)和不足進(jìn)行了深入探討，指出了當(dāng)前人工智能在底層理論支撐上存在的局限性。最后，針對(duì)軍事智能中有人—無(wú)人協(xié)同的問(wèn)題進(jìn)行了深入思考和分析，以期找到未來(lái)軍事智能發(fā)展的真正趨勢(shì)和端倪。

軍事智能化將在戰(zhàn)場(chǎng)上發(fā)揮越來(lái)越重要的作用。不僅要求對(duì)戰(zhàn)爭(zhēng)和軍事?lián)碛凶銐蛘J(rèn)識(shí)，同時(shí)需要提升對(duì)智能的認(rèn)識(shí)，深刻理解智能在軍事應(yīng)用中的優(yōu)勢(shì)和局限性，進(jìn)而在軍事方面實(shí)現(xiàn)人和人工智能的有效協(xié)作。這涉及到眾多領(lǐng)域的探索研究和協(xié)調(diào)配合，是一個(gè)重要的人-機(jī)-環(huán)境系統(tǒng)工程。

1 美作戰(zhàn)概念與軍事智能發(fā)展態(tài)勢(shì)

從上世紀(jì)80年代以來(lái)，美國(guó)國(guó)防部、陸軍、海軍、空軍等單位陸續(xù)提出了一系列作戰(zhàn)概念。例如從20世紀(jì)80-90年代的“空地一體戰(zhàn)”，“非對(duì)稱(chēng)作戰(zhàn)”，“有人/無(wú)人協(xié)同作戰(zhàn)”，“網(wǎng)絡(luò)中心站”等，到21世紀(jì)00年代的“認(rèn)知電子站”“電磁頻譜站”等，再到21世紀(jì)10年代的“全球一體化作戰(zhàn)”“多域戰(zhàn)”“馬賽克站”等作戰(zhàn)概念。

在軍事領(lǐng)域中，機(jī)械化主要通過(guò)增強(qiáng)武器的機(jī)動(dòng)力、火力和防護(hù)力提升單件武器的戰(zhàn)斗力，以武器代際更新和擴(kuò)大數(shù)量規(guī)模的方式提升整體戰(zhàn)斗力［1］。信息化主要是通過(guò)構(gòu)建信息化作戰(zhàn)體系，以信息流驅(qū)動(dòng)物質(zhì)流和能量流，實(shí)現(xiàn)信息賦能、網(wǎng)絡(luò)聚能、體系增能，以軟件版本升級(jí)和系統(tǒng)涌現(xiàn)的方式提升整體戰(zhàn)斗力。智能化則是在高度信息化基礎(chǔ)上，通過(guò)人工智能賦予作戰(zhàn)體系“學(xué)習(xí)”和“思考”能力，以快速迭代進(jìn)化的方式提升整體戰(zhàn)斗力。

從美作戰(zhàn)概念的演化中，可以看出作戰(zhàn)的機(jī)械化早已成熟，信息化程度越來(lái)越高，智能化也在不斷推進(jìn)。不僅覆蓋的范圍越來(lái)越廣，對(duì)多域范圍內(nèi)的統(tǒng)一溝通協(xié)作要求也越來(lái)越高。智能化的重要前提是信息化，依托的物質(zhì)基礎(chǔ)主要是高度信息化以后提供的海量數(shù)據(jù)資源。隨著近幾十年美國(guó)相關(guān)作戰(zhàn)概念的提出與普及，其智能化的基礎(chǔ)也越來(lái)越堅(jiān)實(shí)，同時(shí)人工智能的技術(shù)也在社會(huì)各方面的重視中飛速發(fā)展。

另一方面，美國(guó)在引導(dǎo)國(guó)家在人工智能發(fā)展方面發(fā)布了一系列戰(zhàn)略規(guī)劃書(shū)的同時(shí)，積極引導(dǎo)軍事領(lǐng)域與人工智能進(jìn)行深度融合，發(fā)展軍事智能。例如，2016年10月，美國(guó)國(guó)家科技委員會(huì)連續(xù)發(fā)布了《為人工智能的未來(lái)做好準(zhǔn)備》和《國(guó)家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》，戰(zhàn)略文件。2017年初，美國(guó)公布的《2016—2045年新興科技趨勢(shì)報(bào)告》以明確了最值得關(guān)注的科技技術(shù)，其中就包括云計(jì)算、人工智能、量子計(jì)算等。

綜上所述，我們可以看出，美國(guó)作為人工智能和軍事方面的強(qiáng)國(guó)，對(duì)人工智能的未來(lái)發(fā)展以及與軍事的融合充滿了信心，并且努力想要維護(hù)自身的領(lǐng)先地位。在了解其軍事智能發(fā)展態(tài)勢(shì)之后，我們更清晰的看到軍事智能發(fā)展的重要性。

2 人工智能分析與思考

無(wú)論是“軍事智能”還是其它智能，我們首先需要對(duì)“智能”和“人工智能”有深刻的認(rèn)識(shí)?！爸悄堋备拍钪邪岛鴤€(gè)體、有限對(duì)整體、對(duì)無(wú)限的關(guān)系。針對(duì)智能時(shí)代的到來(lái)，有人提出，“需要從完全不同的角度來(lái)考慮和認(rèn)識(shí)自古以來(lái)就存在的行為時(shí)空原則”，如傳統(tǒng)的人、物、環(huán)境關(guān)系等。

2.1 “模型”的有效性決定智能水平

世界是多元而復(fù)雜的，這其中包括了對(duì)象的多樣和復(fù)雜，以及不同對(duì)象之間關(guān)系的多樣與復(fù)雜。智能，可以對(duì)或多或少的這些對(duì)象和關(guān)系產(chǎn)生認(rèn)識(shí)和建模。對(duì)于同樣的對(duì)象或現(xiàn)象，不同的人可以對(duì)其建立起不同的模型，同一個(gè)人也可以對(duì)其建立不同的模型。例如在地球上認(rèn)識(shí)到的“晝夜”和“春夏秋冬”，而在太陽(yáng)系中去觀察其實(shí)是“公轉(zhuǎn)”“自轉(zhuǎn)”等運(yùn)動(dòng)學(xué)規(guī)律。很多時(shí)候不同的視角，也就是用不同的模型去進(jìn)行解釋的行為。軍事環(huán)境下，由于關(guān)乎生命和國(guó)家安全，我們對(duì)這些智能模型的可靠性和可解釋性要求比起民用領(lǐng)域顯然更高。

在人類(lèi)的認(rèn)識(shí)中，會(huì)出現(xiàn)“悖論”或者“矛盾”這樣的現(xiàn)象。其中“悖論”的一個(gè)特征是會(huì)對(duì)模型賦予導(dǎo)致無(wú)解的約束，并且約束往往是簡(jiǎn)單的。對(duì)同一個(gè)事情的不同解釋出現(xiàn)“矛盾”則是由這些解釋模型的多樣性和差異性所產(chǎn)生的。前面我們討論到人類(lèi)智能在環(huán)境中必然存在局限性，而這些必然的局限性導(dǎo)致了所產(chǎn)生的模型也總是存在著或多或少的局限性，一定具有邊界并且通常不是必然有效的。所以會(huì)出現(xiàn)面對(duì)同樣的問(wèn)題，各種具有不同邊界和效果的“模型”相互競(jìng)爭(zhēng)的情況，這種競(jìng)爭(zhēng)既出現(xiàn)在個(gè)體中，也出現(xiàn)在群體中。在個(gè)體中，往往體現(xiàn)為“糾結(jié)”“沉思”“艱難的選擇”等等。在群體中，小范圍內(nèi)可能是“辯論”，大范圍可能是不同理論或者共識(shí)的競(jìng)爭(zhēng)與傳播。

機(jī)器學(xué)習(xí)中也有集成學(xué)習(xí)的思想，方法是把多個(gè)估計(jì)器的預(yù)測(cè)結(jié)果結(jié)合起來(lái)，從而獲得比單個(gè)估計(jì)器更好的泛化能力/魯棒性。但是機(jī)器學(xué)習(xí)中集成的多個(gè)估計(jì)器往往是同樣或類(lèi)似的結(jié)構(gòu)或模型，如果是模型本身不利于去表示這些數(shù)據(jù)的信息，那么再之后也沒(méi)辦法通過(guò)集成的方式進(jìn)一步提高了。并且數(shù)據(jù)往往是給定的，問(wèn)題也是封閉的，即沒(méi)有其它的額外信息可以給予啟發(fā)，是“身在此山中”而無(wú)法“識(shí)得廬山真面目”的狀態(tài)。這不同于人類(lèi)認(rèn)識(shí)事物的過(guò)程。人類(lèi)對(duì)事物的認(rèn)識(shí)追求的是最終“識(shí)得廬山真面目”，所以總會(huì)去尋找某個(gè)模型可以在某方面絕對(duì)正確的解釋現(xiàn)象，我們姑且可以稱(chēng)之為“真理”。

從歷史來(lái)看，人類(lèi)不僅有這個(gè)動(dòng)力去尋找這樣的模型，而且竟然還真的有能力尋找到一些，雖然過(guò)程中也付出了巨大的代價(jià)，但最終借此形成了當(dāng)前整個(gè)發(fā)達(dá)的科學(xué)體系。人類(lèi)所做到的這些事情真的令人驚奇而贊嘆。在這個(gè)過(guò)程中，數(shù)學(xué)發(fā)揮了巨大的作用。但數(shù)學(xué)本身也是人類(lèi)認(rèn)識(shí)世界的模型之一，它在幫助人們認(rèn)識(shí)世界和產(chǎn)生對(duì)世界的認(rèn)知的各種模型的同時(shí)，人們也在不斷發(fā)展和完善數(shù)學(xué)這個(gè)系統(tǒng)化的模型本身。

2.2 智能水平提升的動(dòng)力：挑戰(zhàn)復(fù)雜性

時(shí)下的人工智能系統(tǒng)還遠(yuǎn)遠(yuǎn)不能達(dá)到人們的期望，因?yàn)榇蟛糠秩藳](méi)有感覺(jué)到人工智能在生活中對(duì)他們有太多幫助。而另一方面，在很多具體領(lǐng)域的從業(yè)者卻可以清晰的感知到人工智能技術(shù)進(jìn)步帶來(lái)的很多激動(dòng)人心的成果。例如，利用AI算法實(shí)現(xiàn)的高質(zhì)量實(shí)時(shí)翻譯，工業(yè)缺陷或者異常檢測(cè)，圖像根據(jù)文字指示生成高質(zhì)量圖像，智能安防，輔助駕駛等等。所以，總得來(lái)說(shuō)，人工智能還沒(méi)有像歷史中的幾次工業(yè)革命那樣普遍性的改變我們生活的方方面面，但在很多領(lǐng)域又已經(jīng)表現(xiàn)了相當(dāng)強(qiáng)大的能力和潛力。這反映的是當(dāng)下人工智能系統(tǒng)的通用性的不足，即當(dāng)下的人工系統(tǒng)無(wú)法用于幫助乃至輔助絕大多數(shù)人去解決各式各樣的問(wèn)題。

人工智能這個(gè)概念提出以來(lái)，一直都面臨著通用性不足的問(wèn)題，可是為什么遲遲沒(méi)能解決呢？

一個(gè)原因可能是從前低估了“智能”的復(fù)雜性。實(shí)際上“復(fù)雜”這個(gè)詞語(yǔ)從文字上就很好了體現(xiàn)了形成復(fù)雜性的兩個(gè)根本成因：“復(fù)”和“雜”。其中“復(fù)”代表著大量同質(zhì)事物運(yùn)行的問(wèn)題，“雜”代表的是大量不同質(zhì)事物的處理問(wèn)題。由此，高效和大量的計(jì)算應(yīng)對(duì)“復(fù)”，而算計(jì)用于處理“雜”。當(dāng)下我們所創(chuàng)造的人工智能可以說(shuō)對(duì)“復(fù)”問(wèn)題的解決能力遠(yuǎn)高于對(duì)“雜”問(wèn)題的處理能力，所以智能系統(tǒng)算計(jì)能力的不足可能是導(dǎo)致通用性難以實(shí)現(xiàn)的一個(gè)重要原因。

另外，是否構(gòu)成人工智能的底層原理中存在根本性的缺失或者缺陷呢？實(shí)際上，當(dāng)前構(gòu)造人工智能的基礎(chǔ)是當(dāng)代數(shù)學(xué)和一些諸如反向傳播的算法。雖然凝結(jié)了數(shù)學(xué)家，神經(jīng)科學(xué)家，認(rèn)知科學(xué)家，心理學(xué)家，計(jì)算機(jī)等領(lǐng)域的學(xué)者的共同努力，但我們認(rèn)為這還遠(yuǎn)遠(yuǎn)沒(méi)有形成真正站得住腳的關(guān)于智能的整體理論和大邏輯體系。

2.3 未來(lái)人工智能設(shè)想

1）兼顧事實(shí)與價(jià)值

從數(shù)論到圖論再到集合論，從算數(shù)到微積分到范疇論的數(shù)學(xué)體系無(wú)一不是建立在公理基礎(chǔ)上的數(shù)理邏輯體系。數(shù)學(xué)發(fā)展的過(guò)程是從具象走向越來(lái)越抽象的過(guò)程，同時(shí)推理過(guò)程又始終要求符合嚴(yán)密的邏輯。結(jié)合這樣的數(shù)學(xué)基礎(chǔ)以及多種算法所形成的人工智能系統(tǒng)，與從自然中演化而形成的智能體在運(yùn)行機(jī)制上似乎有根本性的區(qū)別。我們認(rèn)為，從性質(zhì)上講，真正的智能邏輯體系應(yīng)當(dāng)既能包括數(shù)理邏輯和演繹推理，也能包括辯證邏輯和類(lèi)比推理。

真實(shí)智能從不是單純腦的產(chǎn)物（如狼孩），而是人、物（機(jī)器是人造物）、環(huán)境相互作用的產(chǎn)物，如一個(gè)設(shè)計(jì)者規(guī)劃出的智能系統(tǒng)還需要制造者認(rèn)真理解后的加工實(shí)現(xiàn)，更需要使用者因地制宜、有的放矢地靈活應(yīng)用等等，所以一個(gè)好的人機(jī)融合智能涉及三者之間的有效對(duì)立統(tǒng)一，既有客觀事實(shí)（狀）態(tài)的計(jì)算，也有主觀價(jià)值（趨）勢(shì)的算計(jì)，是一種人、物、環(huán)境的深度態(tài)勢(shì)感知系統(tǒng)。而當(dāng)前的人工智能無(wú)論是基于淺層次學(xué)習(xí)方法的還是基于深度學(xué)習(xí)，在運(yùn)行時(shí)依然是相當(dāng)靜態(tài)的計(jì)算，而缺乏就像人類(lèi)的算計(jì)的動(dòng)態(tài)結(jié)合與嵌入，進(jìn)而就遠(yuǎn)離了智能的真實(shí)與靈變。

2）兼?zhèn)淅硇耘c感性

如果拿理性思維與人文藝術(shù)作對(duì)比，就會(huì)發(fā)現(xiàn)自然科學(xué)及數(shù)學(xué)等理性工具是每個(gè)人都能夠?qū)W會(huì)的普遍化工具，本質(zhì)上是一種主體懸置的態(tài)勢(shì)感知體系，而最能真正欣賞到人文藝術(shù)作品的往往是作者本人或者與作者有相似體悟的人，這常常是一種主體高度參與的態(tài)勢(shì)感知體系。

毫無(wú)疑問(wèn)，自然科學(xué)及數(shù)學(xué)等理性工具這類(lèi)主體懸置的態(tài)勢(shì)感知體系非常重要，沒(méi)有這些我們?nèi)祟?lèi)就難以可靠描述世界運(yùn)作中的很多機(jī)制。但這是就結(jié)果而論的，實(shí)際上我們認(rèn)為智能體要獲得更高智能性的一個(gè)關(guān)鍵是主體有動(dòng)力參與環(huán)境和與環(huán)境有意識(shí)的交互，如此智能體才能涌現(xiàn)出那些真正能被其靈活使用的知識(shí)。

縱觀人類(lèi)智能整個(gè)誕生的歷史也可以發(fā)現(xiàn)，從自然中演化出人類(lèi)智能的過(guò)程，實(shí)際上是先具備主體參與和與環(huán)境互動(dòng)的能力，然后逐漸才產(chǎn)生抽象的對(duì)符號(hào)的認(rèn)識(shí)，然后產(chǎn)生文化，最后才產(chǎn)生出自然科學(xué)及數(shù)學(xué)等這些理性工具。如果用“計(jì)算”和“算計(jì)”分別來(lái)粗略的表示自然科學(xué)及數(shù)學(xué)等理性思考模型和主體高度參與的態(tài)勢(shì)感知模型，那么算計(jì)就可以說(shuō)是人類(lèi)帶有動(dòng)因的理性與感性混合，也是已有邏輯形式與未知邏輯形式的融合籌劃。

3）靈活處理意外情況

人類(lèi)智能本身是在自然環(huán)境中演化而來(lái)，這注定了人類(lèi)在環(huán)境中具有的局限性，所以必然會(huì)有面臨處理“意外”事件的情況。這里說(shuō)“意外”不是側(cè)重于外部環(huán)境的變化性，而是想揭示智能在復(fù)雜的環(huán)境下生存時(shí)具有必然的局限性，從而對(duì)智能體而言的“意外”事件必然普遍存在，無(wú)法被根本被解決的情況。

人往往能根據(jù)更依靠記憶的“經(jīng)驗(yàn)預(yù)測(cè)”或更依靠推理的“模型預(yù)測(cè)”去處理生活中的各種事件。當(dāng)出現(xiàn)“意外”，也意味著與自身經(jīng)驗(yàn)或者所認(rèn)知的模型均不吻合。這些意外的處理情況可以分為兩種，一種可以等待進(jìn)一步豐富或修正經(jīng)驗(yàn)和調(diào)整模型（也就是學(xué)習(xí)）來(lái)將“意外事件”變成能認(rèn)知并有效處理的事件之后再處理，一種是當(dāng)下沒(méi)辦法學(xué)習(xí)而必須立即處理這個(gè)“意外”。對(duì)于后一種情況，人類(lèi)往往可以通過(guò)被描述為“直覺(jué)”、“想象”等的過(guò)程比較有效的解決，這個(gè)過(guò)程往往讓人驚嘆。

對(duì)于現(xiàn)有的人工智能系統(tǒng)而言，要實(shí)現(xiàn)類(lèi)似于人的前一種“意外”處理過(guò)程，需要重新調(diào)整計(jì)算機(jī)的算法以及得到的模型，是一個(gè)復(fù)雜和耗費(fèi)時(shí)間的過(guò)程：研究，評(píng)估，再重新部署運(yùn)行。至于后一種處理過(guò)程，人工智能暫且做不到。

“戰(zhàn)場(chǎng)”這類(lèi)高動(dòng)態(tài)變化的場(chǎng)景，本身就存在諸多“意外”，鑒于上述對(duì)人和人工智能的討論，可以看到當(dāng)前的“人工智能”很難在戰(zhàn)場(chǎng)環(huán)境下提供靈活且有效的決策，需要人與人工智能發(fā)揮各自優(yōu)勢(shì)，進(jìn)行有效的協(xié)作。

3 軍事智能化

戰(zhàn)爭(zhēng)的形式隨著時(shí)代發(fā)展也在不斷發(fā)展，從冷兵器戰(zhàn)爭(zhēng)到熱兵器戰(zhàn)爭(zhēng)、機(jī)械化戰(zhàn)爭(zhēng)、信息化戰(zhàn)爭(zhēng)。而現(xiàn)在，隨著半導(dǎo)體技術(shù)、計(jì)算機(jī)技術(shù)和人工智能等技術(shù)的快速發(fā)展，智能在戰(zhàn)爭(zhēng)中可能會(huì)扮演越來(lái)越重要的角色，軍事智能化也成為一個(gè)越來(lái)越重要的議題?？梢灶A(yù)見(jiàn)的是，隨著軍事智能化的不斷深入以及智能化裝備的大量使用，戰(zhàn)爭(zhēng)形態(tài)不僅將會(huì)從技術(shù)上產(chǎn)生巨大的變化，作戰(zhàn)制勝的機(jī)理與傳統(tǒng)作戰(zhàn)也會(huì)產(chǎn)生不同程度的差異。因此，在繼續(xù)進(jìn)行智能化武器研究的同時(shí)，也要提高對(duì)軍事智能化系統(tǒng)的認(rèn)識(shí)。在軍事智能化的問(wèn)題中，我們認(rèn)為以下一些問(wèn)題特別值得關(guān)注。

3.1 自主系統(tǒng)

在軍事智能化的研究中，一個(gè)重要的方向是自主系統(tǒng)的研究。按照期望，自主系統(tǒng)應(yīng)當(dāng)可以應(yīng)對(duì)非程序化的或者非預(yù)設(shè)的態(tài)勢(shì)任務(wù)，并且這樣的系統(tǒng)是具有一定的自我管理和自我引導(dǎo)能力的系統(tǒng)。對(duì)比于自動(dòng)化設(shè)備與系統(tǒng)，自主性設(shè)備和自主系統(tǒng)能夠應(yīng)對(duì)更加多樣化的環(huán)境，并且能夠完成更廣泛的操作和控制，具有更加廣闊的應(yīng)用潛力。一般而言，自主化需要應(yīng)用傳感器和復(fù)雜的軟件系統(tǒng)，使得設(shè)備或系統(tǒng)在較長(zhǎng)時(shí)間內(nèi)不需要與其它具備自主性的系統(tǒng)通信或只需有限通信，從而實(shí)現(xiàn)無(wú)需其他外部控制就能夠獨(dú)立完成任務(wù)。也因?yàn)檫@樣，自主系統(tǒng)能夠在未知環(huán)境中自動(dòng)進(jìn)行系統(tǒng)調(diào)節(jié)，保持性能優(yōu)良。如果把自主化看作是自動(dòng)化的外延，那么自主化就是智能化和更高能力的自動(dòng)化。從另外一個(gè)角度，“自主”是基于信息甚至是基于知識(shí)驅(qū)動(dòng)的。在執(zhí)行任務(wù)的狀態(tài)中，自主系統(tǒng)可以根據(jù)任務(wù)需求，自主完成“感知—判斷—決策—行動(dòng)”的動(dòng)態(tài)過(guò)程。

自主武器系統(tǒng)方面，美國(guó)走在世界的前列。二戰(zhàn)期間開(kāi)發(fā)的空投被動(dòng)聲自導(dǎo)魚(yú)雷是其第一個(gè)大規(guī)模生產(chǎn)的具有自主作戰(zhàn)功能的武器系統(tǒng)。Mk24“Fido”于1943年5月首次亮相作戰(zhàn)。其使用魚(yú)雷中部周?chē)帕械膫鞲衅鲗?duì)盟軍跨大西洋航運(yùn)的德國(guó)U型潛艇進(jìn)行監(jiān)聽(tīng)、定位、跟蹤和瞄準(zhǔn)攻擊。戰(zhàn)后不久，美國(guó)軍方開(kāi)始在更大的武器系統(tǒng)中引入自主功能，特別是防空作戰(zhàn)系統(tǒng)。隨著計(jì)算機(jī)技術(shù)的發(fā)展，計(jì)算單元的體積越來(lái)越小，性能越來(lái)越強(qiáng)。使得在諸多裝備加入控制系統(tǒng)成為可能，飛機(jī)、艦艇、地面作戰(zhàn)車(chē)輛以及火炮和導(dǎo)彈火力控制系統(tǒng)中的各種類(lèi)型的作戰(zhàn)控制系統(tǒng)在整個(gè)部隊(duì)中大量出現(xiàn)。與交戰(zhàn)有關(guān)的彈藥和武器系統(tǒng)獲得了更大的自主性，包括但不限于：獲取、跟蹤和識(shí)別潛在目標(biāo)；向操作人員提示潛在目標(biāo)；確定選定目標(biāo)的優(yōu)先次序；何時(shí)開(kāi)火；或者提供終端引導(dǎo)，以鎖定選定的目標(biāo)［2］。如果從1943年開(kāi)始計(jì)算，那么美國(guó)軍方已經(jīng)對(duì)具有自主功能的武器系統(tǒng)進(jìn)行了長(zhǎng)達(dá)八十年的整合。

3.2 人機(jī)融合智能

人機(jī)融合是探究人與機(jī)器系統(tǒng)之間的交互機(jī)制和規(guī)律，以人與機(jī)器系統(tǒng)（包括人與機(jī)器、人與環(huán)境）的有效協(xié)同為目標(biāo)的理論和技術(shù)統(tǒng)稱(chēng)。人機(jī)融合可能會(huì)造成人腦對(duì)機(jī)器的表征的變化。例如有科學(xué)家們已經(jīng)開(kāi)始研究額外的機(jī)器手指對(duì)大腦神經(jīng)系統(tǒng)的影響［3］。為健全人佩戴了額外的機(jī)器第六手指且經(jīng)過(guò)訓(xùn)練后，機(jī)器的第六指在認(rèn)知負(fù)荷增加的情況下依然能夠很好的與人體的五根手指協(xié)作。這證明了人腦不僅能夠通過(guò)人機(jī)融合的方式來(lái)控制外部設(shè)備，而且能夠在多任務(wù)處理等的苛刻條件下進(jìn)行應(yīng)對(duì)和適應(yīng)。

美國(guó)提出的多域戰(zhàn)、馬賽克戰(zhàn)等模式，實(shí)際上都是人機(jī)環(huán)境系統(tǒng)工程。這些戰(zhàn)爭(zhēng)模式要發(fā)揮出其巨大的應(yīng)用潛力，破解人機(jī)融合的有效機(jī)制至關(guān)重要。所以，人機(jī)融合智能機(jī)制、機(jī)理的破解將成為未來(lái)戰(zhàn)爭(zhēng)致勝的關(guān)鍵。下面介紹一下我們總結(jié)的人機(jī)融合智能的一些核心問(wèn)題：

1）功能力分配

任何分工都會(huì)受規(guī)模和范圍限制，人機(jī)融合智能中一個(gè)重要的問(wèn)題是功能和能力的分配。功能分配是分工的一部分，另外一部分是能力分配。功能分配是被動(dòng)的，外部需求所致；能力分配是主動(dòng)的，內(nèi)部驅(qū)動(dòng)所生。在復(fù)雜、異質(zhì)、非結(jié)構(gòu)、非線性數(shù)據(jù)/信息/知識(shí)中，人的或者是類(lèi)人的方向性預(yù)處理很重要，當(dāng)初步縮小問(wèn)題域的范圍后，機(jī)器有界、快速、準(zhǔn)確的優(yōu)勢(shì)便可以發(fā)揮出來(lái)了；另外，當(dāng)獲得大量數(shù)據(jù)/信息/知識(shí)后，機(jī)器也可以先把他們初步映射到幾個(gè)領(lǐng)域，然后人再進(jìn)一步處理分析。這兩個(gè)過(guò)程的同化順應(yīng)、交叉平衡大致就是人機(jī)有機(jī)融合的過(guò)程。

2）事實(shí)與價(jià)值的混合

人機(jī)融合智能的核心問(wèn)題為：是不是+該不該+好不好的混雜組合問(wèn)題。其中“是不是”屬于客觀事實(shí)性邏輯計(jì)算問(wèn)題，“該不該”屬于主觀價(jià)值性判定算計(jì)問(wèn)題，“好不好”屬于主客觀混合性決策計(jì)算計(jì)問(wèn)題。當(dāng)前大家做人機(jī)混合智能大都處在做“是不是”（0、1）的邏輯可計(jì)算部分，對(duì)于主觀價(jià)值的可判定性及兩者的混合“計(jì)算-算計(jì)”還未有解決的好辦法［4］。

3）對(duì)環(huán)境的深度態(tài)勢(shì)感知

除了要關(guān)心功能力的分配，事實(shí)與價(jià)值混合的實(shí)現(xiàn)方式，還要注意到這些也都是與環(huán)境有關(guān)的，需要人機(jī)混合智能對(duì)環(huán)境有深度的態(tài)勢(shì)感知。“態(tài)”“勢(shì)”涉及客觀事實(shí)性的數(shù)據(jù)及信息/知識(shí)中的客觀部分（如突顯性、時(shí)、空參數(shù)等），簡(jiǎn)單稱(chēng)之為事實(shí)鏈。而“感”“知”涉及主觀價(jià)值性的參數(shù)部分（如期望、努力程度等），可以稱(chēng)之為價(jià)值鏈。深度態(tài)勢(shì)感知就是由事實(shí)鏈與價(jià)值鏈交織糾纏在一起的“雙螺旋”結(jié)構(gòu)，進(jìn)而能夠?qū)崿F(xiàn)有效的判斷和準(zhǔn)確的決策功能。好的態(tài)勢(shì)感知能力就是在混亂中看到秩序、在不可能中看到可能、在黑暗中看到光明……所以，目前智能軍事領(lǐng)域的一個(gè)核心瓶頸還是人機(jī)融合智能中的深度態(tài)勢(shì)感知問(wèn)題。

3.3 面臨的挑戰(zhàn)

軍事智能就像戰(zhàn)爭(zhēng)一樣，是一團(tuán)迷霧，存在著大量的不確定性，是不可預(yù)知、不可預(yù)測(cè)的。從當(dāng)前人工智能的發(fā)展趨勢(shì)來(lái)看，可預(yù)見(jiàn)的未來(lái)戰(zhàn)爭(zhēng)中，存在著許多人機(jī)融合隱患仍未能解決，具體有：

1）在復(fù)雜的信息環(huán)境中，人類(lèi)和機(jī)器在特定的時(shí)間內(nèi)吸收、消化和運(yùn)用有限的信息，對(duì)人而言，人的壓力越大，誤解的信息越多，也就越容易導(dǎo)致困惑、迷茫和意外。對(duì)機(jī)器而言，跨領(lǐng)域非結(jié)構(gòu)化數(shù)據(jù)的學(xué)習(xí)理解預(yù)測(cè)是非常困難的。

2）戰(zhàn)爭(zhēng)中決策所需要的信息在時(shí)間和空間上的廣泛分布，決定了一些關(guān)鍵信息仍然很難獲取。而且機(jī)器采集到的重要的客觀物理性數(shù)據(jù)與人類(lèi)獲得的主觀加工后的信息和知識(shí)很難協(xié)調(diào)融合。

3）未來(lái)的戰(zhàn)爭(zhēng)中，存在著大量的非線性特征和出乎意料的多變性，常常會(huì)導(dǎo)致作戰(zhàn)過(guò)程和結(jié)果諸多不可預(yù)見(jiàn)性，基于公理的形式化邏輯推理已遠(yuǎn)遠(yuǎn)不能滿足復(fù)雜多變戰(zhàn)況決策的需求。鑒于核武器的不斷蔓延和擴(kuò)散，國(guó)家無(wú)論大小，國(guó)與國(guó)之間的未來(lái)戰(zhàn)爭(zhēng)成本將會(huì)越來(lái)越高。無(wú)論人工智能怎么發(fā)展，未來(lái)是屬于人類(lèi)的，應(yīng)該由人類(lèi)共同定義未來(lái)戰(zhàn)爭(zhēng)的游戲規(guī)則并決定人工智能的命運(yùn)，而不是由人工智能決定人類(lèi)的命運(yùn)，究其因，人工智能是邏輯的，而未來(lái)戰(zhàn)爭(zhēng)不僅僅是邏輯的，還存在著大量的非邏輯因素。

4）各國(guó)對(duì)自主裝備分類(lèi)不同，對(duì)強(qiáng)人工智能或通用人工智能相關(guān)武器概念的定義和理解差距很大，有關(guān)人工智能應(yīng)用基本概念和定義如何達(dá)成共識(shí)？如：a》什么是AI？；b》什么是自主？；c》自動(dòng)化與智能化區(qū)別是？；d》機(jī)器計(jì)算與人算計(jì)的區(qū)別是？；e》人機(jī)功能/能力分配的邊界是？；f》數(shù)據(jù)、AI與風(fēng)險(xiǎn)責(zé)任的關(guān)系如何？；g》可計(jì)算性與可判定性區(qū)別？

5）有關(guān)軍事智能相關(guān)概念的定義需要進(jìn)一步細(xì)化。如從人類(lèi)安全角度看，禁止“人在回路外”的自主武器是符合普遍價(jià)值且減少失控風(fēng)險(xiǎn)必要之舉，但是什么樣的人在系統(tǒng)回路中往往就被忽略，一些不負(fù)責(zé)任的人在系統(tǒng)中可能會(huì)使得情況更糟糕。

對(duì)于世界上自主技術(shù)的發(fā)展情況，建議設(shè)立聯(lián)合評(píng)估小組，定期對(duì)自主技術(shù)發(fā)展情況進(jìn)行細(xì)致的評(píng)估與預(yù)警，對(duì)技術(shù)發(fā)展關(guān)口進(jìn)行把關(guān)，對(duì)技術(shù)發(fā)展進(jìn)行預(yù)測(cè)分析，對(duì)進(jìn)行敏感技術(shù)開(kāi)發(fā)的重點(diǎn)機(jī)構(gòu)和研發(fā)人員進(jìn)行定向監(jiān)督，設(shè)立一定程度的學(xué)術(shù)開(kāi)放要求。

6）AI軍用化發(fā)展所面臨的安全風(fēng)險(xiǎn)和挑戰(zhàn)主要有：a》人工智能和自主系統(tǒng)可能會(huì)導(dǎo)致事態(tài)意外升級(jí)和危機(jī)不穩(wěn)定；b》人工智能和自主系統(tǒng)將會(huì)降低對(duì)手之間的戰(zhàn)略穩(wěn)定性（如中美、美俄之間戰(zhàn)略關(guān)系將更加緊張）；c》人和自主系統(tǒng)的不同組合（包括人判斷+人決策、人判斷+機(jī)決策、機(jī)判斷+人決策、機(jī)判斷+機(jī)決策）會(huì)影響雙方的態(tài)勢(shì)升級(jí)；d》機(jī)器理解人發(fā)出的威懾信號(hào)（尤其是降級(jí)信號(hào)）較差；e》 自主系統(tǒng)無(wú)意攻擊友軍或平民的事故將引起更多質(zhì)疑；f》 人工智能和自主系統(tǒng)可能會(huì)導(dǎo)致軍備競(jìng)賽的不穩(wěn)定性；g》 自主系統(tǒng)的擴(kuò)散可能引發(fā)人們認(rèn)真尋找對(duì)策，這些對(duì)策將加劇不確定性，且各國(guó)將擔(dān)憂安全問(wèn)題。

4 總結(jié)與展望

軍事智能化的核心，實(shí)際上是要建立人-人工智能組成的一個(gè)人機(jī)融合團(tuán)隊(duì)系統(tǒng)。所以當(dāng)前我們要面對(duì)的前沿問(wèn)題是在以下四個(gè)情況的基礎(chǔ)上加以考慮的：

1）當(dāng)前人工智能被證明在復(fù)雜的真實(shí)世界環(huán)境（如軍事行動(dòng)）中的成功表現(xiàn)面臨許多挑戰(zhàn)，包括脆性、感知限制、隱藏的偏見(jiàn)以及缺乏對(duì)理解和預(yù)測(cè)未來(lái)事件至關(guān)重要的因果關(guān)系模型。

2）人們?cè)谧鳛閺?fù)雜自動(dòng)化（包括人工智能系統(tǒng)）的成功監(jiān)控者方面面臨巨大挑戰(zhàn)。人們可能會(huì)對(duì)系統(tǒng)正在做的事情缺乏了解，在嘗試與人工智能系統(tǒng)交互時(shí)工作負(fù)載高，在需要干預(yù)時(shí)態(tài)勢(shì)感知（SA）和性能不足，基于系統(tǒng)輸入的決策偏差，以及手工技能的退化［5］。

3）雖然假設(shè)人類(lèi)-人工智能團(tuán)隊(duì)將比人類(lèi)或人工智能系統(tǒng)單獨(dú)運(yùn)行更有效，但除非人類(lèi)能夠理解和預(yù)測(cè)人工智能系統(tǒng)的行為、與人工智能系統(tǒng)建立適當(dāng)?shù)男湃侮P(guān)系、根據(jù)人工智能系統(tǒng)的輸入做出準(zhǔn)確的決策、以及時(shí)和適當(dāng)?shù)姆绞綄?duì)系統(tǒng)施加控制，否則情況不會(huì)如此。

4）支持人類(lèi)和人工智能系統(tǒng)成為隊(duì)友依賴(lài)于一個(gè)精心設(shè)計(jì)的系統(tǒng)，該系統(tǒng)需要具有任務(wù)工作和團(tuán)隊(duì)合作的能力。從而通過(guò)改進(jìn)團(tuán)隊(duì)組合、目標(biāo)一致、溝通、協(xié)調(diào)、社會(huì)智能和開(kāi)發(fā)新的人工智能語(yǔ)言來(lái)研究提高長(zhǎng)期、分布式和敏捷的人工智能團(tuán)隊(duì)的團(tuán)隊(duì)效率。

具體到各方面，所面臨的前沿問(wèn)題主要有：

1）態(tài)勢(shì)感知：人工智能系統(tǒng)輔助下人類(lèi)態(tài)勢(shì)感知需要被改善，需要一些方法去考慮不同類(lèi)型的應(yīng)用、操作的時(shí)間尺度以及與基于機(jī)器學(xué)習(xí)（ML）的人工智能系統(tǒng)相關(guān)的不斷變化的能力。

需要探索和研究的一些問(wèn)題：a）人工智能系統(tǒng)需要在多大程度上既有自我意識(shí)又有對(duì)人類(lèi)隊(duì)友的意識(shí)，以提高整體團(tuán)隊(duì)表現(xiàn)？；b）未來(lái)的人工智能系統(tǒng)如何擁有綜合的情境模型，以恰當(dāng)?shù)乩斫猱?dāng)前的情境，并為決策制定預(yù)測(cè)未來(lái)的情境？；c）如何建立動(dòng)態(tài)任務(wù)環(huán)境的人工智能模型，從而與人類(lèi)一起調(diào)整或消除目標(biāo)沖突，并同步情景模型、決策、功能分配、任務(wù)優(yōu)先級(jí)和計(jì)劃，以實(shí)現(xiàn)協(xié)調(diào)和批準(zhǔn)的行動(dòng)？

2）人工智能的透明度和可解釋性：實(shí)時(shí)透明對(duì)于支持人工智能系統(tǒng)的理解和可預(yù)測(cè)性是至關(guān)重要的，并且已經(jīng)被發(fā)現(xiàn)可以顯著地補(bǔ)償回路外的性能缺陷［6］。需要探索和研究的一些問(wèn)題：a）更好地定義信息需求和方法，以實(shí)現(xiàn)基于ML的AI系統(tǒng)的透明性，以及定義何時(shí)應(yīng)該提供這樣的信息，以滿足SA需求，而不會(huì)使人過(guò)載。；b）基于機(jī)器學(xué)習(xí)的人工智能系統(tǒng)的解釋的改進(jìn)可視化。；c）對(duì)機(jī)器人物角色的價(jià)值的研究。；d）人工智能可解釋性和信任之間的關(guān)系。；e）開(kāi)發(fā)有效的機(jī)制來(lái)使解釋適應(yīng)接受者的需求、先驗(yàn)知識(shí)和假設(shè)以及認(rèn)知和情緒狀態(tài)。；f）確定對(duì)人類(lèi)推理的解釋是否同樣可以改善人工智能系統(tǒng)和人-人工智能團(tuán)隊(duì)的表現(xiàn)。

3）人-人工智能團(tuán)隊(duì)交互：人-人工智能團(tuán)隊(duì)中的交互機(jī)制和策略對(duì)團(tuán)隊(duì)效率至關(guān)重要［7］。

需要探索和研究的一些問(wèn)題：a）如何隨著時(shí)間的推移支持跨職能靈活分配自動(dòng)化級(jí)別，以及如何改進(jìn)以支持人類(lèi)和人工智能系統(tǒng)在共享功能方面的合作，支持人類(lèi)操作員在多個(gè)自動(dòng)化級(jí)別下與人工智能系統(tǒng)一起工作？；b）如何在高自動(dòng)化級(jí)別下與人工智能系統(tǒng)一起工作時(shí)保持或恢復(fù)態(tài)勢(shì)感知（即人在環(huán)）？；c）如何隨著時(shí)間的推移，實(shí)現(xiàn)人-人工智能團(tuán)隊(duì)之間的動(dòng)態(tài)功能分配，以及尋找動(dòng)態(tài)過(guò)渡的最佳方法（何時(shí)發(fā)生，誰(shuí)應(yīng)該激活它們，以及它們應(yīng)該如何發(fā)生）？；d）如何更好地理解和預(yù)測(cè)緊急人機(jī)交互？；e）如何更好地理解交互設(shè)計(jì)決策對(duì)技能保留、培訓(xùn)要求、工作滿意度和整體人機(jī)團(tuán)隊(duì)彈性的影響？

4）信任：對(duì)人工智能的信任被認(rèn)為是使用人工智能系統(tǒng)的一個(gè)基本因素。需要探索和研究的一些問(wèn)題：a）人工智能可指導(dǎo)性對(duì)信任關(guān)系的影響；b）如何建立動(dòng)態(tài)的信任模型，來(lái)捕捉信任如何在各種人-人工智能團(tuán)隊(duì)環(huán)境中演變和影響績(jī)效？

5）偏見(jiàn)：人工智能系統(tǒng)中的潛在偏差，通常是隱藏的，可以通過(guò)算法的開(kāi)發(fā)以及訓(xùn)練集中的系統(tǒng)偏差等因素引入。此外，人類(lèi)可能會(huì)遭受幾個(gè)眾所周知的決策偏差。特別重要的是，人工智能系統(tǒng)的準(zhǔn)確性會(huì)直接影響人類(lèi)的決策，從而產(chǎn)生人類(lèi)-人工智能團(tuán)隊(duì)偏見(jiàn)［8］。因此，人類(lèi)不能被視為人工智能建議的獨(dú)立裁決者。需要探索和研究的一些問(wèn)題：a）如何理解人類(lèi)和人工智能決策偏差之間的相互依賴(lài)性，這些偏差如何隨著時(shí)間的推移而演變？；b）如是使用基于機(jī)器學(xué)習(xí)的人工智能檢測(cè)和預(yù)防偏差？；c）如何發(fā)現(xiàn)和防止可能試圖利用這些偏見(jiàn)的潛在敵對(duì)攻擊？

6）培養(yǎng)：需要對(duì)人-人工智能團(tuán)隊(duì)進(jìn)行培訓(xùn)，以開(kāi)發(fā)有效執(zhí)行所需的適當(dāng)團(tuán)隊(duì)結(jié)構(gòu)和技能需要探索和研究的一些問(wèn)題：a）什么時(shí)候，為什么以及如何最好地訓(xùn)練人類(lèi)-人工智能團(tuán)隊(duì)？；b）現(xiàn)有的訓(xùn)練方法是否可以適用于人類(lèi)-人工智能團(tuán)隊(duì)？；c）如何通過(guò)訓(xùn)練來(lái)更好地校準(zhǔn)人類(lèi)對(duì)人工智能隊(duì)友的期望，并培養(yǎng)適當(dāng)?shù)男湃嗡剑?/p>

7）人-系統(tǒng)集成（human-systems integration，HSI）流程和措施：要成功開(kāi)發(fā)一個(gè)能像好隊(duì)友一樣工作的人工智能系統(tǒng)，需要人-系統(tǒng)集成過(guò)程和方法的進(jìn)步。良好的HSI實(shí)踐將是新人工智能系統(tǒng)的設(shè)計(jì)、開(kāi)發(fā)和測(cè)試的關(guān)鍵，特別是基于敏捷或DevOps實(shí)踐的系統(tǒng)開(kāi)發(fā)［9］。需要探索和研究的一些問(wèn)題：a）如何建立有效的人工智能團(tuán)隊(duì)以及多學(xué)科人工智能開(kāi)發(fā)團(tuán)隊(duì)（包括人類(lèi)因素工程師、社會(huì)技術(shù)研究人員、系統(tǒng)工程師和計(jì)算機(jī)科學(xué)家等）？；b）人工智能生命周期測(cè)試和可審計(jì)性以及人工智能網(wǎng)絡(luò)漏洞的新團(tuán)隊(duì)、方法和工具。；c）如何開(kāi)發(fā)用于測(cè)試和驗(yàn)證進(jìn)化的AI系統(tǒng)，以檢測(cè)AI系統(tǒng)盲點(diǎn)和邊緣情況，并考慮脆性？；d）如何改進(jìn)人機(jī)合作的度量標(biāo)準(zhǔn)（特別是關(guān)于信任、心智模型和解釋質(zhì)量的問(wèn)題）？