人工智能軍事變革尚未到來(lái)

知遠(yuǎn)導(dǎo)讀，本文通過(guò)運(yùn)用軍事變革的四要素——技術(shù)變革、軍事系統(tǒng)演變、作戰(zhàn)創(chuàng)新和組織適應(yīng)來(lái)分析美國(guó)和中國(guó)軍事人工智能發(fā)展，探討人工智能能否開創(chuàng)軍事領(lǐng)域新的革命。文章研究發(fā)現(xiàn)，在短期內(nèi)，人工智能更有可能幫助全面實(shí)現(xiàn)偵察-打擊軍事變革，而不是產(chǎn)生全新的人工智能軍事變革。同時(shí)，對(duì)該問(wèn)題的探討可以對(duì)美國(guó)和中國(guó)之間軍事技術(shù)競(jìng)爭(zhēng)的潛在軌跡進(jìn)行分析。

人工智能可能是中美科技競(jìng)爭(zhēng)中最重要的領(lǐng)域。包括美國(guó)和中國(guó)在內(nèi)的許多國(guó)家都認(rèn)為人工智能在民用和軍事應(yīng)用方面具有潛在的革命性。人工智能因其“激活”機(jī)器的能力而被比作電力，有些人推測(cè)人工智能可能引發(fā)長(zhǎng)期社會(huì)變革，就像是新工業(yè)革命。1到2021年，44個(gè)國(guó)家已經(jīng)發(fā)布并正在實(shí)施國(guó)家級(jí)人工智能戰(zhàn)略。2然而美國(guó)和中國(guó)是全球領(lǐng)導(dǎo)者，體現(xiàn)在以下成功標(biāo)志上：經(jīng)費(fèi)支出，學(xué)術(shù)出版，已獲授權(quán)的專利和申請(qǐng)，蓬勃發(fā)展的學(xué)術(shù)，私營(yíng)和公共部門人工智能研究。3他們也是半導(dǎo)體行業(yè)的關(guān)鍵參與者，該行業(yè)的進(jìn)步促使人工智能得以持續(xù)發(fā)展。

對(duì)本文的研究來(lái)說(shuō)，最重要的是美國(guó)和中國(guó)處于思考人工智能軍事應(yīng)用的前沿。兩國(guó)都認(rèn)為這可能是革命性的。人工智能革命性的軍事潛力令人興奮，但仍然存在不確定性。它的發(fā)展軌跡很難預(yù)測(cè)，歷史上容易出現(xiàn)“寒冬”，其間又不時(shí)出現(xiàn)快速發(fā)展。4然而，美國(guó)和中國(guó)的一些分析人士、戰(zhàn)略家和技術(shù)專家認(rèn)為，它可能會(huì)從根本上改變?nèi)伺c機(jī)器之間的關(guān)系，將對(duì)戰(zhàn)爭(zhēng)產(chǎn)生影響，從限制人類在戰(zhàn)場(chǎng)上的參與，到破壞戰(zhàn)略核威懾背后的計(jì)算。5計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理和推薦系統(tǒng)等應(yīng)用可以通過(guò)為指揮與控制、情報(bào)收集以及聚合、自主性和決策支持等作戰(zhàn)挑戰(zhàn)提供新穎的解決方案，幫助實(shí)現(xiàn)戰(zhàn)略目標(biāo)。6

因此，美國(guó)和中國(guó)的國(guó)家級(jí)人工智能戰(zhàn)略均承認(rèn)保持、發(fā)展領(lǐng)先地位的重要性。7美國(guó)在《2018年國(guó)防部人工智能戰(zhàn)略》中指出，人工智能“將改變未來(lái)戰(zhàn)場(chǎng)的特征和我們面對(duì)威脅時(shí)的速度。我們將利用人工智能的潛力，積極轉(zhuǎn)變國(guó)防部的所有職能。8

但人工智能真的預(yù)示著軍事變革即將到來(lái)嗎？它為什么重要？就軍事變革的概念而言，其要素包括技術(shù)變革、軍事系統(tǒng)演變、作戰(zhàn)創(chuàng)新和組織適應(yīng)，是評(píng)估人工智能是否能夠改變戰(zhàn)爭(zhēng)性質(zhì)的自然視角，因?yàn)槿斯ぶ悄艿膬r(jià)值目前處在狹窄的應(yīng)用領(lǐng)域。9軍事變革可能是由技術(shù)推動(dòng)的，但除非特定的技術(shù)應(yīng)用刺激了行動(dòng)和組織的變化，推動(dòng)軍事進(jìn)步，否則就不會(huì)出現(xiàn)軍事變革。美國(guó)凈評(píng)估辦公室前主任安德魯·馬歇爾從美國(guó)的角度提出了軍事變革的概念：“軍事變革的主要挑戰(zhàn)是智力挑戰(zhàn)，而不是技術(shù)挑戰(zhàn)?！?0在人工智能潛力及其對(duì)系統(tǒng)、作戰(zhàn)和組織影響的基礎(chǔ)分析方面，軍事變革框架有助于避免夸張的猜測(cè)。

如果人工智能正在推動(dòng)美國(guó)或中國(guó)軍隊(duì)的軍事變革，新技術(shù)和新概念的結(jié)合可能會(huì)威脅到任何一方的主導(dǎo)作戰(zhàn)方式。如果不是，理解它在未來(lái)為什么以及將如何發(fā)生，可以幫助觀察人士識(shí)別出進(jìn)步和智力發(fā)展的標(biāo)志，例如軍事人工智能應(yīng)用和新戰(zhàn)術(shù)、新組織結(jié)構(gòu)的結(jié)合，使人工智能軍事變革更有可能發(fā)生。因此，評(píng)估人工智能是否可能引發(fā)軍事變革，可以為美國(guó)如何考慮和塑造未來(lái)與中國(guó)的戰(zhàn)略競(jìng)爭(zhēng)提供信息。

本文的研究方法使用了安德魯·克雷平涅維奇（AndrewKrepinevich）在1992年開創(chuàng)性論文中提出的軍事變革四要素，作為評(píng)估人工智能是否為一種革命性軍事技術(shù)的視角。在研究人工智能的應(yīng)用之前，論文定義了軍事變革，確定了將在多大程度上引發(fā)美國(guó)和中國(guó)軍事系統(tǒng)、行動(dòng)和組織的變化，以及這種變化的本質(zhì)。根據(jù)訪談、學(xué)術(shù)研究、分析、官方文件、研究報(bào)告和歷史案例，本報(bào)告發(fā)現(xiàn)人工智能目前并沒(méi)有促成軍事變革。人工智能技術(shù)的現(xiàn)狀制約了軍事應(yīng)用，難以實(shí)現(xiàn)作戰(zhàn)創(chuàng)新和適應(yīng)性的組織結(jié)構(gòu)。

從軍事變革要素的視角分析人工智能

技術(shù)變革

在過(guò)去十年中，特定人工智能技術(shù)進(jìn)步迅速且令人印象深刻。人工智能技術(shù)在計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理和推薦系統(tǒng)等領(lǐng)域的應(yīng)用，使機(jī)器在某些任務(wù)上勝過(guò)人類，這引發(fā)了美國(guó)和中國(guó)對(duì)軍事應(yīng)用的創(chuàng)造性思考。然而，人工智能應(yīng)用目前存在重大缺陷，在可預(yù)見的未來(lái)，可能會(huì)限制其戰(zhàn)場(chǎng)用途。此外，也無(wú)法保證當(dāng)前的快速進(jìn)步能夠持續(xù)。歷史上，人工智能經(jīng)常會(huì)出現(xiàn)發(fā)展緩慢的寒冬，而且諸如半導(dǎo)體技術(shù)發(fā)展等因素，可能會(huì)制約美國(guó)和中國(guó)的進(jìn)步。本節(jié)研究了關(guān)于人工智能及其應(yīng)用的廣泛技術(shù)背景、最新進(jìn)展、優(yōu)勢(shì)以及近期實(shí)現(xiàn)人工智能軍事變革的重大障礙。

一、技術(shù)背景及相關(guān)應(yīng)用

簡(jiǎn)單地定義人工智能可能具有挑戰(zhàn)性，因?yàn)樵谡麄€(gè)技術(shù)發(fā)展的歷史中，技術(shù)和概念發(fā)生了快速的變化，其不斷迭代升級(jí)，子類別和應(yīng)用不斷發(fā)展，且專家之間存在分歧。11就本文的目的而言，人工智能廣義上是指一系列技術(shù)，使計(jì)算機(jī)系統(tǒng)能夠執(zhí)行某些需要人類智慧參與的任務(wù)。12雖然人工智能在歷史上包含了一系列決策系統(tǒng)（如專家系統(tǒng)），但在關(guān)于突破性能力的討論中，該術(shù)語(yǔ)指的是使用計(jì)算能力，通過(guò)執(zhí)行數(shù)據(jù)驅(qū)動(dòng)算法來(lái)完成任務(wù)的機(jī)器學(xué)習(xí)系統(tǒng)。算法、數(shù)據(jù)和計(jì)算能力（以下統(tǒng)稱為計(jì)算）是先進(jìn)機(jī)器學(xué)習(xí)系統(tǒng)的核心組成部分。13

這三個(gè)要素的進(jìn)步推動(dòng)了人工智能領(lǐng)域近期的巨大進(jìn)步，因此它們很有價(jià)值，但也很昂貴。專家通常擁有高等學(xué)位，創(chuàng)造最前沿的算法。理想情況下，這些算法在高質(zhì)量的數(shù)據(jù)集上進(jìn)行訓(xùn)練，而這些數(shù)據(jù)集足以代表給定的問(wèn)題集，可以提高算法的精度和魯棒性，同時(shí)限制偏差。半導(dǎo)體制造的進(jìn)步以及為機(jī)器學(xué)習(xí)優(yōu)化的芯片，通過(guò)促進(jìn)計(jì)算來(lái)幫助推動(dòng)人工智能實(shí)現(xiàn)突破：從2012年到2018年，用于訓(xùn)練頂級(jí)人工智能項(xiàng)目的計(jì)算增加了300000倍。14

通過(guò)深度學(xué)習(xí)技術(shù)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)是人工智能領(lǐng)域最近取得諸多進(jìn)展的原因。受人類神經(jīng)元通信的啟發(fā)，神經(jīng)網(wǎng)絡(luò)是具有輸入、隱藏和輸出節(jié)點(diǎn)層的算法集合。分配給每一層中不同節(jié)點(diǎn)的權(quán)重和閾值幫助模型處理數(shù)據(jù)，進(jìn)而實(shí)現(xiàn)某個(gè)目標(biāo)，例如搜索發(fā)現(xiàn)或識(shí)別圖像。15人類可以通過(guò)提供對(duì)性能的反饋來(lái)訓(xùn)練網(wǎng)絡(luò)，并通過(guò)在特定任務(wù)中校準(zhǔn)通用模型中的權(quán)重，對(duì)模型進(jìn)行微調(diào)。16深度神經(jīng)網(wǎng)絡(luò)包含三層以上，在計(jì)算機(jī)視覺(jué)和語(yǔ)言處理方面取得了長(zhǎng)足的進(jìn)步，并且在許多狹窄的應(yīng)用中大大超過(guò)人類，比如從巨大的數(shù)據(jù)集中分析、得到觀點(diǎn)。17然而，深度神經(jīng)網(wǎng)絡(luò)就像大腦一樣，包含數(shù)千個(gè)相互連接的節(jié)點(diǎn)。這些節(jié)點(diǎn)的相互作用非常復(fù)雜，通常無(wú)法進(jìn)行有意義的總結(jié)。這限制了產(chǎn)出的可預(yù)測(cè)性、可解釋性，從而限制了它們?cè)趹?yīng)用于敏感任務(wù)時(shí)的可信度。18

像深度神經(jīng)網(wǎng)絡(luò)這樣的高級(jí)機(jī)器學(xué)習(xí)系統(tǒng)，在2016年進(jìn)入了公眾的視野。當(dāng)時(shí)美國(guó)DeepMind公司的AlphaGo系統(tǒng)在圍棋比賽中擊敗了世界排名第一的人類棋手。19AlphaGo開發(fā)的策略和動(dòng)作對(duì)人類棋手來(lái)說(shuō)是不可預(yù)測(cè)和無(wú)法理解的，這暗示了機(jī)器學(xué)習(xí)在某些任務(wù)上超越人類的新興潛力。

五年多后，美國(guó)和中國(guó)將人工智能應(yīng)用的民事和軍事潛力視為革命性的，特別是在計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理、大數(shù)據(jù)分析和推薦系統(tǒng)方面。計(jì)算能力的提高和訓(xùn)練時(shí)間的減少引發(fā)了計(jì)算機(jī)視覺(jué)方面的重大進(jìn)展，即系統(tǒng)檢測(cè)、處理和環(huán)境識(shí)別方面的能力。20民事應(yīng)用包括醫(yī)學(xué)成像、在復(fù)雜環(huán)境中提取重要細(xì)節(jié)的實(shí)時(shí)目標(biāo)檢測(cè)以及社交媒體圖像搜索。21軍事應(yīng)用包括自主導(dǎo)航、基于圖像的情報(bào)收集和分析、通過(guò)面部或步態(tài)識(shí)別個(gè)人以及目標(biāo)識(shí)別等。

自然語(yǔ)言處理模型通過(guò)理解人類語(yǔ)言來(lái)執(zhí)行任務(wù)。由于搜索引擎以及蘋果的Siri和亞馬遜的Alexa等虛擬助手的普及，模型通過(guò)閱讀現(xiàn)有文本來(lái)學(xué)習(xí)單詞在上下文中的用法，然后“學(xué)習(xí)”回答開放式查詢，生成預(yù)測(cè)性文本，翻譯并執(zhí)行聊天機(jī)器人功能。22軍方可以使用這種技術(shù)掃描文件集以獲取特定信息，翻譯外國(guó)情報(bào)，甚至直接生成文本信息。23

人工智能在決策支持方面也很有前景。決策支持算法通常受到大數(shù)據(jù)集（來(lái)自合并的結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)）的推動(dòng)，可以發(fā)現(xiàn)人類難以甚至不可能收集到的見解。24顧名思義，推薦系統(tǒng)根據(jù)匯總的數(shù)據(jù)和用戶偏好，提供決策支持。著名的Spotify使用這種算法來(lái)創(chuàng)建播放列表，并根據(jù)過(guò)去的收聽行為和社區(qū)數(shù)據(jù)為用戶推薦新的音樂(lè)。25軍方在融合、分析和消除來(lái)自戰(zhàn)場(chǎng)的多源傳感器數(shù)據(jù)以及優(yōu)化復(fù)雜的后勤保障或裝備維修方面看到了決策支持的潛力。26

這里只是列舉了一些有前景且可以軍事應(yīng)用的人工智能最新進(jìn)展（其他的將在后文中介紹）。然而，在了解它們目前的重大缺陷之后，對(duì)這些應(yīng)用程序的熱情將有所緩和。

二、技術(shù)的缺點(diǎn)

深度神經(jīng)網(wǎng)絡(luò)在訓(xùn)練環(huán)境之外可能很脆弱，這意味著對(duì)輸入的微小修改就可能導(dǎo)致不正確的輸出。這些缺陷可能會(huì)被對(duì)手利用。例如，研究人員只需在停車標(biāo)志上放置黑白貼紙，就能阻止最先進(jìn)深度神經(jīng)網(wǎng)絡(luò)系統(tǒng)中的圖像分類器讀取停車標(biāo)志。27其他研究人員發(fā)現(xiàn)，以一種人類無(wú)法察覺(jué)的方式隨機(jī)扭曲熊貓的圖像，會(huì)使準(zhǔn)確率超過(guò)99%的模型將圖像標(biāo)記為長(zhǎng)臂猿。28由于模型不像人類那樣看世界，隱藏層也不透明，所以人類充其量只能解釋為什么模型會(huì)產(chǎn)生某種輸出。29即使過(guò)去的性能是準(zhǔn)確的，這也使得在新數(shù)據(jù)上驗(yàn)證模型未來(lái)的表現(xiàn)變得困難。因此對(duì)于實(shí)現(xiàn)軍事目的的信任，以及如何測(cè)試和評(píng)估系統(tǒng)是主要的弱點(diǎn)，可能會(huì)限制深度神經(jīng)網(wǎng)絡(luò)在高度復(fù)雜、動(dòng)態(tài)作戰(zhàn)環(huán)境中的短期有效性。30

深度神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)集和訓(xùn)練也可能是昂貴和困難的，需要高水平的計(jì)算或大量的人力來(lái)編譯和標(biāo)記數(shù)據(jù)。在過(guò)渡到現(xiàn)實(shí)應(yīng)用時(shí)，即使是具有廣泛代表性的訓(xùn)練數(shù)據(jù)也不能消除問(wèn)題。31獲取可用數(shù)據(jù)也可能是個(gè)問(wèn)題：美國(guó)陸軍利用大數(shù)據(jù)進(jìn)行預(yù)測(cè)性維護(hù)的一項(xiàng)研究發(fā)現(xiàn)，歷史數(shù)據(jù)是手寫的，不能由機(jī)器讀取。32對(duì)手可以在訓(xùn)練和現(xiàn)實(shí)環(huán)境中“毒害”數(shù)據(jù)。33此外，由人類培養(yǎng)的數(shù)據(jù)集可能會(huì)在無(wú)意中納入他們的偏見，引發(fā)對(duì)公平、算法正義和準(zhǔn)確性的深刻倫理?yè)?dān)憂。34

除了這些挑戰(zhàn)外，整合人類和機(jī)器團(tuán)隊(duì)是復(fù)雜的，而且存在著潛在的危險(xiǎn)。競(jìng)爭(zhēng)對(duì)手帶來(lái)的戰(zhàn)場(chǎng)問(wèn)題對(duì)作戰(zhàn)人員來(lái)說(shuō)已經(jīng)足夠具有挑戰(zhàn)性，受限環(huán)境中表現(xiàn)最好的算法工具也并不成熟，不應(yīng)再引入這種復(fù)雜性。35人工智能系統(tǒng)與人類相比的決策速度，再加上可解釋性挑戰(zhàn)，會(huì)造成人類默認(rèn)系統(tǒng)的判斷，被稱為“自動(dòng)化偏見”。如果對(duì)手無(wú)法理解人工智能所支持的行動(dòng)，就會(huì)產(chǎn)生戰(zhàn)爭(zhēng)升級(jí)的風(fēng)險(xiǎn)。362020年，蘭德公司的一場(chǎng)兵棋推演發(fā)現(xiàn)，快速的機(jī)器決策速度使得態(tài)勢(shì)升級(jí)更快、威懾更弱，以及對(duì)降級(jí)信號(hào)的反應(yīng)減小，結(jié)論是：“廣泛的人工智能和自主系統(tǒng)可能會(huì)導(dǎo)致無(wú)意的升級(jí)和危機(jī)的不穩(wěn)定。