人工智能對大國核安全產(chǎn)生存在的潛在影響

前段時間，胡錫進先生有關(guān)建議中國擴充核軍備力量的言論引發(fā)熱議，也將人們的目光吸引至對核戰(zhàn)略的廣泛關(guān)注。核武器是目前世界上最具破壞力的武器，也是大國戰(zhàn)略威懾的基石，針對人工智能時代核安全發(fā)展這一問題的討論和研究十分重要且緊迫。《人工智能網(wǎng)絡(luò)：對軍事對抗升級、威懾和戰(zhàn)略穩(wěn)定的影響》（The AI-cyber nexus： implications for military escalation， deterrence and strategic stability）一文由美國戰(zhàn)略專家詹姆斯約翰遜（James Johnson）發(fā)布在2019年的《網(wǎng)絡(luò)政策雜志》（Journal of Cyber Policy）上。審視了人工智能時代的核安全態(tài)勢，在人工智能網(wǎng)絡(luò)逐漸應(yīng)用于軍事領(lǐng)域尤其是核領(lǐng)域的背景下考察分析了人工智能增強下的網(wǎng)絡(luò)攻防能力對大國核安全產(chǎn)生的潛在影響，為我們理解和探索新時代大國核戰(zhàn)略提供了有益啟發(fā)，故將論文的主要觀點總結(jié)分析如下，并做簡要評析，以饗讀者。

01

人工智能遇上核武器系統(tǒng)

考慮到文藝作品中對人工智能（AI）的夸張描述，人們很容易夸大人工智能在軍事領(lǐng)域的發(fā)展部署所帶來的機遇和挑戰(zhàn)。實際上，“人工智能”一詞目前并沒有公認的定義。如果將其理解為一個通用術(shù)語，可以認為人工智能是一類用于提高自動化系統(tǒng)性能以應(yīng)對各種復(fù)雜任務(wù)的技術(shù)。因而在軍事方面，作為先進武器系統(tǒng)的潛在推動力和力量倍增器，人工智能更類似于電力、無線電、雷達、情報、監(jiān)視與偵察（ISR）這類支持系統(tǒng)，而不是“武器”本身。像這些支持系統(tǒng)一樣，人工智能在戰(zhàn)略上至關(guān)重要但同時十分脆弱，它本質(zhì)上是一種跨領(lǐng)域技術(shù)，并且其效力發(fā)揮依賴于裝備實體。就人工智能在核領(lǐng)域的應(yīng)用來說，主要包括：對核武器的指揮、控制、通信和情報（C3I）架構(gòu)的質(zhì)量改進；加強導(dǎo)彈和防空系統(tǒng)的目標(biāo)捕獲、跟蹤、制導(dǎo)以及識別能力；從質(zhì)量上優(yōu)化核導(dǎo)彈的運載系統(tǒng)，幫助核運載系統(tǒng)更自主、更精確地運行，并且具備更強大的抗干擾和抗欺騙能力。同時，人工智能增強下的核指揮和控制系統(tǒng)可以有效緩解“戰(zhàn)爭迷霧”中人類戰(zhàn)略決策固有的許多缺陷，比如對沉沒成本的敏感性、風(fēng)險判斷的扭曲、認知啟發(fā)陷阱（cognitive heuristics）和低效的集體決策。然而作者提醒，目前應(yīng)用于核領(lǐng)域的人工智能網(wǎng)絡(luò)一旦被對手攻擊利用，核武器這把“利刃”有可能喪失威懾作用，甚至刺向自身。

02

人工智能與網(wǎng)絡(luò)的結(jié)合將增大核戰(zhàn)的風(fēng)險

鑒于人工智能技術(shù)的依賴性和支持性，作者援引Boulanin的觀點認為，人工智能技術(shù)的最新進展將加劇現(xiàn)有風(fēng)險而不是產(chǎn)生全新風(fēng)險。經(jīng)由新一代人工智能增強的網(wǎng)絡(luò)能力，將增加因核武器與戰(zhàn)略無核武器混合使用以及戰(zhàn)爭速度加快導(dǎo)致的偶發(fā)性沖突升級的風(fēng)險，從而提高爆發(fā)核戰(zhàn)爭的可能性。具體表現(xiàn)有以下幾點。

1.模糊網(wǎng)絡(luò)攻防界限

一方面，人工智能可以增強軍隊?wèi)?yīng)對網(wǎng)絡(luò)攻擊的防御能力。人工智能網(wǎng)絡(luò)防御工具（counter-AI）旨在識別網(wǎng)絡(luò)行為模式的變化、自動檢測軟件代碼漏洞并應(yīng)用機器學(xué)習(xí)技術(shù)測試網(wǎng)絡(luò)活動的偏差和異常，這些可以幫助軍隊獲得更強大的預(yù)防網(wǎng)絡(luò)攻擊能力。另一方面，自主性本身也可能會增加軍隊?wèi)?yīng)對網(wǎng)絡(luò)攻擊的脆弱性。諸如使用惡意軟件操縱、欺騙自主武器行為識別系統(tǒng)一類的網(wǎng)絡(luò)攻擊，相對于防御和反擊成本極低，并且由于缺乏世界公認的處理框架和對構(gòu)成對抗升級行為的共識，網(wǎng)絡(luò)攻擊行為作為一個信號可能難以被自主系統(tǒng)正確識別，甚至將其誤認為是惡意攻擊。即使能夠及時準(zhǔn)確地識別此類操作，其背后的動機仍可能含糊不清或被誤解。這客觀上加劇了襲擊國家和被襲國家間的矛盾對立。因此，雖然人工智能可以提升網(wǎng)絡(luò)戰(zhàn)能力，進而強化國家威懾力，但這同時也會刺激對手主動對國防系統(tǒng)尤其是核武器系統(tǒng)進行攻擊，從而加劇了安全領(lǐng)域的能力脆弱性悖論（capabilityvulnerability paradox）。

2.增加戰(zhàn)爭決策壓力

針對核武器系統(tǒng)的網(wǎng)絡(luò)攻擊究竟構(gòu)不構(gòu)成發(fā)動核戰(zhàn)爭的充分條件？一旦核武器系統(tǒng)遭網(wǎng)絡(luò)攻擊而癱瘓，給予決策者判斷態(tài)勢的時間將十分緊張，是否決定使用核武器的壓力可能會增大。尤其是在一個國家保持發(fā)射警告態(tài)勢的情況下，遭到人工智能增強下的網(wǎng)絡(luò)攻擊，核武器系統(tǒng)幾乎無法進行有效探測并且發(fā)出警告信號，更不要說在發(fā)起核打擊的極短時間內(nèi)進行身份驗證以及判定責(zé)任歸屬了。根據(jù)公開消息，北美航空航天防御司令部（NORAD）在不到三分鐘的時間內(nèi)就可以通過早期預(yù)警系統(tǒng)評估和確認即將發(fā)生核攻擊的初步跡象，這從側(cè)面說明預(yù)警系統(tǒng)失靈留給防御方的處置時間多么短暫?？s短的決策時間可能會使政治領(lǐng)導(dǎo)人承受巨大壓力，迫使其依據(jù)不完整甚至是錯誤的信息在危機期間做出發(fā)動核戰(zhàn)爭的決定。

3.刺激先發(fā)制人策略

作者指出，中國已將針對核指揮、控制和通信（C3I）系統(tǒng)的網(wǎng)絡(luò)滲透視為國家最高安全威脅之一，即使攻擊者的目標(biāo)僅限于網(wǎng)絡(luò)間諜活動。相比之下，俄羅斯傾向于認為其C3I核網(wǎng)絡(luò)相對獨立，因此不會受到網(wǎng)絡(luò)攻擊。但不管這些差異如何，由人工智能增強的先進網(wǎng)絡(luò)工具可能被用來威脅甚至破壞國家核力量的可靠性，這一行為將極大破壞戰(zhàn)略穩(wěn)定，導(dǎo)致核威懾力的潛在削弱。因此在危機或沖突中，即使人工智能增強下的網(wǎng)絡(luò)攻擊能力的有效性并不確定，也將大大降低雙方的風(fēng)險承受能力，增加雙方“先發(fā)制人”的動機。一個在人工智能增強下的各國間良性競爭，需要守成大國與新興大國之間具有信息對稱性，并對雙方的人工智能網(wǎng)絡(luò)攻擊手段的準(zhǔn)確性和可信度有著共同信心。但現(xiàn)實是，在一個競爭激烈的戰(zhàn)略環(huán)境中，一個國家往往傾向于對他國意圖作最壞設(shè)想，面對對手依靠人工智能實現(xiàn)愈加強大的針對核武器系統(tǒng)的網(wǎng)絡(luò)攻擊能力，“先下手為強”似乎成了自保的唯一“可靠”手段。

4.滋生深度偽造風(fēng)險

人工智能網(wǎng)絡(luò)技術(shù)的發(fā)展還為煽動敵對國家間的沖突提供了新途徑。例如，國家A借助代理黑客使用生成對抗網(wǎng)絡(luò)（Generative Adversarial Networks，簡稱GAN）制造“深度偽造”（Deepfakes）視頻或音頻材料，描繪國家B的高級軍事指揮官密謀對國家C發(fā)動先發(fā)制人的打擊。然后，這段“深度偽造”視頻被故意泄露給國家C的人工智能增強下的情報收集和分析系統(tǒng)中，引發(fā)了國家C的戰(zhàn)略誤判并采取核對抗手段。國家B在這種情況下將不得不以同樣的對抗方式回應(yīng)。目前，在新興的“深造偽造”軍備競賽中，檢測軟件的發(fā)展速度遠落后于進攻性軟件，“開發(fā)用于偽造內(nèi)容的技術(shù)的人要比檢測它的人多100到1000倍”。這給信息接收系統(tǒng)的“反人工智能”功能和其他故障安全機制提出了重大挑戰(zhàn)。

03

維護人工智能時代的核穩(wěn)定須強化國際合作

為避免各國在人工智能網(wǎng)絡(luò)戰(zhàn)領(lǐng)域的軍備競賽與核武器結(jié)合后演變成毀天滅地的災(zāi)難，作者呼吁國際社會攜手應(yīng)對人工智能對大國核戰(zhàn)略的影響與沖擊。

1.加強各方在這一領(lǐng)域的研究、討論與對話

第一，為減輕人工智能網(wǎng)絡(luò)安全關(guān)系所帶來的不穩(wěn)定和對抗升級，大國間有必要增加對話以建立信任。在國際討論中，至少應(yīng)包括外交官和軍事領(lǐng)導(dǎo)人（特別是來自中國、俄羅斯和美國的領(lǐng)導(dǎo)人）、行業(yè)專家、人工智能研究人員和多學(xué)科學(xué)者。軍事大國間應(yīng)盡快建立一個治理、規(guī)范機器學(xué)習(xí)增強下網(wǎng)絡(luò)能力使用的國際框架，并在監(jiān)管方面開展合作。第二，智庫、學(xué)術(shù)界和人工智能研究專家應(yīng)集中資源，研究人工智能網(wǎng)絡(luò)對一系列潛在安全問題的影響，比如：人工智能偏見對未來軍事應(yīng)用的影響；如何應(yīng)對可能出現(xiàn)的通用人工智能；如有需要，政府可采取步驟，修訂現(xiàn)有的法律定義以解釋人工智能擴散所造成的潛在損害，這些定義包括黑客攻擊、數(shù)據(jù)注毒和信息欺騙等。

2.研究和實施網(wǎng)絡(luò)安全保護措施

研究和實施一些以網(wǎng)絡(luò)安全為中心的措施可以預(yù)防和減輕人工智能增強下網(wǎng)絡(luò)能力提升，特別是涉及安全關(guān)鍵的核系統(tǒng)所帶來的一些風(fēng)險。首先，在解決計算機安全時的成熟經(jīng)驗可以被應(yīng)用于開發(fā)人工智能上，例如可以采取紅藍對抗的方式幫助工程師和操作員更好理解并執(zhí)行網(wǎng)絡(luò)防御方案、提高進行防御性操作所需的技能。其次，全球防務(wù)界應(yīng)積極投資開發(fā)人工智能網(wǎng)絡(luò)防御工具、以人工智能為中心的安全硬件以及其他故障安全機制，以幫助降低因人工智能網(wǎng)絡(luò)攻擊帶來的沖突升級風(fēng)險。最后，與這些措施相關(guān)的一些問題還需要進一步探討，包括：現(xiàn)有工具在多大程度上可以有效抵御人工智能系統(tǒng)中的漏洞？如何為跨多個軍事領(lǐng)域的人工智能系統(tǒng)量身定制防御工具？在軍事人工智能系統(tǒng)中是否有等同于“補丁”的功能？什么樣的政策可以激勵并確保對軍事領(lǐng)域的現(xiàn)有硬件進行有意義的改革？

04

結(jié)語

武器裝備無人化和智能化是未來軍隊發(fā)展的必由之路，而核武器系統(tǒng)似乎沒有理由不搭上新一輪軍事技術(shù)革命的快車。在美國退出《中程導(dǎo)彈條約》、無意續(xù)簽《削減進攻性戰(zhàn)略武器條約》的今天，世界“核軍備競賽”大有重啟勢頭。然而，“核武器+人工智能”究竟是更多地增強了大國威懾力還是更多地把人類置于了災(zāi)難邊緣？目前來看，這一前景并不明朗。在人工智能、大數(shù)據(jù)、云計算等技術(shù)迅猛發(fā)展的當(dāng)今時代，我們應(yīng)當(dāng)提前研究和預(yù)判其中的風(fēng)險，并進行前瞻性預(yù)防和化解。應(yīng)當(dāng)看到，人類文明的發(fā)展大勢只能是走向互信和合作，固守冷戰(zhàn)思維只會使人類在猜疑與對抗中一步步走向自我毀滅的境地。特別是對待掌握地球“重啟鍵”的核武器這一重大問題，人類真的需要樹立命運共同理念，用合作替代對抗，用信任消弭偏見，才能共同塑造人類更美好的明天而非走向共同毀滅。
責(zé)任編輯：tzh