人工智能，五角大樓的“大考”？

“顛覆性技術(shù)”和“高度關(guān)注”依然是2019年評價AI的兩個關(guān)鍵詞。雖然工業(yè)界落地艱難，但是，軍事界熱情不減。作為軍事大國，美國的目標(biāo)非常清晰。推動美國頂尖人工智能研究走向新的技術(shù)突破，促進科學(xué)新成果的發(fā)現(xiàn)、增強經(jīng)濟競爭力、鞏固國家安全。

僅憑12個月的角力難分勝負，但是年度評估非常必要?；嗣绹{稅人這么錢，坐落在美國華盛頓波托馬克河畔的五角大樓，2019年工作做的怎么樣？

《國防授權(quán)法（2019）》（National Defense Authorization Act for Fiscal Year 2019）有細則特別提到，對人工智能進行專項研究，確定美國國防部在人工智能、機器學(xué)習(xí)等技術(shù)方面的競爭力。因此，第三方咨詢機構(gòu)蘭德公司（RAND Corp.）受命于此。在2019年年末，他們對五角大樓的人工智能態(tài)勢進行了獨立、審慎的評估，出具一份重量級的報告《蘭德咨詢：美國國防部人工智能態(tài)勢分析》。

一、人工智能是五角大樓的機會

報告開篇聚焦三個本質(zhì)性問題。五角大樓目前在人工智能中的現(xiàn)狀如何？五角大樓相關(guān)的人工智能處于什么狀態(tài)？哪些內(nèi)部行動，外部參與以及潛在的立法或監(jiān)管行動可能會增強五角大樓在人工智能中的地位？這三個問題拷問五角大樓的靈魂報告對于五角大樓目前態(tài)勢的判斷，成為一面鏡子，意在推動該機構(gòu)深刻反思。

《報告》的分析框架分為“六大”維度，從六個不同的角度“照進”五角大樓要面對的現(xiàn)實。

組織，從五角大樓的執(zhí)行層的視角提出，包括遠景、戰(zhàn)略、組織結(jié)構(gòu)和承諾的資源。

進展，技術(shù)的研究、開發(fā)、原型、驗證、確認、測試和評估。

應(yīng)用，技術(shù)采購、部署和生命周期管理，重新設(shè)計概念和流程，以充分利用技術(shù)。

創(chuàng)新，內(nèi)部創(chuàng)新文化和引進外部創(chuàng)新或創(chuàng)新者的機制。

數(shù)據(jù)，數(shù)據(jù)作為資源、數(shù)據(jù)治理和支持基礎(chǔ)設(shè)施，數(shù)據(jù)的利用。

人才，五角大樓需要和培養(yǎng)和增長人才的機制。

眾所周知，企業(yè)界的算法生而用于商業(yè)用途，比如谷歌廣告推薦，優(yōu)步打車路徑規(guī)劃。這些不是五角大樓所直接期望的用途，再加之目前算法存在一定的“手工打磨的性質(zhì)”。簡而言之就是模型的質(zhì)量需要高質(zhì)量的數(shù)據(jù)，而數(shù)據(jù)標(biāo)注需要花費大量的人力物力。

此前也有百度公司的AI科學(xué)家在論壇中戲稱“需要有多少智能，就需要配套多少人工?！彼?，直接擴展企業(yè)AI的用途到軍事上，并不是一件容易的事情?！秷蟾妗酚^點與業(yè)界觀點一致，并做出提示，需要謹(jǐn)慎的策略和執(zhí)行，同時在基礎(chǔ)設(shè)施和支持方面進行大量投資。

盡管不可缺少謹(jǐn)慎的態(tài)度，但是，在《報告》看來，人工智能的技術(shù)進展，對美方，尤其是五角大樓這樣的機構(gòu)意味著機會。

《報告》站在積極的視角，鼓勵五角大樓應(yīng)該探索、尋求機會，特別強調(diào)利用好企業(yè)級人工智能、任務(wù)支持類人工智能和操作類人工智能（enterprise AI， operational AI and mission-support AI）這三類技術(shù)的新進展，尤其關(guān)注“驗證、確認、測試和評估（verification， validation， testing， and evaluation，VVT&E）”的應(yīng)用。

《報告》進行深入的調(diào)研，自然也充分理解了人工智能現(xiàn)在面臨的短板，算法在很多應(yīng)用中缺乏魯棒性，不可能一蹴而就地找到大規(guī)模應(yīng)用的爆發(fā)點，并給出戒驕戒躁的風(fēng)險提示，也就是要對人工智能技術(shù)的性能提升不要心急，要付出耐心。

——“對于五角大樓來說，在從演示到大規(guī)模部署的過程中，保持對性能和時間表的現(xiàn)實預(yù)期是很重要的?！?/p>

不僅如此，除了保持對人工智能這一新興技術(shù)正確的認知與態(tài)度，《報告》也做出了預(yù)判，明確指出了繼續(xù)投資的方向?！盀榱舜_保成功，還需要對基礎(chǔ)設(shè)施和設(shè)備以及識別、驗證、測試和評估進行持續(xù)的配套投資。盡管離確保人工智能應(yīng)用程序的性能和安全還差得很遠，特別是在涉及安全關(guān)鍵系統(tǒng)方面。盡管這不是只有美國國防部一家機構(gòu)面對的獨特問題，但它是對美國國防部產(chǎn)生重大影響的關(guān)鍵性問題?！?/p>

二、像對待核武器技術(shù)一樣對待人工智能

《報告》對于人工智能技術(shù)高度的評價，以今天的人工智能技術(shù)比作五十年前的核武器技術(shù)。并建議，“建立美國五角大樓研究人工智能和機器學(xué)習(xí)的中心，整合該領(lǐng)域?qū)I(yè)知識和能力。就像過去確保五角大樓在核武器方面的技術(shù)優(yōu)勢一樣。

眾所周知，人工智能是屬于貴族的游戲。科技巨頭亞馬遜公司，在2018年末股東信中已經(jīng)將這一結(jié)論表達得非常清楚——“強化學(xué)習(xí)（機器學(xué)習(xí)重要分支之一）具有陡峭的學(xué)習(xí)曲線和眾多的發(fā)展方向，這在很大程度上決定了它的效果，到目前為止，除了資金最充足和技術(shù)最先進的機構(gòu)外，其他所有機構(gòu)都無能為力。只有具有好奇文化和強烈愿意為客戶嘗試全新事物的企業(yè)才能達成……”

眾所周知，人工智能是屬于實力派玩家的游戲，上桌需要大籌碼。只有最具實力的國家、企業(yè)、組織、機構(gòu)才有資格。五角大樓擁有人工智能應(yīng)用的天然場景當(dāng)然不能例外，是人工智能“重點實施單位”。

例如，《國家安全戰(zhàn)略》（NSS）有史以來第一次將人工智能列為優(yōu)先事項，以及2020年研發(fā)預(yù)算的優(yōu)先事項，并推動國防部成立人工智能中心（JAIC），設(shè)立人工智能國家安全委員會，加大美國國防高級研究計劃局（DARPA）對人工智能的投資力度。

毫無疑問，這是“美國政府”的意思，盡一切努力讓人工智能的地位在美國五角大樓不斷地增強，沒有人會對此視若罔聞。

蘭德公司高級信息科學(xué)家丹妮爾·塔拉夫（Danielle Tarraf）表示，深度學(xué)習(xí)的成功目前是建立在海量、有標(biāo)簽的數(shù)據(jù)集能夠使用的基礎(chǔ)之上。在五角大樓整個機構(gòu)范圍內(nèi)追求人工智能的發(fā)展，將要求五角大樓從根本上將其現(xiàn)有文化，轉(zhuǎn)變?yōu)閿?shù)據(jù)驅(qū)動的文化。

文化至關(guān)重要，戰(zhàn)略也只是文化的早餐。這一在企業(yè)界通行的理論，在軍事管理機構(gòu)也同樣適用?！秷蟾妗范卮傥褰谴髽沁M行文化層面的轉(zhuǎn)變，可以說是從根本上要將五角大樓扭轉(zhuǎn)為“數(shù)字化”的思維方式。

另外，《報告》強調(diào)，美國五角大樓需要一個集中、專注、資源豐富的組織來推動人工智能和機器學(xué)習(xí)的應(yīng)用研究中心。該中心應(yīng)協(xié)調(diào)各部門的研究，并與企業(yè)和高效實驗室保持聯(lián)系，向通報這些進展對國防企業(yè)的影響。”

可以看出，一個名為“某某人工智能中心”的機構(gòu)的存在，就是要做全美人工智能的研究信息中樞。這又是從組織結(jié)構(gòu)層面要求五角大樓進行轉(zhuǎn)變。面對變革，越是龐大、紀(jì)律性強的機構(gòu)越是滯后。一個靈活、優(yōu)秀的先遣部隊對于機構(gòu)整體變革會有良好的示范帶頭作用，可以被視為創(chuàng)新的發(fā)動機。一般這類機構(gòu)的建立一開始就會給予高度的授權(quán)，以及豐沛的資源。因為他們將創(chuàng)造“明天”。

三、人工智能，五角大樓的“大考”？

2019年，美國國防部在人工智能方面獲得了諸多政策與資源支持。五角大樓究竟是“地主家的傻兒子”還是“江山代有才人出”，人工智能無疑是五角大樓的一場大考。

首先，曾任美國五角大樓副部長帕特里克·沙納漢（Patrick Shanahan）在一份備忘錄中宣布成立聯(lián)合人工智能中心（JAIC）后，五角大樓要求國防創(chuàng)新委員會（DIB）科學(xué)和技術(shù)小組委員會安排在2019年1月、3月和4月舉辦系列圓桌會議和公眾聆聽會議。

2019年伊始，美國國防部發(fā)布人工智能發(fā)展細則，確定將把人工智能引入軍隊訓(xùn)練等多個領(lǐng)域。

2019年1月16日，位于美國華盛頓特區(qū)的國家情報總監(jiān)辦公室發(fā)布了《使用機器增強智能的策略計劃》（Augmenting Intelligence using Machines）。該計劃使情報機構(gòu)能夠從根本上改變其產(chǎn)生情報的方式，軍事情報理所當(dāng)然包括在內(nèi)。

2月，特朗普簽署行人工智能總統(tǒng)行政命令，又稱《美國人工智能倡議》，強調(diào)繼續(xù)在對美國經(jīng)濟和國家安全方面，人工智能發(fā)揮領(lǐng)導(dǎo)力，將人工智能全球進化（global evolution）的方式塑造為符合美國價值觀、原則。這是影響人工智能在美國發(fā)展的里程碑事件。

在總統(tǒng)簽署行政命令的同時，五角大樓發(fā)布了人工智能戰(zhàn)略的非機密摘要。該戰(zhàn)略概述了提高人工智能能力、擴大人工智能影響、培養(yǎng)人工智能勞動力、積極與盟友和合作伙伴進行接觸以及在軍事、倫理和人工智能安全上發(fā)揮領(lǐng)導(dǎo)作用的五個方面的戰(zhàn)略方法。

該戰(zhàn)略還將聯(lián)合人工智能中心指定為“五角大樓人工智能戰(zhàn)略的重點”，以“加速交付人工智能能力，擴大人工智能的全局性影響，同步五角大樓人工智能活動，擴大聯(lián)合部隊優(yōu)勢”。

2019年3月，美國國家安全委員會（NSC）舉行了首次全體會議。

2019年5月3日，美國國防創(chuàng)新委員會發(fā)布了軟件采購和實踐（SWAP）研究報告。

2019年6月，美國國家人工智能研發(fā)戰(zhàn)略計劃更新。

2019年7月12日，美國五角大樓于發(fā)布了其數(shù)字現(xiàn)代化戰(zhàn)略。其目標(biāo)是通過云計算、人工智能、命令、控制和通信和網(wǎng)絡(luò)安全的優(yōu)先計劃來支持美國國防戰(zhàn)略的實施。

2019年8月9日，美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）發(fā)布了人工智能計劃，作為對特朗普的回應(yīng)。

2019年9月6日，美國能源部宣布成立能源部人工智能與技術(shù)辦公室。

2019年10月最后一天，美國國防創(chuàng)新委員會提出了人工智能原則，并在季度公開會議上投票批準(zhǔn)了該原則。

2019年11月4日，美國國家安全委員會發(fā)布了關(guān)于人工智能的臨時報告。

2019年美國國防授權(quán)法案簽署成為法律。該法案包含兩項關(guān)于人工智能的立法，第238條和第1051條，立法成立人工智能國家安全委員會。

回顧過去三年，美國五角大樓對自主能力產(chǎn)生了濃厚的興趣。這種興趣體現(xiàn)在美國國防科學(xué)委員會（DSB）的反制自主任務(wù)小組、現(xiàn)已解散的美國海軍研究咨詢委員會（NRAC）、美國陸軍科學(xué)委員會（ASB）多個機構(gòu)目前正在開展的研究項目上，比如“人工智能在戰(zhàn)場上的應(yīng)用”。同時，人工智能也滲透到美國空軍科學(xué)顧問委員會（SAB）諸多研究中。

回望更久遠的歷史，美國五角大樓結(jié)緣人工智能并非始于過去幾年。五十多年前，DARPA就一直支持人工智能研究。美國海軍研究辦公室，美國空軍科學(xué)研究辦公室和美國陸軍研究實驗室也在支持人工智能研究方面有著悠久的歷史。

四、“六大槽點”，差評實至名歸

人工智能受到五角大樓自上而下的重視，但是面對一種新技術(shù)，美國人也是在摸索中前進。在尚且無法判斷之時，勤奮的工作未必能取得優(yōu)異的成績。

《報告》結(jié)論認為，美國五角大樓的人工智能態(tài)勢在各個方面都受到了重大挑戰(zhàn)，并嚴(yán)苛地指出工作中存在的“六大槽點”。

一、五角大樓沒有人工智能愿景，并缺乏相關(guān)的基準(zhǔn)和指標(biāo)，并且內(nèi)部溝通不暢。二、五角大樓內(nèi)部對人工智能投資缺乏共識，五角大樓的收購戰(zhàn)略在多大程度上支持人工智能發(fā)展仍不清楚。三、五角大樓牽頭發(fā)展AI的部門權(quán)責(zé)受限，缺乏長期預(yù)算承諾，缺乏五年戰(zhàn)略路線圖，沒有明確的目標(biāo)，沒有制定路線圖。四、五角大樓內(nèi)部的創(chuàng)新可能會受到現(xiàn)有實踐和流程的阻礙，而現(xiàn)有管理及流程限制五角大樓引入外部創(chuàng)新。五、整個美國國防部內(nèi)部系統(tǒng)缺乏互用性（interoperability）帶來諸多問題。不能收集和存儲好數(shù)據(jù)、數(shù)據(jù)的訪問受限、有的數(shù)據(jù)不能追溯，涉及外部供應(yīng)商的數(shù)據(jù)所有權(quán)含糊不清。六、在人才方面，五角大樓缺乏定義和跟蹤AI人才的明確機制，難以發(fā)展和培養(yǎng)AI人才。

《報告》繼續(xù)它的批評，特別指名點姓地評價了牽頭部門——聯(lián)合人工智能中心（JAIC），強調(diào)五角大樓需要一個集中、專注、資源豐富的應(yīng)用研究中心來推動人工智能和機器學(xué)習(xí)的發(fā)展，而目前的牽頭部門難堪當(dāng)重任。

該中心曾在《國防部人工智能戰(zhàn)略總結(jié)》中被指定為執(zhí)行美國國防部戰(zhàn)略的重點部門，并有望吸引和培養(yǎng)一支世界級的人工智能團隊。然而，聯(lián)合人工智能中心2019年表現(xiàn)平平，毫無亮點。

《報告》坦誠地討論了研究人員評估工作的局限，“我們（蘭德咨詢的研究人員）沒有采訪美國國家級實驗室和情報機構(gòu)。也沒有采訪美國政府資助的研究和發(fā)展中心，以及美國大學(xué)附屬的研究中心。

盡管根據(jù)研究的既定目標(biāo)對受訪者進行了系統(tǒng)的選擇和接觸，但仍存在樣本偏差的可能性。例如美國國防工業(yè)基地，我們（蘭德咨詢的研究人員）本想在那里撒一張更大的網(wǎng)，但由于能力所限，無法采訪?！?/p>

言下之意，如果評估工作做得再徹底一些，五角大樓槽點會更多。

另外，蘭德咨詢公司對五角大樓目前在人工智能領(lǐng)域的投資項目進行了定量的評估工作，但這部分資料并不允許公開。

最后，《報告》毫不留情面給出的決定性結(jié)論是，“盡管我們（蘭德咨詢的研究人員）看到了一些積極的跡象，但是，評估結(jié)果是，國防部在人工智能中的態(tài)勢，在被評估的所有方面都受到了顯著的挑戰(zhàn)?！?/p>

除了批評與否定，《報告》提出了一系列建議，包括內(nèi)部行動、外部參與以及潛在的立法，以及監(jiān)管行動提出了11項戰(zhàn)略建議。要求五角大樓明確使命，促進人工智能的應(yīng)用，制定一項五年戰(zhàn)略路線圖以實現(xiàn)擴展人工智能用途，并要求五角大樓推進人工智能平臺的測試和驗證實踐，擴展與學(xué)術(shù)界和工業(yè)界的合作。

綜上所述，《蘭德咨詢：美國國防部人工智能態(tài)勢分析》全面和徹底的，對五角大樓進行了不留情面地批評，從領(lǐng)導(dǎo)層到執(zhí)行層，從文化到管理，以“差評”為美國國防部2019年人工智能的工作畫上句號，但是，人工智能是一場全球性的技術(shù)變革，風(fēng)起云涌之中，這場沒有硝煙的戰(zhàn)斗并不會因為新年的鐘聲響起而停止。