增強(qiáng)機(jī)器學(xué)習(xí)AI技術(shù)的安全性和靈活性 開創(chuàng)下一代AI算法和應(yīng)用

美國國防部預(yù)先研究計劃局（DARPA）于2018年9月宣布啟動“AI Next”（下一代人工智能）項目，并計劃在未來五年內(nèi)為此投資20億美元，用于構(gòu)建能夠進(jìn)行類似人類交流和邏輯推理的人工智能工具。AI Next項目基于DARPA過去60年引領(lǐng)開發(fā)的兩代人工智能技術(shù)，強(qiáng)調(diào)AI的“環(huán)境自適應(yīng)”能力，探索的主要領(lǐng)域包括：促使國防部關(guān)鍵業(yè)務(wù)流程自動化的新技術(shù)；提高AI系統(tǒng)的魯棒性和可靠性；增強(qiáng)機(jī)器學(xué)習(xí)和AI技術(shù)的安全性和靈活性；降低功耗，避免數(shù)據(jù)和性能效率低下；開創(chuàng)下一代AI算法和應(yīng)用。

在美國白宮“人工智能國家戰(zhàn)略”部署下，聯(lián)邦機(jī)構(gòu)加大了人工智能的推進(jìn)力度，五角大樓的研究機(jī)構(gòu)正努力將這項技術(shù)推向新高潮。

2019年3月8日，DARPA國防科學(xué)辦公室負(fù)責(zé)人接受國外媒體Nextgov專訪時，介紹了下一代人工智能工作的進(jìn)展。

專訪內(nèi)容如下：

Nextgov：AI Next的最終目標(biāo)是什么？

Browning：AI Next計劃的大目標(biāo)是將機(jī)器從工具（也許是非常有價值的工具）真正變成值得信賴的合作伙伴。我們肯定希望一個值得信賴的合作伙伴能夠擁有一定的能力和常識。比如說，有一定能力識別新情況，并在新情況下表現(xiàn)得恰當(dāng)，并且當(dāng)你可能沒有足夠經(jīng)驗或訓(xùn)練來面對新情況時，讓你也能意識到這一點。這些就是我們真正追求的目標(biāo)。支持機(jī)器學(xué)習(xí)的AI雖然可以很好地完成某些任務(wù)：圖像分類、語音識別、自然語言處理、統(tǒng)計模式識別，但我們清楚AI有時候會以意想不到的方式失效，而我們卻總是無法準(zhǔn)確地進(jìn)行預(yù)測。

（圖片來源：DARPA官網(wǎng)）

Nextgov：現(xiàn)在的人工智能與DARPA試圖創(chuàng)建的人工智能之間最大的差距是什么？

Browning：實際上，人工智能會犯人類不會犯的錯誤。比如，在圖像分類中，機(jī)器只要看到熊貓的圖片就會將其識別為熊貓，但是你只需對人眼無法識別的像素進(jìn)行一些微小的更改，機(jī)器就會將其歸類為長臂猿或者其它動物。我們需要構(gòu)建具有一定內(nèi)省能力的人工智能系統(tǒng)，當(dāng)其被指定任務(wù)時，它們可以與人類合作伙伴進(jìn)行溝通：“基于我的訓(xùn)練和經(jīng)驗，你應(yīng)該對我有信心，我可以做到這一點”或者“我以前沒有遇到過這種情況，我無法以你希望的方式處理這種情況”。那么問題來了，我們?nèi)绾尾拍芨?、更好地?xùn)練，而不需要費(fèi)力地將海量的數(shù)據(jù)集進(jìn)行手工標(biāo)注？如果我們不用把整個宇宙的訓(xùn)練數(shù)據(jù)必須投入到AI系統(tǒng)，那不是很好嗎？

Nextgov：像人工智能探索計劃（AI Exploration）這種快速、短期的資金有哪些益處？

Browning：因為我們的資源有限，有時候我們會發(fā)現(xiàn)一個領(lǐng)域，我們認(rèn)為投資時機(jī)已經(jīng)成熟，但是得先解決一些關(guān)鍵問題。我們其實不想把項目擴(kuò)展得很大，但我們想要快速獲得一些答案。通過傳統(tǒng)的采購流程引入新項目是非常漫長的，針對這個計劃，從發(fā)布主題通告到實際操作的時間是90天或更短，這在政府合同中幾乎是前所未有的。AI Exploration計劃讓我們能夠快速定位一些風(fēng)險更高、更不確定的地方，并判斷它們是否正處于實現(xiàn)最終目標(biāo)的關(guān)鍵路徑上。

Nextgov：那現(xiàn)在有哪條路看起來更具前途嗎？

Browning：人工智能物理學(xué)，最早開始的領(lǐng)域之一。我想我們很快就會發(fā)現(xiàn)該領(lǐng)域是否存在真正明確的應(yīng)用。我是說在幾個月內(nèi)，而不是幾年。

Nextgov：您對白宮的“人工智能國家戰(zhàn)略”有何看法？有一種很尖銳的批評稱：這個戰(zhàn)略并沒有提供很多具體的指導(dǎo)或資金。

Browning：我認(rèn)為正確的事情正在被優(yōu)先考慮。要創(chuàng)新，我們必須投資，我們必須成為世界領(lǐng)先者。現(xiàn)在存在的挑戰(zhàn)是：如何確保我們擁有人力和人力資本，以保證我們采用正確的科學(xué)、技術(shù)、工程、數(shù)學(xué)（STEM）方法，確保我們在不扼殺創(chuàng)新的同時保護(hù)技術(shù)優(yōu)勢。這些是我認(rèn)為重要的東西?！叭斯ぶ悄車覒?zhàn)略”確實要求所有機(jī)構(gòu)在制定預(yù)算時，將這一點作為優(yōu)先事項，但我認(rèn)為我們并不清楚預(yù)算到底有多少。與其關(guān)注預(yù)算多少，更明智的做法應(yīng)該是提出正確的問題，并將正確的資源用于提出的這些問題上面。

Nextgov：和類似中國這樣的全球競爭對手相比，您認(rèn)為美國政府目前在這方面投入的資源是否足夠？

Browning：這個很難比較。資金既可以得到很好的利用，也可以浪費(fèi)。從DARPA的角度來看，我認(rèn)為五年內(nèi)20億美元的承諾是合適的，這個資金水平允許我們以適當(dāng)?shù)乃俣韧苿禹椖俊ARPA對AI Next活動的目標(biāo)一直非常明確，我不知道怎么與中國做比較。

Nextgov：最近五角大樓與微軟和谷歌等科技公司之間的關(guān)系緊張。您認(rèn)為科技行業(yè)應(yīng)該在政府的人工智能開發(fā)中發(fā)揮怎樣的作用？

Browning：我認(rèn)為DARPA可以幫助創(chuàng)建一個非常有活力的承包商生態(tài)系統(tǒng)。我們可以尊重大公司關(guān)于他們是否愿意與國防部合作的立場。我們根本不會低估他們在這項工作中的作用，但是……我們會繼續(xù)和我們已經(jīng)參與的團(tuán)體一起進(jìn)行創(chuàng)新。既然我們已經(jīng)推出了這些新計劃，就不缺好創(chuàng)意。