什么是自主系統(tǒng)，常見問題有哪些

根據(jù)系統(tǒng)在三個方面的屬性(即熟練性、可信賴性和靈活性)定義了一個自主系統(tǒng):

●一個自主系統(tǒng)的設(shè)計應(yīng)確保在作戰(zhàn)期間，在給定的環(huán)境、任務(wù)以及設(shè)想的隊友之中的熟練性。理想的熟練性屬性包括現(xiàn)場智能性、自適應(yīng)認(rèn)知、多智能體突現(xiàn)，以及從經(jīng)驗中學(xué)習(xí)。

●一個自主系統(tǒng)的設(shè)計應(yīng)確保在由其人類同行操作或與之合作時的信任。理想的信任原則包括認(rèn)知一致性和透明度、態(tài)勢感知、有效的人與多系統(tǒng)集成，以及人-系統(tǒng)團(tuán)隊合作和訓(xùn)練。

●一個自主系統(tǒng)應(yīng)在其行為、團(tuán)隊合作和決策方面表現(xiàn)出靈活性。理想的靈活性原則所包括的靈活性體現(xiàn)在能夠執(zhí)行不同任務(wù)、在不同的點對點關(guān)系下工作，并采取不同認(rèn)知方法來解決問題等方面。

我們相信，如果我們要在空軍中有效地部署和使用自主系統(tǒng)，所有這些方面都需要在一定程度上得到滿足。另種說法是，如果不能在所有三個方面滿足設(shè)計的空間，就會導(dǎo)致部署自主系統(tǒng)的失敗:熟練性低將導(dǎo)致使用其他系統(tǒng)，可信賴性低將導(dǎo)致停止使用，而靈活性低將導(dǎo)致自主系統(tǒng)無法在變化的、在設(shè)計階段可能未設(shè)想到的環(huán)境中展示真正的自主性。

一個自然的問題是，這些方面是否對系統(tǒng)擁有多少(或哪個級別的)自主性有任何意義。答案是否定的。從目的來看，并沒有打算使用這三個方面來定義或指導(dǎo)自主級別的一些概念。這只是因為還不明確這是否是一個有用的構(gòu)想，這一點在本文以及本文引用的早期研究中都已討論過。

我們現(xiàn)在討論一些自主系統(tǒng)的常見問題。

B.1一般概念

什么是智能?什么是人工智能?

智能是收集觀察結(jié)果、創(chuàng)造知識并適當(dāng)?shù)剡\用這些知識來完成任務(wù)的能力。人工智能是一種擁有智能的機(jī)器。

什么是自主系統(tǒng)的內(nèi)部表示?

目前的自主系統(tǒng)被編程為使用不同的過程來完成任務(wù)。自主系統(tǒng)的內(nèi)部表示是智能體構(gòu)建其對世界的了解、其知識(自主系統(tǒng)用來進(jìn)行觀察和產(chǎn)生含義的東西)的方式，以及智能體構(gòu)建其合義和其理解的方式，例如，自主系統(tǒng)內(nèi)部用于其知識庫的編程模型。隨著自主系統(tǒng)獲得更多的知識，或者隨著自主系統(tǒng)進(jìn)一步操縱現(xiàn)有知識以創(chuàng)造新的知識，知識庫可能會發(fā)生變化。

什么是含義?機(jī)器會產(chǎn)生含義嗎?

含義是一個人或自主系統(tǒng)的內(nèi)部表示中因一些刺激物而改變的東西。它是刺激物對那個人或系統(tǒng)的含義。當(dāng)你(一個人)看著一面美國國旗時，它在你身上喚起的一系列思想和情緒就是那一時刻這種經(jīng)歷對你的含義。當(dāng)向一個自主系統(tǒng)顯示這幅圖像時，如果其像素密度在自主系統(tǒng)的軟件中引起了一些經(jīng)過編程的變化，那么這就是那面國旗對該自主系統(tǒng)的含義。在這里我們看到，自主系統(tǒng)產(chǎn)生含義的方式與人類的方式是完全不同的。作為其編程方式的結(jié)果，自主系統(tǒng)內(nèi)部表示中的變化就是對該自主系統(tǒng)的含義。一個刺激物的含義就是由該刺激物在該智能體(人或自主系統(tǒng))中所引起的、特定于智能體的表示上的變化。由數(shù)據(jù)引起的表示上的更新就是該刺激物對該智能體的含義。含義不僅僅是將數(shù)據(jù)放到表示中;它是表示的所有產(chǎn)生的變化。例如，默會知識的喚起，或進(jìn)行中的模擬(意識;見下文)的修改，甚至因刺激導(dǎo)致的智能體知識的更新，都被納入某個刺激物給某個智能體的含義中。含義不是靜態(tài)的，會隨著時間的推移而發(fā)生變化。對于某個給定的智能體，一個刺激物的含義是不同的，這取決于它何時被提供給該智能體。

什么是理解?機(jī)器能理解嗎?

理解就是估計某個自主系統(tǒng)的含義是否會導(dǎo)致它以可接受的方式完成一項任務(wù)。理解發(fā)生的前提條件是，充當(dāng)執(zhí)行者的自主系統(tǒng)增加了一個評估人(或充當(dāng)評估者的自主系統(tǒng))的信心，使其相信該執(zhí)行者自主系統(tǒng)將以可接受的方式作出響應(yīng)。含義是由一個查詢(表示一個刺激)導(dǎo)致的自主系統(tǒng)內(nèi)部表示的更改。理解是含義的影響，導(dǎo)致對成功完成某一特定任務(wù)的期望。

什么是知識?

知識是用來為某個給定的智能體產(chǎn)生各種刺激的含義的東西。從歷史上看，知識產(chǎn)生于那些能通過遺傳學(xué)進(jìn)化、個別動物的經(jīng)驗，或者動物(通過文化)向同一物種的其他成員交流知識來捕捉并編碼信息的物種。隨著機(jī)器學(xué)習(xí)的進(jìn)步，有一個合理的論點是，將來世界上產(chǎn)生的大部分知識都將由機(jī)器完成。

在思考什么?機(jī)器能思考嗎?

思考是用于操縱自主系統(tǒng)內(nèi)部表示的過程;是一種含義的生成，其中，含義是由刺激引起的內(nèi)部表示的變化。如果一個自主系統(tǒng)可以改變或操縱它的內(nèi)部表示，那么它就可以思考。

什么是推理?機(jī)器能推理嗎?

推理是在一項任務(wù)的語境下的思考。推理是思考感知到的內(nèi)容和完成任務(wù)要采取的行動的能力。如果系統(tǒng)更新了它的內(nèi)部表示，它會生成含義，并且在這次思考與完成某項任務(wù)有關(guān)聯(lián)時進(jìn)行推理。如果該系統(tǒng)的方法沒有生成所需的“含義”來以可接受的方式完成這項任務(wù)，那么它就沒有進(jìn)行適當(dāng)?shù)耐评怼?/p>

什么是認(rèn)知?是什么使一個系統(tǒng)能夠認(rèn)知?

認(rèn)知是通過思考、體驗和感覺創(chuàng)造知識和理解的過程。一個能夠通過思考、體驗和感覺創(chuàng)造知識和理解的系統(tǒng)就是能夠認(rèn)知的系統(tǒng)。例如，一個認(rèn)知電子戰(zhàn)(CEW)系統(tǒng)從其感覺中收集數(shù)據(jù)并創(chuàng)造知識。它利用相關(guān)知識完成其電子戰(zhàn)任務(wù)，這表明該系統(tǒng)對其任務(wù)有一定程度的了解。

什么是情境(situation)?

一個情境是在自主系統(tǒng)的內(nèi)部表示中個別知識條目的鏈接，這些條目可以組合起來形成一個新的單一知識條目。這個新的單一知識條目就成為一個情境，這歸因于它與組成它的各個條目的鏈接。情境是認(rèn)知的基本單位。情境是由它們與其他情境的關(guān)系和彼此之間的交互方式來定義的。情境是作為一個整體來理解的。

什么是情境認(rèn)知(situatedcognition)?

情境認(rèn)知是一種理論，它斷定認(rèn)識與行為是不可分割的，認(rèn)為所有知識都處于社會、文化和物理背景密切相關(guān)的活動中。這就是所謂的“看/想/做”范式。

什么是學(xué)習(xí)?什么是深度學(xué)習(xí)?

學(xué)習(xí)是通過體驗、感知和思考來改變知識、理解和技能以便能夠適應(yīng)變化的認(rèn)知過程。根據(jù)智能體使用的認(rèn)知方法(它選擇的某種表示，例如符號型、聯(lián)接型等)，學(xué)習(xí)是智能體使用該表示對某個模型進(jìn)行編碼的能力(符號型智能體中的規(guī)則，或者，對聯(lián)結(jié)型方法來說，人工神經(jīng)元被聯(lián)接和調(diào)整權(quán)重的方式)。一旦對該模型進(jìn)行了編碼，就可以將其用于推論。深度學(xué)習(xí)是包含許多神經(jīng)元處理層的聯(lián)結(jié)式方法的一個子集，它的學(xué)習(xí)范式克服了過去與多層“信用分配”問題相關(guān)的限制(即，哪些權(quán)重應(yīng)該進(jìn)行調(diào)整以提高性能)，利用了大數(shù)據(jù)和多個實例進(jìn)行訓(xùn)練，并在計算基礎(chǔ)設(shè)施方面取得了進(jìn)展。深度學(xué)習(xí)近年來由于其處理圖像和語音數(shù)據(jù)的能力而備受關(guān)注;這在很大程度上是由于當(dāng)前計算機(jī)的處理能力、可用數(shù)據(jù)的急劇增加，以及學(xué)習(xí)方法的適度修改。深度學(xué)習(xí)基本上是一種非常成功的大數(shù)據(jù)分析方法。

B.2示例

車庫開門器是自動化的(automated)還是自動的(automatic)?

車庫開門器在收到信號時會開門，并根據(jù)一些預(yù)設(shè)的條件(電機(jī)轉(zhuǎn)動的次數(shù)，或通過某一開關(guān))停止。它在關(guān)閉的情況下，如果收到打開信號就會打開，并根據(jù)同樣類型的預(yù)設(shè)條件而停止。車庫開門器是一個自動系統(tǒng)，因為它基于一些觸發(fā)機(jī)制執(zhí)行一個簡單的任務(wù)，并在完成其任務(wù)時也基于一些觸發(fā)機(jī)制而停止。

自動目標(biāo)識別系統(tǒng)是自動化的還是自動的?

當(dāng)前用于目標(biāo)識別的方法是在一組假定的操作條件下、針對已知的目標(biāo)來工作的，并且可以拒絕像目標(biāo)似的對象，從而產(chǎn)生一定程度的魯棒性。因此，它們是自動化解決方案。

地面防撞系統(tǒng)(GCAS)是自主的嗎?

如果擔(dān)心飛行員會導(dǎo)致飛機(jī)與地面相撞，地面防撞系統(tǒng)將接管飛機(jī)的控制。在這里，系統(tǒng)將指揮和控制(C2)從飛行員那里拿走，以防止飛機(jī)與地面碰撞，然后飛行員可以重新獲得C2(由系統(tǒng)明確地放棄控制，或者由飛行員收回控制)。地面防撞系統(tǒng)證明了同伴靈活性，并因此解決了前面提到的自主系統(tǒng)的一個關(guān)鍵挑戰(zhàn)。但是請注意，在這個描述中，系統(tǒng)并未展示任務(wù)或認(rèn)知靈活性。一些人認(rèn)為，地面防撞系統(tǒng)僅僅是一個自動化系統(tǒng)因為它缺乏認(rèn)知靈活性。

自動駕駛系統(tǒng)是自主的嗎?

自動駕駛系統(tǒng)的任務(wù)是在飛行員設(shè)定的特定高度(或高度剖面)以特定的速度飛行特定的軌跡。自動駕駛不會改變其任務(wù)或與飛行員的同伴關(guān)系，也不會改變其控制飛機(jī)的方式。因此，它不滿足自主性的三項靈活性原則中的任何一項。不過，它確實反射性地適應(yīng)了各種不斷變化的、影響其航向、速度和高度的條件，以維持提供給它的參數(shù)。因此，它是一個自動化系統(tǒng)。

自適應(yīng)巡航控制系統(tǒng)是自主的嗎?

巡航控制系統(tǒng)的存在是為了保持某個恒定的速度。一個自適應(yīng)巡航控制系統(tǒng)也會保持其速度，但它會通過改變速度來適應(yīng)在其前方感覺到的變化而無需獲得駕駛員的許可，以保持與前方汽車之間的安全距離。萬一有需要，它也可能會剎車。自適應(yīng)巡航控制是自動化的，因為它從不改變其同伴關(guān)系，從不改變其任務(wù)(只是以預(yù)先編程的方式改變它完成任務(wù)的方式)，而且在這樣做時沒有任何認(rèn)知靈活性。

空對空導(dǎo)彈是自主的嗎?

一枚空對空導(dǎo)彈(甚至包括巡航導(dǎo)彈)與發(fā)射它的人有一種固定的同伴關(guān)系。這枚導(dǎo)彈是在完成一項預(yù)定義的任務(wù)，并且是以一種預(yù)編理的方式進(jìn)行的。靈活性的三項原則都沒有得到證明，因此它不是自主的。這種系統(tǒng)是非凡的，并且能夠完成一項非常復(fù)雜的任務(wù)，但它也只是自動化的。

谷歌汽車和有自動駕駛功能的特斯拉汽車是自主的嗎?

谷歌汽車按照指示駛向某個地點，但它可以將任務(wù)從行駛改變?yōu)榫o急停車，比如，為避免撞到某個行人。當(dāng)特斯拉自動駕駛儀撇開駕駛員并且不允許其參與控制(因為駕駛員的手離開了方向盤)時，或者當(dāng)大眾自主汽車接管控制并剎車，以防止迎頭相撞時，我們看到的是同伴靈活性的實例，正如前面所述的地面防撞系統(tǒng)一樣。但它并不是自主的。

Roomba(掃地機(jī)器人)是自主的嗎?

Roomba是一種受歡迎的家居用品，它作為房主的代理人來對地毯吸塵。它的能力相當(dāng)強(qiáng)，新版本吸收了現(xiàn)代機(jī)器人學(xué)，以納入在繪制環(huán)境圖的同時確定其當(dāng)前位置的能力。Roomba有一項唯一的任務(wù)——吸塵。它沒有改變其同伴關(guān)系的能力，也不改變其完成任務(wù)的模式。因此，Roomba不是自主的，但它是一個非常有能力和有用處的自動化系統(tǒng)。

IBM的沃森是智能的嗎?沃森是人工智能嗎?

Watson擁有的知識是由人類編程結(jié)合這些程序?qū)Υ笮蛿?shù)據(jù)存儲的應(yīng)用來收集和/或生成的。它能夠有效地存儲和檢索可能相關(guān)的知識，這樣它就可能對查詢作出響應(yīng)。有人可能會說，當(dāng)沃森被允許使用其編程來搜索和適當(dāng)?shù)?a target="_blank">索引大型數(shù)據(jù)存儲庫時，它是在收集信息以便稿后適當(dāng)?shù)貞?yīng)用。在進(jìn)行這種搜索時，它使用了一種整體(ensemble)學(xué)習(xí)方法，這意味著它改變了模型以便能夠提供更好的結(jié)果，這是具有認(rèn)知靈活性的一個方面。因此，沃森正在解決自主系統(tǒng)的一個關(guān)鍵挑戰(zhàn)，但我們不會認(rèn)為它是自主的。但不管怎樣，沃森是一個展示出智能的硬件和軟件組合體。因此，如前面所述，它是一個人工智能。

Siri是智能的嗎?Siri是人工智能嗎?

Si為響應(yīng)查詢而收集的信息是通過其編程完成的。它確實收集數(shù)據(jù)來對查詢作出響應(yīng)，并且經(jīng)常適當(dāng)?shù)厥褂眠@些知識來為回答提供價值，它是一種很好的自動化。由于Siri是硬件和軟件的組合，并且按照前面的定義展示了智能，因此我們會將Sin標(biāo)記為人工智能。

Siri懂得我正在問什么嗎?

當(dāng)我們有理由期望它將給出一個能夠使用的答案時，你可以說Siri懂，當(dāng)我們有理由期望這個答案將是不能接受的，那么你可以說Siri不懂。但對于所有的人工智能系統(tǒng)，用戶必須認(rèn)識到系統(tǒng)產(chǎn)生的含義并不是“人類的含義”，因此必須謹(jǐn)慎使用。例如，某個人工智能能夠以高可信賴性將一輛校車稱為一只鴕鳥，但任何看到這幅圖像的人都將無法理解人工智能是怎么可能犯下這一錯誤的。其原因是，對這個人工智能來說，含義是向量空間中的一個位置，是通過處理像素密度和顏色到達(dá)的，而一只鴕鳥是一個對象類別，并不擁有我們?nèi)祟愒诤x中聯(lián)系或產(chǎn)生的那種豐富的含義。

“阿爾法狗”懂圍棋游戲嗎?

“阿爾法狗”對圍棋游戲的理解只能從另一個智能體的角度來評估。作為一個非圍棋玩家，你可能愿意說阿爾法狗懂這種游戲，因為從一種純樸的角度來看，它對玩游戲的任務(wù)做出了可以接受的響應(yīng)。這里，“阿爾法狗”對任何有利于作出一個預(yù)期可接受的響應(yīng)的盤面形勢生成了“含義”.那么，在一個希望把“懂游戲”定義為“自主系統(tǒng)在內(nèi)部給自己產(chǎn)生成了游戲是什么的含義”的人看來，他可能會得出“阿爾法狗”不懂圍棋游戲的結(jié)論。“阿爾法狗"是一個自動化系統(tǒng)，并且由于它利用知識來生成對那些有利于它作出響應(yīng)的盤面形勢的含義，因此它是一個人工智能。

審核編輯：郭婷