從搜索引擎到自動駕駛汽車,人工智能已經(jīng)進入了我們的日常生活。這與近年來計算能力的巨大提升有關。但是,最新的人工智能研究成果表明,更簡單、更小的神經(jīng)網(wǎng)絡可以比以前更好、更高效、更可靠得解決特定任務。 來自維也納理工大學(TU Wien)、奧地利IST和美國麻省理工學院(MIT)的一個國際研究團隊開發(fā)了一種基于微小動物(如線蟲)大腦的新型人工智能系統(tǒng)。 這種新穎的人工智能系統(tǒng)只需幾個人工神經(jīng)元就能控制車輛。該團隊表示,與之前的深度學習模型相比,該系統(tǒng)具有決定性的優(yōu)勢:它能更好地應對嘈雜的輸入信息。此外,由于它的簡單性,它的運作模式可以被詳細的解釋。它不必被視為一個復雜的"黑盒子",它可以被人類理解。 目前,這種新的深度學習模型已經(jīng)發(fā)表在《自然機器智能》雜志上。
向自然學習
與活體大腦類似,人工神經(jīng)網(wǎng)絡由許多單個細胞組成。當一個細胞處于活躍狀態(tài)時,它會向其他細胞發(fā)出信號。下一個細胞會把接收到的所有信號都結合起來,以決定自己是否要活躍起來。一個細胞影響下一個細胞活動的方式?jīng)Q定了神經(jīng)系統(tǒng)的行為——這些參數(shù)在自動學習過程中被調(diào)整,直到神經(jīng)網(wǎng)絡能夠解決特定的任務。 TU Wien的“網(wǎng)絡-物理系統(tǒng)”研究小組負責人Radu Grosu教授說:“多年來,我們一直在研究我們可以從自然界中學習到什么來改善深度學習。舉例來說,線蟲C.elegans的神經(jīng)元的數(shù)量少得驚人,卻仍然能顯現(xiàn)出有趣的行為模式。這是因為線蟲的神經(jīng)系統(tǒng)處理信息的方式高效而和諧?!? 麻省理工學院計算機科學與人工智能實驗室(CSAIL)主任Daniela Rus教授說:“大自然告訴我們,現(xiàn)存的模型還有很多改進的空間。因此,我們的目標是大規(guī)模降低神經(jīng)網(wǎng)絡模型的復雜性并增強其可解釋性。” 奧地利IST公司總裁Thomas Henzinger教授說:“受自然界的啟發(fā),我們開發(fā)了新的神經(jīng)元和突觸的數(shù)學模型?!? TU Wien計算機工程研究所和MIT CSAIL的博士后Ramin Hasani博士說:“單個細胞內(nèi)的信號處理遵循的數(shù)學原理與之前的深度學習模型不同。另外,我們的網(wǎng)絡是高度稀疏的——這意味著不是每個單元都與其他每個單元相連。這也使得網(wǎng)絡更加簡單?!?
自主車道保持功能
為了測試這些新想法,該團隊選擇了一個特別重要的測試任務:使自動駕駛汽車保持在自己的車道上,神經(jīng)網(wǎng)絡接收道路的攝像頭圖像作為輸入,然后自動決定向右還是向左轉(zhuǎn)向。 TU Wien校友、奧地利IST的博士生Mathias Lechner說:“當今市面上,具有數(shù)百萬個參數(shù)的深度學習模型才通常用于學習如自動駕駛一樣復雜的任務。然而,我們的新方法使我們能夠?qū)⒕W(wǎng)絡的大小減少兩個數(shù)量級。我們的系統(tǒng)只使用75000個可訓練參數(shù)?!? 麻省理工學院CSAIL的博士生Alexander Amini解釋說,新系統(tǒng)由兩部分組成。攝像頭圖像的輸入首先由一個所謂的卷積神經(jīng)網(wǎng)絡處理。該網(wǎng)絡只感知視覺數(shù)據(jù),并從輸入的像素中提取結構特征。它決定了圖像中哪些部分是有趣的、重要的,隨后將信號傳遞給網(wǎng)絡的關鍵部分——引導車輛的“控制系統(tǒng)”。 這兩個子系統(tǒng)疊加在一起,并同時進行訓練。該團隊收集了許多大波士頓地區(qū)人類駕駛的交通視頻,并將這些視頻與不同特定情況下如何轉(zhuǎn)向汽車的信息一起輸入網(wǎng)絡——直到系統(tǒng)學會了自動將圖像與適當?shù)霓D(zhuǎn)向方向連接起來,并能獨立處理新情況。 系統(tǒng)的控制部分(稱為神經(jīng)回路策略,或NCP),將感知模塊的數(shù)據(jù)轉(zhuǎn)化為轉(zhuǎn)向指令,并只由19個神經(jīng)元組成。Mathias Lechner解釋說,NCP比以前最先進的模型所能做到的要小3個數(shù)量級。
因果關系和可解釋性
新的深度學習模型已經(jīng)在一輛真正的自動汽車上進行了測試。 Ramin Hasani說:“我們的模型可以讓我們研究網(wǎng)絡在駕駛時在關注什么。我們的網(wǎng)絡關注著的是攝像頭畫面中非常特定的部分:路邊和地平線。這種行為是非常理想的,它在人工智能系統(tǒng)中是獨一無二的。此外,我們還可以識別每一個細胞在任何駕駛決策中的作用。我們可以理解單個細胞的功能及其行為。實現(xiàn)這種程度的可解釋性是大型深度學習模型不可能做到的。”
穩(wěn)健性
Mathias Lechner說:“為了測試與之前的深度模型相比,NCPs的穩(wěn)健性如何,我們干擾了輸入圖像,并評估了模型處理噪聲的能力。雖然噪音是其他深度神經(jīng)網(wǎng)絡無法克服的問題,但我們的NCPs表現(xiàn)出了對輸入噪音的強大抵抗力。這一屬性是新型神經(jīng)模型和架構的直接結果?!? Ramin Hasani說:"可解釋性和穩(wěn)健性是我們新模型的兩大優(yōu)勢。但我們的模型還有更多的優(yōu)勢。使用我們的新方法還可以減少訓練時間,以及在相對簡單的系統(tǒng)中實現(xiàn)AI。我們的NCP可以在廣泛的潛在應用(從倉庫的自動化工作到機器人運動)中實現(xiàn)模仿學習。這個新的發(fā)現(xiàn)為人工智能界開辟了重要的新視角:生物神經(jīng)系統(tǒng)中的計算原理可以成為創(chuàng)建高性能,可解釋的人工智能的重要資源——成為迄今為止所使用的黑盒機器學習系統(tǒng)的替代方案。"
責任編輯:lq
-
神經(jīng)網(wǎng)絡
+關注
關注
42文章
4726瀏覽量
100311 -
人工智能
+關注
關注
1789文章
46348瀏覽量
236503 -
深度學習
+關注
關注
73文章
5437瀏覽量
120790
原文標題:受小動物大腦結構啟發(fā),研究人員開發(fā)出新的深度學習模型:更少神經(jīng)元,更多智能
文章出處:【微信號:tyutcsplab,微信公眾號:智能感知與物聯(lián)網(wǎng)技術研究所】歡迎添加關注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關推薦
評論