近日,MIT工程師設(shè)計(jì)出了一種像大腦突觸一樣運(yùn)作的AI系統(tǒng),這種神經(jīng)網(wǎng)絡(luò)的系統(tǒng),基于離子的技術(shù)可以實(shí)現(xiàn)對(duì)大腦學(xué)習(xí)過(guò)程的節(jié)能模擬,為物理神經(jīng)網(wǎng)絡(luò)提供更快,更可靠和更節(jié)能的方法。
世界各地的團(tuán)隊(duì)正在建立一種稱(chēng)為神經(jīng)網(wǎng)絡(luò)的更為復(fù)雜的人工智能系統(tǒng),該系統(tǒng)以某種方式模仿大腦的布線,以執(zhí)行諸如計(jì)算機(jī)視覺(jué)和自然語(yǔ)言處理之類(lèi)的復(fù)雜任務(wù)。使用最新的半導(dǎo)體電路來(lái)模擬神經(jīng)網(wǎng)絡(luò)需要大量的內(nèi)存和高功耗。現(xiàn)在,麻省理工學(xué)院的一個(gè)團(tuán)隊(duì)已朝著另一種系統(tǒng)邁進(jìn)了一步,該系統(tǒng)使用了物理模擬設(shè)備,可以更加有效地模擬大腦過(guò)程。
麻省理工學(xué)院教授Bilge Yildiz,Ju Li和Jesúsdel Alamo以及麻省理工學(xué)院和布魯克海文國(guó)家實(shí)驗(yàn)室的其他9位研究人員在論文《Nature Communications》中描述了這一發(fā)現(xiàn)。該論文的創(chuàng)作者是夏霞瑤,他是前麻省理工學(xué)院的博士后,目前在GRU能源實(shí)驗(yàn)室從事儲(chǔ)能工作。
神經(jīng)網(wǎng)絡(luò)試圖模擬在大腦中進(jìn)行學(xué)習(xí)的方式,這是基于逐漸增強(qiáng)或減弱的神經(jīng)元之間的連接(稱(chēng)為突觸)而建立的。該物理神經(jīng)網(wǎng)絡(luò)的核心組件是電阻開(kāi)關(guān),其電導(dǎo)率可以電氣控制。這種控制或調(diào)節(jié)模擬了大腦中突觸的增強(qiáng)和減弱。
在使用常規(guī)硅微芯片技術(shù)的神經(jīng)網(wǎng)絡(luò)中,這些突觸的模擬是一個(gè)非常耗能的過(guò)程。為了提高效率并實(shí)現(xiàn)更雄心勃勃的神經(jīng)網(wǎng)絡(luò)目標(biāo),近年來(lái),研究人員一直在探索許多物理設(shè)備,這些物理設(shè)備可以更直接地模仿突觸在學(xué)習(xí)和遺忘過(guò)程中逐漸增強(qiáng)和減弱的方式。
迄今為止,對(duì)于這種模擬突觸,大多數(shù)候選模擬電阻裝置要么在能量使用方面效率很低,要么在一個(gè)裝置到另一個(gè)裝置或一個(gè)周期到下一個(gè)周期的執(zhí)行不一致。研究人員說(shuō),新系統(tǒng)克服了這兩個(gè)挑戰(zhàn)?!拔覀儾粌H要解決能源挑戰(zhàn),而且還要解決普遍存在的一些現(xiàn)有概念中與重復(fù)性相關(guān)的挑戰(zhàn),”
“我認(rèn)為當(dāng)今構(gòu)建神經(jīng)網(wǎng)絡(luò)應(yīng)用程序的瓶頸是能效。特別是在無(wú)人駕駛汽車(chē)等邊緣應(yīng)用上花費(fèi)太多的精力,”教授del Alamo說(shuō)。他補(bǔ)充說(shuō),訓(xùn)練這些復(fù)雜的應(yīng)用程序?qū)τ诋?dāng)今的技術(shù)來(lái)說(shuō)根本不可行。
這項(xiàng)工作中的電阻開(kāi)關(guān)是一種電化學(xué)設(shè)備,由三氧化鎢(WO 3)制成,其工作方式類(lèi)似于電池的充電和放電。Alamo解釋說(shuō),根據(jù)所施加電壓的極性和強(qiáng)度,離子(在這種情況下為質(zhì)子)可以遷移到材料的晶格中或從材料的晶格中遷移出來(lái)。這些變化會(huì)一直存在,直到被反向施加的電壓改變?yōu)橹梗ň拖裢挥|的增強(qiáng)或減弱一樣)。
在新的模擬突觸中,顯示為H +的氫離子(質(zhì)子)可以在氫存儲(chǔ)材料(R)和活性材料(A)三氧化鎢之間來(lái)回遷移,穿過(guò)電解質(zhì)層(E)。離子的移動(dòng)受通過(guò)金電極(S和D)施加的電壓的極性和強(qiáng)度控制,這反過(guò)來(lái)會(huì)改變?cè)O(shè)備的電阻。從而模擬內(nèi)存。
“這種機(jī)制類(lèi)似于半導(dǎo)體的摻雜?!痹谠撨^(guò)程中,通過(guò)將外來(lái)離子引入硅晶格,可以將硅的電導(dǎo)率改變?cè)S多數(shù)量級(jí)?!皞鹘y(tǒng)上,這些離子是在工廠植入的,”但是,有了新的設(shè)備,這些離子就會(huì)以動(dòng)態(tài),持續(xù)的過(guò)程被泵入和泵出晶格。研究人員可以通過(guò)控制電壓來(lái)控制有多少“摻雜”離子進(jìn)入或流出,并且已經(jīng)證明了非常好的重復(fù)性和能效。
這個(gè)過(guò)程“非常類(lèi)似于生物大腦突觸的工作方式。在那里,不使用質(zhì)子,而是使用其他離子,例如鈣,鉀,鎂等,通過(guò)移動(dòng)這些離子,實(shí)際上改變了突觸的抵抗力,這是學(xué)習(xí)的要素?!?在其裝置中的三氧化鎢中發(fā)生的過(guò)程類(lèi)似于在生物突觸中發(fā)生的電阻調(diào)節(jié)。
“我們?cè)谶@里展示的內(nèi)容,”Alamo說(shuō),“即使它不是一種優(yōu)化的設(shè)備,其電導(dǎo)率單位變化所產(chǎn)生的單位面積能耗也接近于大腦?!?,試圖用傳統(tǒng)的CMOS型半導(dǎo)體完成相同的任務(wù)將耗費(fèi)一百萬(wàn)倍的能量。
選擇用于演示新器件的材料是因?yàn)樗鼈兣c當(dāng)前的半導(dǎo)體制造系統(tǒng)兼容。但是它們包含限制設(shè)備耐熱性的聚合物材料,因此研究小組仍在尋找設(shè)備質(zhì)子傳導(dǎo)膜的其他變化以及為長(zhǎng)期運(yùn)行而封裝氫源的更好方法。
在該設(shè)備的材料級(jí)別上,有很多基礎(chǔ)研究要做。 正在進(jìn)行的研究將包括“如何將這些器件與現(xiàn)有的CMOS晶體管集成的工作”。所有這一切都需要時(shí)間,而且它提供了巨大的創(chuàng)新機(jī)會(huì),也為我們的學(xué)生發(fā)展職業(yè)提供了巨大的機(jī)會(huì)。
-
AI
+關(guān)注
關(guān)注
87文章
29414瀏覽量
267711 -
MIT
+關(guān)注
關(guān)注
3文章
253瀏覽量
23329 -
離子
+關(guān)注
關(guān)注
0文章
98瀏覽量
17064
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論