MIT工程師開(kāi)發(fā)通過(guò)離子實(shí)現(xiàn)對(duì)大腦學(xué)習(xí)過(guò)程節(jié)能模擬的AI系統(tǒng)

近日，MIT工程師設(shè)計(jì)出了一種像大腦突觸一樣運(yùn)作的AI系統(tǒng)，這種神經(jīng)網(wǎng)絡(luò)的系統(tǒng)，基于離子的技術(shù)可以實(shí)現(xiàn)對(duì)大腦學(xué)習(xí)過(guò)程的節(jié)能模擬，為物理神經(jīng)網(wǎng)絡(luò)提供更快，更可靠和更節(jié)能的方法。

世界各地的團(tuán)隊(duì)正在建立一種稱(chēng)為神經(jīng)網(wǎng)絡(luò)的更為復(fù)雜的人工智能系統(tǒng)，該系統(tǒng)以某種方式模仿大腦的布線，以執(zhí)行諸如計(jì)算機(jī)視覺(jué)和自然語(yǔ)言處理之類(lèi)的復(fù)雜任務(wù)。使用最新的半導(dǎo)體電路來(lái)模擬神經(jīng)網(wǎng)絡(luò)需要大量的內(nèi)存和高功耗。現(xiàn)在，麻省理工學(xué)院的一個(gè)團(tuán)隊(duì)已朝著另一種系統(tǒng)邁進(jìn)了一步，該系統(tǒng)使用了物理模擬設(shè)備，可以更加有效地模擬大腦過(guò)程。

麻省理工學(xué)院教授Bilge Yildiz，Ju Li和Jesúsdel Alamo以及麻省理工學(xué)院和布魯克海文國(guó)家實(shí)驗(yàn)室的其他9位研究人員在論文《Nature Communications》中描述了這一發(fā)現(xiàn)。該論文的創(chuàng)作者是夏霞瑤，他是前麻省理工學(xué)院的博士后，目前在GRU能源實(shí)驗(yàn)室從事儲(chǔ)能工作。

神經(jīng)網(wǎng)絡(luò)試圖模擬在大腦中進(jìn)行學(xué)習(xí)的方式，這是基于逐漸增強(qiáng)或減弱的神經(jīng)元之間的連接（稱(chēng)為突觸）而建立的。該物理神經(jīng)網(wǎng)絡(luò)的核心組件是電阻開(kāi)關(guān)，其電導(dǎo)率可以電氣控制。這種控制或調(diào)節(jié)模擬了大腦中突觸的增強(qiáng)和減弱。

在使用常規(guī)硅微芯片技術(shù)的神經(jīng)網(wǎng)絡(luò)中，這些突觸的模擬是一個(gè)非常耗能的過(guò)程。為了提高效率并實(shí)現(xiàn)更雄心勃勃的神經(jīng)網(wǎng)絡(luò)目標(biāo)，近年來(lái)，研究人員一直在探索許多物理設(shè)備，這些物理設(shè)備可以更直接地模仿突觸在學(xué)習(xí)和遺忘過(guò)程中逐漸增強(qiáng)和減弱的方式。

迄今為止，對(duì)于這種模擬突觸，大多數(shù)候選模擬電阻裝置要么在能量使用方面效率很低，要么在一個(gè)裝置到另一個(gè)裝置或一個(gè)周期到下一個(gè)周期的執(zhí)行不一致。研究人員說(shuō)，新系統(tǒng)克服了這兩個(gè)挑戰(zhàn)?！拔覀儾粌H要解決能源挑戰(zhàn)，而且還要解決普遍存在的一些現(xiàn)有概念中與重復(fù)性相關(guān)的挑戰(zhàn)，”

“我認(rèn)為當(dāng)今構(gòu)建神經(jīng)網(wǎng)絡(luò)應(yīng)用程序的瓶頸是能效。特別是在無(wú)人駕駛汽車(chē)等邊緣應(yīng)用上花費(fèi)太多的精力，”教授del Alamo說(shuō)。他補(bǔ)充說(shuō)，訓(xùn)練這些復(fù)雜的應(yīng)用程序?qū)τ诋?dāng)今的技術(shù)來(lái)說(shuō)根本不可行。

這項(xiàng)工作中的電阻開(kāi)關(guān)是一種電化學(xué)設(shè)備，由三氧化鎢（WO 3）制成，其工作方式類(lèi)似于電池的充電和放電。Alamo解釋說(shuō)，根據(jù)所施加電壓的極性和強(qiáng)度，離子（在這種情況下為質(zhì)子）可以遷移到材料的晶格中或從材料的晶格中遷移出來(lái)。這些變化會(huì)一直存在，直到被反向施加的電壓改變?yōu)橹梗ň拖裢挥|的增強(qiáng)或減弱一樣）。

在新的模擬突觸中，顯示為H +的氫離子（質(zhì)子）可以在氫存儲(chǔ)材料（R）和活性材料（A）三氧化鎢之間來(lái)回遷移，穿過(guò)電解質(zhì)層（E）。離子的移動(dòng)受通過(guò)金電極（S和D）施加的電壓的極性和強(qiáng)度控制，這反過(guò)來(lái)會(huì)改變?cè)O(shè)備的電阻。從而模擬內(nèi)存。

“這種機(jī)制類(lèi)似于半導(dǎo)體的摻雜?！痹谠撨^(guò)程中，通過(guò)將外來(lái)離子引入硅晶格，可以將硅的電導(dǎo)率改變?cè)S多數(shù)量級(jí)?！皞鹘y(tǒng)上，這些離子是在工廠植入的，”但是，有了新的設(shè)備，這些離子就會(huì)以動(dòng)態(tài)，持續(xù)的過(guò)程被泵入和泵出晶格。研究人員可以通過(guò)控制電壓來(lái)控制有多少“摻雜”離子進(jìn)入或流出，并且已經(jīng)證明了非常好的重復(fù)性和能效。

這個(gè)過(guò)程“非常類(lèi)似于生物大腦突觸的工作方式。在那里，不使用質(zhì)子，而是使用其他離子，例如鈣，鉀，鎂等，通過(guò)移動(dòng)這些離子，實(shí)際上改變了突觸的抵抗力，這是學(xué)習(xí)的要素?！?在其裝置中的三氧化鎢中發(fā)生的過(guò)程類(lèi)似于在生物突觸中發(fā)生的電阻調(diào)節(jié)。

“我們?cè)谶@里展示的內(nèi)容，”Alamo說(shuō)，“即使它不是一種優(yōu)化的設(shè)備，其電導(dǎo)率單位變化所產(chǎn)生的單位面積能耗也接近于大腦?！?，試圖用傳統(tǒng)的CMOS型半導(dǎo)體完成相同的任務(wù)將耗費(fèi)一百萬(wàn)倍的能量。

選擇用于演示新器件的材料是因?yàn)樗鼈兣c當(dāng)前的半導(dǎo)體制造系統(tǒng)兼容。但是它們包含限制設(shè)備耐熱性的聚合物材料，因此研究小組仍在尋找設(shè)備質(zhì)子傳導(dǎo)膜的其他變化以及為長(zhǎng)期運(yùn)行而封裝氫源的更好方法。

在該設(shè)備的材料級(jí)別上，有很多基礎(chǔ)研究要做。 正在進(jìn)行的研究將包括“如何將這些器件與現(xiàn)有的CMOS晶體管集成的工作”。所有這一切都需要時(shí)間，而且它提供了巨大的創(chuàng)新機(jī)會(huì)，也為我們的學(xué)生發(fā)展職業(yè)提供了巨大的機(jī)會(huì)。