為人工智能計(jì)算提供神經(jīng)形態(tài)芯片的案例

當(dāng)蘋果首席執(zhí)行官蒂姆庫(kù)克推出 iPhone X 時(shí)，他聲稱它將“為未來(lái)十年的技術(shù)鋪平道路”。雖然現(xiàn)在下結(jié)論還為時(shí)過(guò)早，但用于人臉識(shí)別的神經(jīng)引擎是同類產(chǎn)品中的第一個(gè)。如今，深度神經(jīng)網(wǎng)絡(luò)已成為現(xiàn)實(shí)，神經(jīng)形態(tài)似乎是在人工智能領(lǐng)域取得持續(xù)進(jìn)步的唯一實(shí)用途徑。

Yole Développement（法國(guó)里昂）最近發(fā)表的一份報(bào)告稱，面對(duì)數(shù)據(jù)帶寬限制和不斷增長(zhǎng)的計(jì)算需求，傳感和計(jì)算必須通過(guò)模仿神經(jīng)生物學(xué)架構(gòu)來(lái)重塑自我。

Yole 成像首席分析師 Pierre Cambou在接受EE Times采訪時(shí)解釋說(shuō)，神經(jīng)形態(tài)傳感和計(jì)算可以解決人工智能當(dāng)前的大部分問(wèn)題，同時(shí)在未來(lái)幾十年開(kāi)辟新的應(yīng)用前景?！吧窠?jīng)形態(tài)工程是仿生學(xué)的下一步，推動(dòng)了人工智能的發(fā)展。”

為什么現(xiàn)在？

距離數(shù)學(xué)家艾倫·圖靈提出“機(jī)器能思考嗎？”這個(gè)問(wèn)題已經(jīng)過(guò)去了 70 年，距離加州理工學(xué)院的電氣工程師卡弗·米德 (Carver Mead) 提出神經(jīng)形態(tài)工程的概念已經(jīng)過(guò)去了 30 年。然而，在接下來(lái)的十年中，研究人員在制造具有類腦學(xué)習(xí)和適應(yīng)能力的機(jī)器方面幾乎沒(méi)有取得實(shí)際成功。當(dāng) 2006 年喬治亞理工學(xué)院展示其現(xiàn)場(chǎng)可編程神經(jīng)陣列時(shí)，希望重新燃起，麻省理工學(xué)院的研究人員在 2011 年推出了一種模擬大腦神經(jīng)元如何適應(yīng)新信息的計(jì)算機(jī)芯片。

轉(zhuǎn)折點(diǎn)是多倫多大學(xué)的一組科學(xué)家發(fā)表了論文“ImageNet Classification with Deep Convolutional Neural Networks”。AlexNet 架構(gòu)由一個(gè) 8 層卷積神經(jīng)網(wǎng)絡(luò)組成，可以將 ImageNet 競(jìng)賽中的 120 萬(wàn)張高分辨率圖像分類為 1000 個(gè)類別之一（例如貓、狗）?！爸挥须S著 AlexNet 的發(fā)展，深度學(xué)習(xí)方法被證明更強(qiáng)大，并開(kāi)始在人工智能領(lǐng)域獲得動(dòng)力?！?/p>

皮埃爾·坎布

當(dāng)前大多數(shù)深度學(xué)習(xí)實(shí)現(xiàn)技術(shù)都依賴于摩爾定律，并且“效果很好”。但是，隨著深度學(xué)習(xí)的發(fā)展，對(duì)能夠執(zhí)行高計(jì)算任務(wù)的芯片的需求將越來(lái)越多。摩爾定律最近一直在放緩，并導(dǎo)致包括 Yole Développement 在內(nèi)的許多業(yè)內(nèi)人士相信它無(wú)法維持深度學(xué)習(xí)的進(jìn)步。Cambou 是相信深度學(xué)習(xí)如果繼續(xù)以今天的方式實(shí)施“將會(huì)失敗”的人之一。

為了解釋他的觀點(diǎn)，Cambou 列舉了三個(gè)主要障礙。首先是摩爾定律的經(jīng)濟(jì)學(xué)?！昂苌儆型婕夷軌蛲?，我們最終將在世界上擁有一兩家超過(guò) 7nm 的晶圓廠。我們認(rèn)為，只有谷歌才能做某事，這對(duì)創(chuàng)新是不利的?！?/p>

其次，數(shù)據(jù)負(fù)載的增長(zhǎng)速度超過(guò)了摩爾定律，數(shù)據(jù)溢出使當(dāng)前的存儲(chǔ)技術(shù)成為限制因素。第三，計(jì)算能力需求的指數(shù)級(jí)增長(zhǎng)為每個(gè)應(yīng)用程序創(chuàng)建了一個(gè)熱墻?！笆褂?7nm 芯片，我們的效率大約為每瓦 1 teraflop。要為 Waymo 供電，我們可能需要 1 千瓦，這意味著我們需要 1000 teraflops，”Cambou 說(shuō)。當(dāng)前的技術(shù)范式無(wú)法兌現(xiàn)承諾，解決方案可能是在神經(jīng)形態(tài)硬件上應(yīng)用深度學(xué)習(xí)并利用更好的能源效率。

從更廣泛的角度審視當(dāng)前情況，Cambou 表示現(xiàn)在是采用顛覆性方法的時(shí)候了，該方法利用新興內(nèi)存技術(shù)帶來(lái)的好處并提高數(shù)據(jù)帶寬和功率效率。這就是神經(jīng)形態(tài)方法?！叭斯ぶ悄艿墓适聦⒗^續(xù)向前發(fā)展，我們相信下一步將朝著神經(jīng)形態(tài)方向發(fā)展?！?/p>

近年來(lái)，人們?cè)跇?gòu)建神經(jīng)形態(tài)硬件方面做出了很多努力，這些硬件通過(guò)在硅中實(shí)現(xiàn)神經(jīng)元來(lái)傳達(dá)認(rèn)知能力。對(duì)于 Cambou 來(lái)說(shuō)，這是一條可行的道路，因?yàn)椤吧窠?jīng)形態(tài)方法正在勾選所有正確的框”，并且可以提高效率?！坝布股窠?jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)成為可能，我們相信它將推動(dòng)神經(jīng)形態(tài)人工智能的下一步發(fā)展。然后我們可以再次夢(mèng)想人工智能，夢(mèng)想基于人工智能的應(yīng)用程序。”

學(xué)分：耶爾

神經(jīng)元和突觸

神經(jīng)形態(tài)硬件正在走出研究實(shí)驗(yàn)室，融合了傳感、計(jì)算和存儲(chǔ)領(lǐng)域的興趣和目標(biāo)。正在組建合資企業(yè)，正在簽署戰(zhàn)略聯(lián)盟，并且正在啟動(dòng)長(zhǎng)達(dá)十年的研究計(jì)劃，例如歐盟的人腦計(jì)劃。

雖然預(yù)計(jì) 2024 年之前不會(huì)有重大業(yè)務(wù)，但在此之后的幾十年內(nèi)，機(jī)會(huì)的規(guī)?？赡芎艽蟆８鶕?jù) Yole 的說(shuō)法，如果所有技術(shù)問(wèn)題在未來(lái)幾年內(nèi)得到解決，神經(jīng)形態(tài)計(jì)算市場(chǎng)可能會(huì)從 2024 年的 6900 萬(wàn)美元增長(zhǎng)到 2029 年的 50 億美元和 2034 年的 213 億美元。英特爾和 SK 海力士，以及 Brainchip、Nepes、Vicarious 和 General Vision 等初創(chuàng)公司。

神經(jīng)形態(tài)芯片不再是理論，而是事實(shí)。2017年，英特爾推出了其首款由13萬(wàn)個(gè)神經(jīng)元組成的神經(jīng)形態(tài)研究芯片Loihi。7 月，Santa Clara 集團(tuán)憑借其 800 萬(wàn)個(gè)神經(jīng)元神經(jīng)形態(tài)系統(tǒng)（代號(hào)為 Pohoiki Beach）實(shí)現(xiàn)了一個(gè)新的里程碑，該系統(tǒng)由 64 個(gè) Loihi 研究芯片組成。同樣，IBM 的 TrueNorth 類腦計(jì)算機(jī)芯片有 100 萬(wàn)個(gè)神經(jīng)元和 2.56 億個(gè)突觸，Brainchip 的 Akida 神經(jīng)形態(tài)片上系統(tǒng)有 120 萬(wàn)個(gè)神經(jīng)元和 100 億個(gè)突觸。

“提供硬件可以提高神經(jīng)元和突觸方面的標(biāo)準(zhǔn)，這是一場(chǎng)競(jìng)賽。突觸可能比神經(jīng)元更重要，”Cambou 說(shuō)?！霸?Yole，我們看到前面兩步。首先，將基于當(dāng)前方法構(gòu)建的應(yīng)用程序，部分是異步的，部分來(lái)自馮諾依曼。” 很好的例子是 Brainchip 的 Akida 和 Intel 的 Loihi?！叭缓?，可能在未來(lái) 10 到 15 年內(nèi)，我們將在其之上獲得 RRAM [電阻隨機(jī)存取存儲(chǔ)器]。這將允許創(chuàng)建更多的突觸。”

神經(jīng)擬態(tài)計(jì)算的努力來(lái)自于美光、西部數(shù)據(jù)和 SK 海力士等內(nèi)存廠商，但許多人正在尋求更多的短期收入，最終可能不會(huì)成為神經(jīng)擬態(tài)研究的強(qiáng)者?！拔覀儜?yīng)該關(guān)注那些選擇神經(jīng)形態(tài)作為核心技術(shù)的小玩家，”Cambou 說(shuō)。

Weebit、Robosensing、Knowm、Memry 和 Symetrix 等顛覆性內(nèi)存初創(chuàng)公司正在將非易失性內(nèi)存技術(shù)與神經(jīng)形態(tài)計(jì)算芯片設(shè)計(jì)相結(jié)合。它們與 Crossbar 和 Adesto 等純內(nèi)存初創(chuàng)公司一起出現(xiàn)，但他們的憶阻器（內(nèi)存電阻器）方法通常被認(rèn)為比純計(jì)算公司的努力更長(zhǎng)期。“許多記憶播放器正在研究 RRAM 和相變記憶來(lái)模仿突觸，”Cambou 說(shuō)。此外，“MRAM [磁阻隨機(jī)存取存儲(chǔ)器] 是新興存儲(chǔ)器的一部分，它將幫助神經(jīng)形態(tài)方法取得成功。”

學(xué)分：耶爾

除了計(jì)算之外，還出現(xiàn)了神經(jīng)形態(tài)傳感生態(tài)系統(tǒng)，其根源起源于 1991 年神經(jīng)信息學(xué)研究所和蘇黎世聯(lián)邦理工學(xué)院的 Misha Mahowald 發(fā)明的硅神經(jīng)元。目前的競(jìng)爭(zhēng)很低，全球只有不到 10 名參與者。其中，Prophesee、三星、Insightness、Inivation 和 Celepixel 正在提供即用型產(chǎn)品，例如基于事件的圖像傳感器和相機(jī)。電影攝影中使用的基于幀的方法無(wú)法捕捉運(yùn)動(dòng)。

“電影在欺騙我們的大腦，但我們無(wú)法欺騙計(jì)算機(jī)，”Cambou 說(shuō)?！拔ㄒ徽_的方法是提供與眼睛相同的信息?；谑录南鄼C(jī)對(duì)于任何類型的實(shí)時(shí)運(yùn)動(dòng)理解和模式理解都非常強(qiáng)大?！?更廣泛地說(shuō)，聽(tīng)覺(jué)、成像和行為傳感器“對(duì)我們所謂的通用智能的各個(gè)層面都有影響”。

在封裝半導(dǎo)體層面，Yole 表示，預(yù)計(jì)神經(jīng)形態(tài)傳感將從 2024 年的 4300 萬(wàn)美元增長(zhǎng)到 2029 年的 20 億美元和 2034 年的 47 億美元。

汽車，但不僅僅是

Cambou 說(shuō)，汽車可能是最明顯的市場(chǎng)。然而，最初的市場(chǎng)是工業(yè)和移動(dòng)市場(chǎng)，主要用于機(jī)器人和實(shí)時(shí)感知。

短期內(nèi)，神經(jīng)形態(tài)傳感和計(jì)算將用于工業(yè)機(jī)器的始終在線監(jiān)控。它還將在物流、食品自動(dòng)化和農(nóng)業(yè)方面發(fā)揮重要作用。Cambou 說(shuō)：“雖然深度學(xué)習(xí)需要大量數(shù)據(jù)集，但神經(jīng)形態(tài)學(xué)僅從幾張圖像或幾句話中就可以非?？焖俚貙W(xué)習(xí)并理解時(shí)間?！?/p>

在未來(lái)十年內(nèi)，混合內(nèi)存計(jì)算芯片的可用性應(yīng)該會(huì)打開(kāi)汽車市場(chǎng)，迫切地等待大眾市場(chǎng)的自動(dòng)駕駛技術(shù)?！拔覀兩钤谝粋€(gè)交互的世界中，神經(jīng)形態(tài)在讓計(jì)算機(jī)理解非結(jié)構(gòu)化環(huán)境方面將非常強(qiáng)大?！?/p>