神經(jīng)科學(xué)的深度學(xué)習(xí)框架

抽象

系統(tǒng)神經(jīng)科學(xué)尋求解釋大腦如何執(zhí)行各種感知、認(rèn)知和運(yùn)動(dòng)任務(wù)。相反，人工智能試圖根據(jù)它們必須解決的任務(wù)來設(shè)計(jì)計(jì)算系統(tǒng)。對(duì)于人工神經(jīng)網(wǎng)絡(luò)，設(shè)計(jì)指定的三個(gè)組件是目標(biāo)函數(shù)、學(xué)習(xí)規(guī)則和架構(gòu)。隨著利用大腦啟發(fā)架構(gòu)的深度學(xué)習(xí)越來越成功，這三個(gè)設(shè)計(jì)組件越來越成為我們?nèi)绾谓?、設(shè)計(jì)和優(yōu)化復(fù)雜人工學(xué)習(xí)系統(tǒng)的核心。在這里，我們認(rèn)為更多地關(guān)注這些組件也有利于系統(tǒng)神經(jīng)科學(xué)。我們舉例說明了這種基于優(yōu)化的框架如何推動(dòng)神經(jīng)科學(xué)的理論和實(shí)驗(yàn)進(jìn)展

學(xué)習(xí)目標(biāo)，表示為要最大化或最小化的目標(biāo)函數(shù)（或損失函數(shù)）；一組學(xué)習(xí)規(guī)則，表示為突觸權(quán)重更新；和網(wǎng)絡(luò)架構(gòu)，表示為信息流的路徑和連接（圖。1) 15。在這個(gè)框架內(nèi)，我們不尋求總結(jié)計(jì)算是如何執(zhí)行的，但我們確實(shí)總結(jié)了哪些目標(biāo)函數(shù)、學(xué)習(xí)規(guī)則和架構(gòu)將能夠?qū)W習(xí)該計(jì)算。

由于單個(gè)神經(jīng)元的反應(yīng)受到環(huán)境的影響，因此它們的計(jì)算應(yīng)該反映這一海量信息源。我們可以在大腦中無處不在的神經(jīng)元中看到這一點(diǎn)的證據(jù)，這些神經(jīng)元在其活動(dòng)中具有高熵，并且與實(shí)驗(yàn)者迄今為止探索的大量刺激和行為沒有表現(xiàn)出易于描述的相關(guān)性6 , 7。

為了澄清我們的主張，我們建議使用這三個(gè)組成部分來確定規(guī)范性解釋可能是一種富有成效的方式，可以繼續(xù)開發(fā)更好的、非緊湊的電路神經(jīng)元響應(yīng)特性模型，如最近的研究所示，使用任務(wù)優(yōu)化的深度 ANN 以確定激活特定神經(jīng)元的最佳刺激29. 作為一個(gè)類比，自然選擇進(jìn)化論為物種出現(xiàn)的原因提供了一個(gè)簡潔的解釋，可以用相對(duì)較少的文字來說明。

這種對(duì)物種出現(xiàn)的簡潔解釋隨后可用于開發(fā)特定物種系統(tǒng)發(fā)育的更復(fù)雜、非緊湊的模型。我們的建議是，基于這三個(gè)組成部分的規(guī)范性解釋可以提供類似的高級(jí)理論來生成我們的低級(jí)神經(jīng)反應(yīng)模型，這將使我們更接近許多科學(xué)家尋求的“理解”形式。

值得一提的是，研究人員長期以來一直假設(shè)目標(biāo)函數(shù)和可塑性規(guī)則來解釋神經(jīng)回路的功能59 – 62。然而，他們中的許多人回避了分層信用分配的問題，這是深度學(xué)習(xí)15的關(guān)鍵。也有明顯的實(shí)驗(yàn)成功案例，包括預(yù)測編碼31、63、強(qiáng)化學(xué)習(xí)64、65和分層感官處理17、28方面的工作. 因此，我們在此闡明的基于優(yōu)化的框架可以并且已經(jīng)與個(gè)體神經(jīng)元反應(yīng)特性的研究一起運(yùn)作。但是，我們相信，如果更廣泛地采用以三個(gè)核心組件為重點(diǎn)的框架，我們將會(huì)取得更大的成功。

去：

濕實(shí)驗(yàn)室中的架構(gòu)、學(xué)習(xí)規(guī)則和目標(biāo)函數(shù)

此處闡述的框架如何與實(shí)驗(yàn)工作相結(jié)合？取得進(jìn)展的一種方法是使用三個(gè)核心組件構(gòu)建工作模型，然后將模型與大腦進(jìn)行比較。理想情況下，此類模型應(yīng)檢查所有級(jí)別：(1) 它們應(yīng)解決正在考慮的 Brain Set 中的復(fù)雜任務(wù)。(2) 他們應(yīng)該了解我們的解剖學(xué)和可塑性知識(shí)。并且，（3）他們應(yīng)該重現(xiàn)我們在大腦中觀察到的表征和表征的變化（圖 4). 當(dāng)然，檢查這些標(biāo)準(zhǔn)中的每一個(gè)都非常重要。它可能需要許多新的實(shí)驗(yàn)范式。檢查模型是否可以解決給定任務(wù)相對(duì)簡單，但要建立代表性和解剖學(xué)匹配并不容易，這是一個(gè)活躍的研究領(lǐng)域66、67。幸運(yùn)的是，優(yōu)化框架的模塊化允許研究人員嘗試單獨(dú)研究這三個(gè)組件中的每一個(gè)

大腦結(jié)構(gòu)的實(shí)證研究

為了能夠識(shí)別定義大腦歸納偏差的結(jié)構(gòu)，我們需要繼續(xù)進(jìn)行實(shí)驗(yàn)，在電路層面探索神經(jīng)解剖學(xué)。要在優(yōu)化框架內(nèi)真正構(gòu)建神經(jīng)解剖學(xué)，我們還必須能夠確定哪些信息可用于電路，包括有關(guān)動(dòng)作結(jié)果的信號(hào)可能來自何處。最終，我們希望能夠?qū)⒔馄蕦W(xué)的這些方面與指導(dǎo)負(fù)責(zé)學(xué)習(xí)的發(fā)育過程的具體生物標(biāo)記聯(lián)系起來。

為了描述神經(jīng)系統(tǒng)的解剖結(jié)構(gòu)，已經(jīng)進(jìn)行了大量的實(shí)驗(yàn)工作。我們正在使用一系列成像技術(shù)來量化電路57和68的解剖結(jié)構(gòu)和發(fā)展。在繪制具有細(xì)胞類型特異性的神經(jīng)回路投射方面也進(jìn)行了大量工作56。試圖繪制大腦層次結(jié)構(gòu)的研究早已存在69，但幾個(gè)小組現(xiàn)在正在探索深度 ANN 層次結(jié)構(gòu)的哪些部分最能反映大腦的哪些區(qū)域17 , 70. 例如，紋狀皮層中的表示（例如，通過相異矩陣測量）更好地匹配深度 ANN 的早期層，而下顳葉皮層中的表示更好地匹配后面的層8 , 71。這種工作壓力還涉及深度 ANN 架構(gòu)的優(yōu)化，以便它們更貼近大腦中的表征動(dòng)態(tài)，例如通過探索不同的循環(huán)連接模式66。面對(duì)已經(jīng)和將要進(jìn)行的一組令人眼花繚亂的解剖學(xué)觀察，將解剖學(xué)與目標(biāo)函數(shù)和學(xué)習(xí)規(guī)則一起置于框架中的理論和框架提供了一種方法，可以將那些最具解釋力的特征歸零。

大腦學(xué)習(xí)規(guī)則的實(shí)證研究

研究突觸可塑性規(guī)則的神經(jīng)科學(xué)有著悠久的傳統(tǒng)。然而，這些研究很少探討學(xué)分分配是如何發(fā)生的。然而，正如我們上面所討論的（方框 1），信用分配是 ANN 學(xué)習(xí)的關(guān)鍵，也可能存在于大腦中。值得慶幸的是，自上而下的反饋和神經(jīng)調(diào)節(jié)系統(tǒng)已成為近期突觸可塑性研究的焦點(diǎn)72 – 76。這允許一些具體的建議，例如關(guān)于頂端樹突如何參與信用分配12、14，或者自上而下的注意力機(jī)制如何與神經(jīng)調(diào)節(jié)劑相結(jié)合可以解決信用分配問題37、38（圖 5). 我們還可以查看表征的變化，并從這些觀察結(jié)果中推斷出可塑性規(guī)則77。對(duì)于實(shí)驗(yàn)者來說，測量動(dòng)物達(dá)到穩(wěn)定表現(xiàn)期間和之后的神經(jīng)反應(yīng)非常重要，以便捕捉表征在學(xué)習(xí)過程中如何演變。著眼于學(xué)分分配的學(xué)習(xí)規(guī)則工作正在對(duì)影響可塑性的無數(shù)因素產(chǎn)生更細(xì)粒度的理解78。

將來，我們應(yīng)該更好地研究學(xué)習(xí)規(guī)則并考慮優(yōu)化。隨著光學(xué)技術(shù)的改進(jìn)，并可能為我們提供一種估計(jì)體內(nèi)突觸變化的方法79，我們可能能夠?qū)⑼挥|變化與行為錯(cuò)誤等直接聯(lián)系起來。我們還可以直接測試可以解決信用分配問題的學(xué)習(xí)規(guī)則的假設(shè)生物模型，例如使用注意力37、38或使用樹突信號(hào)進(jìn)行信用分配12、14的模型（圖 5).

大腦中目標(biāo)函數(shù)的實(shí)證研究

在某些情況下，大腦正在優(yōu)化的目標(biāo)函數(shù)可能直接在我們可以監(jiān)控和記錄的神經(jīng)信號(hào)中表示。在其他情況下，目標(biāo)函數(shù)可能只隱含地存在于控制突觸更新的可塑性規(guī)則方面。最優(yōu)控制等規(guī)范性概念是適用的80，進(jìn)化思想可以啟發(fā)我們的思維。更具體地說，動(dòng)物行為學(xué)可以提供關(guān)于哪些功能對(duì)動(dòng)物優(yōu)化有用的指導(dǎo)81，為我們提供一個(gè)有意義的直觀空間來思考目標(biāo)功能。

長期以來一直有文獻(xiàn)試圖將實(shí)驗(yàn)數(shù)據(jù)與目標(biāo)函數(shù)聯(lián)系起來。這始于將已知可塑性規(guī)則與潛在目標(biāo)函數(shù)相關(guān)聯(lián)的理論工作。例如，有一些研究試圖通過比較實(shí)驗(yàn)觀察到的神經(jīng)活動(dòng)與在自然場景中訓(xùn)練的 ANN 的神經(jīng)活動(dòng)來估計(jì)目標(biāo)函數(shù)59、82。還有一些方法使用逆向強(qiáng)化學(xué)習(xí)來確定系統(tǒng)優(yōu)化了什么83。此外，有人可能會(huì)爭辯說，我們可以通過尋找針對(duì)給定目標(biāo)優(yōu)化的表征幾何與真實(shí)神經(jīng)表征幾何之間的相關(guān)性來處理目標(biāo)函數(shù)28 , 84. 另一種新出現(xiàn)的方法詢問在控制腦機(jī)接口 (BCI) 設(shè)備時(shí)動(dòng)物的電路可以優(yōu)化什么85。因此，建立在先前工作80基礎(chǔ)上的越來越多的文獻(xiàn)幫助我們探索大腦中的目標(biāo)功能。

結(jié)論

許多系統(tǒng)神經(jīng)科學(xué)都試圖就大腦中單個(gè)神經(jīng)元的功能制定簡潔的陳述。這種方法已經(jīng)成功地解釋了一些（相對(duì)較小的）電路和某些硬連線行為。然而，有理由相信，如果我們要開發(fā)具有數(shù)千、數(shù)百萬或數(shù)十億個(gè)神經(jīng)元的塑料電路的良好模型，這種方法將需要得到其他見解的補(bǔ)充。不幸的是，不能保證中樞神經(jīng)系統(tǒng)中單個(gè)神經(jīng)元的功能可以壓縮為人類可解釋的、可口頭表達(dá)的形式。鑒于我們目前沒有很好的方法將深度 ANN 中各個(gè)單元的功能提煉成文字，并且考慮到真實(shí)的大腦可能更復(fù)雜，而不是更不復(fù)雜，

系統(tǒng)神經(jīng)科學(xué)的當(dāng)前理論既美麗又富有洞察力，但我們相信它們可以受益于建立在優(yōu)化基礎(chǔ)上的內(nèi)聚框架。例如，局部可塑性規(guī)則，如赫布機(jī)制，解釋了大量的生物數(shù)據(jù)。但是，為了在復(fù)雜任務(wù)上取得良好的性能，在設(shè)計(jì) Hebb 規(guī)則時(shí)必須考慮目標(biāo)函數(shù)和架構(gòu)34、90。同樣，其他研究人員也有充分的理由指出了大腦利用歸納偏差的好處48. 然而，歸納偏差本身并不足以解決復(fù)雜的任務(wù)，例如 AI 集或各種 Brain Sets 中包含的任務(wù)。為了解決這些難題，歸納偏差必須與學(xué)習(xí)和學(xué)分分配相結(jié)合。正如我們所說，如果動(dòng)物可以解決的一組任務(wù)是神經(jīng)科學(xué)的基本考慮因素，那么構(gòu)建能夠?qū)嶋H解決這些任務(wù)的模型就至關(guān)重要。

不可避免地，需要自下而上的描述性工作和自上而下的理論工作才能在系統(tǒng)神經(jīng)科學(xué)中取得進(jìn)展。不過，重要的是從正確的自上而下的理論框架開始。鑒于現(xiàn)代機(jī)器學(xué)習(xí)能夠解決人工智能集和眾多腦集中的問題，用機(jī)器學(xué)習(xí)的洞察力來指導(dǎo)系統(tǒng)神經(jīng)科學(xué)研究的自上而下的框架將是富有成效的。如果我們在這種心態(tài)提供的框架內(nèi)考慮研究數(shù)據(jù)，并將注意力集中在此處確定的三個(gè)基本組成部分上，我們相信我們可以開發(fā)出大腦理論，從而充分利用當(dāng)前神經(jīng)科學(xué)技術(shù)革命的好處。

審核編輯：劉清