0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

研究人員開發(fā)“液態(tài)”神經(jīng)網(wǎng)絡(luò) 可適應(yīng)快速變化的訓(xùn)練環(huán)境

工程師鄧生 ? 來源:cnBeta.COM ? 作者:cnBeta.COM ? 2021-01-29 10:46 ? 次閱讀

想要適應(yīng)自動(dòng)駕駛、控制機(jī)器人、醫(yī)療診斷等場(chǎng)景,就必須讓神經(jīng)網(wǎng)絡(luò)適應(yīng)快速變化的各種狀況。好消息是,麻省理工(MIT)計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室(CSAIL)的 Ramin Hasani 團(tuán)隊(duì),已經(jīng)設(shè)計(jì)出了一種具有重大改進(jìn)的“液態(tài)”神經(jīng)網(wǎng)絡(luò)。其特點(diǎn)是能夠在投入訓(xùn)練階段之后,極大地?cái)U(kuò)展 AI 技術(shù)的靈活性。

通常情況下,研究人員會(huì)在訓(xùn)練階段向神經(jīng)網(wǎng)絡(luò)算法提供大量相關(guān)的目標(biāo)數(shù)據(jù),來磨煉其推理能力。

期間通過對(duì)正確的響應(yīng)加以獎(jiǎng)勵(lì),以優(yōu)化其性能。然而傳統(tǒng)的訓(xùn)練方案,明顯還是過于“刻板”了。

有鑒于此,Ramin Hasani 與團(tuán)隊(duì)成員合作開發(fā)了一套新方法,讓神經(jīng)網(wǎng)絡(luò)可以像“液體”一樣,隨著時(shí)間的流逝而更好地適應(yīng)“正確”的新信息。

舉個(gè)例子,如果無人駕駛汽車上的感知神經(jīng)網(wǎng)絡(luò)能夠分辨晴朗的天空和大雪等環(huán)境,就可以更好地順應(yīng)情況的變化、并維持較高的性能。

這項(xiàng)新研究的主要特點(diǎn),是側(cè)重于時(shí)間序列的適應(yīng)性。比之建立于訓(xùn)練數(shù)據(jù)的多快照或時(shí)間上的靜態(tài)時(shí)刻,可流動(dòng)的液態(tài)神經(jīng)網(wǎng)絡(luò)可以將時(shí)間序列或圖像序列也考慮進(jìn)來,而不是孤立的各個(gè)片段。

得益于這種系統(tǒng)設(shè)計(jì)方法,與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)相比,MIT 的液態(tài)系統(tǒng)實(shí)際上更便于開展觀察研究。

前一種 AI 通常被稱作‘黑盒’,盡管算法開發(fā)者明確知曉輸入信息的判定準(zhǔn)則,但通常無法確定其中到底發(fā)生了什么。

而液態(tài)神經(jīng)網(wǎng)絡(luò)在這部分提升了透明度、對(duì)復(fù)雜計(jì)算節(jié)點(diǎn)的依賴性也更少,因此還具有相當(dāng)不錯(cuò)的成本優(yōu)勢(shì)。

最終結(jié)果表明,在預(yù)測(cè)已知數(shù)據(jù)集的未來值方面,液態(tài)神經(jīng)網(wǎng)絡(luò)的準(zhǔn)確性要顯著優(yōu)于其它替代方案。

下一步,Hasani 將與團(tuán)隊(duì)成員繼續(xù)改進(jìn)液態(tài)神經(jīng)網(wǎng)絡(luò)的性能表現(xiàn),并努力將之推向?qū)嶋H應(yīng)用。

責(zé)任編輯:PSY

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    【飛凌嵌入式OK3576-C開發(fā)板體驗(yàn)】RKNN神經(jīng)網(wǎng)絡(luò)算法開發(fā)環(huán)境搭建

    驗(yàn)過程,以及實(shí)驗(yàn)過程遇到的些許問題,與該文檔有所出入。沒有使用大量的篇幅重新描述實(shí)現(xiàn)過程,如果有同志想研究RKNN算法還是要結(jié)合RKNNSDK快速上手指南的。 二、準(zhǔn)備開發(fā)環(huán)境 新建一
    發(fā)表于 10-10 09:28

    如何使用經(jīng)過訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型

    使用經(jīng)過訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型是一個(gè)涉及多個(gè)步驟的過程,包括數(shù)據(jù)準(zhǔn)備、模型加載、預(yù)測(cè)執(zhí)行以及后續(xù)優(yōu)化等。
    的頭像 發(fā)表于 07-12 11:43 ?666次閱讀

    脈沖神經(jīng)網(wǎng)絡(luò)怎么訓(xùn)練

    脈沖神經(jīng)網(wǎng)絡(luò)(SNN, Spiking Neural Network)的訓(xùn)練是一個(gè)復(fù)雜但充滿挑戰(zhàn)的過程,它模擬了生物神經(jīng)元通過脈沖(或稱為尖峰)進(jìn)行信息傳遞的方式。以下是對(duì)脈沖神經(jīng)網(wǎng)絡(luò)
    的頭像 發(fā)表于 07-12 10:13 ?402次閱讀

    怎么對(duì)神經(jīng)網(wǎng)絡(luò)重新訓(xùn)練

    重新訓(xùn)練神經(jīng)網(wǎng)絡(luò)是一個(gè)復(fù)雜的過程,涉及到多個(gè)步驟和考慮因素。 引言 神經(jīng)網(wǎng)絡(luò)是一種強(qiáng)大的機(jī)器學(xué)習(xí)模型,廣泛應(yīng)用于圖像識(shí)別、自然語言處理、語音識(shí)別等領(lǐng)域。然而,隨著時(shí)間的推移,數(shù)據(jù)分布可能會(huì)發(fā)生
    的頭像 發(fā)表于 07-11 10:25 ?378次閱讀

    BP神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)和訓(xùn)練過程

    網(wǎng)絡(luò)結(jié)構(gòu),通過誤差反向傳播算法(Error Backpropagation Algorithm)來訓(xùn)練網(wǎng)絡(luò),實(shí)現(xiàn)對(duì)復(fù)雜問題的學(xué)習(xí)和解決。以下將詳細(xì)闡述BP神經(jīng)網(wǎng)絡(luò)的工作方式,涵蓋其基本
    的頭像 發(fā)表于 07-10 15:07 ?2477次閱讀
    BP<b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>的基本結(jié)構(gòu)和<b class='flag-5'>訓(xùn)練</b>過程

    如何利用Matlab進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練

    Matlab作為一款強(qiáng)大的數(shù)學(xué)計(jì)算軟件,廣泛應(yīng)用于科學(xué)計(jì)算、數(shù)據(jù)分析、算法開發(fā)等領(lǐng)域。其中,Matlab的神經(jīng)網(wǎng)絡(luò)工具箱(Neural Network Toolbox)為用戶提供了豐富的函數(shù)和工具
    的頭像 發(fā)表于 07-08 18:26 ?1410次閱讀

    深度神經(jīng)網(wǎng)絡(luò)與基本神經(jīng)網(wǎng)絡(luò)的區(qū)別

    在探討深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Networks, DNNs)與基本神經(jīng)網(wǎng)絡(luò)(通常指?jìng)鹘y(tǒng)神經(jīng)網(wǎng)絡(luò)或前向神經(jīng)網(wǎng)絡(luò))的區(qū)別時(shí),我們需要從多個(gè)維度進(jìn)行深入分析。這些維度包括
    的頭像 發(fā)表于 07-04 13:20 ?510次閱讀

    反向傳播神經(jīng)網(wǎng)絡(luò)和bp神經(jīng)網(wǎng)絡(luò)的區(qū)別

    神經(jīng)網(wǎng)絡(luò)在許多領(lǐng)域都有廣泛的應(yīng)用,如語音識(shí)別、圖像識(shí)別、自然語言處理等。然而,BP神經(jīng)網(wǎng)絡(luò)也存在一些問題,如容易陷入局部最優(yōu)解、訓(xùn)練時(shí)間長(zhǎng)、對(duì)初始權(quán)重敏感等。為了解決這些問題,研究者們
    的頭像 發(fā)表于 07-03 11:00 ?526次閱讀

    bp神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)區(qū)別是什么

    結(jié)構(gòu)、原理、應(yīng)用場(chǎng)景等方面都存在一定的差異。以下是對(duì)這兩種神經(jīng)網(wǎng)絡(luò)的比較: 基本結(jié)構(gòu) BP神經(jīng)網(wǎng)絡(luò)是一種多層前饋神經(jīng)網(wǎng)絡(luò),由輸入層、隱藏層和輸出層組成。每個(gè)神經(jīng)元之間通過權(quán)重連接,并通
    的頭像 發(fā)表于 07-03 10:12 ?752次閱讀

    卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練的是什么

    、訓(xùn)練過程以及應(yīng)用場(chǎng)景。 1. 卷積神經(jīng)網(wǎng)絡(luò)的基本概念 1.1 卷積神經(jīng)網(wǎng)絡(luò)的定義 卷積神經(jīng)網(wǎng)絡(luò)是一種前饋深度學(xué)習(xí)模型,其核心思想是利用卷積操作提取輸入數(shù)據(jù)的局部特征,并通過多層結(jié)構(gòu)進(jìn)
    的頭像 發(fā)表于 07-03 09:15 ?281次閱讀

    如何訓(xùn)練和優(yōu)化神經(jīng)網(wǎng)絡(luò)

    神經(jīng)網(wǎng)絡(luò)是人工智能領(lǐng)域的重要分支,廣泛應(yīng)用于圖像識(shí)別、自然語言處理、語音識(shí)別等多個(gè)領(lǐng)域。然而,要使神經(jīng)網(wǎng)絡(luò)在實(shí)際應(yīng)用中取得良好效果,必須進(jìn)行有效的訓(xùn)練和優(yōu)化。本文將從神經(jīng)網(wǎng)絡(luò)
    的頭像 發(fā)表于 07-01 14:14 ?340次閱讀

    基于毫米波雷達(dá)的手勢(shì)識(shí)別神經(jīng)網(wǎng)絡(luò)

    環(huán)境和位置對(duì)每個(gè)人重復(fù)這個(gè)過程,使我們能夠全面訓(xùn)練和測(cè)試模型。LOOCV的結(jié)果被編譯成一個(gè)混淆矩陣,如圖6所示。平均識(shí)別率高達(dá)98.4%,令人印象深刻。這些發(fā)現(xiàn)證明了我們的神經(jīng)網(wǎng)絡(luò)在識(shí)別所有
    發(fā)表于 05-23 12:12

    鼾聲監(jiān)測(cè)神經(jīng)網(wǎng)絡(luò)

    中的40個(gè)特征訓(xùn)練的高斯混合模型(GMM)29,基于子帶中的平均歸一化能量的線性回歸模型30,基于時(shí)域中的多個(gè)特征的支持向量機(jī)(SVM)31和基于時(shí)間和頻譜特征的人工神經(jīng)網(wǎng)絡(luò)(ANN)帶32,33。結(jié)果
    發(fā)表于 05-15 12:14

    Kaggle知識(shí)點(diǎn):訓(xùn)練神經(jīng)網(wǎng)絡(luò)的7個(gè)技巧

    訓(xùn)練神經(jīng)網(wǎng)絡(luò)的挑戰(zhàn)在訓(xùn)練數(shù)據(jù)集的新示例之間取得平衡。七個(gè)具體的技巧,幫助您更快地訓(xùn)練出更好的神經(jīng)網(wǎng)絡(luò)
    的頭像 發(fā)表于 12-30 08:27 ?599次閱讀
    Kaggle知識(shí)點(diǎn):<b class='flag-5'>訓(xùn)練</b><b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>的7個(gè)技巧

    如何訓(xùn)練這些神經(jīng)網(wǎng)絡(luò)來解決問題?

    神經(jīng)網(wǎng)絡(luò)建模中,經(jīng)常會(huì)出現(xiàn)關(guān)于神經(jīng)網(wǎng)絡(luò)應(yīng)該有多復(fù)雜的問題,即它應(yīng)該有多少層,或者它的濾波器矩陣應(yīng)該有多大。這個(gè)問題沒有簡(jiǎn)單的答案。與此相關(guān),討論網(wǎng)絡(luò)過擬合和欠擬合非常重要。過擬合是模型過于復(fù)雜且
    發(fā)表于 11-24 15:35 ?672次閱讀
    如何<b class='flag-5'>訓(xùn)練</b>這些<b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>來解決問題?