0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

或讓功耗降低1000倍,存算一體芯片正在突破

Carol Li ? 來源:電子發(fā)燒友網(wǎng) ? 作者:李彎彎 ? 2020-12-22 08:29 ? 次閱讀

電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)為什么存算一體化越來越受到關(guān)注?今年1月,在阿里達(dá)摩院發(fā)布的2020十大科技趨勢(shì)中,其中一個(gè)是,計(jì)算存儲(chǔ)一體化突破AI算力瓶頸。

根據(jù)該趨勢(shì)預(yù)判,馮諾伊曼架構(gòu)的存儲(chǔ)和計(jì)算分離,已經(jīng)不適合數(shù)據(jù)驅(qū)動(dòng)的人工智能應(yīng)用需求,頻繁的數(shù)據(jù)搬運(yùn)導(dǎo)致的算力瓶頸以及功耗瓶頸已經(jīng)成為對(duì)更先進(jìn)算法探索的限制因素。

類似于腦神經(jīng)結(jié)構(gòu)的存內(nèi)計(jì)算架構(gòu)將數(shù)據(jù)存儲(chǔ)單元和計(jì)算單元融合為一體,能顯著減少數(shù)據(jù)搬運(yùn),極大提高計(jì)算并行度和能效。計(jì)算存儲(chǔ)一體化在硬件架構(gòu)方面的革新,將突破AI算力瓶頸。

當(dāng)前,有不少科研團(tuán)隊(duì)和芯片企業(yè)投入到存儲(chǔ)一體芯片的研發(fā)中,并且時(shí)常傳出新進(jìn)展,比如,上個(gè)月,瑞士洛桑聯(lián)邦理工學(xué)院設(shè)計(jì)出了一種兼具邏輯運(yùn)算和數(shù)據(jù)存儲(chǔ)功能的計(jì)算機(jī)芯片,近日有消息顯示,知存科技已經(jīng)研發(fā)了三款存算一體芯片,并且其中一款已小批量生產(chǎn)。


存算一體可極大降低功耗,提升運(yùn)算效率

存算一體,即在存儲(chǔ)器顆粒本身進(jìn)行算法嵌入,在存儲(chǔ)顆粒內(nèi)實(shí)現(xiàn)計(jì)算。眾所周知,我們當(dāng)前的計(jì)算機(jī)采用馮諾依曼體系結(jié)構(gòu),計(jì)算和存儲(chǔ)功能是分離的,分別由中央處理器CPU和存儲(chǔ)器完成。

CPU和存儲(chǔ)器通過總線互連通信,CPU從存儲(chǔ)器讀出數(shù)據(jù),完成計(jì)算,然后將結(jié)果寫回存儲(chǔ)器。馮諾依曼架構(gòu)以CPU為核心,其他部件都是為CPU服務(wù)。

馮諾依曼架構(gòu)圖


但是,因?yàn)樘幚砥骱痛鎯?chǔ)器工藝、封裝各不相同,兩者的性能差距隨著時(shí)間不斷拉大,存儲(chǔ)器數(shù)據(jù)訪問速度跟不上CPU的數(shù)據(jù)處理速度,導(dǎo)致了“存儲(chǔ)墻”問題越來越嚴(yán)重。



數(shù)據(jù)顯示,從 1980年到 2000年,處理器和存儲(chǔ)器的速度失配以每年50%的速率增加。通過不斷的探索,業(yè)界認(rèn)為,存算一體技術(shù)可以達(dá)到弱化或消除“存儲(chǔ)墻”問題。

關(guān)于存儲(chǔ)墻的問題,知存科技創(chuàng)始人兼CEO王紹迪近日在某活動(dòng)上的講述更為形象,他說:計(jì)算本身消耗的功耗并不多,但數(shù)據(jù)從內(nèi)存搬到計(jì)算單元會(huì)消耗將近1000倍的計(jì)算功耗。

可見,存算一體可以完美的避開搬運(yùn)產(chǎn)生的極大功耗,事實(shí)上,與傳統(tǒng)技術(shù)相比,存算一體還有運(yùn)算效率高、速度快和成本低的特點(diǎn),非常受市場(chǎng)需求端看好。

存算一體芯片雖研發(fā)困難,但仍有進(jìn)展

雖然從應(yīng)用端來看,存算一體芯片會(huì)給很多行業(yè)、設(shè)備帶來更高效的運(yùn)算和更低的功耗,但是其技術(shù)的實(shí)現(xiàn)卻沒有那么容易,事實(shí)上,很多團(tuán)隊(duì)已經(jīng)在這個(gè)領(lǐng)域鉆研很多年,才最終取得一些進(jìn)展。

知存科技創(chuàng)始人兼CEO王紹迪就透露,該公司的創(chuàng)始團(tuán)隊(duì)研發(fā)存算一體八年,流片次數(shù)接近20次。雖然當(dāng)前知存科技已經(jīng)有芯片進(jìn)行小批量生產(chǎn),但是從開發(fā)的時(shí)間來看,投入是相當(dāng)大的,可見技術(shù)實(shí)現(xiàn)的不容易。

不過雖然困難,是所謂,市場(chǎng)需求推動(dòng)技術(shù)進(jìn)步,在科學(xué)界和企業(yè)界不斷努力研發(fā)下,未來發(fā)展還是值得期待。事實(shí)上,當(dāng)前已經(jīng)不少技術(shù)和產(chǎn)品初見成效。

新一代計(jì)算機(jī)芯片實(shí)現(xiàn)存算一體

就在上個(gè)月,有報(bào)道稱,瑞士洛桑聯(lián)邦理工學(xué)院的工程師設(shè)計(jì)了一種兼具邏輯運(yùn)算和數(shù)據(jù)存儲(chǔ)功能的計(jì)算機(jī)芯片。

就如上文所言,現(xiàn)在的主流計(jì)算機(jī),處理器和存儲(chǔ)芯片都是分離的,一直沿用馮諾依曼五十多年前確立的架構(gòu),在工作的時(shí)候,兩個(gè)單元之間需要頻繁地交換數(shù)據(jù),消耗很大一部分時(shí)間和能量。

根據(jù)報(bào)道,這個(gè)研究組首次使用一種只有3個(gè)原子厚的平面材料——二硫化鉬(MoS2),進(jìn)行創(chuàng)新設(shè)計(jì),集邏輯運(yùn)算和存儲(chǔ)功能為一體,大幅減少傳統(tǒng)設(shè)計(jì)中數(shù)據(jù)交換的損耗。

該團(tuán)隊(duì)主要研究員Andras Kis說:“該款芯片可以減少存儲(chǔ)單元和處理單元之間數(shù)據(jù)傳輸?shù)哪芰肯?,縮短了運(yùn)算時(shí)間,縮小芯片占用的空間。”

可以預(yù)見,這款芯片如果最后能夠?qū)崿F(xiàn)商用,將會(huì)為制造體積更小、更節(jié)能、處理速度更快的電腦,以及人工智能的發(fā)展鋪平道路。

科學(xué)家成功研制存算一體通用AI芯片

另外,密歇根大學(xué)盧偉教授及其團(tuán)隊(duì)在去年也成功研發(fā)出過一款基于憶阻器陣列的通用 AI 芯片,憶阻器即同時(shí)兼?zhèn)溆洃浐?a target="_blank">電阻的功能,是神經(jīng)形態(tài)計(jì)算實(shí)現(xiàn)的關(guān)鍵。

根據(jù)報(bào)道,這款新型 AI 芯片將所有存儲(chǔ)計(jì)算功能集成在同一芯片上,真正實(shí)現(xiàn)了存算一體化,而且可以通過編程應(yīng)用于多種人工智能算法,進(jìn)一步提高計(jì)算速度,并減少能量損耗。

盧偉教授當(dāng)時(shí)在接受媒體采訪的時(shí)候表示,這種新型 AI 芯片很適合切入的一個(gè)應(yīng)用場(chǎng)景是基于推理的邊緣計(jì)算場(chǎng)景。

知存科技存算一體AI芯片已經(jīng)小批量試產(chǎn)

知存科技成立于2017年10月,專注研發(fā)基于存算一體先進(jìn)技術(shù)的人工智能芯片。根據(jù)官網(wǎng)介紹,該公司的創(chuàng)始成員來自國(guó)際上最早研發(fā)存算一體技術(shù)的專家團(tuán)隊(duì),并在2016年實(shí)現(xiàn)了全球第一款存算一體AI芯片。

當(dāng)前,知存科技已經(jīng)完成研發(fā)了兩款智能語音芯片:WTM1001和WTM2101,其中WTM1001是全球第一個(gè)存算一體芯片產(chǎn)品,并且已經(jīng)進(jìn)入小批量生產(chǎn)階段。WTM2101預(yù)計(jì)明年Q1進(jìn)行正式的小批量試產(chǎn)。另外該公司還有一款面向視覺應(yīng)用的芯片WTM3213,正在研發(fā)。

在存算一體技術(shù)的推進(jìn)過程中,知存科技可謂是走在前列,憑借優(yōu)秀的技術(shù)實(shí)力,成立三年時(shí)間,公司已經(jīng)過得數(shù)億元融資,加入芯片量產(chǎn)。

閃億半導(dǎo)體計(jì)劃3年內(nèi)完成首款芯片推廣及量產(chǎn)

閃億半導(dǎo)體成立于2017年7月,是閃易半導(dǎo)體的全資子公司。

據(jù)官網(wǎng)介紹,閃易半導(dǎo)體是一家研發(fā)高性能、低功耗、低成本的存算一體化AI芯片的集成電路公司,團(tuán)隊(duì)成員分別畢業(yè)于清華大學(xué)和北京大學(xué),分別在中美兩國(guó)的電路設(shè)計(jì)生產(chǎn)、人工智能開發(fā)企業(yè)擔(dān)任研發(fā)負(fù)責(zé)人。

該公司表示,計(jì)劃在三年內(nèi)完成第一代語音產(chǎn)品在家電和物聯(lián)網(wǎng)領(lǐng)域的推廣和量產(chǎn),同時(shí)設(shè)計(jì)和開發(fā)好第二代產(chǎn)品,用于圖像識(shí)別及安防領(lǐng)域。

閃億半導(dǎo)體于2019年10月發(fā)布了其首款存算一體化芯片產(chǎn)品,該公司負(fù)責(zé)人魯辭莽當(dāng)時(shí)表示,這款芯片在運(yùn)行效率上能提高超過10TOPS/W,成本可以比傳統(tǒng)AI芯片方案下降超一半。

恒爍半導(dǎo)體積極推進(jìn)存算一體芯片商用

據(jù)合肥日?qǐng)?bào)報(bào)道,NOR Flash廠商恒爍半導(dǎo)體與中國(guó)科大團(tuán)隊(duì)在2019年7月完成了歷時(shí)兩年研發(fā)的基于NOR閃存架構(gòu)的存算一體AI芯片系統(tǒng)演示。

根據(jù)報(bào)道,這是一款具有邊緣計(jì)算和推理的AI芯片,能實(shí)時(shí)檢測(cè)通過攝像頭拍攝的人臉頭像并給出計(jì)算概率,準(zhǔn)確且穩(wěn)定??蓮V泛應(yīng)用于森林防火中的人臉識(shí)別與救援、心電圖的實(shí)時(shí)監(jiān)測(cè)、人工智能在人臉識(shí)別上的硬件解決方案等。

據(jù)研發(fā)團(tuán)隊(duì)成員之一、中國(guó)科大博士陶臨風(fēng)介紹,相較于傳統(tǒng)芯片,存算一體人工智能芯片具有能耗低、運(yùn)算效率高、速度快和成本低的特點(diǎn)。

電子發(fā)燒友了解到,恒爍半導(dǎo)體目前存算一體方面暫時(shí)還無更多進(jìn)展,不過公司一直在積極推動(dòng)存算一體AI芯片商用。

小結(jié)

根據(jù)上述各家推出的芯片,存算一體芯片的優(yōu)勢(shì)基本體現(xiàn)在,低能耗、高效率、成本低等優(yōu)點(diǎn),在音頻、圖像等人工智能領(lǐng)域有很好的應(yīng)用,并且憑借其優(yōu)勢(shì),在一些傳統(tǒng)設(shè)備中可以有更多創(chuàng)新性的應(yīng)用,雖然研發(fā)困難,但是市場(chǎng)需求看好,科學(xué)界和企業(yè)界都在持續(xù)積極研發(fā),并逐漸取得突破性進(jìn)展,存算一體芯片的發(fā)展未來值得期待。

本文由電子發(fā)燒友網(wǎng)原創(chuàng),未經(jīng)授權(quán)禁止轉(zhuǎn)載。如需轉(zhuǎn)載,請(qǐng)?zhí)砑游?a target="_blank">信號(hào)elecfans999。


聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 芯片
    +關(guān)注

    關(guān)注

    452

    文章

    50025

    瀏覽量

    419785
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    10780

    瀏覽量

    210498
  • 馮諾伊曼架構(gòu)
    +關(guān)注

    關(guān)注

    1

    文章

    11

    瀏覽量

    9913
  • 存算一體
    +關(guān)注

    關(guān)注

    0

    文章

    99

    瀏覽量

    4268
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    一體架構(gòu)創(chuàng)新助力國(guó)產(chǎn)大力AI芯片騰飛

    在灣芯展SEMiBAY2024《AI芯片與高性能計(jì)算(HPC)應(yīng)用論壇》上,億鑄科技高級(jí)副總裁徐芳發(fā)表了題為《一體架構(gòu)創(chuàng)新助力國(guó)產(chǎn)大
    的頭像 發(fā)表于 10-23 14:48 ?99次閱讀

    科技新突破:首款支持多模態(tài)一體AI芯片成功問世

    一體介質(zhì),通過存儲(chǔ)單元和計(jì)算單元的深度融合,采用22nm成熟工藝制程,有效把控制造成本。與傳統(tǒng)架構(gòu)下的AI芯片相比,該款芯片
    發(fā)表于 09-26 13:51 ?253次閱讀
    科技新<b class='flag-5'>突破</b>:首款支持多模態(tài)<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>AI<b class='flag-5'>芯片</b>成功問世

    后摩智能首款一體智駕芯片獲評(píng)突出創(chuàng)新產(chǎn)品獎(jiǎng)

    近日,2024年6月29日,由深圳市汽車電子行業(yè)協(xié)會(huì)主辦的「第十三屆國(guó)際汽車電子產(chǎn)業(yè)峰會(huì)暨2023年度汽車電子科學(xué)技術(shù)獎(jiǎng)?lì)C獎(jiǎng)典禮」在深圳寶安隆重舉行。后摩智能首款一體智駕芯片——后
    的頭像 發(fā)表于 09-24 16:51 ?391次閱讀

    蘋芯科技引領(lǐng)存一體技術(shù)革新 PIMCHIP系列芯片重塑AI計(jì)算新格局

    智能芯片國(guó)產(chǎn)化再傳利好,8月8日,國(guó)際領(lǐng)先的一體芯片開拓者——蘋芯科技在北京召開 “
    發(fā)表于 08-08 17:21 ?188次閱讀
    蘋芯科技引領(lǐng)存<b class='flag-5'>算</b><b class='flag-5'>一體</b>技術(shù)革新   PIMCHIP系列<b class='flag-5'>芯片</b>重塑AI計(jì)算新格局

    后摩智能推出邊端大模型AI芯片M30,展現(xiàn)出一體架構(gòu)優(yōu)勢(shì)

    了基于M30芯片的智模組(SoM)和力謀??AI加速卡。 ? 后摩智能一體架構(gòu)芯片產(chǎn)品 ?
    的頭像 發(fā)表于 07-03 00:58 ?3971次閱讀

    科技助力AI應(yīng)用落地:WTMDK2101-ZT1評(píng)估板實(shí)地評(píng)測(cè)與性能揭秘

    晶體管的內(nèi)計(jì)算在深度學(xué)習(xí)應(yīng)用中的效用。相較于傳統(tǒng)馮諾伊曼架構(gòu)的傳統(tǒng)方案,PRIME可以實(shí)現(xiàn)功耗降低約20、速度提升約50,引起產(chǎn)業(yè)界廣
    發(fā)表于 05-16 16:38

    探索內(nèi)計(jì)算—基于 SRAM 的內(nèi)計(jì)算與基于 MRAM 的一體的探究

    本文深入探討了基于SRAM和MRAM的一體技術(shù)在計(jì)算領(lǐng)域的應(yīng)用和發(fā)展。首先,介紹了基于SRAM的內(nèi)邏輯計(jì)算技術(shù),包括其原理、優(yōu)勢(shì)以及在神經(jīng)網(wǎng)絡(luò)領(lǐng)域的應(yīng)用。其次,詳細(xì)討論了基于MR
    的頭像 發(fā)表于 05-16 16:10 ?2219次閱讀
    探索<b class='flag-5'>存</b>內(nèi)計(jì)算—基于 SRAM 的<b class='flag-5'>存</b>內(nèi)計(jì)算與基于 MRAM 的<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>的探究

    科技攜手北大共建一體化技術(shù)實(shí)驗(yàn)室,推動(dòng)AI創(chuàng)新

    揭牌儀式結(jié)束后,王紹迪在北大集成電路學(xué)院舉辦的“未名·芯”論壇上做了主題演講,分享了他對(duì)于多模態(tài)大模型時(shí)代內(nèi)計(jì)算發(fā)展的見解。他強(qiáng)調(diào)了一體在人工智能領(lǐng)域的重要性及其未來發(fā)展趨勢(shì)。
    的頭像 發(fā)表于 05-08 17:25 ?820次閱讀

    北京大學(xué)-知科技一體聯(lián)合實(shí)驗(yàn)室揭牌,開啟知科技產(chǎn)學(xué)研融合戰(zhàn)略新升級(jí)

    5月5日,“北京大學(xué)-知科技一體技術(shù)聯(lián)合實(shí)驗(yàn)室”在北京大學(xué)微納電子大廈正式揭牌,北京大學(xué)集成電路學(xué)院院長(zhǎng)蔡茂、北京大學(xué)集成電路學(xué)院副
    的頭像 發(fā)表于 05-07 19:31 ?1314次閱讀
    北京大學(xué)-知<b class='flag-5'>存</b>科技<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>聯(lián)合實(shí)驗(yàn)室揭牌,開啟知<b class='flag-5'>存</b>科技產(chǎn)學(xué)研融合戰(zhàn)略新升級(jí)

    什么是通感一體化?通感一體化的應(yīng)用場(chǎng)景

    通感一體化可廣泛應(yīng)用于智能家居、智慧城市、智慧交通、醫(yī)療健康等方面。文檔君為大家搜集了些典型的應(yīng)用場(chǎng)景。 智能家居 通感一體化利用基站
    發(fā)表于 01-18 16:12 ?1w次閱讀
    什么是通感<b class='flag-5'>算</b><b class='flag-5'>一體</b>化?通感<b class='flag-5'>算</b><b class='flag-5'>一體</b>化的應(yīng)用場(chǎng)景

    一體”是大模型AI芯片的破局關(guān)鍵?

    英特爾的研究表明,當(dāng)半導(dǎo)體工藝達(dá)到 7nm 時(shí),數(shù)據(jù)搬運(yùn)功耗高達(dá) 35pJ/bit,占總功耗的63.7%。另有統(tǒng)計(jì)表明,在大力的AI應(yīng)用中,數(shù)據(jù)搬運(yùn)操作消耗90%的時(shí)間和功耗,數(shù)據(jù)搬
    的頭像 發(fā)表于 01-14 13:54 ?789次閱讀

    一體芯片如何支持Transformer等不同模型?

    后摩智能致力于打造通用人工智能芯片,自主研發(fā)的一體芯片在支持各類模型方面表現(xiàn)突出,包括YOLO系列網(wǎng)絡(luò)、BEV系列網(wǎng)絡(luò)、點(diǎn)云系列網(wǎng)絡(luò)等。
    的頭像 發(fā)表于 01-05 14:14 ?1222次閱讀

    SRAM一體芯片的研究現(xiàn)狀和發(fā)展趨勢(shì)

    人工智能時(shí)代對(duì)計(jì)算芯片力和能效都提出了極高要求。一體芯片技術(shù)被認(rèn)為是有望解決處理器
    的頭像 發(fā)表于 01-02 11:02 ?2188次閱讀
    SRAM<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b><b class='flag-5'>芯片</b>的研究現(xiàn)狀和發(fā)展趨勢(shì)

    淺談為AI大力而生的-芯片

    大模型爆火之后,一體獲得了更多的關(guān)注與機(jī)會(huì),其原因之是因?yàn)?b class='flag-5'>存
    發(fā)表于 12-06 15:00 ?339次閱讀
    淺談為AI大<b class='flag-5'>算</b>力而生的<b class='flag-5'>存</b><b class='flag-5'>算</b>-<b class='flag-5'>體</b><b class='flag-5'>芯片</b>

    不同的一體有什么區(qū)別?

    SRAM是目前唯一一種跟先進(jìn)CMOS工藝完全兼容且能大規(guī)模量產(chǎn)的存儲(chǔ)介質(zhì),這也是支持大力的關(guān)鍵所在:從單獨(dú)一體宏單元的角度,SRAM跟先進(jìn)工藝的兼容性使其外圍邏輯接口最能滿足當(dāng)前
    的頭像 發(fā)表于 11-19 10:33 ?850次閱讀
    不同的<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>有什么區(qū)別?