0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DPU:第三顆主力芯片 為CPU“減負”

架構(gòu)師技術(shù)聯(lián)盟 ? 來源:架構(gòu)師技術(shù)聯(lián)盟 ? 2023-07-27 10:55 ? 次閱讀

2020年,半導體行業(yè)圈有了新的熱點——DPU(Data Processing Unit,數(shù)據(jù)處理器)。自被英偉達CEO黃仁勛稱為“數(shù)據(jù)中心第三顆主力芯片”后,DPU就以驚人的速度崛起,成為整個行業(yè)甚至整個社會的關(guān)注重點。

到2023年,經(jīng)過三年的發(fā)展,DPU呈現(xiàn)出新的格局:自研、初創(chuàng)DPU芯片發(fā)展突飛猛進,DPU應用開始逐漸落地,ChatGPT等AIGC應用對高算力的需求,進一步推動了DPU發(fā)展。

世界排名前五的芯片公司都在DPU賽道占位,DPU成了“兵家必爭之地”。據(jù)賽迪顧問發(fā)布的數(shù)據(jù),預計到2025年全球DPU產(chǎn)業(yè)市場規(guī)模將超過245.3億美元(約1771億人民幣),DPU市場有望實現(xiàn)跳躍式增長,迎來黃金發(fā)展期。

2023年的DPU格局如何?未來如何發(fā)展?8月4日,北京將舉行“第三屆DPU峰會”,將有來自中國工程院、電信運營商、傳統(tǒng)芯片廠商、初創(chuàng)公司等在內(nèi)的30多位資深行業(yè)代表,分享國內(nèi)外DPU最新進展與實踐。

DPU:為CPU“減負”

人類發(fā)展經(jīng)歷了三次大分工,群居生活中,為了使群體更能生存下去需要加快工作效率,因而產(chǎn)生了分工。馬克思主義認為,社會分工是生產(chǎn)力發(fā)展的結(jié)果,促進著生產(chǎn)力的發(fā)展。

而縮小到計算機這一相對微觀的視角,在馮諾依曼架構(gòu)這一以計算和存儲為核心、CPU居于中心地位的傳統(tǒng)架構(gòu)下,CPU作為“大管家”,統(tǒng)一調(diào)度所有基礎(chǔ)資源:網(wǎng)絡數(shù)據(jù)包收發(fā)過程中需要CPU參與協(xié)議棧的處理,GPU所處理的數(shù)據(jù)也需要CPU來協(xié)調(diào)。虛擬化、存儲、網(wǎng)絡、加解密、壓縮解壓…都要經(jīng)過CPU處理。

f1c65698-2c0f-11ee-a368-dac502259ad0.png

(馮諾依曼架構(gòu))

但這并不總是效率最高的方式。CPU的定位是通用計算,在一些特定領(lǐng)域,CPU的效率遠不及一些專用芯片,比如在I/O密集的應用場景中,智能網(wǎng)卡的數(shù)據(jù)傳輸效率更高。

隨著生成式人工智能、數(shù)據(jù)科學、自動駕駛、元宇宙等新興應用的加速落地,全球各行各業(yè)對大規(guī)模算力的需求急速攀升,算力正逐步成為新時代的核心生產(chǎn)力,CPU越來越難以負擔一些復雜的計算,需要進行任務分工。

舉個栗子。

從前有個馮諾依曼餐館,剛開業(yè)時顧客少,只需要CPU一個員工即可,作為一個通用的CPU,他身兼數(shù)職,顧客點菜溝通——收銀——做菜——傳菜——收拾——備菜都是CPU完成,CPU一條龍?zhí)幚碣\順暢!

隨著店鋪口碑建立顧客增多,CPU越來越忙。CPU的薪資是1.5萬一個月,作為本店的大廚,其實他更擅長做菜,讓他分時分力做小二的活計太浪費。并且有些顧客有特殊需求,需要有更多服務技巧的小二去接待,擅長做菜的CPU并沒有用武之地。于是,馮諾依曼餐館招了1名收銀員DPU(3000元/月),專門負責點菜溝通和收銀;招了1名店小二GPU(3500元/月),負責傳菜、收拾和備菜。CPU發(fā)揮自己的特長,專注于菜品研制和做菜。這樣一重新分工,餐館的工作效率和服務質(zhì)量蹭蹭提高,生意越來越好了!

f1db97b0-2c0f-11ee-a368-dac502259ad0.png

(CPU-DPU-GPU分工協(xié)作)

正如開餐館一樣,重新分工后,CPU負責整個IT生態(tài)的定義及處理通用計算任務,GPU負責數(shù)據(jù)并行的任務如圖形圖像、深度學習、矩陣運算等加速計算任務,DPU則承擔起安全、網(wǎng)絡、存儲和AI等其它專用業(yè)務的加速處理。DPU與CPU、GPU地位平等,相互交互、相互協(xié)調(diào)來完成計算任務。DPU專門負責IO的處理和數(shù)據(jù)傳輸(點菜收銀),這些以前由CPU處理的工作被卸載,讓CPU可以專注于業(yè)務的計算(做菜),從而提升系統(tǒng)的整體效率。

f1f57db0-2c0f-11ee-a368-dac502259ad0.png

(DPU主要任務)

2023年DPU格局

2023年DPU賽道繼續(xù)大熱,芯片巨頭、初創(chuàng)公司、云廠商、傳統(tǒng)設(shè)備廠商紛紛開始發(fā)力DPU,推出新的產(chǎn)品或解決方案。

在DPU技術(shù)路線上,各家選擇略有不同。DPU有ASIC、FPGA和SoC三種實現(xiàn)路徑,在成本、編程簡易性和靈活性方面各有利弊。業(yè)內(nèi)人士透露,目前DPU主流的市場方案包括以Arm核為主的架構(gòu)、FPGA+CPU架構(gòu),以及SoC架構(gòu),前兩者已經(jīng)在云計算廠商得到批量部署,整體看SoC方案則是今后的趨勢。

DPU的主要場景是數(shù)據(jù)中心,潛在客戶主要是云廠商。目前,包括阿里、騰訊等在內(nèi)的大型公有云廠商,都通過自研或投資加入DPU賽道;私有云廠商需求復雜,DPU產(chǎn)品需要與業(yè)務場景緊密相關(guān),誰能吃透客戶業(yè)務場景、跟用戶走得更近、誰的定制能力更強,機會就越大。

除數(shù)據(jù)中心以外,智能駕駛、數(shù)據(jù)通信、網(wǎng)絡安全等也是DPU的下游應用領(lǐng)域。未來,智能駕駛每個車機節(jié)點都可視為小型數(shù)據(jù)中心,并將產(chǎn)生大量的數(shù)據(jù)處理、轉(zhuǎn)發(fā)、交換和存儲需求,每輛智能駕駛汽車都有望配備DPU。

總體而言,DPU目前尚處于起步階段,但可以確定的是,未來數(shù)年內(nèi)DPU市場在全球?qū)⑹且黄{海。當前國內(nèi)外DPU廠商基本處于相同的發(fā)力節(jié)點,?任重而道遠,國內(nèi)DPU廠商需要加強與云廠商、產(chǎn)業(yè)鏈上下游廠商等各方的深度合作,攜手打造更好、更開放的DPU生態(tài)。






審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • SoC芯片
    +關(guān)注

    關(guān)注

    1

    文章

    592

    瀏覽量

    34814
  • DPU
    DPU
    +關(guān)注

    關(guān)注

    0

    文章

    353

    瀏覽量

    24082
  • 虛擬機
    +關(guān)注

    關(guān)注

    1

    文章

    900

    瀏覽量

    27981
  • 自動駕駛
    +關(guān)注

    關(guān)注

    782

    文章

    13566

    瀏覽量

    165790
  • ChatGPT
    +關(guān)注

    關(guān)注

    28

    文章

    1536

    瀏覽量

    7290

原文標題:2023直擊DPU:“第三顆”主力芯片

文章出處:【微信號:架構(gòu)師技術(shù)聯(lián)盟,微信公眾號:架構(gòu)師技術(shù)聯(lián)盟】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    使用TPA3118做了分頻功放遇到的疑問求解

    我們的新板子用了三顆3118芯片做了分頻功放,三顆分別負責高中低音,輸入電源適配器是19V6.75A,前級5532做了電分,分別進三顆3
    發(fā)表于 10-21 08:00

    飛凌嵌入式- ELF 1外設(shè)擴展硬件分享第三

    引腳的電氣屬性影響到核心板啟動。所以在這里使用兩FCT16254C進行緩沖,保證系統(tǒng)可以正常啟動。 圖中的LCD轉(zhuǎn)VGA電路中R7、R9、R11三顆信號對地75歐姆電阻必須連接,一般DA芯片都是電流
    發(fā)表于 10-08 14:22

    飛凌嵌入式-ELFBOARD ELF 1外設(shè)擴展硬件分享第三

    引腳的電氣屬性影響到核心板啟動。所以在這里使用兩FCT16254C進行緩沖,保證系統(tǒng)可以正常啟動。 圖中的LCD轉(zhuǎn)VGA電路中R7、R9、R11三顆信號對地75歐姆電阻必須連接,一般DA芯片都是電流
    發(fā)表于 10-08 14:20

    IaaS+on+DPU(IoD)+下一代高性能算力底座技術(shù)白皮書

    數(shù)據(jù)中心的第三顆主力芯片”,主要通過其專用處理器優(yōu)化數(shù)據(jù)中心的網(wǎng)絡、存儲、安全等處理性能,助力服務器運行效率顯著提升,有效降低成本。因此,在新型數(shù)據(jù)中心建設(shè)時,圍繞 DPU 構(gòu)建數(shù)據(jù)
    發(fā)表于 07-24 15:32

    中科馭數(shù)發(fā)布第三DPU芯片K2 Pro,較上一代能耗降低30%

    基于該芯片的自研芯片架構(gòu)和專用的指令集技術(shù)。 ? 該公司表示,之所以發(fā)布一整套技術(shù)而非單芯片,是因為它們相互依賴、相互增強,共同構(gòu)成了一個高效、靈活且功能強大的
    的頭像 發(fā)表于 07-01 07:32 ?3380次閱讀

    中科馭數(shù)發(fā)布高性能DPU芯片K2-Pro

    在信息技術(shù)領(lǐng)域,每一次芯片技術(shù)的突破都代表著行業(yè)的一次飛躍。近日,DPU領(lǐng)域的領(lǐng)軍企業(yè)中科馭數(shù)宣布,成功研發(fā)并發(fā)布了其第三DPU芯片——“
    的頭像 發(fā)表于 06-21 11:41 ?677次閱讀

    重新定義DPU——中科馭數(shù)2024產(chǎn)品發(fā)布會,6月19日誠邀蒞臨!

    數(shù)據(jù)中心正經(jīng)歷著前所未有的變革,DPU作為數(shù)據(jù)中心第三顆主力芯片,正引領(lǐng)行業(yè)步入一個高效、靈活的算力新時代。 中科馭數(shù)在業(yè)內(nèi)率先完成
    的頭像 發(fā)表于 06-18 16:17 ?476次閱讀

    “Spark+Hive”在DPU環(huán)境下的性能測評 | OLAP數(shù)據(jù)庫引擎選型白皮書(24版)DPU部分節(jié)選

    在奇點云2024年版《OLAP數(shù)據(jù)庫引擎選型白皮書》中,中科馭數(shù)聯(lián)合奇點云針對Spark+Hive這類大數(shù)據(jù)計算場景下的主力引擎,測評DPU環(huán)境下對比CPU環(huán)境下的性能提升效果。特此節(jié)選該章節(jié)內(nèi)容,與大家共享。
    的頭像 發(fā)表于 05-30 16:09 ?411次閱讀
    “Spark+Hive”在<b class='flag-5'>DPU</b>環(huán)境下的性能測評 | OLAP數(shù)據(jù)庫引擎選型白皮書(24版)<b class='flag-5'>DPU</b>部分節(jié)選

    三顆LED低壓并聯(lián)照明電路LOWVOLTAGEP2SGEVB評估套件數(shù)據(jù)手冊

    電子發(fā)燒友網(wǎng)站提供《三顆LED低壓并聯(lián)照明電路LOWVOLTAGEP2SGEVB評估套件數(shù)據(jù)手冊.rar》資料免費下載
    發(fā)表于 04-15 15:56 ?0次下載
    <b class='flag-5'>三顆</b>LED低壓并聯(lián)照明電路LOWVOLTAGEP2SGEVB評估套件數(shù)據(jù)手冊

    三顆LTM4702并聯(lián)空載緩慢發(fā)熱,同時在緩慢發(fā)熱的過程中設(shè)計輸出電壓緩慢降低的原因?

    1.8MHz,第二第三顆<80%1.4MHz,三顆相位120°, 設(shè)置了快速啟動PGSET引腳電阻499K?;緟?shù)如此,因為在我之前設(shè)計LT8640S等電源中空載并未有發(fā)熱和電壓
    發(fā)表于 03-06 06:06

    星Galaxy S24+搭載Exynos 2400芯片,CPU性能提升1.7倍,AI處理能

    據(jù)了解,Exynos 2400 CPU包含一主頻高達 3.2 GHz的Cortex-X4、兩主頻 2.9 GHz的Cortex-A720以及
    的頭像 發(fā)表于 01-18 09:54 ?884次閱讀

    《數(shù)據(jù)處理器:DPU編程入門》DPU計算入門書籍測評

    一、DPU計算框架 通過一周多的時間翻閱這本書,基本上這本書是一本比較全面的,面向架構(gòu)的新手指導數(shù)據(jù)。它在書中詳盡介紹了關(guān)于DPU在計算機架構(gòu)中的應用。 對于DPU來說,是一種平行于CPU
    發(fā)表于 12-24 10:54

    《數(shù)據(jù)處理器:DPU編程入門》讀書筆記

    ,讓用戶可以不用關(guān)注DPU的底層硬件接口而直接對硬件進行編程。 此外,DPU是數(shù)據(jù)中心基礎(chǔ)架構(gòu)的處理芯片,預測至少30%的CPU資源用于執(zhí)行數(shù)據(jù)中心基礎(chǔ)設(shè)施架構(gòu),而這些任務都可以卸載到
    發(fā)表于 12-21 10:47

    淺談DPUCPU、GPU的關(guān)系

    CPU的一大部分算力卸載給GPU之后,人們發(fā)現(xiàn)可以把很多其他功能也外包出去,于是又有了智能網(wǎng)卡,或者叫做DPU。
    發(fā)表于 12-14 11:44 ?770次閱讀
    淺談<b class='flag-5'>DPU</b>和<b class='flag-5'>CPU</b>、GPU的關(guān)系

    什么是DPU

    和服務器內(nèi),CPU和GPU已經(jīng)被廣泛地用于各個新型超大規(guī)模數(shù)據(jù)中心。 這些數(shù)據(jù)中心通過功能強大的新型處理器連接在一起,DPU( Data Processing Unit ,數(shù)據(jù)處理器)已經(jīng)成為了以數(shù)據(jù)
    發(fā)表于 11-03 10:55