0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DPU走進(jìn)巨頭視線

ss ? 來(lái)源:Ai芯天下 ? 作者:Ai芯天下 ? 2020-11-09 11:30 ? 次閱讀

最近幾年,隨著系統(tǒng)中的CPU承受越來(lái)越多的網(wǎng)絡(luò)和存儲(chǔ)工作負(fù)載,DPU已成為以數(shù)據(jù)為中心加速計(jì)算模型的第三個(gè)成員。

那么,DPU能否真正承擔(dān)起與CPU、GPU一樣的計(jì)算重要性,實(shí)現(xiàn)數(shù)據(jù)中心的一次巨大革新?其創(chuàng)新點(diǎn)到底在哪里?這些仍然是我們要去回顧和考察的問(wèn)題。

DPU將成未來(lái)計(jì)算支柱之一

DPU,是Data Processing Unit的縮寫(xiě),也就是所謂的數(shù)據(jù)處理單元。

DPU的主要作用就在于替代了數(shù)據(jù)中心原本用來(lái)處理分布式存儲(chǔ)和網(wǎng)絡(luò)通信的CPU處理器資源。

目前服務(wù)器要處理的資料日益增多,除了原有的加解密、封包壓縮外,加速器也讓服務(wù)器要處理的資料量變得更龐大,就會(huì)造成原有CPU在處理安全能力表現(xiàn)上出現(xiàn)瓶頸。

如果有了DPU的出現(xiàn),就可以先在DPU將大量的信息先做消化,接著再傳遞給CPU做其他的分配,如此一來(lái)能減少CPU約30%的消耗。

在DPU之前,智能網(wǎng)卡(SmartNIC)正在網(wǎng)絡(luò)安全和網(wǎng)絡(luò)互連協(xié)議方面逐漸取代CPU。

而現(xiàn)在DPU的出現(xiàn),相當(dāng)于是智能網(wǎng)卡的升級(jí)替代版本。

一方面增強(qiáng)了智能網(wǎng)卡對(duì)網(wǎng)絡(luò)安全和網(wǎng)絡(luò)協(xié)議的處理能力;

一方面又整合和加強(qiáng)了分布式存儲(chǔ)的處理能力。

從而在這兩個(gè)領(lǐng)域更好地替代CPU,從而釋放CPU的算力給到其他更多應(yīng)用。

所有的這些DPU功能對(duì)于實(shí)現(xiàn)隔離的裸機(jī)云原生計(jì)算至關(guān)重要,它也將定義下一代云規(guī)模計(jì)算。

DPU走進(jìn)巨頭視線的原因

①DPU更安全,因?yàn)榭刂破矫婵梢栽谙到y(tǒng)內(nèi)和系統(tǒng)集群之間與數(shù)據(jù)平面分離。DPU可以執(zhí)行原本需要CPU處理的網(wǎng)絡(luò)、存儲(chǔ)和安全等任務(wù)。CPU的不少運(yùn)算能力可以被釋放出來(lái),去執(zhí)行廣泛的企業(yè)應(yīng)用。

②DPU釋放了服務(wù)器的容量,以便它們可以恢復(fù)到應(yīng)用程序計(jì)算。在一些具有大量I / O和沉重虛擬化的系統(tǒng)上內(nèi)核成本縮減一半,因此吞吐量提高了2倍。

③DPU豐富的、靈活和可編程的加速引擎可減輕和改善AI機(jī)器學(xué)習(xí)應(yīng)用的性能。

④DPU能充當(dāng)數(shù)據(jù)中心的“第三插槽”,補(bǔ)充CPU和GPU,同時(shí)在單位功率和空間內(nèi)帶來(lái)前所未有的好處。該公司還表示,這些好處是安全可靠的。

⑤高幀率、高動(dòng)態(tài)范圍顯示,這些其實(shí)都需要頂級(jí)的DPU來(lái)實(shí)現(xiàn)。

⑥對(duì)于智能汽車來(lái)說(shuō),未來(lái)的超大屏當(dāng)然也需要強(qiáng)力的DPU和VPU來(lái)支撐。

⑦DPU引入機(jī)器學(xué)習(xí)算法,可對(duì)數(shù)據(jù)進(jìn)行智能管理、控制和分析,從而減少閃存擦寫(xiě)次數(shù),延長(zhǎng)SSD使用壽命;還可減少盤(pán)內(nèi)計(jì)算和總線數(shù)據(jù)量,減輕主機(jī)CPU的負(fù)擔(dān)。

英偉達(dá)最為看重DPU并發(fā)力

英偉達(dá)在DPU上的技術(shù)突破,來(lái)自于去年收購(gòu)以色列芯片制造公司Mellanox之后,在這家公司的硬件基礎(chǔ)上開(kāi)發(fā)出BlueFeild系列的兩款DPU——英偉達(dá)BlueField-2 DPU與BlueField-2X DPU。

BlueField-2 DPU具有英偉達(dá)Mellanox Connext-6 SmartNIC的所有特點(diǎn),與8個(gè)64位的A72ARM處理器內(nèi)核一起,實(shí)現(xiàn)可完全編程,并能提供每秒200千兆比特的數(shù)據(jù)傳輸速率,從而加速關(guān)鍵數(shù)據(jù)中心的安全、網(wǎng)絡(luò)和存儲(chǔ)任務(wù)。

最核心的一點(diǎn)是單個(gè)BlueField-2 DPU可以提供相當(dāng)于消耗125個(gè)CPU內(nèi)核所提供的數(shù)據(jù)中心服務(wù),從而有效釋放CPU內(nèi)核的算力資源。

英偉達(dá)發(fā)力DPU建設(shè)的深層目的,一個(gè)是DPU試圖再一次復(fù)制GPU替代顯示加速卡成為通用顯示芯片的路徑,再一個(gè)是DOCA試圖再一次復(fù)制CUDA在GPU通用化過(guò)程中所起到的開(kāi)創(chuàng)生態(tài)之功。

國(guó)際巨頭開(kāi)始紛紛提前布局

根據(jù)THENEXTPLATFORM的分析指出,在2020年,SmartNIC正在演變成DPU,每個(gè)人都想在這個(gè)領(lǐng)域分一杯羹。

在這個(gè)領(lǐng)域的玩家或者潛在玩家主要包括Broadcom,英特爾,英偉達(dá),Netronome,Pensando,F(xiàn)ungible和賽靈思,還包括云供應(yīng)商三大巨頭。

近水樓臺(tái)先得月,Broadcom是商品以太網(wǎng)NIC控制器市場(chǎng)上無(wú)可爭(zhēng)議的領(lǐng)導(dǎo)者。Broadcom的Stingray架構(gòu)采用了單芯片方法,與其他競(jìng)爭(zhēng)對(duì)手的許多芯片板相比,單芯片SmartNIC解決方案在板級(jí)生產(chǎn)的成本始終較低。

英特爾也對(duì)用于超大規(guī)模生產(chǎn)者和云構(gòu)建者的可編程以太網(wǎng)交換和SmartNIC更感興趣,在DPU上,英特爾主要是將CPU和FPGA結(jié)合在一起。

賽靈思是SmartNIC領(lǐng)域中另一位杰出的FPGA進(jìn)入者,其Alveo U25將雙SFP28端口直接連接到Zynq系列芯片,包括6GB DDR4內(nèi)存,Zynq的FPGA和Arm內(nèi)核可通過(guò)該芯片上運(yùn)行的程序?qū)ζ溥M(jìn)行訪問(wèn)。

Fungible公司的DPU起到數(shù)據(jù)中心結(jié)構(gòu)控制和網(wǎng)絡(luò)層的作用,通過(guò)減少資源等待的次數(shù)和動(dòng)態(tài)構(gòu)成服務(wù)器的基礎(chǔ)結(jié)構(gòu),來(lái)提高數(shù)據(jù)中心的效率。

其生產(chǎn)的DPU將網(wǎng)絡(luò)資源總擁有成本降低到原來(lái)的四分之一,計(jì)算能力降低到原來(lái)的一半,存儲(chǔ)降低到原來(lái)的五分之一以下,總成本降低到原來(lái)的三分之一。

除了上述供應(yīng)商,全球的云廠商巨頭也都在部署SmartNIC,而且三家云供應(yīng)商正在設(shè)計(jì)自己的系統(tǒng)級(jí)芯片架構(gòu),他們就是阿里云的X-Dragon,亞馬遜AWS的Nitro和微軟Azure的Catapult。

結(jié)尾:

DPU可以和CPU、GPU相結(jié)合,構(gòu)成完全可編程的單一AI計(jì)算單元,實(shí)現(xiàn)前所未有的安全性和算力支持。

CPU、GPU、DPU將代表未來(lái)計(jì)算的三大支柱。這三者之間,CPU用于通用計(jì)算,GPU用于加速計(jì)算,而DPU在數(shù)據(jù)中心周圍移動(dòng)數(shù)據(jù),進(jìn)行數(shù)據(jù)處理。

責(zé)任編輯:xj

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    10772

    瀏覽量

    210452
  • 數(shù)據(jù)中心
    +關(guān)注

    關(guān)注

    16

    文章

    4578

    瀏覽量

    71807
  • DPU
    DPU
    +關(guān)注

    關(guān)注

    0

    文章

    352

    瀏覽量

    24072
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    中科馭數(shù)分析DPU在云原生網(wǎng)絡(luò)與智算網(wǎng)絡(luò)中的實(shí)際應(yīng)用

    CCF Chip 2024,精彩不能停!7月21日下午,中科馭數(shù)在第二屆中國(guó)計(jì)算機(jī)學(xué)會(huì)(CCF)芯片大會(huì)的“馭數(shù)專屬時(shí)刻”仍在繼續(xù),馭數(shù)組織承辦“DPU技術(shù)趨勢(shì)和應(yīng)用——DPU在云原生與智算網(wǎng)絡(luò)中
    的頭像 發(fā)表于 08-02 11:21 ?585次閱讀

    IaaS+on+DPU(IoD)+下一代高性能算力底座技術(shù)白皮書(shū)

    的技術(shù)標(biāo)準(zhǔn)也在不斷完善。從此 DPU 不再是行業(yè)巨頭的“專享”技術(shù),基礎(chǔ)設(shè)施與云計(jì)算相關(guān)產(chǎn)業(yè)參與者都在尋求一種簡(jiǎn)單高效的方法,將 DPU 的優(yōu)勢(shì)運(yùn)用到自身業(yè)務(wù)系統(tǒng)之中,例如 Red Hat
    發(fā)表于 07-24 15:32

    中科馭數(shù)CEO鄢貴海:從計(jì)算系統(tǒng)的三個(gè)視角重新審視DPU的核心價(jià)值

    在信息技術(shù)日新月異的浪潮中,DPU正逐漸嶄露頭角。當(dāng)前,DPU發(fā)展的核心驅(qū)動(dòng)力來(lái)自于什么?DPU技術(shù)是否已經(jīng)足夠成熟到廣泛應(yīng)用?市場(chǎng)上頭部玩家參與到這一創(chuàng)新技術(shù)的市場(chǎng)角逐之中?在算力時(shí)代,DP
    的頭像 發(fā)表于 06-28 14:27 ?390次閱讀
    中科馭數(shù)CEO鄢貴海:從計(jì)算系統(tǒng)的三個(gè)視角重新審視<b class='flag-5'>DPU</b>的核心價(jià)值

    中科馭數(shù)發(fā)布高性能DPU芯片K2-Pro

    在信息技術(shù)領(lǐng)域,每一次芯片技術(shù)的突破都代表著行業(yè)的一次飛躍。近日,DPU領(lǐng)域的領(lǐng)軍企業(yè)中科馭數(shù)宣布,成功研發(fā)并發(fā)布了其第三代DPU芯片——“K2-Pro”。這款芯片的發(fā)布,標(biāo)志著中科馭數(shù)在DPU領(lǐng)域的技術(shù)實(shí)力達(dá)到了新的高度。
    的頭像 發(fā)表于 06-21 11:41 ?659次閱讀

    NVIDIA DPU編程入門(mén)開(kāi)課儀式在澳門(mén)科技大學(xué)成功舉辦

    5 月 24 日,NVIDIA DPU 編程入門(mén)開(kāi)課儀式在澳門(mén)科技大學(xué)成功舉辦。作為首個(gè)在中國(guó)開(kāi)設(shè) NVIDIA DPU 編程相關(guān)課程的高校,來(lái)自澳門(mén)科技大學(xué)不同院系的師生共同見(jiàn)證了本次儀式。
    的頭像 發(fā)表于 05-28 09:40 ?328次閱讀

    明天線上見(jiàn)!DPU構(gòu)建高性能云算力底座——DPU技術(shù)開(kāi)放日最新議程公布!

    算力,是數(shù)字經(jīng)濟(jì)時(shí)代的新質(zhì)生產(chǎn)力。隨著人工智能、智算中心建設(shè)等需求不斷拓展,DPU在各行各業(yè)數(shù)據(jù)中心的應(yīng)用逐步深入。異構(gòu)算力代表DPU在新質(zhì)生產(chǎn)力建設(shè)中,能否給出別開(kāi)生面的答案,應(yīng)戰(zhàn)算力難題?DPU
    的頭像 發(fā)表于 04-03 18:12 ?938次閱讀

    中科馭數(shù)DPU技術(shù)開(kāi)放日秀“肌肉”:云原生網(wǎng)絡(luò)、RDMA、安全加速、低延時(shí)網(wǎng)絡(luò)等方案組團(tuán)亮相

    DPU技術(shù)開(kāi)放日既是對(duì)DPU技術(shù)應(yīng)用的典型方案展示,也是DPU技術(shù)在重要細(xì)分場(chǎng)景走向成熟的標(biāo)志。
    的頭像 發(fā)表于 04-01 11:48 ?673次閱讀
    中科馭數(shù)<b class='flag-5'>DPU</b>技術(shù)開(kāi)放日秀“肌肉”:云原生網(wǎng)絡(luò)、RDMA、安全加速、低延時(shí)網(wǎng)絡(luò)等方案組團(tuán)亮相

    FPGA-Based DPU網(wǎng)卡的發(fā)展和應(yīng)用

    采用單芯片的SoC形態(tài),兼顧性能和功耗。FPGA-Based DPU在硬件設(shè)計(jì)上的挑戰(zhàn)主要來(lái)自芯片面積和功耗。
    發(fā)表于 02-23 14:40 ?1772次閱讀
    FPGA-Based <b class='flag-5'>DPU</b>網(wǎng)卡的發(fā)展和應(yīng)用

    《數(shù)據(jù)處理器:DPU編程入門(mén)》DPU計(jì)算入門(mén)書(shū)籍測(cè)評(píng)

    一、DPU計(jì)算框架 通過(guò)一周多的時(shí)間翻閱這本書(shū),基本上這本書(shū)是一本比較全面的,面向架構(gòu)的新手指導(dǎo)數(shù)據(jù)。它在書(shū)中詳盡介紹了關(guān)于DPU在計(jì)算機(jī)架構(gòu)中的應(yīng)用。 對(duì)于DPU來(lái)說(shuō),是一種平行于CPU和GPU
    發(fā)表于 12-24 10:54

    《數(shù)據(jù)處理器:DPU編程入門(mén)》讀書(shū)筆記

    首先感謝電子發(fā)燒友論壇提供的試讀機(jī)會(huì)。 第一周先閱讀了DPU的技術(shù)發(fā)展背景,了解到DPU是結(jié)合了高性能及軟件可編程的多核CPU、高性能網(wǎng)絡(luò)接口,以及各種靈活和可編程的加速引擎。DPU的主要作用是卸載
    發(fā)表于 12-21 10:47

    淺談DPU和CPU、GPU的關(guān)系

    把CPU的一大部分算力卸載給GPU之后,人們發(fā)現(xiàn)可以把很多其他功能也外包出去,于是又有了智能網(wǎng)卡,或者叫做DPU
    發(fā)表于 12-14 11:44 ?761次閱讀
    淺談<b class='flag-5'>DPU</b>和CPU、GPU的關(guān)系

    《數(shù)據(jù)處理器:DPU編程入門(mén)》+初步熟悉這本書(shū)的結(jié)構(gòu)和主要內(nèi)容

    dpu:推出的主要意義是為了減輕CPU的數(shù)據(jù)處理負(fù)擔(dān),使得cpu可以更具專注自己的通用計(jì)算處理運(yùn)算。 1、DPU數(shù)據(jù)處理器,演進(jìn)的核心驅(qū)動(dòng)力是什么? 計(jì)算工作負(fù)載的不斷增長(zhǎng)是DPU演進(jìn)的核心驅(qū)動(dòng)力
    發(fā)表于 12-08 18:03

    走進(jìn)創(chuàng)新雄安,中科馭數(shù)攜DPU系列產(chǎn)品亮相雄安中關(guān)村創(chuàng)新論壇

    11月30日 ,由北京市科學(xué)技術(shù)委員會(huì)、中關(guān)村科技園區(qū)管理委員會(huì)等單位主辦的中關(guān)村論壇系列技術(shù)交易活動(dòng)走進(jìn)雄安暨2023雄安中關(guān)村創(chuàng)新論壇在河北雄安新區(qū)順利舉行,中科馭數(shù)副總裁 朱 玉 振 受邀出席
    的頭像 發(fā)表于 12-01 18:50 ?452次閱讀
    <b class='flag-5'>走進(jìn)</b>創(chuàng)新雄安,中科馭數(shù)攜<b class='flag-5'>DPU</b>系列產(chǎn)品亮相雄安中關(guān)村創(chuàng)新論壇

    什么是DPU?

    什么是DPU? 相信很多人對(duì)于CPU(中央處理器)已經(jīng)非常熟悉了。靈活、響應(yīng)迅速的CPU多年來(lái)一直是大多數(shù)計(jì)算機(jī)中唯一的可編程元件。 近年來(lái),GPU(圖形處理單元)逐漸成為了計(jì)算的中心。最初GPU
    發(fā)表于 11-03 10:55

    解碼 DPU 編程,投稿贏取好禮!

    NVIDIA 發(fā)布首部 DPU 和 DOCA 編程入門(mén)書(shū)籍 前不久 NVIDIA 推出了備受業(yè)界好評(píng)的首部 DPU 處理器編程入門(mén)書(shū)籍 —— 《數(shù)據(jù)處理器:DPU 編程入門(mén)》 ,許多讀者紛紛留言
    的頭像 發(fā)表于 11-01 20:25 ?376次閱讀
    解碼 <b class='flag-5'>DPU</b> 編程,投稿贏取好禮!