0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DPU,云廠商的節(jié)約成本的王牌

E4Life ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 作者:周凱揚(yáng) ? 2023-06-08 09:19 ? 次閱讀

電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))隨著AI計(jì)算在數(shù)據(jù)中心逐漸占據(jù)主導(dǎo)地位,整個(gè)服務(wù)器系統(tǒng)架構(gòu)中的虛擬化、網(wǎng)絡(luò)交換對(duì)硬件提出了更高的需求,為了降低進(jìn)一步CPU的負(fù)載,DPU也就應(yīng)運(yùn)而生。通過(guò)使用DPU,各種架構(gòu)的CPU不僅降低了功耗,還提升了效率,完美符合當(dāng)下對(duì)綠色計(jì)算的追求。

DPU真的能省錢嗎?

雖然依據(jù)各大DPU廠商的說(shuō)法,大規(guī)模使用DPU可以降低總成本,不過(guò)這一觀點(diǎn)在過(guò)去以FPGAASIC主導(dǎo)的SmartNIC設(shè)計(jì)架構(gòu)的時(shí)期很難成立。FPGA更高的成本使得云服務(wù)廠商難以通過(guò)較低的成本來(lái)實(shí)現(xiàn)規(guī)?;?。而ASIC方案靈活可編程的能力較低,難以跟上時(shí)刻在迭代和擴(kuò)充的網(wǎng)絡(luò)環(huán)境,后續(xù)升級(jí)成本較高。

而如今普及的SoC方案,則通過(guò)結(jié)合不同的架構(gòu),降低成本的同時(shí)極大地提高了其靈活性。比如博通的Stingray就是Arm+ASIC的SoC方案,英特爾的IPU則是FPGA+x86或FPGA+Arm的SoC方案,Marvell的OCTEON 10也是Arm+ASIC的SoC方案等等。

這也就是為何不少云服務(wù)廠商紛紛投入使用DPU的原因,通過(guò)卸載CPU的負(fù)載,降低了整個(gè)系統(tǒng)的功耗,從而大幅降低了能源成本。以使用英偉達(dá)DPU的愛(ài)立信為例,據(jù)其公布的數(shù)據(jù),他們?cè)谑褂肈PU后將服務(wù)器CPU的功耗降低至145W,相比過(guò)去節(jié)約了24%的能耗。

這樣的數(shù)字在單個(gè)CPU,以及短運(yùn)行周期內(nèi)看起來(lái)似乎不算什么,但對(duì)于大型數(shù)據(jù)中心而言,這樣的數(shù)字就意味著單個(gè)DPU應(yīng)用就可以在三年間省下近200萬(wàn)美元的成本。同樣可以從中受益的還有OVS這一虛擬交換機(jī)應(yīng)用,根據(jù)英偉達(dá)公布的數(shù)據(jù),在使用BlueField-2來(lái)承接原本由CPU負(fù)責(zé)的交換任務(wù)后,單臺(tái)服務(wù)器的功耗可降低29%,達(dá)到305W。對(duì)于10000臺(tái)服務(wù)器的數(shù)據(jù)中心來(lái)說(shuō),也就是3年內(nèi)近500萬(wàn)美元的成本節(jié)約。

CSP紛紛選擇了自研DPU

至于從云廠商的角度,那DPU是否省錢這一問(wèn)題的答案就更明顯了。不少云服務(wù)廠商開始意識(shí)到,與其選擇第三方DPU,倒不如走上自研這條路。頭部CSP發(fā)現(xiàn)自研DPU不僅可以減少系統(tǒng)成本,還能解決數(shù)據(jù)中心在管理和虛擬化上的局限性,從而保證其產(chǎn)品優(yōu)勢(shì)。

比如字節(jié)跳動(dòng)早在2020年就開啟了自研DPU氦卡的研發(fā),從2021年至今已經(jīng)發(fā)布了氦卡的1.0、1.5和2.0版本。目前最新的氦卡2.0一斤支持到網(wǎng)絡(luò)、存儲(chǔ)和虛擬化全量加速。這對(duì)于字節(jié)旗下的火山引擎來(lái)說(shuō),不僅實(shí)現(xiàn)了IaaS、PaaS和存儲(chǔ)資源統(tǒng)一的完全并池,也降低了成本,據(jù)字節(jié)跳動(dòng)公布的數(shù)據(jù)氦卡使其TCO下降高達(dá)10%。

百度也在去年底發(fā)布了其自研DPU太行的2.0版本,新的DPU 2.0支持Intel、AMD和ARM平臺(tái),也同時(shí)支持計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)和虛擬化等功能。百度也基于太行2.0 DPU這一計(jì)算底座,打造了vQPE、BTHv、BOE、BDMA、RDMA和BHQoS六大自研引擎,做到多協(xié)議、多場(chǎng)景、跨平臺(tái)和低時(shí)延。

這與此前百度公布的太行DPU發(fā)展路徑一致,從路線圖上來(lái)看,未來(lái)的太行DPU 3.0將定位為云原生的IO引擎,實(shí)現(xiàn)BVC共平臺(tái)、硬件資源的全面解耦以及軟件定義實(shí)例等,做到端到端的極致性能。

寫在最后

其實(shí)隨著CSP紛紛自研DPU,這對(duì)于不少第三方DPU廠商都提出了一定的挑戰(zhàn)。首先大型CSP廠商都有這樣的能力去組建一個(gè)團(tuán)隊(duì),來(lái)為其量身打造自研DPU,甚至是直接通過(guò)收購(gòu)來(lái)完成這一目的,比如微軟年初收購(gòu)的Fungible??梢哉f(shuō),未來(lái)DPU廠商的競(jìng)爭(zhēng)壓力將進(jìn)一步放大,不僅要和同行對(duì)手卷,還要和自己的客戶卷。但好在對(duì)于使用云服務(wù)的用戶來(lái)說(shuō),DPU的出現(xiàn)一定會(huì)進(jìn)一步降低使用成本。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • DPU
    DPU
    +關(guān)注

    關(guān)注

    0

    文章

    353

    瀏覽量

    24072
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    在樹脂塞孔的設(shè)計(jì)上,工程師總覺(jué)得這樣操作是節(jié)約成本其實(shí)是浪費(fèi)

    高速先生成員--王輝東 節(jié)約創(chuàng)造價(jià)值,節(jié)省就是贏利。 只有花掉的錢才是真正屬于你的財(cái)富。 孫工在設(shè)計(jì)PCB時(shí),時(shí)時(shí)將節(jié)約成本記在心間。 這不他剛投了一款板,備注要用樹脂塞孔+阻焊塞孔。 POFV
    發(fā)表于 08-13 09:42

    在樹脂塞孔的設(shè)計(jì)上,工程師總覺(jué)得這樣操作是節(jié)約成本,其實(shí)是浪費(fèi)

    關(guān)于過(guò)孔做樹脂塞孔電鍍填平的設(shè)計(jì),客戶一直認(rèn)為盤中孔做POFV,其它的地方做綠油塞孔,你認(rèn)為這個(gè)要求合理 嗎,工程師總覺(jué)得這樣操作是節(jié)約成本,其實(shí)是浪費(fèi),打開今天的案例,了解案例背后的秘密。
    的頭像 發(fā)表于 08-13 09:20 ?252次閱讀
    在樹脂塞孔的設(shè)計(jì)上,工程師總覺(jué)得這樣操作是<b class='flag-5'>節(jié)約成本</b>,其實(shí)是浪費(fèi)

    IaaS+on+DPU(IoD)+下一代高性能算力底座技術(shù)白皮書

    AWS 與阿里DPU 的應(yīng)用方面也有成功案例,借助其軟硬件全棧自研的優(yōu)勢(shì),快速完成了計(jì)算系統(tǒng)的改造工作,實(shí)現(xiàn)了 DPU 大規(guī)模落地部署,在降低自身運(yùn)營(yíng)
    發(fā)表于 07-24 15:32

    計(jì)算與企業(yè)IT成本治理

    計(jì)算已經(jīng)當(dāng)仁不讓成為企業(yè)IT架構(gòu)的核心。 起初企業(yè)選擇計(jì)算的一大動(dòng)因是廠商宣稱計(jì)算能夠帶來(lái)IT成本
    的頭像 發(fā)表于 06-19 09:40 ?439次閱讀
    <b class='flag-5'>云</b>計(jì)算與企業(yè)IT<b class='flag-5'>成本</b>治理

    明天線上見(jiàn)!DPU構(gòu)建高性能算力底座——DPU技術(shù)開放日最新議程公布!

    技術(shù)在不同行業(yè)中的應(yīng)用解決方案有哪些?能帶來(lái)怎樣的業(yè)務(wù)效果? 3月29日本周五,中科馭數(shù)集結(jié)產(chǎn)品大咖及解決方案專家團(tuán),誠(chéng)邀您參加以“DPU構(gòu)建高性能算力底座”為主題的線上DPU技術(shù)開放日! 他們將逐一與您分享中科馭數(shù)系列
    的頭像 發(fā)表于 04-03 18:12 ?942次閱讀

    星云智聯(lián)為金山打造裸金屬服務(wù)器DPU解決方案,助力高端用戶實(shí)現(xiàn)更強(qiáng)大更高效的上體驗(yàn)

    國(guó)內(nèi)領(lǐng)先的DPU和智能網(wǎng)卡芯片與解決方案提供商星云智聯(lián)近日宣布,與中國(guó)知名服務(wù)商金山共同開發(fā)了基于星云智聯(lián)NebulaMatrix DPU解決方案的金山
    的頭像 發(fā)表于 02-20 09:06 ?540次閱讀

    邁向無(wú)線時(shí)代:AGV接觸式與無(wú)線充電樁成本對(duì)比詳解

    無(wú)線充電雖初始成本高,但可以通過(guò)減少停工時(shí)間和降低維護(hù)費(fèi)用,提升運(yùn)營(yíng)效率,從而在長(zhǎng)遠(yuǎn)角度看可能是更節(jié)約成本的方案。而對(duì)于對(duì)初始投資敏感或者是成本控制需要更為嚴(yán)格的環(huán)境,接觸充電樁由于其低成本
    的頭像 發(fā)表于 01-26 10:56 ?591次閱讀

    《數(shù)據(jù)處理器:DPU編程入門》DPU計(jì)算入門書籍測(cè)評(píng)

    , 數(shù)據(jù)加速應(yīng)用實(shí)踐 。 分別介紹了DPU技術(shù)和英偉達(dá)DPU技術(shù): DPU的誕生 現(xiàn)代計(jì)算架構(gòu)及問(wèn)題 數(shù)據(jù)解耦及大帶寬數(shù)據(jù)應(yīng)用 英偉達(dá)DPU架構(gòu) 英偉達(dá)
    發(fā)表于 12-24 10:54

    《數(shù)據(jù)處理器:DPU編程入門》讀書筆記

    目前業(yè)界所公認(rèn)的以數(shù)據(jù)為中心的體系結(jié)構(gòu)下的創(chuàng)新。綜上,DPU對(duì)數(shù)據(jù)中心來(lái)說(shuō),是通過(guò)更明細(xì)的分工來(lái)實(shí)現(xiàn)效率的提升、實(shí)現(xiàn)總體系統(tǒng)的成本最優(yōu)化。 DPU可以從業(yè)務(wù)應(yīng)用中將數(shù)據(jù)中心的基礎(chǔ)設(shè)施服務(wù)卸載和隔離出來(lái)
    發(fā)表于 12-21 10:47

    《數(shù)據(jù)處理器:DPU編程入門》+初步熟悉這本書的結(jié)構(gòu)和主要內(nèi)容

    之一。隨著人們對(duì)計(jì)算和大數(shù)據(jù)處理需求的增加,數(shù)據(jù)中心的計(jì)算負(fù)載也不斷增加。傳統(tǒng)的中央處理器(CPU)在處理這些工作負(fù)載時(shí)可能會(huì)遇到瓶頸,難以提供足夠的性能和效率。DPU通過(guò)提供專門的硬件加速,可以
    發(fā)表于 12-08 18:03

    傳大眾汽車將裁員以節(jié)約成本

    目前,大眾汽車正在與勞資委員會(huì)就節(jié)省費(fèi)用的計(jì)劃進(jìn)行協(xié)商。Schaefer在沃爾夫斯堡總部舉行的員工會(huì)議上表示:“由于結(jié)構(gòu)、程序、費(fèi)用過(guò)高,我們作為大眾品牌沒(méi)有競(jìng)爭(zhēng)力?!?/div>
    的頭像 發(fā)表于 11-29 11:13 ?689次閱讀

    為什么Redis 企業(yè)版是個(gè)節(jié)約成本的選擇?

    "的代名詞——要為內(nèi)存提供的頂級(jí)性能而支付額外的費(fèi)用,而且,需要使用的企業(yè)軟件一般都有高昂的價(jià)格有。那么,RedisEnterprise如何能成為為您節(jié)約成本的選擇?為了深入且有條
    的頭像 發(fā)表于 11-26 08:05 ?301次閱讀
    為什么Redis 企業(yè)版是個(gè)<b class='flag-5'>節(jié)約成本</b>的選擇?

    DPU國(guó)產(chǎn)生態(tài)版圖又雙叒擴(kuò)大了!

    DPU 朋友圈迎來(lái) 30+ 新伙伴! 近期, 中科馭數(shù)已與聯(lián)想、中科可控、 統(tǒng)信 、歐拉 、龍蜥社區(qū) 、新支點(diǎn)、 亞信科技、人大金倉(cāng)、瀚高、南大通用、 Gr eatSQL、阿里、曙光等超30家
    的頭像 發(fā)表于 11-03 11:20 ?427次閱讀
    <b class='flag-5'>DPU</b>國(guó)產(chǎn)生態(tài)版圖又雙叒擴(kuò)大了!

    什么是DPU?

    安全的、裸性能的、原生計(jì)算的下一代上大規(guī)模計(jì)算至關(guān)重要。 DPU:集成到SmartNIC DPU可以用作獨(dú)立的嵌入式處理器,但通常是被集成到SmartNIC(一種作為下一代服務(wù)器中
    發(fā)表于 11-03 10:55

    基于openEuler構(gòu)建的DPU-OS解決 DPU 廠商及客戶之間的適配問(wèn)題

    在數(shù)據(jù)中心及場(chǎng)景下,摩爾定律失效,通用處理單元 CPU 算力增長(zhǎng)速率放緩,而網(wǎng)絡(luò) IO 類速率及性能不斷攀升,二者增長(zhǎng)速率差異形成剪刀差,即當(dāng)前通用處理器的處理能力無(wú)法跟上網(wǎng)絡(luò)、磁盤等 IO 處理
    的頭像 發(fā)表于 11-02 10:03 ?806次閱讀
    基于openEuler構(gòu)建的<b class='flag-5'>DPU</b>-OS解決 <b class='flag-5'>DPU</b> <b class='flag-5'>廠商</b>及客戶之間的適配問(wèn)題