0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DPU賽道火熱,初創(chuàng)公司贏面更大?

E4Life ? 來源:電子發(fā)燒友網(wǎng) ? 作者:周凱揚 ? 2022-03-04 07:25 ? 次閱讀

上回我們提到了SmartNIC,以及這種智能網(wǎng)卡對于數(shù)據(jù)中心來說究竟起到了何種舉足輕重的作用。然而,在英偉達于2020年提出DPU(data processing units)數(shù)據(jù)處理單元這一概念后,DPU成了數(shù)據(jù)中心市場競相追逐的新潮流。英特爾也隨即推出了對應(yīng)的產(chǎn)品,并將其命名為IPU。DPU成了數(shù)據(jù)中心里除了CPUGPU之外的第三大處理單元。

通常這些DPU具備高速網(wǎng)絡(luò)連接性,其作用說起來很簡單,那就是優(yōu)化數(shù)據(jù)中心里數(shù)據(jù)的移動,而CPU和GPU則專注于計算,從而騰出性能用于其他價值更高的工作。云原生的應(yīng)用使得數(shù)據(jù)中心的網(wǎng)絡(luò)流量呈現(xiàn)了爆發(fā)式增長,與此同時網(wǎng)絡(luò)攻擊的頻率和復(fù)雜度也在不斷提高。早期解決這些問題的思路不少,用FPGA、PCIe交換機或是SmartNIC,然而這些方案其實并沒有根絕這些問題,比如SmartNIC主要用于網(wǎng)絡(luò)卸載,反倒是DPU帶來了一線光明,提供了網(wǎng)絡(luò)、存儲和安全棧的全面卸載。

不過DPU這條賽道,除了英偉達和英特爾這樣的大廠之外,也有不少初創(chuàng)企業(yè)發(fā)現(xiàn)了機遇,比如軟銀投資了兩億美元的Fungible,以及由一眾前Cisco工程師們成立的Pensando。

Fungible:800Gbps的含金量

要論DPU最關(guān)鍵的性能,自然還是網(wǎng)絡(luò)連接的速度,而最快的速度還得看Fungible的F1 DPU。Fungible的F1 DPU是業(yè)內(nèi)第一個800Gbps的DPU,也是FungibleDPU系列的旗艦產(chǎn)品,足以應(yīng)對目前最嚴(yán)苛的數(shù)據(jù)中心環(huán)境。

F1 DPU / Fungible

在架構(gòu)上,F(xiàn)1 DPU集成了大量的多核處理器,52個核心均為最新一代的MIPS64 R6內(nèi)核,不僅支持硬件虛擬化也將其分為獨立的控制單元。F1 DPU采用了雙發(fā)射流水線設(shè)計,配有64KB的L1 I-cache和80KB的L1 D-Cache,且L1緩存支持緩存之間的數(shù)據(jù)傳輸,總計片上L2緩存達到32MB。內(nèi)存方面,F(xiàn)1 DPU除了集成8GB的HBM外,還支持雙通道每通道最高512GB的DDR4內(nèi)存。

利用了獨特的硬件與軟件結(jié)合設(shè)計,在不影響數(shù)據(jù)中心計算能效的前提下,F(xiàn)1 DPU提供了最大的功能靈活性。這使得F1 DPU可以用于高性能密度和低時延的環(huán)境,比如存儲(NVMe/TCP存儲卸載)、安全、AI/ML(GPU解耦)和數(shù)據(jù)分析服務(wù)器(OLAP、OLTP大數(shù)據(jù)分析引擎)。以存儲為例,在無需x86 CPU和AFA的存儲系統(tǒng)中,F(xiàn)1 DPU可以做到15M IOPS的表現(xiàn),而這里的帶寬限制完全是來自于PCIe本身的帶寬限制。

英偉達:靈活的命名人

接著我們來看看“命名人”自己的DPU產(chǎn)品。英偉達的BlueField2同樣是排名前列的DPU之一,而且在收購了Mellanox之后,英偉達在連接性上的開發(fā)實力更強了。BlueField2結(jié)合了ConnectX-6網(wǎng)絡(luò)適配器和8個64位的Armv8A72核心,板載16GB/32GB的DDR4內(nèi)存。在連接性上,BlueField2支持雙端口的10/25/50/100 Gb/s,或是單端口的200Gb/s。接口方面,BlueField2既支持16lanePCIe4.0也支持自家的InfiniBand。

單從參數(shù)上來看,BlueField2不比Fungible的F1 DPU,但BlueField2并非英偉達的殺手锏,真正的殺手锏是第三代BlueField3。

BlueField3 / 英偉達

與第二代產(chǎn)品相比,BlueField3可以說經(jīng)歷了徹頭徹尾的升級。1/2/4端口的配置支持到400Gb/s的連接性,這400Gb/s的連接性既可以通過以太網(wǎng)實現(xiàn),也可以通過NDR Infiniband實現(xiàn)。此外,在計算規(guī)模上,BlueField3也終于下了大手筆,換成了16核Armv8.2+的A78核心,配以8MB的L2緩存和16MB的LLC系統(tǒng)緩存。

BlueField3的內(nèi)存更是緊跟最新的技術(shù),直接用到了32 lane的PCIe5.0,集成了兩個DDR5 5600MT/s的DRAM控制器和16GB的板載DDR5內(nèi)存。盡管在連接性上還是比Fungible的F1 DPU要差一籌,但BlueField3提供了更多的尺寸選項既有HHHL半高半長也有FHHL全高半長,英偉達也提供了M.2和U.2的連接器用于直接連接存儲,這對于既追求高性能又追求機房部署靈活性的數(shù)據(jù)中心來說,明顯更有吸引力。

小結(jié)

從Fungible和英偉達在各自DPU產(chǎn)品的對比上來看,初創(chuàng)企業(yè)與傳統(tǒng)大廠相比未必沒有一戰(zhàn)之力,這樣后來者居上的趨勢在數(shù)據(jù)中心處理器、AI芯片等新產(chǎn)品形態(tài)上屢見不鮮。但追求極致依然在這個市場站穩(wěn)腳跟的最佳方式,畢竟對于云服務(wù)廠商的數(shù)據(jù)中心來說,雖然他們提供了各種等級的云服務(wù),但那些企業(yè)級的服務(wù)才是最大的利潤增長點。即便他們沒有實力自研DPU,在第三方DPU的選擇上也不會吝嗇的。下一回我們再來談?wù)剣a(chǎn)DPU廠商在這個賽道上的進展。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 英特爾
    +關(guān)注

    關(guān)注

    60

    文章

    9826

    瀏覽量

    171149
  • DPU
    DPU
    +關(guān)注

    關(guān)注

    0

    文章

    353

    瀏覽量

    24080
  • SmartNIC
    +關(guān)注

    關(guān)注

    0

    文章

    19

    瀏覽量

    3193
收藏 人收藏

    評論

    相關(guān)推薦

    NVIDIA助力初創(chuàng)公司Wayve開發(fā)創(chuàng)新自動駕駛技術(shù)

    初創(chuàng)公司 Wayve 開發(fā)出能夠在動態(tài)真實環(huán)境中做出決策的自動駕駛技術(shù)。
    的頭像 發(fā)表于 10-10 09:39 ?283次閱讀

    AI初創(chuàng)公司尋求科技巨頭“接盤”

    在人工智能領(lǐng)域的激烈競爭中,眾多初創(chuàng)公司曾風(fēng)光無限,去年籌集了巨額資金,夢想成為科技浪潮中的璀璨明星。然而,隨著市場冷卻與競爭加劇,不少公司面臨生存困境,紛紛將目光投向硅谷的科技巨頭,尋求“接盤”機會。
    的頭像 發(fā)表于 09-26 14:35 ?271次閱讀

    IaaS+on+DPU(IoD)+下一代高性能算力底座技術(shù)白皮書

    、VMware、Palo Alto 等公司紛紛推出相關(guān)解決方案。這些方案背后共同的本質(zhì)思想是:將云計算的 IaaS 層組件從服務(wù)器側(cè)卸載后圍繞 DPU 構(gòu)筑高性能算力底座,與 AWS、阿里云的技術(shù)路線不謀而合
    發(fā)表于 07-24 15:32

    英偉達收購軟件初創(chuàng)公司Shoreline

    近日,全球知名的圖形處理器制造商英偉達(NVIDIA)宣布了一項重要的收購計劃,將以約1億美元的價格收購軟件初創(chuàng)公司Shoreline。這次收購不僅體現(xiàn)了英偉達在持續(xù)擴展其業(yè)務(wù)范圍和技術(shù)領(lǐng)域的決心,也預(yù)示著未來軟件開發(fā)和運維領(lǐng)域的新變革。
    的頭像 發(fā)表于 06-21 11:08 ?520次閱讀

    氣候技術(shù)初創(chuàng)公司將NVIDIA AI集成到可持續(xù)發(fā)展應(yīng)用中

    “可持續(xù)未來”倡議(Sustainable Futures initiative)支持初創(chuàng)公司為氣候、清潔能源、可持續(xù)基礎(chǔ)設(shè)施等領(lǐng)域構(gòu)建加速計算應(yīng)用。
    的頭像 發(fā)表于 05-08 09:29 ?280次閱讀
    氣候技術(shù)<b class='flag-5'>初創(chuàng)</b><b class='flag-5'>公司</b>將NVIDIA AI集成到可持續(xù)發(fā)展應(yīng)用中

    英國自動駕駛技術(shù)初創(chuàng)公司Wayve宣布成功籌集了10.5億美元的資金

    近日,英國自動駕駛技術(shù)初創(chuàng)公司Wayve宣布,已成功籌集了10.5億美元的資金,本輪融資由軟銀集團領(lǐng)投。
    的頭像 發(fā)表于 05-08 09:15 ?428次閱讀

    明天線上見!DPU構(gòu)建高性能云算力底座——DPU技術(shù)開放日最新議程公布!

    算力,是數(shù)字經(jīng)濟時代的新質(zhì)生產(chǎn)力。隨著人工智能、智算中心建設(shè)等需求不斷拓展,DPU在各行各業(yè)數(shù)據(jù)中心的應(yīng)用逐步深入。異構(gòu)算力代表DPU在新質(zhì)生產(chǎn)力建設(shè)中,能否給出別開生面的答案,應(yīng)戰(zhàn)算力難題?DPU
    的頭像 發(fā)表于 04-03 18:12 ?945次閱讀

    NVIDIA攜手初創(chuàng)公司引領(lǐng)氣候AI創(chuàng)新

    在應(yīng)對氣候變化這一全球性挑戰(zhàn)時,AI與可持續(xù)計算正成為關(guān)鍵工具。NVIDIA初創(chuàng)加速計劃的成員公司Tomorrow.io、ClimaSens和north.io,均專注于極端天氣預(yù)測領(lǐng)域,致力于推動全球氣候行動。
    的頭像 發(fā)表于 03-27 10:29 ?346次閱讀

    大模型初創(chuàng)公司MiniMax估值超25億美元

    近日,據(jù)業(yè)內(nèi)消息人士透露,阿里巴巴集團已經(jīng)領(lǐng)投了中國AI初創(chuàng)公司MiniMax的新一輪融資,此次融資后,MiniMax的估值已經(jīng)飆升至超過25億美元,顯示出市場對該公司的高度認(rèn)可與期待。
    的頭像 發(fā)表于 03-07 10:39 ?1346次閱讀

    谷歌DeepMind科學(xué)家欲建AI初創(chuàng)公司

    據(jù)知情人士透露,谷歌人工智能部門DeepMind的兩名杰出科學(xué)家Laurent Sifre和Karl Tuyls正在與投資者商討在巴黎成立一家新的人工智能初創(chuàng)公司的事宜。
    的頭像 發(fā)表于 01-22 14:41 ?424次閱讀

    《數(shù)據(jù)處理器:DPU編程入門》DPU計算入門書籍測評

    一、DPU計算框架 通過一周多的時間翻閱這本書,基本上這本書是一本比較全面的,面向架構(gòu)的新手指導(dǎo)數(shù)據(jù)。它在書中詳盡介紹了關(guān)于DPU在計算機架構(gòu)中的應(yīng)用。 對于DPU來說,是一種平行于CPU和GPU
    發(fā)表于 12-24 10:54

    《數(shù)據(jù)處理器:DPU編程入門》讀書筆記

    首先感謝電子發(fā)燒友論壇提供的試讀機會。 第一周先閱讀了DPU的技術(shù)發(fā)展背景,了解到DPU是結(jié)合了高性能及軟件可編程的多核CPU、高性能網(wǎng)絡(luò)接口,以及各種靈活和可編程的加速引擎。DPU的主要作用是卸載
    發(fā)表于 12-21 10:47

    《數(shù)據(jù)處理器:DPU編程入門》+初步熟悉這本書的結(jié)構(gòu)和主要內(nèi)容

    ,并提高系統(tǒng)的響應(yīng)速度和隱私保護。 4. 高性能計算:DPU可以在高性能計算領(lǐng)域中使用,例如科學(xué)研究、天氣預(yù)報、金融模擬和大規(guī)模數(shù)據(jù)處理等。它可以提供更大的并行性和計算能力,加速復(fù)雜計算任務(wù)的執(zhí)行。 3
    發(fā)表于 12-08 18:03

    什么是DPU?

    什么是DPU? 相信很多人對于CPU(中央處理器)已經(jīng)非常熟悉了。靈活、響應(yīng)迅速的CPU多年來一直是大多數(shù)計算機中唯一的可編程元件。 近年來,GPU(圖形處理單元)逐漸成為了計算的中心。最初GPU
    發(fā)表于 11-03 10:55

    解碼 DPU 編程,投稿贏取好禮!

    NVIDIA 發(fā)布首部 DPU 和 DOCA 編程入門書籍 前不久 NVIDIA 推出了備受業(yè)界好評的首部 DPU 處理器編程入門書籍 —— 《數(shù)據(jù)處理器:DPU 編程入門》 ,許多讀者紛紛留言
    的頭像 發(fā)表于 11-01 20:25 ?381次閱讀
    解碼 <b class='flag-5'>DPU</b> 編程,投稿贏取好禮!