0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI算力與能耗兼具,Supermicro梁見后暢談服務(wù)器的綠色計(jì)算

21克888 ? 來源:電子發(fā)燒友網(wǎng) ? 作者:黃晶晶 ? 2023-05-31 18:30 ? 次閱讀

隨著生成式AI人工智能席卷全球,服務(wù)器市場將作為產(chǎn)業(yè)先鋒迎來巨大的發(fā)展機(jī)會(huì)。在日前舉辦的臺(tái)北電腦展上,Supermicro總裁兼首席執(zhí)行官梁見后(Charles Liang)接受電子發(fā)燒友網(wǎng)等媒體采訪時(shí)表示,Supermicro為云端、AI/ML、存儲(chǔ)和5G/智能邊緣應(yīng)用的全方位IT解決方案,我們正在推進(jìn)關(guān)鍵領(lǐng)域的技術(shù)發(fā)展,包括產(chǎn)品設(shè)計(jì)、綠色計(jì)算、制造和機(jī)架級(jí)集成,以助力企業(yè)及組織快速提高生產(chǎn)效率并降低能耗。

多款服務(wù)器產(chǎn)品助力人工智能


Supermicro擁有最全面的產(chǎn)品組合,可以為人工智能工作負(fù)載和其他垂直領(lǐng)域提供大力支持。其創(chuàng)新型系統(tǒng)包括基于第四代Intel Xeon可擴(kuò)展處理器和第四代AMD EPYC 處理器的單插槽和雙插槽機(jī)架安裝系統(tǒng),提供1U、2U、4U、5U和8U規(guī)格,并支持1到10 GPU。此外還包括在8U機(jī)箱中支持20個(gè)NVIDIA H100 GPU的密度優(yōu)化型SuperBlade系統(tǒng),以及專門針對(duì)物聯(lián)網(wǎng)和邊緣環(huán)境設(shè)計(jì)的SuperEdge系統(tǒng)。全新發(fā)布的E3.S Petascale存儲(chǔ)系統(tǒng)在利用超大規(guī)模的人工智能數(shù)據(jù)集進(jìn)行訓(xùn)練時(shí),表現(xiàn)出了卓越的性能、容量、吞吐量和耐用性,同時(shí)還提供出色的能效。


基于NVIDIA Grace CPU超級(jí)芯片的新產(chǎn)品系列也將很快上市。這些新服務(wù)器均包含144個(gè)核心,雙CPU及900 GB/s 一致性接口,可運(yùn)行高響應(yīng)度的人工智能應(yīng)用程序和需要極低延遲響應(yīng)的應(yīng)用程序。此外,CPU以500W TDP的速度運(yùn)行,該系統(tǒng)將為云原生工作負(fù)載和下一代人工智能應(yīng)用降低能耗。

三大優(yōu)勢穩(wěn)固服務(wù)器的綠色高效交付


在采訪中當(dāng)問及Supermicro擁有超越行業(yè)標(biāo)準(zhǔn)的亮眼成績,取得巨大成功的原因,以及抓住了哪些機(jī)會(huì)等話題時(shí),梁見后談到了成功的三點(diǎn)因素。

一是,模塊化解決方案為高效服務(wù)客戶提供了巨大的助力,它能夠更快地把產(chǎn)品交付給客戶,減少等候時(shí)間,提高服務(wù)效率。模塊化的解決方案一直都是我們非常重要的成功驅(qū)動(dòng)因素。

其二,綠色計(jì)算。從18年前,Supermicro就開始布局綠色計(jì)算解決方案,幫助客戶進(jìn)一步減少自己的電力成本以及能源消耗。當(dāng)前,通過Supermicro的解決方案,數(shù)據(jù)中心的電力消耗可以降低達(dá)30%,讓整體成本獲得大幅下降。

他表示綠色計(jì)算已經(jīng)成為SupermicroDNA的一部分?!安还苁俏覀兯械漠a(chǎn)品設(shè)計(jì)還是電路等等,都會(huì)去優(yōu)化它的能源消耗,提高它的能耗效率,可以極大幫助我們的系統(tǒng)節(jié)省5-10%的能源消耗。而在熱管理子系統(tǒng)當(dāng)中,我們也以最優(yōu)化的設(shè)計(jì)讓冷卻設(shè)計(jì)本身就具備更低的排熱和散熱的需求,以及采用了很多新的材料來降低散熱的能耗需求。我們將會(huì)延續(xù)我們的綠色計(jì)算DNA,做好這些散熱優(yōu)化,以幫助我們的客戶降低碳足跡和碳排放。”他說道。

目前,數(shù)據(jù)中心消耗的電力占到了全球電力需求的1-1.5%,因此綠色計(jì)算對(duì)于數(shù)據(jù)中心至關(guān)重要。Supermicro完整的機(jī)架級(jí)液冷解決方案可以大幅降低對(duì)傳統(tǒng)冷卻方法的需求。通過冗余和熱插拔電源和泵,機(jī)架上的所有高性能AI和HPC優(yōu)化服務(wù)器都能夠得到有效冷卻,不懼電源或泵發(fā)生任何故障。該解決方案還為CPU和GPU量身定制了冷板(Cold Plate),相較于傳統(tǒng)設(shè)計(jì)能夠更有效地去除熱量。如果數(shù)據(jù)中心利用Supermicro技術(shù)將其PUE降低至近1.0,不僅能節(jié)省高達(dá)100億美元的能源成本,并且相當(dāng)于減少建造30座化石燃料發(fā)電廠。

第三是機(jī)架級(jí)整體解決方案,有效減少客戶的等候時(shí)間。此前客戶需要自身進(jìn)行整合,現(xiàn)在得益于Supermicro的全機(jī)架級(jí)完整解決方案,客戶能夠即插即用,幫助客戶實(shí)現(xiàn)快速啟動(dòng),更好地實(shí)現(xiàn)業(yè)務(wù)的發(fā)展。

梁見后說,像ChatGPT以及其他很多的AI應(yīng)用場景下,我們能夠加速交付周期,這是非常關(guān)鍵的一點(diǎn)。傳統(tǒng)的交付周期,可能客戶需要花3個(gè)月/6 個(gè)月才能完成他們的部署,但是現(xiàn)在有了我們的系統(tǒng)級(jí)/機(jī)架級(jí)的液冷解決方案,所需要的交付周期短至2周。我們的Delta-Next支持正常的液冷/空氣冷卻,同時(shí)客戶一旦收到就能夠?qū)崿F(xiàn)即插即用,很多客戶都非常青睞這一技術(shù)。

他透露,Supermicro在不斷地增強(qiáng)投資,現(xiàn)在已經(jīng)可以每個(gè)月交付4000套機(jī)架級(jí)的解決方案。到今年年末,出貨量將會(huì)增加到5000套機(jī)架級(jí)的解決方案。

推動(dòng)液冷應(yīng)用,看好下半年至明年的強(qiáng)勁增長


梁見后表示,液冷其實(shí)并不是一個(gè)新鮮的東西,存在已經(jīng)超過 30 多年了,但由于面臨成本挑戰(zhàn),一直沒有成為主流。而Supermicro會(huì)大力推廣液冷,一旦液冷方案在降低成本之后會(huì)帶來大規(guī)模應(yīng)用。Supermicro的Building Block解決方案就能夠很好應(yīng)用液體冷卻技術(shù)。“我們相信隨著技術(shù)的進(jìn)步,更多的客戶會(huì)選擇液冷,為此我們也在積極擴(kuò)張產(chǎn)能服務(wù)客戶?!?br />
即便由于整體經(jīng)濟(jì)的增速減緩,服務(wù)器應(yīng)用端市場可能會(huì)稍微放緩,不過梁見后認(rèn)為通過對(duì)客戶訂單需求的預(yù)測來看,今年下半年包括明年都將繼續(xù)保持強(qiáng)勁的增長。為此Supermicro主要考量如何去更好地滿足增長的客戶需求。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    12

    文章

    8849

    瀏覽量

    84950
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29382

    瀏覽量

    267663
  • Supermicro
    +關(guān)注

    關(guān)注

    0

    文章

    28

    瀏覽量

    9253
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    什么是AI服務(wù)器?AI服務(wù)器的優(yōu)勢是什么?

    AI服務(wù)器是一種專門為人工智能應(yīng)用設(shè)計(jì)的服務(wù)器,它采用異構(gòu)形式的硬件架構(gòu),通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合來滿足高吞吐量互聯(lián)的需求,為自然語言處理、計(jì)算
    的頭像 發(fā)表于 09-21 11:43 ?313次閱讀

    服務(wù)器為什么選擇GPU

    隨著人工智能技術(shù)的快速普及,需求日益增長。智中心的服務(wù)器作為支撐大規(guī)模數(shù)據(jù)處理和計(jì)算的核心設(shè)備,其性能優(yōu)化顯得尤為關(guān)鍵。而GPU
    的頭像 發(fā)表于 07-25 08:28 ?394次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務(wù)器</b>為什么選擇GPU

    ai服務(wù)器是什么架構(gòu)類型

    AI服務(wù)器,即人工智能服務(wù)器,是專門為人工智能應(yīng)用設(shè)計(jì)的高性能計(jì)算服務(wù)器。AI
    的頭像 發(fā)表于 07-02 09:51 ?767次閱讀

    AI服務(wù)器散熱,需要用到哪些導(dǎo)熱界面材料?

    在數(shù)字經(jīng)濟(jì)、AI大模型等發(fā)展的帶動(dòng)下,全球服務(wù)器的市場需求急劇提升,利用其強(qiáng)大的計(jì)算能力,能夠處理復(fù)雜的算法和海量數(shù)據(jù)。與此同時(shí),生成式人工智能的大
    的頭像 發(fā)表于 05-30 10:44 ?434次閱讀
    <b class='flag-5'>AI</b>高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務(wù)器</b>散熱,需要用到哪些導(dǎo)熱界面材料?

    引領(lǐng)柔性新風(fēng)潮,加速企業(yè)數(shù)智轉(zhuǎn)型首選服務(wù)器就是它

    在當(dāng)今云計(jì)算時(shí)代,企業(yè)對(duì)于云服務(wù)器的需求已經(jīng)不僅僅停留在簡單的彈性上,更多的是希望能夠根據(jù)自身業(yè)務(wù)需求,獲得精準(zhǔn)、靈活的計(jì)算資源,以實(shí)現(xiàn)
    的頭像 發(fā)表于 05-22 19:35 ?265次閱讀
    引領(lǐng)柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>新風(fēng)潮,加速企業(yè)數(shù)智轉(zhuǎn)型首選<b class='flag-5'>服務(wù)器</b>就是它

    智能存在缺口,AI服務(wù)器市場規(guī)模持續(xù)提升

    商的資本支出將大幅增加。全球前四大云服務(wù)商資本支出調(diào)升,預(yù)計(jì)將從2023年的1400億美元提升至2024年的超過2000億美元。 ? AI 服務(wù)器市場規(guī)模持續(xù)增長 ? 近些年,人工智能技術(shù)在各個(gè)領(lǐng)域廣泛應(yīng)用,包括智能制造、智慧醫(yī)
    的頭像 發(fā)表于 05-22 00:14 ?2922次閱讀

    解鎖未來,華為云耀云服務(wù)器 X 實(shí)例引領(lǐng)柔性新時(shí)代

    在數(shù)字化浪潮的推動(dòng)下,云計(jì)算已經(jīng)成為企業(yè)發(fā)展的必然選擇,但傳統(tǒng)云服務(wù)器常常束縛了企業(yè)的發(fā)展步伐。云耀云服務(wù)器 X 實(shí)例的問世,標(biāo)志著云計(jì)算邁向了全新的柔性
    的頭像 發(fā)表于 04-11 22:23 ?959次閱讀
    解鎖未來,華為云耀云<b class='flag-5'>服務(wù)器</b> X 實(shí)例引領(lǐng)柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>新時(shí)代

    256Tops!CSA1-N8S1684X服務(wù)器

    (基于BM1684X的高服務(wù)器)高AI處理
    的頭像 發(fā)表于 03-23 08:02 ?1244次閱讀
    256Tops<b class='flag-5'>算</b><b class='flag-5'>力</b>!CSA1-N8S1684X<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務(wù)器</b>

    聯(lián)想首臺(tái)搭載國產(chǎn)AI芯片服務(wù)器成功交付

    在聯(lián)想(全球)最大的智能計(jì)算設(shè)備研發(fā)和制造基地——聯(lián)寶科技,一場科技界的盛事吸引了業(yè)界的廣泛關(guān)注。這一天,中國領(lǐng)先的智能IT基礎(chǔ)設(shè)施提供商聯(lián)想成功交付了首臺(tái)可搭載國產(chǎn)AI芯片的聯(lián)想
    的頭像 發(fā)表于 03-20 09:42 ?638次閱讀

    Supermicro全新系統(tǒng)產(chǎn)品組合將前沿AI性能推向邊緣計(jì)算環(huán)境

    ,正在擴(kuò)展其AI解決方案產(chǎn)品組合,讓客戶在公共空間、零售商店或工業(yè)基礎(chǔ)架構(gòu)等邊緣位置能有效運(yùn)用AI的強(qiáng)大性能。通過使用搭載NVIDIA GPU的Supermicro應(yīng)用優(yōu)化服務(wù)器,可更
    的頭像 發(fā)表于 02-24 09:10 ?920次閱讀
    <b class='flag-5'>Supermicro</b>全新系統(tǒng)產(chǎn)品組合將前沿<b class='flag-5'>AI</b>性能推向邊緣<b class='flag-5'>計(jì)算</b>環(huán)境

    超微CEOAI浪潮推動(dòng)公司快速發(fā)展,但也面臨AI芯片短缺問題

    這家坐落于加州圣何塞的企業(yè)專注于研發(fā)和制造高效能服務(wù)器——其中基于英偉達(dá)(NVIDIA)架構(gòu)的服務(wù)器產(chǎn)品備受行業(yè)矚目。在訪談中指出,若
    的頭像 發(fā)表于 02-20 14:10 ?859次閱讀

    Supermicro推新AI存儲(chǔ)方案,助力AI和ML應(yīng)用加速

    Supermicro首席執(zhí)行官先生高瞻遠(yuǎn)矚地指出:針對(duì)AI和ML應(yīng)用的加速處理,我們推薦配置以每機(jī)柜20 PB高速閃存為主,配備四個(gè)N
    的頭像 發(fā)表于 02-03 14:46 ?546次閱讀

    國產(chǎn)服務(wù)器主陣地有哪些?

    AI 、低功耗等對(duì)服務(wù)器芯片提出新的要求,英偉達(dá) GH200 有望加速全球
    的頭像 發(fā)表于 01-29 11:29 ?1020次閱讀
    國產(chǎn)<b class='flag-5'>服務(wù)器</b>主陣地有哪些?

    AI服務(wù)器簡介及晶振應(yīng)用

    AI服務(wù)器,是一種專門用于處理人工智能相關(guān)任務(wù)的高性能計(jì)算機(jī)。它具備強(qiáng)大的計(jì)算能力和存儲(chǔ)能力,能夠快速處理大量的數(shù)據(jù)和復(fù)雜的算法。與傳統(tǒng)的計(jì)算
    的頭像 發(fā)表于 12-25 10:45 ?997次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>簡介及晶振應(yīng)用

    弘信電子與AI服務(wù)器合資,助力國產(chǎn)芯片落地

    此外,弘信電子近期在AI業(yè)務(wù)上取得了突破性進(jìn)展,這并非源自本土化的積累,而是依賴于團(tuán)隊(duì)敏銳的戰(zhàn)略眼光和強(qiáng)烈的創(chuàng)新動(dòng)力。此次投資是弘信電子在AI
    的頭像 發(fā)表于 12-25 09:30 ?714次閱讀