0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

實(shí)測 | 海納百川,華為OceanStor Pacific分布式存儲為多元算力應(yīng)用帶來更優(yōu)選擇

腦極體 ? 來源:腦極體 ? 作者:腦極體 ? 2022-12-22 20:33 ? 次閱讀

被稱為開眼看世界的林則徐,在自己的書房中寫了這樣一副對聯(lián),以做自勉:海納百川,有容乃大,壁立千仞,無欲則剛。

包容的胸懷是我們做成很多事情的根基,也是一項(xiàng)產(chǎn)業(yè)戰(zhàn)略、科技事業(yè)發(fā)展的關(guān)鍵。近幾年,數(shù)據(jù)基礎(chǔ)設(shè)施國產(chǎn)化,在科技自立的大背景下如火如荼。比如,以計算和存儲為主要構(gòu)成的HPC/AI數(shù)據(jù)基礎(chǔ)設(shè)施事關(guān)國計民生,在以科技創(chuàng)新和基礎(chǔ)科研為代表的關(guān)鍵領(lǐng)域均扮演著重要角色。但很多科技科研場景的HPC/AI數(shù)據(jù)基礎(chǔ)設(shè)施當(dāng)前都依托X86 CPU+GPU+Lustre存儲+IB交換機(jī)這個大一統(tǒng)的抱團(tuán)生態(tài)體系,且已成為業(yè)界公認(rèn)的HPC/AI設(shè)施最佳性能組合之一。如何兼顧科技科研領(lǐng)域的效率成果與自立自強(qiáng),為HPC/AI等多樣性算力應(yīng)用關(guān)鍵場景,提供最適合業(yè)務(wù)的數(shù)據(jù)底座,成為一個關(guān)鍵問題。

這種情況下,“海納百川,有容乃大”的意義就凸顯了出來。不久之前,在深圳一所國家重點(diǎn)實(shí)驗(yàn)室,華為OceanStor Pacific分布式存儲與早期依托X86 CPU+GPU+Lustre存儲+IB交換機(jī)組網(wǎng)構(gòu)建的某大科學(xué)裝置AI集群進(jìn)行了綜合的POC測試。其結(jié)果顯示,華為OceanStor Pacific分布式存儲完美兼容匹配該大科學(xué)裝置的AI集群生態(tài)環(huán)境,更重要的是通過實(shí)測,其多項(xiàng)指標(biāo)性能和功能均優(yōu)于現(xiàn)有系統(tǒng)。華為與該國家重點(diǎn)實(shí)驗(yàn)室聯(lián)合操作的這項(xiàng)POC測試意義極其深遠(yuǎn)重大,遠(yuǎn)超于一款產(chǎn)品或解決方案發(fā)布:它代表了一種實(shí)事求是,兼容并蓄的發(fā)展策略;是一塊國產(chǎn)先進(jìn)存儲面向全球的敲門磚,一艘中國科技與全球化間的破冰船;對于科學(xué)研究,乃至更多領(lǐng)域的數(shù)字化、智能化進(jìn)程來說,這是十分幸運(yùn)的。

數(shù)據(jù)之潮,時代之需:科研場景的存儲挑戰(zhàn)

X86+GPU主導(dǎo)的大一統(tǒng)生態(tài)技術(shù)體系經(jīng)過了數(shù)十年發(fā)展和構(gòu)建,其大樹根基在全球和中國已經(jīng)十分深遠(yuǎn)。大量國際國內(nèi)的數(shù)字化工具和軟件應(yīng)用,數(shù)字化成果都捆綁X86+GPU。這在某種程度上來說是種無奈,但也是客觀存在不可回避的現(xiàn)實(shí)。

尤其在科研領(lǐng)域,HPC/AI正在全球各個學(xué)科的研究中扮演重要角色,X86+GPU算力平臺可以更方便教授學(xué)者與科研從業(yè)人員接觸全球最新學(xué)術(shù)動態(tài)和驗(yàn)證科研成果。這種強(qiáng)慣性的作用下,短時間內(nèi)強(qiáng)行脫離X86生態(tài)是不現(xiàn)實(shí)的。因此,早期甚至當(dāng)前新建的很多HPC/AI基礎(chǔ)設(shè)施,選擇建立在X86+GPU體系上。

隨著HPDA的整體發(fā)展,從業(yè)務(wù)負(fù)載上而言需要考慮HPC/AI、大數(shù)據(jù)以及AI的混合疊加,需要支持應(yīng)用驅(qū)動的科學(xué)計算工作流,進(jìn)而推動負(fù)載以數(shù)據(jù)為中心,從計算科學(xué)發(fā)現(xiàn)轉(zhuǎn)向數(shù)據(jù)科學(xué)發(fā)現(xiàn)轉(zhuǎn)變。

科技科研的突破速度取決于數(shù)據(jù)基礎(chǔ)設(shè)施的性能,特別是對數(shù)據(jù)存儲性能帶來極致挑戰(zhàn)。第一個挑戰(zhàn)是應(yīng)用的數(shù)據(jù)量級從PB級正在加速走向EB級;第二個挑戰(zhàn)是應(yīng)用的負(fù)載從單一走向多樣化,也就是常說的混合負(fù)載;最后一個挑戰(zhàn)是應(yīng)用類型的變化,從簡單走向復(fù)雜。核心是數(shù)據(jù)與業(yè)務(wù)的耦合度在增加,數(shù)據(jù)計算需要參與整個業(yè)務(wù)流程的多個環(huán)節(jié),且環(huán)環(huán)相扣,缺一不可。

在當(dāng)前推進(jìn)科技科研自立自強(qiáng)的大時代背景下,面對這些數(shù)據(jù)中心存儲挑戰(zhàn)和需求,以及面對X86+GPU體系暫不可完全替代,國內(nèi)業(yè)界都希望看到先進(jìn)的國產(chǎn)存儲兼容X86+GPU環(huán)境的下的HPC/AI應(yīng)用,也可以提供媲美Lustre存儲的性能和功能。

更佳性能,更優(yōu)選擇:華為分布式存儲的價值呈現(xiàn)

不久之前,華為OceanStor Pacific分布式存儲與在深圳某國家重點(diǎn)實(shí)驗(yàn)室依托X86 CPU+GPU+Lustre存儲+IB交換機(jī)組網(wǎng)構(gòu)建的大科學(xué)裝置AI集群進(jìn)行了POC測試。從測試結(jié)果上看,整體兼容效果良好,沒有出現(xiàn)任何兼容問題,并且使用了華為OceanStor Pacific分布式存儲之后,存儲在功能、性能上優(yōu)于現(xiàn)有系統(tǒng),融入計算集群的效果也更加良好。

這次測試對接的成功,表明華為在技術(shù)創(chuàng)新、產(chǎn)品兼容上的進(jìn)取姿態(tài),也表明其為科研創(chuàng)新,乃至更廣闊計算、存儲領(lǐng)域做出貢獻(xiàn)的決心??蒲薪逃c國家實(shí)驗(yàn)性,在一個國家的計算基礎(chǔ)設(shè)施中具有代表性意義。與該大科學(xué)裝置AI集群的成功對接,可以看作華為OceanStor Pacific分布式存儲敲開了國產(chǎn)存儲為HPC/AI提供更優(yōu)選擇的大門。HPC/AI應(yīng)用場景下,Lustre不再獨(dú)領(lǐng)風(fēng)騷。

一般來說,多元算力包括x86、ARM、AI、GPU計算等多種計算生態(tài),存儲需要根據(jù)不同的計算場景與計算設(shè)施,為用戶提供最佳體驗(yàn)。華為分布式存儲的價值與優(yōu)勢,釋放到HPC/AI場景,可以有效滿足科研等場景中的存儲需求。

具體而言,華為OceanStor Pacific分布式存儲通過這樣幾個角度,破除HPC/AI場景的存儲困局。

首先解決海量數(shù)據(jù)高性價比存儲的問題:我們知道隨著HPC/AI業(yè)務(wù)量的不斷增長,往往最先遇到的是機(jī)房空間不足和存儲成本高昂的問題。為此,華為推出了 華為OceanStor Pacific分布式存儲高密專用硬件,基于全新的高密架構(gòu)設(shè)計,并提供更高的容量利用率,在有限的機(jī)房空間里存下更多數(shù)據(jù),更好地滿足海量數(shù)據(jù)增長的需要。疊加華為OceanStor Pacific分布式存儲的智能分級存儲技術(shù),對域內(nèi)熱、溫、冷數(shù)據(jù)進(jìn)行統(tǒng)一管理,數(shù)據(jù)能夠在熱、溫、冷層系統(tǒng)間自動遷移,無需管理員手動干預(yù),靈活有效地管理數(shù)據(jù)全生命周期,同時有效解決海量數(shù)據(jù)的運(yùn)維管理難題。

其次,提供面向混合負(fù)載的高性能:HPC/AI應(yīng)用計算所涉及的數(shù)據(jù)越來越多、類型越來越豐富、任務(wù)并發(fā)性也越來越高,因此需要性能更加均衡的存儲。華為OceanStor Pacific分布式存儲采用OceanFS新一代并行文件系統(tǒng),結(jié)合獨(dú)特的大小I/O自適應(yīng)數(shù)據(jù)流技術(shù),一套存儲即可同時滿足極致帶寬、極致IOPS和極致時延的混合負(fù)載要求。通過與分布式并行客戶端(DPC)的密切配合,打破單流和單客戶端的性能瓶頸,幫助企業(yè)有效應(yīng)對混合工作負(fù)載的挑戰(zhàn)。

最后,多個不同業(yè)務(wù)環(huán)節(jié)數(shù)據(jù)的高效安全流動:由于數(shù)據(jù)量的增大、數(shù)據(jù)應(yīng)用的復(fù)雜化,數(shù)據(jù)在不同環(huán)節(jié)、不同系統(tǒng)間高效流動是HPC/AI業(yè)務(wù)面臨的一個主要挑戰(zhàn)。華為OceanStor Pacific分布式存儲擁有業(yè)界領(lǐng)先的多協(xié)議互通能力。多個存儲服務(wù)同時訪問一份數(shù)據(jù),支持 NFS、CIFS、HDFS 和 S3 等協(xié)議的按需部署,通過其中一種協(xié)議寫入的數(shù)據(jù),無需遷移即可被其他協(xié)議讀取,提高跨環(huán)節(jié)、跨系統(tǒng)的數(shù)據(jù)分析效率。

此次面向多元算力,釋放多元算力價值的全面啟航,展現(xiàn)了華為的包容與兼顧,也展現(xiàn)了華為OceanStor Pacific分布式存儲乃至華為存儲,邁向科研+HPC/AI場景的發(fā)展方向。

面向未來,有容乃大:數(shù)據(jù)基礎(chǔ)設(shè)施再啟航

在成功完成兼容測試后,華為在市場與受眾的層面獲得了更廣泛的認(rèn)可。但華為OceanStor Pacific分布式存儲與深圳知名的國家重點(diǎn)實(shí)驗(yàn)室大科學(xué)裝置X86 AI集群進(jìn)行的POC測試,更廣泛的價值在于面向科研領(lǐng)域、ICT領(lǐng)域,展現(xiàn)了一種關(guān)于有容乃大的智慧。

這次測試成功,對于多方面來說都有其意義。

對于科研機(jī)構(gòu)來說,X86環(huán)境的HPC/AI可以很快獲得更好的存儲支持,即使不在短期進(jìn)行國產(chǎn)化計算替換,也可以實(shí)現(xiàn)數(shù)據(jù)可控、可信的數(shù)字化戰(zhàn)略,從而獲得更穩(wěn)健、開放的科研環(huán)境。

對于HPC/AI相關(guān)項(xiàng)目與數(shù)據(jù)中心來說,華為OceanStor Pacific分布式存儲兼容多元算力意味著更多選擇,更廣闊的解決方案構(gòu)建空間,確保計算基礎(chǔ)設(shè)施真正實(shí)現(xiàn)多樣性。對于計算國產(chǎn)化趨勢來說,我們不搞封閉和孤立,而是在開放、包容的態(tài)勢中走向科技自立自強(qiáng)。

華為分布式存儲支持多元化算力,意味著是一個真正開放兼容、自主創(chuàng)新的高可靠存儲數(shù)據(jù)底座正在建立,具備傳統(tǒng)超算、大數(shù)據(jù)分析及AI分析能力,應(yīng)用驅(qū)動統(tǒng)一數(shù)據(jù)源支持全流程科學(xué)計算服務(wù),在為科研及商業(yè)提供多樣性算力同時,能夠基于數(shù)據(jù)知識累積,提供高階數(shù)據(jù)價值服務(wù)。華為OceanStor Pacific分布式存儲的兼容性提升,既是一次新的啟航,也是一個明確的指向:它向世界展示了中國ICT產(chǎn)業(yè)海納百川的胸懷,包容萬物的決心。

審核編輯 黃昊宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 存儲
    +關(guān)注

    關(guān)注

    13

    文章

    4172

    瀏覽量

    85486
  • 分布式
    +關(guān)注

    關(guān)注

    1

    文章

    843

    瀏覽量

    74422
收藏 人收藏

    評論

    相關(guān)推薦

    分布式存儲費(fèi)用高嗎?大概需要多少錢

    分布式存儲的費(fèi)用是否高,取決于多個因素,包括存儲容量、性能要求、服務(wù)提供商、計費(fèi)模式等。因此,無法簡單地給出一個“高”或“不高”的答案。通常分布式
    的頭像 發(fā)表于 09-24 10:41 ?150次閱讀

    大模型廠商“輸血”不斷,百川智能完成50億元A輪融資!

    有重磅消息曝出:知名大模型公司百川智能已經(jīng)成功收獲了價值50億元的A輪融資。由此,我們不禁感嘆,大模型廠商們的“輸血”和“續(xù)命”之戰(zhàn),還在激烈的上演著。
    的頭像 發(fā)表于 07-31 14:47 ?544次閱讀
    大模型廠商“輸血”不斷,<b class='flag-5'>百川</b>智能完成50億元A輪融資!

    百川智能完成50億元A輪融資

    近日,國內(nèi)領(lǐng)先的醫(yī)療AI大模型企業(yè)——百川智能,正式宣布完成了高達(dá)50億元人民幣的A輪融資,這一里程碑的融資不僅彰顯了市場對其技術(shù)實(shí)力與未來發(fā)展?jié)摿Φ母叨日J(rèn)可,也公司的后續(xù)發(fā)展奠定了堅實(shí)的資金基礎(chǔ)。
    的頭像 發(fā)表于 07-26 16:42 ?398次閱讀

    亞馬遜云科技接入百川智能和零一萬物基礎(chǔ)模型

    近日,亞馬遜云科技在中國峰會上宣布,兩大中文基礎(chǔ)模型——百川智能的Baichuan2-7B和零一萬物的Yi-1.5 6B/9B/34B,即將或已正式登陸中國區(qū)域的SageMaker JumpStart。這一舉措中國企業(yè)提供了豐富的模型
    的頭像 發(fā)表于 06-04 11:53 ?525次閱讀

    華為分布式存儲連續(xù)三年榮膺2024年Gartner“客戶之選”

    近日,全球權(quán)威咨詢與分析機(jī)構(gòu)Gartner發(fā)布《2024年Gartner Peer InsightsTM 分布式文件系統(tǒng)與對象存儲“客戶之聲”》報告,華為憑借其OceanStor
    的頭像 發(fā)表于 05-24 10:12 ?602次閱讀

    百川智能發(fā)布Baichuan 4大模型及首款A(yù)I助手“小應(yīng)”

    百川智能近日發(fā)布了其新一代基座大模型Baichuan 4,并同步推出了首款A(yù)I助手“小應(yīng)”。這款A(yù)I助手是在Baichuan 4強(qiáng)大能力的基礎(chǔ)上,結(jié)合先進(jìn)的搜索技術(shù)精心打造而成。
    的頭像 發(fā)表于 05-23 14:15 ?539次閱讀

    有方數(shù)據(jù)存儲產(chǎn)品服務(wù)新疆移動智中心,推動數(shù)字生產(chǎn)全面躍升

    近日,有方數(shù)據(jù)新疆移動智中心項(xiàng)目建設(shè)提供了NeoVast 2300分布式海量存儲系統(tǒng)、NeoHyper 2500分布式全閃存
    的頭像 發(fā)表于 04-28 14:10 ?472次閱讀

    百川智能與北京大學(xué)將共建通用人工智能聯(lián)合實(shí)驗(yàn)室

    近日,百川智能與北京大學(xué)攜手合作,共同簽署了“北大——百川通用人工智能聯(lián)合實(shí)驗(yàn)室”的共建協(xié)議,標(biāo)志著雙方在人工智能領(lǐng)域邁出了堅實(shí)的合作步伐。
    的頭像 發(fā)表于 03-21 11:45 ?795次閱讀

    分布式存儲與計算:大數(shù)據(jù)時代的解決方案

    分布式存儲和計算技術(shù)應(yīng)運(yùn)而生,并迅速成為處理大數(shù)據(jù)的首選方案。本文將深入探討分布式存儲和計算的概念、優(yōu)勢及其在各個領(lǐng)域的應(yīng)用情況。 1.分布式
    的頭像 發(fā)表于 03-07 14:42 ?625次閱讀

    曙光存儲推出ParaStor分布式全閃存儲

    曙光存儲推出ParaStor分布式全閃存儲,攜業(yè)內(nèi)首創(chuàng)技術(shù)XDS,以訓(xùn)練加速、穩(wěn)定性強(qiáng)、性價比高的獨(dú)特價值,全維度涵蓋網(wǎng)絡(luò)、計算和平臺,千行
    發(fā)表于 03-01 11:30 ?500次閱讀

    百川智能發(fā)布超千億大模型Baichuan 3

    百川智能近日發(fā)布了超千億參數(shù)的大語言模型Baichuan 3,引發(fā)了業(yè)界的廣泛關(guān)注。這款模型在多個權(quán)威通用能力評測中表現(xiàn)卓越,展現(xiàn)了其強(qiáng)大的語義理解和生成能力。
    的頭像 發(fā)表于 01-31 14:58 ?743次閱讀

    搜索出生的百川智能大模型RAG爬坑之路總結(jié)

    今天對百川的RAG方法進(jìn)行解讀,百川智能具有深厚的搜索背景,來看看他們是怎么爬RAG的坑的吧~
    的頭像 發(fā)表于 01-05 15:02 ?1367次閱讀
    搜索出生的<b class='flag-5'>百川</b>智能大模型RAG爬坑之路總結(jié)

    百川智能發(fā)布Baichuan2 Turbo系列API,或?qū)⑻娲袠I(yè)大模型

    在當(dāng)天的媒體溝通會上,百川智能創(chuàng)始人、CEO王小,百川智能聯(lián)合創(chuàng)始人、聯(lián)席總裁洪濤,百川智能技術(shù)聯(lián)創(chuàng)陳煒鵬及百川智能商用業(yè)務(wù)部總經(jīng)理李劍共
    的頭像 發(fā)表于 12-20 16:54 ?869次閱讀

    資源星羅棋布,看中國移動如何“海納百川”實(shí)現(xiàn)共享

    打造全國一張“網(wǎng)”
    的頭像 發(fā)表于 12-15 18:56 ?1519次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>資源星羅棋布,看中國移動如何“<b class='flag-5'>海納百川</b>”實(shí)現(xiàn)<b class='flag-5'>算</b><b class='flag-5'>力</b>共享

    分布式系統(tǒng)硬件資源池原理和接入實(shí)踐

    把各個設(shè)備的硬件外設(shè)抽象外設(shè)信息單元,外設(shè)信息在各個可信設(shè)備之間自動同步,如此,實(shí)現(xiàn)了外設(shè)信息的全局可見;結(jié)合分布式硬件虛擬化技術(shù),實(shí)現(xiàn)任意設(shè)備之間的硬件外設(shè)能力跨設(shè)備調(diào)用;分布式硬件資源池作為系統(tǒng)
    發(fā)表于 12-06 10:02