0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

基于NVIDIA Tesla V100 GPU等硬件打造隱私計算加速方案

GLeX_murata_eet ? 來源:NVIDIA英偉達中國 ? 作者:NVIDIA英偉達中國 ? 2021-08-02 14:43 ? 次閱讀

隱私計算全棧技術(shù)與基礎(chǔ)設(shè)施提供商星云Clustar,依托自身的算力加速能力及基于NVIDIA Tesla V100 GPU硬件打造隱私計算加速方案,為微眾銀行的聯(lián)邦學(xué)習(xí)系統(tǒng)提供超高密態(tài)算力,助力其打通全網(wǎng)數(shù)據(jù)的安全共享與流通,加速業(yè)內(nèi)首個聯(lián)邦學(xué)習(xí)大規(guī)模應(yīng)用的落地。

數(shù)據(jù)流通面臨巨大算力挑戰(zhàn)

數(shù)據(jù)作為新型生產(chǎn)要素,流通才能創(chuàng)造更多價值。微眾銀行為打通數(shù)據(jù)安全交換路徑提供聯(lián)邦學(xué)習(xí)系統(tǒng)方案,一方面可解決數(shù)據(jù)使用方內(nèi)部數(shù)據(jù)不足、特征維度單一問題,另一方面可幫助數(shù)據(jù)源方獲得數(shù)據(jù)的經(jīng)濟價值。

微眾銀行接入騰訊的海量全網(wǎng)數(shù)據(jù)源,需要在保護數(shù)據(jù)安全與隱私的前提下,通過聯(lián)邦學(xué)習(xí)系統(tǒng)連接數(shù)據(jù)提供方和數(shù)據(jù)使用方,實現(xiàn)安全合規(guī)的數(shù)據(jù)交易和流通變現(xiàn)。

為實現(xiàn)聯(lián)邦學(xué)習(xí)應(yīng)用落地,高性能的算力支撐必不可少。由于聯(lián)邦學(xué)習(xí)在參數(shù)傳遞過程中,為了支持參數(shù)可以在密態(tài)下進行無損的計算,需使用到同態(tài)加密技術(shù)(加密后的數(shù)據(jù)為2048bit大整數(shù)),而同態(tài)加密技術(shù)會帶來數(shù)據(jù)計算量和傳輸量的劇增,使聯(lián)邦學(xué)習(xí)系統(tǒng)面臨巨大的算力壓力。

NVIDIA助力打破算力桎梏

星云Clustar依托自身的算力加速能力及硬件產(chǎn)品隱私計算加速卡,充分應(yīng)對聯(lián)邦學(xué)習(xí)等隱私計算場景,為微眾銀行解決了因使用同態(tài)加密而產(chǎn)生的計算壓力與延時問題,使同態(tài)加密算力提升50-70倍,成功推動聯(lián)邦學(xué)習(xí)系統(tǒng)高效運轉(zhuǎn)落地。

隱私計算加速卡基于NVIDIA Tesla V100 GPU等硬件搭建了業(yè)界首個異構(gòu)計算加速系統(tǒng),實現(xiàn)了同態(tài)加密的技術(shù)突破,相較CPU算力提升50-70倍,延遲降低300%,功耗降低70%。隱私計算加速卡可在云或本地切換部署解決方案并根據(jù)應(yīng)用需求擴展,為微眾銀行降低部署成本,助力其聯(lián)邦學(xué)習(xí)業(yè)務(wù)高效落地。

該合作實踐進而也成為聯(lián)邦學(xué)習(xí)產(chǎn)業(yè)應(yīng)用大規(guī)模落地的第一座關(guān)鍵里程碑。

NVIDIA Tesla V100 GPU

加速企業(yè)數(shù)據(jù)安全共享

“通過NVIDIA Tesla V100 GPU,星云Clustar構(gòu)建了針對隱私計算場景的異構(gòu)加速解決方案,為企業(yè)數(shù)據(jù)的安全共享帶來了“加速度”,充分釋放數(shù)據(jù)價值。”星云Clustar CTO張駿雪表示。

編輯:jq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    4818

    瀏覽量

    102655

原文標(biāo)題:初創(chuàng)故事 | 星云Clustar隱私計算GPU加速方案助力聯(lián)邦學(xué)習(xí)大規(guī)模應(yīng)用

文章出處:【微信號:murata-eetrend,微信公眾號:murata-eetrend】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    GPU加速計算平臺是什么

    GPU加速計算平臺,簡而言之,是利用圖形處理器(GPU)的強大并行計算能力來加速科學(xué)
    的頭像 發(fā)表于 10-25 09:23 ?96次閱讀

    llm模型訓(xùn)練一般用什么系統(tǒng)

    。 硬件系統(tǒng) 1.1 GPU(圖形處理器) 在訓(xùn)練大型語言模型時,GPU是首選的硬件設(shè)備。相比于CPU,GPU具有更高的并行處理能力,可以顯
    的頭像 發(fā)表于 07-09 10:02 ?294次閱讀

    進一步解讀英偉達 Blackwell 架構(gòu)、NVlink及GB200 超級芯片

    架構(gòu)打造的頂尖生成式 AI 系統(tǒng)可應(yīng)用于數(shù)據(jù)中心,為企業(yè)提供高效的人工智能解決方案。 **4.**科學(xué)研究 Blackwell 架構(gòu)的 GPU 可用于科學(xué)研究中的數(shù)據(jù)分析、模擬和計算
    發(fā)表于 05-13 17:16

    利用NVIDIA組件提升GPU推理的吞吐

    本實踐中,唯品會 AI 平臺與 NVIDIA 團隊合作,結(jié)合 NVIDIA TensorRT 和 NVIDIA Merlin HierarchicalKV(HKV)將推理的稠密網(wǎng)絡(luò)和熱 Embedding 全置于
    的頭像 發(fā)表于 04-20 09:39 ?583次閱讀

    Hi3519A V100 4K智能IP攝像頭SoC數(shù)據(jù)手冊

    電子發(fā)燒友網(wǎng)站提供《Hi3519A V100 4K智能IP攝像頭SoC數(shù)據(jù)手冊.pdf》資料免費下載
    發(fā)表于 04-09 16:25 ?4次下載

    NVIDIA 發(fā)布全新交換機,全面優(yōu)化萬億參數(shù)級 GPU 計算和 AI 基礎(chǔ)設(shè)施

    NVIDIA 軟件實現(xiàn)了跨 ?Blackwell GPU、新交換機和 BlueField-3 SuperNIC 的分布式計算,大幅提升了 AI、數(shù)據(jù)處理、高性能計算和云工作負載的性能
    發(fā)表于 03-19 10:05 ?297次閱讀
    <b class='flag-5'>NVIDIA</b> 發(fā)布全新交換機,全面優(yōu)化萬億參數(shù)級 <b class='flag-5'>GPU</b> <b class='flag-5'>計算</b>和 AI 基礎(chǔ)設(shè)施

    NVIDIA將在今年第二季度發(fā)布Blackwell架構(gòu)的新一代GPU加速器“B100

    根據(jù)各方信息和路線圖,NVIDIA預(yù)計會在今年第二季度發(fā)布Blackwell架構(gòu)的新一代GPU加速器“B100”。
    的頭像 發(fā)表于 03-04 09:33 ?1178次閱讀
    <b class='flag-5'>NVIDIA</b>將在今年第二季度發(fā)布Blackwell架構(gòu)的新一代<b class='flag-5'>GPU</b><b class='flag-5'>加速</b>器“B<b class='flag-5'>100</b>”

    Tesla 計劃斥資 5 億美元建造一臺由 NVIDIA 的 AI GPU 提供支持的 Dojo 超級計算

    ABSTRACT摘要Tesla計劃斥資5億美元建造一臺由NVIDIA的AIGPU提供支持的Dojo超級計算機,因此該公司正在加大基于AI的開發(fā)力度。JAEALOT2024年1月27日Tesla
    的頭像 發(fā)表于 02-19 12:45 ?507次閱讀
    <b class='flag-5'>Tesla</b> 計劃斥資 5 億美元建造一臺由 <b class='flag-5'>NVIDIA</b> 的 AI <b class='flag-5'>GPU</b> 提供支持的 Dojo 超級<b class='flag-5'>計算</b>機

    湯谷智能發(fā)布全棧RISC-V硬件仿真加速系統(tǒng)方案

    面向高性能計算、IoT、無線接入、音頻、多媒體、消費類電子、邊緣計算迅速擴展的RISC-V使用場景,湯谷智能發(fā)布了基于自研Logic Giant原型驗證
    的頭像 發(fā)表于 01-25 10:29 ?1215次閱讀
    湯谷智能發(fā)布全棧RISC-<b class='flag-5'>V</b><b class='flag-5'>硬件</b>仿真<b class='flag-5'>加速</b>系統(tǒng)<b class='flag-5'>方案</b>

    利用NVIDIA產(chǎn)品技術(shù)組合提升用戶體驗

    本案例通過利用NVIDIA TensorRT-LLM加速指令識別深度學(xué)習(xí)模型,并借助NVIDIA Triton推理服務(wù)器在NVIDIA V100
    的頭像 發(fā)表于 01-17 09:30 ?609次閱讀

    如何選擇NVIDIA GPU和虛擬化軟件的組合方案呢?

    NVIDIA vGPU 解決方案能夠?qū)?NVIDIA GPU 的強大功能帶入虛擬桌面、應(yīng)用程序和工作站,加速圖形和
    的頭像 發(fā)表于 01-12 09:26 ?922次閱讀
    如何選擇<b class='flag-5'>NVIDIA</b> <b class='flag-5'>GPU</b>和虛擬化軟件的組合<b class='flag-5'>方案</b>呢?

    卓越V100主板為何會稱之為:物聯(lián)網(wǎng)行業(yè)通用主板?

    其卓越V100主板主要采用了聯(lián)發(fā)科MT6761四核處理器,其 CPU 搭載 Cortex-A53 構(gòu)架設(shè)計,頻率高達2.0GHz,GPU 為 ARM Mali-G71。卓越V100主板作為一個完整
    的頭像 發(fā)表于 11-15 15:20 ?1009次閱讀
    卓越<b class='flag-5'>V100</b>主板為何會稱之為:物聯(lián)網(wǎng)行業(yè)通用主板?

    NVIDIA GPU 助力筷子科技,升級更全面和 AI 原生化的內(nèi)容商業(yè)全鏈路平臺

    了 Kuaizi 的 AI 服務(wù)能力。 本案例主要應(yīng)用到 T4 、 V100NVIDIA GTX 1080 Ti 和 TensorRT 。 客戶簡介及應(yīng)用背景 筷子科技是服務(wù)于全球內(nèi)容商業(yè)生態(tài)的技術(shù)提供商
    的頭像 發(fā)表于 11-13 20:45 ?491次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>GPU</b> 助力筷子科技,升級更全面和 AI 原生化的內(nèi)容商業(yè)全鏈路平臺

    創(chuàng)新企業(yè)云福利:騰訊云 × NVIDIA 初創(chuàng)加速計劃

    x NVIDIA 初創(chuàng)加速計劃 助您降低產(chǎn)品使用門檻 高性能計算集 群?HCC 以高性能云服務(wù)器為節(jié)點,通過 RDMA 互聯(lián),大幅提升網(wǎng)絡(luò)性能,提供高帶寬和極低延遲的網(wǎng)絡(luò)服務(wù),能滿足大規(guī)模高性能
    的頭像 發(fā)表于 11-13 20:40 ?523次閱讀
    創(chuàng)新企業(yè)云福利:騰訊云 × <b class='flag-5'>NVIDIA</b> 初創(chuàng)<b class='flag-5'>加速</b>計劃

    177倍加速NVIDIA最新開源 | GPU加速各種SDF建圖!

    但最近,NVIDIA和ETHZ就聯(lián)合提出了nvblox,是一個使用GPU加速SDF建圖的庫。計算速度非常快,相較CPU計算TSDF甚至快了1
    的頭像 發(fā)表于 11-09 16:46 ?1041次閱讀
    177倍<b class='flag-5'>加速</b>!<b class='flag-5'>NVIDIA</b>最新開源 | <b class='flag-5'>GPU</b><b class='flag-5'>加速</b>各種SDF建圖!