0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AWS與NVIDIA通過嵌入式AI簡化構(gòu)建應(yīng)用程序

姚小熊27 ? 來源:TechWeb.com.cn ? 作者:TechWeb.com.cn ? 2020-12-25 10:26 ? 次閱讀

人工智能改變了我們的生活和工作方式,主要的AI供應(yīng)商之一是圖形處理單元(GPU)市場領(lǐng)導(dǎo)者NVIDIA。開發(fā)人員使用其工具和基礎(chǔ)架構(gòu)來構(gòu)建支持AI的應(yīng)用程序。該公司提供的產(chǎn)品可簡化將AI集成到服務(wù)中的過程,這些服務(wù)包括語音識別,對話式AI,數(shù)據(jù)科學(xué),機(jī)器人技術(shù),推理等等。

NVIDIA工具已被AI開發(fā)人員和數(shù)據(jù)科學(xué)家廣泛采用,但是將這些工具的使用擴(kuò)展到更廣泛的受眾范圍將需要簡化工具的訪問過程。如今,開發(fā)人員需要在一個平臺(例如AWS)上構(gòu)建,然后直接從NVIDIA訪問AI工具。

AWS與NVIDIA合作伙伴通過嵌入式AI簡化構(gòu)建應(yīng)用程序

最近,NVIDIA與亞馬遜網(wǎng)絡(luò)服務(wù)(AWS)通過在AWS Marketplace中提供NVIDIA店面,宣布了一項(xiàng)合作伙伴關(guān)系,旨在簡化將AI功能嵌入應(yīng)用程序的過程??傆嫞琋VIDIA將免費(fèi)提供21種軟件工具,以幫助使用AWS的開發(fā)人員構(gòu)建GPU加速的AI應(yīng)用程序。這將在醫(yī)療保健,金融,零售,智慧城市等多個領(lǐng)域引起廣泛關(guān)注。

自2017年以來,NVIDIA一直通過其NVIDIA GPU優(yōu)化云(NGC)目錄以及AWS Marketplace上的一些單獨(dú)組件提供了GPU加速軟件。但是,這是Nvidia的整個產(chǎn)品組合首次進(jìn)入AWS Marketplace。NGC目錄將NVIDIA的GPU加速軟件工具集中在一起。它包含數(shù)百個機(jī)器學(xué)習(xí)(ML)框架和行業(yè)特定的軟件開發(fā)套件,數(shù)據(jù)科學(xué)家和開發(fā)人員可以使用它們來構(gòu)建AI解決方案。

伙伴關(guān)系創(chuàng)建了“一站式商店”

NGC軟件經(jīng)過容器化和優(yōu)化,可在GPU云實(shí)例上運(yùn)行,例如Amazon EC2 P4d,該實(shí)例由NVIDIA最新的A100 Tensor Core GPU提供支持。開發(fā)人員可以通過現(xiàn)成的程序包獲得所需的一切,因此他們可以在混合云環(huán)境中運(yùn)行容器,并輕松地跨平臺移動GPU加速的工作負(fù)載。

NVIDIA聲稱250,000名用戶已經(jīng)從NGC目錄中下載了超過100萬個AI容器,預(yù)訓(xùn)練的模型,應(yīng)用程序框架,Helm圖表和其他ML資源。一些最受歡迎的NVIDIA GPU加速AI軟件工具包括:

NVIDIA AI,一套框架和工具,例如MXNet和TensorFlow。

NVIDIA Clara Imaging,一個針對領(lǐng)域優(yōu)化的應(yīng)用程序框架,用于醫(yī)學(xué)成像中的深度學(xué)習(xí)培訓(xùn)和推理。

NVIDIA DeepStream SDK,一個用于在邊緣和任何云上部署的多平臺視頻分析框架。

NVIDIA HPC SDK,一套用于高性能計算的庫和軟件工具。

NVIDIA Isaac Sim ML培訓(xùn),這是面向機(jī)器人ML工程師的工具包,這些機(jī)器人ML工程師生成合成圖像以訓(xùn)練對象檢測深度神經(jīng)網(wǎng)絡(luò)。

NVIDIA Merlin,一個開放的beta框架,用于構(gòu)建大規(guī)模的深度學(xué)習(xí)推薦系統(tǒng)。

NVIDIA NeMo,一個用于構(gòu)建對話AI模型的開源Python工具包。

RAPIDS,一套開源數(shù)據(jù)科學(xué)軟件庫。

通過與AWS的合作,NVIDIA希望加快軟件發(fā)現(xiàn)的過程。只要NGC目錄中有更新,開發(fā)人員就可以一鍵訪問NVIDIA AI軟件的最新版本。開發(fā)人員的另一個好處是軟件部署更加簡單。開發(fā)人員將能夠在AWS控制臺內(nèi)的NVIDIA GPU實(shí)例上訂閱并開始運(yùn)行NGC軟件。他們還可以訪問NGC Helm圖表以進(jìn)行持續(xù)集成和開發(fā)。

隨著AI推動高性能計算的突破,高級工具對于幫助組織可視化并與海量數(shù)據(jù)集進(jìn)行交互是必不可少的。像NVIDIA和AWS這樣的聯(lián)盟可以消除部署GPU加速軟件的復(fù)雜性?,F(xiàn)在,開發(fā)人員無需花時間搜索最新的框架和補(bǔ)丁,而是可以在一個地方訪問所有資源來構(gòu)建,培訓(xùn)和部署AI應(yīng)用。
責(zé)任編輯:YYX

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    4818

    瀏覽量

    102650
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29435

    瀏覽量

    267750
  • AWS
    AWS
    +關(guān)注

    關(guān)注

    0

    文章

    423

    瀏覽量

    24261
  • 嵌入式AI
    +關(guān)注

    關(guān)注

    0

    文章

    33

    瀏覽量

    801
收藏 人收藏

    評論

    相關(guān)推薦

    嵌入式MXM模塊(NVIDIA安培架構(gòu))

    電子發(fā)燒友網(wǎng)站提供《嵌入式MXM模塊(NVIDIA安培架構(gòu)).pdf》資料免費(fèi)下載
    發(fā)表于 10-09 11:09 ?0次下載

    C28x嵌入式應(yīng)用程序二進(jìn)制接口

    電子發(fā)燒友網(wǎng)站提供《C28x嵌入式應(yīng)用程序二進(jìn)制接口.pdf》資料免費(fèi)下載
    發(fā)表于 08-31 09:39 ?0次下載
    C28x<b class='flag-5'>嵌入式</b><b class='flag-5'>應(yīng)用程序</b>二進(jìn)制接口

    MSP430嵌入式應(yīng)用程序二進(jìn)制接口

    電子發(fā)燒友網(wǎng)站提供《MSP430嵌入式應(yīng)用程序二進(jìn)制接口.pdf》資料免費(fèi)下載
    發(fā)表于 08-30 11:43 ?0次下載
    MSP430<b class='flag-5'>嵌入式</b><b class='flag-5'>應(yīng)用程序</b>二進(jìn)制接口

    C6000嵌入式應(yīng)用程序二進(jìn)制接口

    電子發(fā)燒友網(wǎng)站提供《C6000嵌入式應(yīng)用程序二進(jìn)制接口.pdf》資料免費(fèi)下載
    發(fā)表于 08-29 14:52 ?0次下載
    C6000<b class='flag-5'>嵌入式</b><b class='flag-5'>應(yīng)用程序</b>二進(jìn)制接口

    基于AMD、ARM、Intel和NVIDIA技術(shù)構(gòu)建嵌入式工控機(jī)

    嵌入式工控機(jī)具有高度可定制性,可以滿足所有行業(yè)的所有邊緣計算任務(wù)。在AMD、ARM、Intel和NVIDIA等領(lǐng)先技術(shù)公司的支持下,我們擁有適用于所有工業(yè)應(yīng)用的全系列經(jīng)過預(yù)審的嵌入式工控機(jī)。朗銳智科
    的頭像 發(fā)表于 05-22 17:13 ?470次閱讀
    基于AMD、ARM、Intel和<b class='flag-5'>NVIDIA</b>技術(shù)<b class='flag-5'>構(gòu)建</b>的<b class='flag-5'>嵌入式</b>工控機(jī)

    NVIDIA AI微服務(wù)現(xiàn)已與AWS集成,加速藥物研發(fā)和數(shù)字醫(yī)療

    NVIDIA NIM 使數(shù)千家使用 AWS 的醫(yī)療和生命科學(xué)公司能夠快速、輕松開發(fā)和部署生成 AI。
    的頭像 發(fā)表于 05-09 09:21 ?1472次閱讀

    使用Redis和Spring?Ai構(gòu)建rag應(yīng)用程序

    整合如何通過簡化的開發(fā)流程,讓開發(fā)者能夠更專注于創(chuàng)新而非底層實(shí)現(xiàn)。一、SpringAI簡介由大型語言模型(LLM)驅(qū)動的應(yīng)用程序中,向量數(shù)據(jù)庫常作為人工智能應(yīng)用程
    的頭像 發(fā)表于 04-29 08:04 ?904次閱讀
    使用Redis和Spring?<b class='flag-5'>Ai</b><b class='flag-5'>構(gòu)建</b>rag<b class='flag-5'>應(yīng)用程序</b>

    深度詳解嵌入式系統(tǒng)專用輕量級框架設(shè)計

    MR 框架是專為嵌入式系統(tǒng)設(shè)計的輕量級框架。充分考慮了嵌入式系統(tǒng)在資源和性能方面的需求。通過提供標(biāo)準(zhǔn)化的設(shè)備管理接口,極大簡化嵌入式應(yīng)用開
    發(fā)表于 04-27 02:32 ?850次閱讀
    深度詳解<b class='flag-5'>嵌入式</b>系統(tǒng)專用輕量級框架設(shè)計

    NVIDIA Jetson為嵌入式計算領(lǐng)域探索AI可能

    自動化業(yè)務(wù)流程、通過數(shù)據(jù)分析獲得洞察力、與客戶和員工互動……如今 AI 正在大幅提高生產(chǎn)力,推動競爭優(yōu)勢。NVIDIA Jetson 是適用于自主機(jī)器和其他嵌入式應(yīng)用的先進(jìn)平臺,具有出
    的頭像 發(fā)表于 01-25 17:03 ?476次閱讀
    <b class='flag-5'>NVIDIA</b> Jetson為<b class='flag-5'>嵌入式</b>計算領(lǐng)域探索<b class='flag-5'>AI</b>可能

    用C語言構(gòu)建高效的嵌入式程序

    嵌入式工程師在編寫C語言程序時,需要注重效率和清晰的思路。本文將通過解析經(jīng)典問題“猴子選大王”來展示如何用C語言思維方式構(gòu)建高效、清晰的程序
    的頭像 發(fā)表于 12-21 09:27 ?569次閱讀

    NVIDIA Jetson 的嵌入式系統(tǒng)AI應(yīng)用

    在這個平臺上可以使用多個不同的芯片 ,案例的主角是AIMobile AIM Edge Ncox,一款基于NVIDIA Jetson Orin NX的小型被動冷卻嵌入式系統(tǒng)。該系統(tǒng)具有6-8個Arm內(nèi)核和NVIDIA Ampere
    發(fā)表于 12-11 17:37 ?480次閱讀

    嵌入式Linux應(yīng)用程序開發(fā)詳解-第3章

    電子發(fā)燒友網(wǎng)站提供《嵌入式Linux應(yīng)用程序開發(fā)詳解-第3章.pdf》資料免費(fèi)下載
    發(fā)表于 11-16 11:19 ?0次下載
    <b class='flag-5'>嵌入式</b>Linux<b class='flag-5'>應(yīng)用程序</b>開發(fā)詳解-第3章

    嵌入式Linux應(yīng)用程序開發(fā)詳解-第2章

    電子發(fā)燒友網(wǎng)站提供《嵌入式Linux應(yīng)用程序開發(fā)詳解-第2章.pdf》資料免費(fèi)下載
    發(fā)表于 11-16 11:18 ?0次下載
    <b class='flag-5'>嵌入式</b>Linux<b class='flag-5'>應(yīng)用程序</b>開發(fā)詳解-第2章

    嵌入式Linux應(yīng)用程序開發(fā)詳解-第1章

    電子發(fā)燒友網(wǎng)站提供《嵌入式Linux應(yīng)用程序開發(fā)詳解-第1章.pdf》資料免費(fèi)下載
    發(fā)表于 11-16 11:17 ?0次下載
    <b class='flag-5'>嵌入式</b>Linux<b class='flag-5'>應(yīng)用程序</b>開發(fā)詳解-第1章

    利用 NVIDIA Jetson 實(shí)現(xiàn)生成 AI

    近日,NVIDIA 發(fā)布了 Jetson 生成 AI 實(shí)驗(yàn)室(Jetson Generative AI Lab),使開發(fā)者能夠通過
    的頭像 發(fā)表于 11-07 21:25 ?855次閱讀
    利用 <b class='flag-5'>NVIDIA</b> Jetson 實(shí)現(xiàn)生成<b class='flag-5'>式</b> <b class='flag-5'>AI</b>