0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

NVIDIA與恩智浦聯(lián)手,在邊緣設(shè)備上部署AI模型

微云疏影 ? 來源:綜合整理 ? 作者:綜合整理 ? 2024-03-25 16:05 ? 次閱讀

Nvidia與恩智浦宣布展開新合作,將Nvidia的AI模型運(yùn)用到恩智浦邊緣處理設(shè)備當(dāng)中。這項(xiàng)合作將讓開發(fā)者借助Nvidia TAO工具包,無縫地將其集成進(jìn)NXP的eIQ機(jī)器學(xué)習(xí)開發(fā)環(huán)境,共同推動(dòng)AI的加速發(fā)展。據(jù)悉,恩智浦是首個(gè)直接內(nèi)置Nvidia TAO API于AI產(chǎn)品半導(dǎo)體廠商

恩智浦工業(yè)IoT邊緣高級副總裁Charles Dachs表示,人工智能的創(chuàng)新將塑造智能互聯(lián)世界的未來,融入Nvidia先進(jìn)的AI培訓(xùn)技術(shù)以及恩智浦在工業(yè)及物聯(lián)網(wǎng)邊緣科研實(shí)力,將產(chǎn)生協(xié)同效益,讓用戶能更迅速地將自家AI模型推向市場。

Nvidia機(jī)器人與邊緣計(jì)算副總裁Deepu Talla則強(qiáng)調(diào),Nvidia TAO大大簡化了AI模型的創(chuàng)建和部署過程,無論是復(fù)雜的生成式AI模型亦能輕松應(yīng)對。這次合作帶來高精度且經(jīng)Nvidia TAO精心優(yōu)化的AI模型,可無縫整合進(jìn)NXP的eIQ開發(fā)環(huán)境,從而加速邊緣AI的部署。

恩智浦的 eIQ 機(jī)器學(xué)習(xí)軟件開發(fā)環(huán)境支持廣泛的微控制器微處理器上進(jìn)行AI算法的運(yùn)用。作為完全集成在恩智浦MCUXpresso SDK和Yocto Project Linux開發(fā)環(huán)境中的特色功能,eIQ機(jī)器學(xué)習(xí)開發(fā)環(huán)境和Nvidia TAO的打通可為模型AI訓(xùn)練、優(yōu)化和部署提供統(tǒng)一平臺,使得AI業(yè)務(wù)的研發(fā)更為簡便。同時(shí),Nvidia TAO還提供API驅(qū)動(dòng)的工作流程,利用一系列預(yù)訓(xùn)練模型和遷移學(xué)習(xí),盡享人性化的設(shè)計(jì)。此外,AI模型的剪裁等優(yōu)化措施還能有效提升預(yù)測效率。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 恩智浦
    +關(guān)注

    關(guān)注

    14

    文章

    5806

    瀏覽量

    105925
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    4814

    瀏覽量

    102629
  • 人工智能
    +關(guān)注

    關(guān)注

    1789

    文章

    46302

    瀏覽量

    236464
收藏 人收藏

    評論

    相關(guān)推薦

    一站式方案+系統(tǒng)級安全,重新定義邊緣智能

    電子發(fā)燒友網(wǎng)報(bào)道(文/吳子鵬)隨著“AI賦能千行百業(yè)”的成果涌現(xiàn),“AI+”已經(jīng)成為各行業(yè)發(fā)展的新業(yè)態(tài)。安全
    的頭像 發(fā)表于 10-17 00:10 ?1654次閱讀
    一站式方案+系統(tǒng)級安全,<b class='flag-5'>恩</b>智<b class='flag-5'>浦</b>重新定義<b class='flag-5'>邊緣</b>智能

    NVIDIA NIM助力企業(yè)高效部署生成式AI模型

    Canonical、Nutanix 和 Red Hat 等廠商的開源 Kubernetes 平臺集成了 NVIDIA NIM,將允許用戶通過 API 調(diào)用來大規(guī)模地部署大語言模型。
    的頭像 發(fā)表于 10-10 09:49 ?268次閱讀

    NXP推出集成NPU的MCU,支持AI邊緣設(shè)備!MCU實(shí)現(xiàn)AI功能的多種方式

    ? 電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)近日,宣布推出全新i.MX RT700跨界MCU系列,支持智能AI邊緣設(shè)備,例如可穿戴
    的頭像 發(fā)表于 09-29 01:11 ?3260次閱讀

    半導(dǎo)體發(fā)布i.MX RT700系列MCU,賦能智能AI邊緣設(shè)備

    半導(dǎo)體近期震撼發(fā)布了其最新力作——i.MX RT700跨界微控制器(MCU)系列,專為推動(dòng)智能AI邊緣
    的頭像 發(fā)表于 09-26 16:06 ?414次閱讀

    利用云實(shí)驗(yàn)室部署AI模型

    如今,人工智能(AI)非?;鸨@個(gè)風(fēng)口該如何把握?作為一個(gè)電子工程師,和AI最主要的交集應(yīng)該就是邊緣計(jì)算了,具體來講,就是一些性能、功耗以及價(jià)格相對較低的嵌入式平臺
    的頭像 發(fā)表于 08-02 11:46 ?2557次閱讀
    利用<b class='flag-5'>恩</b>智<b class='flag-5'>浦</b>云實(shí)驗(yàn)室<b class='flag-5'>部署</b><b class='flag-5'>AI</b><b class='flag-5'>模型</b>

    NVIDIA AI Foundry 為全球企業(yè)打造自定義 Llama 3.1 生成式 AI 模型

    Foundry 提供從數(shù)據(jù)策管、合成數(shù)據(jù)生成、微調(diào)、檢索、防護(hù)到評估的全方位生成式 AI 模型服務(wù),以便部署自定義 Llama 3.1 NVIDIA NIM 微服務(wù)和新的
    發(fā)表于 07-24 09:39 ?661次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry 為全球企業(yè)打造自定義 Llama 3.1 生成式 <b class='flag-5'>AI</b> <b class='flag-5'>模型</b>

    NVIDIA 通過 Holoscan 為 NVIDIA IGX 提供企業(yè)軟件支持,實(shí)現(xiàn)邊緣實(shí)時(shí)醫(yī)療、工業(yè)和科學(xué) AI 應(yīng)用

    美敦力、SETI協(xié)會(huì)以及領(lǐng)先的制造商正在構(gòu)建? NVIDIA IGX 系統(tǒng), 為 ?AI 工業(yè)邊緣賦能 ? ? COMPUTEX — 2024 年 6 月 2 日 —
    發(fā)表于 06-03 09:48 ?259次閱讀
      <b class='flag-5'>NVIDIA</b> 通過 Holoscan 為 <b class='flag-5'>NVIDIA</b> IGX 提供企業(yè)軟件支持,實(shí)現(xiàn)<b class='flag-5'>邊緣</b>實(shí)時(shí)醫(yī)療、工業(yè)和科學(xué) <b class='flag-5'>AI</b> 應(yīng)用

    杭州召開汽車生態(tài)技術(shù)峰會(huì),推出全新S32 CoreRide開放平臺

    峰會(huì)上,正式中國發(fā)布了S32 CoreRide開放平臺,該平臺融合了成熟的S32計(jì)算、網(wǎng)絡(luò)、系統(tǒng)電源管理技術(shù),以及來自
    的頭像 發(fā)表于 05-30 16:59 ?1181次閱讀

    基于stm32h743IIKcubeai上部署keras模型,模型輸出結(jié)果都是同一組概率數(shù)組,為什么?

    基于stm32h743IIK,cubeai上部署keras模型,模型輸出結(jié)果都是同一組概率數(shù)組,一點(diǎn)也搞不明白,看社區(qū)也有相同的問題,但沒有解決方案
    發(fā)表于 05-20 08:18

    部署邊緣設(shè)備上的輕量級模型

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)邊緣AI算法是一種將人工智能(AI)算法和計(jì)算能力放置接近數(shù)據(jù)源的終端設(shè)備中的策略。這種算法通常被
    的頭像 發(fā)表于 05-11 00:17 ?2496次閱讀

    邊緣AI需求大爆發(fā),安全連接和模擬電源方面有怎樣的思考?

    ? 電子發(fā)燒友網(wǎng)報(bào)道(文/吳子鵬)通過將邊緣計(jì)算與 AI進(jìn)行深度融合,目前邊緣AI已經(jīng)成為工業(yè)制造、零售和醫(yī)療等領(lǐng)域打造差異化產(chǎn)品創(chuàng)新的主要手段之一。針對不同應(yīng)用場景,
    的頭像 發(fā)表于 04-28 02:59 ?3918次閱讀
    <b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>需求大爆發(fā),<b class='flag-5'>恩</b>智<b class='flag-5'>浦</b><b class='flag-5'>在</b>安全連接和模擬電源方面有怎樣的思考?

    亮相2024國際嵌入式大會(huì),展示智能邊緣技術(shù)

    4月9日至11日,德國紐倫堡舉辦的2024國際嵌入式大會(huì)(Embedded World)上,盛裝亮相,展示最新技術(shù)成果如何為創(chuàng)新方案打造堅(jiān)實(shí)的基石,詮釋
    的頭像 發(fā)表于 04-15 09:26 ?935次閱讀

    NVIDIA TAO工具套件功能與eIQ機(jī)器學(xué)習(xí)開發(fā)環(huán)境的集成

    半導(dǎo)體宣布與NVIDIA合作,將NVIDIA經(jīng)過訓(xùn)練的人工智能模型通過eIQ機(jī)器學(xué)習(xí)開發(fā)環(huán)境部署
    的頭像 發(fā)表于 03-22 09:11 ?887次閱讀

    AI邊緣計(jì)算機(jī)應(yīng)用場景廣泛!大語言模型與數(shù)字人結(jié)合方案邊緣側(cè)落地

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)AI邊緣計(jì)算機(jī)是一種人工智能和邊緣計(jì)算技術(shù)相結(jié)合的計(jì)算機(jī)設(shè)備。它可以本地
    的頭像 發(fā)表于 01-16 01:11 ?4325次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>邊緣</b>計(jì)算機(jī)應(yīng)用場景廣泛!大語言<b class='flag-5'>模型</b>與數(shù)字人結(jié)合方案<b class='flag-5'>在</b><b class='flag-5'>邊緣</b>側(cè)落地

    邊緣側(cè)部署模型優(yōu)勢多!模型量化解決邊緣設(shè)備資源限制問題

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)大模型邊緣部署是將大模型部署
    的頭像 發(fā)表于 01-05 00:06 ?3162次閱讀