0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

加速邊緣設(shè)備中計(jì)算機(jī)視覺和語音的AI推理模型

星星科技指導(dǎo)員 ? 來源:嵌入式計(jì)算設(shè)計(jì) ? 作者:Saumitra Jagdale ? 2022-10-19 09:08 ? 次閱讀

加速AI推理模型已成為一項(xiàng)基本任務(wù),因?yàn)槲覀冋鴦?chuàng)建更復(fù)雜,更高效的AI應(yīng)用程序邁進(jìn)。靈活和完整的AI輔助是在快速增長(zhǎng)的AI領(lǐng)域取得成功的關(guān)鍵組成部分。

RISC-V被設(shè)計(jì)為模塊化的,有幾個(gè)基本部分和可能的附加部分。ISA的基礎(chǔ)和擴(kuò)展是工業(yè)界,學(xué)術(shù)界和研究界之間合作努力的結(jié)果。指令及其編碼、控制流、寄存器、內(nèi)存和尋址邏輯操作和輔助功能都在庫(kù)中指定。通過完整的軟件支持,包括通用編譯器,僅基礎(chǔ)就可以創(chuàng)建簡(jiǎn)化的通用計(jì)算機(jī)。標(biāo)準(zhǔn)擴(kuò)展旨在與所有標(biāo)準(zhǔn)基礎(chǔ)一起工作,并相互兼容,而不會(huì)引起任何沖突。

Deep Vision ARA-1 處理器圍繞完整的軟件工具套件構(gòu)建,是需要高計(jì)算、模型靈活性和能源經(jīng)濟(jì)性的邊緣應(yīng)用的明確選擇。該解決方案還旨在支持當(dāng)今最復(fù)雜、最具成本效益的邊緣 AI 應(yīng)用,同時(shí)消耗最少的功率。

RISC-V計(jì)算的創(chuàng)始人和領(lǐng)導(dǎo)者SiFive最近宣布,邊緣AI處理器公司Deep Vision將把SiFive RISC-V處理器IP整合到其下一代推理加速器中,以便在邊緣設(shè)備中實(shí)現(xiàn)更完整的計(jì)算機(jī)視覺和語音。結(jié)合這兩項(xiàng)超高效服務(wù),深度視覺將授權(quán)SiFive智能X280和SiFive Essentia S7處理器IP,以提高其解決方案的靈活性和功能,使客戶能夠?yàn)橹悄艹鞘?,智能零售,汽車和其他行業(yè)創(chuàng)建應(yīng)用程序。

得益于SiFive智能X280處理器,深度視覺加速器現(xiàn)在能夠支持更廣泛的神經(jīng)網(wǎng)絡(luò)模型,并包括浮點(diǎn)優(yōu)化。張量流精簡(jiǎn)版和各種 AI/ML 數(shù)據(jù)格式(包括 BFLOAT16)由 SiFive 智能處理器上的 SiFive 智能擴(kuò)展提供支持。

SiFive Intelligence X280 處理器作為應(yīng)用類 AI 處理器的靈活性和可編程性擴(kuò)展了 Deep Vision 加速器久經(jīng)考驗(yàn)的功能和性能,可快速支持硬件中新的和不斷發(fā)展的 AI 推理模型,以及圖像縮放、顏色轉(zhuǎn)換和白噪聲減除等 AI 預(yù)處理任務(wù)。

SiFive 基本型 S7 處理器與其他 SiFive RISC-V 處理器一起,提供實(shí)時(shí)、確定性的處理功能,允許異構(gòu)計(jì)算集群中的命令和控制應(yīng)用。SiFive Essential S7 處理器架構(gòu)具有更好的安全性和實(shí)時(shí)確定性,同時(shí)提供面積高效的每瓦性能,使其成為延遲敏感型邊緣計(jì)算應(yīng)用的理想選擇。

將SiFive智能RISC-V處理器的特性與深度視覺推理加速器相結(jié)合,是為快速增長(zhǎng)的AI處理器行業(yè)快速高效地制造新硬件的自然方式。SiFive 智能擴(kuò)展和 RISC-V 矢量(如 SiFive 智能 X280 中實(shí)現(xiàn)的那樣)非常適合當(dāng)前 AI 應(yīng)用的需求。得益于SiFive業(yè)界領(lǐng)先的RISC-V處理器IP產(chǎn)品組合,SiFive在有效幫助人工智能公司構(gòu)建以市場(chǎng)為中心的系統(tǒng)方面具有獨(dú)特的優(yōu)勢(shì)。

此外,憑借同類最佳的 11+ SPECint2k6/GHz 基準(zhǔn)測(cè)試結(jié)果,SiFive 性能 P650 將其業(yè)務(wù)范圍擴(kuò)展到極高端領(lǐng)域,使其成為性能最高的可授權(quán) RISC-V 處理器。憑借多達(dá) 16 個(gè)內(nèi)核的多核、多集群 CPU 配置和最近批準(zhǔn)的虛擬機(jī)管理程序擴(kuò)展,SiFive Performance P650 可提供可擴(kuò)展的性能。隨著時(shí)間的推移,SiFive計(jì)劃擴(kuò)展其路線圖,以包括多集群功能,在單個(gè)SoC中支持128個(gè)或更多內(nèi)核。

RISC-V 加速了當(dāng)前的 AI 推理模型

SiFive將RISC-V處理器IP引入其下一代AI推理加速器,為邊緣設(shè)備中的計(jì)算機(jī)視覺和語音提供更快,更高效的計(jì)算能力。RISC-V處理器的高靈活性和強(qiáng)大功能使客戶能夠以比傳統(tǒng)技術(shù)更簡(jiǎn)單,更快的速度創(chuàng)建復(fù)雜的AI應(yīng)用程序,如智能城市,智能零售和汽車。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 計(jì)算機(jī)
    +關(guān)注

    關(guān)注

    19

    文章

    7293

    瀏覽量

    87526
  • 編譯器
    +關(guān)注

    關(guān)注

    1

    文章

    1608

    瀏覽量

    48979
  • RISC-V
    +關(guān)注

    關(guān)注

    44

    文章

    2179

    瀏覽量

    45898
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    初創(chuàng)公司SEA.AI利用NVIDIA邊緣AI計(jì)算機(jī)視覺技術(shù)變革航海安全系統(tǒng)

    總部位于奧地利林茨的初創(chuàng)公司正在利用 NVIDIA 邊緣 AI計(jì)算機(jī)視覺技術(shù)變革航海安全系統(tǒng),讓每一次出海變得更安全。
    的頭像 發(fā)表于 09-09 09:32 ?393次閱讀

    計(jì)算機(jī)視覺技術(shù)的AI算法模型

    計(jì)算機(jī)視覺技術(shù)作為人工智能領(lǐng)域的一個(gè)重要分支,旨在使計(jì)算機(jī)能夠像人類一樣理解和解釋圖像及視頻中的信息。為了實(shí)現(xiàn)這一目標(biāo),計(jì)算機(jī)視覺技術(shù)依賴于
    的頭像 發(fā)表于 07-24 12:46 ?491次閱讀

    機(jī)器視覺計(jì)算機(jī)視覺有什么區(qū)別

    機(jī)器視覺計(jì)算機(jī)視覺是兩個(gè)密切相關(guān)但又有所區(qū)別的概念。 一、定義 機(jī)器視覺 機(jī)器視覺,又稱為計(jì)算機(jī)
    的頭像 發(fā)表于 07-16 10:23 ?368次閱讀

    計(jì)算機(jī)視覺與人工智能的關(guān)系是什么

    引言 計(jì)算機(jī)視覺是一門研究如何使計(jì)算機(jī)能夠理解和解釋視覺信息的學(xué)科。它涉及到圖像處理、模式識(shí)別、機(jī)器學(xué)習(xí)等多個(gè)領(lǐng)域的知識(shí)。人工智能則是研究如何使計(jì)算
    的頭像 發(fā)表于 07-09 09:25 ?419次閱讀

    計(jì)算機(jī)視覺和機(jī)器視覺區(qū)別在哪

    計(jì)算機(jī)視覺和機(jī)器視覺是兩個(gè)密切相關(guān)但又有明顯區(qū)別的領(lǐng)域。 一、定義 計(jì)算機(jī)視覺 計(jì)算機(jī)
    的頭像 發(fā)表于 07-09 09:22 ?345次閱讀

    計(jì)算機(jī)視覺屬于人工智能嗎

    屬于,計(jì)算機(jī)視覺是人工智能領(lǐng)域的一個(gè)重要分支。 引言 計(jì)算機(jī)視覺是一門研究如何使計(jì)算機(jī)具有視覺
    的頭像 發(fā)表于 07-09 09:11 ?900次閱讀

    計(jì)算機(jī)視覺的主要研究方向

    計(jì)算機(jī)視覺(Computer Vision, CV)作為人工智能領(lǐng)域的一個(gè)重要分支,致力于使計(jì)算機(jī)能夠像人眼一樣理解和解釋圖像和視頻中的信息。隨著深度學(xué)習(xí)、大數(shù)據(jù)等技術(shù)的快速發(fā)展,計(jì)算機(jī)
    的頭像 發(fā)表于 06-06 17:17 ?661次閱讀

    使用NVIDIA Triton推理服務(wù)器來加速AI預(yù)測(cè)

    這家云計(jì)算巨頭的計(jì)算機(jī)視覺和數(shù)據(jù)科學(xué)服務(wù)使用 NVIDIA Triton 推理服務(wù)器來加速 AI
    的頭像 發(fā)表于 02-29 14:04 ?508次閱讀

    AI邊緣計(jì)算機(jī)應(yīng)用場(chǎng)景廣泛!大語言模型與數(shù)字人結(jié)合方案在邊緣側(cè)落地

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)AI邊緣計(jì)算機(jī)是一種人工智能和邊緣計(jì)算技術(shù)相結(jié)合的計(jì)算機(jī)設(shè)備。它可
    的頭像 發(fā)表于 01-16 01:11 ?4329次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>邊緣</b><b class='flag-5'>計(jì)算機(jī)</b>應(yīng)用場(chǎng)景廣泛!大語言<b class='flag-5'>模型</b>與數(shù)字人結(jié)合方案在<b class='flag-5'>邊緣</b>側(cè)落地

    計(jì)算機(jī)視覺AI如何識(shí)別與理解圖像

    計(jì)算機(jī)視覺是人工智能領(lǐng)域的一個(gè)重要分支,它致力于讓機(jī)器能夠像人類一樣理解和解釋圖像。隨著深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的發(fā)展,人們對(duì)于如何讓AI識(shí)別和理解圖像產(chǎn)生了濃厚的興趣。本文將探討計(jì)算機(jī)
    的頭像 發(fā)表于 01-12 08:27 ?1273次閱讀
    <b class='flag-5'>計(jì)算機(jī)</b><b class='flag-5'>視覺</b>:<b class='flag-5'>AI</b>如何識(shí)別與理解圖像

    最適合 AI 應(yīng)用的計(jì)算機(jī)視覺類型是什么?

    著眼于使計(jì)算機(jī)能夠像人類一樣通過“看”來感知世界,從這一視角對(duì)人工智能 (AI) 進(jìn)行了探討。我將簡(jiǎn)要比較每一類計(jì)算機(jī)視覺,尤其關(guān)注在本地而不是依賴基于云的資源收集和處理數(shù)據(jù),并根據(jù)數(shù)
    的頭像 發(fā)表于 12-18 13:09 ?7141次閱讀
    最適合 <b class='flag-5'>AI</b> 應(yīng)用的<b class='flag-5'>計(jì)算機(jī)</b><b class='flag-5'>視覺</b>類型是什么?

    什么是計(jì)算機(jī)視覺?計(jì)算機(jī)視覺的三種方法

    計(jì)算機(jī)視覺是指通過為計(jì)算機(jī)賦予人類視覺這一技術(shù)目標(biāo),從而賦能裝配線檢查到駕駛輔助和機(jī)器人等應(yīng)用。計(jì)算機(jī)缺乏像人類一樣憑直覺產(chǎn)生
    的頭像 發(fā)表于 11-16 16:38 ?4299次閱讀
    什么是<b class='flag-5'>計(jì)算機(jī)</b><b class='flag-5'>視覺</b>?<b class='flag-5'>計(jì)算機(jī)</b><b class='flag-5'>視覺</b>的三種方法

    最適合AI應(yīng)用的計(jì)算機(jī)視覺類型是什么?

    計(jì)算機(jī)視覺是指為計(jì)算機(jī)賦予人類視覺這一技術(shù)目標(biāo),從而賦能裝配線檢查到駕駛輔助和機(jī)器人等應(yīng)用。計(jì)算機(jī)缺乏像人類一樣憑直覺產(chǎn)生
    的頭像 發(fā)表于 11-15 16:38 ?385次閱讀
    最適合<b class='flag-5'>AI</b>應(yīng)用的<b class='flag-5'>計(jì)算機(jī)</b><b class='flag-5'>視覺</b>類型是什么?

    使用rk3588多npu推理模型模型推理時(shí)間還增加了,這怎么解釋

    使用rk3588多npu推理模型,模型推理時(shí)間還增加了,這怎么解釋
    發(fā)表于 11-05 18:22

    什么是邊緣計(jì)算盒子(AI算法盒子)?

    高效的數(shù)據(jù)處理和實(shí)時(shí)響應(yīng)。以下是關(guān)于邊緣計(jì)算盒子的介紹:一、什么是邊緣計(jì)算盒子?邊緣計(jì)算盒子是一
    的頭像 發(fā)表于 10-31 14:29 ?2437次閱讀
    什么是<b class='flag-5'>邊緣</b><b class='flag-5'>計(jì)算</b>盒子(<b class='flag-5'>AI</b>算法盒子)?