0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

解析OrangePi AIpro:什么是 NPU?它對(duì)你意味著什么?

香橙派 ? 2024-07-31 14:49 ? 次閱讀

神經(jīng)處理單元是一種專用的人工智能芯片,它能為計(jì)算機(jī)的 CPUGPU分擔(dān)部分工作,使設(shè)備能更好地工作。

人工智能(AI)在過去幾個(gè)月里取得了巨大進(jìn)步,為個(gè)人電腦提供了更多便利和更快的處理速度。以人工智能為重點(diǎn)的計(jì)算機(jī)效率很大一部分是通過NPU(神經(jīng)處理單元)實(shí)現(xiàn)的,在即將推出的高通驍龍X Elite和英特爾酷睿Ultra處理器中可以找到這種處理器。

但究竟什么是 NPU?NPU如何加速人工智能任務(wù)?更重要的是,NPU能為您做些什么?我們將為您一一介紹。

NPUs對(duì)提高效率至關(guān)重要

英特爾酷睿 “流星湖 ”處理器配備NPU。(圖片來源:Windows Central)

神經(jīng)處理單元(Neural Processing Unit,簡(jiǎn)稱NPU)是一種人工智能芯片,旨在以比GPU(圖形處理器)和CPU(計(jì)算機(jī)處理單元)更快的速度執(zhí)行人工智能任務(wù)。它通過承擔(dān)小規(guī)模的重復(fù)性處理,減輕了GPU和CPU的部分負(fù)荷,從而使計(jì)算機(jī)在滿足人工智能驅(qū)動(dòng)的請(qǐng)求時(shí)能更高效地工作。

例如,NPU可以在視頻通話中模糊背景,或在視頻或照片編輯中進(jìn)行物體檢測(cè),從而幫助計(jì)算機(jī)的GPU和CPU保持高效運(yùn)行,這樣CPU和GPU就可以騰出手來處理其他任務(wù)。

NPUs比GPUs更好地處理某些任務(wù)

CPU、GPU和NPU對(duì)系統(tǒng)的運(yùn)行都非常重要。(圖片來源:Windows Central / Midjourney)

CPU、GPU和NPU對(duì)計(jì)算機(jī)的整體運(yùn)行都至關(guān)重要,但它們是為處理不同的渲染和計(jì)算任務(wù)而設(shè)計(jì)的,因此在理想情況下,沒有一個(gè)處理器會(huì)不堪重負(fù)。防止處理器負(fù)荷過重至關(guān)重要,因?yàn)檫@決定了電腦運(yùn)行的流暢程度。

這三種處理器都能進(jìn)行一些圖像渲染,但它們承擔(dān)的工作量各不相同。GPU是重型設(shè)備,專門用于渲染視頻編輯和游戲任務(wù)中的復(fù)雜圖像。然而,NPU的設(shè)計(jì)是為了更快地處理短時(shí)間和重復(fù)性的人工智能任務(wù),例如與人工智能助手協(xié)同工作。換句話說,NPU可以從GPU手中分擔(dān)一些工作,這樣GPU就可以專注于更大的分配任務(wù),系統(tǒng)整體工作效率也會(huì)更高。

綜上所述,操作系統(tǒng)會(huì)查看你的電腦硬件,并根據(jù)你的系統(tǒng)規(guī)格和可用資源來決定 GPU還是NPU更適合特定的人工智能任務(wù)。

為什么要關(guān)注 NPUs

wKgaomap3iuAId-nAAHG8fQik7g202.png

Snapdragon X Elite配備了NPU。(圖片來源:Future)

首先,了解處理器的基本知識(shí)至關(guān)重要。正如您在我的英特爾 vs. AMD vs.英偉達(dá)指南中所看到的,這些半導(dǎo)體芯片制造商往往專注于不同的領(lǐng)域。英特爾是CPU行業(yè)的領(lǐng)導(dǎo)者,英偉達(dá)是GPU行業(yè)的領(lǐng)導(dǎo)者,而AMD則是兩者的完美結(jié)合。

今后,我們會(huì)在處理器中看到越來越多的 NPU。新的英特爾酷睿Ultra處理器(原代號(hào)為Meteor Lake)就證明了這一點(diǎn),它全部采用了NPU,并被多家電腦公司廣泛應(yīng)用于最新的超極本和筆記本電腦中。

此外,高通公司多年來一直在研究 NPU,并在這方面走在了競(jìng)爭(zhēng)對(duì)手的前面。其Snapdragon X Elite處理器采用了CPU、GPU和NPU,很快就會(huì)出現(xiàn)在Windows筆記本電腦上。高通公司已經(jīng)向蘋果MacBook Pro展示了這款芯片的強(qiáng)大性能。根據(jù)高通公司的說法,驍龍X Elite可以每秒執(zhí)行75 Tera運(yùn)算(TOPs),這尤其令人印象深刻。

這一切對(duì)您意味著什么

高通公司通過對(duì)蘋果 Macbook Pro筆記本電腦進(jìn)行基準(zhǔn)測(cè)試,展示了驍龍X Elite的強(qiáng)大性能。(圖片來源:Future)

在最新一代終端中加入 NPU意味著整個(gè)行業(yè)具備了利用最新人工智能技術(shù)向前發(fā)展的能力。換句話說,由于在最新筆記本電腦中加入了NPU,新的應(yīng)用程序?qū)⒛軌蚶米钚碌娜斯ぶ悄苘浖?。反過來,隨著時(shí)間的推移,作為用戶,您將能享受到更多與人工智能相關(guān)的便利和高效的人工智能流程。

通過人工智能執(zhí)行視頻編輯功能的速度可能比以往任何時(shí)候都要快。又或者,在你最常用的程序中,會(huì)出現(xiàn)更多的人工智能過濾器和選項(xiàng)。無論如何,重點(diǎn)都在于提高計(jì)算機(jī)的效率,這樣您就不必在瑣碎的任務(wù)上浪費(fèi)太多時(shí)間,無論是個(gè)人項(xiàng)目、創(chuàng)意項(xiàng)目還是辦公項(xiàng)目。

高通公司的 NPU也已被證明可以處理生成式人工智能圖像,因此我們可能很快就會(huì)在基于高通公司的手機(jī)上看到這種功能。這也將為游戲手持設(shè)備帶來多種新的可能性。

NPU FAQ

NPU可幫助提高系統(tǒng)運(yùn)行效率。(圖片來源:Windows Central)

什么是 PC和筆記本電腦中的NPU處理器?

神經(jīng)處理單元(NPU)專門用于以比GPU和CPU更快的速度執(zhí)行人工智能任務(wù)。這樣可以減輕GPU和CPU的部分負(fù)荷,使兩者都不會(huì)過度消耗,從而幫助計(jì)算機(jī)更好地運(yùn)行。

什么是機(jī)器學(xué)習(xí),它與深度學(xué)習(xí)有何不同?

機(jī)器學(xué)習(xí)是人工智能的一個(gè)方面,它允許程序收集數(shù)據(jù)并根據(jù)所掌握的信息做出決策。深度學(xué)習(xí)則更進(jìn)一步,神經(jīng)網(wǎng)絡(luò)的功能就像人的學(xué)習(xí)大腦一樣,可以根據(jù)收集到的信息做出新的結(jié)果和決策,而不僅僅是重復(fù)信息。

NPU比GPU更好嗎?

神經(jīng)處理單元(NPU)和圖形處理單元(GPU)都是計(jì)算機(jī)處理能力不可或缺的組成部分,因此這取決于您在什么情況下比較神經(jīng)處理單元(NPU)和圖形處理單元(GPU)。GPU專門用于渲染復(fù)雜圖像,以處理視頻編輯和游戲等任務(wù)。然而,NPU的設(shè)計(jì)目的是更快地處理人工智能任務(wù),減少GPU的部分負(fù)載,從而提高系統(tǒng)的工作效率。問題是,NPU往往更局限于小型、重復(fù)性任務(wù),而GPU能更好地處理大型和新任務(wù)。重要的是,這兩種處理器能協(xié)同工作,提高系統(tǒng)的整體性能,就像在筆記本電腦中一樣。

神經(jīng)處理單元有哪些用途?

神經(jīng)處理單元 (NPU)可以加速人工智能機(jī)器學(xué)習(xí)任務(wù),如語(yǔ)音識(shí)別、視頻通話中的背景模糊處理,以及照片或視頻編輯過程(如物體檢測(cè))。

NPU代表什么?

NPU是神經(jīng)處理單元(Neural Processing Unit)的縮寫。NPU是一種人工智能芯片,執(zhí)行人工智能任務(wù)的速度比GPU和CPU更快。這可以減輕GPU和CPU的部分負(fù)荷,從而使計(jì)算機(jī)在執(zhí)行人工智能任務(wù)時(shí)可以更高效地工作。

NPU對(duì)游戲筆記本電腦有幫助嗎?

有,也沒有。專用圖形處理器在密集型游戲圖形方面承擔(dān)了大部分重任,而NPU則主要用于小型人工智能輔助。因此,NPU更適合用于超極本和筆記本電腦,而不是游戲筆記本電腦和游戲臺(tái)式機(jī)。

不過,NPU可以從GPU手中分擔(dān)一些任務(wù),讓GPU更有效地工作。如果系統(tǒng)的其他部分與CPU配合得當(dāng),這將帶來更好的每秒幀數(shù)和更流暢的游戲體驗(yàn)。

舉例來說,當(dāng)你關(guān)閉游戲并返回 Windows桌面時(shí),人工智能可以幫助檢測(cè)筆記本電腦何時(shí)應(yīng)該切換回集成顯卡,并繼續(xù)由NPU執(zhí)行相同的操作。集成顯卡是現(xiàn)代游戲筆記本電腦的一大特色,但它并不像專用顯卡那樣注重原始游戲性能。

OrangePi AIpro,20TOPS算力NPU,為AI賦能

去年,香橙派和華為昇騰強(qiáng)強(qiáng)聯(lián)手,推出了20TOPS算力NPU的AI開發(fā)板OrangePi AIpro,。OrangePi AIpro基于昇騰技術(shù)路線,包含多種AI應(yīng)用,如圖像分類、目標(biāo)檢測(cè)、圖像處理、手勢(shì)識(shí)別等。憑借其先進(jìn)的功能,它能讓機(jī)器人出色地完成各種任務(wù),并促進(jìn)自然語(yǔ)言處理與計(jì)算機(jī)視覺的融合。此外,它還支持AR陰影生成、實(shí)例分割、NLP和模式識(shí)別,使其成為技術(shù)領(lǐng)域的變革者。

wKgaomanO4CABFjdAAnWUoJ8Y6w918.png

在軟件方面,OrangePi AIpro為開發(fā)人工智能應(yīng)用提供全面的軟件支持。昇騰平臺(tái)可處理各種人工智能框架,支持的框架包括MindX DL、MindX Edge、ModelZoo、MindX SDK和MindSpore。此外,該平臺(tái)還提供與第三方框架的無縫集成,并支持異構(gòu)計(jì)算架構(gòu)。借助CANN等工具和MindStudio等全流水線開發(fā)工具鏈,開發(fā)人員可以為其人工智能應(yīng)用獲取一整套資源。

wKgaomanO3-ADi8fAAFkXcu5n6s116.png

硬件方面,Orange Pi AIpro版本配備了強(qiáng)大的4核64位處理器以及專用的AI和圖形處理器。以20T版本為例,它不僅支持雙4K輸出,帶來非凡的視覺體驗(yàn),還能方便地容納高達(dá)256 GB的eMMC存儲(chǔ)模塊。在內(nèi)存配置方面,你可以選擇12 GB或24 GB LPDDR4X內(nèi)存,速率可達(dá)4266Mbps。

Orange Pi AIpro開發(fā)板還提供多種接口,具有卓越的多功能性。這些接口包括GPIO接口、HDMI端口、支持NVMe 2280 SSD的M.2插槽、USB Type-C以及TF插槽。

此外,Orange Pi AIpro還為openEuler和Ubuntu操作系統(tǒng)提供了出色的支持。它能滿足人工智能算法原型驗(yàn)證和推理應(yīng)用開發(fā)的所有必要標(biāo)準(zhǔn)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 開發(fā)板
    +關(guān)注

    關(guān)注

    25

    文章

    4834

    瀏覽量

    96820
  • NPU
    NPU
    +關(guān)注

    關(guān)注

    2

    文章

    252

    瀏覽量

    18477
  • 人工智能芯片
    +關(guān)注

    關(guān)注

    1

    文章

    118

    瀏覽量

    28940
  • orange pi
    +關(guān)注

    關(guān)注

    0

    文章

    26

    瀏覽量

    2832
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    跳槽,對(duì)和你的boss都意味著什么

    跳槽時(shí)間要記住幾個(gè)數(shù)字:8、18、48一般情況下8個(gè)月內(nèi)離職都不是很好的選擇?,F(xiàn)在,一般公司的真實(shí)試用期都在3個(gè)月或6個(gè)月,8個(gè)月內(nèi)離職可能意味著沒有通過6個(gè)月的評(píng)估或第一個(gè)績(jī)效周期,除非是由于
    發(fā)表于 11-20 15:16

    在stm32中系統(tǒng)時(shí)鐘到底意味著什么???

    stm32任何程序都要先配置時(shí)鐘,這個(gè)時(shí)鐘到底意味著什么?有什么意義? 是否就是一種開關(guān)? 還是有什么其他作用?? 求大神回答 ~~~
    發(fā)表于 07-22 20:11

    請(qǐng)問diagnostic測(cè)試失敗意味著什么?板子有問題?

    本帖最后由 一只耳朵怪 于 2018-6-25 10:50 編輯 請(qǐng)問diagnostic測(cè)試失敗意味著什么?板子有問題?(ps:u***和emulation這兩項(xiàng)測(cè)試過了)。歡迎賜教,不勝感激。
    發(fā)表于 06-25 02:59

    單模模塊意味著什么?

    我們的產(chǎn)品里有CYBLY-022001的BLE芯片。在數(shù)據(jù)表中,它被描述為藍(lán)牙4.1“單模模塊”,單模模塊意味著什么?當(dāng)使用這個(gè)SoC時(shí),我是否能夠采用BT核心版本4.2的BT特征,比如廣告擴(kuò)展
    發(fā)表于 12-04 14:48

    FPGA的底板尺寸意味著什么

    嗨,在5月的研究文章中,提到FPGA的底板假定為64 * 64 ..有些假設(shè)為80 * 120。那它究竟意味著什么呢?這是否意味著CLB被放置在2D數(shù)組中作為矩形(W * H)并且總共(64
    發(fā)表于 03-22 14:52

    請(qǐng)問CARTIAN在函數(shù)CysLysIsStValualValuy中意味著什么?

    CARTIAN在函數(shù)CysLysIsStValualValuy中意味著什么?
    發(fā)表于 10-18 10:15

    新表中的變量變成紅色意味著什么?

    嗨,那里。我想問一個(gè)問題(對(duì)我來說非常重要),在單擊“繼續(xù)”按鈕之后(在調(diào)試模式下),附件中的變量變?yōu)榧t色。這意味著程序已經(jīng)經(jīng)歷了一個(gè)循環(huán)。但是其他變量不會(huì)改變顏色(應(yīng)該是)。為什么會(huì)這樣?請(qǐng)給我一些調(diào)試的線索。謝謝您。
    發(fā)表于 04-06 18:20

    請(qǐng)問端點(diǎn)是否意味著延遲?

    這是時(shí)間報(bào)告。我試圖從我的代碼中找到延遲。我無法專門找到延遲,但發(fā)現(xiàn)Max延遲高于此。這是最大延遲嗎?這是否意味著輸出需要138317個(gè)時(shí)鐘周期?如果不是這意味著什么?先謝謝你
    發(fā)表于 04-22 10:13

    請(qǐng)問導(dǎo)入SystemVerilog程序包意味著什么?

    導(dǎo)入SystemVerilog程序包意味著什么?
    發(fā)表于 12-11 06:53

    重負(fù)載和空載時(shí)的ZO意味著什么?

    最常用于小信號(hào)放大器的輸出拓?fù)浣榻B重負(fù)載和空載時(shí)的ZO意味著什么?
    發(fā)表于 04-08 06:40

    5G到底意味著什么?它能顛覆時(shí)代?

    5G意味著什么?意味著更快的上傳下載速度、炫酷的VR娛樂體驗(yàn)、城市物聯(lián)、無人駕駛、遠(yuǎn)程醫(yī)療。5G不僅僅是網(wǎng)速那么簡(jiǎn)單,它能顛覆時(shí)代!
    發(fā)表于 06-21 02:15 ?1884次閱讀

    5G對(duì)區(qū)塊鏈意味著什么

    G對(duì)于區(qū)塊鏈而言意味著什么?只有你想不到,更多的是沒想到!
    的頭像 發(fā)表于 11-12 11:08 ?3370次閱讀

    能量收集意味著什么?

    能量收集意味著什么?
    發(fā)表于 03-21 10:08 ?2次下載
    能量收集<b class='flag-5'>意味著</b>什么?

    鴻蒙開源意味著什么

    鴻蒙開源意味著什么?在華為開發(fā)者大會(huì)上,大家都為鴻蒙系統(tǒng)而激動(dòng),當(dāng)華為表示會(huì)開源的時(shí)候,現(xiàn)場(chǎng)掌聲雷動(dòng)。鴻蒙是華為的一個(gè)技術(shù)產(chǎn)品,鴻蒙好的話大家都點(diǎn)贊華為,鴻蒙不好的話也有人會(huì)噴華為。但是鴻蒙系統(tǒng)開源后,就沒那么簡(jiǎn)單了。那么鴻蒙開源意味著什么?
    的頭像 發(fā)表于 06-28 10:35 ?7607次閱讀

    解析OrangePi AIpro:什么是 TOPS,為什么它對(duì)?AI?PC很重要?

    隨著我們涉足AIPC領(lǐng)域,大量解釋新硬件和新功能的新術(shù)語(yǔ)不斷涌現(xiàn)。可能已經(jīng)注意到,許多現(xiàn)代筆記本電腦以及今年4月發(fā)布的AMDRyzenPRO8000臺(tái)式機(jī),都配備了包含神經(jīng)處理單元(NPU
    的頭像 發(fā)表于 07-29 14:50 ?313次閱讀
    <b class='flag-5'>解析</b><b class='flag-5'>OrangePi</b> <b class='flag-5'>AIpro</b>:什么是 TOPS,為什么<b class='flag-5'>它對(duì)</b>?AI?PC很重要?