全新 NVIDIA Jetson Orin NX 16GB 大幅提升邊緣 AI 性能

借去年 NVIDIA Jetson 邊緣 AI 設(shè)備擴(kuò)展之勢(shì)，NVIDIA Jetson Orin NX 16GB 模塊現(xiàn)已在全球上市。

Jetson Orin NX 16 GB 模塊具有無(wú)與倫比的性能和效率，適用于小型低功耗機(jī)器人和自主機(jī)器，因此是無(wú)人機(jī)、手持設(shè)備等產(chǎn)品的不二之選。該模塊可以輕松用于制造、物流、零售、農(nóng)業(yè)、醫(yī)療和生命科學(xué)領(lǐng)域的先進(jìn)應(yīng)用，并采用高度緊湊而節(jié)能的封裝。

該模塊是尺寸最小的 Jetson，但卻能夠提供高達(dá) 100TOPS 的 AI 性能，功率可在 10W 至 25W 之間調(diào)節(jié)。它為開(kāi)發(fā)者提供了 NVIDIA Jetson AGX Xavier 的 3 倍性能和 NVIDIAJetson Xavier NX 的 5 倍性能。

這款系統(tǒng)模塊采用 NVIDIA Ampere 架構(gòu) GPU、新一代深度學(xué)習(xí)和視覺(jué)加速器、高速 I/O 以及快速內(nèi)存帶寬支持多個(gè) AI 應(yīng)用流程。您能在自然語(yǔ)言理解、3D 感知和多傳感器融合方面使用更大、更復(fù)雜的 AI 模型開(kāi)發(fā)解決方案。

NVIDIA 使用 NVIDIA JetPack 5.1 運(yùn)行了一些計(jì)算機(jī)視覺(jué)基準(zhǔn)測(cè)試，展示了其性能上的巨大飛躍。測(cè)試中運(yùn)行了 NGC 的一些密集 INT8 和 FP16 預(yù)訓(xùn)練模型，并且為了進(jìn)行對(duì)比，也在 JetsonXavier NX 上運(yùn)行了同樣的模型。

以下是完整基準(zhǔn)測(cè)試列表：

• 具有最高人員檢測(cè)精度的NVIDIA PeopleNet v2.5

• 用于 2D 和 3D 模型的NVIDIA ActionRecognitionNet

• 用于車(chē)牌識(shí)別的NVIDIA LPRNet

• 用于物體檢測(cè)和標(biāo)記的NVIDIA DashCamNet

• 用于多人人體姿勢(shì)估計(jì)的NVIDIA BodyPoseNet

這些基準(zhǔn)測(cè)試的幾何平均值表明，Jetson Orin NX 的性能與 JetsonXavier NX 相比提升了 2.1 倍。隨著未來(lái)軟件的優(yōu)化，預(yù)計(jì)兩者在密集型基準(zhǔn)測(cè)試中的性能差距將擴(kuò)大到接近 3.1 倍。其他 Jetson 設(shè)備的性能自首次發(fā)布配套軟件以來(lái)提高了 1.5 倍，預(yù)計(jì) JetsonOrin NX 16 GB 也是如此。

Jetson Orin NX 還提供了對(duì)稀疏性的支持，這將進(jìn)一步提升性能。您可以利用深度學(xué)習(xí)網(wǎng)絡(luò)中的細(xì)粒度結(jié)構(gòu)化稀疏性來(lái)提高 TensorCore 的運(yùn)行吞吐量。

圖1：計(jì)算機(jī)視覺(jué)預(yù)訓(xùn)練模型基準(zhǔn)測(cè)試

所有 Jetson Orin 模塊都運(yùn)行全球標(biāo)準(zhǔn)的 NVIDIA AI 軟件堆棧。在服務(wù)和產(chǎn)品生態(tài)系統(tǒng)的支持下，您的產(chǎn)品將以前所未有的速度上架。同樣于今天發(fā)布的 NVIDIAJetPack 5.1支持 OrinNX 16 GB 和 Jetson Orin 上的最新 CUDA-X 堆棧。

另外，Jetson 合作伙伴生態(tài)系統(tǒng)支持 Jetson Orin NX 16 GB 模塊的各種載板和外設(shè)，如傳感器、攝像頭、連接模塊（5G、4G、Wi-Fi）等。

選件包括：

• 合作伙伴支持的硬件系統(tǒng) （載板和完整系統(tǒng)）

• 合作伙伴支持的攝像頭模塊

NVIDIA Jetson AGX Orin 開(kāi)發(fā)者套件現(xiàn)在也已上市。該套件支持整個(gè) Jetson Orin 模塊系列的軟件仿真，其中包括 JetsonOrin NX 16 GB 模塊。

開(kāi)始使用Jetson AGX Orin 開(kāi)發(fā)者套件：https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/jetson-orin/

您可在Jetson 下載中心（https://developer.nvidia.com/embedded/downloads）獲取并閱讀 NVIDIA Jetson Orin NX 文檔。更多信息和支持，請(qǐng)參見(jiàn)NVIDIA 嵌入式開(kāi)發(fā)者頁(yè)面和Jetson 論壇。

Jetson Orin NX 16 GB現(xiàn)已上市。中國(guó)購(gòu)買(mǎi)渠道鏈接：

• 聯(lián)強(qiáng)國(guó)際：

  http://www.synnex.com.tw/action/component-4/nvidia.html

• 中電港艾矽易（iCEasy）：

  https://www.iceasy.com/3324/1023684110.shtml

• 艾睿電子：

  https://www.arrow.com/en/products/orin-nx-16gb-som/nvidia

掃描下方海報(bào)二維碼，即可免費(fèi)注冊(cè) GTC 23，切莫錯(cuò)過(guò)這場(chǎng) AI 和元宇宙時(shí)代的技術(shù)大會(huì)！