什么是 NVIDIA AI Enterprise

人工智能正在改變行業(yè)，實(shí)現(xiàn)流程自動化，并在快速發(fā)展的技術(shù)格局中為創(chuàng)新開辟新的機(jī)會。隨著越來越多的企業(yè)認(rèn)識到將人工智能融入運(yùn)營的價(jià)值，他們面臨著高效、有效和可靠地實(shí)施這些技術(shù)的挑戰(zhàn)

NVIDIA AI Enterprise 是一個(gè)綜合軟件套件，旨在幫助組織大規(guī)模實(shí)施企業(yè)級 AI 、機(jī)器學(xué)習(xí)（ ML ）和數(shù)據(jù)分析，并提供安全性、可靠性、 API 穩(wěn)定性和企業(yè)級支持。

什么是 NVIDIA AI Enterprise ？

部署人工智能解決方案可能很復(fù)雜，需要專門的硬件和軟件，以及開發(fā)和維護(hù)這些系統(tǒng)的專業(yè)知識。 NVIDIA AI Enterprise 通過提供針對企業(yè)環(huán)境量身定制的工具、庫、框架和支持服務(wù)的完整生態(tài)系統(tǒng)來應(yīng)對這些挑戰(zhàn)

憑借 GPU – 加速計(jì)算能力， NVIDIA AI Enterprise 使企業(yè)能夠更高效、更經(jīng)濟(jì)高效地大規(guī)模運(yùn)行人工智能工作負(fù)載。 NVIDIA AI Enterprise 建立在 NVIDIA CUDA -X AI 軟件棧之上，提供高性能 GPU 加速計(jì)算能力

套房包括：

虛擬機(jī)管理系統(tǒng)：預(yù)配置的虛擬機(jī)映像，包括必要的驅(qū)動程序和軟件，以支持主要云中的 GPU 加速 AI 工作負(fù)載。

人工智能框架：可以在 VMI 中運(yùn)行的軟件（如 PyTorch 、 TensorFlow 、 RAPIDS 、支持 TensorRT 和 ONNX 的 NVIDIA Triton 等），作為人工智能開發(fā)和部署的基礎(chǔ)。

預(yù)訓(xùn)練模：可以按原樣使用或根據(jù)企業(yè)相關(guān)數(shù)據(jù)進(jìn)行微調(diào)的模型。

人工智能工作流：預(yù)先打包的參考示例，說明如何利用人工智能框架和預(yù)先訓(xùn)練的模型來構(gòu)建人工智能解決方案，以解決常見的業(yè)務(wù)問題。這些工作流程提供了關(guān)于微調(diào)預(yù)訓(xùn)練模型和人工智能模型創(chuàng)建的指導(dǎo)，以建立在 NVIDIA 框架上。重點(diǎn)介紹了創(chuàng)建應(yīng)用程序的管道，以及關(guān)于如何部署定制應(yīng)用程序并將其與企業(yè)環(huán)境中常見的各種組件集成的意見，例如用于編排和管理、存儲、安全和網(wǎng)絡(luò)的軟件?？捎玫娜斯ぶ悄芄ぷ髁靼ǎ?/p>

智能虛擬助理：全天候提供聯(lián)絡(luò)中心協(xié)助，以降低運(yùn)營成本。

音頻轉(zhuǎn)錄：基于 GPU 優(yōu)化模型的世界級準(zhǔn)確轉(zhuǎn)錄本。

數(shù)字指紋威脅檢測：網(wǎng)絡(luò)安全威脅檢測和警報(bào)優(yōu)先級，以更快地識別和采取行動。

下一項(xiàng)預(yù)測：個(gè)性化產(chǎn)品推薦，提高客戶參與度和忠誠度。

路線優(yōu)化：車輛和機(jī)器人路線優(yōu)化，以減少行程時(shí)間和燃油成本。

支持的帶有發(fā)布分支的軟件

使用 NVIDIA AI Enterprise 中可用軟件的主要好處之一是，它得到了 NVIDIA 的支持，以安全性和穩(wěn)定性為指導(dǎo)原則。 NVIDIA AI Enterprise 包括三個(gè)發(fā)布分支，以滿足不同行業(yè)和用例的不同需求：

最新發(fā)布分支：針對那些需要頂級軟件優(yōu)化的用戶，該分支將每月發(fā)布一次，確保用戶能夠獲得最新的功能和改進(jìn)。 CVE 補(bǔ)丁以及錯誤修復(fù)也將包含在前滾版本中。

生產(chǎn)發(fā)布處：該分支機(jī)構(gòu)專為優(yōu)先考慮 API 穩(wěn)定性的環(huán)境設(shè)計(jì)，將每月收到 CVE 補(bǔ)丁和錯誤修復(fù)，每年推出兩個(gè)新分支機(jī)構(gòu)，每個(gè)分支機(jī)構(gòu)的使用壽命為 9 個(gè)月。為了確保無縫過渡和支持，兩個(gè)連續(xù)的生產(chǎn)分支機(jī)構(gòu)之間將有 3 個(gè)月的重疊期。生產(chǎn)分支機(jī)構(gòu)將于 2023 年下半年投入使用。

長期釋放處：該分支機(jī)構(gòu)專為長期支持至關(guān)重要的高度監(jiān)管行業(yè)量身定制，每季度將收到 CVE 補(bǔ)丁和錯誤修復(fù)，并為特定版本提供長達(dá) 3 年的支持。與這種長期穩(wěn)定性互補(bǔ)的是 6 個(gè)月的重疊期，以確保版本之間的平穩(wěn)過渡，從而為這些高度監(jiān)管的行業(yè)提供所需的壽命和一致性。

圖 1 。 NVIDIA AI Enterprise 的三個(gè)發(fā)布分支滿足不同行業(yè)和用例的不同需求

如何將 NVIDIA AI Enterprise 與 Microsoft Azure 機(jī)器學(xué)習(xí)結(jié)合使用

Microsoft Azure Machine Learning是一個(gè)用于在云端和本地進(jìn)行人工智能開發(fā)的平臺，提供用于訓(xùn)練、實(shí)驗(yàn)、部署和監(jiān)控模型的服務(wù)，以及為大型語言模型設(shè)計(jì)和構(gòu)建提示流的服務(wù)。Azure 機(jī)器學(xué)習(xí)是一個(gè)開放平臺，支持所有流行的機(jī)器學(xué)習(xí)框架和工具包，包括 NVIDIA AI Enterprise 的框架和工具包。

此次合作通過將 NVIDIA AI 軟件與 Azure 機(jī)器學(xué)習(xí)培訓(xùn)和推理平臺集成，優(yōu)化了運(yùn)行 NVIDIA 人工智能軟件的體驗(yàn)。用戶不再需要花費(fèi)時(shí)間設(shè)置培訓(xùn)環(huán)境、安裝軟件包、編寫培訓(xùn)代碼、記錄培訓(xùn)指標(biāo)和部署模型。通過這種集成，用戶將能夠利用 NVIDIA 企業(yè)級軟件的強(qiáng)大功能，補(bǔ)充 Azure 機(jī)器學(xué)習(xí)的高性能和安全基礎(chǔ)設(shè)施，構(gòu)建生產(chǎn)級人工智能工作流

要從今天開始，請執(zhí)行以下步驟：

1 .登錄 Microsoft Azure 并啟動 Azure 機(jī)器學(xué)習(xí)工作室。

2 .從 NVIDIA AI 企業(yè)預(yù)覽注冊表中查看和訪問所有預(yù)構(gòu)建的 NVIDIA 人工智能企業(yè)組件、環(huán)境和模型（圖 2 ）。

圖 2 。 Azure 機(jī)器學(xué)習(xí)上的 NVIDIA AI 企業(yè)預(yù)覽注冊表

3 .在工作空間中使用這些資產(chǎn)，通過簡單的拖放在設(shè)計(jì)器中創(chuàng)建 ML 管道（圖 3 ）

圖 3 。使用 NVIDIA AI Enterprise 組件的 Azure 機(jī)器學(xué)習(xí)中的管道

在 Azure 機(jī)器學(xué)習(xí)注冊表中查找 NVIDIA AI Enterprise 示例資產(chǎn)。您可以在 NVIDIA_AI_Enterprise_AzureML GitHub 上查看預(yù)覽資產(chǎn)的代碼。

用例：身體姿勢估計(jì)

使用 NVIDIA AI 企業(yè)預(yù)覽注冊表中的各種元素非常容易。此示例展示了使用 NVIDIA DeepStream 進(jìn)行身體姿勢估計(jì)的計(jì)算機(jī)視覺任務(wù)。NVIDIA TAO 工具包 提供了身體姿勢模型的基礎(chǔ)，以及使用新數(shù)據(jù)對其進(jìn)行細(xì)化的能力。

圖 4 顯示了一個(gè)視頻分析管道示例，該示例運(yùn)行 NVIDIA DeepStream 示例應(yīng)用程序進(jìn)行身體姿勢估計(jì)。它在 GPU 集群上運(yùn)行，可以輕松調(diào)整以利用更新的模型和視頻，釋放 Azure 機(jī)器學(xué)習(xí)平臺的力量。

圖 4 。使用 Azure 機(jī)器學(xué)習(xí)進(jìn)行身體姿勢估計(jì)的 NVIDIA TAO 工具包和 NVIDIA DeepStream

該示例包括為存儲 DeepStream 示例應(yīng)用程序命令組件的輸入而創(chuàng)建的兩個(gè)基于 URI 的數(shù)據(jù)資產(chǎn)。數(shù)據(jù)資產(chǎn)利用了 NVIDIA AI Enterprise Registry 中現(xiàn)成的預(yù)訓(xùn)練模型。它們還包括額外的校準(zhǔn)和標(biāo)簽信息。

DeepStream 身體姿勢命令組件配置為使用 Microsoft Azure blob 存儲。該組件會檢查輸入目錄中是否有需要推斷的新視頻文件。當(dāng)發(fā)現(xiàn)新文件時(shí)，組件會拾取該文件并執(zhí)行身體姿勢推斷。輸出的視頻中包含邊界框和跟蹤線，并存儲在輸出目錄中。

您可以通過基于 TAO 工具包的訓(xùn)練管道對這些樣本中的每一個(gè)進(jìn)行改進(jìn)，該管道可以執(zhí)行遷移學(xué)習(xí)，從而改變模型輸出以適應(yīng)特定的用例。您可以在 NGC 上的 TAO Toolkit 計(jì)算機(jī)視覺樣本工作流 中找到它們。

開始在 Azure 機(jī)器學(xué)習(xí)上使用 NVIDIA AI Enterprise

NVIDIA AI Enterprise 和 Azure Machine Learning 共同打造了 GPU 加速計(jì)算和全面的基于云的機(jī)器學(xué)習(xí)平臺的強(qiáng)大組合，使企業(yè)能夠更高效地開發(fā)和部署 AI 模型。這種協(xié)同效應(yīng)使企業(yè)能夠利用云資源的靈活性，同時(shí)利用 NVIDIA GPU 和軟件的性能優(yōu)勢

要在 Azure 機(jī)器學(xué)習(xí)上使用 NVIDIA AI Enterprise，請注冊一個(gè)技術(shù)預(yù)覽版。這將使您能夠訪問 Azure 機(jī)器學(xué)習(xí)上 NVIDIA AI 企業(yè)預(yù)覽注冊表中的所有預(yù)構(gòu)建組件、環(huán)境和模型。