金秋已至。伴著涼爽的秋風(fēng)一起到來(lái)的,還有 OpenVINO 工具套件剛剛推出的最新版本 OpenVINO 2022.2。除了能支持英特爾今年新推出的一系列獨(dú)立顯卡進(jìn)行 AI 模型的推理加速及部署外,2022.2的新版本中還有哪些亮眼的新特性呢?讓我們一起來(lái)看看吧。
01
更廣泛的模型和硬件支持
新增包括英特爾獨(dú)立顯卡等的硬件支持,并減少動(dòng)態(tài)輸入時(shí)的內(nèi)存消耗、提升 NLP 應(yīng)用效率。
02
更好的性能及可移植性
通過(guò)跨 CPU、GPU 等的自動(dòng)設(shè)備發(fā)現(xiàn)(automatic device discovery)功能、負(fù)載平衡和動(dòng)態(tài)推理并行,立即提高性能。
03
更多的集成
與深度學(xué)習(xí)框架實(shí)現(xiàn)更好的集成,以最少的代碼更改,更好地與框架保持一致。
下面讓我們一起來(lái)詳細(xì)了解一下這些主要的新特性。
01
更廣泛的模型和硬件支持
OpenVINO 2022.2 新版本提供了更廣法的模型和硬件支持,包括:
01
新增:支持英特爾 第13代酷睿 臺(tái)式機(jī)處理器(代號(hào)為 Raptor Lake);
02
新增:支持用于深度學(xué)習(xí)推理工作負(fù)載的獨(dú)立顯卡,包括英特爾 數(shù)據(jù)中心 GPU Flex 系列和英特爾 Arc,可用于智能云、邊緣和媒體分析工作負(fù)載;
03
新增:對(duì)第四代英特爾 至強(qiáng) 可擴(kuò)展處理器(代號(hào)為Sapphire Rapids)的預(yù)覽支持,測(cè)試您的模型性能;
04
優(yōu)化減少動(dòng)態(tài)輸入時(shí) CPU 的內(nèi)存消耗,從而更高效支持自然語(yǔ)言處理(NLP)的應(yīng)用。
02
更好的性能及可移植性
通過(guò)跨 CPU、GPU 等的自動(dòng)設(shè)備發(fā)現(xiàn)、負(fù)載平衡和動(dòng)態(tài)推理并行性,立即看到性能提升。
01
新增:在 AUTO 功能中引入新的性能傾向選擇“Cumulative
throughput”,使多個(gè)加速器(例如多個(gè) GPU)可被添加到 AUTO 的自動(dòng)發(fā)現(xiàn)、配置的基本功能中,能夠被同時(shí)使用,以最大限度地提高推理性能。
02
推出英特爾 FPGA AI Suite,在這個(gè)易于使用的軟件包中實(shí)現(xiàn)實(shí)時(shí)、低延遲和低功耗的深度學(xué)習(xí)推理。
03
更多的集成
面向尚未安裝本機(jī) OpenVINO 工具套件的用戶,提供了更多的與深度學(xué)習(xí)框架的集成,使得開(kāi)發(fā)者使用和維護(hù)代碼更加簡(jiǎn)單方便,同時(shí)保持更新時(shí)需要修改的代碼最少。
01
最近更新的 OpenVINO Execution Provider for ONNX Runtime 通過(guò)輕松添加 OpenVINO,為 ONNX 運(yùn)行時(shí)開(kāi)發(fā)人員提供了更多性能優(yōu)化選擇。
02
新增:通過(guò) OpenVINO 與 PyTorch ONNX Runtime 的融合(OpenVINO Torch-ORT),加速 PyTorch 模型推理?,F(xiàn)在,PyTorch 開(kāi)發(fā)人員可以更無(wú)縫地與 OpenVINO 集成,并通過(guò)更少的代碼更改獲得性能提升。OpenVINO 與 TensorFlow 的集成現(xiàn)在支持更深入的學(xué)習(xí)模型和改進(jìn)的推理性能。
03
OpenVINO 與 TensorFlow 的集成現(xiàn)在支持更深入的學(xué)習(xí)模型和改進(jìn)的推理性能。
以上就是OpenVINO 2022.2新版本的主要新特性介紹,除此之外,新版本中還增加了一些新的算子的支持,增加了對(duì)集成顯卡的優(yōu)化等等。
-
英特爾
+關(guān)注
關(guān)注
60文章
9814瀏覽量
171111 -
gpu
+關(guān)注
關(guān)注
27文章
4627瀏覽量
128439 -
硬件
+關(guān)注
關(guān)注
11文章
3161瀏覽量
66002 -
AI
+關(guān)注
關(guān)注
87文章
29347瀏覽量
267630 -
模型
+關(guān)注
關(guān)注
1文章
3054瀏覽量
48569
原文標(biāo)題:官宣:支持英特爾獨(dú)立顯卡的OpenVINO? 2022.2新版本來(lái)啦
文章出處:【微信號(hào):英特爾物聯(lián)網(wǎng),微信公眾號(hào):英特爾物聯(lián)網(wǎng)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論