NPU時代來臨，瑞芯微AI芯片與Paddle Lite完成適配

5月13日，百度飛槳開源深度學習平臺與瑞芯微Rockchip旗下AI芯片RK1808、RK1806正式完成適配，充分兼容飛槳輕量化推理引擎Paddle Lite。此次百度與瑞芯微的合作，旨在為AI行業(yè)賦能更多應(yīng)用場景，加速AI產(chǎn)品落地進程。

在AI時代，深度學習框架和操作系統(tǒng)類似，起著承上啟下的作用，連接芯片與應(yīng)用。擁有強大算力的AI芯片加持，AI技術(shù)將得到更廣泛普及。

NPU時代來臨軟硬結(jié)合性能優(yōu)化

飛槳產(chǎn)業(yè)級深度學習開源平臺以百度多年的深度學習技術(shù)研究和產(chǎn)業(yè)應(yīng)用為基礎(chǔ)，集深度學習核心訓練和預測框架、基礎(chǔ)模型庫、端到端開發(fā)套件、工具組件和服務(wù)平臺于一體，2016年正式開源，是中國極具影響力的全面開源開放、技術(shù)領(lǐng)先、功能完備的產(chǎn)業(yè)級深度學習平臺。Paddle Lite是飛槳推出的一套功能完善、易用性強且性能卓越的輕量化推理引擎，支持多種硬件、多種平臺，具備輕量化部署、高性能實現(xiàn)等重要特性。

瑞芯微RK18xx系列芯片適配Paddle Lite

瑞芯微AI芯片RK1808及RK1806，內(nèi)置獨立NPU神經(jīng)計算單元，INT8 算力高達3.0TOPs；采用22nm FD-SOI工藝，相同性能下的功耗相比主流28nm工藝產(chǎn)品降低約30%，在算力、性能、功耗等指標上均有優(yōu)異的表現(xiàn)。經(jīng)實測，瑞芯微AI芯片在Paddle Lite中運行MobileNet V1耗時僅為6.5 ms，幀率高達153.8 FPS，二者充分兼容并高效穩(wěn)定運行。

如下圖所示的實測結(jié)果可以看出，與手機等移動端常用的國內(nèi)外主流CPU相比，RK18系列NPU在MobileNET_v1的耗時表現(xiàn)出色，由此證明在AI相關(guān)領(lǐng)域，如圖像分類、目標檢測、語音交互上，專用的AI芯片將帶來更出色的效果。

瑞芯微RK18xx系列芯片在 MobileNETV1上對比主流CPU 性能卓越

通過適配飛槳開源深度學習平臺，瑞芯微芯片將能更好地賦能國內(nèi)用戶的業(yè)務(wù)需求，為端側(cè)AI提供強勁算力；二者的融合，將充分發(fā)揮軟硬件結(jié)合的優(yōu)勢，加快開發(fā)部署速度，推動更多AI應(yīng)用的落地。

國產(chǎn)芯合作升級實操教程詳解

在飛槳上，瑞芯微AI芯片的詳細操作方法可參考Paddle Lite文檔，內(nèi)容涵蓋支持的芯片、設(shè)備列表、Paddle模型與算子及參考示例演示等等。

測試設(shè)備

此外，除RK1808及RK1806芯片解決方案外，瑞芯微旗下搭載NPU的AI系列芯片也將陸續(xù)升級適配百度飛槳，進一步深化雙方合作關(guān)系，攜手助力我國自主可控AI生態(tài)的構(gòu)建。

責任編輯：pj