國內(nèi)外MCU廠商在邊緣AI市場尋找機會！MCU如何運行AI算法？

電子發(fā)燒友網(wǎng)報道（文/李彎彎）MCU即微控制單元，是把CPU的頻率與規(guī)格做適當(dāng)縮減，并將內(nèi)存、USB等周邊接口，甚至LCD驅(qū)動電路都整合在單一芯片上，形成芯片級的計算機。隨著MCU算力進一步提升，高頻MCU的主頻已經(jīng)提升到GHz級別，可以滿足邊緣端低算力人工智能需求。將人工智能集成在MCU上，只用一顆芯片實現(xiàn)端側(cè)部署，正在成為新潮流。

MCU如何運行AI算法

這種集成了AI的MCU組成結(jié)構(gòu)大概包括幾個部分：中央處理器，負(fù)責(zé)讀取、解碼和執(zhí)行指令，進行算術(shù)、邏輯和數(shù)據(jù)傳輸操作；AI處理單元：它負(fù)責(zé)執(zhí)行AI算法和機器學(xué)習(xí)任務(wù)，AI處理單元通常包括神經(jīng)網(wǎng)絡(luò)處理器、加速器和其他專用硬件，用于高效地執(zhí)行深度學(xué)習(xí)、卷積神經(jīng)網(wǎng)絡(luò)等計算密集型任務(wù)。

存儲單元：包括程序存儲器和數(shù)據(jù)存儲器。程序存儲器用于存儲AI算法和程序代碼，而數(shù)據(jù)存儲器則用于存儲臨時數(shù)據(jù)和結(jié)果。輸入/輸出（I/O）端口：用于與外部傳感器、執(zhí)行器和其他設(shè)備進行通信，這些端口可以是數(shù)字、模擬或串行端口。

其他組件：如定時器/計數(shù)器、串行通信接口（如SPI、UART等）、內(nèi)存接口等，這些組件支持AI MCU與外部設(shè)備和系統(tǒng)進行通信和控制。此外，結(jié)構(gòu)和組成可能會因不同的應(yīng)用和需求而有所差異，一些高級的AI MCU可能還包含其他高級功能，如浮點運算單元（FPU）、硬件乘法器、數(shù)字信號處理器（DSP）等。

那么，MCU是如何運行AI算法的呢？從步驟上來看，首先需要模型轉(zhuǎn)換，即需要將訓(xùn)練好的AI模型轉(zhuǎn)換為MCU可以理解的格式，這通常涉及到使用特定的工具和框架，如TensorFlow Lite或Caffe 2，將模型轉(zhuǎn)換為低功耗、可移植的格式。

其次是模型優(yōu)化，在模型轉(zhuǎn)換后，為了提高在MCU上的運行效率，還需要對模型進行優(yōu)化。這包括壓縮模型大小、降低計算復(fù)雜度、減少內(nèi)存占用等。接著是模型部署，優(yōu)化后的AI模型可以部署到MCU上，這通常涉及到將模型下載到MCU的存儲器中，并使用MCU的處理器進行推理。

然后是數(shù)據(jù)預(yù)處理，在模型推理之前，需要對輸入數(shù)據(jù)進行預(yù)處理，這包括數(shù)據(jù)清洗、歸一化、特征提取等步驟，以確保輸入數(shù)據(jù)的質(zhì)量和有效性。最后便是推理執(zhí)行，即MCU根據(jù)預(yù)處理后的輸入數(shù)據(jù)執(zhí)行推理任務(wù)，推理結(jié)果可以用于控制MCU所連接的設(shè)備或系統(tǒng)，如智能家居設(shè)備、工業(yè)控制系統(tǒng)等。

MCU運行AI有它的優(yōu)缺點，優(yōu)點包括：1、MCU通常具有較低的功耗，適用于電池供電或功耗敏感的應(yīng)用場景；2、MCU可以實時處理和響應(yīng)數(shù)據(jù)，適用于需要快速響應(yīng)的應(yīng)用；3、MCU可以根據(jù)具體應(yīng)用需求進行定制，靈活性較高；4、MCU通常成本較低，適合大規(guī)模生產(chǎn)；5、MCU具有較高的可靠性和穩(wěn)定性，適用于對安全性和可靠性要求較高的應(yīng)用。

缺點則有：1、MCU的存儲器、處理器速度等資源有限，可能無法處理大規(guī)模的AI算法和數(shù)據(jù)；2、MCU的計算能力相對較弱，可能無法與高性能的GPU和服務(wù)器相媲美；3、MCU在數(shù)據(jù)傳輸方面可能存在限制，例如有限的I/O端口和通信接口；4、由于MCU資源限制和計算能力有限，開發(fā)人員可能需要針對MCU進行特定的優(yōu)化和裁剪工作，開發(fā)難度較大；5、由于MCU通常暴露在外部環(huán)境中，可能存在安全風(fēng)險，需要進行安全保護和認(rèn)證。

國內(nèi)外廠商在邊緣AI市場尋找機會

目前國內(nèi)外不少廠商都在探索通過MCU來實現(xiàn)AI在邊緣端的部署，歐美廠商包括ADI、ST、瑞薩電子、恩智浦、英飛凌等，國內(nèi)廠商中穎電子、國民技術(shù)、納思達、兆易創(chuàng)新等。

歐美廠商在這方面布局較早，如ADI，該公司從2020年開始，在傳統(tǒng)MCU的基礎(chǔ)上開拓了邊緣AI MCU產(chǎn)品線，能夠幫助電池供電設(shè)備更輕松地實現(xiàn)人工智能及物聯(lián)網(wǎng)應(yīng)用。

ADI的邊緣AI解決方案MAX7800X系列，由兩個微控制器內(nèi)核（ARM Cortex M4F和RISC-V）與一個卷積神經(jīng)網(wǎng)絡(luò)（CNN）加速器構(gòu)成，該架構(gòu)針對邊緣進行了高度優(yōu)化，數(shù)據(jù)的加載和啟動由微控制器內(nèi)核負(fù)責(zé)，而AI推理由卷積神經(jīng)網(wǎng)絡(luò)加速器專門負(fù)責(zé)?；趦蓚€硬件的分工合作，MAX7800X系列既不需聯(lián)網(wǎng)，也支持電池供電，大大滿足了邊緣AI的要求。

如ST，該公司認(rèn)為對于未來的MCU而言，最為重要的應(yīng)用趨勢是來自AI在邊緣端的部署。于是它在2017年開始探索AI和MCU的結(jié)合。2023年ST發(fā)布的一款集成NPU的MCU——STM32N6，是布局邊緣AI的一個重要的產(chǎn)品方向。STM32N6采用了Arm Cortex-M55內(nèi)核，內(nèi)部集成了ISP和NPU，可以提供卓越的機器視覺處理能力和AI算法部署。

同時，ST認(rèn)為，對于將MCU和AI的結(jié)合，軟件端的價值更大，于是他們開發(fā)了Cube.MX，它能夠打通AI算法和MCU應(yīng)用之間的屏障，讓實際的AI邊緣端應(yīng)用更加豐富。通過Cube.AI，開發(fā)者可以根據(jù)自己的需求來進行模型的搭建，將標(biāo)準(zhǔn)AI工具創(chuàng)建的深度神經(jīng)網(wǎng)絡(luò)模型，優(yōu)化到適合MCU資源級別的C代碼，使開發(fā)者的邊緣AI算法可以最終得以執(zhí)行和落地。

在國內(nèi)，多家廠商會有相關(guān)的研究計劃，國民技術(shù)此前在某平臺上透露，Cortex-M7內(nèi)核MCU可支持高算力的機器學(xué)習(xí)方面的AI應(yīng)用，未來將根據(jù)市場需求、研發(fā)計劃和技術(shù)情況合理布局。納思達稱，目前擁有面向深度學(xué)習(xí)應(yīng)用的專用計算自研平臺，針對MCU芯片，負(fù)責(zé)輕量級深度學(xué)習(xí)模型推理加速。

中穎電子去年9月在接受調(diào)研時表示，公司現(xiàn)在所有產(chǎn)品在細(xì)分領(lǐng)域都在做進口替代。公司不會投入在AI的核心算力部件，但對AI邊緣計算的MCU會投入研發(fā)。恒爍股份稱，公司正在開展基于MCU的AI應(yīng)用部署，推動超輕量AI算法模型在MCU芯片上運行，在離線終端設(shè)備上實現(xiàn)低功耗、低成本、實時的AI推理解決方案，盡快實現(xiàn)批量出貨。

寫在最后

未來，邊緣/終端設(shè)備的智能化滲透率將會不斷提升，而MCU作為各種電子產(chǎn)品重要的部件，在其中集成AI將會是非常適合的方式。從目前的情況來看，歐美不少廠商已經(jīng)早早布局，如ADI、ST、瑞薩等，中國臺灣廠商也在積極尋找機會，中國大陸的一些廠商也透露出了研究計劃。不過，雖然MCU運行AI有它的優(yōu)勢，同時它也面臨一些缺點和挑戰(zhàn)，MCU廠商想要入局也并不是一件容易的事。