TinyML人工智能算法的運行離不開計算的硬件 - 微控制器(MCU),借助TinyML工具、NPU的硬件加速以及平臺化的部署,大大提升微控制器(MCU)產(chǎn)品的計算效能,為人工智能應(yīng)用開辟了新的發(fā)展市場。眾多微控制器廠商的共同參與,也為市場提供了更多更具創(chuàng)新的產(chǎn)品或解決方案。這也將為“兼容機”時代的微控制器(MCU)帶來了新的發(fā)展機遇,必將會開啟新一個賽道。
AI正在推動邊緣更加智能化,而邊緣設(shè)備也讓AI無處不在。可以預(yù)見,未來十年,AI將成為推動MCU市場增長的主要力量。隨著AI深入到邊緣和終端裝置,邊緣計算的發(fā)展成為推動全球MCU市場增長的主要趨勢之一。以前的AI運算和機器學(xué)習(xí)主要在云端完成,但現(xiàn)在它們正在逐漸向邊緣端發(fā)展。而邊緣AI并不會止步于手機、電腦這些具備SoC級別算力的終端,而是會繼續(xù)向著MCU為主控的物聯(lián)網(wǎng)設(shè)備蔓延。隨著AI在邊緣的落地,硬件CNN在端側(cè)MCU的集成已經(jīng)成為一種技術(shù)趨勢。
微控制器(MCU)廠商并購人工智能公司布局TinyML
- 2021年5月,意法半導(dǎo)體收購邊緣AI軟件專業(yè)開發(fā)公司Cartesiam
- 2022 年 7 月,瑞薩電子收購了嵌入式AI解決方案優(yōu)秀供應(yīng)商Reality Analytics, Inc.(Reality AI)
- 2023 年 5 月 ,英飛凌宣布已收購TinyML初創(chuàng)企業(yè)Imagimob公司
- 2023 年 8 月,Nordic公司宣布收購美國人工智能和機器學(xué)習(xí)公司Atlazo
BTW
ST將推出集成NPU的STM32N6,NXP推出了集成一個DSP協(xié)處理器和神經(jīng)處理單元(NPU)的MCX產(chǎn)品組合,Microchip提供 MPLAB 機器學(xué)習(xí)開發(fā)套件來提升其產(chǎn)品的機器學(xué)習(xí)能力。
布局TinyML的路徑
從目前各微控制器(MCU)廠家和業(yè)界的應(yīng)用情況來看,布局TinyML的路徑大致有以下三個:
TinyML工具
集成神經(jīng)網(wǎng)絡(luò)處理器(Neural Processing Unit,NPU)協(xié)處理器
TinyML平臺
相對于大語言模型來說,TinyML 是一種小的或極小規(guī)模的機器學(xué)習(xí)。TinyML本身是一種軟件算法,是對數(shù)據(jù)分析和處理的一種計算處理方法,通過構(gòu)建機器學(xué)習(xí)模型來進(jìn)行推理,業(yè)界也有一些通用的TinyML機器學(xué)習(xí)模型。TinyML需要借助軟件和工具對采集來的數(shù)據(jù)進(jìn)行分析和處理、推理和驗證等。在不斷地對模型進(jìn)行優(yōu)化處理后,還需要將將其轉(zhuǎn)換為微控制器(MCU)這類性能較弱、資源較少的微控制器(MCU)可以運行的固件。TinyML工具有助于人工智能的開發(fā)應(yīng)用,讓復(fù)雜的人工智能軟件的開發(fā)變得簡單快捷。
NPU是一種神經(jīng)網(wǎng)絡(luò)單元,專用于神經(jīng)網(wǎng)絡(luò)的計算,隨著人工智能應(yīng)用對計算資源的需求越來越高、任務(wù)越來越復(fù)雜,對神經(jīng)網(wǎng)絡(luò)的計算需求要求也越來越高,微控制器(MCU)中的ALU(算術(shù)運算單元AU和邏輯運算單元LU)不足以支持復(fù)雜的神經(jīng)網(wǎng)絡(luò)的計算需求,將NPU硬件化并集成在微控制器(MCU)內(nèi)部作為協(xié)處理器,可以大大提升人工智能應(yīng)用的計算效率。NPU實質(zhì)上也是一種專用的硬件計算單元。
一般地,基于微控制器(MCU)設(shè)計開發(fā)的產(chǎn)品,其固件可以用幾年,甚至到其生命周期才結(jié)束。固件在其驗證穩(wěn)定后一般不再需要更改。隨著產(chǎn)品部署規(guī)模的不斷擴大,產(chǎn)品不斷地迭代更新,需要對微控制器(MCU)中的固件進(jìn)行更新,通過一個平臺可以對設(shè)備進(jìn)行較好的管理和維護(hù)。而TinyML平臺不僅需要對固件進(jìn)行迭代升級,還可以對數(shù)據(jù)進(jìn)行收集、機器學(xué)習(xí)模型不斷地進(jìn)行訓(xùn)練,不斷地優(yōu)化模型,使得模型的精度越來越高。另一方面,本地的微控制器(MCU)的計算資源,不足以支持大量數(shù)據(jù)的存儲和對模型訓(xùn)練優(yōu)化等任務(wù)。TinyML需要一個高性能的計算平臺來支撐人工智能產(chǎn)品的不斷迭代。
國內(nèi)MCU廠商大部分仍處于模仿兼容傳統(tǒng)STM32的同質(zhì)化水平,忙于內(nèi)卷比拼價格,生存還是個問題,基本上還顧不上未來的布局。
下一個loT市場將重構(gòu)
根據(jù)loTAnalytics的數(shù)據(jù),2022年全球活躍的物聯(lián)網(wǎng)設(shè)備連接數(shù)達(dá)到了143億個,預(yù)計到2027年數(shù)量將達(dá)到297億個,年復(fù)合增長率達(dá)16%。
從通用MCU到IoT MCU,再到具備TinyML特質(zhì)的IoT MCU,微控制器的發(fā)展與整個消費電子設(shè)備的演進(jìn)浪潮緊密相連。單品MCU已經(jīng)不足以滿足當(dāng)下IoT開發(fā)者的需求,選擇一顆MCU即選擇了一個完整的開發(fā)生態(tài)。
在AIoT時代,MCU的變化需要兼顧硬件和軟件兩個方面。
- 在硬件層面,要求更高的處理能力、更多的安全組件、多種連接能力以及更低功耗;
- 在軟件層面,操作系統(tǒng)從任務(wù)調(diào)度發(fā)展為IoT OS平臺,軟件復(fù)雜度大幅增加,需要平臺級軟件及工具;
- 在生態(tài)系統(tǒng)層面,各種云服務(wù)公司進(jìn)入嵌入式系統(tǒng)生態(tài)圈,并且與算法公司、純軟件公司合作增多。
此外,生態(tài)層面的變化也正在拉開大幕。在AIoT時代,眾多云服務(wù)公司進(jìn)入到嵌入式領(lǐng)域,MCU需要開放API接口等;而且MCU需要與算法公司進(jìn)行合作,以適配實現(xiàn)高效算力;操作系統(tǒng)層面云服務(wù)廠商的染指也將引發(fā)更多的爭斗。
而無線模組硬件成本的大幅縮減往往意味著,AIoT行業(yè)正在從拓荒期進(jìn)入成長期,從小規(guī)模的摸索嘗試轉(zhuǎn)向大規(guī)模的經(jīng)驗復(fù)制。這表明AIoT時代的嵌入式系統(tǒng)由功能型向體驗型方向轉(zhuǎn)型,保持高效就需要分工,并要產(chǎn)生聚集效應(yīng)實現(xiàn)規(guī)模化。
結(jié)尾:
在人工智能時代,MCU這個芯片領(lǐng)域的資深前輩仍然能夠保持其領(lǐng)先地位,展現(xiàn)出歷久彌新的特質(zhì)。在可以預(yù)見的未來,MCU將成為物聯(lián)網(wǎng)邊緣不可或缺的核心組件。我們正在邁入AIoT時代,AI深入到邊緣和終端裝置,已經(jīng)是一個長期必然的大方向。做好技術(shù)準(zhǔn)備國產(chǎn)廠商方能迎接未來轉(zhuǎn)折窗口的挑戰(zhàn)。
審核編輯 黃宇
-
微控制器
+關(guān)注
關(guān)注
48文章
7392瀏覽量
150622 -
mcu
+關(guān)注
關(guān)注
146文章
16785瀏覽量
349317 -
AI
+關(guān)注
關(guān)注
87文章
29349瀏覽量
267631 -
人工智能
+關(guān)注
關(guān)注
1789文章
46302瀏覽量
236464 -
TinyML
+關(guān)注
關(guān)注
0文章
42瀏覽量
1200
發(fā)布評論請先 登錄
相關(guān)推薦
評論