資料介紹
將AI推向邊緣的影響
在上一篇文章中,我們探索了將AI推向網(wǎng)絡(luò)邊緣的一些有力論點(diǎn)。本篇連載文章中,我們將討論哪些AI應(yīng)用能真正從這種方法中受益。首先,回顧一下在網(wǎng)絡(luò)邊緣實(shí)施AI的原因便可以略知一二。請(qǐng)查看以下任何一項(xiàng)是否適用于您的項(xiàng)目:
-
無(wú)法訪問(wèn)快速、穩(wěn)定的網(wǎng)絡(luò)連接
-
產(chǎn)品在受限環(huán)境中運(yùn)行
-
項(xiàng)目需要交付實(shí)時(shí)AI
- 可用預(yù)算有限
考慮到上述因素,通過(guò)在邊緣運(yùn)行ML模型可以使哪些具體的AI項(xiàng)目更容易運(yùn)行?
虛擬助手
Apple在2010年推出了Siri,一如既往地再次引領(lǐng)了潮流。這為其他許多虛擬助手鋪平了道路,其中最著名的便是亞馬遜的Alexa和Google Assistant。虛擬助手使科幻風(fēng)格的語(yǔ)音控制成為現(xiàn)實(shí),并通過(guò)以下方式工作:
- 首先要說(shuō)一個(gè)喚醒詞或啟動(dòng)語(yǔ)音助手。對(duì)于Amazon Echo這樣的獨(dú)立式設(shè)備,則會(huì)不斷監(jiān)聽(tīng)喚醒詞,并使用簡(jiǎn)單的語(yǔ)音模式匹配在本地進(jìn)行處理。這就是為什么Alexa僅識(shí)別特定喚醒詞(Alexa、Amazon、Echo和計(jì)算機(jī))的原因;
- 設(shè)備現(xiàn)在連接到云端服務(wù)器,并發(fā)送收聽(tīng)內(nèi)容的錄音;
- 云服務(wù)器運(yùn)行語(yǔ)音到文本ML模型,將錄制的語(yǔ)音轉(zhuǎn)換為自然語(yǔ)言文本塊;
- 文本則會(huì)借助自然語(yǔ)言處理解析以提取含義;
- 服務(wù)器會(huì)計(jì)算出所請(qǐng)求的內(nèi)容,然后將適當(dāng)?shù)拿罨騼?nèi)容發(fā)送回設(shè)備。
- 通過(guò)將ML模型移到邊緣來(lái)改善這種體驗(yàn)的效果顯而易見(jiàn):語(yǔ)音助手將具有更快的響應(yīng)速度、不需要連接到互聯(lián)網(wǎng)即可嵌入語(yǔ)音控制。也就是說(shuō),被調(diào)用的應(yīng)用程序本身可能需要網(wǎng)絡(luò)連接(例如音樂(lè)流媒體服務(wù))。
面部識(shí)別
面部識(shí)別是發(fā)展速度最快的AI應(yīng)用之一。這一技術(shù)仍在發(fā)展,一路上小問(wèn)題不斷。例如,兩年前,亞馬遜旗下的Rekognition深陷種族主義的爭(zhēng)議和指控之中。這套系統(tǒng)在接受了2.5萬(wàn)張圖像的訓(xùn)練后,錯(cuò)誤地將28個(gè)美國(guó)少數(shù)族裔議員識(shí)別為臭名遠(yuǎn)播的罪犯。
2019年,英國(guó)最大的警察機(jī)關(guān)大都會(huì)警察局 (Met) 對(duì)面部識(shí)別技術(shù)進(jìn)行了早期試驗(yàn),結(jié)果顯示這項(xiàng)技術(shù)在81%的時(shí)候都不準(zhǔn)確。但是,最新的面部識(shí)別系統(tǒng)正在變得越來(lái)越準(zhǔn)確。Met今年年初宣布將在大型活動(dòng)中采用這項(xiàng)技術(shù)掃描已證實(shí)的鬧事者。
許多需要面部識(shí)別的用例都需要這項(xiàng)技術(shù)近乎實(shí)時(shí)地工作。因此,應(yīng)用程序更依賴于將ML模型移動(dòng)到網(wǎng)絡(luò)邊緣。Met所采用的系統(tǒng)基于NEC NeoFace Watch,它是完全獨(dú)立的設(shè)備,并具備實(shí)時(shí)工作能力。NEC的技術(shù)還瞄準(zhǔn)了其他幾個(gè)市場(chǎng),包括零售、企業(yè)活動(dòng)、節(jié)日和其他大型活動(dòng)以及交通運(yùn)輸。
實(shí)時(shí)監(jiān)控
重工業(yè)和采礦業(yè)依賴于極其龐大和昂貴的機(jī)械。如果這種機(jī)器出現(xiàn)意外停機(jī),企業(yè)可能會(huì)蒙受數(shù)以百萬(wàn)計(jì)的損失。例如,許多采礦作業(yè)都依賴于巨型大功率泵來(lái)保持巷道無(wú)水,并將開(kāi)采出的泥漿泵送至選礦廠。如果這些泵當(dāng)中有一臺(tái)出現(xiàn)災(zāi)難性故障,則整個(gè)運(yùn)營(yíng)都將中斷。因此,礦業(yè)公司在AI系統(tǒng)中投入巨資,以期借助這些系統(tǒng)提前預(yù)測(cè)潛在的故障。
目前,這些系統(tǒng)通?;谠O(shè)備上安裝的物聯(lián)網(wǎng)傳感器來(lái)傳輸數(shù)據(jù)。然后,數(shù)據(jù)會(huì)被集中處理,并將任何必要的警告回傳到相應(yīng)的操作人員。但是,礦山和施工工地的范圍可能達(dá)到數(shù)十公里,通常地形險(xiǎn)惡,因此將ML模型直接集成到邊緣設(shè)備中將簡(jiǎn)化整個(gè)過(guò)程。
在邊緣運(yùn)行AI和ML模型需要什么?
將AI轉(zhuǎn)移到網(wǎng)絡(luò)邊緣需要三樣?xùn)|西:合適的硬件、新工具和用于創(chuàng)建ML模型的新范式。下面我們將逐一進(jìn)行介紹。
經(jīng)過(guò)優(yōu)化的硬件
如前文所討論的那樣,ML模型通常依賴于大量的并行運(yùn)算。本質(zhì)上講,它們需要原始的計(jì)算能力。但是,在算力和設(shè)備消耗的實(shí)際功率之間始終要進(jìn)行權(quán)衡與取舍。要將ML模型推向邊緣,需要消耗功率盡可能少的設(shè)備。當(dāng)需要嵌入設(shè)備時(shí)更是如此。幸運(yùn)的是,現(xiàn)在有各種各樣的高性能、低功耗MCU。
合適的工具
接下來(lái)需要合適的工具鏈以在微控制器上運(yùn)行ML模型。絕大多數(shù)ML框架被設(shè)計(jì)在64位Intel系列的CPU或GPU上運(yùn)行。相比之下,所有合適的微控制器都具有32位精簡(jiǎn)指令集架構(gòu),例如ARM Cortex系列的MCU。但是,TensorFlow Lite等ML框架的開(kāi)發(fā)使ML模型可以在此類MCU上運(yùn)行。
一次建模,即可隨處運(yùn)行
最后一塊拼圖是創(chuàng)建和運(yùn)行ML模型的不同范式。這可以用“一次建模,即可隨處運(yùn)行”這句話來(lái)概括。顧名思義:先創(chuàng)建模型(通常使用大功率的經(jīng)ML優(yōu)化的機(jī)器),然后使用工具鏈將其轉(zhuǎn)換為可以在任何微控制器上運(yùn)行的代碼。遺憾的是,這樣也損失了從持續(xù)學(xué)習(xí)或強(qiáng)化學(xué)習(xí)中受益的能力。
權(quán)衡
下表列出了在邊緣模型上運(yùn)行ML模型時(shí)所做出的一些權(quán)衡。但愿它能提供一些有助于確定是否將您的下一個(gè)AI項(xiàng)目移至最前沿的指引。
特性 | 在數(shù)據(jù)中心 | 在邊緣 |
實(shí)時(shí) | 否 | 是 |
持續(xù)學(xué)習(xí) | 是 | 否 |
可嵌入 | 否 | 是 |
需要網(wǎng)絡(luò)? | 是 | 否 |
強(qiáng)化學(xué)習(xí) | 是 | 否 |
模型是否齊全? | 是 | 否 |
結(jié)論
將ML模型推向邊緣,實(shí)現(xiàn)了AI的新用例,從而有望帶來(lái)可嵌入式AI的革命。這些在MCU上運(yùn)行ML模型所需的MCU硬件和工具的發(fā)展,均為這類技術(shù)的擴(kuò)展奠定了基礎(chǔ)。如需進(jìn)一步了解具備AI功能的MCU,請(qǐng)點(diǎn)此訪問(wèn)。
- RK3588主板規(guī)格書(shū) 商顯 安防 智能終端 人臉識(shí)別 工業(yè)控制 邊緣計(jì)算
- AIoT智能邊緣計(jì)算網(wǎng)關(guān)ECOM架構(gòu)及參考設(shè)計(jì)技術(shù)規(guī)范 3次下載
- 面向AIOT的邊緣智能優(yōu)化技術(shù) 2次下載
- 基于多尺度殘差網(wǎng)絡(luò)的邊緣檢測(cè)技術(shù) 2次下載
- 基于全卷積神經(jīng)網(wǎng)絡(luò)的單像素邊緣提取算法 5次下載
- 基于個(gè)人計(jì)算機(jī)的智能家居邊緣計(jì)算系統(tǒng) 13次下載
- 網(wǎng)絡(luò)邊緣側(cè)的新店信號(hào)處理技術(shù)及其實(shí)驗(yàn) 3次下載
- 結(jié)合云計(jì)算與邊緣計(jì)算的云邊協(xié)同綜述 27次下載
- 基于邊緣計(jì)算的組合拍賣(mài)式任務(wù)卸載機(jī)制 4次下載
- 一種云輔助移動(dòng)邊緣計(jì)算的計(jì)算卸載策略 23次下載
- 結(jié)合多尺度邊緣保持分解與PCNN的圖像融合方法 16次下載
- 邊緣計(jì)算和人工智能需要了解說(shuō)明問(wèn)題 0次下載
- Qorvo智能家居管家物聯(lián)網(wǎng)和智能家居革命為什么比較慢?詳細(xì)概述
- 智能連接物聯(lián)網(wǎng)邊緣節(jié)點(diǎn)的安全性分析
- 智能家居邊緣計(jì)算系統(tǒng) 4次下載
- ai邊緣盒子有哪些用途?ai視頻分析邊緣計(jì)算盒子詳解 600次閱讀
- 邊緣計(jì)算和邊緣智能計(jì)算區(qū)別 747次閱讀
- Canny雙閾值邊緣檢測(cè)和弱邊緣連接詳解 1907次閱讀
- 增強(qiáng)邊緣智能需要什么 750次閱讀
- 邊緣智能趨勢(shì)明顯,系統(tǒng)安全更要重視 485次閱讀
- 邊緣智能第1部分:邊緣節(jié)點(diǎn) 1045次閱讀
- 邊緣智能第1部分:邊緣節(jié)點(diǎn) 904次閱讀
- 邊緣智能第3部分:邊緣節(jié)點(diǎn)通信 1141次閱讀
- 面向邊緣設(shè)備的微功耗智能 566次閱讀
- 一文簡(jiǎn)談邊緣計(jì)算和邊緣人工智能 4492次閱讀
- 智能邊緣計(jì)算的7個(gè)特征 2101次閱讀
- 什么是邊緣計(jì)算?邊緣計(jì)算的優(yōu)點(diǎn)和資料說(shuō)明 5325次閱讀
- 什么是邊緣計(jì)算?邊緣計(jì)算中的芯片機(jī)遇 1.5w次閱讀
- 什么是邊緣計(jì)算?邊緣計(jì)算的類型 7250次閱讀
- 邊緣計(jì)算解決的難題有哪些 5103次閱讀
下載排行
本周
- 1TC358743XBG評(píng)估板參考手冊(cè)
- 1.36 MB | 330次下載 | 免費(fèi)
- 2開(kāi)關(guān)電源基礎(chǔ)知識(shí)
- 5.73 MB | 6次下載 | 免費(fèi)
- 3100W短波放大電路圖
- 0.05 MB | 4次下載 | 3 積分
- 4嵌入式linux-聊天程序設(shè)計(jì)
- 0.60 MB | 3次下載 | 免費(fèi)
- 5基于FPGA的光纖通信系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)
- 0.61 MB | 2次下載 | 免費(fèi)
- 6基于FPGA的C8051F單片機(jī)開(kāi)發(fā)板設(shè)計(jì)
- 0.70 MB | 2次下載 | 免費(fèi)
- 751單片機(jī)窗簾控制器仿真程序
- 1.93 MB | 2次下載 | 免費(fèi)
- 8基于51單片機(jī)的RGB調(diào)色燈程序仿真
- 0.86 MB | 2次下載 | 免費(fèi)
本月
- 1OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234315次下載 | 免費(fèi)
- 2555集成電路應(yīng)用800例(新編版)
- 0.00 MB | 33564次下載 | 免費(fèi)
- 3接口電路圖大全
- 未知 | 30323次下載 | 免費(fèi)
- 4開(kāi)關(guān)電源設(shè)計(jì)實(shí)例指南
- 未知 | 21548次下載 | 免費(fèi)
- 5電氣工程師手冊(cè)免費(fèi)下載(新編第二版pdf電子書(shū))
- 0.00 MB | 15349次下載 | 免費(fèi)
- 6數(shù)字電路基礎(chǔ)pdf(下載)
- 未知 | 13750次下載 | 免費(fèi)
- 7電子制作實(shí)例集錦 下載
- 未知 | 8113次下載 | 免費(fèi)
- 8《LED驅(qū)動(dòng)電路設(shè)計(jì)》 溫德?tīng)栔?/a>
- 0.00 MB | 6653次下載 | 免費(fèi)
總榜
- 1matlab軟件下載入口
- 未知 | 935054次下載 | 免費(fèi)
- 2protel99se軟件下載(可英文版轉(zhuǎn)中文版)
- 78.1 MB | 537796次下載 | 免費(fèi)
- 3MATLAB 7.1 下載 (含軟件介紹)
- 未知 | 420026次下載 | 免費(fèi)
- 4OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234315次下載 | 免費(fèi)
- 5Altium DXP2002下載入口
- 未知 | 233046次下載 | 免費(fèi)
- 6電路仿真軟件multisim 10.0免費(fèi)下載
- 340992 | 191185次下載 | 免費(fèi)
- 7十天學(xué)會(huì)AVR單片機(jī)與C語(yǔ)言視頻教程 下載
- 158M | 183278次下載 | 免費(fèi)
- 8proe5.0野火版下載(中文版免費(fèi)下載)
- 未知 | 138040次下載 | 免費(fèi)
評(píng)論
查看更多