有幾個(gè)因素要求將AI處理推向邊緣設(shè)備？

為什么邊緣設(shè)備和計(jì)算中的AI應(yīng)用是未來(lái)？

變革一直是發(fā)展不可或缺的一部分。隨著技術(shù)的飛速發(fā)展，公司也需要自己接受這些技術(shù)，以實(shí)現(xiàn)最大的收益。就像我們目睹了計(jì)算從大型機(jī)向云計(jì)算的轉(zhuǎn)變一樣，人工智能（AI）正在移向邊緣IoT設(shè)備和網(wǎng)絡(luò)。隨著數(shù)據(jù)的不斷增長(zhǎng)，我們需要選擇將數(shù)據(jù)存儲(chǔ)和數(shù)據(jù)計(jì)算放置在設(shè)備上。高通，NVIDIA和英特爾等公司正在幫助我們實(shí)現(xiàn)這一現(xiàn)實(shí)。

盡管邊緣站點(diǎn)計(jì)算系統(tǒng)比中央數(shù)據(jù)中心的系統(tǒng)要小得多，但是它們已經(jīng)成熟，并且由于當(dāng)今x86商用服務(wù)器的處理能力的巨大增長(zhǎng)，現(xiàn)在已經(jīng)成功運(yùn)行了許多工作負(fù)載。此外，如果應(yīng)用程序?qū)ρ舆t敏感，則Edge是更好的選擇。更好的隱私性、安全性、低延遲和帶寬是邊緣平臺(tái)的一些特點(diǎn)。

什么是邊緣人工智能？

它指的是在硬件設(shè)備上本地處理的AI算法。它也被稱為設(shè)備上AI。這使您可以在不到幾毫秒的時(shí)間內(nèi)使用設(shè)備處理數(shù)據(jù)，從而為您提供實(shí)時(shí)信息。使用Edge AI，人們可以從設(shè)備上的應(yīng)用程序獲得她想要的個(gè)性化功能。

根據(jù)IDC的預(yù)測(cè)，到2023年，Edge AI軟件市場(chǎng)預(yù)計(jì)將從2018年的3．55億美元增長(zhǎng)到1．12萬(wàn)億美元。IDC研究總監(jiān)Dave McCarthy說(shuō)：“ AI是邊緣計(jì)算中最常見(jiàn)的工作負(fù)載。隨著物聯(lián)網(wǎng)實(shí)施的成熟，人們對(duì)在生成點(diǎn)應(yīng)用人工智能進(jìn)行實(shí)時(shí)事件檢測(cè)的興趣與日俱增?！?/p>

云端邊緣

當(dāng)前，AI處理是在需要大量計(jì)算能力的基于云的數(shù)據(jù)中心中使用深度學(xué)習(xí)模型完成的。延遲是云環(huán)境或由云支持的物聯(lián)網(wǎng)設(shè)備面臨的最常見(jiàn)問(wèn)題之一。此外，在將數(shù)據(jù)傳輸?shù)皆破陂g，始終存在數(shù)據(jù)被盜或泄漏的風(fēng)險(xiǎn)。使用edge可以對(duì)數(shù)據(jù)進(jìn)行整理，然后再將其發(fā)送到遠(yuǎn)程位置進(jìn)行進(jìn)一步分析。此外，邊緣人工智能將實(shí)現(xiàn)智能物聯(lián)網(wǎng)管理。

在基于邊緣的體系結(jié)構(gòu)中，推理在設(shè)備上本地發(fā)生。這樣可以減少流回云的網(wǎng)絡(luò)流量，同時(shí)將IoT設(shè)備的響應(yīng)時(shí)間縮短到最短，從而使管理決策可在本地使用，并靠近具有眾多優(yōu)勢(shì)的設(shè)備。

Edge AI需求的驅(qū)動(dòng)因素：

有幾個(gè)因素要求將AI處理推向邊緣：

實(shí)時(shí)的客戶參與度與用戶或設(shè)備位置無(wú)關(guān)，例如使用設(shè)備上的在線支付，監(jiān)控鍛煉活動(dòng)。

能夠在邊緣設(shè)備上運(yùn)行大規(guī)模DNN模型。幾種框架和技術(shù)都支持模型壓縮，包括Google的TensorFlow Lite、Facebook的Caffe2Go，蘋果的CoreML、Nervana的神經(jīng)網(wǎng)絡(luò)蒸餾器和SqueezeNet。

快速處理和分析物聯(lián)網(wǎng)傳感器數(shù)據(jù)。

降低Edge平臺(tái)的帶寬成本。

邊緣設(shè)備產(chǎn)品：

根據(jù)AI應(yīng)用程序和設(shè)備類別，有幾種用于執(zhí)行AI邊緣處理的硬件選項(xiàng)。選件包括中央處理器（CPU）、GPU、專用集成電路（ASIC）、現(xiàn)場(chǎng)可編程門陣列（FPGA）和片上系統(tǒng)（SoC）加速器。邊緣在大多數(shù)情況下指的是設(shè)備，不包括網(wǎng)絡(luò)集線器或微型數(shù)據(jù)中心，除非其中包括網(wǎng)絡(luò)錄像機(jī)（NVR）的安全攝像機(jī)。

排名前三的邊緣產(chǎn)品是：

Nvidia Jetson Nano：

英特爾神經(jīng)計(jì)算棒2代

Google Edge TPU開發(fā)板

NVIDIA Jetson Nano 開發(fā)人員工具箱是使用最廣泛且最受歡迎的工具，可提供計(jì)算性能，以前所未有的大小，功能和成本運(yùn)行現(xiàn)代AI工作負(fù)載。開發(fā)人員，學(xué)習(xí)者和制造商現(xiàn)在可以為圖像分類、對(duì)象檢測(cè)、分段和語(yǔ)音處理等應(yīng)用程序運(yùn)行AI框架和模型。它還包括板支持包（BSP）、Linux OS、NVIDIACUDA？、cuDNN和TensorRT？軟件庫(kù)，用于深度學(xué)習(xí)，計(jì)算機(jī)視覺(jué)，GPU計(jì)算，多媒體處理等。該軟件甚至可以使用易于刷新的SD卡映像來(lái)使用，從而使其快速，容易上手。

其他值得注意的包括NVIDIA Jetson TX1，TX2，TX2i（可承受更高的振動(dòng)，溫度和濕度范圍以及灰塵），適用于RISC－V AI ＋ IoT的Sipeed Maixduino套件、Raspberry Pi 4計(jì)算機(jī)模型B、Coral開發(fā)板等。

實(shí)際應(yīng)用：

毫無(wú)疑問(wèn)，邊緣人工智能將改變我們的未來(lái)。公司和公司已經(jīng)開始合并它，以向客戶提供高效且無(wú)憂的體驗(yàn)。其中一些實(shí)例是：

萬(wàn)豪國(guó)際集團(tuán)與三星和羅格朗（Legrand）合作，使用物聯(lián)網(wǎng)和邊緣AI創(chuàng)造了世界上第一個(gè)啟用物聯(lián)網(wǎng)的酒店客房。這些房間在多個(gè)位置具有高度個(gè)性化，可讓客戶根據(jù)應(yīng)用程序中存儲(chǔ)的信息完全按需設(shè)置房間。

日本汽車制造商豐田公司正在利用為汽車制造而設(shè)計(jì)的現(xiàn)有AI邊緣機(jī)器人技術(shù)，以幫助行動(dòng)不便的人。

自主交付系統(tǒng)，例如亞馬遜的交付無(wú)人機(jī)和多米諾機(jī)器人，利用計(jì)算機(jī)視覺(jué)來(lái)導(dǎo)航障礙物并有效地優(yōu)化路線。兩家公司使用Edge AI來(lái)提供數(shù)據(jù)，地理位置，預(yù)測(cè)的時(shí)間范圍和個(gè)性化更新。

相反，工廠中具有AI功能的邊緣計(jì)算系統(tǒng)可以將多臺(tái)計(jì)算機(jī)的數(shù)據(jù)關(guān)聯(lián)起來(lái)，以檢測(cè)并最終預(yù)測(cè)導(dǎo)致停機(jī)的問(wèn)題。

Expensify的虛擬助手Concierge可協(xié)助公司自動(dòng)進(jìn)行費(fèi)用報(bào)告和差旅安排。它可以通知客戶實(shí)時(shí)價(jià)格變化，甚至可以代表他們提交收據(jù)。

邊緣人工智能的用途和潛力因行業(yè)和公司而異。雖然基于邊緣的推理已經(jīng)被證明是云計(jì)算的一個(gè)更好的選擇，但是在這一領(lǐng)域還有很多工作要做。
? ? ? ?責(zé)任編輯:pj