邊緣計(jì)算和人工智能

Greenwaves 展示了其最新的人工智能芯片 GAP9。就像上一代一樣，它的目標(biāo)是在網(wǎng)絡(luò)邊緣的系統(tǒng)中進(jìn)行 AI 推理。

邊緣計(jì)算將越來越成為數(shù)字化轉(zhuǎn)型現(xiàn)象不可或缺的一部分。使用這些技術(shù)的主要好處是減少處理延遲，允許實(shí)時(shí)響應(yīng)，以及節(jié)省帶寬，將已處理的信息發(fā)送到數(shù)據(jù)中心，因此，將更小的信息發(fā)送到數(shù)據(jù)中心。

與 GreenWaves Technologies 目前出貨的產(chǎn)品 GAP8 相比，最新的 GAP9 將能耗降低了 5 倍，同時(shí)在神經(jīng)網(wǎng)絡(luò)上的推理能力提高了 10 倍。GAP9 建立在與 GAP8 相同的 GAP 架構(gòu)布局之上。GreenWaves 的 GAP8 是業(yè)界首款超低功耗處理器，旨在以極低的成本和功耗傳輸高邊緣處理能力。它在物聯(lián)網(wǎng) (IoT) 應(yīng)用中啟用電池供電的人工智能 (AI)。

GreenWaves Technologies 營銷副總裁 Martin Croome 表示：“目前，人們對(duì)將 AI 處理轉(zhuǎn)移到 ADAS、安全攝像頭、機(jī)器人和手機(jī)等應(yīng)用程序的邊緣產(chǎn)生了很大的興趣?！?“我們專注于我們認(rèn)為將成為下一波邊緣設(shè)備的產(chǎn)品，我們稱之為邊緣設(shè)備。這些設(shè)備的功率受到極大限制——例如，帶有非常小的可充電電池的可穿戴設(shè)備需要數(shù)周或數(shù)月的電池壽命，或者無法使用電源或安裝成本高昂的傳感器。如果您必須安裝電纜來為傳感器供電，這樣做的成本通常是傳感器本身成本的許多倍。然后一些傳感器可能離主電源很遠(yuǎn)。他們可能在一個(gè)領(lǐng)域的中間或類似的地方，幾乎不可能給他們權(quán)力。

GAP8 是基于開源 RISC-V 和 PULP（并行超低功耗處理平臺(tái)）平臺(tái)的物聯(lián)網(wǎng)應(yīng)用處理器。它為下一代連接設(shè)備開辟了新的可能性。GAP8 支持以具有成本效益的方式開發(fā)智能設(shè)備，這些設(shè)備可以捕獲、分析、分類和作用于圖像、聲音、雷達(dá)、紅外或振動(dòng)等豐富數(shù)據(jù)源的融合。GAP8 的工作功率從活動(dòng)模式下的幾十毫瓦到睡眠模式下的幾微瓦不等，因此設(shè)備可以使用電池使用數(shù)年。GAP8 經(jīng)過優(yōu)化，可以執(zhí)行廣泛的圖像和音頻算法，包括具有極高能效的卷積神經(jīng)網(wǎng)絡(luò)推理。

“在 GAP8 中，我們的第一款產(chǎn)品現(xiàn)已投入生產(chǎn)，我們使用 RISC-V 指令集架構(gòu)的可擴(kuò)展性來提高能源效率，”Croome 說?！癎AP8 在一個(gè)集群中有八個(gè) RISC-V 內(nèi)核，然后是一個(gè)額外的第九個(gè) RISC-V 內(nèi)核，我們將其用作控制器，有點(diǎn)像芯片的 MCU。信號(hào)處理和機(jī)器學(xué)習(xí)算法是集群中并行化的良好目標(biāo)。如果您在八個(gè)核心上并行計(jì)算，您希望盡可能接近完成工作的八倍。這個(gè)因素被稱為加速。我們專注于通過在硬件中實(shí)現(xiàn)所有任務(wù)分叉和同步原語以及許多其他優(yōu)化來獲得非常好的加速。然后，我們使用我們實(shí)現(xiàn)的加速不是做更多的工作，而是在較低的時(shí)鐘速度下做同樣數(shù)量的工作。反過來，這使我們能夠降低芯片內(nèi)部的電壓，從而為我們帶來二次功率優(yōu)勢。該芯片集成了動(dòng)態(tài)頻率和電壓控制，因此我們可以通過不斷調(diào)整時(shí)鐘速度和電壓來適應(yīng)我們正在執(zhí)行的任務(wù)來節(jié)省能源?！?/p>

分層架構(gòu)通過組合一系列高度自主的智能 I/O 外設(shè)來連接外部設(shè)備，從而實(shí)現(xiàn)非常低的功耗操作。一個(gè)由八個(gè)內(nèi)核組成的集群，其架構(gòu)經(jīng)過優(yōu)化以執(zhí)行向量和并行算法，并結(jié)合了專門的卷積神經(jīng)網(wǎng)絡(luò)加速器 (HWCE)。所有內(nèi)核和外圍設(shè)備都可以根據(jù)需要切換功率、電壓和頻率。集成了具有超快重新配置時(shí)間的 DC/DC 穩(wěn)壓器和時(shí)鐘發(fā)生器，以優(yōu)化電源管理。集群和 HWCE 內(nèi)核共享對(duì)內(nèi)存區(qū)域和指令緩存的訪問。多個(gè) DMA 允許在內(nèi)存區(qū)域之間進(jìn)行快速、低功耗、獨(dú)立的傳輸。包含一個(gè)內(nèi)存保護(hù)器以允許應(yīng)用程序在 GAP8 上安全運(yùn)行。

新的 GAP9增加了 AES128/256 加密的安全功能，并基于能夠處理 8、IEEE 16、BFloat16 和 IEEE 32 中浮點(diǎn)數(shù)的創(chuàng)新跨精度浮點(diǎn)單元，全面支持所有內(nèi)核的浮點(diǎn)運(yùn)算。支持矢量化的位精度。GAP9 可處理復(fù)雜的神經(jīng)網(wǎng)絡(luò)，例如 MobileNet V1，在 12 毫秒內(nèi)輕松處理 160 × 160 圖像，通道縮放為 0.25，功耗為 806 μW/fps。與 GAP8 相比，GAP9 的有效內(nèi)存帶寬增加了 20 倍，通過同時(shí)分析來自多個(gè)不同傳感器（如圖像、聲音和雷達(dá)）的數(shù)據(jù)流，顯著提高了檢測精度（圖 1）。

?

GreenWaves Technologies 首席執(zhí)行官 Loic Lietar 表示：“GAP9 將復(fù)雜的機(jī)器學(xué)習(xí)和信號(hào)處理功能的組合嵌入到消費(fèi)、醫(yī)療和工業(yè)產(chǎn)品應(yīng)用中，實(shí)現(xiàn)了新的功能水平?！?“GAP 系列為產(chǎn)品設(shè)計(jì)人員提供了強(qiáng)大、靈活的解決方案，可將下一代智能設(shè)備推向市場。

“我們不會(huì)大量使用某種非常深?yuàn)W的架構(gòu)方法來加速卷積神經(jīng)網(wǎng)絡(luò) (CNN)，因?yàn)槲覀兿嘈胚@個(gè)市場發(fā)展如此之快。每個(gè)月都有一千篇關(guān)于神經(jīng)網(wǎng)絡(luò)空間的新論文。我們希望確保我們能夠加速今年和明年出現(xiàn)的所有新事物，而不是專注于去年的最佳創(chuàng)意。所以我們有一個(gè)卷積硬件加速器，它在某些情況下有助于降低能耗，但一般來說，架構(gòu)是可編程的?！?/p>

人臉識(shí)別吸引了大量與安全應(yīng)用相關(guān)的媒體報(bào)道，它是使用基于 SqueezeNet 的 CNN 實(shí)現(xiàn)的。CNN 是廣泛用于計(jì)算機(jī)視覺的神經(jīng)網(wǎng)絡(luò)家族，更一般地說，用于處理具有空間關(guān)系的數(shù)據(jù)。CNN 遵循一定層次的架構(gòu)，通常是非周期性的。

可以使用被動(dòng)紅外 (PIR) 技術(shù)激活人臉檢測，以在沒有人臉時(shí)進(jìn)一步降低功耗。一旦檢測到，該算法會(huì)在 128 × 128 像素的圖像中發(fā)出適當(dāng)調(diào)整大小的檢測圖像的坐標(biāo)。該圖像是人臉識(shí)別 CNN 的輸入。CNN 的輸出是檢測到的人臉的 512 個(gè)參數(shù)（16 位大?。┑暮灻?。

為了加快上市時(shí)間，GreenWaves Technologies 設(shè)計(jì)了 GAPuino 板來促進(jìn) GAP8 的實(shí)施。GAPuino 可用作標(biāo)準(zhǔn) Arduino Uno 板的替代品，并可連接到大多數(shù) Arduino Uno 兼容的 3.3-V 或 5-V 屏蔽。通過添加 Arduino 通信屏蔽（藍(lán)牙、WiFi、LoRa 等），可以在電池供電的設(shè)備上使用 AI 快速構(gòu)建完整的物聯(lián)網(wǎng)應(yīng)用原型（圖 2）。

?

有多種配件可供選擇，例如帶有 B&W 低功耗 QVGA 攝像頭的模塊和一個(gè)傳感器板，該板增加了一組鉸接式傳感器，包括用于音頻應(yīng)用的四個(gè)數(shù)字麥克風(fēng)。對(duì)于 GAP8 處理器，還有一個(gè)完整的 SDK，其中包括一個(gè) RISC-V GCC/GDB 鏈工具，帶有用于附加處理器指令的擴(kuò)展，用于 MCU 端的工具，具有兩個(gè)操作系統(tǒng)（PULP OS 和 RISC-V 上的 Mbed OS 端口/GAP8)。