負載和功耗太大？邊緣計算芯片來承擔

在云計算接手了大部分計算任務的當下，邊緣計算也在萌芽。與計算資源和服務都放在數(shù)據(jù)中心的云計算相比，如果在算力和延遲得以保證的情況下，邊緣端的計算反而能給用戶帶來更好的體驗。為此，一眾半導體公司開始探索邊緣計算芯片，為AI/ML等技術(shù)提供邊緣端的計算助力。

谷歌Edge TPU

Edge TPU / 谷歌

Edge TPU是谷歌專為邊緣推理打造的ASIC芯片，這也是谷歌除了Cloud TPU和Google Cloud兩大云端產(chǎn)品外，主打邊緣計算的產(chǎn)品。在隱私/機密以及低延遲、小帶寬等因素的限制下，不少應用并不適合上云，所以為邊緣端提供AI推理計算就成了解決需求的思路。而Edge TPU的大小甚至不及一個硬幣，無疑可以用于廣泛的AI邊緣部署。

Coral加速器模組 / 谷歌

谷歌更是搭建了一個本地AI平臺Coral，提供一系列硬件、軟件工具和預編譯的模型，幫助開發(fā)者構(gòu)建具備本地AI能力的設備。以Coral加速器模組為例，這是一個MCM模組，可以用于高速推理機器學習模型。該模組內(nèi)置了Edge TPU ML加速器，并集成了電源管理，支持PCIe 2.0x1或USB 2.0的接口，INT8精度下的最高算力可達4 Tops，功耗達到2W。最重要的是其大小只有15x10x1.5mm。

此外，谷歌已經(jīng)開始在手機芯片Tensor中集成TPU，而Tensor中的TPU已經(jīng)達到了5W的功耗。考慮到谷歌除了手機以外，已經(jīng)開始進軍智能穿戴和智能家居等一系列物聯(lián)網(wǎng)市場，在谷歌自己的AI生態(tài)下，想必也會進一步擴展Edge TPU的性能表現(xiàn)。

九天睿芯 ADA200

考慮到馮諾依曼架構(gòu)在功耗與速度上的劣勢，現(xiàn)在不少半導體公司都開始探索存算一體的全新架構(gòu)。九天睿芯也是其中一個參與者，其ADA系列芯片甚至加入了感知這一維度，做到了模擬感知前處理+模數(shù)混合存內(nèi)計算的感存算一體架構(gòu)，直接在內(nèi)存中進行混合信號計算。

ADA100 / 九天睿芯

根據(jù)九天睿芯官網(wǎng)的描述，ADA100系列是主打超低功耗低算力的傳感器處理芯片，等效算力達到1Gops，最低功耗只有20μW，與其他數(shù)字芯片相比可以說是降維打擊了，適用于可穿戴等AIoT設備。ADA100已于去年11月量產(chǎn)，將于今年批量出貨。

ADA200 / 九天睿芯
而ADA200系列則是九天睿芯主打的中低算力芯片，其算力范圍在1到2 Tops之間，可以用于低功耗無線攝像頭、AR/VR和手機平板這類對算力要求更高一截的場景，該芯片預計今年年底量產(chǎn)。

AIStorm Mantis

在AI掀起的潮流下，不少廠商打上了傳感器的主意。這點在TWS耳機、智能眼鏡等小型智能化設備中尤為明顯，畢竟如果在CMOS圖像傳感器或MEMS音頻傳感器上提供足夠的邊緣算力，就可以省去集成各類AI加速器的煩惱。

比如在傳統(tǒng)的CMOS圖像傳感器方案中，像素陣列傳輸給源極跟隨器，在經(jīng)過ADC、ISP和MIPI SerDes，將其輸出給數(shù)字AI，再經(jīng)過MCU、GPU、DSP或FPGA的處理才能生成事件，如此數(shù)字化的過程使得延遲、功耗和成本都高出了一截。

Mantis AIS SoC / AIStorm

為了解決這個問題，初創(chuàng)企業(yè)AIStorm的解決方案就是將AI集成到傳感器中。以他們的Mantis AIS SoC為例，該方案可將傳感器變?yōu)橐粋€模擬電荷域AI的輸入層，Mantis直接接受傳感器數(shù)據(jù)而無需數(shù)字化，再用ANN網(wǎng)絡中的模擬神經(jīng)元完成乘加等運算，最終生成一個決定輸出。

Mantis用不到多先進的工藝，現(xiàn)有的產(chǎn)品只用到了高塔半導體的180nm節(jié)點和Dongbu的90nm節(jié)點，卻依然可以在始終開啟的情況下做到15 μW的功耗。雖然Mantis圖像傳感器只有96x96的像素分辨率，但這對于某些小型化應用來說已經(jīng)足夠，何況AIStorm面向的市場也僅僅只是簡單低成本的物聯(lián)網(wǎng)設備。此外，AIStorm也在開發(fā)支持QVGA和全高清分辨率的升級版本。

去年AIStorm也宣布與樓氏電子達成合作，一同開發(fā)低功耗高性能的音頻解決方案，直接為模擬域接收音頻數(shù)據(jù)，讓TWS之類的小型音頻設備在極低功率水平下也能完成AI降噪、算法聲音增強等高級信號處理任務。

小結(jié)

從以上這些邊緣計算芯片可以看出，傳統(tǒng)的架構(gòu)在邊緣端已經(jīng)不再是主流。無論是延遲敏感還是高算力要求的應用，都在推進邊緣計算芯片在架構(gòu)上做出創(chuàng)新。在這些芯片賦能的多接入邊緣計算下，邊緣計算將為云端計算分擔一部分任務，更好地服務終端用戶。