利用Hailo-8 TM推理芯片和插件模塊擴(kuò)展可行應(yīng)用程序的數(shù)量

Hailo-8 TM推理芯片通過(guò)消除內(nèi)在因素，擴(kuò)大了工業(yè)人工智能（AI）應(yīng)用程序的數(shù)量，可用于多種工業(yè)應(yīng)用程序，包括生產(chǎn)，流程，跟蹤和跟蹤，物流，質(zhì)量，機(jī)器功能以及預(yù)測(cè)性維護(hù)的優(yōu)化邊緣處理的服務(wù)器和云解決方案的局限性。服務(wù)器和云AI解決方案適用于廣泛的應(yīng)用程序，但是計(jì)算成本，網(wǎng)絡(luò)通信速度和延遲因素對(duì)許多實(shí)時(shí)工業(yè)和流程應(yīng)用程序構(gòu)成了限制。Hailo-8 TM推理芯片和插件模塊擴(kuò)展了可行的應(yīng)用程序數(shù)量。

Hailo由以色列國(guó)防軍精銳技術(shù)部門的成員于2017年在以色列成立，它開發(fā)了用于邊緣設(shè)備的AI處理器。該公司已獲得NEC和ABB的包括戰(zhàn)略投資在內(nèi)的8，800萬(wàn)美元資金。該團(tuán)隊(duì)認(rèn)為Hailo技術(shù)的定位是改變AI芯片行業(yè)，為更多應(yīng)用程序帶來(lái)新的計(jì)算可能性。AI處理器旨在適應(yīng)各種行業(yè)和用例的智能設(shè)備，包括汽車，智能城市，零售和工業(yè)4.0。

Hailo-8是實(shí)時(shí)邊緣計(jì)算如何增加以在應(yīng)用程序中提供高性能和可靠性的另一個(gè)示例。工業(yè)自動(dòng)化始于中央控制，隨著時(shí)間的流逝，隨著技術(shù)的進(jìn)步使其實(shí)用化，已經(jīng)慢慢往邊緣計(jì)算發(fā)展。這導(dǎo)致可用性，可靠性和性能提高，并擴(kuò)展了應(yīng)用程序使用案例。

Hailo芯片是高性能工業(yè)級(jí)Edge AI處理器

Liran Bar討論了市場(chǎng)上的其他產(chǎn)品，包括Nvidia，Intel Myriad-X和Google Edge TPU，并指出Hailo-8是唯一針對(duì)工業(yè)和汽車等低功耗和環(huán)保邊緣應(yīng)用而優(yōu)化的芯片。Bar提供了詳細(xì)的基準(zhǔn)信息，以支持Hailo在堅(jiān)固邊緣應(yīng)用程序中的優(yōu)勢(shì)。

Hailo業(yè)務(wù)開發(fā)和產(chǎn)品營(yíng)銷副總裁Liran Bar說(shuō)：“ Hailo-8tm處理器通過(guò)使智能設(shè)備能夠在邊緣更有效地運(yùn)行基于神經(jīng)網(wǎng)絡(luò)（NN）的應(yīng)用程序，正在改變多個(gè)行業(yè)的視覺(jué)智能和感官知覺(jué)?！?“我們的M.2和Mini PCIe高性能AI加速模塊使客戶能夠?qū)I功能集成到邊緣設(shè)備中，從而擴(kuò)展了這些功能，從而提供了一種更加靈活和優(yōu)化的解決方案，以高效地加速各種基于深度學(xué)習(xí)的應(yīng)用程序，并以標(biāo)準(zhǔn)尺寸優(yōu)化上市時(shí)間?！?/p>

附加模塊

此外，還可以通過(guò)使用 在許多計(jì)算機(jī)（包括嵌入式工業(yè)PC）中使用的流行M.2 和mPCIe連接器標(biāo)準(zhǔn)提供的插件附加板模塊來(lái)應(yīng)用Hailo-8，而這些模塊包括高性能的AI處理，而不會(huì)降低計(jì)算機(jī)中的其他應(yīng)用程序。規(guī)格包括每秒26兆操作數(shù)（TOPS）的Hailo-8?處理器，具有3 TOPS / Watt的高功率效率，可滿足工業(yè)環(huán)境要求。

這類似于早期的PC協(xié)處理器插件以實(shí)現(xiàn)高性能的浮點(diǎn)數(shù)學(xué)計(jì)算性能，而視頻顯示協(xié)處理器則實(shí)現(xiàn)了高分辨率/高性能的圖形。例如，原始的 IBM PC 包含一個(gè)用于Intel 8087的插槽。浮點(diǎn) 協(xié)處理器（又名 FPU），對(duì)于使用PC進(jìn)行計(jì)算機(jī)輔助設(shè)計(jì) 或數(shù)學(xué)密集型計(jì)算的人們來(lái)說(shuō)，它是一種流行的選擇 。

系統(tǒng)方法

Hailo設(shè)備受到Dataflow Compiler的支持，Dataflow Compiler是一個(gè)完整且可擴(kuò)展的軟件工具鏈，可與現(xiàn)有的深度學(xué)習(xí)開發(fā)框架無(wú)縫集成，從而可以輕松集成到現(xiàn)有的開發(fā)生態(tài)系統(tǒng)中。支持開放標(biāo)準(zhǔn)，包括TensorFlow和ONNX。

AI優(yōu)化架構(gòu)

Liran Bar解釋了非常有趣的體系結(jié)構(gòu)，因?yàn)樵搼?yīng)用程序?qū)嵸|(zhì)上是驅(qū)動(dòng)芯片資源的動(dòng)態(tài)配置以優(yōu)化性能。Hailo-8芯片包含許多具有控制，內(nèi)存和計(jì)算功能的處理元素集，這些元素被配置和分配為基于用戶應(yīng)用程序執(zhí)行神經(jīng)網(wǎng)絡(luò)圖的各個(gè)層。這與基于經(jīng)典馮·諾依曼架構(gòu)的通用計(jì)算機(jī)模型形成鮮明對(duì)比，該模型也被稱為具有單個(gè)CPU，內(nèi)存和控制的普林斯頓架構(gòu)。

Hailo-8芯片具有許多控制，內(nèi)存和計(jì)算元素集，可根據(jù)用戶應(yīng)用程序?qū)⑵渑渲貌⒎峙浣o神經(jīng)網(wǎng)絡(luò)圖的各個(gè)層，以實(shí)現(xiàn)高性能。

應(yīng)用實(shí)例

富士康 已經(jīng)在不同的生產(chǎn)線上部署了幾種內(nèi)部開發(fā)的AI解決方案，從而將報(bào)告準(zhǔn)確性從95％提高到了99％，并將缺陷檢查項(xiàng)目的運(yùn)營(yíng)成本至少降低了三分之一。創(chuàng)建標(biāo)準(zhǔn)化解決方案富士康將其高密度，無(wú)風(fēng)扇的邊緣計(jì)算機(jī)“ BOXiedge?”與Socionext的高效并行處理器“ SynQuacer?” SC2A11和Hailo-8?深度學(xué)習(xí)處理器相結(jié)合，創(chuàng)建了一個(gè)節(jié)能的獨(dú)立AI推理節(jié)點(diǎn)邊緣的視頻分析。這款新產(chǎn)品能夠?qū)崟r(shí)在邊緣處理和分析20多個(gè)流式攝像機(jī)輸入提要，以進(jìn)行視頻分析和隱私保護(hù)，包括圖像分類，檢測(cè)，姿勢(shì)估計(jì)和其他各種基于AI的應(yīng)用程序。

巴爾說(shuō)：“通過(guò)確保制造商不必在性能，成本或延遲方面進(jìn)行折衷，邊緣上的高效深度學(xué)習(xí)處理將迎來(lái)新一代的工業(yè)4.0。當(dāng)前的解決方案通常運(yùn)行在過(guò)時(shí)的處理架構(gòu)上，無(wú)法跟上發(fā)展速度。滿足智能工廠所需的計(jì)算需求，例如多設(shè)備自動(dòng)化和連接性。Hailo-8 edge AI處理器可實(shí)時(shí)支持多個(gè)流式攝像機(jī)輸入提要，從而確保視頻分析的最佳性能，同時(shí)保持隱私。我們期待幫助將工業(yè)4.0引入新的數(shù)字時(shí)代?！?/p>

邊緣計(jì)算趨勢(shì)

Hailo-8是實(shí)時(shí)邊緣計(jì)算如何增加以在應(yīng)用程序中提供高性能和可靠性的另一個(gè)示例。工業(yè)自動(dòng)化始于中央控制，隨著技術(shù)的進(jìn)步使其實(shí)用化，加班處理一直被推向邊緣，從而提高了可用性，可靠性和性能，并擴(kuò)展了應(yīng)用程序用例。

責(zé)任編輯：gt