AI視覺技術在智能邊緣加速落地

Intel 前不久提出了物聯(lián)網(wǎng)方向的三大戰(zhàn)略：第一，為物聯(lián)網(wǎng)定制高性能的計算及加速芯片；第二，促進邊緣計算負載整合的技術發(fā)展方向，抓住網(wǎng)絡及器件邊緣計算的良好機遇；第三，專注于計算機視覺，以及 AI 計算應用帶來的巨大變化。

Intel 認為在物聯(lián)網(wǎng)的發(fā)展過程中，邊緣計算的最新發(fā)展趨勢——智能邊緣，能夠加速物聯(lián)網(wǎng)的演進。Intel 物聯(lián)網(wǎng)事業(yè)部副總裁、中國區(qū)總經(jīng)理陳偉表示：“邊緣計算的落地，尤其是邊緣計算+AI+行業(yè)的應用模式，表明只有用貼近真實應用需求的方式，才能讓邊緣計算在當下數(shù)字社會生根發(fā)芽。”

AI 視覺技術在智能邊緣加速落地

據(jù)麥肯錫預測，全球市場深度學習收入將呈現(xiàn)飛速增長，到 2030 年，AI 有望造就 13 萬億美元的經(jīng)濟活動。特別是隨著智慧城市、商超、交通、工業(yè)互聯(lián)網(wǎng)等應用場景對視頻數(shù)據(jù)分析需求的激增，AI 與視覺技術正在加速智能與邊緣計算的融合，將為汽車、互聯(lián)網(wǎng)、教育等十余個行業(yè)的數(shù)智化變革提速賦能，助推貨架分析、文本識別、熱力圖、車輛檢測識別、缺陷檢測等應用場景落地。作為邊緣計算的發(fā)展趨勢，智能邊緣將與 AI、5G 關鍵技術轉折點相互交織，推動智能進入新的發(fā)展拐點。

而邊緣計算中不同應用場景的需求大不相同，需要使用不同神經(jīng)網(wǎng)絡模型、要求算力靈活、部署靈活、開發(fā)時間及成本優(yōu)化等。為了貼近這些訴求加速落地，Intel 推出了最新的 AI 計算盒參考設計，可以說是 Intel 加速“智能邊緣”的又一實踐，也是在中國市場的又一重要嘗試。

據(jù) Intel 技術專家介紹，AI 計算盒參考設計硬件平臺以 Intel 通用計算平臺 CPU 為主，可以配備 FPGA 或 Movidius VPU 為架構的神經(jīng)網(wǎng)絡加速芯片以及加速卡，形成方案組合，可以為多樣化企業(yè)級應用提供兼容能力，以及在高并發(fā)計算量需求下的可擴展性；此外還有包括凌動、酷睿、至強處理器在內(nèi)的不同選擇，能夠提供豐富的功耗和成本選擇。

軟件方面，由于目前市面上的應用場景多以視覺為主，因此軟件工具主要輔以 OpenVINO 工具套件，來幫助客戶處理計算機視覺、視頻分析類等應用。在底層，AI 計算盒提供了針對硬件優(yōu)化的底層庫來提升性能，包括媒體處理 Media SDK、深度學習推理工具 OpenVINO 工具套件、算法庫及算子級優(yōu)化的庫和編程接口。在此之上，AI 計算盒還可支持如 G-streamer， FFMPEG 等不同的媒體框架，并提供如 IPC 輸入、解碼 /VPP、轉碼、RAID 存儲、視頻分析、拼接 / 顯示、特征匹配等基于視頻場景優(yōu)化的管道，更易于使用和集成。此外，在應用層，AI 計算盒還可提供近似實際應用的參考示例，實現(xiàn)快速原型開發(fā)，縮短上市時間。

基于 Intel 的 AI 計算盒參考設計能帶來哪些優(yōu)勢？Intel 技術專家表示，由于應用場景千差萬別，因此大家對硬件平臺的成本、功耗、擴展性、靈活性都有不同的需求，很難通過單一指標來進行評判，Intel 的目標是如何能讓最終用戶得到最經(jīng)濟、實用并適合的產(chǎn)品。與市場其他同類產(chǎn)品相比，Intel 最大的優(yōu)勢就是硬件平臺類型多樣化，這是基于多年來在半導體的生產(chǎn)、制造和設計上，投入了巨大的研發(fā)、生產(chǎn)成本，可以滿足多種需求。再輔以完整的軟件棧，可以全方位提供經(jīng)濟實用的產(chǎn)品。

利舊項目和新部署項目有何不同需求？

目前基于視覺的 AI 項目落地較多，從實際應用場景來看，一部分是利舊項目，另一部分是新部署項目。這些項目對 AI 計算盒有哪些不同要求？

Intel 物聯(lián)網(wǎng)銷售市場部中國區(qū)總監(jiān)謝青山介紹，對于新項目來說，可以在設計之初就將 AI 能力考慮進去，相對比較容易。但是對于利舊項目中已有的 IT 設備來說，已經(jīng)投入了巨大的 IT 軟硬件資源，客戶更希望能利用現(xiàn)有設備來支撐，或是在現(xiàn)有基礎上新增 AI 能力。

Intel 的硬件平臺以及對操作系統(tǒng)的支持都是向前兼容的，這意味著用戶現(xiàn)有產(chǎn)品可以兼容未來的 CPU。在 AI 解決方案上，Intel 沿用了這一思路，參考設計不僅支持新項目，在舊有項目中，也可以增加一部分資源，達到支撐新應用的目的。而不論是利舊還是新部署，謝青山提到，近兩年來 AI 幾乎成為邊緣計算產(chǎn)品的必選功能，特別是從今年開始，這樣的需求越來越多。

那么，誰是 AI 計算盒參考設計的目標用戶？據(jù)介紹，參考設計主要包括三方面：硬件參考平臺、算法以及解決方案，SV（軟件開發(fā)商）、ODM/OEM（原始設計制造商 / 原始設備制造商）、SI（系統(tǒng)集成商）等都是重要的合作伙伴。

通過算法層面的參考設計，軟件開發(fā)商可實現(xiàn)對不同應用場景軟件及算法的快速定制和場景化，加速整個產(chǎn)品定義、算法研發(fā)及 AIoT 整體解決方案的落地速度。

硬件平臺方面，Intel 不僅提供獨立的 AI BOX，也有類似插卡式或模塊化的產(chǎn)品，當用戶現(xiàn)有硬件平臺算力不夠，就可以將這些 AI 加速硬件集成到現(xiàn)有的硬件平臺上。據(jù)了解，Intel 與 ODM/OEM、系統(tǒng)集成商，在目標檢測、活體檢測、缺陷檢測、視頻結構化等多方面進行深度合作，將驅動智慧商超、智慧城市、智慧醫(yī)療、智能檢測等多領域的落地。

AI 計算盒——CPU、FPGA、ASIC 平臺如何抉擇？

目前邊緣端的 AI 方案有很多采用了 ASIC/FPGA 方案，而 Intel 的 AI 計算盒參考設計主要是以不同算力的 CPU 平臺作主控，在開發(fā)成本、效率等方面，又有哪些優(yōu)勢？

據(jù) Intel 技術專家的解讀，客戶首先是根據(jù)最終應用場景需求來進行選擇的，Intel 有全方位硬件平臺供應商 / 芯片供應商的優(yōu)勢，除了最著名的 CPU，其實 CPU 內(nèi)部還集成了 GPU，同時 Movidius VPU 架構也已經(jīng)完全融合到 Intel 的硬件平臺上，同時也有 FPGA 和 ASIC 方案。Intel 的 AI 計算盒參考設計，一方面綜合性能能夠滿足用戶所需；另一方面，如果需要在 CPU 之外對 AI 加速計算輔助的話，可以通過 Movidius VPU 架構的芯片做加速。

從軟件應用開發(fā)角度看，在邊緣側實現(xiàn) AI 加速計算，從開發(fā)到部署有很多痛點，Intel 希望通過 OpenVINO 工具套件、Media SDK 為主的一系列軟件工具，幫助降低 AI 算法開發(fā)上的難度，縮短開發(fā)周期。客戶只需要考慮應用開發(fā)，至于計算分布僅僅是 CPU 實現(xiàn)，還是 CPU+加速芯片完成，這部分工作可以通過 OpenVINO 的輔助開發(fā)來進行。

從用戶角度看，每種芯片各有優(yōu)缺點。如果算法和算力需要能夠升級和擴容的話，選擇 CPU、GPU、VPU 會更容易，因為如果選擇了 FPGA 和 ASIC，可能短期內(nèi)適合，但考慮到升級和修改算法時，就會比較困難。

對于大部分的物聯(lián)網(wǎng)用戶來說，面臨的應用場景千差萬別，在半導體設計方面面臨的最大問題就是量小、種類多，很難找到單一的、量特別大的應用，這就導致了算法和硬件平臺的需求都不一樣，比較適合選擇 Intel 的 AI 計算盒參考設計。相比之下，如果選擇了 ASIC 方案，前期投入和后續(xù)升級都會面臨較大的問題。

也正是這種碎片化的特性，Intel 非常重視生態(tài)建設，希望持續(xù)推進其物聯(lián)網(wǎng)合作伙伴計劃，與更多的行業(yè)伙伴合作，推出從原型到生產(chǎn)加速智能邊緣的解決方案。在推出 AI 計算盒參考設計的同時，Intel 攜手小鈷科技、科沃斯、云圖睿視等十余家合作伙伴共同打造了“英特爾 AI 生態(tài)合作伙伴算法方案集萃”，將主要面向智慧城市、智慧零售、智慧教育、工業(yè)互聯(lián)網(wǎng)等多元化場景加速落地。
? ? ? ?責任編輯：tzh