2020年第三屆AI大會(huì)圓滿成功，最新IP/芯片/方案/生態(tài)加速AI落地

2020年7月10日，由全球電子科技領(lǐng)域?qū)I(yè)媒體<電子發(fā)燒友> 舉辦的第三屆2020年人工智能大會(huì)盛大開(kāi)幕，受疫情影響，今年AI大會(huì)由線下改成了線上舉辦，<電子發(fā)燒友>隆重邀請(qǐng)到了來(lái)自Imagination、賽靈思、中科創(chuàng)達(dá)、Arm中國(guó)、英偉達(dá)、英特爾、Synopsys、研華等眾多家優(yōu)秀AI企業(yè)的專(zhuān)家來(lái)作精彩的演講。

電子發(fā)燒友總經(jīng)理張迎輝在致辭中表示，在過(guò)去三年的快速發(fā)展中，中國(guó)的人工智能產(chǎn)業(yè)，已經(jīng)成為了全球AI最大的市場(chǎng)和最快速發(fā)展的市場(chǎng)。

人工智能技術(shù)發(fā)展一日千里，當(dāng)我們?nèi)ツ赀€在為圖像、視頻、語(yǔ)音、聲音AI識(shí)別的技術(shù)問(wèn)題不斷鉆研創(chuàng)新的時(shí)候，今年人臉識(shí)別已經(jīng)在疫情防護(hù)中迅速落地，發(fā)揮著重要的作用?？梢哉f(shuō)，曾經(jīng)走在技術(shù)創(chuàng)新前沿的企業(yè)，今年已經(jīng)在市場(chǎng)上獲得了巨大的回報(bào)。

此外，2020年國(guó)家推出了新基建的經(jīng)濟(jì)刺激發(fā)展規(guī)劃，人工智能無(wú)疑會(huì)是新基建領(lǐng)域的重要一環(huán)，AI產(chǎn)業(yè)也將迎來(lái)更高速的發(fā)展和更加光明的前景。

調(diào)研：我國(guó)AI目前處于哪個(gè)階段？未來(lái)發(fā)展機(jī)遇在哪里？

在大會(huì)上，電子發(fā)燒友AI產(chǎn)業(yè)分析師張慧娟從AI基礎(chǔ)技術(shù)的演進(jìn)、AI的應(yīng)用現(xiàn)狀、AI項(xiàng)目落地情況及AI落地變局與機(jī)遇四個(gè)方面做了精彩分享。

我國(guó)AI目前處于哪個(gè)階段？張慧娟表示，根據(jù)電子發(fā)燒友調(diào)研，有36.9%的行業(yè)人士認(rèn)為，我國(guó)現(xiàn)階段AI處于萌發(fā)階段，各項(xiàng)技術(shù)都不成熟，有49.0%的人士認(rèn)為，我國(guó)AI處于發(fā)展初期，關(guān)鍵技術(shù)較為成熟。少數(shù)人士認(rèn)為我國(guó)AI技術(shù)較為成熟，其中有26.2%的人士認(rèn)為產(chǎn)品化能力有待加強(qiáng)的占，有21.5%的人士認(rèn)為應(yīng)用仍處于淺層次階段。也有17.4% 的人士認(rèn)為，我國(guó)現(xiàn)階段AI格局正在形成，搶占賽道階段。

在AI的應(yīng)用現(xiàn)狀方面，各家公司產(chǎn)品主要涉及到的AI技術(shù)有語(yǔ)音識(shí)別、機(jī)器學(xué)習(xí)平臺(tái)、深度學(xué)習(xí)、圖像識(shí)別、AI硬件優(yōu)化等。產(chǎn)品在消費(fèi)電子、智能家居、機(jī)器人領(lǐng)域的應(yīng)用占多數(shù)。張慧娟談到，近兩年，AI在智能車(chē)載、智能安防、智能醫(yī)療、智慧教育等領(lǐng)域的應(yīng)用也非常被看好，另外，因?yàn)榧夹g(shù)難度大，只有極少數(shù)公司能夠做到，所以在云端訓(xùn)練、遠(yuǎn)端推理領(lǐng)域的應(yīng)用占較少。

AI企業(yè)投入項(xiàng)目之后，存在很大的風(fēng)險(xiǎn)。根據(jù)調(diào)研，只有3% 的行業(yè)人士表示，參與項(xiàng)目之后，部署成功的概率能達(dá)到91%以上，而34% 的人士表示，成功概率在30%以下。在談到項(xiàng)目失敗的原因時(shí)，有60.4%的人士表示是產(chǎn)品應(yīng)用市場(chǎng)與預(yù)期出現(xiàn)偏差，39.6%的人士表示是項(xiàng)目技術(shù)規(guī)格無(wú)法實(shí)現(xiàn)，35.6%的人士表示是配合不暢導(dǎo)致周期無(wú)法滿足，還有23.5%的人士表示是項(xiàng)目資金出現(xiàn)問(wèn)題。

張慧娟認(rèn)為，雖然多數(shù)AI企業(yè)2019年的出貨量同比增長(zhǎng)放緩，整個(gè)行業(yè)的融資熱情也有所降溫。但從今年疫情期間，AI技術(shù)的加速落地，我們可以看到，AI產(chǎn)業(yè)還有很多的應(yīng)用場(chǎng)景有待挖掘，也存在非常多的變局和機(jī)遇。

另外新基建也將給AI落地帶來(lái)較大的拉動(dòng)作用，不過(guò)AI企業(yè)還需要在算力、算法、產(chǎn)品形態(tài)與場(chǎng)景的精準(zhǔn)匹配、安全、平臺(tái)化服務(wù)能力及數(shù)據(jù)的獲取/治理、軟件平臺(tái)各個(gè)方面優(yōu)化提升和突破。

Imagination ：基于GPU與神經(jīng)網(wǎng)絡(luò)加速器的異構(gòu)計(jì)算——兼顧算力效率與算法普適性的平臺(tái)

在此次人工智能大會(huì)上，Imagination 中國(guó)區(qū)戰(zhàn)略市場(chǎng)與生態(tài)高級(jí)總監(jiān)時(shí)昕帶來(lái)的主題分享是《基于GPU與神經(jīng)網(wǎng)絡(luò)加速器的異構(gòu)計(jì)算——兼顧算力效率與算法普適性的平臺(tái)》。

異構(gòu)計(jì)算技術(shù)從80年代中期產(chǎn)生，由于它能經(jīng)濟(jì)有效地獲取高性能計(jì)算能力、可擴(kuò)展性好、計(jì)算資源利用率高、發(fā)展?jié)摿薮?，已成為并?分布計(jì)算領(lǐng)域中的研究熱點(diǎn)之一。目前Imagination與很多業(yè)界伙伴，都致力于異構(gòu)計(jì)算。

“Imagination是一家IP公司，自己不生產(chǎn)芯片，主要是將授權(quán)給芯片客戶，目前使用Imagination 授權(quán)IP的芯片出貨量累計(jì)超110億片，”時(shí)昕介紹道，“Imagination是全球唯一一家非美國(guó)的GPU IP核心專(zhuān)利持有公司，公司在移動(dòng)端的GPU IP市場(chǎng)占有率接近40%，在汽車(chē)領(lǐng)域的GPU IP 市場(chǎng)占有率約為43%，Imagination的客戶主要有蘋(píng)果、聯(lián)發(fā)科、TI、紫光展銳、三星、ST等等。”

Imagination在AI領(lǐng)域投入大量的時(shí)間、金錢(qián)及人力，也取得了相當(dāng)優(yōu)秀的成績(jī)，時(shí)昕表示，公司在人工智能領(lǐng)域研究了7年，投入費(fèi)用超100萬(wàn)美元，已經(jīng)申請(qǐng)/授權(quán)的人工智能專(zhuān)利超80項(xiàng)。

在會(huì)上，時(shí)昕重點(diǎn)介紹了Imagination靈活高效普適的異構(gòu)平臺(tái)NX-F及AI Synergy。NX-F神經(jīng)網(wǎng)絡(luò)邊緣計(jì)算解決方案，具備高效神經(jīng)網(wǎng)絡(luò)支持的特點(diǎn)，引入了可編程性和浮點(diǎn)支持，包括計(jì)算優(yōu)化GPGPU、PowerVR Rogue架構(gòu)、基于多年的GPU計(jì)算經(jīng)驗(yàn)等等。

據(jù)時(shí)昕介紹，PowerVR AI，是一個(gè)組合API，支持在GPU和NNA中互聯(lián)互通，軟件可以完美的支持安卓的開(kāi)發(fā)，在安卓之外，也支持常見(jiàn)的Linxux、TensorFlow、PyTorch等等。

Imagination還與英國(guó)軟件公司codeplay有合作，2019年10月23日，Imagination宣布，得益于全新優(yōu)化的開(kāi)源SYCL神經(jīng)網(wǎng)絡(luò)庫(kù)，使用TensorFlow的開(kāi)發(fā)人員將可以直接面向PowerVR圖形處理器（GPU）進(jìn)行開(kāi)發(fā)。其首個(gè)版本在2019年提供商用。

賽靈思：著眼效率提升和與IoT技術(shù)融合，AI芯片優(yōu)化三大路徑

7月10日，在電子發(fā)燒友主辦的2020年人工智能大會(huì)高峰論壇上，來(lái)自賽靈思人工智能業(yè)務(wù)高級(jí)總監(jiān)姚頌帶來(lái)了《AI芯片技術(shù)與產(chǎn)業(yè)發(fā)展路徑》的演講。

姚頌指出，AI需要芯片，芯片需要AI。由于神經(jīng)網(wǎng)絡(luò)的加入，深度學(xué)習(xí)成為AI產(chǎn)業(yè)的助推力。轉(zhuǎn)折點(diǎn)出現(xiàn)在2012年，英偉達(dá)在2007年和2008年推出CUDA，GPU和CUDA讓深度學(xué)習(xí)復(fù)興，對(duì)后來(lái)的整個(gè)人工智能起到了決定性的意義。2012年，Google當(dāng)時(shí)有兩個(gè)大神，一個(gè)是吳文達(dá)老師，斯坦福教授，后來(lái)成為百度的首席科學(xué)家，還有Justin和吳恩達(dá)做了一個(gè)貓眼識(shí)別的項(xiàng)目，花費(fèi)了1000臺(tái)服務(wù)器，16,000個(gè)CPU是一個(gè)非常大型的分布式的計(jì)算系統(tǒng)。采用了兩個(gè)GPU，這個(gè)算法把神經(jīng)網(wǎng)絡(luò)劈成了兩半，分別放在兩個(gè)GPU上，一起訓(xùn)練出來(lái)，極大的簡(jiǎn)化了整個(gè)計(jì)算系統(tǒng)的復(fù)雜度，把海量的數(shù)據(jù)用起來(lái)。把神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的優(yōu)勢(shì)給體現(xiàn)出來(lái)。

在姚頌看來(lái)，數(shù)據(jù)、算力和算法三大因素共同驅(qū)動(dòng)了人工智能的興起。AI芯片的發(fā)展主要是關(guān)鍵性的應(yīng)用推動(dòng)。AI正在為越來(lái)越多的細(xì)分應(yīng)用提供支持，不同的模型針對(duì)不同的應(yīng)用類(lèi)別，例如分類(lèi)、目標(biāo)檢測(cè)、道路分割等主要采用卷積神經(jīng)網(wǎng)絡(luò)（CNN）。

哪些殺手級(jí)應(yīng)用推動(dòng)芯片的應(yīng)用？姚頌認(rèn)為，下一代技術(shù)主力發(fā)展是IoT和AI，IoT如果只做簡(jiǎn)單的連接，價(jià)值不大，如果賦予IoT一定AI能力，比如全家實(shí)現(xiàn)語(yǔ)音控制和語(yǔ)音交互，這些智慧生活體驗(yàn)帶動(dòng)應(yīng)用的興起。新零售、新制造、醫(yī)療領(lǐng)域也將成為AI市場(chǎng)的新增長(zhǎng)點(diǎn)。

AI芯片的核心解決什么問(wèn)題？姚頌認(rèn)為，AI芯片主要解決的是帶寬不足的問(wèn)題，提高芯片的利用率。AI計(jì)算優(yōu)化的三個(gè)維度，包括微架構(gòu)設(shè)計(jì)、核心技術(shù)和算法壓縮。AI芯片微架構(gòu)設(shè)計(jì)的核心就是減少訪存次數(shù)，芯片物理上的改進(jìn)，采用的方法包括增大芯片尺寸，采用更多的晶體管，采用最新的制程和最高的帶寬。

AI芯片近年來(lái)最大的進(jìn)步非常大。姚頌分析說(shuō)，清華大學(xué)高性能計(jì)算研究組的數(shù)據(jù)研究結(jié)果顯示，從2019年到目前，ASIC產(chǎn)品已經(jīng)出來(lái)，總體性能達(dá)到一個(gè)很好的指標(biāo)，FPGA也在不斷改進(jìn)，，用數(shù)?；旌戏绞阶龀鰜?lái)的AI芯片得到一些特別恐怖的新指標(biāo)，目前離量產(chǎn)還有一段距離。

姚頌指出，AI芯片越專(zhuān)用，性能越好，設(shè)計(jì)難度越小。賽靈思的GPU是支持卷積神經(jīng)網(wǎng)絡(luò)，寒武紀(jì)是支持機(jī)器學(xué)習(xí)，AI芯片的需求確實(shí)差異很大。比如無(wú)線耳機(jī)的語(yǔ)音喚醒與識(shí)別需要AI芯片功耗低，成本低。自動(dòng)駕駛需要的AI芯片低延遲、高可靠。

姚頌認(rèn)為，生態(tài)與軟件的重要性遠(yuǎn)遠(yuǎn)大于AI芯片本身。如果只有芯片和指令集，應(yīng)用時(shí)就會(huì)產(chǎn)生很多問(wèn)題。沒(méi)有軟件，開(kāi)發(fā)者無(wú)法使用，沒(méi)有生態(tài)，初學(xué)者根本沒(méi)有辦法看懂，學(xué)習(xí)成本很高，廠商不做板卡跟系統(tǒng)，工程師拿到你的AI芯片，最后做成產(chǎn)品也非常費(fèi)勁。

中科創(chuàng)達(dá)：邊緣計(jì)算推動(dòng)邊緣智能實(shí)現(xiàn)，5G與邊緣智能融合前景看好

7月10日，在電子發(fā)燒友主辦的2020年人工智能大會(huì)高峰論壇上，中科創(chuàng)達(dá)智能物聯(lián)網(wǎng)事業(yè)群副總裁楊新輝帶來(lái)了全球5G和AI融合趨勢(shì)的精彩觀點(diǎn)分享，并重點(diǎn)分析了邊緣計(jì)算領(lǐng)域最新進(jìn)展，以及5G與邊緣智能融合的落地關(guān)鍵點(diǎn)。

楊新輝的觀察是，全球5G＋AI技術(shù)發(fā)展迅速，為IoT市場(chǎng)帶來(lái)新機(jī)會(huì)，根據(jù)2020年IDC預(yù)測(cè)，5G智能終端的出貨量會(huì)超過(guò)1億臺(tái)?？v觀全球AI市場(chǎng)，德勤數(shù)據(jù)顯示，到2020年人工智能在安防、金融、醫(yī)療等領(lǐng)域，邊緣計(jì)算產(chǎn)品和應(yīng)用逐步落地，營(yíng)收可以達(dá)到2.4萬(wàn)億美元的市場(chǎng)規(guī)模。2025年全球的互聯(lián)網(wǎng)設(shè)備將超過(guò)250億臺(tái)連接，其中將可能有10%是通過(guò)5G網(wǎng)絡(luò)產(chǎn)生的連接。

5G和AI未來(lái)將成為產(chǎn)業(yè)智能化的重要推手，考慮到5G網(wǎng)絡(luò)具備可擴(kuò)展能力和可靠性，更加靈活的無(wú)線網(wǎng)絡(luò)，極大解決了連接安全和計(jì)算問(wèn)題。在邊緣計(jì)算和AI方向，邊緣計(jì)算會(huì)有更多的感知和處理，機(jī)器視覺(jué)與人工智能將應(yīng)用于無(wú)人駕駛，進(jìn)行邊緣的服務(wù)和數(shù)據(jù)的私有化，兩者結(jié)合起來(lái)，將為整個(gè)的產(chǎn)業(yè)發(fā)展提供更強(qiáng)的動(dòng)力。

楊新輝認(rèn)為，5G網(wǎng)絡(luò)部署帶動(dòng)通信帶寬的增加和大數(shù)據(jù)的產(chǎn)生，整個(gè)市場(chǎng)對(duì)邊際計(jì)算的需求日益強(qiáng)烈。5G時(shí)代，為了保證邊緣計(jì)算產(chǎn)業(yè)和網(wǎng)絡(luò)邊緣計(jì)算的服務(wù)有效應(yīng)對(duì)到落地場(chǎng)景，中科創(chuàng)達(dá)提供TurboX Edge Platform邊緣智能平臺(tái)，底層提供基于5G的通訊模組和邊緣計(jì)算的芯片，為了加速開(kāi)發(fā)者的產(chǎn)品落地，他們又推出了成熟的邊緣計(jì)算的開(kāi)發(fā)套件TurboX Edge Kit。

TurboX Edge Platform邊緣智能平臺(tái)采用層級(jí)化、模塊化的設(shè)計(jì)理念以及容器化的部署方式，基礎(chǔ)層包含核心計(jì)算模塊（SOM）、操作系統(tǒng)內(nèi)核、硬件驅(qū)動(dòng)和開(kāi)發(fā)套件；中間件層包含以人工智能、邊緣計(jì)算、安全、人機(jī)交互為主的模塊化組件；應(yīng)用層包含各垂直行業(yè)端到端解決方案以及云服務(wù)，實(shí)現(xiàn)了邊緣與云端的數(shù)據(jù)協(xié)同、控制協(xié)同、管理協(xié)同。目前，該平臺(tái)已經(jīng)廣泛應(yīng)用在智能工業(yè)、智能城市、智能零售、智能網(wǎng)聯(lián)汽車(chē)、機(jī)器人等多個(gè)垂直行業(yè)。

Arm中國(guó)：AI芯片的發(fā)展與周易AIPU

隨著數(shù)據(jù)量指數(shù)級(jí)的增長(zhǎng)，倒逼著算力需求升級(jí)，針對(duì)不同場(chǎng)景的算力升級(jí)需要不同的AI芯片。同時(shí)，神經(jīng)網(wǎng)絡(luò)的發(fā)展需要更高算力AI芯片。傳統(tǒng)的CPU和GPU兩大硬件架構(gòu)進(jìn)行的運(yùn)算消耗大量的處理能力，AI芯片不僅對(duì)工作負(fù)載高的模型算子提升效率，也提供強(qiáng)大的可編輯引擎，對(duì)模型自定義層和新興的算子提供支持。

Arm中國(guó)高級(jí)AI技術(shù)市場(chǎng)經(jīng)理吳彤在分析當(dāng)前AI處理器的演進(jìn)時(shí)談到，為了提高AI芯片的性能，AI芯片領(lǐng)域?qū)Ｓ眉軜?gòu)DSA逐漸興起，DSA將彌補(bǔ)軟硬件的性能鴻溝，將硬件架構(gòu)進(jìn)行定制并使其具備特定領(lǐng)域應(yīng)用特征，使該領(lǐng)域的一系列應(yīng)用任務(wù)都能高效執(zhí)行。典型的DSA架構(gòu)包括機(jī)器學(xué)習(xí)領(lǐng)域的神經(jīng)網(wǎng)絡(luò)處理器，圖形圖像/虛擬現(xiàn)實(shí)領(lǐng)域的圖像處理器GPU，以及可編程網(wǎng)絡(luò)交換機(jī)及接口。

他還列舉了目前AI芯片六個(gè)典型架構(gòu)，包括英偉達(dá)A100 GPU、谷歌TPU 3.0、Xilinx Versal ACAP、Intel Habana Gaudi、Graphcore IPU以及Cerebras WSE。而AI芯片的發(fā)展方向?qū)⑷Q于算法和生態(tài)等因素，深度學(xué)習(xí)算法需求以及從底層硬件到工具鏈、更高階的庫(kù)再到應(yīng)用的生態(tài)也至關(guān)重要，此外Chiplet小芯片通過(guò)封裝技術(shù)將芯片進(jìn)行整合，也推動(dòng)著AI芯片的發(fā)展。

去年，Arm中國(guó)發(fā)布周易AIPU是其自主研發(fā)的神經(jīng)網(wǎng)絡(luò)處理IP，具有創(chuàng)新架構(gòu)、安全性和可擴(kuò)展性。

據(jù)透露，首款采用周易AIPU的芯片全志科技語(yǔ)音芯片R329將于年內(nèi)上市。吳彤指出，由于算法迭代快，AI芯片如何適配呢，周易提供很好的編程特性，可支持市面上主流算法的升級(jí)，此外周易的可擴(kuò)展性可支持0.2TOP到幾十TOPS算力的應(yīng)用。從工具鏈到庫(kù)、統(tǒng)一面向AI應(yīng)用的API、支持所有主流AI框架以及豐富的AI應(yīng)用構(gòu)建的生態(tài)也成為周易AIPU能夠快速?gòu)脑O(shè)計(jì)到量產(chǎn)的關(guān)鍵。

英偉達(dá)：Jetson平臺(tái)助力邊緣計(jì)算開(kāi)發(fā)

英偉達(dá)從硬件到軟件構(gòu)建的生態(tài)加速了其GPU產(chǎn)品的應(yīng)用落地。此次，英偉達(dá)帶來(lái)Jetson嵌入式計(jì)算平臺(tái)在邊緣端應(yīng)用的最新情況。

JETSON平臺(tái)已經(jīng)聚集了50多萬(wàn)開(kāi)發(fā)者，并且還在快速增長(zhǎng)。JETSON在工業(yè)、物流、零售、醫(yī)療、農(nóng)業(yè)、智慧城市等各行各業(yè)得到了廣泛的應(yīng)用。英偉達(dá)以強(qiáng)大的GPU而知名，然而在芯片的基出上，完善好用的工具鏈、SDK等的支持也令英偉達(dá)的芯片能夠更方便的進(jìn)入應(yīng)用場(chǎng)景。

英偉達(dá)開(kāi)發(fā)者關(guān)系總監(jiān)李雨倩在演講中表示，英偉達(dá)提供TensorRT和Transfer learning工具，前者可支持多種算法模型平滑對(duì)接到英偉達(dá)的硬件，后者通過(guò)減枝、場(chǎng)景適配和新的層級(jí)，可對(duì)大型數(shù)據(jù)進(jìn)行裁減，對(duì)場(chǎng)景增加數(shù)據(jù)集，以及預(yù)留部分通道拓展應(yīng)用等等。

同時(shí)，英偉達(dá)提供DEEPSTREAM和ISSACWORKFLOW兩款SDK。DEEPSTREAMSDK提供了一整套數(shù)據(jù)流分析工具包，透過(guò)智能視頻分析（IVA）和多傳感器的數(shù)據(jù)處理來(lái)感知情景和意識(shí)。

ISSAC SDK 是一個(gè)機(jī)器人軟件開(kāi)發(fā)工具包，ISSAC Robot Engine 方便在不同的平臺(tái)上部署機(jī)器人應(yīng)用，ISSAC GEMs集成了許多機(jī)器人感知導(dǎo)航算法模塊，并且許多有GPU加速，給機(jī)器人開(kāi)發(fā)提供便利。

JETSON系列共有四款芯片，包括JETSON NANO、TX2 series、AVIER NX、AGX XAVIER series，覆蓋從0.5TFLOPS到32TOPS的算力需求。考慮到許多設(shè)備都受限于小尺寸和低功耗，為此英偉達(dá)推出了全新的Jetson Xavier NX，使用戶能夠在不增加設(shè)備尺寸或功耗的情況下，大幅提高AI性能。

JETSON產(chǎn)品系列作為人工智能的邊緣計(jì)算平臺(tái)，將以強(qiáng)大的生態(tài)體系帶給更多場(chǎng)景的落地應(yīng)用。

新思科技：邊緣端AI的延遲、可靠性問(wèn)題

由于云端計(jì)算存在著延遲、數(shù)據(jù)傳輸成本高、可靠性等問(wèn)題，許多的AI計(jì)算將在邊緣端承載。相關(guān)的典型案例，例如NETFLIX作為一家視頻流服務(wù)公司，部署了許多邊緣端的服務(wù)器，處理傳輸?shù)膬?yōu)化和搜索。?？礜VR在本地處理攝像頭的視頻流數(shù)據(jù)。

邊緣計(jì)算對(duì)半導(dǎo)需求的影響主要在五個(gè)方面，在整個(gè)網(wǎng)絡(luò)基礎(chǔ)架構(gòu)中添加服務(wù)器架構(gòu)；人工智能嵌入所有系統(tǒng)；低功耗服務(wù)SOC芯片的應(yīng)用；低延遲網(wǎng)絡(luò)的需求，低延遲處理要求。而邊緣AI將刺激AR/VR、機(jī)器人、游戲等低延遲應(yīng)用的爆發(fā)。

Synopsys新思科技IP產(chǎn)品方案銷(xiāo)售總監(jiān)鐘香建在針對(duì)AI加速器SOC的發(fā)展時(shí)談到，大部分的AI加速器采用了12nm和7nm工藝，其實(shí)是14nm工藝。它的系統(tǒng)框架中采用了LPDDR、HBM2e、PCIe5.0、CXL等接口，以滿足芯片或DIE到DIE之間的高速傳輸需求。其中，PCIe 4.0和5.0提供了當(dāng)今AI SOC中最常用的接口，實(shí)現(xiàn)了可靠和可信的連接。CXL提供從主機(jī)到加速器的低延遲、緩存一致性連接。PCIe Switch有助聚合芯片陣列。Synopsys是PCIe IP領(lǐng)域的領(lǐng)導(dǎo)者，現(xiàn)在提供PCIe Switch IP來(lái)實(shí)現(xiàn)定制的AI聚合，提高系統(tǒng)性能。

此外，新思ARC EV處理器IP可使用標(biāo)量、矢量、NN引擎完成人工智能處理，LPDDR IP提供低功耗、低成本的存儲(chǔ)方案，HBM2 IP提供高帶寬和高能源效率的方案，實(shí)現(xiàn)以最小的功耗和低延遲實(shí)現(xiàn)內(nèi)存的吞吐量要求等。

通過(guò)邊緣計(jì)算和5G的新應(yīng)用及服務(wù)預(yù)計(jì)將出現(xiàn)強(qiáng)勁增長(zhǎng)。DesignWareIP正在解決所需的關(guān)鍵延遲、可靠性和性能改進(jìn)。

英特爾： OpenVINO?工具包助力人工智能開(kāi)發(fā)

英特爾的合作伙伴架構(gòu)師馬小龍，為我們介紹了英特爾為邊緣AI應(yīng)用的開(kāi)發(fā)、部署和上市推廣，提供了怎樣的軟硬件平臺(tái)和資源。

人工智能正在改變每一個(gè)行業(yè)的體驗(yàn)和定義，在圖像和語(yǔ)音識(shí)別領(lǐng)域，機(jī)器已經(jīng)能夠達(dá)到甚至超過(guò)人類(lèi)的水平。隨著用戶對(duì)于人工智能延遲和性能要求的提升，邊緣端的人工智能在今年獲得了快速發(fā)展。邊緣人工智能近年來(lái)在安防，智能城市，零售，制造和視頻等行業(yè)領(lǐng)域都獲得了廣泛應(yīng)用。

英特爾提供了人工智能應(yīng)用開(kāi)發(fā)的完整生態(tài)資源，首先開(kāi)發(fā)者可以借助OpenVINO對(duì)已訓(xùn)練好的模型進(jìn)行優(yōu)化和異構(gòu)部署；OpenVINO工具包是一項(xiàng)用于高性能深度學(xué)習(xí)推理的工具套件，借助OpenVINO可以更快更準(zhǔn)確地將人工智能應(yīng)用產(chǎn)品化，并從邊緣到云基于英特爾架構(gòu)來(lái)部署。同時(shí)該工具包使用了同一個(gè)API，可以實(shí)現(xiàn)一次編寫(xiě)，任意部署，因此可以大大降低人工智能應(yīng)用遷移所需的開(kāi)發(fā)工作量。已訓(xùn)練模型通過(guò)模型優(yōu)化器（支持TensorFlow、Caffe等多種模型）轉(zhuǎn)化成中間表示格式，再通過(guò)推理引擎部署在不同的英特爾架構(gòu)上。

在測(cè)試與集成階段，英特爾提供了DevCloud邊緣開(kāi)發(fā)云和物聯(lián)網(wǎng)開(kāi)發(fā)人員套件來(lái)加快產(chǎn)品落地，上市階段也提供了邊緣軟件中心。若是目前手頭沒(méi)有配置好的OpenVINO開(kāi)發(fā)環(huán)境或缺少相應(yīng)的英特爾產(chǎn)品進(jìn)行部署，就可以借助邊緣開(kāi)發(fā)云來(lái)快速部署和測(cè)試。DevCloud不僅提供了開(kāi)發(fā)服務(wù)器、存儲(chǔ)服務(wù)器，還擁有一系列不同邊緣節(jié)點(diǎn)。而物聯(lián)網(wǎng)開(kāi)發(fā)人員套件中，既有即插即用的神經(jīng)計(jì)算棒，也有基于酷睿處理器的多場(chǎng)景開(kāi)發(fā)套件和加速卡。

為了解決性能限制、快速上市和異構(gòu)部署的挑戰(zhàn)，減少底層開(kāi)發(fā)工作，英特爾也推出了邊緣軟件中心。該軟件中心里包含了針對(duì)多應(yīng)用的邊緣洞見(jiàn)軟件包，同時(shí)附帶商用級(jí)別的參考示例，也和多個(gè)合作伙伴推出了經(jīng)驗(yàn)證的邊緣設(shè)備。

研華：基于Intel Movidius VPU及海思SoC的邊緣AI解決方案

接下來(lái)，研華科技IoT嵌入式平臺(tái)事業(yè)群物聯(lián)網(wǎng)行業(yè)經(jīng)理鞠劍為我們分享了基于Intel Movidius VPU及海思SoC這兩大不同硬件平臺(tái)的邊緣AI方案。

英特爾的OpenVINO支持四大硬件架構(gòu)，CPU、GPU、FPGA和VPU，其中的VPU就是Movidius系列產(chǎn)品。研華目前采用的是英特爾于2019年第四季度發(fā)布的Intel? Movidius? Myriad? X VPU，芯片型號(hào)為MA2485，該芯片相對(duì)Myriad2 VPU在深度神經(jīng)網(wǎng)絡(luò)上的性能高出10倍，算力達(dá)4TOPS，專(zhuān)用神經(jīng)網(wǎng)絡(luò)算力達(dá)1TOPS，而且擁有超低功率，不到4W。研華基于該芯片推出了一整套邊緣AI解決方案，既有加速模塊也有推理系統(tǒng)。

這其中AI VPU加速模塊已量產(chǎn)的有VEGA-320、VEGA-330、VEGA-340，而VEGA-341是下一代，預(yù)計(jì)在今年Q3正式量產(chǎn)。

其中VEGA-320集成了MA2485芯片，接口為M.2 2230，主要應(yīng)用于弱AI場(chǎng)景，比如交通/視頻監(jiān)控和信息亭/零售行業(yè)等；VEGA-330可集成1或2顆MA2485芯片，接口為miniPCIe，主要應(yīng)用于工業(yè)級(jí)的AGV還有無(wú)人機(jī)/機(jī)器人領(lǐng)域；前兩個(gè)加速模塊都采用被動(dòng)散熱。VEGA-340是插卡式產(chǎn)品，可集成4或8顆MA2485，接口為PCIex4，采用主動(dòng)散熱，更適合醫(yī)學(xué)影像和AOI這類(lèi)強(qiáng)AI領(lǐng)域。VEGA-320和VEGA-330除了自帶的標(biāo)準(zhǔn)散熱器外，還可以選配效果更好的伴散熱器。

在未加入AI VPU的情況下，測(cè)試的人臉識(shí)別案例平均每秒幀數(shù)為110，CPU負(fù)載在100%，能耗為27W。加入了VEGA-330之后，不僅提升了10FPS，還釋放了50%的CPU負(fù)債。在額外加入硬件的情況下，反而將功耗降低了30%，功率達(dá)到18.9W。

AGV：VEGA-330邊緣 AI 推斷模塊（VPU * 2）集成到他的 AGV 購(gòu)物車(chē)中。這使得 AGV 能夠通過(guò)攝像機(jī)視覺(jué)進(jìn)行自主導(dǎo)航，并執(zhí)行障礙物檢測(cè)，以避免在人機(jī)混合工作場(chǎng)所發(fā)生事故。

AI紡織品缺陷檢查：通過(guò)帶有八個(gè)IntelMovidiusVPU的研華VEGA-340可在分布式織機(jī)上進(jìn)行實(shí)時(shí)AI檢查。控制系統(tǒng)可以根據(jù)檢測(cè)結(jié)果立即做出反應(yīng)，提高生產(chǎn)質(zhì)量和效率。

在研華推出的邊緣推理系統(tǒng)中，Ei-A100主要用于教育零售領(lǐng)域，而AIR-200更適合AGV場(chǎng)景，EPC-C301則主要用于工廠自動(dòng)化和機(jī)械臂等復(fù)雜場(chǎng)景。EPC-C301帶有4個(gè)USB3.2攝像頭接口，和CAN2.0自動(dòng)化控制接口，選用了無(wú)風(fēng)扇散熱設(shè)計(jì)。

機(jī)器手臂AI（視覺(jué)）升級(jí)：將傳統(tǒng)機(jī)械手臂進(jìn)行視覺(jué)定位升級(jí)，通過(guò)EPC-C301內(nèi)置的VEGA-330邊緣AI推斷模塊，幫助客戶進(jìn)行運(yùn)動(dòng)軌跡輔助判斷。使用手臂前端的攝像機(jī)進(jìn)行自主運(yùn)動(dòng)，精確導(dǎo)航。

除了基于英特爾VPU的AI方案，研華科技也針對(duì)海思的SoC推出了自己的一套邊緣AI智能物聯(lián)網(wǎng)網(wǎng)關(guān)方案。目前正在研發(fā)的EPC-R5770就采用了海思的Hi3531。這款海思的SoC在視頻編碼能力很強(qiáng)，支持8路1080P H.265/H.264編解碼。除了多路接口外，還支持附加VEGA-330的模組。EPC-R5772尚在計(jì)劃中，選用的還是HI3559，各項(xiàng)參數(shù)仍然待定。

本次人工智能大會(huì)的圓桌論壇環(huán)節(jié)，由電子發(fā)燒友產(chǎn)業(yè)分析師張慧娟主持，邀請(qǐng)到Imagination公司時(shí)昕、英偉達(dá)公司李雨倩以及研華科技的鞠劍等數(shù)位嘉賓，共同探討了AI新周期的新挑戰(zhàn)，AI如何走向規(guī)模和普惠的話題。

更多關(guān)于2020年第三屆中國(guó)人工智能大會(huì)暨首屆中國(guó)人工智能卓越創(chuàng)新獎(jiǎng)的詳情，請(qǐng)點(diǎn)擊官網(wǎng)鏈接：http://srfitnesspt.com/activity/ai-2020/index.html。