Imagination與飛槳合作提出“軟硬一體賦能芯片設(shè)計”理念

9月2日，由深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程研究中心主辦，百度和張江集團承辦的2022世界人工智能大會“軟硬協(xié)同賦能產(chǎn)業(yè)未來專題論壇”成功舉行。百度飛槳攜手硬件生態(tài)伙伴和行業(yè)資深專家學(xué)者，深入探討軟硬融合創(chuàng)新實踐和生態(tài)共創(chuàng)共贏的發(fā)展路徑，賦能千行百業(yè)。

為讓AI技術(shù)應(yīng)用于產(chǎn)業(yè)場景、服務(wù)于前沿探索更方便、更靈活，飛槳與硬件伙伴創(chuàng)建繁榮生態(tài)的同時，也在共同探索AI軟硬件協(xié)同創(chuàng)新的優(yōu)化方案。對此，復(fù)旦大學(xué)微電子學(xué)院院長張衛(wèi)、Imagination中國區(qū)產(chǎn)品市場副總鄭魁、紫光展銳消費電子BU市場合作部部長朱宇、國電南瑞集團信通科技公司產(chǎn)品研發(fā)中心經(jīng)理馬濤和百度飛槳產(chǎn)品負責(zé)人趙喬等展開高端對話，探討Imagination與飛槳提出的“軟硬一體賦能芯片設(shè)計”理念，從IP層面進行合作，加強軟硬生態(tài)的建設(shè)。

圓桌對話嘉賓

生態(tài)合作推動 AI落地行業(yè)應(yīng)用

圓桌對話中，五位嘉賓圍繞“軟硬一體賦能芯片設(shè)計”主題，針對AI落地的挑戰(zhàn)與應(yīng)對、如何理解和定義軟硬件協(xié)同等話題展開了探討。

對于人工智能的落地，國電南瑞集團信通科技公司產(chǎn)品研發(fā)中心經(jīng)理馬濤表示，目前電力系統(tǒng)的智能調(diào)度、電力的信息化系統(tǒng)等包含了較豐富的AI應(yīng)用場景，如機器人巡檢、設(shè)備的全景監(jiān)測、作業(yè)管控等，同時正在和Imagination、紫光展銳、百度等嘗試一些應(yīng)用的探索。不過，他介紹，電力系統(tǒng)對可靠性、穩(wěn)定性、識別的精準度等方面要求高，AI算法也會更復(fù)雜一些，需要不斷調(diào)試；同時，對于電力系統(tǒng)小樣本數(shù)據(jù)訓(xùn)練的精準度，還需要進一步提升。

紫光展銳消費電子BU市場合作部部長朱宇從芯片企業(yè)的角度表達了他遇到的難題。他認為，作為SOC廠商，往往會在通用芯片中加入AI功能，例如采用 Imagination 的 IP 實現(xiàn)芯片最大算力，但這有一定的上限。通常，他們會先滿足手機方面的AI應(yīng)用，而隨著AI在行業(yè)應(yīng)用的深入，生態(tài)合作就十分重要。他表示，不管是 IP 廠商，還是飛槳PaddlePaddlet提供的上層框架，通過很多開發(fā)者提前預(yù)置模型，會加速 AI 落地。

Imagination中國區(qū)產(chǎn)品市場副總鄭魁表示，Imagination 是一家半導(dǎo)體 IP 供應(yīng)商，在GPU、AI 等領(lǐng)域有著多年的技術(shù)積累，也一直關(guān)注AI 落地。Imagination會與客戶合作持續(xù)在 AI 落地上發(fā)力，同時也越來越認識到生態(tài)的重要性，希望與眾多合作伙伴一起實現(xiàn)產(chǎn)業(yè)化落地的目標。在生態(tài)建設(shè)上，早于2019年Imagination與飛槳達成合作，并在今年雙方發(fā)起“軟硬一體賦能芯片設(shè)計”，打造面向行業(yè)的一些 AI 解決方案。

百度飛槳產(chǎn)品負責(zé)人趙喬所帶領(lǐng)的團隊是負責(zé)整個飛槳的產(chǎn)品規(guī)劃和設(shè)計，據(jù)他介紹，飛槳做了各種類型的包括視覺、語音、語言處理模型，以及一些行業(yè)的模型庫和行業(yè)應(yīng)用范例，但發(fā)現(xiàn)軟件需要跟硬件深度結(jié)合，才能發(fā)揮更好的效果。于是，飛槳開始與 SOC廠商、IP廠商合作，討論如何通過框架跟 IP 軟件棧的深度融合，解決 AI 工具鏈的成熟度問題。趙喬希望通過 IP 跟框架層面，輻射到芯片設(shè)計企業(yè)，最終服務(wù)到用戶。

如何定義軟硬件一體賦能芯片設(shè)計？

回到圓桌對話的主題，嘉賓們談到了他們對“軟硬件一體賦能芯片設(shè)計”的理解，以及未來帶給行業(yè)的影響。

鄭魁表示，軟硬件一體我們從IP 角度是設(shè)計開始就把能做“計算”的核放在一起做資源優(yōu)化，目前 Imagination 主要涵蓋 GPU、AI、CPU三大產(chǎn)品線。其中 GPU 可多核擴展支持 6TFLOPS 的算力，AI 加速器可支持到 100TOPS 甚至超過 5000TOPS 的算力并在自動駕駛領(lǐng)域落地，以及還有基于RISC-V的CPU。未來，各硬件廠商將面臨計算算力的挑戰(zhàn)，那么 Imagination 基于現(xiàn)有的產(chǎn)品線也在打造異構(gòu)計算的架構(gòu)，例如在CPU中加入 AI 加速專用硬件，同時我們也擁有IMGDNN SDK軟件。

Imagination希望基于百度PaddlePaddle這樣產(chǎn)業(yè)化的平臺，把AI 框架解析過來的工作通過DNN 最終部署到合適的硬件上，在硬件廠商計算架構(gòu)的不斷迭代中與軟件更好的結(jié)合，同時針對一些特定的應(yīng)用場景，各方企業(yè)可以聯(lián)合定義一款芯片，探討某個行業(yè)的需求點。

馬濤認為，軟硬件一體是未來發(fā)展的趨勢。在當(dāng)前的電力系統(tǒng)里，AI應(yīng)用有一些標準化的場景如人臉識別等，軟硬件協(xié)同則可以快速實現(xiàn)規(guī)?；牟渴?。同時在電力系統(tǒng)的智能化升級中，軟硬件的協(xié)同也將幫助實現(xiàn)更多的復(fù)雜場景的AI 應(yīng)用。

在趙喬看來，通過與產(chǎn)業(yè)鏈上下游企業(yè)的合作以及軟件的不斷成熟，可以解決AI 落地的兩大難題。一方面是成本問題，例如在包含Imagination IP 的芯片上做相應(yīng)的軟件開發(fā)，并加入一些定制化或更豐富的功能后，可提升應(yīng)用端的開發(fā)效率，從而降低成本。另一方面從應(yīng)用的角度來看，針對質(zhì)檢類、巡檢類這樣的特定應(yīng)用，如果能一開始便將豐富的模型庫與軟件棧很好的結(jié)合，也將大大提升應(yīng)用終端的開發(fā)效率。

隨著人工智能技術(shù)在各行業(yè)的廣泛應(yīng)用及快速發(fā)展，業(yè)界已從各自獨立的硬件算力驅(qū)動和算法創(chuàng)新驅(qū)動進入到算法和硬件協(xié)同創(chuàng)新階段。Imagination希望與飛槳及更多的軟硬件伙伴加強合作，實現(xiàn)共贏。