生成式AI加速向終端側(cè)演進(jìn)，NPU、異構(gòu)計(jì)算提供強(qiáng)大算力支持

電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）生成式AI是一種通過學(xué)習(xí)大規(guī)模數(shù)據(jù)集生成新的原創(chuàng)內(nèi)容的新型AI。Bloomberg Intelligence最新報(bào)告預(yù)測(cè)，未來10年內(nèi)，生成式AI市場(chǎng)規(guī)模將從2022年的400億美元，增長(zhǎng)至2032年的1.3萬(wàn)億美元，年復(fù)合增速達(dá)到42%。

生成式AI向終端快速演進(jìn)

當(dāng)前大部分生成式AI的開發(fā)工作都集中在云端，然而生成式AI正朝著直接在終端上運(yùn)行的方向快速演進(jìn)。高通公司總裁兼CEO安蒙前不久談到，生成式AI將變革終端側(cè)的用戶體驗(yàn)，具備生成式AI能力的PC能夠更好地理解用戶需求，生成式AI還將帶來全新的人車交互方式，支持用戶與汽車直接進(jìn)行對(duì)話。他認(rèn)為，生成式AI將為各行各業(yè)帶來全新機(jī)遇。

近段時(shí)間，生成式AI在手機(jī)、PC等終端設(shè)備上已經(jīng)有不少用例。最近推出的新手機(jī)，就有不少生成式AI的應(yīng)用，比如，OPPO Find X7Ultra的AIGC消除功能，即可極大幅度的降低拍照廢片率，一些路人突然出現(xiàn)的照片，就可以通過該功能成功拯救。三星Galaxy S24系列的通話實(shí)時(shí)語(yǔ)音翻譯和同傳功能，支持了13種語(yǔ)言之間的無縫翻譯，出國(guó)旅行也可輕松交流。

在前不久的MWC展會(huì)期間，高通也在現(xiàn)場(chǎng)展示了大量生成式AI的應(yīng)用案例。相比此前發(fā)布的一些手機(jī)的AI功能，高通在MWC現(xiàn)場(chǎng)所展示的AI功能更為神奇。如，在圖像生成上，完全不需要一長(zhǎng)串的文字標(biāo)簽，只要給出一個(gè)比較準(zhǔn)確的描述，Stable Diffusion即可快速生成圖片，與描述相差無幾。比如輸入“一只可愛的卷毛貓”，小龍手機(jī)僅耗時(shí)不到7秒，就生成了一張卷毛貓?jiān)谑覂?nèi)的照片，效果十分真實(shí)。

另外，圖片生成還能根據(jù)個(gè)人或藝術(shù)偏好，加入自定義元素來展現(xiàn)風(fēng)格效果。比如在加入“水晶”關(guān)鍵詞，并設(shè)定好風(fēng)格權(quán)重后，模型就會(huì)添加水晶元素，最終生成的圖片就很有賽博風(fēng)格了。這種使用方式很具想象力，它可以用來制作表情包，甚至在創(chuàng)作平面、視頻內(nèi)容缺素材時(shí)，也能運(yùn)用AI快速生成符合要求的素材。

異構(gòu)計(jì)算對(duì)端側(cè)生成式AI的重要性

而這些生成式AI功能在終端設(shè)備上的應(yīng)用離不開芯片的支持。高通認(rèn)為，對(duì)于端側(cè)生成式AI來說，異構(gòu)計(jì)算是必要條件。高通在此次MWC 展示的Stable Diffusion快速生成圖片，完全依靠端側(cè)算力，它需要NPU進(jìn)行推理，需要GPU進(jìn)行圖像渲染，也正是在異構(gòu)運(yùn)算的幫助下，才能快速里完成圖片生成，并且能夠保持低功耗，保持手機(jī)終端的高電池續(xù)航。

近日，高通在其發(fā)布的《通過NPU和異構(gòu)計(jì)算開啟終端側(cè)生成式AI》報(bào)告中，深入闡述了NPU與異構(gòu)計(jì)算，對(duì)端側(cè)生成式AI使用的重要性。

高通公司提出，隨著生成式AI用例需求在有著多樣化要求和計(jì)算需求的垂直領(lǐng)域不斷增加，需要專為AI定制設(shè)計(jì)的全新計(jì)算架構(gòu)。這首先需要一個(gè)面向生成式AI全新設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)處理器(NPU)，同時(shí)要利用異構(gòu)處理器組合，比如中央處理器(CPU)和圖形處理器(GPU)。通過結(jié)合NPU使用合適的處理器，異構(gòu)計(jì)算能夠?qū)崿F(xiàn)最佳應(yīng)用性能、能效和電池續(xù)航，賦能全新增強(qiáng)的生成式AI體驗(yàn)。

NPU專為實(shí)現(xiàn)以低功耗加速AI推理而全新打造，其架構(gòu)隨著新AI算法、模型和用例的發(fā)展不斷演進(jìn)。AI運(yùn)算上的主要負(fù)載是由標(biāo)量、向量和張量的數(shù)學(xué)運(yùn)算，雖說CPU也能對(duì)此進(jìn)行處理，不過處理速度和功耗方面都不理想。NPU正是針對(duì)AI運(yùn)算所打造的新處理單元，高通在2015年推出的第一代AI引擎，在Hexagon NPU集成了標(biāo)量和向量運(yùn)算核心，之后又加入了張量運(yùn)算核心，從而極大加快了AI處理速度，并使AI運(yùn)算處理的功耗大幅度降低。

寫在最后

如今，生成式AI已經(jīng)在終端側(cè)展示出它的價(jià)值，隨著生成式AI在終端側(cè)運(yùn)行的加速，這一趨勢(shì)也將推動(dòng)終端的進(jìn)一步創(chuàng)新，有望為手機(jī)、PC等消費(fèi)電子市場(chǎng)帶來新一輪生機(jī)。同時(shí)，生成式AI在終端側(cè)的運(yùn)行需要極大的算力，這也是目前業(yè)界需要解決的重大問題。