做通用GPU究竟有多難?

根據(jù)“牧村波動(dòng)”（Makimoto’s Wave）顯示，半導(dǎo)體產(chǎn)品未來可能將沿著“標(biāo)準(zhǔn)化”與“定制化”交替發(fā)展的路線前進(jìn)，每十年波動(dòng)一次。2020 年將至，過去數(shù)年我們一直在呼喚AI 芯片和高性能計(jì)算芯片，如果 “牧村波動(dòng)”仍然奏效，那么下一個(gè)波峰將是超高靈活度集成的芯片。而這也解釋了為什么英偉達(dá)所開創(chuàng)的GPGPU在過去幾年里賺的缽滿盆滿。

其實(shí)仔細(xì)想想，除了“牧村波動(dòng)”所昭示的進(jìn)化規(guī)則，通用GPU之所以能夠成為當(dāng)前的主流趨勢(shì)，并引來眾多企業(yè)趨之若鶩，至少有一明一潛兩大驅(qū)動(dòng)因素。明面上，現(xiàn)在是異構(gòu)計(jì)算的天下，近年來傳統(tǒng)以CPU為核心的服務(wù)器市場(chǎng)增長(zhǎng)比較平緩，而GPU服務(wù)器的增速迅猛，年增長(zhǎng)率據(jù)稱超60%。

潛在因素，5G時(shí)代的到來推動(dòng)了物聯(lián)網(wǎng)的迅猛發(fā)展，應(yīng)用場(chǎng)景更加豐富多元，這要求云端的計(jì)算資源能應(yīng)對(duì)各種復(fù)雜場(chǎng)景的需求提供豐富靈活的計(jì)算支撐，工程師們肯定更愿意將能“通吃”的芯片焊在服務(wù)器上。

打鐵還需自身硬

想要吃到通用GPU這份蛋糕還是需要企業(yè)有足夠深厚的功底。相較于開發(fā)定制化的AI芯片等，通用GPU在技術(shù)上有更高的難度。從硬件角度看，最核心的是指令集。指令集的覆蓋面、顆粒度、效率等決定一款芯片能否覆蓋到足夠?qū)挼膽?yīng)用市場(chǎng)領(lǐng)域，并對(duì)軟件開發(fā)和產(chǎn)品迭代足夠友好。無論是英偉達(dá)還是AMD的GPGPU，指令集都在千條量級(jí)，而目前國(guó)內(nèi)的AI芯片指令集大多數(shù)都在百條以內(nèi)。類型與數(shù)量的差別映射到硬件高效實(shí)現(xiàn)的復(fù)雜程度，差距是巨大的，在這方面國(guó)內(nèi)的團(tuán)隊(duì)還存在著一定的差距。另一個(gè)重要方面就是基于硬件層的任務(wù)管理和智能調(diào)度，這可以讓芯片從硬件層即提高算力的利用率，也就是大家常說的實(shí)際算力。大多數(shù)AI芯片的做法是完全依賴于軟件層的調(diào)度實(shí)現(xiàn)，但這種方式第一增加了軟件開發(fā)的復(fù)雜度，第二降低了硬件算力的利用率，第三減緩了軟件棧迭代更新的速度，這在AI領(lǐng)域，面向算法模型、開發(fā)環(huán)境、應(yīng)用場(chǎng)景加速更新的大背景下無疑大大增加了產(chǎn)品落地與工程化的難度。

在軟件方面，毫無疑問，最重要的必然是開發(fā)生態(tài)，GPGPU通過英偉達(dá)十多年的耕耘，已經(jīng)建立起了一個(gè)超過160萬開發(fā)用戶的龐大而成熟的生態(tài)-CUDA。AI芯片則需要搭建全新的生態(tài)，它會(huì)帶來兩個(gè)維度顯著的問題，第一個(gè)維度是客戶端，客戶需要冗長(zhǎng)的適配期，從原有的開發(fā)環(huán)境切換到新的軟件生態(tài)，這不僅帶來了資源投入，推遲了業(yè)務(wù)部署時(shí)間窗口，增加了業(yè)務(wù)的不確定性，更嚴(yán)重的是不利于保護(hù)已有的軟件投資，軟件的很多部分都要重新來寫并適配，這對(duì)企業(yè)級(jí)用戶來講恰恰是非常敏感與慎重的事情。另一個(gè)維度是產(chǎn)品開發(fā)端，從底層芯片與系統(tǒng)軟件，跳過CUDA層去直接支持開發(fā)框架，必然帶來巨大的軟件投入，不停得追趕現(xiàn)有框架的新版本，以及生態(tài)巨頭的新框架，這在底層軟件人員缺乏的背景下矛盾顯得尤其突出。

而以上兩點(diǎn)說到底都是需要人來解決的，恰恰在這方面的人才是目前中國(guó)企業(yè)最缺少的。目前只有英偉達(dá)和AMD擁有豐富的團(tuán)隊(duì)，這也側(cè)面證明了為什么Intel自己折騰幾年，最后還是請(qǐng)了原AMD RTG顯卡部門負(fù)責(zé)人Raja、Zen架構(gòu)的功勛領(lǐng)袖Jim Keller、顯卡技術(shù)市場(chǎng)總監(jiān)Damien Triolet這幾位大神。

曲線救國(guó)還是正面突破？

圍繞GPGPU，國(guó)外已是龍爭(zhēng)虎斗，反觀國(guó)內(nèi)，能夠洞悉GPGPU發(fā)展機(jī)遇并付諸行動(dòng)的芯片廠商少之又少。

華為是為數(shù)不多看到通用GPU趨勢(shì)的芯片廠商之一，而且看起來正在嘗試兩條腿走路通往GPGPU的路上。一條路是，華為通過其在手機(jī)芯片方面的積累，希望從移動(dòng)端GPU出發(fā)，逐步延展至平板電腦端、桌面端、服務(wù)器端，走這種從簡(jiǎn)單到復(fù)雜、從小芯片到大芯片的路徑。

另一條路有點(diǎn)“天龍寺眾高僧合練六脈神劍”的意思。通用GPU復(fù)雜、難做，華為就“化繁為簡(jiǎn)”，今天先做AI-GPU，明天再做“區(qū)塊鏈GPU”，后天再做“超算GPU”……到最后再來個(gè)“集大成”，“六脈神劍”通用GPU就成了。看起來很棒對(duì)吧？但是這種想法可能過于理想化了。通用GPU不是簡(jiǎn)單的“1+1”，十個(gè)人會(huì)一陽指，也及不上一個(gè)人會(huì)六脈神劍，一個(gè)道理。

筆者還聽說，阿里旗下的芯片部門也想做GPGPU，只不過阿里巴巴的野心大則大矣，只是眼下還沒有足夠大的技術(shù)團(tuán)隊(duì)能支持這件事。

其他廠商中，包括寒武紀(jì)、依圖、比特大陸、燧原科技等企業(yè)，目前也都重點(diǎn)布局于AI芯片，并分別利用自身的優(yōu)勢(shì)走出了自己的風(fēng)格和水平。

而在GPGPU賽道上，一家名為“天數(shù)智芯”的公司選擇了正面“剛”。這家公司目前圍繞GPGPU的系統(tǒng)研發(fā)已聚集了一支百余人的技術(shù)團(tuán)隊(duì)，其中不乏AMD在美國(guó)和上海做 GPU的核心團(tuán)隊(duì)成員、行業(yè)經(jīng)驗(yàn)超20年的世界級(jí)技術(shù)專家。今年剛剛試水發(fā)布了一款邊緣端芯片，并計(jì)劃明年正式發(fā)布GPGPU大芯片產(chǎn)品。

國(guó)內(nèi)企業(yè)的機(jī)遇與挑戰(zhàn)

有一點(diǎn)毋庸置疑，算力經(jīng)濟(jì)時(shí)代，整個(gè)世界正面臨半導(dǎo)體市場(chǎng)的增長(zhǎng)大潮，市場(chǎng)上也涌現(xiàn)出越來越多的半導(dǎo)體企業(yè)百舸爭(zhēng)流。而英偉達(dá)早早憑借強(qiáng)大的GPU+CUDA方案切入各個(gè)領(lǐng)域，用大筆研發(fā)投入和時(shí)間堆積起堅(jiān)不可摧的生態(tài)城墻，而這恰恰是國(guó)內(nèi)外其他玩家的薄弱環(huán)節(jié)。

國(guó)產(chǎn)芯片企業(yè)，特別是處在創(chuàng)業(yè)初期的那些，“正確選擇勝過百倍努力”。筆者認(rèn)為可通用的GPU確然是個(gè)非常值得投入的方向。GPGPU誕生也只有十?dāng)?shù)年時(shí)間，“護(hù)城河”并非堅(jiān)不可摧。

只不過在現(xiàn)階段，國(guó)產(chǎn)替代方案還要在CUDA生態(tài)的基礎(chǔ)上推廣自己的芯片產(chǎn)品，在兼容CUDA的同時(shí)，建設(shè)新生態(tài)。在這個(gè)過程中，每一步都關(guān)鍵且充滿挑戰(zhàn)。