改變加速器格局，下一代千核RISC-V芯片

電子發(fā)燒友網(wǎng)報(bào)道（文/周凱揚(yáng)）要說(shuō)RISC-V社區(qū)最炙手可熱的AI芯片初創(chuàng)公司，除了Ventana和Tenstorrent的話(huà)，當(dāng)屬打造出千核RISC-V芯片ET-SoC-1的Esperanto了。近日，Esperanto公開(kāi)了他們?cè)贏I軟件生態(tài)上所做的進(jìn)一步努力，也透露了下一代千核RISC-V芯片的部分細(xì)節(jié)。

下一代千核RISC-V處理器結(jié)合HPC和ML

ET-SoC-1作為專(zhuān)門(mén)用于機(jī)器學(xué)習(xí)，尤其是推薦系統(tǒng)這類(lèi)AI負(fù)載的RISC-V處理器，采用臺(tái)積電7nm工藝打造，集成了1092個(gè)低功耗RISC-V核心。這上千個(gè)RISC-V核心中包括1088個(gè)ET-Minion核心，用于ML應(yīng)用的計(jì)算，而另外4個(gè)ET-Maxion核心則提供更高的單線(xiàn)程性能，用于運(yùn)行操作系統(tǒng)等任務(wù)。

根據(jù)ET-Minion工作頻率的不同，ET-SoC-1的峰值算力在100到200TOPS之間，大多數(shù)負(fù)載下功耗甚至不會(huì)超過(guò)20W，不過(guò)單個(gè)PCIe模塊由于集成了DRAM等組件，還是會(huì)達(dá)到30多瓦的功耗，可這已經(jīng)是很優(yōu)異的表現(xiàn)了。

但ET-SoC-1畢竟從一開(kāi)始就是為了ML這種低精度運(yùn)算的應(yīng)用而設(shè)計(jì)的，至于多數(shù)利用雙精度計(jì)算的HPC領(lǐng)域，ET-SoC-1是沒(méi)辦法打入這一市場(chǎng)的。為此，Esperanto計(jì)劃打破CPU+GPU或CPU+其他加速器的現(xiàn)狀，讓RISC-V芯片從HPC和ML兩個(gè)方向同時(shí)下手，這一解決方案正是他們尚在研發(fā)的ET-SoC-2處理器。

ET-SoC-1已經(jīng)證明了RISC-V非常適合用于機(jī)器學(xué)習(xí)，而ET-SoC-2則打算同時(shí)攻克HPC計(jì)算。據(jù)Esperanto所述，ET-SoC-2的目標(biāo)是除了支持FP16/FP8外，還要引入對(duì)FP64/FP32高精度的支持，并實(shí)現(xiàn)10Tflops以上的FP64算力。

為此他們將采用更為先進(jìn)的半導(dǎo)體工藝，以及全新的HBM內(nèi)存，同時(shí)還要進(jìn)一步提高擴(kuò)展性，可以將大量芯片無(wú)縫組合在一起，共享龐大的內(nèi)存與計(jì)算資源。即便有了如此強(qiáng)勁的性能，Esperanto依然將低功耗作為設(shè)計(jì)目標(biāo)之一，其表示未來(lái)五年內(nèi)，基于RISC-V的超算系統(tǒng)一定會(huì)在Green500這一能效榜單上名列前茅。

軟件生態(tài)仍需努力

即便芯片設(shè)計(jì)中RISC-V在算力上能與其他GPU、AI加速器媲美，但沒(méi)有軟件生態(tài)的支持是遠(yuǎn)遠(yuǎn)不夠的。屆時(shí)必將面臨絕大多數(shù)新AI芯片橫亙?cè)谘矍暗膯?wèn)題，那就是開(kāi)發(fā)者更愿意去選擇軟件生態(tài)成熟度更高的GPU。

所以Esperanto也已經(jīng)開(kāi)始了加速其芯片的軟件支持，比如將Meta的LLM移植到ET-SoC-1上。同時(shí)Esperanto也推出了針對(duì)ET-SoC-1的通用SDK，允許開(kāi)發(fā)者對(duì)1024個(gè)ET-Minion核心并行編程。但這些努力也只能算是走出了第一步而已，對(duì)于服務(wù)器這個(gè)通用性稱(chēng)王的市場(chǎng)，如果沒(méi)辦法運(yùn)行大部分主流的AI模型，客戶(hù)借助該硬件打造應(yīng)用程序的意愿也會(huì)大大降低。

這也就是為何大部分AI初創(chuàng)公司也要建立規(guī)模不小軟件團(tuán)隊(duì)的原因，除了需要支持和優(yōu)化主流AI模型與框架外，還需要對(duì)部分服務(wù)器軟件進(jìn)行移植。跨不過(guò)這個(gè)門(mén)檻的話(huà)，始終難以邁進(jìn)主流市場(chǎng)。

寫(xiě)在最后

最近另一家RISC-V AI芯片初創(chuàng)公司Tenstorrent，也從現(xiàn)代、起亞和三星這一眾韓國(guó)廠商那拿到了1億美元的投資。由此可以看出，AI芯片會(huì)是RISC-V開(kāi)發(fā)的下一個(gè)大方向，無(wú)論是汽車(chē)芯片，還是數(shù)據(jù)中心加速器，都會(huì)進(jìn)一步推動(dòng)RISC-V在AI擴(kuò)展指令上的標(biāo)準(zhǔn)化加速。