META認為RISC-V定制加速器的風(fēng)險很小

服務(wù)器系統(tǒng)對RISC架構(gòu)的追求正在加強。

許多人等了好幾年才聽到像 Meta 高級工程總監(jiān) Prahlad Venkatapuram 這樣的人說出本周在 RISC-V 峰會上發(fā)表的內(nèi)容：

“我們已經(jīng)確定，RISC-V是我們前進道路上所有產(chǎn)品前進的方向。這不僅包括下一代視頻轉(zhuǎn)碼器，還包括下一代推理加速器和訓(xùn)練芯片。”

他解釋說，在過去4年中，他們不僅推出了硬件，而且還通過標準化的基于 RISC 的控制系統(tǒng)為未來的定制 RISC-V 芯片奠定了基礎(chǔ)，并使其具有可擴展性，因此，Meta 為所有領(lǐng)域開發(fā)的任何 IP 都將適應(yīng)并輕松連接到 NOC。

換句話說，Meta 有一個模板可以快速將任何此類新芯片投入生產(chǎn)，這對于那些尋求大規(guī)模 RISC-V 成功案例的人來說是一件大事。所有這一切都是在高端 GPU 供不應(yīng)求的時候進行的，而且價格也有所反映。

Venkatapuram 表示，Meta 之所以選擇 RISC，是因為需要加速所有“我們在 CPU 上無法完成的關(guān)鍵業(yè)務(wù)”，以及“服務(wù)器上的能效、性能和絕對低延遲”。他補充說，支持不同工作負載的靈活性和架構(gòu)中的彈性也至關(guān)重要。

“無論何時我們設(shè)計或部署，都希望它能夠存在 3-4 年，因此，必須具有彈性和可編程性——我們希望讓軟件負責(zé)我們?nèi)绾问褂糜布Y源?！?/p>

他補充說，64 位尋址至關(guān)重要，內(nèi)核中的矢量和 SIMD 功能也是必不可少的，并強調(diào)了深度定制的必要性。“很明顯，RISC-V可以做所有這些事情;它是開放的，有強大的支持，有多個知識產(chǎn)權(quán)提供商，以及我們在過去 4-5 年中看到的不斷發(fā)展的生態(tài)系統(tǒng)。但歸根結(jié)底，定制是關(guān)鍵?！?/p>

僅基于 RISC-V 構(gòu)建的視頻轉(zhuǎn)碼硬件 Meta 就為定制部分提供了背景信息。根據(jù) Venkatapuram 的說法，Meta 的可擴展視頻處理器 （MSVP） 是 Meta 制作 RISC 之旅的起點，正在制作中，并處理其 Facebook、Messenger 和 Instagram 服務(wù)上 100% 的所有視頻上傳?！拔覀冎霸?CPU 上這樣做，但現(xiàn)在已經(jīng)替換了其中的 85%，所以我們只使用了其中的 15%。”

真實的故事，應(yīng)該引起處理器界注意的是，Meta 正在跳過無處不在的 GPU，并在 RISC-V 上構(gòu)建 AI 推理和訓(xùn)練芯片。

目前，RISC-V AI處理器致力于在推理和訓(xùn)練中加速推薦模型。該架構(gòu)對 8×8 網(wǎng)格的處理元素并不陌生，每個元素托管 2 個 RISC-V 內(nèi)核（一個標量，一個向量）和一個用于控制的內(nèi)核。標量和矢量內(nèi)核與命令處理器同步，命令處理器與 Meta 開發(fā)的內(nèi)置固定函數(shù)協(xié)同工作。

除此之外，我們所知不多，但我們將尋求更多答案，包括 Meta 對 RISC-V 架構(gòu)的生產(chǎn)量。

雖然所有這些都是有希望的，但也有一些挑戰(zhàn)確實讓人不得不停下來，盡管它們似乎并沒有削弱Venkatapuram的樂觀情緒。

盡管進行了大規(guī)模定制，但 Meta 仍然需要從現(xiàn)有的 IP 選項中獲得更多。他解釋說：“很少有產(chǎn)品能夠?qū)⒆远x指令和資源無縫集成到 RTP、模擬器、軟件工具和編譯器中。另一個挑戰(zhàn)是各個供應(yīng)商缺乏互操作性，但他沒有提供深入的細節(jié)。歸根結(jié)底，我們感覺到挑戰(zhàn)并非不可克服?！?/p>

最重要的障礙之一是對矩陣擴展的支持，尤其是當(dāng) Meta 尋求在 RISC-V 上構(gòu)建更多生產(chǎn) AI 工作負載時。他解釋說，矩陣數(shù)學(xué)是人工智能的一個關(guān)鍵組成部分，雖然RISC-V有向量擴展，但矩陣沒有標準的擴展。他引用了這方面的工作（許多供應(yīng)商，包括Stream Computing和T-Head Semi），但最終，無論他們想出什么都應(yīng)該標準化。

Venkatapuram 強調(diào)了更廣泛的生態(tài)系統(tǒng)支持的重要性，從對所有主要庫和工具的支持到硬件生態(tài)系統(tǒng)。

RISC-V由于其開放標準性質(zhì)，有可能吸引更多的第三方工具、軟件、外圍設(shè)備供應(yīng)商，而不僅僅是專有的ISA，但這種潛力尚未完全實現(xiàn)。