又一大廠發(fā)力RISC-V，Meta第一代自研AI加速器MTIA

不久之前，Meta公開(kāi)了他們?cè)谧匝?a target="_blank">芯片上的進(jìn)展，包括其第一代AI加速器MTIA，以及用于視頻轉(zhuǎn)碼的MSVP。作為有些“下坡路”傾向的互聯(lián)網(wǎng)大廠，Meta依然選擇自研硬件和芯片，可見(jiàn)Meta對(duì)AI的重視。

自研AI加速器MTIA

Meta過(guò)去的服務(wù)器架構(gòu)主要依靠CPU來(lái)運(yùn)行AI負(fù)載，但隨著AI模型對(duì)算力和內(nèi)存的要求不斷提高，致使其不得不開(kāi)始轉(zhuǎn)向特化的方案，比如GPU和NNPI之類的其他硬件加速器?？捎捎诟咝阅蹽PU的成本持續(xù)走高，Meta很快就轉(zhuǎn)向了自研ASIC方案。

其實(shí)早在2020年，他們就設(shè)計(jì)了第一代的MTIA ASIC，不過(guò)當(dāng)時(shí)僅僅只是用于MTIA的部分內(nèi)部工作負(fù)載，主要是為Pytorch和Meta的推薦模型聯(lián)合設(shè)計(jì)出來(lái)的，用于推理加速。第一代MTIA基于臺(tái)積電7nm工藝打造，性能達(dá)到了102.4TOPS@INT8和51.2 TFLOPS@FP16，功耗僅有25W。

MTIA v1裸片 / Meta

單個(gè)MTIA加速器集成了64個(gè)處理單元（PE），最高128GB的片外LPDDR5內(nèi)存和128MB的片上SRAM。值得一提的是，每個(gè)處理單元都由兩個(gè)RISC-V處理器核心構(gòu)成，其中一個(gè)還配備了向量擴(kuò)展。

從Meta公布的v1版系統(tǒng)設(shè)計(jì)上可以看出，MTIA加速器裝在了一個(gè)小型的雙M.2主板上，方便設(shè)計(jì)者輕松地集成在服務(wù)器中，通過(guò)PCIe 4.0 x8接口與主CPU相連，板卡功耗僅有35W。

當(dāng)然了，作為OCP的創(chuàng)始者，Meta也在服務(wù)器的設(shè)計(jì)上采用了OCP的Yosemite V3規(guī)范，每個(gè)服務(wù)器包含12個(gè)加速器，并使用PCIe Switch相連，根據(jù)Meta的說(shuō)法，加速器的數(shù)目和服務(wù)器的配置參數(shù)是為了優(yōu)化目前及未來(lái)的負(fù)載而精心選擇的。

自研視頻轉(zhuǎn)碼芯片MSVP

值得注意的是，MTIA v1還只是他們?cè)?020年開(kāi)發(fā)的第一代AI加速器，Meta的目標(biāo)是設(shè)計(jì)一系列推薦用MTIA ASIC。不過(guò)，MTIA v1在自研程度上或許沒(méi)有我們想象得那么深入，比如其RISC-V核心很可能是來(lái)自第三方IP廠商的。

而與MTIA一并公開(kāi)的MSVP，卻是Meta首個(gè)真正意義上的內(nèi)部自研ASIC方案，專為解決Meta的視頻點(diǎn)播和直播負(fù)載而設(shè)計(jì)，甚至考慮到了其AR/VR業(yè)務(wù)。Meta認(rèn)為，這類轉(zhuǎn)碼芯片的存在，會(huì)為Meta未來(lái)在元宇宙上布局的生成式AI短視頻，提供更多支持。

MSVP / Meta

據(jù)Meta強(qiáng)調(diào)，F(xiàn)acebook網(wǎng)站上的視頻流量每天就有40億播放量，所以提升壓縮效率，提供更高的穩(wěn)定性、可靠性以及近乎無(wú)限的擴(kuò)展性，就成了他們對(duì)自研視頻轉(zhuǎn)碼芯片的要求。從MSVP的設(shè)計(jì)架構(gòu)上來(lái)看，除了多處理器的CPU子系統(tǒng)外，芯片大部分由轉(zhuǎn)碼核心構(gòu)成。

在解碼性能上，MSVP支持主流的H.264、HEVC、VP9和AV1編碼，最大支持10bit色深和YUV420色度采樣。而在編碼性能上，MSVP僅支持H.264和VP9編碼，最大支持8bit色深。

Meta給出的數(shù)據(jù)中，每個(gè)MSVP可以在最高圖像質(zhì)量輸出時(shí)實(shí)現(xiàn)4K 15FPS的峰值轉(zhuǎn)碼速度，在標(biāo)準(zhǔn)圖像質(zhì)量下實(shí)現(xiàn)4K 60FPS的轉(zhuǎn)碼速度，且單個(gè)PICe模塊的功耗只有10W左右。由于采用了硬件轉(zhuǎn)碼加速，MSVP是ibx264軟件編碼速度的9倍，是libVPX軟件編碼速度的50倍。

寫在最后

Meta最重要的一大營(yíng)收來(lái)源就是廣告業(yè)務(wù)，所以相對(duì)其他互聯(lián)網(wǎng)公司，他們會(huì)將深度學(xué)習(xí)推薦模型（DLRM）放在第一位。隨著模型大小和復(fù)雜程度不斷增加，如何跟上這股趨勢(shì)同時(shí)保證ROI，就成了他們的主要問(wèn)題。MTIA代表了他們?cè)谧匝蠥I基礎(chǔ)設(shè)施上走出的重要一步。至于MSVP，則代表了Meta想要進(jìn)一步發(fā)展短視頻、AR/VR內(nèi)容的同時(shí)，減少網(wǎng)絡(luò)帶寬提高傳播力度的解決方案。未來(lái)Meta要想逆流而上，這些自研芯片無(wú)疑會(huì)提供不小的助力。