不久之前,Meta公開(kāi)了他們?cè)谧匝?a target="_blank">芯片上的進(jìn)展,包括其第一代AI加速器MTIA,以及用于視頻轉(zhuǎn)碼的MSVP。作為有些“下坡路”傾向的互聯(lián)網(wǎng)大廠,Meta依然選擇自研硬件和芯片,可見(jiàn)Meta對(duì)AI的重視。
自研AI加速器MTIA
Meta過(guò)去的服務(wù)器架構(gòu)主要依靠CPU來(lái)運(yùn)行AI負(fù)載,但隨著AI模型對(duì)算力和內(nèi)存的要求不斷提高,致使其不得不開(kāi)始轉(zhuǎn)向特化的方案,比如GPU和NNPI之類的其他硬件加速器??捎捎诟咝阅蹽PU的成本持續(xù)走高,Meta很快就轉(zhuǎn)向了自研ASIC方案。
其實(shí)早在2020年,他們就設(shè)計(jì)了第一代的MTIA ASIC,不過(guò)當(dāng)時(shí)僅僅只是用于MTIA的部分內(nèi)部工作負(fù)載,主要是為Pytorch和Meta的推薦模型聯(lián)合設(shè)計(jì)出來(lái)的,用于推理加速。第一代MTIA基于臺(tái)積電7nm工藝打造,性能達(dá)到了102.4TOPS@INT8和51.2 TFLOPS@FP16,功耗僅有25W。
MTIA v1裸片 / Meta
單個(gè)MTIA加速器集成了64個(gè)處理單元(PE),最高128GB的片外LPDDR5內(nèi)存和128MB的片上SRAM。值得一提的是,每個(gè)處理單元都由兩個(gè)RISC-V處理器核心構(gòu)成,其中一個(gè)還配備了向量擴(kuò)展。
從Meta公布的v1版系統(tǒng)設(shè)計(jì)上可以看出,MTIA加速器裝在了一個(gè)小型的雙M.2主板上,方便設(shè)計(jì)者輕松地集成在服務(wù)器中,通過(guò)PCIe 4.0 x8接口與主CPU相連,板卡功耗僅有35W。
當(dāng)然了,作為OCP的創(chuàng)始者,Meta也在服務(wù)器的設(shè)計(jì)上采用了OCP的Yosemite V3規(guī)范,每個(gè)服務(wù)器包含12個(gè)加速器,并使用PCIe Switch相連,根據(jù)Meta的說(shuō)法,加速器的數(shù)目和服務(wù)器的配置參數(shù)是為了優(yōu)化目前及未來(lái)的負(fù)載而精心選擇的。
自研視頻轉(zhuǎn)碼芯片MSVP
值得注意的是,MTIA v1還只是他們?cè)?020年開(kāi)發(fā)的第一代AI加速器,Meta的目標(biāo)是設(shè)計(jì)一系列推薦用MTIA ASIC。不過(guò),MTIA v1在自研程度上或許沒(méi)有我們想象得那么深入,比如其RISC-V核心很可能是來(lái)自第三方IP廠商的。
而與MTIA一并公開(kāi)的MSVP,卻是Meta首個(gè)真正意義上的內(nèi)部自研ASIC方案,專為解決Meta的視頻點(diǎn)播和直播負(fù)載而設(shè)計(jì),甚至考慮到了其AR/VR業(yè)務(wù)。Meta認(rèn)為,這類轉(zhuǎn)碼芯片的存在,會(huì)為Meta未來(lái)在元宇宙上布局的生成式AI短視頻,提供更多支持。
MSVP / Meta
據(jù)Meta強(qiáng)調(diào),F(xiàn)acebook網(wǎng)站上的視頻流量每天就有40億播放量,所以提升壓縮效率,提供更高的穩(wěn)定性、可靠性以及近乎無(wú)限的擴(kuò)展性,就成了他們對(duì)自研視頻轉(zhuǎn)碼芯片的要求。從MSVP的設(shè)計(jì)架構(gòu)上來(lái)看,除了多處理器的CPU子系統(tǒng)外,芯片大部分由轉(zhuǎn)碼核心構(gòu)成。
在解碼性能上,MSVP支持主流的H.264、HEVC、VP9和AV1編碼,最大支持10bit色深和YUV420色度采樣。而在編碼性能上,MSVP僅支持H.264和VP9編碼,最大支持8bit色深。
Meta給出的數(shù)據(jù)中,每個(gè)MSVP可以在最高圖像質(zhì)量輸出時(shí)實(shí)現(xiàn)4K 15FPS的峰值轉(zhuǎn)碼速度,在標(biāo)準(zhǔn)圖像質(zhì)量下實(shí)現(xiàn)4K 60FPS的轉(zhuǎn)碼速度,且單個(gè)PICe模塊的功耗只有10W左右。由于采用了硬件轉(zhuǎn)碼加速,MSVP是ibx264軟件編碼速度的9倍,是libVPX軟件編碼速度的50倍。
寫在最后
Meta最重要的一大營(yíng)收來(lái)源就是廣告業(yè)務(wù),所以相對(duì)其他互聯(lián)網(wǎng)公司,他們會(huì)將深度學(xué)習(xí)推薦模型(DLRM)放在第一位。隨著模型大小和復(fù)雜程度不斷增加,如何跟上這股趨勢(shì)同時(shí)保證ROI,就成了他們的主要問(wèn)題。MTIA代表了他們?cè)谧匝蠥I基礎(chǔ)設(shè)施上走出的重要一步。至于MSVP,則代表了Meta想要進(jìn)一步發(fā)展短視頻、AR/VR內(nèi)容的同時(shí),減少網(wǎng)絡(luò)帶寬提高傳播力度的解決方案。未來(lái)Meta要想逆流而上,這些自研芯片無(wú)疑會(huì)提供不小的助力。
-
Meta
+關(guān)注
關(guān)注
0文章
250瀏覽量
11305 -
RISC-V
+關(guān)注
關(guān)注
44文章
2182瀏覽量
45907
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論