數(shù)據(jù)中心為什么要部署FPGA？

本文來自“從硬件到軟件，FPGA國產(chǎn)替代分析（2023）”。

FPGA 芯片具有靈活性高、應(yīng)用開發(fā)成本低、上市時(shí)間短等優(yōu)勢(shì)使其應(yīng)用場(chǎng)景覆蓋了包括工業(yè)控制、網(wǎng)絡(luò)通信、消費(fèi)電子、數(shù)據(jù)中心、汽車電子、人工智能等廣泛的下游市場(chǎng)。

各大應(yīng)用領(lǐng)域占比整體保持穩(wěn)定，數(shù)據(jù)中心更具增長動(dòng)力。根據(jù) Xilinx 財(cái)報(bào)，2019-2021 年下游應(yīng)用占比格局幾乎未發(fā)生大規(guī)模變動(dòng)，其中數(shù)據(jù)中心營收占比分別為 7%、9%、10%，相較于其他領(lǐng)域而言具備更快的增長速度。

2022 年，國際龍頭廠商 AMD 和 Intel 的 FPGA 業(yè)務(wù)在數(shù)據(jù)中心領(lǐng)域大放異彩，成為其業(yè)績?cè)鲩L的有力助推。AMD 對(duì) FPGA 龍頭 Xilinx 的收購大大推動(dòng)其嵌入式部門和數(shù)據(jù)中心的業(yè)績?cè)鲩L，兩部門產(chǎn)品營收從 2021 年的 39 億美元增長至2022 年的 106 億美元；Intel FPGA 業(yè)務(wù)助推 DCAI 部門（Data Center and AI?Group，數(shù)據(jù)中心和人工智能事業(yè)部）實(shí)現(xiàn) 14%的營收增長。

FPGA 在數(shù)據(jù)中心領(lǐng)域未來有望占據(jù)更多市場(chǎng)份額。英特爾中國研究院院長宋繼強(qiáng)曾表示，2020 年 CPU+FPGA 異構(gòu)計(jì)算將占據(jù)云數(shù)據(jù)中心市場(chǎng)的 1/3。據(jù)Semico 研究公司預(yù)測(cè)，全球數(shù)據(jù)中心加速器（包括 CPU、GPU、FPGA 和 ASIC）市場(chǎng)規(guī)模將從 2018 年的 28.4 億美元增長到 2023 年的 211.9 億美元，年復(fù)合增長率高達(dá) 49%。其中 FPGA 加速器在 2018 年只有 10 億美元，到 2023 年將超過50 億美元，其增長驅(qū)動(dòng)力主要來自企業(yè)級(jí)數(shù)據(jù)負(fù)載加速應(yīng)用。

?

?

#1：數(shù)據(jù)中心為什么要部署 FPGA？

FPGA 芯片在數(shù)據(jù)中心領(lǐng)域主要用于硬件加速，在云服務(wù)器廠商中已有廣泛部署。數(shù)據(jù)中心使用 FPGA 芯片代替?zhèn)鹘y(tǒng)的 CPU 方案后，處理其自定義算法時(shí)可實(shí)現(xiàn)顯著的加速效果。因此近年來，微軟 Azure、亞馬遜 AWS、阿里云的服務(wù)器上都開始部署 FPGA 加速器用于運(yùn)算加速。在云計(jì)算大面積應(yīng)用的背景下，未來數(shù)據(jù)中心對(duì)芯片性能的要求將進(jìn)一步提高，更多數(shù)據(jù)中心將采納 FPGA 芯片方案，這將提高 FPGA 芯片在數(shù)據(jù)中心芯片中的價(jià)值占比。

?

?

（1）芯片級(jí)別的能耗限制與暗硅效應(yīng)問題

芯片制造工藝所遇到的瓶頸問題，始終影響著芯片設(shè)計(jì)的技術(shù)路線選擇。

在半導(dǎo)體發(fā)展早期，Dennard 縮放定律（1974 年提出，其內(nèi)容為：晶體管功耗會(huì)隨著尺寸變小而同比變小，使相同硅片面積下總功耗保持不變）指引工業(yè)界不斷實(shí)現(xiàn)工藝迭代，在每個(gè)新的工藝節(jié)點(diǎn)上使用更多的晶體管、更快速率和更低功耗的晶體管，證明開發(fā)每個(gè)新工藝節(jié)點(diǎn)所需的巨大成本具備商業(yè)合理性。

而Dennard 縮放定律的停滯（當(dāng)摩爾定律使晶體管尺寸下降到納米級(jí)時(shí)，量子隧穿等現(xiàn)象導(dǎo)致晶體管漏電，使晶體管的靜態(tài)功耗不減反增，功率密度上升，散熱問題加?。?dǎo)致工業(yè)界競(jìng)相向多核架構(gòu)發(fā)展，多核架構(gòu)實(shí)現(xiàn)了并行和多任務(wù)工作負(fù)載的性能擴(kuò)展，仍然能夠保證在商業(yè)合理范圍內(nèi)提升處理器性能。

但隨著多核縮放的優(yōu)勢(shì)開始消退，在摩爾定律逼近極限之前，多核的技術(shù)路徑已面臨新的瓶頸——由于芯片散熱技術(shù)和供電技術(shù)的限制，以及成本限制，可承受的微處理器功耗在近 10 年的發(fā)展歷程中并沒有太大變化，這導(dǎo)致在 10nm 或更先進(jìn)工藝線下，以摩爾定律增加的晶體管在動(dòng)態(tài)運(yùn)行期間必須通過關(guān)閉來實(shí)現(xiàn)功耗控制，即暗硅（Dark Silicon）問題。

?

?

異構(gòu)計(jì)算是當(dāng)前高性能計(jì)算的解決方案之一。在暗硅趨勢(shì)與成本壓力下，CPU+GPU 和 CPU+FPGA 異構(gòu)計(jì)算是在通用性、生產(chǎn)成本和功耗下較為折中的方案。隨著先進(jìn)工藝生產(chǎn)成本降低, 并且大量標(biāo)準(zhǔn)化處理器 IP 成熟的情況下, 不排除高性能計(jì)算未來也會(huì)發(fā)展出在單個(gè)SoC芯片中大量集成不同類型加速器件的其他異構(gòu)方式。

（2）數(shù)據(jù)中心級(jí)別的能源成本與散熱壓力問題

超算數(shù)據(jù)中心性能飛速提升，能源耗用問題亟待解決。在今年舉行的 ISSCC?2023 大會(huì)上，AMD CEO Lisa Su 指出，目前主流服務(wù)器的性能表現(xiàn)每 2.4 年實(shí)現(xiàn)翻番，GPU 單精度浮點(diǎn)（Single Precision FLOPs）每 2.2 年性能實(shí)現(xiàn)翻番。

?

?

以此趨勢(shì)增長至 2035 年，最高性能超算系統(tǒng)可能會(huì)從現(xiàn)在的 Exascale 量級(jí)（10 的 18 次方）增長 1000 倍，達(dá)到 Zettascale 量級(jí)（10 的 21 次方）。一座ZettaScale 數(shù)據(jù)中心的能耗可能會(huì)達(dá)到 500MW，幾乎等同于一座核電站的放電能力（1GW）的一半，遠(yuǎn)超過一座 Exascale 數(shù)據(jù)中心 21MW 的能耗量。

?

?

GPU 能夠?qū)崿F(xiàn)更高的并行計(jì)算峰值性能，但 FPGA 在功耗方面的優(yōu)勢(shì)對(duì)于解決數(shù)據(jù)中心能源問題至關(guān)重要。以 Xilinx 與英偉達(dá)的旗艦產(chǎn)品作對(duì)比，基于Versal AI Core 的 VCK5000 Versal 開發(fā)卡比英偉達(dá)旗艦 GPU，能耗比和性價(jià)比均提升 1 倍，能夠?qū)崿F(xiàn) 90%的計(jì)算效率和低于 100W 的功耗（板卡層面），因此是為云端應(yīng)用和邊緣應(yīng)用實(shí)現(xiàn) CNN、RNN 和 NLP 加速的理想開發(fā)平臺(tái)。Versal系列針對(duì) AI 應(yīng)用設(shè)計(jì)的全新 ACAP 架構(gòu)以及其性能表現(xiàn)上的優(yōu)勢(shì)，是 AMD 與之戰(zhàn)略合作的重要基礎(chǔ)。

?

?

#2：數(shù)字芯片行業(yè)巨頭的異構(gòu)戰(zhàn)略：CPU+GPU or CPU+FPGA?

英偉達(dá)作為 GPU 龍頭，率先推出 CPU+GPU 異構(gòu) Superchip。英偉達(dá)率先于 2022 年 GTC 大會(huì)提出將 Grace CPU 和 Hopper GPU 組成的 Superchip，并于時(shí)隔一年后的 GTC 2023 手持展示芯片實(shí)物，該 Superchip 采用 900GB/s 的高速一致性接口對(duì) Grace CPU 和 Hopper GPU 進(jìn)行互連，非常適合處理大型數(shù)據(jù)集。隨后，英偉達(dá)于 2023 年 5 月 COMPUTEX 大會(huì)上宣布生成式 AI 引擎 NVIDIADGX GH200 已投入量產(chǎn)。NVIDIA DGX GH200 是將 256 個(gè) NVIDIA GraceHopper 超級(jí)芯片完全連接到單個(gè) GPU 中的新型 AI 超級(jí)計(jì)算機(jī)，支持萬億參數(shù)AI 大模型訓(xùn)練。

AMD 在 CPU+GPU 異構(gòu)領(lǐng)域和英偉達(dá)正面較量。2023 年 6 月，AMD 推出了早在年初 CES 2023 大會(huì)上披露的數(shù)據(jù)中心 APU（加速處理器）Instinct MI300系列，其中“GPU+CPU”架構(gòu)（APU）的 MI300A 現(xiàn)已開始提供樣品，另外 MI300X和 Instinct Platform 則將在 23Q3 提供樣品，Q4正式推出。據(jù) 23年 5月 AMD 23Q1電話會(huì)議披露，MI300 將在 23Q4 開始產(chǎn)生銷售收入。MI300 是市場(chǎng)上首款“CPU+GPU+內(nèi)存”的一體化產(chǎn)品，在異構(gòu)計(jì)算新格局之下，AMD 在這一快速增長的市場(chǎng)上向英偉達(dá)的壟斷地位發(fā)起挑戰(zhàn)。

此外，AMD 也在 CPU+FPGA 異構(gòu)領(lǐng)域積極布局。2022 年完成了對(duì) FPGA行業(yè)龍頭 Xilinx 的收購后，在云計(jì)算、邊緣計(jì)算和智能設(shè)備市場(chǎng)完成了重要戰(zhàn)略部署。除了重磅推出的 Instinct MI300 系列產(chǎn)品、以及傳統(tǒng)優(yōu)勢(shì)產(chǎn)品 Ryzen 系列處理器外，AMD 依托 Xilinx FPGA 的優(yōu)勢(shì)，吸納了 Xilinx 原有的數(shù)據(jù)中心產(chǎn)品——Zynq UltraScale+ MPSoC 芯片、自適應(yīng)數(shù)據(jù)中心平臺(tái) Versal AI 和相關(guān) SoC 產(chǎn)品，并推出了基于 AMD XDNA – Versal AI Core 架構(gòu)的數(shù)據(jù)中心加速器卡 AlveoV70，積極打造 CPU+FPGA 組合優(yōu)勢(shì)。

Intel 在數(shù)據(jù)中心產(chǎn)品方面重點(diǎn)發(fā)力 CPU+FPGA 戰(zhàn)略。自 2015 年完成對(duì)Altera 的收購后，Intel為其成立專門的PSG 部門（Programmable Solution Group，可編程解決方案事業(yè)部），2022 年通過業(yè)務(wù)重組將 FPGA 業(yè)務(wù)并入 DCAI 部門（Data Center and AI Group，數(shù)據(jù)中心和人工智能事業(yè)部），形成芯片組合來競(jìng)爭(zhēng)數(shù)據(jù)中心與 AI 市場(chǎng)。23Q1 的投資者大會(huì)上，Intel 發(fā)布了 2023-2025 年 DCAI架構(gòu)圖，展示了包括 CPU、GPU、FPGA 等芯片的發(fā)展規(guī)劃。其中，Intel 計(jì)劃于2023 年推出 15 款 FPGA 新品，包括 Stratix，eASIC 和 Agilex 系列，刷新了 IntelFPGA 的年度推新紀(jì)錄，有望為 CPU+FPGA 異構(gòu)打開新格局。

此外，Intel 也在數(shù)據(jù)中心著手布局 GPU 產(chǎn)品線，曾計(jì)劃推出 CPU+GPU 異構(gòu)產(chǎn)品。Intel 下一代數(shù)據(jù)中心 GPU Falcon Shores 原計(jì)劃為一款采用混合架構(gòu)的XPU（CPU+GPU），目前已將其改為純 GPU 解決方案，計(jì)劃于 2025 年發(fā)布。

根據(jù) Frost&Sullivan 數(shù)據(jù)，全球 FPGA 市場(chǎng)規(guī)模從 2016 年的約 43.4 億美元增長至 2020 年約 60.8 億美元，年均復(fù)合增長率約為 8.8%。預(yù)計(jì)到 2025 年，全球 FPGA 市場(chǎng)將超過 120 億美元。在中國市場(chǎng)，預(yù)計(jì) 2025 年 FPGA 芯片銷售額將達(dá)到 332.2 億元，對(duì)應(yīng) 2021 至 2025 年年均復(fù)合增長率將達(dá)到 17.1%；預(yù)計(jì) 2025 年中國市場(chǎng) FPGA 芯片出貨量將達(dá)到 3.3 億顆，2021 至 2025 年年均復(fù)合增長率將達(dá)到 15.0%。

長期來看，根據(jù) FPGA 龍頭廠商 Intel（Altera）于 2023 年年中給出的市場(chǎng)預(yù)測(cè)，2023 年市場(chǎng)增長預(yù)計(jì)將超過 16%，未來 5 年的增長勢(shì)頭向好，預(yù)計(jì)將繼續(xù)保持 10%以上的復(fù)合年均增長率。由 AI 行情引發(fā)的大模型熱潮仍將持續(xù)推動(dòng)AI 服務(wù)器對(duì)于算力部署的需求，F(xiàn)PGA 有望依托于高靈活性、低功耗等特征持續(xù)受益于 AI 服務(wù)器市場(chǎng)的增長。

編輯：黃飛

?