基于FPGA的 IPU路線圖解析

大數(shù)據(jù)催生多元算力新計算架構(gòu)，DPU 逢時而生，已成行業(yè)巨頭和初創(chuàng)公司的必爭之地。各家紛紛推出DPU相關(guān)解決方案，宣稱可以降低數(shù)據(jù)中心稅，助力數(shù)據(jù)中心更高效的應(yīng)對多元化的算力需求。那么，DPU究竟是名不虛傳還是徒有虛名？本文將走進英特爾實驗室一探虛實。

DPU目前分為SoC（Arm與ASIC協(xié)同架構(gòu)）、FPGA、ASIC三種主要技術(shù)形態(tài)?；贔PGA的DPU擁有最佳的靈活性，但吞吐量、功耗在一定程度上受到限制；隨著帶寬變高，基于ASIC的DPU需求將會增加；對于更復雜的、更廣泛的用例，基于SoC的DPU擁有良好的性價比、易于編程且高度靈活性。

2021 年 6 月，英特爾首次提出 IPU（基礎(chǔ)設(shè)施處理單元）?的概念，并在“Intel Vision 2022”大會上公布了最新路線圖，展示了IPU從2022年至2026年的整體規(guī)劃。IPU是一種可編程的網(wǎng)絡(luò)設(shè)備，旨在使云和通信服務(wù)提供商減少在CPU方面的開銷，并可充分釋放性能價值，由于其功能和應(yīng)用場景與DPU有較大重合，也可以看作是DPU的一種嘗試。 ?

? 從上圖我們可以看到IPU的功能劃分，左側(cè)的Block design，Processor Complex and/or FPGA 提供軟硬件可編程性，運行ISP/CSP的特定服務(wù)，Infrastructure Acceleration加速存儲虛擬化、安全（加解密）、網(wǎng)路虛擬化等負載請求，Network提供高帶寬的包處理、包分析等能力。 ? ?

英特爾IPU路線圖

目前英特爾IPU有兩個主要的產(chǎn)品線，其一是基于FPGA的解決方案，另一個是基于ASIC的解決方案。 ? 英特爾第一個公開披露的IPU代號為 Big Springs Canyon。它基于 FPGA，具有 Xeon-D CPU 和以太網(wǎng)支持，提供硬件可編程數(shù)據(jù)路徑。Big Springs Canyon 的繼任者稱為 Oak Springs Canyon，它基于英特爾的 Agilex FPGA和 Xeon-D SoC，可為開放式虛擬交換機 (OVS) 等工作負載和 NVMe over Fabric 等存儲功能提供網(wǎng)絡(luò)虛擬化功能卸載。 ?

? 英特爾的第二個IPU代號為 Mount Evans，是英特爾首個ASIC IPU，與Google Cloud合作開發(fā)，目前針對高端和超大規(guī)模數(shù)據(jù)中心服務(wù)器。Mount Evans可提供可編程數(shù)據(jù)包處理引擎，支持防火墻和虛擬路由等用例，可利用高性能 Intel Quick Assist 技術(shù)部署高級加密和壓縮加速。預計將于 2022 年開始向谷歌和其他服務(wù)提供商發(fā)貨，預計在 2023 年進行廣泛部署。 ?

Intel Mount Evans Vision 2022 top3 ? 英特爾規(guī)劃的IPU路線圖如下：

2022年：推出200 Gbps IPU，代號為Mount Evans和Oak Springs Canyon。

2023/2024年：推出 400 Gbps IPU，代號為Mount Morgan和Hot Springs Canyon。

2025/2026 : 推出800 Gbps IPU。

? 下面我們一起看下英特爾首個FPGA IPU——Big Spring Canyon 的現(xiàn)場演示。 ?

Big Spring Canyon IPU現(xiàn)場演示

本次演示是在英特爾實驗室中搭建的，所用的IPU 位于2U Supermicro Ultra服務(wù)器機架上。 ?

? 演示所用的卡同時搭載了英特爾Stratix 10 FPGA和英特爾 Xeon D-1612。 ?

? 下面我們將散熱器組件拆除，可以看到中間的Stratix 10 FPGA和右側(cè)的Xeon D-1612處理器，它們都有自己的內(nèi)存和本地存儲，Xeon D運行的是自己的操作系統(tǒng)。 ?

? Stratix 10 FPGA 對 PCIe 和以太網(wǎng) IP 進行了強化，它可以在FPGA上運行數(shù)據(jù)包處理器、virtio、NVMeoF等功能。Xeon D 通過此卡上的 FPGA 進行連接。

Intel BSC IPU示例路徑 ? 接下來展示的是NVMeoF 演示，其中BSC IPU正在處理系統(tǒng)的RDMA NVMeoF，并由Xeon D SoC 管理。這里卸載了整個堆棧，因此主機服務(wù)器認為它正在與正常的NVMe設(shè)備進行交互，而IPU實際上是通過網(wǎng)絡(luò)直接進行遠程存儲，將 NVMe 塊設(shè)備模擬到系統(tǒng)。

Intel BSC IPU存儲和RDMA卸載 ? 將散熱器拆除后，卡的背面如下圖所示。 ?

? 登錄Xeon D-1612，我們可以看到一個16GB的內(nèi)存系統(tǒng)，有4個內(nèi)核和8個線程。此外，還連接了存儲和 FPGA。 ?

?Intel?BSC IPU Lshw ? 以下是從Xeon D SoC 查看的 IPU 拓撲結(jié)構(gòu)： ?

?Intel?BSC IPU Xeon D 1612 Lstopo ? 下圖是Xeon D的lscpu輸出。 ?

BSC IPU?Xeon D 1612 Lscpu Output ? 接下來，演示正式開始。第一步啟動VirtIO和初始化卡，該過程使用腳本自動執(zhí)行。我們將 IPU 安裝在 2U Supermicro Ultra服務(wù)器機架中，這些服務(wù)器既是 IPU 主機，也是 NVMeoF 目標系統(tǒng)。 ?

? 在存儲方面，總共在目標系統(tǒng)中安裝了 8 個 1.6TB 的英特爾 P4610 SSD。 ?

Intel IPU Intel DC P4610 SSD ? FPGA可以通過添加新功能來更改數(shù)據(jù)路徑，需要對其進行編程，可直接通過英特爾Xeon D 處理器執(zhí)行此操作。 完成上述步驟后，我們就可以在主機服務(wù)器上查找SSD，主機系統(tǒng)的驅(qū)動器看起來與目標服務(wù)器上的驅(qū)動器完全相同。主機服務(wù)器認為它具有標準的 NVMe 設(shè)備，但不知道這些設(shè)備是通過使用NVMeoF和IPU的100GbE fabric交付的。 ?

Intel BSC IPU通過RDMA NVMeoF連接到目標，驅(qū)動器安裝在主機上 ? 目標服務(wù)器位于圖中上方的兩個終端上，六個驅(qū)動器通過 IPU 連接，iostat顯示在右側(cè)。左下角是IPU的Xeon D-1612，右下角為主機服務(wù)器，具有8個 Intel P4610 1.6TB NVMe SSD。IPU的 Stratix 10 FPGA 連接到目標服務(wù)器，并將 NVMeoF 驅(qū)動器作為標準 NVMe 塊設(shè)備呈現(xiàn)給主機。 ? 現(xiàn)在我們已經(jīng)在系統(tǒng)上安裝了這些驅(qū)動器，下面開始運行。 ?

性能表現(xiàn)

下圖左邊是fio測試，右邊是iostat監(jiān)視器，左下為IPU卡上的Xeon D，右下是目標服務(wù)器上的iostat。 ?

? 首先，我們運行一個4K隨機讀取腳本，在1.2M到1.4M的4K隨機讀IOPS范圍內(nèi)，可以在右側(cè)看到iostat數(shù)據(jù)。接下來運行一個順序讀取測試，在5.5-6GB/s的范圍。 ?

? 寫入IOPS在1.3-1.4M的范圍內(nèi)。 ?

? 再次在 5.5-6GB/s 范圍內(nèi)進行順序?qū)懭搿??

? 在iostats上，CPU利用率非常低，順序操作CPU利用率在3%的范圍內(nèi)，隨機操作CPU利用率在10%的范圍內(nèi)。此外，這里還包括了fio流量生成、以太網(wǎng)和NVMeoF的開銷。 ? 總的來說，這是一個不錯的數(shù)據(jù)表現(xiàn)。 ? 除了本次演示的內(nèi)容外，還有更多 FPGA 邏輯區(qū)域可用于添加更多服務(wù)。對于云提供商來說，可以添加一個IPU跳過本地NVMe存儲和高速NIC。使用此解決方案，可以將存儲透明地交付給裸機或虛擬機。這使得基礎(chǔ)架構(gòu)提供商可以從集中池動態(tài)地將存儲分配給每個客戶端，而無需使用平臺向第三方公開基礎(chǔ)架構(gòu)的內(nèi)部工作。 ?

FPGA還可用于通過在數(shù)據(jù)路徑中運行加密和壓縮來保護和減少傳輸?shù)臄?shù)據(jù)。這有助于保護傳輸中的數(shù)據(jù)，并減少傳輸?shù)臄?shù)據(jù)量，從而進一步降低網(wǎng)絡(luò)壓力。 ?

結(jié)? 語

英特爾IPU具有Xeon D CPU，允許基礎(chǔ)設(shè)施提供商將IPU作為基礎(chǔ)設(shè)施端點進行管理，然后通過FPGA提供選擇性服務(wù)。FPGA提供了很大的靈活性，可以向客戶端系統(tǒng)和用戶呈現(xiàn)不同類型的設(shè)備。相同的FPGA和Xeon D控制平面讓基礎(chǔ)設(shè)施提供商可以用更簡單的方法來管理復雜的基礎(chǔ)設(shè)施。 ?

編輯：黃飛

?