AI加持下的數(shù)據(jù)中心，需要怎樣的高速接口技術(shù)？

（電子發(fā)燒友網(wǎng) 文/黃晶晶）無疑生成式AI的火熱帶動了互聯(lián)網(wǎng)廠商、運營商、云服務商以及各類應用方等對數(shù)據(jù)中心、AI服務器的大力投入。同時，像中國的“東數(shù)西算”工程正構(gòu)筑著堅實的算力基建。為了適應大數(shù)據(jù)、人工智能的發(fā)展，必須要解決如何增強算力、存力和運力的問題。那么高速的數(shù)據(jù)傳輸是不可缺少的核心環(huán)節(jié)。在此背景下，我們需要前瞻布局哪些數(shù)據(jù)傳輸?shù)?a target="_blank">接口技術(shù)來適應發(fā)展呢？最近，Rambus 解決方案營銷高級總監(jiān)Tim Messegee接受采訪，分享了他對于數(shù)據(jù)中心高速接口技術(shù)和市場的洞見。
圖：Rambus 解決方案營銷高級總監(jiān)Tim Messegee

Tim Messegee表示，總體上，新數(shù)據(jù)中心的架構(gòu)設計應考慮到性能、可擴展性、可靠性和安全性，滿足生成式AI和大數(shù)據(jù)應用的具體需求。新數(shù)據(jù)中心首先需要配備高性能計算（HPC）基礎設施來滿足生成式AI和大數(shù)據(jù)應用的密集計算需求，比如使用功能強大的處理器、GPU、內(nèi)存、網(wǎng)絡、專用硬件加速器等高效處理大量數(shù)據(jù)并執(zhí)行復雜計算。

新數(shù)據(jù)中心架構(gòu)的設計應該使內(nèi)存、存儲等易于擴展。例如，CXL技術(shù)可以幫助建立內(nèi)存池，從架構(gòu)上將CPU和內(nèi)存分離，不僅能夠共享內(nèi)存，還能在性能需求日益增加的情況下更加輕松地增加內(nèi)存。

突破數(shù)據(jù)傳輸?shù)钠款i

業(yè)界一直都存在“內(nèi)存墻”的問題，其根源還是數(shù)據(jù)傳輸?shù)乃俾市阅芷款i。Tim Messegee說道，與“木桶定律”中的例子一樣，限制數(shù)據(jù)中心數(shù)據(jù)傳輸速率的元素不止一個，而是所有相關元素的性能。顯然，解決這一問題需要強大的 CPU、高速內(nèi)存、高帶寬網(wǎng)絡以及許多其他方面的支持。

實際上大家都不希望自己是最短板的那一塊。而以Rambus來看，其擅長的是提供先進內(nèi)存接口芯片和接口IP解決方案幫助滿足數(shù)據(jù)中心對帶寬不斷增長的需求。對此，Tim Messegee進行了解析。

具體來看，DDR5 DIMM芯片組：Rambus DDR5內(nèi)存接口芯片組由 DDR5 RCD、SPD Hub 和溫度傳感器組成，專為滿足最新一代DDR5內(nèi)存系統(tǒng)的大容量、高帶寬性能要求而量身定制。這些芯片使服務器和客戶端計算系統(tǒng)能夠處理最苛刻的工作負載和應用。

CXL技術(shù)：CXL可使數(shù)據(jù)中心從原來每臺服務器擁有專用的處理和內(nèi)存以及網(wǎng)絡和加速器等其他資源的模式，轉(zhuǎn)變?yōu)槭褂霉蚕碣Y源池的分解模式，共享資源池可根據(jù)特定工作負載的需求進行高效組合。

PCIe 6接口子系統(tǒng)IP：PCIe 接口是在 CPU、GPU、FPGA 和特定工作負載加速器等不同計算節(jié)點之間以高帶寬和低延遲傳輸數(shù)據(jù)的關鍵骨干。Rambus PCIe 6解決方案支持下一代數(shù)據(jù)中心的性能要求，具有延遲、功耗、面積和安全性方面的優(yōu)勢。

HBM內(nèi)存控制器：HBM是一種高性能內(nèi)存標準，具有功耗低、外形小的特點。Rambus HBM 3.0和2E/2控制器可為AI/ML、圖形和HPC應用提供高帶寬、低延遲的內(nèi)存性能。

新的接口技術(shù)何時落地

以上列舉了幾種應用于數(shù)據(jù)中心的先進的接口技術(shù)，包括DDR5、PCIe 6.0、HBM、CXL等。然而它們有各自的應用進程。

首先是DDR5。Tim Messegee表示，DDR5內(nèi)存已于2021年進入市場。我們現(xiàn)在看到服務器和PC市場都在使用DDR5內(nèi)存。根據(jù)IDC的預測，DDR5的跨越點，即DDR5位出貨量超過DDR4位出貨量的時刻將在2023年底出現(xiàn)。隨著時間的推移，DDR5有望在數(shù)據(jù)中心和消費市場得到更廣泛的應用。

其次，PCIe在服務器和PC之外也得到了廣泛應用，其規(guī)模經(jīng)濟效益使其對物聯(lián)網(wǎng)、汽車等領域以數(shù)據(jù)為中心的應用極具吸引力。盡管如此，PCIe 6.0的初期部署將針對需要盡可能高帶寬的應用，這些應用都是數(shù)據(jù)中心的核心，如AI/ML、HPC、云計算、網(wǎng)絡等。Tim Messegee預計第一代PCIe 6.0系統(tǒng)將在2026年問世。

再者，HBM正在成為超級計算機的首選內(nèi)存。市場對AI/ML的需求推動了 HBM 在數(shù)據(jù)中心的廣泛應用。如今，英偉達推出的H200 GPU以及GH200超級芯片開始配備141GB HBM3E。HBM的發(fā)展大致以兩年為一個周期，技術(shù)還在不斷演進當中。

此外，隨著CXL標準從1.0發(fā)展到 3.0，行業(yè)頭部廠商正在積極支持CXL。Tim Messegee說，要真正在市場上得到廣泛應用，可能還需要一段時間?？梢钥隙ǖ氖?，由于CXL的特性，最早采用這項技術(shù)的將是那些需要最高帶寬、最低延遲和多設備一致性的應用。目前，我們預計CXL將于2026年在數(shù)據(jù)中心得到廣泛應用。

誠然，特定技術(shù)的應用周期取決于多種因素，包括市場需求、軟硬件生態(tài)、成本和性能優(yōu)勢等。Tim Messegee指出，一般來說，內(nèi)存和總線技術(shù)升級通常需要更長的時間，這是因為它們需要與整個生態(tài)兼容，而且所有相互連接的軟硬件元素都需要時間來驗證和檢驗。因此，一項技術(shù)的采用情況會因技術(shù)特性、復雜程度和市場需求而異?？傊S著數(shù)據(jù)中心建設的加速，DDR5、PCIe 6.0、HBM和CXL等高速連接技術(shù)將在未來幾年繼續(xù)發(fā)展和普及，但其采用率可能會因技術(shù)和細分市場的不同而有所差異。

觀察市場的反饋，Tim Messegee看到的趨勢是，許多為數(shù)據(jù)中心開發(fā)的技術(shù)正在向客戶端擴散。AI推理向邊緣以及AI賦能的客戶端和終端系統(tǒng)轉(zhuǎn)移，這一趨勢將繼續(xù)加速。我們的IP解決方案可以集成到客戶端系統(tǒng)的芯片中，我們的產(chǎn)品路線圖上有支持未來客戶端平臺的Rambus芯片解決方案。

小結(jié)：

AI大模型的參數(shù)量越來越龐大，內(nèi)容形式也越來越豐富，隨著數(shù)據(jù)中心工作負載的增加，DDR、HBM、PCIe和CXL等內(nèi)存技術(shù)將繼續(xù)為數(shù)據(jù)中心提供更高容量、更低延遲和更高能效的數(shù)據(jù)傳輸速率以滿足不斷增長的算力需求。同時，Rambus也希望通過內(nèi)存解決方案的不斷改進總體上為提高數(shù)據(jù)中心的整體能效帶來真正的機會。