IPU和CXL如何提高數(shù)據(jù)中心的電源效率？

DPU、IPU 和 CXL 技術(shù)有可能顯著提高數(shù)據(jù)中心的能效。

數(shù)據(jù)處理單元 (DPU)、基礎(chǔ)設(shè)施處理單元 (IPU) 和 Compute Express Link (CXL) 技術(shù)可從服務(wù)器 CPU 卸載交換和網(wǎng)絡(luò)任務(wù)，具有顯著提高數(shù)據(jù)中心能效的潛力。事實(shí)上，美國(guó)國(guó)家可再生能源實(shí)驗(yàn)室 (NREL）認(rèn)為，使用此類技術(shù)并專注于降低功率的企業(yè)可以實(shí)現(xiàn)約 33% 的效率提高。

使用新的網(wǎng)絡(luò)技術(shù)提高電源效率

去年，出現(xiàn)了幾項(xiàng)新技術(shù)，重新審視了數(shù)據(jù)中心的功耗。雖然采用了不同的方法，但這些解決方案都試圖通過(guò)從 CPU中卸載交換和網(wǎng)絡(luò)工作來(lái)提高能源效率，就像 GPU 和基于硬件的加密減少 CPU 的負(fù)載（從而降低整體功耗）一樣。以下是一些值得關(guān)注的主要進(jìn)展：

什么是數(shù)據(jù)處理單元 (DPU)？

數(shù)據(jù)處理單元 (DPU) 是一項(xiàng)相對(duì)較新的技術(shù)，可將處理密集型任務(wù)從 CPU 卸載到服務(wù)器中的單獨(dú)卡上。從本質(zhì)上講，DPU 是一種微型板載服務(wù)器，針對(duì)網(wǎng)絡(luò)、存儲(chǔ)和管理任務(wù)進(jìn)行了高度優(yōu)化。（服務(wù)器上的通用 CPU 從未設(shè)計(jì)用于這些類型的密集型數(shù)據(jù)中心工作負(fù)載，并且經(jīng)常會(huì)使服務(wù)器陷入困境。）

DPU 能產(chǎn)生什么影響？“在 DPU 中使用硬件加速來(lái)卸載處理密集型任務(wù)可以大大降低功耗，從而提高效率或在某些情況下減少服務(wù)器、更高效的數(shù)據(jù)中心，并通過(guò)減少電力消耗和減少成本來(lái)顯著節(jié)省成本。”ZK Research 的創(chuàng)始人兼首席分析師Zeus Kerravala 說(shuō)。

DPU 可以節(jié)省多少功率？提供英偉達(dá)BlueField DPU的英偉達(dá)的一份報(bào)告估計(jì)，卸載網(wǎng)絡(luò)、存儲(chǔ)和管理任務(wù)可以將服務(wù)器功耗降低多達(dá) 30%。此外，該報(bào)告還指出，隨著服務(wù)器負(fù)載的增加，節(jié)電量也會(huì)增加，對(duì)于擁有 10000 臺(tái)服務(wù)器的大型數(shù)據(jù)中心，在服務(wù)器的 3 年使用壽命內(nèi)，可以節(jié)省 500 萬(wàn)美元的電費(fèi)。在冷卻、供電、機(jī)架空間和服務(wù)器資源成本方面將會(huì)有額外的節(jié)省。

什么是基礎(chǔ)設(shè)施處理單元 (IPU)？

虛擬交換、安全和存儲(chǔ)等基礎(chǔ)設(shè)施服務(wù)會(huì)占用大量 CPU 周期?；A(chǔ)設(shè)施處理單元 (IPU) 可加速這些任務(wù)，釋放 CPU 內(nèi)核以提高應(yīng)用程序性能并降低功耗。

去年，英特爾和谷歌云推出了一款代號(hào)為 Mount Evans 的聯(lián)合設(shè)計(jì)芯片，旨在讓數(shù)據(jù)中心更加安全和高效。該芯片接管了 CPU 為網(wǎng)絡(luò)打包數(shù)據(jù)的工作。它還在可能共享 CPU 的不同應(yīng)用程序和用戶之間提供更好的安全性。

根據(jù)英特爾的定義，IPU 是一種具有強(qiáng)化加速器和以太網(wǎng)連接的高級(jí)網(wǎng)絡(luò)設(shè)備。它使用緊密耦合的專用可編程內(nèi)核來(lái)加速和管理基礎(chǔ)設(shè)施功能。IPU 在使用軟件定義網(wǎng)絡(luò) (SDN) 和日益復(fù)雜的管理軟件的現(xiàn)代計(jì)算環(huán)境中特別有效。這些解決方案結(jié)合在一起會(huì)耗盡計(jì)算資源。英特爾估計(jì)，在某些高度虛擬化的環(huán)境中，網(wǎng)絡(luò)可以消耗主機(jī) CPU 周期的 30% 。

什么是計(jì)算快速鏈路 (CXL)？

Compute Express Link(CXL) 是一種開(kāi)放互連標(biāo)準(zhǔn)，用于在主機(jī)（例如處理器）和設(shè)備（例如硬件加速器或智能 NIC）之間實(shí)現(xiàn)高效、一致的內(nèi)存訪問(wèn)。該標(biāo)準(zhǔn)旨在解決所謂的馮諾依曼瓶頸問(wèn)題，其中計(jì)算速度受限于 CPU 從存儲(chǔ)器中檢索指令和數(shù)據(jù)的速率。

CXL 以多種方式解決了這個(gè)問(wèn)題。它采用了一種新的方法來(lái)在多個(gè)計(jì)算節(jié)點(diǎn)之間進(jìn)行內(nèi)存訪問(wèn)和共享。它允許內(nèi)存和加速器分解，使數(shù)據(jù)中心完全由軟件定義。

池中的某些內(nèi)存設(shè)備可以允許在多個(gè)主機(jī)之間共享內(nèi)存，這為應(yīng)用程序提供了新的機(jī)會(huì)和可能性，可以在適當(dāng)?shù)奈恢米x取、修改和寫(xiě)入數(shù)據(jù)，而無(wú)需通過(guò)網(wǎng)絡(luò)在節(jié)點(diǎn)之間移動(dòng)數(shù)據(jù)或傳遞消息。多臺(tái)主機(jī)映射和使用數(shù)據(jù)的能力可以提高基礎(chǔ)設(shè)施資源利用率。

CXL 有多重要？“CXL 技術(shù)可能會(huì)顯著影響未來(lái)的服務(wù)器架構(gòu)，”O(jiān)mdia 云和數(shù)據(jù)中心研究實(shí)踐分析師 Aaron Lewis 說(shuō)。具體來(lái)說(shuō)，CXL 可以在滿足容量和帶寬要求的同時(shí)降低服務(wù)器中的內(nèi)存成本。

Lewis 還指出，很大一部分主板區(qū)域用于內(nèi)存。通過(guò) CXL 內(nèi)存分解，內(nèi)存資源可以像存儲(chǔ)驅(qū)動(dòng)器或物理外形的 PCIe 卡一樣處理。這可能會(huì)使服務(wù)器計(jì)算更加密集，并且主要受熱因素限制，而不是缺乏主板空間。

為什么 DPU、IPU 和 CXL 技術(shù)很重要

幾十年來(lái)，企業(yè)一直關(guān)注運(yùn)行其數(shù)據(jù)中心和 IT 運(yùn)營(yíng)的日益增長(zhǎng)的電力需求。隨著計(jì)算和存儲(chǔ)需求的增長(zhǎng)，能源消耗也在增長(zhǎng)。具有更強(qiáng)大 CPU 的服務(wù)器直接使用更多電力。更快的處理器產(chǎn)生的熱量需要越來(lái)越多的冷卻，從而增加了電力負(fù)荷。

為了解決這些問(wèn)題，已經(jīng)嘗試了各種能效解決方案，通過(guò)將一些計(jì)算和安全任務(wù)卸載到針對(duì)特定任務(wù)優(yōu)化的協(xié)處理器（例如 GPU 或基于硬件的加密器）來(lái)解決這個(gè)問(wèn)題。

除了使用 GPU，企業(yè)還使用虛擬化和節(jié)能實(shí)踐來(lái)顯著改善數(shù)據(jù)中心的功耗。因此，電源使用效率 (PUE) 這一描述計(jì)算機(jī)數(shù)據(jù)中心使用能源效率的標(biāo)準(zhǔn)指標(biāo)下降了。（這是一件好事。）它從 2007 年的平均 2.5 左右下降到 2011 年的 1.98。這一下降是通過(guò)使用電源優(yōu)化技術(shù)實(shí)現(xiàn)的，包括通過(guò)虛擬化最大化工作負(fù)載、改進(jìn)冷卻和其他舉措。

不幸的是，這些用于降低數(shù)據(jù)中心電源效率的方法在十年內(nèi)幾乎沒(méi)有改善，因?yàn)?PUE 比率變化很小。研究表明數(shù)據(jù)中心的 PUE 值范圍很廣，但目前的總體平均值約為 1.8。

最近，注意力已經(jīng)轉(zhuǎn)移到降低開(kāi)關(guān)和網(wǎng)絡(luò)工作的功率需求上。美國(guó)國(guó)家可再生能源實(shí)驗(yàn)室 (NREL）認(rèn)為，使用此類技術(shù)并專注于降低功耗的企業(yè)可以實(shí)現(xiàn)約 33% 的電源效率提升。

審核編輯：劉清