基于FPGA的自適應(yīng)計算創(chuàng)建高性能計算機

在 COVID-19 大流行導(dǎo)致范式轉(zhuǎn)變之后，我們大多數(shù)人仍在通過在線視頻會議與我們的同事會面。您可能沒有過多考慮從會議中流式傳輸所有內(nèi)容和提要需要什么。但是，如果您是數(shù)據(jù)中心運營商，您可能在過去一年中沒有睡很多覺，擔(dān)心如何應(yīng)對前所未有的視頻流量大流行性激增。

不僅如此，如今的數(shù)據(jù)中心還必須處理來自視頻會議、流媒體內(nèi)容、在線游戲和電子商務(wù)等廣泛工作負載的非結(jié)構(gòu)化數(shù)據(jù)的爆炸式增長。其中許多應(yīng)用程序?qū)ρ舆t非常敏感，并且還受制于不斷發(fā)展的壓縮、加密和數(shù)據(jù)庫架構(gòu)標(biāo)準(zhǔn)。

這迫使數(shù)據(jù)中心擴展其基礎(chǔ)架構(gòu)以滿足各種苛刻工作負載的性能和延遲要求，同時努力將成本和功耗降至最低。事實證明這是非常困難的，它迫使數(shù)據(jù)中心運營商重新考慮他們當(dāng)前的架構(gòu)并探索本質(zhì)上更具可擴展性和效率的新配置。

目前，大多數(shù)數(shù)據(jù)中心都有固定資源集的機架，將 SSD、CPU 和加速器組合在單個服務(wù)器中。雖然這確保了計算和存儲之間的高帶寬連接，但它在資源利用率方面非常低效，因為每臺服務(wù)器中的存儲和計算比率都是固定的。由于工作負載需要不同的計算和存儲組合，因此每臺服務(wù)器中都會留下未使用的資源孤島。

可組合基礎(chǔ)設(shè)施

一種新的架構(gòu)正在出現(xiàn)，它有望顯著提高資源利用率。它被稱為“可組合基礎(chǔ)設(shè)施”?？山M合基礎(chǔ)設(shè)施需要 解耦 資源，而是將它們匯集在一起??，讓它們可以從任何地方訪問?？山M合的基礎(chǔ)架構(gòu)可以使用適量的資源來配置工作負載，并通過軟件進行快速重新配置。

一個包含 CPU、SSDS 和加速器池的可組合架構(gòu)，這些池聯(lián)網(wǎng)在一起并由基于標(biāo)準(zhǔn)的配置框架控制，有望大大提高數(shù)據(jù)中心的資源效率。在這樣的架構(gòu)中，不同的工作負載可能有不同的計算、存儲和加速要求，這些資源將被相應(yīng)地分配，而不會浪費硬件。這在理論上聽起來不錯，但在實踐中，有一個大問題：延遲。

延遲挑戰(zhàn)

當(dāng)您分解資源并將它們移得更遠時，由于 CPU 和 SSD 之間或 CPU 和加速器之間的網(wǎng)絡(luò)流量，您會產(chǎn)生更多的延遲和減少的帶寬。除非您有某種方法可以減少網(wǎng)絡(luò)流量并以有效的方式互連資源，否則這可能會受到嚴(yán)重限制。這就是 FPGA 在解決延遲挑戰(zhàn)中發(fā)揮三個主要作用的地方：

FPGA 充當(dāng)自適應(yīng)加速器，可以針對每個工作負載進行定制，以獲得最佳性能。

FPGA 還可以使計算更接近數(shù)據(jù)，從而減少延遲并最小化所需的帶寬。

FPGA 的適應(yīng)性強、智能結(jié)構(gòu)可實現(xiàn)資源的有效池化，而不會產(chǎn)生過多的延遲。

自適應(yīng)加速度

基于 FPGA 的計算加速器的第一個顯著優(yōu)勢是顯著提高了當(dāng)今需求量很大的工作負載的性能。在實時流媒體應(yīng)用的視頻轉(zhuǎn)碼用例中，F(xiàn)PGA 解決方案的性能通常比 x86 CPU 高 30 倍，這有助于數(shù)據(jù)中心運營商應(yīng)對同時流媒體數(shù)量的巨大增長。另一個例子是基因組測序的關(guān)鍵領(lǐng)域。Xilinx 基因組學(xué)最近的一位客戶發(fā)現(xiàn)，我們基于 FPGA 的加速器提供答案的速度比 CPU 快 90 倍，幫助醫(yī)學(xué)研究人員測試 DNA 樣本的時間縮短了過去的一小部分。

讓計算更接近數(shù)據(jù)

可組合數(shù)據(jù)中心中 FPGA 的第二個關(guān)鍵優(yōu)勢是能夠使自適應(yīng)計算接近數(shù)據(jù)，無論是靜止的還是運動的。SmartSSD 計算存儲設(shè)備中使用的賽靈思 FPGA 可加速高速搜索、解析、壓縮和加密等功能，這些功能通常由 CPU 執(zhí)行。這有助于為更復(fù)雜的任務(wù)卸載 CPU，但也減少了 CPU 和 SSD 之間的流量，從而減少了帶寬消耗并減少了延遲。

同樣，我們的 FPGA 現(xiàn)在用于 SmartNIC，例如我們的新 Alveo SN1000，通過線速數(shù)據(jù)包處理、壓縮和加密服務(wù)以及適應(yīng)特定數(shù)據(jù)中心或客戶的自定義交換要求的能力來加速運動中的數(shù)據(jù)。

智能面料

當(dāng)您將 FPGA 的自適應(yīng)計算加速與低延遲連接相結(jié)合時，您可以在可組合數(shù)據(jù)中心更進一步。您可以將計算繁重的工作負載分配給通過適應(yīng)性強的智能結(jié)構(gòu)互連的加速器集群——按需創(chuàng)建高性能計算機。

當(dāng)然，如果您不能使用最佳加速算法對計算加速器、SmartSSD 和 SmartNIC 進行編程，然后為每個工作負載以正確的數(shù)量配置它們，那么這一切都是不可能的。為此，我們構(gòu)建了一個全面的軟件堆棧，該堆棧利用 TensorFlow 和 FFMPEG 等特定領(lǐng)域的行業(yè)框架，這些框架與我們的 Vitis 開發(fā)平臺配合使用。我們還看到了 RedFish 等更高級別的供應(yīng)框架在幫助智能資源分配方面的作用。

未來是現(xiàn)在

可組合數(shù)據(jù)中心的承諾是一個激動人心的變化，Xilinx 器件和加速器卡是這種新型高效架構(gòu)的關(guān)鍵構(gòu)建塊。憑借快速的可重構(gòu)性、低延遲和能夠適應(yīng)不斷變化的工作負載的靈活架構(gòu)，Xilinx 完全有能力成為這一演變的主要參與者。