摩爾定律難以維持，芯片進(jìn)入異構(gòu)驅(qū)動(dòng)的世界

有時(shí)候，如果你在某個(gè)商業(yè)領(lǐng)域堅(jiān)持上足夠長(zhǎng)的時(shí)間，市場(chǎng)就會(huì)自己來(lái)找你。

數(shù)十年來(lái)，Xilinx（賽靈思）一直是現(xiàn)場(chǎng)可編程門陣列（FPGA）的領(lǐng)導(dǎo)者，至今仍然占有 60% 的市場(chǎng)份額。英特爾在大約三年前以 167 億美元的價(jià)格收購(gòu)了 FPGA 領(lǐng)域的競(jìng)爭(zhēng)對(duì)手 Altera，占據(jù)了大部分市場(chǎng)份額。

盡管 Xilinx 在過(guò)去幾年中取得了穩(wěn)定的增長(zhǎng)，它在 2018 財(cái)年的收入比前一年增長(zhǎng)了 8%，達(dá)到創(chuàng)紀(jì)錄的 25.4 億美元，但 FPGA 仍然剛剛開始在數(shù)據(jù)中心站穩(wěn)自己作為計(jì)算機(jī)引擎的地位的腳跟。

而英特爾、AMD 和 IBM 的 CPU 仍然是計(jì)算的主要驅(qū)動(dòng)力，在 Nvidia 和 AMD 的 GPU 加速器的幫助下，一些前景光明的 Arm 陣營(yíng)的公司希望希望能夠在 Cavium 的領(lǐng)導(dǎo)下參與到這場(chǎng)變革中來(lái)。

于是，越來(lái)越多像 FPGA 以及定制化 ASIC——這些 CPU 之外的加速器被人們所使用，但是目前大部分的數(shù)據(jù)中心中占據(jù)主導(dǎo)地位的處理器仍然是 CPU。

盡管如此，Victor Peng 這位在 Xilinx 工作了 10 年的老員工（自從今年 1 月份起擔(dān)任該公司 CEO），也看到了這種轉(zhuǎn)變，想著有朝一日可編程硅芯片會(huì)成為大型數(shù)據(jù)中心用戶、云平臺(tái)建設(shè)者使用的高性能計(jì)算中心，以及常規(guī)企業(yè)的數(shù)據(jù)中心中的計(jì)算驅(qū)動(dòng)力。

計(jì)算機(jī)領(lǐng)域正經(jīng)歷著重要的變革，這導(dǎo)致人們對(duì)異構(gòu)計(jì)算的需求與日俱增，從而在不用改變?nèi)魏蔚讓蛹軜?gòu)的情況下能夠適應(yīng)手頭的工作量。特別是目前越來(lái)越多從核心到網(wǎng)絡(luò)邊緣再接入云端的終端正在被連接起來(lái)，并通過(guò)傳感器、攝像頭和其他設(shè)備被賦予了智能，它們創(chuàng)造了大量的非結(jié)構(gòu)化數(shù)據(jù)。

這些數(shù)據(jù)推動(dòng)了對(duì)更強(qiáng)的計(jì)算能力和更大的存儲(chǔ)空間、使用人工智能 (AI) 和機(jī)器學(xué)習(xí)等技術(shù)的需求，從而使人們對(duì)這些數(shù)據(jù)有更好的感知和決策的能力。

正如我們?cè)凇窽he Next Platform」中談到的，F(xiàn)PGA 引起了人們對(duì)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)領(lǐng)域的興趣，Xilinx 今年夏天則收購(gòu)了以神經(jīng)網(wǎng)絡(luò)和 FPGA 為業(yè)務(wù)核心的初創(chuàng)公司 DeePhi。

Victor Peng 在硅谷舉行的 Hot Chips 2018 上發(fā)表的主旨演講中提到：“這種形式的智能化中的各個(gè)組成部分是完全相互聯(lián)系在一起的。這種情況切切實(shí)實(shí)地發(fā)生了，而且尚處于早期起步階段?！?/p>

尤其是從今天的角度來(lái)看，智能化意味著在某種程度上我們不僅僅擁有某種智能處理器（例如，系統(tǒng)級(jí)芯片，SOC），還要求所有的應(yīng)用都擁有某種形式的人工智能，這通常會(huì)融入某種形式的機(jī)器學(xué)習(xí)技術(shù)。

這種情況之所以讓人如此興奮，是因?yàn)樗粌H已經(jīng)對(duì)人們的日常生活產(chǎn)生了影響，而且由于其剛剛興起，并且這個(gè)領(lǐng)域的變革正在以指數(shù)級(jí)的速度發(fā)生著，它對(duì)人們?nèi)粘Ｉ畹挠绊憰?huì)越來(lái)越深遠(yuǎn)。

Peng 指出，有人預(yù)測(cè)在不久的將來(lái)每年的數(shù)據(jù)量將超過(guò) 10ZB，而且“從中獲得某種價(jià)值通常意味著對(duì)數(shù)據(jù)進(jìn)行處理，并以某種形式從原始數(shù)據(jù)中提取這些信息，這大大推動(dòng)了大型數(shù)據(jù)中心中服務(wù)器數(shù)量的增長(zhǎng)。數(shù)據(jù)中心的規(guī)模擴(kuò)展地比我們以前所見(jiàn)到的要大得多，計(jì)算、存儲(chǔ)空間和內(nèi)存都在不斷增加?！?/p>

你可以看到，目前機(jī)器性能的增長(zhǎng)也已經(jīng)跟上了數(shù)據(jù)處理和總的存儲(chǔ)空間那種指數(shù)級(jí)的增長(zhǎng)速率。

有趣的事，人們認(rèn)為這一切都是通過(guò)各種各樣的大型數(shù)據(jù)中心用戶的廣告收入以及從云平臺(tái)構(gòu)建者的基礎(chǔ)設(shè)施服務(wù)獲利的。

然而，在這種情況下，仍然存在一個(gè)很大的問(wèn)題，那就是摩爾定律，Peng 將其稱為‘’一個(gè)巨大的挑戰(zhàn)‘’。

摩爾定律告訴我們晶體管的尺寸會(huì)縮小，并且我們可以將更多的晶體管集成在一個(gè)特定的區(qū)域中，從而具備更強(qiáng)的處理能力以及更低的成本。50 年來(lái)，摩爾定律在這個(gè)行業(yè)中一直都十分有效，但如今這條定律已經(jīng)很難再維持下去了。

他說(shuō)：‘’我們每個(gè)人都根深蒂固地認(rèn)為，即使是對(duì)于科技產(chǎn)品來(lái)說(shuō)，日常消費(fèi)者也希望能夠獲得處理速度更快、更便宜的產(chǎn)品‘’。

‘’實(shí)際上，我們每年都希望電子產(chǎn)品都能遵循這樣的物理定律：人們可以以同樣的價(jià)格得到能力更強(qiáng)的更好的產(chǎn)品。因此，當(dāng)我們說(shuō)摩爾定律不再適用于我們今天的產(chǎn)業(yè)發(fā)展時(shí)，這種影響是十分深遠(yuǎn)的?！?/p>

多年來(lái)，芯片制造商已經(jīng)使用了各種手段來(lái)跟上摩爾定律的步伐，包括增加更多的核心，驅(qū)動(dòng)芯片內(nèi)部的線程，以及利用各種加速器。

然而，Peng 認(rèn)為更快更好的系統(tǒng)不僅需要通過(guò)處理器技術(shù)實(shí)現(xiàn)，還需要通過(guò)架構(gòu)來(lái)實(shí)現(xiàn)。系統(tǒng)架構(gòu)本身也面臨著諸多挑戰(zhàn)，特別是功率和密度，這也限制了性能。

‘’過(guò)去的 40 年中，計(jì)算主要集中在 CPU 和微處理器上?！疨eng 說(shuō)。

‘’在本世紀(jì)的頭十年，這種狀況漸漸走到了盡頭。從 2010 年起，計(jì)算環(huán)境開始向異構(gòu)系統(tǒng)發(fā)展，這時(shí)我們的計(jì)算機(jī)所使用的處理器可以被分為通用處理器以及那些你可以廣泛稱之為固有硬件加速器的處理器。這樣的處理器可能是一個(gè) CPU 或一個(gè) MPU，當(dāng)然，在機(jī)器學(xué)習(xí)領(lǐng)域 ASIC 也漸漸復(fù)興起來(lái)?！?/p>

機(jī)器學(xué)習(xí)和其他現(xiàn)代計(jì)算工作，以及激增的連接起來(lái)的智能設(shè)備（數(shù)百億），正推動(dòng)新一輪的對(duì)硅技術(shù)的投資和對(duì)可配置和適應(yīng)性強(qiáng)的硬件平臺(tái)的需求。異構(gòu)結(jié)構(gòu)設(shè)計(jì)將是推動(dòng)性能提升的關(guān)鍵。

通過(guò)機(jī)器學(xué)習(xí)和所有這些相連的設(shè)備和系統(tǒng)，‘’你不能把它們固定下來(lái)，因?yàn)槟銦o(wú)法預(yù)測(cè)當(dāng)你部署這些設(shè)備時(shí)全部的需求將會(huì)是什么。而且你不會(huì)想要通過(guò)改變物理設(shè)備來(lái)為這些基礎(chǔ)設(shè)施賦予相應(yīng)的能力‘’。

‘’這種觀念不僅能夠在軟件層面上改變。在硬件層面上，遠(yuǎn)程的大型智能設(shè)備正變得越來(lái)越強(qiáng)大，而且為了滿足未來(lái)的計(jì)算需求，這種變革是絕對(duì)有必要的?！?/p>

圖：異構(gòu)計(jì)算架構(gòu)

在 Hot Chips 上，Peng 和其他 Xilinx 的官員在演講中談到了該公司接下來(lái)的戰(zhàn)略，包括即將推出的自適應(yīng)計(jì)算加速平臺(tái) (ACAP) 和 7 納米工藝的「Everest」系統(tǒng)級(jí)芯片。

Xilinx 在三月份第一次談到 ACAP，雖然那時(shí)他們并沒(méi)有就此平臺(tái)深入介紹，但是 Peng 的確在這個(gè)項(xiàng)目上傾注了經(jīng)歷，在十月份 Xilinx 的開發(fā)者論壇上，他們很可能對(duì)這個(gè)平臺(tái)進(jìn)行深度展示。

Xilinx 表示，ACAP 將在機(jī)器學(xué)習(xí)推理方面為該公司現(xiàn)有的 16 納米 FPGA 提供 20 倍的性能提升，并且在 5G 網(wǎng)絡(luò)方面提供 4 北的性能提升。今年晚些時(shí)候，「Everest」將在***半導(dǎo)體制造公司的 7 納米工藝平臺(tái)上被生產(chǎn)出來(lái)。

圖：Everest 框架圖

ACAP 是針對(duì)適應(yīng)性和可編程性進(jìn)行設(shè)計(jì)的。該平臺(tái)的可編程引擎將從源頭解決機(jī)器學(xué)習(xí)推理和 5G 網(wǎng)絡(luò)工作的問(wèn)題。

體系結(jié)構(gòu)的核心是一系列 Tile 單元，每個(gè) Tile 單元都會(huì)表示一個(gè)互聯(lián)資源結(jié)構(gòu)以及可以針對(duì)特定應(yīng)用的可擴(kuò)展本地內(nèi)存的特征。Xilinx 將提供一系列針對(duì)廣泛市場(chǎng)的 SKU（庫(kù)存量單位）。

可編程邏輯器件包含 DSP、LUT、URAM 以及 BRAM。按照 Peng 的設(shè)想，這個(gè)架構(gòu)將允許用戶為該架構(gòu)編寫程序，以最好地滿足應(yīng)用需求。這使得他們能夠?yàn)椴煌墓ぷ鞑渴鹣嗤墓栊酒?/p>

Peng 說(shuō)：‘’這將使交換內(nèi)核和 DSA 的輸入輸出能夠更快地進(jìn)行，同時(shí)減少設(shè)計(jì)的限制?！?/p>

‘’這是一個(gè)多元化的市場(chǎng)。目前有許多關(guān)于數(shù)據(jù)中心和云計(jì)算的討論，但是由于 AXAP 的靈活性和處理深度，它將服務(wù)于所有的市場(chǎng)。這個(gè)架構(gòu)師可擴(kuò)展的，所以他可以在汽車中、在云應(yīng)用程序、通信間的設(shè)備上、基礎(chǔ)設(shè)施上被應(yīng)用。這種架構(gòu)從一開始就是軟件可編程的，但歸根到底它還是可編程硬件?！?/p>

這也會(huì)讓我們得到更高的吞吐量、更低的延遲和更低的功耗。當(dāng)我們談?wù)摤F(xiàn)在的計(jì)算工作時(shí)，這些參數(shù)都和頻率一樣重要。

Peng 說(shuō)：‘’這些天來(lái)，特別是由于我們著眼于機(jī)器學(xué)習(xí)領(lǐng)域，我們正熱衷于提高 TOPS（評(píng)價(jià)指標(biāo)）。‘’

‘’這讓我想起了 1990 年代的 Megahertz Wars。然而，真正重要的并不是這種指標(biāo)，重要的是應(yīng)用程序的速度提升。我們通常以幾百兆赫或者大約千兆赫的頻率運(yùn)行這些程序，而不是幾千兆赫。

這很大程度上是因?yàn)?，由于我們的架?gòu)需要有普適性，我們使用了很多分布時(shí)板載內(nèi)存及其互聯(lián)結(jié)構(gòu)，甚至還有一些端口的配置都是可以自定義的。你不僅可以優(yōu)化數(shù)據(jù)通路和數(shù)據(jù)流，還可以優(yōu)化內(nèi)存的層次結(jié)構(gòu)和帶寬，而板載內(nèi)存的帶寬是很大的?！?/p>