下一代深度學(xué)習(xí)加速器:英特爾Xe

在超算領(lǐng)域，中美之間無聲的競(jìng)爭(zhēng)還在進(jìn)行中，2018年美國憑借橡樹嶺國家實(shí)驗(yàn)室的Summit超算奪回了失落5年的TOP500冠軍寶座。在HPC超算市場(chǎng)上，關(guān)鍵的還是下一代百億億次超算，也就是Exascale超算，目前中國有三套E級(jí)超算，而英特爾、Cray公司在2019年3月17日獲得了美國能源部5億美元的合同。

美國能源部長里克佩里說：“實(shí)現(xiàn)百億億次超算是必不可少的，它不僅可以提升科學(xué)計(jì)算，還要改善美國人的日常生活?！薄癆urora及下一代百億億次超算將HPC、AI等技術(shù)應(yīng)用于癌癥研究、氣候模擬、退伍軍人健康治療等領(lǐng)域，基于百億億次超算的創(chuàng)新將會(huì)對(duì)我們的社會(huì)產(chǎn)生極為重要的影響?！泵绹着_(tái)百億億次超算將大量應(yīng)用英特爾的最新技術(shù)，主處理器是下一代Xeon至強(qiáng)，還有新一代Xe加速卡、OptaneDC內(nèi)存、秘密武器CXL以及英特爾的OneAI軟件，而整個(gè)系統(tǒng)則是基于Cray公司的Shasta系統(tǒng)，包括至少200個(gè)機(jī)柜、Slingshot高性能可擴(kuò)展互聯(lián)架構(gòu)及Shasta軟件堆棧。

該項(xiàng)目計(jì)劃在2021年的時(shí)間內(nèi)完成，并且每秒能夠進(jìn)行Quintillion的運(yùn)算，即400 petaflops。從這個(gè)角度來看，這比Million浮點(diǎn)運(yùn)算高出一百萬倍 - 而平均每個(gè)處理器的約為200 GFLOP。這筆交易價(jià)值5億美元，其中Cray將獲得1.46億美元的資金，而Intel將獲得剩余的3.54億美元。

圖一：Aurora技術(shù)革新（圖片來源：英特爾）

從上圖可以看出Xe 是加速器，但目前還不清楚Quintillionops mark的功率分布。

圖二：英特爾GPU可擴(kuò)展性（來源：英特爾）

英特爾野心勃勃，Xe將從10nm節(jié)點(diǎn)開始，為未來幾代圖形奠定基礎(chǔ)，并將遵循Intel的單一堆棧軟件哲學(xué)，即希望軟件開發(fā)人員能夠利用CPU、GPU、FPGA和AI，所有這些都使用同一套API，英特爾稱之為One API，One API作為Direct3D層和GPU之間的中介（據(jù)稱他們也有Linux解決方案），并允許用戶無縫擴(kuò)展多個(gè)GPU。這表明Intel也準(zhǔn)備打造一個(gè)類似CUDA的生態(tài)系統(tǒng)。

圖三：英特爾Xe路線圖（圖片來源：英特爾）

不過這些都不是重點(diǎn)，英特爾將第一次在GPU領(lǐng)域使用MCM封裝形式，這正是英偉達(dá)夢(mèng)寐以求的技術(shù)，而英特爾即將量產(chǎn)，第一批X2 GPU的暫定時(shí)間表也已經(jīng)公布：2020年6月31日。隨后是2021年的X4。看起來Intel計(jì)劃每年增加兩個(gè)核心，所以到2024年應(yīng)該會(huì)到X8。

Xe將是英特爾異構(gòu)計(jì)算的關(guān)鍵構(gòu)成，之前英特爾對(duì)GPU加速一直持懷疑態(tài)度，但自從有了Xe后，英特爾改變了態(tài)度，英特爾Xe將加強(qiáng)英特爾以數(shù)據(jù)為中心的廣泛產(chǎn)品組合，為最廣泛的計(jì)算工作負(fù)載提供領(lǐng)先的產(chǎn)品，滿足其對(duì)標(biāo)量、矢量、矩陣和空間計(jì)算架構(gòu)的綜合需求。但英特爾并未透露太多細(xì)節(jié)，不過從Aurora采購Xe即可看出，GPU加速已經(jīng)被英特爾認(rèn)同。

目前制造高性能 GPU 有一個(gè)很嚴(yán)重的限制 — 「芯片尺寸的限制」，因?yàn)槟壳艾F(xiàn)有技術(shù)的***受限于光刻模板、光刻光源，幾乎不可能制造出更大的 GPU 核心，極限是800平方毫米。即使英偉達(dá)的技術(shù)如何進(jìn)步，核心尺寸不能無止境變大已經(jīng)成為英偉達(dá) 繼續(xù)提升 GPU 性能的瓶頸。MCM 的封裝方式與 NANDFlash 的做法有點(diǎn)類似，容量不夠就將 Layer堆棧起來，除了制造方式簡單且具成本優(yōu)勢(shì)之外，還可以提高產(chǎn)品的性能。

此外隨著CPU核心數(shù)逐漸從個(gè)位數(shù)提升到十位數(shù)范圍，monolithic多核心的局限越來越大，除了制造難度大、良率低的問題，也因?yàn)樗粔蜢`活，因?yàn)樘幚砥鞒撕诵臄?shù)量之外，還要考慮到內(nèi)存信道、PCIe信道等IO核心的搭配，英特爾的Skylake-SP架構(gòu)所示，為了配合不同核心的處理器，英特爾在它上面使用了XCC、LCC、HCC三種不同的內(nèi)部架構(gòu)，這樣做無疑是增加了芯片的復(fù)雜性。

圖四：英偉達(dá)RC-18 GPU陣列（圖片來源：英偉達(dá)）

英偉達(dá)為了應(yīng)付 GPU 核心面積的瓶頸，已計(jì)劃開發(fā)一個(gè)名為「RC 18」的多矩陣概念，以最優(yōu)化的方式整合多個(gè) GPU 模塊，達(dá)至最高流處理器數(shù)、減少通訊層級(jí)和鏈路長度，并可以縮小芯片面積。根據(jù)英偉達(dá)研究部主管 William J. Dally的說法，「RC-18」是為深度學(xué)習(xí)執(zhí)行和實(shí)現(xiàn)可擴(kuò)展性的實(shí)驗(yàn)，每個(gè)芯片內(nèi)部具有基于TSMC 16nm 工藝及承載 8700 萬個(gè)晶體管的 16 個(gè) PE（處理組件），因此可以從非常小的尺寸中擴(kuò)展。16 個(gè) PE 用于控制 CPU Core，片上全局緩沖儲(chǔ)存器，并安裝了八個(gè) GRS 鏈路。在實(shí)際芯片中，GRS 鏈路組占據(jù)相當(dāng)大的面積，每芯片 GRS 的 I/O 帶寬達(dá)到 100 GB/s。

圖五：英偉達(dá)RC18內(nèi)部框架圖（圖片來源：英偉達(dá)）

英偉達(dá)的RC18概念設(shè)計(jì)。英偉達(dá)目前RC18概念產(chǎn)品只做到了8700萬個(gè)晶體管，與GPU動(dòng)輒百億級(jí)晶體管相比，差距至少有5年，目前英偉達(dá)將精力全部轉(zhuǎn)移到光線追蹤上，靠RT核來做賣點(diǎn)，只字不提曾經(jīng)信誓旦旦的MCM。而英特爾的MCM成功了，畢竟英特爾在芯片封裝領(lǐng)域技術(shù)積累遠(yuǎn)比英偉達(dá)要深厚的多。

AMD在CPU上大量運(yùn)用MCM技術(shù)，但是在GPU上始終無法突破量產(chǎn)工藝瓶頸，理論上似乎很簡單，但就是良率太低，無法量產(chǎn)。這是因?yàn)锳MD沒有自己的晶圓廠，從未從事過芯片封裝，芯片封裝都是交給第三方，而英特爾擁有全球最大的晶圓廠，也擁有最優(yōu)秀的芯片封裝工藝，當(dāng)然這背后是日本廠家新光電氣和Ibiden的鼎力支持，日本在封裝材料和工藝方面擁有絕對(duì)優(yōu)勢(shì)。同時(shí)英特爾還有自己的Flash存儲(chǔ)器晶圓廠?？梢越梃bFlash存儲(chǔ)器的MCM封裝經(jīng)驗(yàn)。

MCM不僅性能一流，同時(shí)也成本大幅度降低，AMD透露，如果將32核封裝到一塊芯片中成本是1，那它們的MCM方式只有0.59，換言之，節(jié)省了41%的成本。MCM還允許一個(gè)芯片中使用不同工藝的die（裸晶），比如I/O部分不需要那么先進(jìn)的工藝，28納米足夠，CPU部分就用7納米，不僅降低成本，還復(fù)用了以前的I/O設(shè)計(jì)，降低先進(jìn)制程工藝的風(fēng)險(xiǎn)，研發(fā)成果復(fù)用率高，縮短研發(fā)周期等。

圖六:單一架構(gòu)和MCM對(duì)比（圖片來源：AMD）

上圖為AMD MCM與單芯片對(duì)比。

英特爾Xe 2 GPU性能見上表。性價(jià)比極高。

為配合MCM，英特爾在軟件方面也有所動(dòng)作，英特爾2019年4月9日舉行了Interconnect Day 2019 ，當(dāng)中詳細(xì)介紹了處理器與處理器之間的Compute Express Link（CXL）超高速互聯(lián)新標(biāo)準(zhǔn)。雖然現(xiàn)階段構(gòu)思僅供數(shù)據(jù)中心的服務(wù)器使用，顯然這也是為GPU準(zhǔn)備的。英特爾 CXL 標(biāo)準(zhǔn)的原意——作為 CPU 與 Accelerator 加速器（如 FPGA / GPU 顯示適配器）之間的互聯(lián)通信。

一直以來， CPU 都是透過主板上的 PCIe插槽及 PCIe 協(xié)議與顯示適配器溝通，但當(dāng)英特爾 聯(lián)合阿里巴巴、 Cisco、 Dell EMC 、 Facebook 、 Google 、 HPE 、華為及微軟組成強(qiáng)大陣容的聯(lián)盟后，就發(fā)表了 CXL 的開放標(biāo)準(zhǔn)，以解決目前 PCIe 協(xié)議于 CPU 與顯示適配器之間的高延遲及帶寬不足的問題。透過 CXL 協(xié)議， CPU 與 GPU 之間就形同連成單一個(gè)龐大的堆棧內(nèi)存池（ Stacked Memory ）， CPU Cache 和 GPU HBM2 內(nèi)存猶如放在一起，有效降低兩者之間的延遲，故此能大幅提升數(shù)據(jù)運(yùn)算效率，令A(yù)I人工智能、機(jī)器學(xué)習(xí)、媒體服務(wù)、高效能運(yùn)算（ HPC ）及云端服務(wù)變得非常快速。

MCM沒有理論上的突破，突破的只是制造工藝，MCM在奔騰時(shí)代已經(jīng)出現(xiàn)過了，而今monolithic多核已經(jīng)走到了極限，唯有MCM能救場(chǎng)。而在服務(wù)器用CPU領(lǐng)域，MCM將可能是唯一方向，典型的如Cascade Lake-AP 48核處理器，它實(shí)際上是兩個(gè)24核的Cascade Lake處理器通過MCM方式組合出來的，也不是原生48核。如今的MCM多芯片設(shè)計(jì)在技術(shù)水平上也跟當(dāng)年簡單粗暴的膠水多核不一樣了，主要擔(dān)心的延遲問題上，英特爾之前提到他們的EMIB技術(shù)相比單片電路的延遲只增加了10%，而別的技術(shù)方案中延遲甚至?xí)黾?0%之多。

monolithic多核的困境實(shí)際上是整個(gè)人類面臨的瓶頸，近百年來，人類在物理學(xué)體系理論上未有任何突破，只是在細(xì)枝末節(jié)上做修修補(bǔ)補(bǔ)，所謂人工智能不過是概率論，幾十年甚至近百年前的理論還是根基，所謂提升，不過是算力成指數(shù)倍的堆砌。

另外，供應(yīng)鏈的重要性一再凸顯，那種追求短平快，強(qiáng)調(diào)分工，只做自己擅長的戰(zhàn)略長遠(yuǎn)上必然會(huì)遇到無法超越的瓶頸，英偉達(dá)和AMD無法戰(zhàn)勝英特爾，不再技術(shù)層面，而是供應(yīng)鏈層面。這么多年以來，AMD都是努力追趕英特爾，但AMD將工廠賣掉之后是個(gè)純粹的Fabless，需要看Foundry晶圓代工廠的臉色，晶圓代工廠自然要優(yōu)先照顧大客戶，臺(tái)積電自然要優(yōu)先照顧蘋果、華為和高通，遇上產(chǎn)能吃緊，AMD的訂單就會(huì)往后排。這就意味著AMD的供貨不夠穩(wěn)定，或者說AMD無法掌控產(chǎn)量，對(duì)下游整機(jī)廠來說，有可能導(dǎo)致旺季缺貨，這是個(gè)致命的缺點(diǎn)，特別是淡旺季分明的筆記本電腦CPU領(lǐng)域，英特爾一直擁有絕對(duì)優(yōu)勢(shì)。英特爾單靠全球最大的12英寸晶圓產(chǎn)能也足以擁有在半導(dǎo)體領(lǐng)域的霸主位置。