192個(gè)自研核心，AmpereOne的絕對(duì)性能壓制

在亞馬遜、英偉達(dá)和阿里巴巴等廠商紛紛圍繞Arm Neoverse架構(gòu)打造服務(wù)器處理器之際，Ampere Computing選擇了一條與眾不同的路線，自研核心。近日，Ampere宣布推出全新的AmpereOne系列處理器，可配置多達(dá)192個(gè)核心，且這些都是基于Ampere自有IP打造的自研核心。

Ampere Altra到AmpereOne，Ampere的自研之路

Ampere Altra與AmpereOne對(duì)比 / Ampere Computing 憑借前兩代Ampere Altra系列產(chǎn)品80核Ampere Altra和128核Ampere Altra Max，Ampere成了在Arm服務(wù)器CPU領(lǐng)域的先行者之一。主流的大型云服務(wù)廠商（CSP）都已經(jīng)推出了基于這兩款CPU的服務(wù)器，如京東云就在近日推出了其首款基于Arm架構(gòu)的云主機(jī)，搭載的正是Ampere Altra Max CPU。 CSP廠商紛紛擁抱Arm的原因很簡(jiǎn)單，高并發(fā)、高算力和更低的價(jià)格，為上云提供了極具性?xún)r(jià)比的選擇。但如何做好差異化，是每個(gè)Arm服務(wù)器CPU廠商都需要思考的問(wèn)題，比如英偉達(dá)選擇了與自己的GPU結(jié)合打造Grace Hopper這樣的SuperChip。 而擁有Arm ISA架構(gòu)授權(quán)的Ampere選擇了從微架構(gòu)上進(jìn)一步創(chuàng)新，打造自研的Arm云原生核，從絕對(duì)性能和可擴(kuò)展性上超越同類(lèi)產(chǎn)品。單個(gè)AmpereOne CPU的可配置核心已經(jīng)達(dá)到192個(gè)，比上一代的Ampere Altra Max多出了50%，內(nèi)核數(shù)為業(yè)界最高。 這意味著基于AmpereOne CPU的單機(jī)架性能將再創(chuàng)新高，為了匹配新CPU強(qiáng)大計(jì)算能力，AmpereOne還采用了8通道DDR5、128通道PCIe 5.0和更大私有緩存的設(shè)計(jì)，斷絕了內(nèi)存帶寬和I/O性能上出現(xiàn)瓶頸的可能。針對(duì)高速增長(zhǎng)的云原生應(yīng)用，AmpereOne還集成了一系列新特性，包括網(wǎng)格擁塞管理、細(xì)粒度電源管理和內(nèi)存標(biāo)簽等。Ampere表示，AmpereOne將幫助該公司進(jìn)一步擴(kuò)大在每機(jī)架性能方面的優(yōu)勢(shì)。 Ampere首席產(chǎn)品官Jeff Wittich：“192 核是一個(gè)非常大的數(shù)字，比英特爾和 AMD 要多很多。用一個(gè)具體的場(chǎng)景來(lái)說(shuō)明，在云環(huán)境中運(yùn)行虛擬機(jī)時(shí)，用192核的AmpereOne對(duì)比96核的AMD Genoa，或者60核的英特爾Sapphire Rapids，AmpereOne每機(jī)架運(yùn)行的虛擬機(jī)數(shù)量是AMD Genoa的2.9倍，是英特爾Sapphire Rapids的4.3倍?！?/p>

AmpereOne發(fā)力Chiplet與AI推理

得益于工藝的進(jìn)步和架構(gòu)的創(chuàng)新，AmpereOne能做到如此規(guī)格似乎并不意外，但能在Ampere Altra Max面世后的短時(shí)間內(nèi)推出這樣一個(gè)“性能怪獸”，其實(shí)也離不開(kāi)在設(shè)計(jì)方法上的轉(zhuǎn)變。從AmpereOne的架構(gòu)可以看出，與此前Ampere Altra系列不同的是，新的處理器轉(zhuǎn)為采用Chiplet設(shè)計(jì)。近來(lái)不少先進(jìn)芯片設(shè)計(jì)中都采用了這一技術(shù)，電子發(fā)燒友網(wǎng)也就這一轉(zhuǎn)變?cè)儐?wèn)了Ampere，Chiplet究竟有何助力，是否加快了芯片設(shè)計(jì)周期？ Jeff Wittich指出：“綜合而言，我們?cè)贏mpere中轉(zhuǎn)為大量采用小芯片帶來(lái)了許多的優(yōu)勢(shì)，其中第一點(diǎn)就是能夠有更高的靈活度，第二點(diǎn)就是如問(wèn)題中提到的，幫助我們加快了整個(gè)芯片設(shè)計(jì)周期。在采用了Chiplet架構(gòu)之后，產(chǎn)品的TTM也會(huì)隨之縮短，還可以提供更高的可擴(kuò)展性，從而提供現(xiàn)代云原生CPU的最佳性能。第三，Chiplet拓?fù)涞脑O(shè)計(jì)也可以使AmpereOne更輕易地實(shí)現(xiàn)內(nèi)存到內(nèi)核的訪問(wèn)，而不需要為處理器引入額外的HOPs?！?另外值得注意的一點(diǎn)是，在早前的Ampere Altra系列CPU中，雖然也可以用于AI推理，但從CSP已發(fā)布服務(wù)器的定位來(lái)看，其主要還是用于Web服務(wù)、視頻編解碼以及云游戲等非AI應(yīng)用上。而此次發(fā)布的AmpereOne，則在AI計(jì)算上加大了力度。

AI推理性能對(duì)比 / Ampere 從性能對(duì)比上，我們可以看出AmpereOne在AI推理負(fù)載上的領(lǐng)先，比如在生成式AI和推薦算法上，AmpereOne的單機(jī)架性能是AMD EYPC 9654 Genoa的兩倍或以上，但兩者卻有著近乎相同的系統(tǒng)功耗，AmpereOne的優(yōu)勢(shì)在此展現(xiàn)得一覽無(wú)余。 這與Ampere自身的發(fā)展以及行業(yè)趨勢(shì)也緊密相關(guān)，AI負(fù)載已經(jīng)成為云端最大的算力需求之一。而Ampere除了解決了AI硬件的問(wèn)題外，也在布局AI軟件生態(tài)。比如2020年，Ampere收購(gòu)了專(zhuān)注于打造AI軟件的OnSpecta，通過(guò)軟硬件協(xié)同優(yōu)化，為AmpereOne提供卓越的AI性能，比如對(duì)BF16精度的支持等等。

解決性能與能效的矛盾

服務(wù)器CPU的能效象限 / Ampere Computing 在Ampere公布今年的路線圖時(shí)，創(chuàng)始人/董事長(zhǎng)兼首席執(zhí)行官Renée J. James表示：“Ampere已經(jīng)向行業(yè)證明，擊破單核性能與能耗之間的矛盾正是行業(yè)所有人都在尋找的新象限。在能耗與性能的坐標(biāo)軸之中，朝坐標(biāo)軸的右下方移動(dòng)是行業(yè)發(fā)展的新常態(tài)，目的是實(shí)現(xiàn)更低的能耗和更高的性能?！?針對(duì)云計(jì)算的需求，在設(shè)計(jì)產(chǎn)品的過(guò)程中，Ampere借助Arm架構(gòu)的優(yōu)勢(shì)，綜合考量從核、SoC到其他方面的因素，致力于實(shí)現(xiàn)每瓦性能、每機(jī)架性能的提升。對(duì)比x86架構(gòu)的CPU，Ampere Altra系列的的云原生處理器可以實(shí)現(xiàn)每機(jī)架2.5倍的性能提升，降低能耗2.8倍，并僅占用1/3的空間。而新發(fā)布的AmpereOne將幫助Ampere進(jìn)一步擴(kuò)大領(lǐng)先優(yōu)勢(shì)。 Jeff Wittich表示：“其實(shí)我們Ampere Altra系列處理器已經(jīng)提供了行業(yè)領(lǐng)先的單機(jī)架性能，在能效方面已經(jīng)是行業(yè)標(biāo)桿性的產(chǎn)品。不僅是在性能方面，在能效方面我們也是領(lǐng)先AMD和英特爾所有的產(chǎn)品，即使是他們近期發(fā)布的低功耗產(chǎn)品?！?/p>

寫(xiě)在最后

誠(chéng)然，對(duì)于大部分服務(wù)器CPU而言，面向的客戶(hù)都是CSP和服務(wù)器OEM廠商，而他們提高競(jìng)爭(zhēng)力的方式之一即提供差異化的高質(zhì)量方案。不少Arm服務(wù)器CPU，雖然都在設(shè)計(jì)上做了差異化，但計(jì)算核心的性能并未拉開(kāi)太大差距。Ampere選擇了自研云原生核的方式，既滿(mǎn)足了更高性能的需求，也解決了他們的另一大痛點(diǎn)，可擴(kuò)展性與規(guī)?；?。 成立5年多來(lái)，Ampere，已經(jīng)在x86壟斷的服務(wù)器市場(chǎng)占領(lǐng)了一席之地。在一切背后，是Ampere 認(rèn)為云需要一種從本質(zhì)上而言完全不同的方法。隨著所有的計(jì)算轉(zhuǎn)移到云端，整個(gè)平臺(tái)的云原生化趨勢(shì)不可避免，而Ampere正在做的就是為云原生進(jìn)行徹底的CPU創(chuàng)新。