亞馬遜作為第一云服務(wù)商在芯片上的投入

電子發(fā)燒友網(wǎng)報道（文/周凱揚）云服務(wù)作為目前市面上利潤最大的市場之一，已然成了不少互聯(lián)網(wǎng)巨頭公司的主要業(yè)務(wù)，而云服務(wù)供應(yīng)商中穩(wěn)坐頭號交椅的，自然是亞馬遜的AWS。作為占據(jù)全球市場近三分之一，在中國市場僅次于阿里云的公共云平臺，亞馬遜的云業(yè)務(wù)成了它最賺錢的業(yè)務(wù)，甚至在其零售業(yè)務(wù)開始虧損時，也依然在一己之力撐起亞馬遜的利潤率。

亞馬遜的AWS業(yè)務(wù)之所以能收獲這樣的成功，同樣離不開硬件。云服務(wù)市場初期的競爭很簡單，由于硬件用的都是英特爾、AMD這些廠商的服務(wù)器產(chǎn)品線，所以差距不大，只能靠虛擬化技術(shù)之類的軟件架構(gòu)以及更高的性價比來吸引客戶。但為了進一步降低成本，云服務(wù)廠商們也紛紛開始自研芯片，亞馬遜、谷歌還有阿里巴巴都是如此。

一次成功的收購

對于云服務(wù)的基石實例來說，虛擬化是至關(guān)重要的。亞馬遜此前用到的都是Xen這一開源虛擬化技術(shù)，隨后在發(fā)現(xiàn)Xen在硬件虛擬化上的一些限制之后，亞馬遜開始轉(zhuǎn)向另一個開源虛擬化技術(shù)KVM。

但也正是這一轉(zhuǎn)變讓他們有了重大發(fā)現(xiàn)，那就是盡管英特爾和AMD的服務(wù)器CPU在虛擬化上越來越成熟，但KVM能與ASIC緊密結(jié)合在一起反而能發(fā)揮出更大的優(yōu)勢。為此，他們決定發(fā)展自己的芯片設(shè)計業(yè)務(wù)。

2015年，亞馬遜以未公開的金額收購了一家來自以色列的初創(chuàng)芯片公司Annapurna Labs，而這時的Annapurna Labs甚至沒有任何公開的產(chǎn)品，但亞馬遜很明顯看中了他們在服務(wù)器芯片上的開發(fā)實力。果不其然，2015年起，帶有Annapurna Labs標(biāo)志的ASIC芯片開始出現(xiàn)在Project Nitro中，只不過大部分ASIC芯片都只是作為網(wǎng)絡(luò)/存儲卸載卡，上，每個實例的硬件主體大部分還是英特爾的x86 CPU。


2018年，第一代AWS Graviton面世，作為亞馬遜自研的ARM服務(wù)器CPU方案，基于該處理器的實例在使用成本上要低于基于x86的方案，收獲了不少用戶的同時，也擴展了ARM的云端開發(fā)生態(tài)。這之后公布的第二代與第三代AWS Graviton，都為通用工作復(fù)雜提供了更高的性價比。

之所以有這么快的迭代速度，與亞馬遜以IP為導(dǎo)向的設(shè)計路線有關(guān)。以AWS Graviton2和Graviton3為例，這兩者分別運用了ARM Neoverse N1和Neoverse V1的方案，并不需要亞馬遜像Ampere Computing這樣的服務(wù)器芯片廠商一樣，開始考慮自研ARM IP。

AI/ML帶來的新一波熱潮

提供通用計算托管平臺的亞馬遜也沒有止步于此，他們看上了新的市場，那就是AI/ML。作為“新電力”的人工智能正在為各個行業(yè)帶去新的生機，但所需的算力也成了轉(zhuǎn)型過程中最大的難題。最初大家指望用CPU來解決AI算力的問題，然而面對全新的計算方式，CPU很快就顯得心有余而力不足。

但要去做GPU需要的技術(shù)積累可不少，市面上也只有英偉達(dá)的GPU在AI/ML上打出了名號，所以亞馬遜和許多AI芯片初創(chuàng)公司一樣，還是打算從ASIC上出發(fā)，推出了Inferentia和Trainium這兩款推理和訓(xùn)練芯片。

不過Inferentia和Trainium與Graviton的定位是一樣的，亞馬遜并不指望從性能上打敗如日中天的GPU，而是希望提供一個成本更低延遲更低并支持更多算法的方案，繼續(xù)發(fā)揮云服務(wù)在即用即付這一高性價比商業(yè)模式上的優(yōu)勢。

與此同時，亞馬遜作為全球市占比第一的云服務(wù)廠商，單靠自己的硬件是沒法實現(xiàn)這樣的地位的，所以無論是英偉達(dá)的GPU還是英特爾Habana Labs的AI加速器，亞馬遜也都有合作部署。

即便Inferentia和Trainium帶來了一定的成本和功耗優(yōu)勢，但要想打破當(dāng)下以GPU主導(dǎo)的AI/ML生態(tài)，還面臨著不少挑戰(zhàn)，英偉達(dá)的CUDA已經(jīng)打造了一個相當(dāng)龐大的開發(fā)社區(qū)，要想讓開發(fā)者遷移到ASIC硬件上，還有龐大的移植工作需要完成。這也是為何亞馬遜的Annapurna Labs部門目前開放的100多個職位中，硬件開發(fā)的其實只有10多位，余下的大部分還是軟件開發(fā)崗，大部分AI芯片初創(chuàng)公司也在面臨著這類困境，并非獨此一家。

結(jié)語

在大部分服務(wù)器CPU、AI/ML加速器初創(chuàng)公司眼中，直接把硬件賣給各大數(shù)據(jù)中心和互聯(lián)網(wǎng)公司并不是唯一的銷售途徑，能傍上亞馬遜、谷歌和阿里巴巴這樣的大腿不僅能盈利，還能提高自己產(chǎn)品的普及程度。

這也是為何Ampere Computing的Altra處理器開始陸續(xù)出現(xiàn)在Azure、谷歌云和阿里云等平臺上，云服務(wù)平臺自研芯片歸根結(jié)底還是為了提供性價比更高的方案，但他們的客戶還在猛增階段，只靠閉門造車肯定是沒法擴大市場份額的，擁抱更大的硬件生態(tài)才能實現(xiàn)共贏。