電子發(fā)燒友網(wǎng)報道(文/周凱揚)云服務(wù)作為目前市面上利潤最大的市場之一,已然成了不少互聯(lián)網(wǎng)巨頭公司的主要業(yè)務(wù),而云服務(wù)供應(yīng)商中穩(wěn)坐頭號交椅的,自然是亞馬遜的AWS。作為占據(jù)全球市場近三分之一,在中國市場僅次于阿里云的公共云平臺,亞馬遜的云業(yè)務(wù)成了它最賺錢的業(yè)務(wù),甚至在其零售業(yè)務(wù)開始虧損時,也依然在一己之力撐起亞馬遜的利潤率。
亞馬遜的AWS業(yè)務(wù)之所以能收獲這樣的成功,同樣離不開硬件。云服務(wù)市場初期的競爭很簡單,由于硬件用的都是英特爾、AMD這些廠商的服務(wù)器產(chǎn)品線,所以差距不大,只能靠虛擬化技術(shù)之類的軟件架構(gòu)以及更高的性價比來吸引客戶。但為了進一步降低成本,云服務(wù)廠商們也紛紛開始自研芯片,亞馬遜、谷歌還有阿里巴巴都是如此。
一次成功的收購
對于云服務(wù)的基石實例來說,虛擬化是至關(guān)重要的。亞馬遜此前用到的都是Xen這一開源虛擬化技術(shù),隨后在發(fā)現(xiàn)Xen在硬件虛擬化上的一些限制之后,亞馬遜開始轉(zhuǎn)向另一個開源虛擬化技術(shù)KVM。
但也正是這一轉(zhuǎn)變讓他們有了重大發(fā)現(xiàn),那就是盡管英特爾和AMD的服務(wù)器CPU在虛擬化上越來越成熟,但KVM能與ASIC緊密結(jié)合在一起反而能發(fā)揮出更大的優(yōu)勢。為此,他們決定發(fā)展自己的芯片設(shè)計業(yè)務(wù)。
2015年,亞馬遜以未公開的金額收購了一家來自以色列的初創(chuàng)芯片公司Annapurna Labs,而這時的Annapurna Labs甚至沒有任何公開的產(chǎn)品,但亞馬遜很明顯看中了他們在服務(wù)器芯片上的開發(fā)實力。果不其然,2015年起,帶有Annapurna Labs標(biāo)志的ASIC芯片開始出現(xiàn)在Project Nitro中,只不過大部分ASIC芯片都只是作為網(wǎng)絡(luò)/存儲卸載卡,上,每個實例的硬件主體大部分還是英特爾的x86 CPU。
亞馬遜自研CPU和AI芯片 / 亞馬遜
2018年,第一代AWS Graviton面世,作為亞馬遜自研的ARM服務(wù)器CPU方案,基于該處理器的實例在使用成本上要低于基于x86的方案,收獲了不少用戶的同時,也擴展了ARM的云端開發(fā)生態(tài)。這之后公布的第二代與第三代AWS Graviton,都為通用工作復(fù)雜提供了更高的性價比。
之所以有這么快的迭代速度,與亞馬遜以IP為導(dǎo)向的設(shè)計路線有關(guān)。以AWS Graviton2和Graviton3為例,這兩者分別運用了ARM Neoverse N1和Neoverse V1的方案,并不需要亞馬遜像Ampere Computing這樣的服務(wù)器芯片廠商一樣,開始考慮自研ARM IP。
AI/ML帶來的新一波熱潮
提供通用計算托管平臺的亞馬遜也沒有止步于此,他們看上了新的市場,那就是AI/ML。作為“新電力”的人工智能正在為各個行業(yè)帶去新的生機,但所需的算力也成了轉(zhuǎn)型過程中最大的難題。最初大家指望用CPU來解決AI算力的問題,然而面對全新的計算方式,CPU很快就顯得心有余而力不足。
但要去做GPU需要的技術(shù)積累可不少,市面上也只有英偉達(dá)的GPU在AI/ML上打出了名號,所以亞馬遜和許多AI芯片初創(chuàng)公司一樣,還是打算從ASIC上出發(fā),推出了Inferentia和Trainium這兩款推理和訓(xùn)練芯片。
不過Inferentia和Trainium與Graviton的定位是一樣的,亞馬遜并不指望從性能上打敗如日中天的GPU,而是希望提供一個成本更低延遲更低并支持更多算法的方案,繼續(xù)發(fā)揮云服務(wù)在即用即付這一高性價比商業(yè)模式上的優(yōu)勢。
與此同時,亞馬遜作為全球市占比第一的云服務(wù)廠商,單靠自己的硬件是沒法實現(xiàn)這樣的地位的,所以無論是英偉達(dá)的GPU還是英特爾Habana Labs的AI加速器,亞馬遜也都有合作部署。
即便Inferentia和Trainium帶來了一定的成本和功耗優(yōu)勢,但要想打破當(dāng)下以GPU主導(dǎo)的AI/ML生態(tài),還面臨著不少挑戰(zhàn),英偉達(dá)的CUDA已經(jīng)打造了一個相當(dāng)龐大的開發(fā)社區(qū),要想讓開發(fā)者遷移到ASIC硬件上,還有龐大的移植工作需要完成。這也是為何亞馬遜的Annapurna Labs部門目前開放的100多個職位中,硬件開發(fā)的其實只有10多位,余下的大部分還是軟件開發(fā)崗,大部分AI芯片初創(chuàng)公司也在面臨著這類困境,并非獨此一家。
結(jié)語
在大部分服務(wù)器CPU、AI/ML加速器初創(chuàng)公司眼中,直接把硬件賣給各大數(shù)據(jù)中心和互聯(lián)網(wǎng)公司并不是唯一的銷售途徑,能傍上亞馬遜、谷歌和阿里巴巴這樣的大腿不僅能盈利,還能提高自己產(chǎn)品的普及程度。
這也是為何Ampere Computing的Altra處理器開始陸續(xù)出現(xiàn)在Azure、谷歌云和阿里云等平臺上,云服務(wù)平臺自研芯片歸根結(jié)底還是為了提供性價比更高的方案,但他們的客戶還在猛增階段,只靠閉門造車肯定是沒法擴大市場份額的,擁抱更大的硬件生態(tài)才能實現(xiàn)共贏。
亞馬遜的AWS業(yè)務(wù)之所以能收獲這樣的成功,同樣離不開硬件。云服務(wù)市場初期的競爭很簡單,由于硬件用的都是英特爾、AMD這些廠商的服務(wù)器產(chǎn)品線,所以差距不大,只能靠虛擬化技術(shù)之類的軟件架構(gòu)以及更高的性價比來吸引客戶。但為了進一步降低成本,云服務(wù)廠商們也紛紛開始自研芯片,亞馬遜、谷歌還有阿里巴巴都是如此。
一次成功的收購
對于云服務(wù)的基石實例來說,虛擬化是至關(guān)重要的。亞馬遜此前用到的都是Xen這一開源虛擬化技術(shù),隨后在發(fā)現(xiàn)Xen在硬件虛擬化上的一些限制之后,亞馬遜開始轉(zhuǎn)向另一個開源虛擬化技術(shù)KVM。
但也正是這一轉(zhuǎn)變讓他們有了重大發(fā)現(xiàn),那就是盡管英特爾和AMD的服務(wù)器CPU在虛擬化上越來越成熟,但KVM能與ASIC緊密結(jié)合在一起反而能發(fā)揮出更大的優(yōu)勢。為此,他們決定發(fā)展自己的芯片設(shè)計業(yè)務(wù)。
2015年,亞馬遜以未公開的金額收購了一家來自以色列的初創(chuàng)芯片公司Annapurna Labs,而這時的Annapurna Labs甚至沒有任何公開的產(chǎn)品,但亞馬遜很明顯看中了他們在服務(wù)器芯片上的開發(fā)實力。果不其然,2015年起,帶有Annapurna Labs標(biāo)志的ASIC芯片開始出現(xiàn)在Project Nitro中,只不過大部分ASIC芯片都只是作為網(wǎng)絡(luò)/存儲卸載卡,上,每個實例的硬件主體大部分還是英特爾的x86 CPU。
亞馬遜自研CPU和AI芯片 / 亞馬遜
2018年,第一代AWS Graviton面世,作為亞馬遜自研的ARM服務(wù)器CPU方案,基于該處理器的實例在使用成本上要低于基于x86的方案,收獲了不少用戶的同時,也擴展了ARM的云端開發(fā)生態(tài)。這之后公布的第二代與第三代AWS Graviton,都為通用工作復(fù)雜提供了更高的性價比。
之所以有這么快的迭代速度,與亞馬遜以IP為導(dǎo)向的設(shè)計路線有關(guān)。以AWS Graviton2和Graviton3為例,這兩者分別運用了ARM Neoverse N1和Neoverse V1的方案,并不需要亞馬遜像Ampere Computing這樣的服務(wù)器芯片廠商一樣,開始考慮自研ARM IP。
AI/ML帶來的新一波熱潮
提供通用計算托管平臺的亞馬遜也沒有止步于此,他們看上了新的市場,那就是AI/ML。作為“新電力”的人工智能正在為各個行業(yè)帶去新的生機,但所需的算力也成了轉(zhuǎn)型過程中最大的難題。最初大家指望用CPU來解決AI算力的問題,然而面對全新的計算方式,CPU很快就顯得心有余而力不足。
但要去做GPU需要的技術(shù)積累可不少,市面上也只有英偉達(dá)的GPU在AI/ML上打出了名號,所以亞馬遜和許多AI芯片初創(chuàng)公司一樣,還是打算從ASIC上出發(fā),推出了Inferentia和Trainium這兩款推理和訓(xùn)練芯片。
不過Inferentia和Trainium與Graviton的定位是一樣的,亞馬遜并不指望從性能上打敗如日中天的GPU,而是希望提供一個成本更低延遲更低并支持更多算法的方案,繼續(xù)發(fā)揮云服務(wù)在即用即付這一高性價比商業(yè)模式上的優(yōu)勢。
與此同時,亞馬遜作為全球市占比第一的云服務(wù)廠商,單靠自己的硬件是沒法實現(xiàn)這樣的地位的,所以無論是英偉達(dá)的GPU還是英特爾Habana Labs的AI加速器,亞馬遜也都有合作部署。
即便Inferentia和Trainium帶來了一定的成本和功耗優(yōu)勢,但要想打破當(dāng)下以GPU主導(dǎo)的AI/ML生態(tài),還面臨著不少挑戰(zhàn),英偉達(dá)的CUDA已經(jīng)打造了一個相當(dāng)龐大的開發(fā)社區(qū),要想讓開發(fā)者遷移到ASIC硬件上,還有龐大的移植工作需要完成。這也是為何亞馬遜的Annapurna Labs部門目前開放的100多個職位中,硬件開發(fā)的其實只有10多位,余下的大部分還是軟件開發(fā)崗,大部分AI芯片初創(chuàng)公司也在面臨著這類困境,并非獨此一家。
結(jié)語
在大部分服務(wù)器CPU、AI/ML加速器初創(chuàng)公司眼中,直接把硬件賣給各大數(shù)據(jù)中心和互聯(lián)網(wǎng)公司并不是唯一的銷售途徑,能傍上亞馬遜、谷歌和阿里巴巴這樣的大腿不僅能盈利,還能提高自己產(chǎn)品的普及程度。
這也是為何Ampere Computing的Altra處理器開始陸續(xù)出現(xiàn)在Azure、谷歌云和阿里云等平臺上,云服務(wù)平臺自研芯片歸根結(jié)底還是為了提供性價比更高的方案,但他們的客戶還在猛增階段,只靠閉門造車肯定是沒法擴大市場份額的,擁抱更大的硬件生態(tài)才能實現(xiàn)共贏。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
-
芯片
+關(guān)注
關(guān)注
452文章
49998瀏覽量
419686 -
亞馬遜
+關(guān)注
關(guān)注
8文章
2613瀏覽量
83033
發(fā)布評論請先 登錄
相關(guān)推薦
亞馬遜云科技成為店匠科技的首選云服務(wù)供應(yīng)商
在當(dāng)今日新月異的數(shù)字化時代,跨境電商領(lǐng)域的競爭愈發(fā)激烈。深圳店匠科技有限公司,作為業(yè)內(nèi)知名的跨境電商解決方案提供商,始終致力于為客戶帶來前沿的技術(shù)體驗與高效的業(yè)務(wù)支持。為了不斷推動自身
店匠科技選擇亞馬遜云科技為首選云服務(wù)供應(yīng)商
,應(yīng)用亞馬遜云科技的生成式AI技術(shù)與服務(wù),在"GenAI營銷素材創(chuàng)作、AI建站Copilot、智能客服、智能推薦和搜索"四大關(guān)鍵場景創(chuàng)新跨境電商
萬里紅榮獲“首批鴻蒙原生應(yīng)用開發(fā)服務(wù)商和培訓(xùn)服務(wù)商”授牌
近日,鴻蒙原生應(yīng)用合作交流推介會在深圳召開,作為鴻蒙生態(tài)重要合作伙伴,萬里紅受邀出席,并榮獲“首批鴻蒙原生應(yīng)用開發(fā)服務(wù)商和培訓(xùn)服務(wù)商”授牌。
掌閱科技選擇亞馬遜云科技為重要云服務(wù)供應(yīng)商
應(yīng)用生成式AI打造數(shù)字閱讀體驗新范式 北京2024年5月16日 /美通社/ -- 掌閱科技選擇亞馬遜云科技為重要云服務(wù)供應(yīng)商,應(yīng)用生成式AI
全球云服務(wù)市場增長,亞馬遜AWS、微軟Azure及谷歌GCP差距拉大
報告指出,目前全球的主要云服務(wù)商包括亞馬遜AWS(市場份額31%),其次是微軟Azure(25%)和谷歌(11%)。盡管亞馬遜在整體市場仍占
積木易搭通過亞馬遜SPN服務(wù)商認(rèn)證,成為平臺指定3D商品展示服務(wù)商
近日,全棧式3D數(shù)字化解決方案提供商積木易搭正式通過亞馬遜SPN服務(wù)商認(rèn)證,成為亞馬遜官方推薦的3D內(nèi)容服務(wù)商,為
鴻蒙新篇章,領(lǐng)航新征程 I 軟通動力榮膺首批“HarmonyOS開發(fā)服務(wù)商”
“HarmonyOS開發(fā)服務(wù)商”,成為華為該領(lǐng)域首批認(rèn)證服務(wù)商。 軟通動力高級副總裁石蓉(右),華為終端云開發(fā)者服務(wù)與平臺部總裁望岳(左) HarmonyOS開發(fā)
軟通動力榮膺首批“HarmonyOS開發(fā)服務(wù)商”
華為在南京隆重舉辦了以“聚勢謀新,攜手并進”為主題的鴻蒙服務(wù)商政策發(fā)布及先鋒計劃授牌儀式。在這一重要時刻,深度參與鴻蒙生態(tài)建設(shè)的軟通動力受邀出席,并光榮地榮獲了“HarmonyOS開發(fā)服務(wù)商
全球通實驗室正式成為亞馬遜SPN合規(guī)服務(wù)商,助力跨境企業(yè)揚帆起航
系統(tǒng)并成為亞馬遜推薦的合規(guī)服務(wù)商,為平臺賣家提供專業(yè)的技術(shù)服務(wù)和一站式合規(guī)解決方案。什么是亞馬遜SPN服
華訊利用亞馬遜云科技打造安全托管服務(wù)與產(chǎn)品組合
助力企業(yè)實現(xiàn)數(shù)據(jù)全生命周期防護 北京2024年1月23日?/美通社/ -- 行業(yè)數(shù)字化服務(wù)商華訊網(wǎng)絡(luò)系統(tǒng)有限公司(簡稱華訊)充分利用亞馬遜云科技豐富的數(shù)據(jù)和安全服務(wù)以及解決方案,結(jié)合自
邊緣計算新篇章:亞馬遜云科技海外服務(wù)器服務(wù)成就全球創(chuàng)新
的最新發(fā)展和創(chuàng)新成果,引發(fā)與會者熱烈關(guān)注。 re:Invent的核心主題是不斷創(chuàng)新,與會者對亞馬遜云科技海外服務(wù)器在整個技術(shù)棧各個層次上的創(chuàng)
云服務(wù)生態(tài)演進:亞馬遜云科技輕量應(yīng)用服務(wù)器應(yīng)對復(fù)雜需求
難度、使用和管理流程,提供了獨立的產(chǎn)品控制臺,并一站式融合了常用基礎(chǔ)云服務(wù),是眾多企業(yè)上云的理想選擇。 隨著輕量應(yīng)用
上汽海外出行選擇亞馬遜云科技為重要云服務(wù)供應(yīng)商
:Invent全球大會上宣布,中國最大的汽車制造商之一、《財富》世界500強企業(yè)上汽集團旗下的上汽海外出行科技有限公司(以下簡稱“上汽海外出行”)已選擇亞馬遜云科技為重要
發(fā)表于 12-01 16:43
?203次閱讀
云服務(wù)商一般提供的存儲服務(wù)有哪些
云服務(wù)商一般提供的存儲服務(wù)有很多,包括以下幾種: 對象存儲服務(wù):對象存儲服務(wù)是
評論