DRAM市場(chǎng)恢復(fù)元?dú)?，還想在GPT市場(chǎng)干票大的？

電子發(fā)燒友網(wǎng)報(bào)道（文/吳子鵬）在交出一份相當(dāng)不理想的Q1財(cái)報(bào)之后，三星電子終于決定，將削減存儲(chǔ)芯片的產(chǎn)量，減產(chǎn)有望緩解供應(yīng)過剩，提振陷入寒冬的半導(dǎo)體行業(yè)。

對(duì)于DRAM行業(yè)而言，這真的是巨大的利好，預(yù)計(jì)Q2將成為最后的調(diào)整期，然后產(chǎn)業(yè)走勢(shì)開始上揚(yáng)。元大證券分析師Gilhyun Baik表示，DRAM的價(jià)格在本季度預(yù)計(jì)將下降約10%，而過去兩個(gè)季度的降幅分別為30%和20%，降價(jià)走勢(shì)明顯在收窄。

此前，我們?cè)谌请娮迂?cái)報(bào)分析的文章中已經(jīng)解讀過三星電子對(duì)DRAM市場(chǎng)的影響力，這里不再展開。不過，就在市場(chǎng)回暖的過程中，DRAM大廠美光科技又拋出了一個(gè)重磅消息，DRAM在AI大模型風(fēng)靡的當(dāng)下，或?qū)⒊蔀槔^GPU之外，另一個(gè)算力核心。

ChatGPT帶火新存儲(chǔ)技術(shù)CXL

實(shí)際上，不僅是美光科技發(fā)出過此番言論。華西證券近日在研報(bào)中也指出，在AI的大時(shí)代下，DRAM有望成為繼GPU后，另外一重要算力核心，同時(shí)DRAM的價(jià)值當(dāng)前也被嚴(yán)重低估。

華西證券在研報(bào)中特別提到了CXL（Compute Express Link，計(jì)算快速鏈接）這項(xiàng)新技術(shù)，認(rèn)為隨著CXL的應(yīng)用滲透率提升，服務(wù)器也從傳統(tǒng)圍繞CPU的設(shè)計(jì)思路轉(zhuǎn)向?yàn)橐訢RAM為中心的架構(gòu)。AI將成為DRAM下一增長周期中最重要的增長引擎。

CXL是Compute Express Link Consortium聯(lián)盟推出的一種新協(xié)議，是 PCI-e協(xié)議的升級(jí)技術(shù)，主要解決處理器、加速器和內(nèi)存之間的cache一致性問題。

CXL技術(shù)的推出有望克服兩大難題：內(nèi)存墻和I/O墻。其中，內(nèi)存墻是指內(nèi)存性能嚴(yán)重限制CPU性能發(fā)揮的現(xiàn)象；I/O墻和內(nèi)存墻類似，是指I/O性能嚴(yán)重限制CPU性能發(fā)揮的現(xiàn)象。

這兩個(gè)墻問題的出現(xiàn)是因?yàn)?，過去計(jì)算架構(gòu)是以CPU為核心的，因此為了盡可能發(fā)揮CPU的性能，配置了多級(jí)存儲(chǔ)，并且是計(jì)算和存儲(chǔ)分離的，這就造成了內(nèi)存墻，I/O墻則是因?yàn)閿?shù)據(jù)傳輸?shù)娜蝿?wù)越來越多。

于是，產(chǎn)業(yè)界開始思考如何從數(shù)據(jù)存儲(chǔ)端去解決問題。因此，我們看到，在CXL2.0標(biāo)準(zhǔn)中就開始推動(dòng)內(nèi)存的池化。通過下圖能夠看到，內(nèi)存池化的好處是非常明顯的，它讓內(nèi)存不再專屬于某一個(gè)CPU，上面的CPU和下面的內(nèi)存可以靈活地互聯(lián)互通，因此大大提升了內(nèi)存的使用效率。

圖源：CXL聯(lián)盟官網(wǎng)

2022年8月，CXL 3.0標(biāo)準(zhǔn)發(fā)布。CXL 3.0 側(cè)重于在互連的幾個(gè)關(guān)鍵領(lǐng)域?qū)崿F(xiàn)重大改進(jìn)。第一個(gè)是物理方面，CXL 3.0將其每通道吞吐量翻了一番，達(dá)到64 GT/秒；在邏輯方面，CXL 3.0大大擴(kuò)展了標(biāo)準(zhǔn)的邏輯能力，允許復(fù)雜的連接拓?fù)浜徒Y(jié)構(gòu)，以及在一組CXL設(shè)備內(nèi)更靈活的內(nèi)存共享和內(nèi)存訪問模式。

CXL 3.0標(biāo)準(zhǔn)進(jìn)一步強(qiáng)化內(nèi)存池化的概念，能夠從硬件層面實(shí)現(xiàn)內(nèi)存共享。CXL標(biāo)準(zhǔn)的快速發(fā)展也得到了行業(yè)的廣泛關(guān)注，CXL聯(lián)盟也隨之成立，由英特爾牽頭，聯(lián)合阿里巴巴、戴爾EMC、Meta、谷歌、HPE、華為和微軟共同建立，隨后AMD、Arm加入其中。

并且，CXL標(biāo)準(zhǔn)不僅緩解了當(dāng)前內(nèi)存?zhèn)鬏數(shù)膸捪拗?，也使得方案轉(zhuǎn)變的重點(diǎn)從CPU轉(zhuǎn)移到了內(nèi)存產(chǎn)品，因此CXL存儲(chǔ)器擴(kuò)充成為主要的演進(jìn)路線，而與之關(guān)系最密切的就是DRAM。

支持CXL標(biāo)準(zhǔn)的內(nèi)存也被成為CXL內(nèi)存，除了傳輸速度大幅提升，CXL內(nèi)存另一個(gè)顯著變化是內(nèi)存容量的巨大變化，三星、SK海力士研發(fā)的CXL內(nèi)存已經(jīng)可以做到單條96GB甚至128GB，因此實(shí)現(xiàn)TB級(jí)別的內(nèi)存已經(jīng)不是什么難事。

在ChatGPT領(lǐng)域，CXL內(nèi)存的主要應(yīng)用場(chǎng)景目前還集中在具有高性能GDDR或HBM本地內(nèi)存的通用加速器，也就是給GPU帶來更好地內(nèi)存支持。隨著大模型數(shù)量和體量的提升，對(duì)于CXL內(nèi)存的需求量也會(huì)快速提升，因此將其稱為繼GPU之后的另一大算力芯片也不為過。

在泛AI領(lǐng)域，CXL內(nèi)存還可用作沒有本地內(nèi)存的專用加速器但可以利用CXL.io協(xié)議和 CXL.cache與主機(jī)處理器的內(nèi)存；以及用于內(nèi)存擴(kuò)展板和存儲(chǔ)級(jí)內(nèi)存。

HBM大單、急單增加

正如上文中提到的，對(duì)于ChatGPT類型的AI大模型，主要需求集中在GDDR或HBM等高性能內(nèi)存產(chǎn)品上，其中HBM的需求增加非常明顯。當(dāng)然，目前這部分產(chǎn)品主要還是遵循JEDEC組織頒布的標(biāo)準(zhǔn)，已經(jīng)ready的最新標(biāo)準(zhǔn)是HBM3。

根據(jù)韓國媒體報(bào)道，近一段時(shí)間韓國內(nèi)存大廠三星和SK海力士都接到了很多HBM內(nèi)存的大單和急單。報(bào)道指出，全球最大的GPU公司英偉達(dá)一直在要求SK海力士提供最新的HBM3內(nèi)存顆粒。供應(yīng)鏈人士指出，最高性能的DRAM相比，HBM3目前的價(jià)格已經(jīng)達(dá)到其5倍。

美光科技在2023財(cái)年第二財(cái)季業(yè)績會(huì)紀(jì)要中指出，“如今，AI 服務(wù)器的DRAM需求量可以達(dá)到普通服務(wù)器的8倍，NAND需求量則是3倍。我們的產(chǎn)品路線圖包括HBM3和CXL創(chuàng)新，期待可以在未來分享有關(guān)這些解決方案的更多細(xì)節(jié)?！薄癆I 的最新發(fā)展為大型語言模型或 LLM(例如 ChatGPT)的轉(zhuǎn)換功能奠定了基石?！?br />
美光科技的發(fā)言揭露的兩大技術(shù)趨勢(shì)：其一是未來的HBM一定是和CXL深度融合，進(jìn)一步提升HBM內(nèi)存在容量和帶寬方面的性能；其二是AI也將推動(dòng)內(nèi)存的技術(shù)變革，HBM-PIM內(nèi)存計(jì)算技術(shù)有望成為AI大模型領(lǐng)域的新寵。

當(dāng)前，對(duì)于AI大模型這波機(jī)遇，國內(nèi)的內(nèi)存產(chǎn)業(yè)有怎樣的機(jī)會(huì)呢？從公開消息來看，目前國內(nèi)還沒有規(guī)模量產(chǎn)HBM內(nèi)存的企業(yè)。江波龍董秘此前在投資平臺(tái)表示，HBM技術(shù)屬于內(nèi)存芯片設(shè)計(jì)技術(shù)與內(nèi)存模組應(yīng)用的結(jié)合。公司目前暫未涉及相關(guān)的內(nèi)存芯片設(shè)計(jì)研發(fā)，但公司將保持對(duì)該技術(shù)的持續(xù)關(guān)注，并在產(chǎn)品應(yīng)用層面上提前開展相關(guān)的研發(fā)布局工作。

不過，國內(nèi)已經(jīng)有公司在涉獵CXL內(nèi)存領(lǐng)域。前不久，瀾起科技已經(jīng)宣布，其PCIe 5.0/CXL 2.0 Retimer芯片成功實(shí)現(xiàn)量產(chǎn)。

小結(jié)

ChatGPT以及國內(nèi)AI大模型密集的發(fā)布給DRAM產(chǎn)業(yè)帶來了新的發(fā)展機(jī)遇。由于應(yīng)用的特殊性，AI大模型對(duì)HBM這種高級(jí)內(nèi)存需求量更大，而國內(nèi)在這方面還處于技術(shù)攻關(guān)的階段，沒有公開的實(shí)質(zhì)性進(jìn)展。不過，CXL技術(shù)的發(fā)展可能為國產(chǎn)DRAM企業(yè)帶來轉(zhuǎn)機(jī)，讓普通DRAM內(nèi)存能夠參與到AI應(yīng)用里。

從整體產(chǎn)業(yè)走勢(shì)來看，三星減產(chǎn)和AI大模型需求將分別從供給和需求端帶動(dòng)DRAM產(chǎn)業(yè)，進(jìn)入全新的旺周期。