0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

數(shù)據(jù)中心短缺:人工智能未來的致命阻礙?

innswaiter ? 來源:van ? 作者:van ? 2023-10-20 10:32 ? 次閱讀

影響人工智能未來的4個(gè)數(shù)據(jù)中心存儲(chǔ)挑戰(zhàn)

● 建設(shè)新數(shù)據(jù)中心的成本

● 建設(shè)新數(shù)據(jù)中心需要時(shí)間

● 現(xiàn)有數(shù)據(jù)中心空間不足

● 功率限制

訓(xùn)練人工智能模型會(huì)產(chǎn)生巨大的資源消耗,需要大量的資本、時(shí)間、空間和電力來部署。最終,人工智能的進(jìn)步可能歸結(jié)為解決數(shù)據(jù)中心短缺的問題。

為什么數(shù)據(jù)中心對人工智能很重要

數(shù)據(jù)中心在我們的日常生活中發(fā)揮著至關(guān)重要的作用,但它們常常被視為理所當(dāng)然或完全被忽視。每當(dāng)我們?yōu)g覽社交媒體、發(fā)送消息、在淘寶上訂購真空吸塵器或通過銀行匯款時(shí),都需要依靠數(shù)據(jù)中心來處理每一項(xiàng)數(shù)字操作。它們是我們IT基礎(chǔ)設(shè)施的基石。

但隨著人工智能需求的爆炸式的激增,數(shù)據(jù)中心的容量正在減少,需求明顯超過供應(yīng)。雖然關(guān)于人工智能的討論主要集中在芯片和ChatGPT上,以及人工智能產(chǎn)品將如何增加數(shù)十億美元的收入,但我們應(yīng)該關(guān)注的是回答這樣一個(gè)問題,當(dāng)對人工智能的需求超過我們現(xiàn)有基礎(chǔ)設(shè)施所能支持的水平時(shí),會(huì)發(fā)生什么?

答案似乎很簡單,通過建設(shè)更多能力來克服能力不足。然而,在實(shí)踐中,這變得更加困難。

數(shù)據(jù)中心短缺的4大原因

隨著人工智能的發(fā)展,對計(jì)算能力的需求呈爆炸式增長,這需要密集、復(fù)雜的計(jì)算能力來訓(xùn)練。

數(shù)據(jù)中心行業(yè)已經(jīng)面臨滿足現(xiàn)有企業(yè)數(shù)字化轉(zhuǎn)型和公共云使用需求的壓力。由于部署新構(gòu)建的成本和時(shí)間都很高,因此數(shù)據(jù)中心通常是根據(jù)預(yù)測的需求即時(shí)交付來構(gòu)建的。除了供應(yīng)已經(jīng)緊張之外,人工智能的指數(shù)級采用還推動(dòng)了前所未有的需求。

生成式人工智能需要的能力是傳統(tǒng)工作負(fù)載的五倍。據(jù)說ChatGPT-4的智力明顯更好,需要更多的力量來訓(xùn)練。人工智能的發(fā)展競賽歸結(jié)為四個(gè)關(guān)鍵的供應(yīng)限制:資金、時(shí)間、空間和權(quán)力。

1、資本

數(shù)據(jù)中心的建設(shè)成本高昂。一座25萬平方英尺的中型數(shù)據(jù)中心建筑,要花費(fèi)近5億美元才能完全建成。

預(yù)計(jì)對人工智能的需求在數(shù)百兆瓦到千兆瓦之間,全部價(jià)格將達(dá)到數(shù)百億美元。這是一大筆資金。當(dāng)利率高企,資金難以籌集時(shí),數(shù)據(jù)中心的價(jià)格就會(huì)上漲,這使得籌集必要的資金和滿足需求變得更具挑戰(zhàn)性。籌集所需資金也需要更長的時(shí)間,這延長了建設(shè)時(shí)間,進(jìn)一步拖慢了一切。

最近,許多傳統(tǒng)數(shù)據(jù)中心提供商因重組或破產(chǎn)而分心或陷入停滯,這進(jìn)一步挑戰(zhàn)了容量的及時(shí)交付。數(shù)據(jù)中心運(yùn)營商仍然可以利用這些資金來為新容量提供資金,只是不會(huì)像零利率時(shí)代那么容易。贏家將是那些擁有有效部署資本和有效運(yùn)營記錄的人。

2.時(shí)間

建設(shè)一個(gè)數(shù)據(jù)中心需要24到36個(gè)月的時(shí)間。當(dāng)然,提供商可以同時(shí)進(jìn)行多個(gè)項(xiàng)目,但大多數(shù)項(xiàng)目仍需要數(shù)月至數(shù)年才能完成。在當(dāng)前需求猛增之前,許多項(xiàng)目都是基于更為溫和的需求預(yù)測而建造的。

最重要的是,該行業(yè)仍在努力應(yīng)對供應(yīng)鏈挑戰(zhàn),以提供為現(xiàn)代數(shù)據(jù)中心供電和冷卻所需的機(jī)械電氣和冷卻系統(tǒng)。這些時(shí)間表已從兩年前的12至24周縮短至52至80周。

新容量上線需要時(shí)間,而且即使上線也可能不夠。然而,擁有數(shù)據(jù)中心下方的房地產(chǎn)并追求多設(shè)施園區(qū)戰(zhàn)略的運(yùn)營商將最有能力通過控制土地使用和縮短上市時(shí)間來快速擴(kuò)大規(guī)模。

3.空間

整個(gè)行業(yè)剩余的可用空間所剩無幾,特別是在擁有任何額外產(chǎn)能的優(yōu)先購買權(quán)(ROFR)的客戶看到需求增長快于供應(yīng)的情況下,他們現(xiàn)在正在要求這些選擇。

目前,GPU驅(qū)動(dòng)的高性能計(jì)算(HPC)集群正在被許多企業(yè)采用,以訓(xùn)練人工智能應(yīng)用,但它們并不是數(shù)據(jù)中心空間需求的唯一驅(qū)動(dòng)因素。超大規(guī)模公共云和傳統(tǒng)企業(yè)技術(shù)部署的自然增長也將繼續(xù)強(qiáng)勁,這將在未來12到18個(gè)月內(nèi)給供應(yīng)帶來更大的壓力。如果我們繼續(xù)沿著這條道路前進(jìn),沒有任何出人意料的技術(shù)創(chuàng)新。

應(yīng)對這一挑戰(zhàn)的解決方案是數(shù)據(jù)中心提供商設(shè)計(jì)新設(shè)施,以適應(yīng)從傳統(tǒng)的高架地板、風(fēng)冷企業(yè)應(yīng)用到板式地板和水冷超大規(guī)模云或HPC工作負(fù)載的工作負(fù)載。這確保了無論上線的容量都可以快速適應(yīng)市場最關(guān)鍵的瓶頸。

4.能源

一切都與電力有關(guān)。這些用于人工智能的高性能計(jì)算集群中使用的GPU使用的功率是傳統(tǒng)工作負(fù)載的五倍。

電力已經(jīng)供不應(yīng)求,因?yàn)槲覀円呀?jīng)看到主要的數(shù)據(jù)中心市場宣布限制提供已經(jīng)承諾的擴(kuò)展電力。預(yù)計(jì)這一趨勢將持續(xù)下去,需求的增加會(huì)給電網(wǎng)帶來更大的壓力,而向可再生能源的過渡需要時(shí)間的調(diào)整和完善,將產(chǎn)生更多的瓶頸。

智能數(shù)據(jù)中心提供商通過提高效率,將多設(shè)施園區(qū)選址在發(fā)電源附近,甚至部署自己的分站,走在了前面。

數(shù)據(jù)中心短缺持續(xù)存在會(huì)發(fā)生什么?

在研究了這四個(gè)領(lǐng)域之后,仍然存在一個(gè)問題:“如果我們無法克服這些限制,會(huì)發(fā)生什么?”其影響既深遠(yuǎn)又容易被忽視。

首先,它可能會(huì)阻礙人工智能應(yīng)用開發(fā)人員部署GPU驅(qū)動(dòng)的HPC集群的速度,這些集群需要訓(xùn)練底層大型語言模型(llm),和/或最終的推理階段,在那里我們看到對基于這些llm構(gòu)建應(yīng)用的訪問需求。

它還可能會(huì)抑制數(shù)據(jù)中心容量滿足云提供商和正在增加現(xiàn)有工作負(fù)載企業(yè)的需求的能力。如今每個(gè)人都已經(jīng)依賴這些來為SaaS應(yīng)用、社交媒體、視頻流、游戲、電子商務(wù)以及現(xiàn)代互聯(lián)世界的便利提供動(dòng)力,更不用說未來由人工智能驅(qū)動(dòng)的應(yīng)用了。

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    27

    文章

    4631

    瀏覽量

    128440
  • 數(shù)據(jù)中心
    +關(guān)注

    關(guān)注

    16

    文章

    4575

    瀏覽量

    71803
  • 人工智能
    +關(guān)注

    關(guān)注

    1789

    文章

    46316

    瀏覽量

    236469
收藏 人收藏

    評論

    相關(guān)推薦

    簡述數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)的演變

    隨著全球?qū)?b class='flag-5'>人工智能(AI)的需求不斷增長,數(shù)據(jù)中心作為AI計(jì)算的重要基礎(chǔ)設(shè)施,其網(wǎng)絡(luò)架構(gòu)與連接技術(shù)的發(fā)展變得尤為關(guān)鍵。
    的頭像 發(fā)表于 10-22 16:23 ?59次閱讀

    《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第6章人AI與能源科學(xué)讀后感

    探討了人工智能如何通過技術(shù)創(chuàng)新推動(dòng)能源科學(xué)的進(jìn)步,為未來的可持續(xù)發(fā)展提供了強(qiáng)大的支持。 首先,書中通過深入淺出的語言,介紹了人工智能在能源領(lǐng)域的基本概念和技術(shù)原理。這使得我對人工智能
    發(fā)表于 10-14 09:27

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第4章-AI與生命科學(xué)讀后感

    閱讀這一章后,我深感人工智能與生命科學(xué)的結(jié)合正引領(lǐng)著一場前所未有的科學(xué)革命,以下是我個(gè)人的讀后感: 1. 技術(shù)革新與生命科學(xué)進(jìn)步 這一章詳細(xì)闡述了人工智能如何通過其強(qiáng)大的數(shù)據(jù)處理和分析能力,加速生命科學(xué)
    發(fā)表于 10-14 09:21

    《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第一章人工智能驅(qū)動(dòng)的科學(xué)創(chuàng)新學(xué)習(xí)心得

    人工智能:科學(xué)研究的加速器 第一章清晰地闡述了人工智能作為科學(xué)研究工具的強(qiáng)大功能。通過機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等先進(jìn)技術(shù),AI能夠處理和分析海量數(shù)據(jù),發(fā)現(xiàn)傳統(tǒng)方法難以捕捉的模式和規(guī)律。這不僅極大地提高了
    發(fā)表于 10-14 09:12

    Molex連接器助力構(gòu)建未來數(shù)據(jù)中心 充分發(fā)揮人工智能AI的力量

    隨著高性能計(jì)算,在人工智能(AI)和機(jī)器學(xué)習(xí)(ML)領(lǐng)域中不斷演進(jìn),各種應(yīng)用對復(fù)雜計(jì)算能力、海量存儲(chǔ)容量和無縫連接提出了前所未有的需求。電子組件之間實(shí)現(xiàn)更快速、更高效的通信,能夠促使專門構(gòu)建的生成式
    的頭像 發(fā)表于 08-29 11:57 ?1520次閱讀
    Molex連接器助力構(gòu)建<b class='flag-5'>未來</b><b class='flag-5'>數(shù)據(jù)中心</b> 充分發(fā)揮<b class='flag-5'>人工智能</b>AI的力量

    報(bào)名開啟!深圳(國際)通用人工智能大會(huì)將啟幕,國內(nèi)外大咖齊聚話AI

    8月28日至30日,2024深圳(國際)通用人工智能大會(huì)暨深圳(國際)通用人工智能產(chǎn)業(yè)博覽會(huì)將在深圳國際會(huì)展中心(寶安)舉辦。大會(huì)以“魅力AI·無限未來”為主題,致力于打造全球通用
    發(fā)表于 08-22 15:00

    借助電源完整性測試提高人工智能數(shù)據(jù)中心的能效

    數(shù)據(jù)中心正在部署基于人工智能 (AI) 的技術(shù),處理器密集型服務(wù)器正在推動(dòng)能源需求的增長,下表說明了這種發(fā)展趨勢所帶來的巨大影響。國際能源署 (IEA) 預(yù)測,到2030年,數(shù)據(jù)中心的耗電量將占全球耗電量的7%,相當(dāng)于印度全國的
    的頭像 發(fā)表于 07-30 09:36 ?460次閱讀
    借助電源完整性測試提高<b class='flag-5'>人工智能</b><b class='flag-5'>數(shù)據(jù)中心</b>的能效

    AI時(shí)代,我們需要怎樣的數(shù)據(jù)中心?AI重新定義數(shù)據(jù)中心

    超過60%的中國企業(yè)計(jì)劃在未來12至24個(gè)月內(nèi)部署生成式人工智能。AI、模型的構(gòu)建,將顛覆數(shù)據(jù)中心基礎(chǔ)設(shè)施的建設(shè)、運(yùn)維和運(yùn)營。一個(gè)全新的數(shù)據(jù)中心智能化時(shí)代已經(jīng)拉開序幕。
    發(fā)表于 07-16 11:33 ?504次閱讀
    AI時(shí)代,我們需要怎樣的<b class='flag-5'>數(shù)據(jù)中心</b>?AI重新定義<b class='flag-5'>數(shù)據(jù)中心</b>

    人工智能數(shù)據(jù)中心的新型連接解決方案

    支持新型人工智能數(shù)據(jù)中心架構(gòu)的先進(jìn)連接解決方案不斷涌現(xiàn)。高速板對板連接器、下一代電纜、背板和近似集成電路連接器對電纜解決方案的運(yùn)行速度高達(dá)224Gb/s-PAM4,將加速未來計(jì)算的發(fā)展。人工智
    的頭像 發(fā)表于 06-13 08:26 ?466次閱讀
    <b class='flag-5'>人工智能</b><b class='flag-5'>數(shù)據(jù)中心</b>的新型連接解決方案

    夏普討論建立人工智能數(shù)據(jù)中心

    近日,夏普公司宣布與KDDI公司達(dá)成重要合作意向,雙方將針對建立人工智能數(shù)據(jù)中心進(jìn)行深入討論。據(jù)悉,此次合作將圍繞英偉達(dá)的人工智能計(jì)算平臺和Supermicro平臺展開,共同探索人工智能
    的頭像 發(fā)表于 06-05 09:17 ?405次閱讀

    嵌入式人工智能的就業(yè)方向有哪些?

    嵌入式人工智能的就業(yè)方向有哪些? 在新一輪科技革命與產(chǎn)業(yè)變革的時(shí)代背景下,嵌入式人工智能成為國家新型基礎(chǔ)建設(shè)與傳統(tǒng)產(chǎn)業(yè)升級的核心驅(qū)動(dòng)力。同時(shí)在此背景驅(qū)動(dòng)下,眾多名企也紛紛在嵌入式人工智能領(lǐng)域布局
    發(fā)表于 02-26 10:17

    KakaoBank 入駐 Digital Realty 的 ICN10 數(shù)據(jù)中心以推動(dòng)人工智能創(chuàng)新

    人工智能?(AI) 支持?KakaoBank 的金融技術(shù)研究和發(fā)展,為消費(fèi)者提供安全、便捷的移動(dòng)銀行服務(wù) 北京2024年2月16日?/美通社/ -- 世界領(lǐng)先的云和運(yùn)營商中立數(shù)據(jù)中心、主機(jī)托管
    的頭像 發(fā)表于 02-18 09:33 ?650次閱讀
    KakaoBank 入駐 Digital Realty 的 ICN10 <b class='flag-5'>數(shù)據(jù)中心</b>以推動(dòng)<b class='flag-5'>人工智能</b>創(chuàng)新

    人工智能正在引領(lǐng)數(shù)據(jù)中心物理基礎(chǔ)設(shè)施的新時(shí)代

    人工智能(AI)目前正在對數(shù)據(jù)中心行業(yè)產(chǎn)生深遠(yuǎn)影響,這種影響可歸因于OpenAI在2022年底推出的ChatGPT,該產(chǎn)品因其對查詢提供復(fù)雜且類似人類的響應(yīng)的卓越能力而迅速受到歡迎。因此,作為人工智能
    的頭像 發(fā)表于 12-22 11:06 ?393次閱讀
    <b class='flag-5'>人工智能</b>正在引領(lǐng)<b class='flag-5'>數(shù)據(jù)中心</b>物理基礎(chǔ)設(shè)施的新時(shí)代

    數(shù)據(jù)中心如何支持人工智能

    隨著人工智能(AI)的迅速發(fā)展和廣泛應(yīng)用,數(shù)據(jù)中心作為AI技術(shù)的基石,也面臨著前所未有的挑戰(zhàn)和機(jī)遇。為了滿足AI的高性能和低延遲要求,數(shù)據(jù)中心基礎(chǔ)設(shè)施必須進(jìn)行相應(yīng)的改變和升級。
    的頭像 發(fā)表于 12-21 14:33 ?587次閱讀
    <b class='flag-5'>數(shù)據(jù)中心</b>如何支持<b class='flag-5'>人工智能</b>

    優(yōu)化數(shù)據(jù)中心——實(shí)現(xiàn)人工智能時(shí)代的綠色可持續(xù)發(fā)展

    在過去的幾年中,人工智能(AI)的需求達(dá)到了前所未有的高峰,推動(dòng)了支持其的數(shù)據(jù)中心基礎(chǔ)設(shè)施的擴(kuò)張。據(jù)估計(jì),人工智能的采用將占據(jù)數(shù)據(jù)中心基礎(chǔ)設(shè)施總量的10-15%,因此企業(yè)有必要在優(yōu)化
    發(fā)表于 11-28 17:27 ?235次閱讀