ChatGPT熱潮席卷全球。在問答模式的基礎(chǔ)上ChatGPT可以進(jìn)行推理、編寫代碼、文本創(chuàng)作等等,這樣的特殊優(yōu)勢(shì)和用戶體驗(yàn)使得應(yīng)用場(chǎng)景流量大幅增加,其2023年1月月活躍用戶達(dá)到1億,是史上月活用戶增長(zhǎng)最快的消費(fèi)者應(yīng)用。
ChatGPT的“背后英雄”:芯片,國(guó)內(nèi)GPU、CPU、FPGA、AI芯片及光模塊產(chǎn)業(yè)鏈蓄勢(shì)待發(fā)。
1)GPU:支撐強(qiáng)大算力需求。由于具備并行計(jì)算能力,可兼容訓(xùn)練和推理,目前GPU被廣泛應(yīng)用于加速芯片;
2)CPU:可用于推理/預(yù)測(cè)。AI服務(wù)器利用CPU與加速芯片的組合可以滿足高吞吐量互聯(lián)的需求;
3)FPGA:可通過深度學(xué)習(xí)+分布集群數(shù)據(jù)傳輸賦能大模型。FPGA具備靈活性高、開發(fā)周期短、低延時(shí)、并行計(jì)算等優(yōu)勢(shì);
4)ASIC:極致性能和功耗表現(xiàn)。AI ASIC芯片通常針對(duì)AI應(yīng)用專門設(shè)計(jì)了特定架構(gòu),在功耗、可靠性和集成度上具有優(yōu)勢(shì);
5)光模塊:容易被忽略的算力瓶頸。伴隨數(shù)據(jù)傳輸量的增長(zhǎng),光模塊作為數(shù)據(jù)中心內(nèi)設(shè)備互聯(lián)的載體,需求量隨之增長(zhǎng)。
01
算力需求爆發(fā)拉動(dòng)芯片量?jī)r(jià)齊升
02
技術(shù)創(chuàng)新引領(lǐng)本土產(chǎn)業(yè)鏈彎道突圍
審核編輯 :李倩
-
深度學(xué)習(xí)
+關(guān)注
關(guān)注
73文章
5437瀏覽量
120794 -
算力
+關(guān)注
關(guān)注
1文章
871瀏覽量
14651 -
ChatGPT
+關(guān)注
關(guān)注
28文章
1525瀏覽量
7253
原文標(biāo)題:ChatGPT算力:研究框架(2023)
文章出處:【微信號(hào):架構(gòu)師技術(shù)聯(lián)盟,微信公眾號(hào):架構(gòu)師技術(shù)聯(lián)盟】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論