0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

ChatGPT算力:研究框架(2023)

架構(gòu)師技術(shù)聯(lián)盟 ? 來源:半導(dǎo)體風(fēng)向標(biāo) ? 2023-02-13 16:20 ? 次閱讀

ChatGPT熱潮席卷全球。在問答模式的基礎(chǔ)上ChatGPT可以進(jìn)行推理、編寫代碼、文本創(chuàng)作等等,這樣的特殊優(yōu)勢(shì)和用戶體驗(yàn)使得應(yīng)用場(chǎng)景流量大幅增加,其2023年1月月活躍用戶達(dá)到1億,是史上月活用戶增長(zhǎng)最快的消費(fèi)者應(yīng)用。

ChatGPT的“背后英雄”:芯片,國(guó)內(nèi)GPUCPU、FPGA、AI芯片及光模塊產(chǎn)業(yè)鏈蓄勢(shì)待發(fā)。

1)GPU:支撐強(qiáng)大算力需求。由于具備并行計(jì)算能力,可兼容訓(xùn)練和推理,目前GPU被廣泛應(yīng)用于加速芯片;

2)CPU:可用于推理/預(yù)測(cè)。AI服務(wù)器利用CPU與加速芯片的組合可以滿足高吞吐量互聯(lián)的需求;

3)FPGA:可通過深度學(xué)習(xí)+分布集群數(shù)據(jù)傳輸賦能大模型。FPGA具備靈活性高、開發(fā)周期短、低延時(shí)、并行計(jì)算等優(yōu)勢(shì);

4)ASIC:極致性能和功耗表現(xiàn)。AI ASIC芯片通常針對(duì)AI應(yīng)用專門設(shè)計(jì)了特定架構(gòu),在功耗、可靠性和集成度上具有優(yōu)勢(shì);

5)光模塊:容易被忽略的算力瓶頸。伴隨數(shù)據(jù)傳輸量的增長(zhǎng),光模塊作為數(shù)據(jù)中心內(nèi)設(shè)備互聯(lián)的載體,需求量隨之增長(zhǎng)。

7061a750-aac9-11ed-bfe3-dac502259ad0.png

707b08c6-aac9-11ed-bfe3-dac502259ad0.png

70b411a2-aac9-11ed-bfe3-dac502259ad0.png

70eab7ca-aac9-11ed-bfe3-dac502259ad0.png

70eab7ca-aac9-11ed-bfe3-dac502259ad0.png

70b411a2-aac9-11ed-bfe3-dac502259ad0.png

01

算力需求爆發(fā)拉動(dòng)芯片量?jī)r(jià)齊升

71942fa8-aac9-11ed-bfe3-dac502259ad0.png

71ab79c4-aac9-11ed-bfe3-dac502259ad0.png

71d8096c-aac9-11ed-bfe3-dac502259ad0.png

71fe7f34-aac9-11ed-bfe3-dac502259ad0.png

725587e8-aac9-11ed-bfe3-dac502259ad0.png

7284c79c-aac9-11ed-bfe3-dac502259ad0.png

72c456a0-aac9-11ed-bfe3-dac502259ad0.png

72ee34f2-aac9-11ed-bfe3-dac502259ad0.png

731e7220-aac9-11ed-bfe3-dac502259ad0.png

7380b03e-aac9-11ed-bfe3-dac502259ad0.png

73c52a7a-aac9-11ed-bfe3-dac502259ad0.png

73f2f25c-aac9-11ed-bfe3-dac502259ad0.png

74d5d158-aac9-11ed-bfe3-dac502259ad0.png

02

技術(shù)創(chuàng)新引領(lǐng)本土產(chǎn)業(yè)鏈彎道突圍

750996c8-aac9-11ed-bfe3-dac502259ad0.png

752b4fca-aac9-11ed-bfe3-dac502259ad0.png

754880cc-aac9-11ed-bfe3-dac502259ad0.png

75787e62-aac9-11ed-bfe3-dac502259ad0.png

75c63170-aac9-11ed-bfe3-dac502259ad0.png

75ef1414-aac9-11ed-bfe3-dac502259ad0.png

7613659e-aac9-11ed-bfe3-dac502259ad0.png

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 深度學(xué)習(xí)
    +關(guān)注

    關(guān)注

    73

    文章

    5437

    瀏覽量

    120794
  • 算力
    +關(guān)注

    關(guān)注

    1

    文章

    871

    瀏覽量

    14651
  • ChatGPT
    +關(guān)注

    關(guān)注

    28

    文章

    1525

    瀏覽量

    7253

原文標(biāo)題:ChatGPT算力:研究框架(2023)

文章出處:【微信號(hào):架構(gòu)師技術(shù)聯(lián)盟,微信公眾號(hào):架構(gòu)師技術(shù)聯(lián)盟】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    淺析三大之異同

    隨著一年多前ChatGPT的出現(xiàn)引爆人工智能(AI)浪潮,支撐大模型背后的“”概念突然闖進(jìn)我們的視野,成為科技圈炙手可熱的新詞,引領(lǐng)著最新潮流。作為數(shù)字經(jīng)濟(jì)時(shí)代新生產(chǎn),也許不少人
    的頭像 發(fā)表于 08-30 12:56 ?467次閱讀
    淺析三大<b class='flag-5'>算</b><b class='flag-5'>力</b>之異同

    中國(guó)中心市場(chǎng)持續(xù)增長(zhǎng),智能規(guī)??焖籴绕?/a>

    7月24日,中國(guó)信息通信研究院(簡(jiǎn)稱“中國(guó)信通院”)權(quán)威發(fā)布了《中國(guó)中心服務(wù)商分析報(bào)告(2024年)》,該報(bào)告深入剖析了中國(guó)中心市場(chǎng)
    的頭像 發(fā)表于 07-24 15:25 ?371次閱讀

    曙光攜手“互聯(lián)公共服務(wù)平臺(tái)”提高全國(guó)匹配效率

    近日,由中國(guó)信息通信研究院開發(fā)的“互聯(lián)公共服務(wù)平臺(tái)”在重慶上線。作為該平臺(tái)合作方之一,曙光智參與了平臺(tái)發(fā)布儀式。 ? ? 曙光將依托在
    的頭像 發(fā)表于 07-16 15:45 ?595次閱讀

    中科馭數(shù)成為首批互聯(lián)互通研究組成員單位

    ? ?5月25日,在由中國(guó)信通院牽頭召開的互聯(lián)互通研究組成立大會(huì)上,中科馭數(shù)作為首批成員單位受邀出席啟動(dòng)儀式,共話產(chǎn)業(yè)發(fā)展實(shí)踐。 ▲
    的頭像 發(fā)表于 05-30 19:08 ?684次閱讀
    中科馭數(shù)成為首批<b class='flag-5'>算</b><b class='flag-5'>力</b>互聯(lián)互通<b class='flag-5'>研究</b>組成員單位

    力系列基礎(chǔ)篇——101:從零開始了解

    相信大家已經(jīng)感受到,我們正處在一個(gè)人工智能時(shí)代。如果要問在人工智能時(shí)代最重要的是什么?那必須是:!!
    的頭像 發(fā)表于 04-24 08:05 ?1002次閱讀
    <b class='flag-5'>算</b>力系列基礎(chǔ)篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>101:從零開始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    邁信林與蘇州科技簽訂戰(zhàn)略框架協(xié)議,加碼開展領(lǐng)域業(yè)務(wù)

    近日,邁信林發(fā)布公告稱與蘇州科技有限公司簽訂《戰(zhàn)略合作框架協(xié)議》,雙方將圍繞領(lǐng)域開展一系列深入合作。
    的頭像 發(fā)表于 04-11 11:21 ?758次閱讀

    數(shù)據(jù)語料庫、算法框架芯片在AI大模型中的作用和影響

    數(shù)據(jù)語料庫、算法框架芯片的確是影響AI大模型發(fā)展的三大重要因素。
    的頭像 發(fā)表于 03-01 09:42 ?848次閱讀

    智能規(guī)模超通用,大模型對(duì)智能提出高要求

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)是設(shè)備通過處理數(shù)據(jù),實(shí)現(xiàn)特定結(jié)果輸出的計(jì)算能力,常用FLOPS作為計(jì)量單位。FLOPS是Floating-point Operations Per Second
    的頭像 發(fā)表于 02-06 00:08 ?5770次閱讀

    大茉莉X16-P,5800M大稱王稱霸

    Rykj365
    發(fā)布于 :2024年01月25日 14:54:52

    ChatGPT芯片如何做輸出

    卡的核心當(dāng)然還是計(jì)算芯片,會(huì)搭配大容量高帶寬的內(nèi)存、緩存,以及搭載CPU用于調(diào)度,為了幫助數(shù)據(jù)傳輸,便會(huì)使用高速通道,這便是PCIe(高速串行計(jì)算機(jī)擴(kuò)展總線標(biāo)準(zhǔn))在系統(tǒng)中的作用:提供總線通道。
    發(fā)表于 01-11 10:01 ?418次閱讀
    <b class='flag-5'>ChatGPT</b><b class='flag-5'>算</b><b class='flag-5'>力</b>芯片如何做<b class='flag-5'>算</b><b class='flag-5'>力</b>輸出

    AI應(yīng)用中的光模塊產(chǎn)品

    ChatGPT為代表的AI大模型應(yīng)用普及將推動(dòng)需求快速增長(zhǎng),服務(wù)器產(chǎn)業(yè)鏈?zhǔn)瞧渲兄匾氖芤姝h(huán)節(jié)之一,AI計(jì)算的普及將推動(dòng)服務(wù)器產(chǎn)業(yè)鏈光模塊向800G升級(jí)提速。
    的頭像 發(fā)表于 01-02 15:32 ?437次閱讀
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b>應(yīng)用中的光模塊產(chǎn)品

    芯科技,解密ChatGPT暢聊之芯片

    在今日飛速發(fā)展的科技浪潮中,OpenAI的ChatGPT如一顆璀璨明星,引領(lǐng)著智能對(duì)話的新潮流。ChatGPT不僅是一款聊天機(jī)器人程序,它背后的驅(qū)動(dòng)力是一個(gè)龐大而復(fù)雜的網(wǎng)絡(luò)。這個(gè)網(wǎng)
    的頭像 發(fā)表于 12-27 07:45 ?884次閱讀
    芯科技,解密<b class='flag-5'>ChatGPT</b>暢聊之<b class='flag-5'>算</b><b class='flag-5'>力</b>芯片

    平臺(tái)賦能,共建,智貫東西 “2023 英特爾大會(huì)暨東數(shù)西大會(huì)”成功舉辦

    近日,以“共建,智貫東西”為主題的2023 英特爾大會(huì)暨東數(shù)西大會(huì)在麗江成功舉辦。大會(huì)
    的頭像 發(fā)表于 12-08 19:15 ?727次閱讀
    平臺(tái)賦能,<b class='flag-5'>算</b><b class='flag-5'>力</b>共建,智貫東西 “<b class='flag-5'>2023</b> 英特爾<b class='flag-5'>算</b><b class='flag-5'>力</b>大會(huì)暨東數(shù)西<b class='flag-5'>算</b>大會(huì)”成功舉辦

    到底什么是?的作用?

    的字面意思,大家都懂,就是計(jì)算能力(Computing Power)。
    的頭像 發(fā)表于 11-20 09:26 ?1688次閱讀
    到底什么是<b class='flag-5'>算</b><b class='flag-5'>力</b>?<b class='flag-5'>算</b><b class='flag-5'>力</b>的作用?

    不到1分鐘開發(fā)一個(gè)GPT應(yīng)用!各路大神瘋狂整活,網(wǎng)友:ChatGPT就是新iPhone

    的能力仍然是不可替代的。 此外,ChatGPT等語言模型的應(yīng)用也需要大量的數(shù)據(jù)和支持,以及專業(yè)的技術(shù)人員進(jìn)行開發(fā)和維護(hù)。因此,雖然ChatGPT等語言模型在某些方面具有一定的優(yōu)勢(shì),
    發(fā)表于 11-19 12:06