0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI熱潮帶動服務器、交換機、光模塊及芯片蓬勃發(fā)展

智能計算芯世界 ? 來源:智能計算芯世界 ? 2023-11-01 16:26 ? 次閱讀

本文內容來自“AI產業(yè)熱潮帶動服務器、交換機、光模塊及相關芯片行業(yè)蓬勃發(fā)展”,重點分析國外大模型廠商產品、國內主要大模型產品,以及AI熱潮給服務器、交換機、光模塊及芯片產業(yè)帶來的發(fā)展機會。

2022年 11 月,美國 OpenAI 公司在 GPT-3.5 的基礎上推出聊天機器人 ChatGPT。相比于之前的主流 AI 模型,ChatGPT 通過采用 Transformer 算法以進行自然語言處理。

2023 年 3 月,OpenAI 公司應勢推出新的 GPT-4。GPT-4 是對ChatGPT 的重大升級迭代,不僅具備更加強大的語言理解能力,還能夠處理圖像內容。GPT-4可以生成更長、更復雜、更準確、更多樣化的文本字符串,并在人們輸入圖像時做出響應,可以更好地避免 GPT-3.5 在處理某些問題時可能出現(xiàn)的錯誤,保證問題解決過程的規(guī)范和準確。

a208026a-785d-11ee-939d-92fbcf53809c.png

截至目前,GPT 經歷了從 GPT-1 發(fā)展至 GPT-4 的迭代升級。

a22938a4-785d-11ee-939d-92fbcf53809c.png

自 ChatGPT 推出以來,國內外各企業(yè)紛紛入局,大模型發(fā)展如火如荼。目前市面主流的 AI 服務器配備 Nvidia Ampere 架構的計算卡 A100。

A100 的性能比上一代產品 V100 提升高達 20 倍,可劃分為七個 GPU 實例,根據變化的需求進行動態(tài)調整。A100 的單精度浮點計算能力峰值可達 19.5TFLOPS,雙精度浮點算力可達9.7TFLOPS。相比 V100,A100 80GB 可針對大型模型提供高達三倍的 AI 訓練速度;相比 CPU,A100 80GB 可提供高達 249 倍的 AI 推理性能。OpenAI 公司在推出 GPT-3 和 ChatGPT 時即使用英偉達的 NVIDIA A100 GPU 來訓練和運行。

a242e1be-785d-11ee-939d-92fbcf53809c.png

針對算力需求巨大的 ChatGPT 及其他大模型,英偉達推出 NVIDIA H100 NVL。NVIDIA H100NVL 是具有 94GB 內存和加速 Transformer 引擎的大語言模型(LLM)專用解決方案。H100 的單精度浮點計算能力峰值可達 34 TFLOPS,雙精度浮點算力可達 67 TFLOPS。與 NVIDIA A100GPU 相比,NVIDIA H100 在大型語言模型上具有高達 9 倍的訓練速度和 30 倍的 AI 推理性能,進一步鞏固英偉達在 AI 芯片市場的領先地位。

a2625ecc-785d-11ee-939d-92fbcf53809c.png

a27de0c0-785d-11ee-939d-92fbcf53809c.png

1、海外巨頭爭奪 AI 領域主動權

3 月 16 日微軟推出 AI 版 Office“全家桶”:Microsoft 365 Copilot。2023 年 7 月 18 日,微軟于 Inspire 合作伙伴大會上宣布,面向 Office 365 E3、E5、商業(yè)標準版和商業(yè)進階版的訂閱商戶,Microsoft 365 Copilot的定價為每個用戶每月 30 美元。

2022 年,谷歌推出了 5400 億參數大模型 PaLM,而 2023 年 5 月 10 日,谷歌又發(fā)布了 PaLM2,部分能力已經超越了 GPT-4。谷歌推出基于 LaMDA 的 Bard 用來對標 ChatGPT。Bard 的 LaMDA模型訓練參數達 1370 億個。在 2023 年 3 月 21 日,谷歌宣布開放 Bard 公測,并于 2023 年 4月 10 日改用更強大的 PaLM 大型語言模型以增加其運算能力。隨著全球 AI 接入潮興起,谷歌也將 Bard 應用到谷歌搜索和辦公軟件中。DuetAI 是應用于 GoogleWorkspace 的辦公類 AI工具,用來對標微軟 Copilot,可以自動生成文檔、表格和圖片。

2022 年 5 月,MetaAI 發(fā)布了基于 1750 億參數的超大模型 OPT-175B。2023 年 2 月,Meta 宣布將推出針對研究社區(qū)的“Meta 人工智能大型語言模型”系統(tǒng)“LlaMA”。2023 年 7 月,MetaAI 發(fā)布了第二代語言大模型 Llama2,模型開源且可免費用于商業(yè)用途。依照測試結果,700億參數的結果同常見的閉源模型 GPT-3.5 在 MMLU 和 GSM8K 水平上較為接近,但在生成代碼的能力上存在較大差距。微軟在隨后的 Inspire 合作伙伴大會上同時宣布在 Azure 云計算平臺上相應深度整合 Llama2 模型框架。亞馬遜的 AWS 云也加入和 Meta 的合作中。

2023 年 4 月 13 日,亞馬遜云服務部門宣布推出自有大型語言模型泰坦,模型初始可分為兩種,第一類名為 Titan Text,為生成式 LLM,可用于總結、文字生成等。第二類名為 TitanEmbedding,專注于將文字輸入轉換為參數化的表達,相應的技術已被用于亞馬遜商品推薦算法中。

a28968e6-785d-11ee-939d-92fbcf53809c.png

2、國內大廠加速布局大模型

國內廠商也在加速研發(fā)大模型,各大互聯(lián)網巨頭紛紛入局 AI 大模型。

百度最早于 2019 年推出預訓練模型 ERNIE 1.0,歷經多次迭代,百度文心大模型形成了基礎大模型、任務大模型、行業(yè)大模型三級體系。框架層面上,百度提供了中國首個開源的產業(yè)級深度學習框架-飛槳PaddlePaddle,百度構建了文心大模型+飛槳深度學習平臺的商業(yè)模式,落地應用方向廣泛,涵蓋金融、能源、電力、航天、互聯(lián)網等領域。

2022 年 9 月,阿里發(fā)布通義大模型系列。通義大模型分為統(tǒng)一模型底層、通用模型層和專業(yè)模型層。目前,阿里通義大模型已落地應用于電商、醫(yī)療、娛樂、設計、金融等行業(yè),服務超過 200 個場景。2023 年 4 月 11 日,阿里正式推出大語言模型通義千問。此外,阿里還推出了用戶共建 AI 模型服務型平臺“魔搭社區(qū)”,目前社區(qū)內已集聚了 180 多萬 AI 開發(fā)者和900 多個優(yōu)質 AI 模型。2023 年 7 月 7 日上海世界人工智能大會上公司 CTO 表示,阿里云將向大模型創(chuàng)業(yè)公司提供全方位的服務,包括最強大的算力和開發(fā)工具。

華為云團隊 2020 年開始發(fā)展 AI 大模型,2021 年 4 月發(fā)布盤古大模型。2023 年 7 月 7 日,華為于公司開發(fā)者大會 2023 上正式發(fā)布 AI 大模型華為盤古大模型 3.0。模型提供 100 億參數、380 億參數、710 億參數和 1000 億參數的系列化基礎大模型。此外,華為一站式 AI 開發(fā)平臺 ModelArts 為盤古大模型的訓練、推理迭代發(fā)展持續(xù)提供優(yōu)化支持。目前,盤古大模型已在 100 多個行業(yè)場景完成驗證,涵蓋能源、零售、金融、工業(yè)、醫(yī)療、環(huán)境、物流等。

騰訊于 2022 年 12 月推出了萬億中文 NLP 預訓練模型混元 AI 大模型。目前,騰訊混元大模型涵蓋 NLP 大模型、CV 大模型、多模態(tài)大模型和眾多行業(yè)模型。騰訊也打造了一站式機器學習生態(tài)服務平臺——太極機器學習平臺,為混元大模型提供底層支持。受益于騰訊自身業(yè)務廣泛,混元大模型在騰訊內部已與騰訊廣告、微信、QQ、游戲等產品結合,在廣告提效層面效果顯著。同時,混元大模型還通過騰訊云實現(xiàn)對外的商業(yè)化。

2023 年 4 月 18 日,字節(jié)跳動旗下火山引擎發(fā)布自研 DPU 等系列云產品,并推出升級版的機器學習平臺,支持萬卡級大模型訓練。2023 年 6 月 28 日,字節(jié)跳動公布了公司在大模型業(yè)務的最新進展,并發(fā)布了大模型服務平臺“火山方舟”,提供模型的訓練、推理、評測、精調等功能服務。目前集成了百川智能、出門問問、復旦大學 MOSS、IDEA 研究院、瀾舟科技、MiniMax、智譜 AI 等多家公司及團隊的大模型。

科大訊飛于 2023 年 5 月推出星火認知大模型,目前已在教育、辦公、汽車、數字員工等行業(yè)中落地應用。在發(fā)布會上,董事長劉慶峰表示未來科大訊飛將在保護倫理和安全的前提下發(fā)展認知大模型,同時聯(lián)合開發(fā)者推動認知大模型應用落地,共建人工智能“星火”生態(tài)。2023年 6 月 13 日,360 集團發(fā)布認知型通用大模型“360 智腦 4.0”,并宣布 360 智腦已接入 360旗下產品,如搜索引擎、瀏覽器和安全衛(wèi)士中。同時,借助 360 長期在互聯(lián)網安全方面的積累,公司建立了“安全大腦”大模型,以監(jiān)管大模型中的不當行為。

2023 年 7 月 7 日,商湯推出大模型體系“商湯日日新 SenseNova”的多方位全面升級及體系下一系列大模型產品的落地成果,其中包括金融領域的客服、投研分析降本增效;醫(yī)療場景內輔助導診問診、輔助決策;移動終端內智能交互、內容交互;線下場景的故障識別、缺陷判斷;線上直播短視頻平臺的數字人應用及營銷工具;智能汽車領域的集安全效率為一體的智能座艙體驗等。

a29b46ce-785d-11ee-939d-92fbcf53809c.png

3、人工智能行業(yè)加速服務器、AI 芯片、交換機、光模塊產業(yè)

人工智能的快速發(fā)展推動數據使用量的飆升,推動數據中心基礎設施建設的快速增長。數據中心基礎設施主要包括 IT 設備、非 IT 設備、軟件及建設工程。在 IT 設備采購成本中,服務器占比最大達 69%。網絡設備(即交換機和路由器)、安全設備、存儲設備和光模塊/光纖等分別占數據中心設備采購成本的 11%、9%、6%和 5%,不同方案成本占比略有不同,但總體上服務器成本占 IDC 硬件成本70%左右。

a2a3805a-785d-11ee-939d-92fbcf53809c.png

到 2023 年中旬,AI 服務器市場出貨量接近 60 萬臺,相比上年同期增長約 39%。根據TrendForce 預估,2023 年全球 AI 服務器出貨量將接近 120 萬臺,同比增長 38.4%,占整體服務器出貨量的比重約 9%。到 2025 年將增長至近 190 萬臺,2022-2025 年期間年平均增長率達 41.2%。預計 2030 年全球算力規(guī)模達到 56 ZFlops,平均年增速達到 65%。

從全球市場份額占比來看,2021 年浪潮信息市占率達 20.9%,位列行業(yè)第一。其次為戴爾、HPE、聯(lián)想、IBM,占比分別為 13.0%、9.2、5.8%、4.1%。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    452

    文章

    49985

    瀏覽量

    419670
  • 服務器
    +關注

    關注

    12

    文章

    8849

    瀏覽量

    84954
  • 交換機
    +關注

    關注

    20

    文章

    2600

    瀏覽量

    98884

原文標題:AI熱潮帶動服務器、交換機、光模塊及芯片蓬勃發(fā)展

文章出處:【微信號:AI_Architect,微信公眾號:智能計算芯世界】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    [分享]常見網絡交換機故障及應用問答

    /100Mbps自適應網卡的機器上能夠非常正常地工作,現(xiàn)在連在100Mpbs網卡的服務器卻出現(xiàn)紅燈亮的情況,無法通信,是否交換機有問題? 答:這種情況是由于配置不當引起的。交換機的端口很可能被強制設置成
    發(fā)表于 06-02 11:31

    基礎知識:理解網絡交換機的原理

    域名服務器(DNS)中存儲的每個應用服務器地址是VIP,而不是真實的服務器地址。   當某用戶申請應用時,一個帶有目標服務器組的VIP連接請求(例如一個TCP SYN包)發(fā)給
    發(fā)表于 04-13 14:30

    新手教程:萬兆SFP+模塊和光纖交換機最簡單的連接方案

    今天易天光通信(ETU-LINK)給大家分享萬兆SFP+模塊和光纖交換機最簡單的連接方案,不懂的趕緊過來補習下咯!首先將模塊分別插入兩臺
    發(fā)表于 10-12 18:32

    沙龍活動:蓬勃發(fā)展的RISC-V生態(tài)

    時代,基于RISC-V架構的生態(tài)正蓬勃發(fā)展。為推動新技術落地,加速深圳地區(qū)集成電路聚集地RISC-V生態(tài)建設,深圳“芯火”平臺、微納點石創(chuàng)新空間特邀請芯來科技(國內RISC-V生態(tài)引領企業(yè))及深圳本土
    發(fā)表于 03-08 15:22

    蓬勃發(fā)展的無源元件

    蓬勃發(fā)展的無源元件
    發(fā)表于 09-11 14:11 ?13次下載
    <b class='flag-5'>蓬勃發(fā)展</b>的無源元件

    增強型服務器取代交換機你覺得靠譜嗎

    由于越來越多的服務器被虛擬化,因此服務器之間的連接也自然而然地主要通過運行在服務器上的虛擬交換機來進行。
    發(fā)表于 01-29 11:48 ?708次閱讀
    增強型<b class='flag-5'>服務器</b>取代<b class='flag-5'>交換機</b>你覺得靠譜嗎

    增強型服務器取代交換機你覺得可靠嗎

    由于越來越多的服務器被虛擬化,因此服務器之間的連接也自然而然地主要通過運行在服務器上的虛擬交換機來進行。
    發(fā)表于 12-24 09:50 ?1007次閱讀

    人工智能的進步推動著中國服務器市場的蓬勃發(fā)展

    新興的人工智能需求正在推動中國的服務器市場蓬勃發(fā)展,特別是那些用來支持機器學習任務所需并行處理圖形芯片服務器
    發(fā)表于 02-04 16:20 ?876次閱讀

    SFP+模塊交換機如何搭配使用

    在企業(yè)網絡部署、數據中心建設都離不開光模塊交換機。模塊主要是用來將電信號與信號進行轉換,而交換機
    的頭像 發(fā)表于 03-21 11:20 ?1.6w次閱讀

    交換機的端口類型與接入的模塊類型

    交換機作為組建網絡關鍵部分之一,其重要性不言而喻,它的作用是連接多臺設備,通過數據包交換的方式,將數據發(fā)送到目的地。交換機無法單獨使用,需要搭配
    的頭像 發(fā)表于 03-08 11:41 ?1w次閱讀

    第 2 層與第 3 層交換機的區(qū)別

    通常,二層交換機用于連接所有網絡和客戶端設備,隨著網絡應用和融合網絡實施的日益多樣化,第 3 層交換機在數據中心、復雜的企業(yè)網絡和商業(yè)應用中蓬勃發(fā)展。
    的頭像 發(fā)表于 10-31 09:26 ?3189次閱讀

    一文解析交換機行業(yè)5大技術趨勢

    AI催化下,短期看英偉達AI方案帶動IB交換機需求提升,長期看IB和以太網交換機方案共存。英偉達作為A
    發(fā)表于 07-03 09:44 ?1321次閱讀
    一文解析<b class='flag-5'>交換機</b>行業(yè)5大技術趨勢

    交換機發(fā)展

    從目前以太網交換機市場的總體情況來看,百兆交換機已成為市場主流,千兆交換機市場份額不斷加大,而十兆交換機已基本退出了市場。今年以太網交換機
    的頭像 發(fā)表于 07-07 11:54 ?674次閱讀

    口的交換機和插模塊交換機有什么區(qū)別?

    口的交換機和插模塊交換機在功能上有一定的相似性,但它們在設計、用途和性能方面存在一些關鍵的區(qū)別。
    的頭像 發(fā)表于 05-28 14:59 ?1680次閱讀

    串口服務器交換機區(qū)別

    串口服務器交換機在網絡通信中扮演著不同的角色,它們之間的主要區(qū)別可以從以下幾個方面來闡述:
    的頭像 發(fā)表于 10-03 15:13 ?169次閱讀