完成適配！曦云C500在智譜AI升級版大模型上充分兼容、高效穩(wěn)定運(yùn)行

近日，沐曦集成電路（上海）有限公司（下稱“沐曦”）曦云C500千億參數(shù)AI大模型訓(xùn)練及通用計算GPU與北京智譜華章科技有限公司（下稱“智譜AI”）開源的中英雙語對話語言模型ChatGLM2-6B完成適配。測試結(jié)果顯示，曦云C500在智譜AI的升級版大模型上充分兼容、高效穩(wěn)定運(yùn)行。

沐曦旗艦產(chǎn)品曦云C500基于自主研發(fā)的高性能GPU IP，特別適合千億參數(shù)AI大模型的訓(xùn)練和推理；基于全自研 GPU 指令集打造的MXMACA軟件棧，全面兼容主流GPU生態(tài)，實(shí)現(xiàn)用戶零成本遷移；通過自主知識產(chǎn)權(quán)的MetaXLink實(shí)現(xiàn)單機(jī)8卡GPU全互聯(lián)，提供構(gòu)建高密度算力和云計算部署的優(yōu)秀國產(chǎn)GPU解決方案；可廣泛應(yīng)用于千億參數(shù)AI大模型訓(xùn)練與推理、AIGC內(nèi)容生成、推薦系統(tǒng)、自動語音識別、語音合成、圖像分割檢測，以及科學(xué)計算、數(shù)據(jù)庫加速等多種場景。

由清華技術(shù)成果轉(zhuǎn)化的智譜AI推出的雙語對話模型ChatGLM2-6B在初代模型ChatGLM-6B基礎(chǔ)上做了升級，采用監(jiān)督微調(diào)、反饋?zhàn)灾腿祟惙答亸?qiáng)化學(xué)習(xí)等方式，能夠生成符合人類偏好的答案。通過此次聯(lián)合適配測試，依托曦云C500運(yùn)行的ChatGLM2-6B可節(jié)省大量時間成本和運(yùn)營成本，降低硬件接入AI模型訓(xùn)練和推理的門檻，為國產(chǎn)大模型提供強(qiáng)大的算力支撐。未來雙方將共同探索國產(chǎn)GPU大模型訓(xùn)推一體機(jī)在各個行業(yè)的應(yīng)用，攜手打造軟硬件一體化解決方案，讓企業(yè)可以在國產(chǎn)自主創(chuàng)新的平臺上實(shí)現(xiàn)自主、安全、可控的大模型應(yīng)用和迭代。

關(guān)于沐曦

沐曦致力于為異構(gòu)計算提供安全可靠的GPU芯片及解決方案，打造全棧GPU芯片產(chǎn)品，推出曦思N系列GPU用于AI推理，曦云C系列GPU用于千億參數(shù)AI大模型訓(xùn)練及通用計算，以及曦彩G系列GPU用于圖形渲染，滿足數(shù)據(jù)中心對“高能效”及“高通用性”的算力需求。沐曦產(chǎn)品均采用完全自主研發(fā)的GPU IP，擁有完全自主的指令集和架構(gòu)，配以兼容主流GPU生態(tài)的完整軟件棧（MXMACA），具備高能效和高通用性的天然優(yōu)勢，能夠?yàn)榭蛻魳?gòu)建軟硬件一體的全面生態(tài)解決方案，是“雙碳”背景下推動數(shù)據(jù)中心建設(shè)和產(chǎn)業(yè)數(shù)字化、智能化轉(zhuǎn)型升級的算力基石。

審核編輯：彭菁