近日,墨芯人工智能憑借在大模型算力方案上的優(yōu)勢(shì),入選創(chuàng)業(yè)邦“2023最值得關(guān)注的AIGC公司”榜單,稀疏計(jì)算再獲認(rèn)可。
本次評(píng)選以專業(yè)的視角發(fā)掘現(xiàn)階段積極探索AIGC技術(shù)和應(yīng)用的企業(yè),評(píng)估投資價(jià)值、技術(shù)成熟度、市場(chǎng)營(yíng)銷、生態(tài)合作、創(chuàng)新潛力等維度的綜合表現(xiàn)。最終墨芯從參評(píng)的500余家企業(yè)中脫穎而出,成功入選。
創(chuàng)業(yè)邦指出,本次上榜企業(yè)“或是身經(jīng)百戰(zhàn)的互聯(lián)網(wǎng)大廠,亦或是剛剛展露頭角但具有投資價(jià)值的AI創(chuàng)業(yè)先鋒,面對(duì)AIGC的巨浪,乘風(fēng)而起,展現(xiàn)出了非凡的行動(dòng)力”。
隨著大模型浪潮席卷全球,作為AIGC基礎(chǔ)層的算力產(chǎn)業(yè)備受矚目。創(chuàng)業(yè)邦在對(duì)AIGC基礎(chǔ)層的解讀中提及“由于上游人工智能算力、數(shù)據(jù)基礎(chǔ)設(shè)施或壟斷或資源稀缺,如芯片、服務(wù)器等,議價(jià)權(quán)較高,但下游需求激增,現(xiàn)階段最先受到裨益”。
在算力領(lǐng)域,稀疏計(jì)算作為突破算力瓶頸的關(guān)鍵技術(shù),獲得高度的市場(chǎng)關(guān)注。墨芯以領(lǐng)先的產(chǎn)品實(shí)力、突出的商業(yè)化進(jìn)展,多次被權(quán)威機(jī)構(gòu)推舉為AIGC產(chǎn)業(yè)的代表企業(yè)。
性能領(lǐng)先:率先支持千億參數(shù)大模型
墨芯AI計(jì)算平臺(tái)率先支持高達(dá)千億參數(shù)的大語(yǔ)言模型,并在吞吐、延時(shí)等多項(xiàng)指標(biāo)上表現(xiàn)優(yōu)異,具備高吞吐、低延時(shí)的優(yōu)勢(shì):
在1300億參數(shù)ChatGLM大模型上,8張墨芯S30計(jì)算卡吞吐達(dá)432 token/s,性能超過(guò)主流GPU,加快AI內(nèi)容生成速度,大幅優(yōu)化用戶體驗(yàn)。
緩解落地難題:助力AIGC企業(yè)降本增效
針對(duì)大模型占用大量計(jì)算資源、能耗巨大、費(fèi)用高昂等難點(diǎn),墨芯憑借領(lǐng)先的稀疏計(jì)算技術(shù),大幅減少AI計(jì)算中的無(wú)效元素,從而能夠以更少數(shù)量的AI計(jì)算卡就能支持大模型推理。這為AI企業(yè)減緩算力基礎(chǔ)設(shè)施與運(yùn)營(yíng)成本壓力,達(dá)到降本增效的目標(biāo)。
應(yīng)用前景廣闊:商業(yè)進(jìn)展取得突破
墨芯基于性能領(lǐng)先的硬件產(chǎn)品與軟件平臺(tái),為客戶提供企業(yè)級(jí)端到端的解決方案,使開(kāi)發(fā)人員能將墨芯的解決方案幾乎零成本集成到現(xiàn)有的基礎(chǔ)設(shè)施和算法交付中。
墨芯產(chǎn)品已實(shí)現(xiàn)量產(chǎn),并成為支持ByteMLPerf的供應(yīng)商之一,助力企業(yè)加速AI應(yīng)用。
作為AIGC產(chǎn)業(yè)代表企業(yè),墨芯將持續(xù)發(fā)揮產(chǎn)品技術(shù)創(chuàng)新優(yōu)勢(shì),為AIGC應(yīng)用帶來(lái)強(qiáng)大動(dòng)力支撐,驅(qū)動(dòng)產(chǎn)業(yè)升級(jí)與社會(huì)進(jìn)步。
審核編輯:劉清
-
人工智能
+關(guān)注
關(guān)注
1789文章
46345瀏覽量
236500 -
GPU芯片
+關(guān)注
關(guān)注
1文章
303瀏覽量
5762 -
AIGC
+關(guān)注
關(guān)注
1文章
338瀏覽量
1449
原文標(biāo)題:墨芯人工智能榮獲“2023最值得關(guān)注AIGC企業(yè)”
文章出處:【微信號(hào):墨芯人工智能,微信公眾號(hào):墨芯人工智能】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論