人工智能技術(shù)的蓬勃發(fā)展和智能應(yīng)用的不斷落地,正在深刻地影響和改變著我們的生活。GPU、NPU、FPGA等各類AI芯片為人工智能的發(fā)展提供了算力支撐,其中又以GPU應(yīng)用最為廣泛。接下來(lái)讓我們一起了解一下沐曦的首款GPU產(chǎn)品:曦思N100。
曦思N100是沐曦面向人工智能推理場(chǎng)景推出的高效能GPU產(chǎn)品,針對(duì)產(chǎn)品性能,沐曦的架構(gòu)師們進(jìn)行了兩大方向的優(yōu)化:
01要讓“計(jì)算算的快”
大家都知道GPU通用性好,適應(yīng)性強(qiáng),但反向來(lái)說(shuō)面向特定場(chǎng)景它可能并不是最優(yōu)解。針對(duì)AI應(yīng)用場(chǎng)景的特點(diǎn),曦思N100采用了GPGPU+DLA的異構(gòu)架構(gòu),GPGPU可保持GPU的通用可編程性,而DLA(Deep Learning Accelerator)則可加速深度學(xué)習(xí)任務(wù)從而達(dá)到更高的計(jì)算性能,通過(guò)量身打造的推理軟件棧MacaRT可實(shí)現(xiàn)內(nèi)部計(jì)算資源的自動(dòng)調(diào)度和優(yōu)化。
02要讓“數(shù)據(jù)跑的快”
曦思N100采用高帶寬低延遲的設(shè)計(jì)理念,高速片上網(wǎng)絡(luò)(High Speed Fabric)的應(yīng)用使各計(jì)算單元間的數(shù)據(jù)傳輸更加通暢,HBM2E高帶寬顯存則為存算交互提供了高速的數(shù)據(jù)通道,同時(shí)曦思N100還加持了目前最先進(jìn)的PCIe5.0接口,不管是對(duì)內(nèi)還是對(duì)外的數(shù)據(jù)通路都是無(wú)比暢通的大道!
除了對(duì)計(jì)算性能的需求之外,很多人工智能的場(chǎng)景還涉及到大量的視頻圖像處理任務(wù),如果都用CPU來(lái)做,整體效率低下而且需要消耗很多CPU資源。針對(duì)這種情況,曦思N100在片內(nèi)集成了強(qiáng)大的視頻處理內(nèi)核,可支持視頻編解碼、圖像編解碼、圖像處理等功能。高達(dá)96路的視頻解碼功能,可在視頻智能分析等場(chǎng)景大幅降低單路分析成本。高達(dá)128路的視頻編碼功能則使其能夠在短視頻、視頻云等需要做高并發(fā)編碼、轉(zhuǎn)碼和AI處理的場(chǎng)景大幅提高處理密度并降低單路成本。所以,可以說(shuō)曦思N100是一款A(yù)I全流程處理GPU,不止功能全面還能有效地降低系統(tǒng)整體成本(TCO)。
除了硬件性能強(qiáng)大、功能完備之外,一款好的產(chǎn)品必須要讓用戶覺(jué)得好用、易用!對(duì)此沐曦團(tuán)隊(duì)打造了MXMACA1.0軟件棧,其中包括簡(jiǎn)單易用的MacaRT推理引擎、開(kāi)箱即用的Model Zoo和應(yīng)用實(shí)例,同時(shí)也對(duì)主流軟件生態(tài)如FFMPEG、OpenCV等進(jìn)行了兼容支持,最大限度的遵循用戶使用習(xí)慣,幫助開(kāi)發(fā)者降低學(xué)習(xí)和開(kāi)發(fā)成本。
曦思N100人工智能推理GPU非常適合應(yīng)用于基于視覺(jué)的AI處理場(chǎng)景。沐曦已聯(lián)合合作伙伴打造了多種基于曦思N100的解決方案,如高密度視頻結(jié)構(gòu)化分析解決方案、高并發(fā)智能轉(zhuǎn)碼解決方案、光電混合異構(gòu)計(jì)算解決方案等,這些方案可廣泛應(yīng)用于城市安防、智慧交通、工業(yè)視覺(jué)、短視頻、云計(jì)算和智算中心等多個(gè)領(lǐng)域。
目前曦思N100已經(jīng)正式推向市場(chǎng),并進(jìn)入批量量產(chǎn)階段。沐曦將攜曦思以及未來(lái)更多的GPU產(chǎn)品持續(xù)為中國(guó)的社會(huì)發(fā)展和科技進(jìn)步提供強(qiáng)大算力!
審核編輯:湯梓紅
-
cpu
+關(guān)注
關(guān)注
68文章
10769瀏覽量
210425 -
gpu
+關(guān)注
關(guān)注
27文章
4631瀏覽量
128440 -
AI
+關(guān)注
關(guān)注
87文章
29359瀏覽量
267643 -
人工智能
+關(guān)注
關(guān)注
1789文章
46316瀏覽量
236479 -
沐曦
+關(guān)注
關(guān)注
0文章
26瀏覽量
1139
原文標(biāo)題:智算小課堂(第七課)——曦思N100:功能強(qiáng)大的AI全流程處理GPU
文章出處:【微信號(hào):沐曦MetaX,微信公眾號(hào):沐曦MetaX】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論