昆侖芯軟硬一體端到端解決方案滿足客戶在不同場(chǎng)景的真實(shí)算力需求

近日，“未來(lái)網(wǎng)絡(luò)助力東數(shù)西算論壇”（以下簡(jiǎn)稱“論壇”）在南京成功舉辦。作為第七屆未來(lái)網(wǎng)絡(luò)發(fā)展大會(huì)的主題活動(dòng)之一，本次論壇邀請(qǐng)了政府領(lǐng)導(dǎo)、專家學(xué)者及行業(yè)精英，圍繞“東數(shù)西算”工程的政策規(guī)劃、工程實(shí)施、示范應(yīng)用、產(chǎn)業(yè)鏈生態(tài)建設(shè)等方面展開(kāi)深入探討，以期形成未來(lái)網(wǎng)絡(luò)支撐“東數(shù)西算”工程的共識(shí)，助力構(gòu)建國(guó)家算力網(wǎng)絡(luò)體系的新模式。

2022年，“東數(shù)西算”工程正式啟動(dòng)，并首次將算力資源提升到水、電、燃?xì)獾然A(chǔ)資源的高度。相關(guān)數(shù)據(jù)顯示，到2023年底，全國(guó)數(shù)據(jù)中心總算力將超過(guò)200EFLOPS，高性能算力占比將達(dá)到10%。我國(guó)算力基礎(chǔ)設(shè)施迎來(lái)了大規(guī)模需求的繁榮期，而算力基礎(chǔ)設(shè)施的核心正是AI芯片。

“將東部算力需求有序引導(dǎo)到西部，促進(jìn)東西部協(xié)同聯(lián)動(dòng)為大勢(shì)所趨。在此背景下，昆侖芯率先推出軟硬一體的端到端解決方案，滿足客戶在不同場(chǎng)景的真實(shí)算力需求?！崩鲂綜EO歐陽(yáng)劍受邀出席論壇，并帶來(lái)題為《東數(shù)西算“芯”基建，加速大模型產(chǎn)業(yè)落地》的精彩分享。

在論壇分享中歐陽(yáng)劍表示：“昆侖芯深耕AI加速領(lǐng)域十余年，擁有深刻的場(chǎng)景理解、深厚的技術(shù)積累、完備的軟件生態(tài)等獨(dú)特優(yōu)勢(shì)。目前，昆侖芯系列產(chǎn)品已在語(yǔ)義搜索、文心一格、能源行業(yè)大模型以及智源研究院等實(shí)際場(chǎng)景中得到規(guī)模應(yīng)用。此外，昆侖芯全面擁抱開(kāi)源社區(qū)，打造大模型開(kāi)源推理套件，助力優(yōu)化國(guó)內(nèi)AI生態(tài)布局。面向未來(lái)，昆侖芯將繼續(xù)攜手生態(tài)伙伴，用算力筑牢東數(shù)西算‘芯’基建。”

“跨廣域工業(yè)視覺(jué)大模型算網(wǎng)融合技術(shù)”重大成果正式對(duì)外發(fā)布

在本次大會(huì)上，昆侖芯助力百度智能云基于未來(lái)網(wǎng)絡(luò)試驗(yàn)設(shè)施（CENI）打造的“跨廣域工業(yè)視覺(jué)大模型算網(wǎng)融合技術(shù)”，作為重大成果在第七屆未來(lái)網(wǎng)絡(luò)發(fā)展大會(huì)上正式對(duì)外發(fā)布。

該技術(shù)成果依托于昆侖芯算力集群、百度文心視覺(jué)大模型、未來(lái)網(wǎng)絡(luò)試驗(yàn)設(shè)施（CENI），將算力、網(wǎng)絡(luò)、大模型和應(yīng)用場(chǎng)景融合，實(shí)現(xiàn)行業(yè)大模型跨廣域精調(diào)、推理服務(wù)，改變過(guò)去只能在工廠端就近部署算力和模型的方式，解決了工業(yè)場(chǎng)景產(chǎn)業(yè)鏈環(huán)節(jié)多、鏈條長(zhǎng)等問(wèn)題，降低企業(yè)使用行業(yè)大模型的門檻。

針對(duì)鋼鐵行業(yè)工業(yè)質(zhì)檢場(chǎng)景，在南京和上海之間，“算網(wǎng)融合技術(shù)”完成了跨廣域間的“精調(diào)和推理”測(cè)試。

測(cè)試結(jié)果顯示，在相距超300公里的兩地之間，可實(shí)現(xiàn)行業(yè)大模型的推理、訓(xùn)練圖片數(shù)據(jù)丟包率為0，語(yǔ)料獲取效率提升83%，推理效率提升42%，云端算力相比本地化算力部署，模型精調(diào)訓(xùn)練后精度提升10%。

通過(guò)測(cè)試論證，算網(wǎng)融合技術(shù)能夠同時(shí)滿足企業(yè)對(duì)工業(yè)視覺(jué)大模型推理端到端業(yè)務(wù)和精調(diào)訓(xùn)練的性能需求，可以支撐后續(xù)視覺(jué)大模型在工業(yè)領(lǐng)域的場(chǎng)景落地和商業(yè)化。同時(shí)，基于昆侖芯的算力集群，大模型訓(xùn)練速度相比本地化算力部署顯著提升。

過(guò)去六屆未來(lái)網(wǎng)絡(luò)發(fā)展大會(huì)發(fā)布了網(wǎng)絡(luò)通信領(lǐng)域十余項(xiàng)全球領(lǐng)先的創(chuàng)新成果，其中相當(dāng)一部分成果已被廣泛應(yīng)用于產(chǎn)業(yè)實(shí)踐和國(guó)家關(guān)鍵領(lǐng)域的建設(shè)中。

未來(lái)，昆侖芯將繼續(xù)發(fā)揮強(qiáng)大算力底座的關(guān)鍵支撐性作用，攜手千行百業(yè)眾多合作伙伴，加速算力網(wǎng)絡(luò)創(chuàng)新成果轉(zhuǎn)化和產(chǎn)業(yè)應(yīng)用，穩(wěn)步推進(jìn)“東數(shù)西算”工程落地，助力我國(guó)數(shù)字化、網(wǎng)絡(luò)化、智能化高質(zhì)量發(fā)展。

審核編輯：彭菁