AI重塑千行百業(yè) 華為云發(fā)布盤(pán)古大模型3.0和昇騰AI云服務(wù)

華為開(kāi)發(fā)者大會(huì)2023（Cloud）7月7日在中國(guó)東莞正式揭開(kāi)帷幕，并同時(shí)在全球10余個(gè)國(guó)家、中國(guó)30多個(gè)城市設(shè)有分會(huì)場(chǎng)，邀請(qǐng)全球開(kāi)發(fā)者共聚一堂，就AI浪潮之下的產(chǎn)業(yè)新機(jī)會(huì)和技術(shù)新實(shí)踐開(kāi)展交流分享。

在7日下午舉行的大會(huì)主題演講中，華為常務(wù)董事、華為云CEO張平安重磅發(fā)布盤(pán)古大模型3.0和昇騰AI云服務(wù)。其中，盤(pán)古大模型3.0圍繞“行業(yè)重塑”“技術(shù)扎根”“開(kāi)放同飛”三大創(chuàng)新方向，持續(xù)打造核心競(jìng)爭(zhēng)力，為行業(yè)客戶、伙伴及開(kāi)發(fā)者提供更好的服務(wù)。昇騰AI云服務(wù)單集群提供2000P Flops算力，千卡訓(xùn)練30天長(zhǎng)穩(wěn)率達(dá)到90%，為業(yè)界提供穩(wěn)定可靠的AI算力，讓大模型觸手可及。

華為常務(wù)董事、華為云CEO張平安重磅發(fā)布盤(pán)古大模型3.0

張平安表示：“盤(pán)古大模型要讓每個(gè)行業(yè)、每個(gè)企業(yè)、每個(gè)人都擁有自己的專家助手，讓工作更高效更輕松。我們始終堅(jiān)持AI for Industries的戰(zhàn)略，在深耕行業(yè)的道路上不斷前行。我堅(jiān)信大模型將重塑千行百業(yè)，而每一個(gè)開(kāi)發(fā)者，都將是改變世界的英雄?！?/p>

盤(pán)古大模型3.0：重塑千行百業(yè)

華為云盤(pán)古大模型從一開(kāi)始就聚焦為行業(yè)服務(wù)，本次大會(huì)發(fā)布的盤(pán)古大模型3.0也是一個(gè)面向行業(yè)的大模型系列，包括“5+N+X”三層架構(gòu)：

L0層包括自然語(yǔ)言、視覺(jué)、多模態(tài)、預(yù)測(cè)、科學(xué)計(jì)算五個(gè)基礎(chǔ)大模型，提供滿足行業(yè)場(chǎng)景中的多種技能需求。盤(pán)古3.0為客戶提供100億參數(shù)、380億參數(shù)、710億參數(shù)和1000億參數(shù)的系列化基礎(chǔ)大模型，匹配客戶不同場(chǎng)景、不同時(shí)延、不同響應(yīng)速度的行業(yè)多樣化需求。同時(shí)提供全新能力集，包括NLP大模型的知識(shí)問(wèn)答、文案生成、代碼生成，以及多模態(tài)大模型的圖像生成、圖像理解等能力，這些技能都可以供客戶和伙伴企業(yè)直接調(diào)用。無(wú)論多大參數(shù)規(guī)模的大模型，盤(pán)古提供一致的能力集。

L1層是N個(gè)行業(yè)大模型，華為云既可以提供使用行業(yè)公開(kāi)數(shù)據(jù)訓(xùn)練的行業(yè)通用大模型，包括政務(wù)，金融，制造，礦山，氣象等大模型；也可以基于行業(yè)客戶的自有數(shù)據(jù)，在盤(pán)古大模型的L0和L1層上，為客戶訓(xùn)練自己的專有大模型。

L2層為客戶提供了更多細(xì)化場(chǎng)景的模型，更加專注于政務(wù)熱線、網(wǎng)點(diǎn)助手、先導(dǎo)藥物篩選、傳送帶異物檢測(cè)、臺(tái)風(fēng)路徑預(yù)測(cè)等具體行業(yè)應(yīng)用或特定業(yè)務(wù)場(chǎng)景，為客戶提供“開(kāi)箱即用”的模型服務(wù)。

盤(pán)古大模型采用完全的分層解耦設(shè)計(jì)，可以快速適配、快速滿足行業(yè)的多變需求?？蛻艏瓤梢詾樽约旱拇竽Ｐ图虞d獨(dú)立的數(shù)據(jù)集，也可以單獨(dú)升級(jí)基礎(chǔ)模型，也可以單獨(dú)升級(jí)能力集。在L0和L1大模型的基礎(chǔ)上，華為云還為客戶提供了大模型行業(yè)開(kāi)發(fā)套件，通過(guò)對(duì)客戶自有數(shù)據(jù)的二次訓(xùn)練，客戶就可以擁有自己的專屬行業(yè)大模型。同時(shí)，根據(jù)客戶不同的數(shù)據(jù)安全與合規(guī)訴求，盤(pán)古大模型還提供了公用云、大模型云專區(qū)、混合云多樣化的部署形態(tài)。

華為常務(wù)董事、華為云CEO張平安

“盤(pán)古為行業(yè)而生，就要為行業(yè)著想，更好地服務(wù)千行百業(yè)的客戶”，張平安表示。如今，盤(pán)古大模型已在金融、金融、制造、醫(yī)藥研發(fā)、煤礦、鐵路等諸多行業(yè)發(fā)揮著巨大價(jià)值。

在政務(wù)領(lǐng)域，華為云攜手深圳市福田區(qū)政務(wù)服務(wù)數(shù)據(jù)管理局，上線了基于盤(pán)古政務(wù)大模型的福田政務(wù)智慧助手小福，能夠精準(zhǔn)理解民眾咨詢意圖，改變傳統(tǒng)的一網(wǎng)通辦模式，把老百姓的話語(yǔ)轉(zhuǎn)化為政府辦事的語(yǔ)言，讓城市更有愛(ài)。盤(pán)古政務(wù)大模型對(duì)超過(guò)20萬(wàn)條政務(wù)數(shù)據(jù)進(jìn)行精調(diào)，包括12345熱線、政策文件、政務(wù)百科等，掌握了豐富的法律法規(guī)、辦事流程等行業(yè)知識(shí)?；诒P(pán)古政務(wù)大模型的小福，在一網(wǎng)通辦業(yè)務(wù)中體現(xiàn)出行業(yè)性、專業(yè)性、領(lǐng)先性和惠民性。

華為云EI服務(wù)產(chǎn)品部部長(zhǎng)尤鵬介紹盤(pán)古政務(wù)大模型

在煤礦領(lǐng)域，盤(pán)古礦山大模型已經(jīng)在全國(guó)8個(gè)礦井規(guī)模使用，一個(gè)大模型可以覆蓋煤礦的采、掘、機(jī)、運(yùn)、通、洗選等業(yè)務(wù)流程下的1000多個(gè)細(xì)分場(chǎng)景，讓更多的煤礦工人能夠在地面上作業(yè)，不僅能讓煤礦工人的工作環(huán)境更加舒適，而且可以極大地減少安全事故。

在鐵路領(lǐng)域，盤(pán)古鐵路大模型能精準(zhǔn)識(shí)別現(xiàn)網(wǎng)運(yùn)行的67種貨車(chē)、430多種故障，無(wú)故障圖片篩除率高達(dá)95%，成為貨運(yùn)列檢員身邊有力的數(shù)字助手，將列檢員從每日數(shù)百萬(wàn)張的“圖?！睓z測(cè)中解放出來(lái)。

在氣象領(lǐng)域，盤(pán)古氣象大模型是首個(gè)精度超過(guò)傳統(tǒng)數(shù)值預(yù)報(bào)方法的AI預(yù)測(cè)模型，同時(shí)預(yù)測(cè)速度也有大幅提升。原來(lái)預(yù)測(cè)一個(gè)臺(tái)風(fēng)未來(lái)10天的路徑，需要在3000臺(tái)服務(wù)器的高性能計(jì)算機(jī)集群上花費(fèi)5小時(shí)進(jìn)行仿真?，F(xiàn)在基于預(yù)訓(xùn)練的盤(pán)古氣象大模型，通過(guò)AI推理的方式，研究者只需單臺(tái)服務(wù)器上單卡配置，10秒內(nèi)就可以獲得更精確的預(yù)測(cè)結(jié)果。

華為云人工智能領(lǐng)域首席科學(xué)家田奇介紹如何從基礎(chǔ)大模型煉成行業(yè)大模型

在金融領(lǐng)域，盤(pán)古金融大模型可以對(duì)銀行的各種操作、政策、案例文檔進(jìn)行預(yù)訓(xùn)練，能根據(jù)客戶的問(wèn)題，為柜臺(tái)工作人員自動(dòng)生成流程和操作指導(dǎo)，將原來(lái)需要平均5次的操作降低為1次，辦結(jié)時(shí)間縮短5分鐘以上。盤(pán)古大模型讓數(shù)十萬(wàn)網(wǎng)點(diǎn)柜員都擁有自己的智慧助手。

在制造領(lǐng)域，過(guò)去單產(chǎn)線制定器件分配計(jì)劃，往往要花費(fèi)3個(gè)小時(shí)以上才能做齊1天的生產(chǎn)計(jì)劃。盤(pán)古制造大模型學(xué)習(xí)了華為產(chǎn)線上各種器件數(shù)據(jù)、業(yè)務(wù)流程及規(guī)則以后，能夠?qū)I(yè)務(wù)需求進(jìn)行準(zhǔn)確的意圖理解，并調(diào)用天籌AI求解器插件，1分鐘即可做出未來(lái)3天的生產(chǎn)計(jì)劃。

在藥物研發(fā)領(lǐng)域，原來(lái)一款新藥研發(fā)平均需要10年時(shí)間、花費(fèi)10億美金。盤(pán)古藥物分子大模型助力西安交通大學(xué)第一附屬醫(yī)院劉冰教授團(tuán)隊(duì)發(fā)現(xiàn)全球40年來(lái)首個(gè)新靶點(diǎn)、新類別的抗生素，并將先導(dǎo)藥物研發(fā)周期縮短至1個(gè)月、研發(fā)成本降低70%。

技術(shù)扎根、極致效能，打造世界AI另一極

大模型的創(chuàng)新不僅僅是模型自身的創(chuàng)新，更依賴于AI的各項(xiàng)根技術(shù)創(chuàng)新。華為在最底層構(gòu)建了以鯤鵬和昇騰為基礎(chǔ)的AI算力云平臺(tái)，以及異構(gòu)計(jì)算架構(gòu)CANN、全場(chǎng)景AI框架昇思MindSpore，AI開(kāi)發(fā)生產(chǎn)線ModelArts等，為大模型開(kāi)發(fā)和運(yùn)行提供分布式并行加速，算子和編譯優(yōu)化、集群級(jí)通信優(yōu)化等關(guān)鍵能力?；谌A為的AI根技術(shù)，大模型訓(xùn)練效能可以調(diào)優(yōu)到業(yè)界主流GPU的1.1倍。

華為諾亞方舟實(shí)驗(yàn)室主任姚駿介紹盤(pán)古基礎(chǔ)大模型全棧創(chuàng)新

算力是訓(xùn)練大模型的基礎(chǔ)。在本次大會(huì)上，張平安宣布單集群2000P Flops算力的昇騰AI云服務(wù)在華為云的烏蘭察布和貴安AI算力中心同時(shí)上線。昇騰AI云服務(wù)除了支持華為全場(chǎng)景AI框架昇思MindSpore外，還支持Pytorch、Tensorflow等主流AI框架。同時(shí)，這些框架中90%的算子，都可以通過(guò)華為端到端的遷移工具平滑遷移到昇騰平臺(tái)。例如，美圖僅用30天就將70個(gè)模型遷移到了昇騰，同時(shí)華為云和美圖團(tuán)隊(duì)一起進(jìn)行了30多個(gè)算子的優(yōu)化以及流程的并行加速，AI性能較原有方案提升了30%。

此外，在大模型訓(xùn)練過(guò)程中經(jīng)常會(huì)遇到GPU故障，研發(fā)人員不得不經(jīng)常重啟訓(xùn)練，時(shí)間長(zhǎng)，代價(jià)大。昇騰AI云服務(wù)可以提供更長(zhǎng)穩(wěn)的AI算力服務(wù)，千卡訓(xùn)練30天長(zhǎng)穩(wěn)率達(dá)到90%，斷點(diǎn)恢復(fù)時(shí)長(zhǎng)不超過(guò)10分鐘。

“為了幫助全球客戶、伙伴、開(kāi)發(fā)者訓(xùn)練和使用大模型，我們致力于為全球客戶打造世界AI另一極，為所有AI開(kāi)發(fā)者提供新的選擇”，張平安表示。

深度融合，盤(pán)古大模型重構(gòu)產(chǎn)品創(chuàng)新

除了在千行百業(yè)的落地實(shí)踐，華為云盤(pán)古大模型也深度融入了華為云的產(chǎn)品服務(wù)，重構(gòu)產(chǎn)品創(chuàng)新。

例如，在資料服務(wù)中，通過(guò)盤(pán)古大模型的文案生成和代碼生成技術(shù)，能夠提升資料撰寫(xiě)和前端代碼編寫(xiě)效率，將新產(chǎn)品上市、賦能周期大為縮短。在云客服，通過(guò)嵌入行業(yè)知識(shí)庫(kù)和意圖挖掘能力的對(duì)話問(wèn)答，實(shí)現(xiàn)全流程AI優(yōu)先作答，提升客服工作效率30%。在BI，通過(guò)NL2SQL和AutoGraph智能路由，實(shí)現(xiàn)SQL到可視化圖表的自動(dòng)推薦，通過(guò)多輪自然語(yǔ)言交互，讓人人都能便捷地從數(shù)據(jù)中洞察業(yè)務(wù)細(xì)節(jié)。在云搜索，通過(guò)多模態(tài)Embedding和NL2API技術(shù)，實(shí)現(xiàn)視頻、文本、圖譜等廣泛場(chǎng)景搜索，借助強(qiáng)大的語(yǔ)義理解和泛化能力，讓搜索準(zhǔn)確率提高15%。

同時(shí)，華為云將CodeArts研發(fā)工具與盤(pán)古大模型相結(jié)合，正式發(fā)布了面向開(kāi)發(fā)者的智能編程助手CodeArts Snap。該工具訓(xùn)練了760億行精選代碼、1300萬(wàn)篇技術(shù)文檔，具備智能生成、智能問(wèn)答、智能協(xié)同三大核心功能，可以實(shí)現(xiàn)一句對(duì)話讓代碼生成、一次點(diǎn)擊即可自動(dòng)注釋和生成測(cè)試用例，一條指令即可智能部署，讓每個(gè)軟件開(kāi)發(fā)者都有自己的編程助手。

華為云PaaS服務(wù)產(chǎn)品部部長(zhǎng)徐峰介紹CodeArts重塑軟件開(kāi)發(fā)

此外，為了讓企業(yè)在AI時(shí)代構(gòu)筑更強(qiáng)的內(nèi)容創(chuàng)新能力，華為云通過(guò)盤(pán)古基礎(chǔ)大模型賦能MetaStudio數(shù)字內(nèi)容生產(chǎn)線，打造了盤(pán)古數(shù)字人大模型，提供模型生成和模型驅(qū)動(dòng)兩大服務(wù)，并已經(jīng)使用了20萬(wàn)小時(shí)音視頻數(shù)據(jù)進(jìn)行了預(yù)訓(xùn)練?；谶@兩大服務(wù)，開(kāi)發(fā)者可以快速生成和驅(qū)動(dòng)數(shù)字人模型，賦能在線教育、文娛直播、企業(yè)會(huì)議等行業(yè)應(yīng)用，讓每個(gè)企業(yè)員工實(shí)現(xiàn)“數(shù)字人自由”。例如，用戶只需在華為云MetaStudio的服務(wù)頁(yè)面上傳20秒的個(gè)人視頻，就可以快速生成個(gè)性化的數(shù)字人講解視頻，過(guò)去3個(gè)研發(fā)人員3天完成的工作，現(xiàn)在只需要3分鐘就可以完成。

華為云媒體服務(wù)產(chǎn)品部部長(zhǎng)呂陽(yáng)明介紹MetaStudio重塑數(shù)字內(nèi)容生產(chǎn)

開(kāi)放同飛，攜手客戶伙伴共贏大模型生態(tài)

華為云致力于構(gòu)建以開(kāi)發(fā)者為核心的、開(kāi)放共贏的全球生態(tài)體系。目前，華為云全球開(kāi)發(fā)者數(shù)量已超過(guò)460萬(wàn)，云商店上架的商品已達(dá)10000多個(gè)。華為云提供了易用可靠的大模型工具套件、匯聚海量多行業(yè)場(chǎng)景API的開(kāi)天aPaaS，以及包含豐富優(yōu)質(zhì)課程和技術(shù)認(rèn)證的大模型專屬社區(qū)，希望與開(kāi)發(fā)者及伙伴一起，共同探索盤(pán)古大模型與行業(yè)結(jié)合的創(chuàng)新路徑。

華為云全球生態(tài)部總裁康寧展示大模型生態(tài)計(jì)劃

大模型的發(fā)展離不開(kāi)高質(zhì)量數(shù)據(jù)的持續(xù)輸入。華為云聯(lián)合中國(guó)公共關(guān)系協(xié)會(huì)、文化大數(shù)據(jù)產(chǎn)業(yè)委員會(huì)、以及多家伙伴單位，共同倡議成立大模型高質(zhì)量數(shù)據(jù)聯(lián)盟。聯(lián)盟將匯聚來(lái)自各成員單位的開(kāi)放數(shù)據(jù)，打造覆蓋千行百業(yè)的高質(zhì)量數(shù)據(jù)集，促進(jìn)行業(yè)大模型的蓬勃發(fā)展。

開(kāi)發(fā)者是推動(dòng)數(shù)字創(chuàng)新的核心力量。本次大會(huì)上，主題為“創(chuàng)想無(wú)限”的2023華為開(kāi)發(fā)者大賽正式啟動(dòng)。作為華為ICT領(lǐng)域的頂級(jí)賽事，華為開(kāi)發(fā)者大賽開(kāi)設(shè)云底座和產(chǎn)業(yè)兩大賽道，覆蓋中國(guó)、亞太、歐洲、北非、拉美五大賽區(qū)，讓開(kāi)發(fā)者在人工智能領(lǐng)域大展身手，實(shí)現(xiàn)創(chuàng)新性應(yīng)用開(kāi)發(fā)。