浪潮信息：元腦企智EPAI助力金融大模型快速落地

近日，2024金融科技應(yīng)用創(chuàng)新發(fā)展大會暨農(nóng)村金融機構(gòu)信息化發(fā)展創(chuàng)新座談會在上海舉辦。浪潮信息推出元腦企智EPAI企業(yè)大模型開發(fā)平臺，面向金融業(yè)務(wù)場景，實現(xiàn)7天完成POC驗證、2個月上線AI應(yīng)用，通過將浪潮信息在AI算力底座建設(shè)、大模型開發(fā)領(lǐng)域積累的成熟、成功經(jīng)驗工具化，助力金融機構(gòu)又快、又穩(wěn)地部署生成式AI應(yīng)用，助力金融數(shù)智化跨越式發(fā)展。

2024金融科技應(yīng)用創(chuàng)新發(fā)展大會 浪潮信息王鵬飛發(fā)表演講

浪潮信息售前技術(shù)支持部總經(jīng)理王鵬飛在會上表示，公司致力于推動金融行業(yè)的數(shù)智化轉(zhuǎn)型。元腦企智EPAI可為金融機構(gòu)量身定制，提供一站式大模型應(yīng)用開發(fā)部署解決方案。這一創(chuàng)新方案有助于金融機構(gòu)以低成本、少人力實現(xiàn)高效率的智能應(yīng)用開發(fā)，提升運營效率，降低風(fēng)險，滿足客戶的智能化、場景化需求。

"玩轉(zhuǎn)"大模型 中小金融機構(gòu)面臨"少技術(shù)、少資金、少數(shù)據(jù)"三大挑戰(zhàn)

在金融行業(yè)，可以說整個行業(yè)都在往數(shù)字化轉(zhuǎn)型的深水區(qū)積極探索，亟需以AI催生的數(shù)字金融、科技金融為抓手，塑造數(shù)字金融新業(yè)態(tài)新模式。

從政策上，根據(jù)三中全會精神，金融行業(yè)要進一步深化金融供給側(cè)結(jié)構(gòu)性改革，扎實做好"五篇大文章"。因此各家金融機構(gòu)實施了從積極布局大模型，到關(guān)注金融行業(yè)大模型，再到聚焦金融應(yīng)用場景的模型建設(shè)的系列舉措。六大國有銀行已在多個領(lǐng)域應(yīng)用大模型，例如工行為20萬網(wǎng)點員工打造智能助手，通過大模型吸納全行50類業(yè)務(wù)，輔助柜員辦理復(fù)雜業(yè)務(wù)、提升網(wǎng)點效能，智能處理業(yè)務(wù)量顯著增長，23年智能處理業(yè)務(wù)量3.2億筆，同比增長14%。同時，12家股份制銀行中已有超過6家正在推進大模型及相關(guān)應(yīng)用，中信銀行開發(fā)大模型平臺，興業(yè)銀行實現(xiàn)研報摘要智能生成，浦發(fā)和平安銀行加強大模型平臺和底座建設(shè)。金融機構(gòu)對大模型的需求不僅是發(fā)展得"如火如荼"，而且對"增效"要求越來越迫切，金融機構(gòu)在積極推動大模型在金融領(lǐng)域的落地實踐。

金融大模型落地面臨的技術(shù)挑戰(zhàn)

然而金融機構(gòu)想要部署大模型，仍有許多痛點。對于城商行、農(nóng)商行、農(nóng)信等中小金融企業(yè)或機構(gòu)，想要"玩轉(zhuǎn)"大模型，需要克服自身在數(shù)字資源、科技能力、業(yè)務(wù)場景等方面的限制，突破算法、算力、數(shù)據(jù)方面的屏障。

首先，從基礎(chǔ)模型到實際應(yīng)用，不僅需要軟硬件的更新，還需要在制度、流程和管理等方面進行調(diào)整。比如，在金融大模型開發(fā)，從模型的選型、定制部署到應(yīng)用開發(fā)的全流程，打造一套成熟的方案顯得尤為重要。這不僅涉及到技術(shù)層面的考量，還包括了業(yè)務(wù)需求的深入理解、資源的合理配置以及未來擴展性的預(yù)見。一個久經(jīng)打磨、成熟穩(wěn)健的方案能夠確保金融大模型項目的順利進行，同時也能為后續(xù)的維護和升級提供堅實的基礎(chǔ)。

其次，作為金融企業(yè)，歸根到底在經(jīng)營客戶、業(yè)務(wù)、產(chǎn)品，以及貨幣、風(fēng)險，模型服務(wù)要以盈利為目標，因此資金預(yù)算也是現(xiàn)實的考量。

第三，金融機構(gòu)的數(shù)據(jù)資源，尤其是面向模型微調(diào)所需的高質(zhì)量數(shù)據(jù)的缺乏，也是擺在面前的現(xiàn)實問題。

元腦企智助力金融機構(gòu)快速部署大模型

元腦企智EPAI(Enterprise Platform of AI)，正是浪潮信息的大模型應(yīng)用落地解決之道，能夠為企業(yè)AI大模型落地應(yīng)用提供高效、易用、安全的端到端開發(fā)平臺，提供數(shù)據(jù)準備、模型訓(xùn)練、知識檢索、應(yīng)用框架等系列工具，支持調(diào)度多元算力和多模算法，幫助企業(yè)高效開發(fā)部署生成式AI應(yīng)用、打造智能生產(chǎn)力。

浪潮信息元腦企智EPAI 為中小金融機構(gòu)量身定制

首先，從創(chuàng)新大腦到多元算力底座，元腦企智EPAI具有架構(gòu)上的優(yōu)勢。

元腦企智擁有一個包含多種模型的大模型庫，這是其核心部分。它分為三個主要部分：首先，提供場景數(shù)據(jù)，元腦企智利用上億條基礎(chǔ)知識數(shù)據(jù)和自動化工具幫助企業(yè)構(gòu)建知識庫。其次，模型定制，通過微調(diào)增強模型的學(xué)習(xí)能力，并利用知識庫檢索技術(shù)提升模型的查找能力。最后，應(yīng)用構(gòu)建和開發(fā)，元腦企智支持設(shè)定模型角色和偏好，配置功能化工具，并提供多種使用方式，同時確保全鏈路安全。此外，元腦企智的底座是適配多元、多模的多元算力Infra基礎(chǔ)設(shè)施，包括元腦企智EPAI一體機，以及高效的多元算力管理調(diào)度工具。

其次，浪潮信息利用元腦企智提供一站式金融大模型應(yīng)用孵化，涵蓋三個主要步驟。其一，確定應(yīng)用類型和預(yù)期效果;其二，根據(jù)需求和成本選擇合適的基礎(chǔ)大模型，并參考公開數(shù)據(jù)集;最后，通過提示詞工程、RAG和模型微調(diào)增強模型場景能力。最后，完成這些步驟后，可以部署模型并開發(fā)應(yīng)用，如集成API服務(wù)到業(yè)務(wù)系統(tǒng)或提供對話式機器人。對于復(fù)雜任務(wù)，智能體Agent可進行任務(wù)編排和工具調(diào)用。

王鵬飛認為，元腦企智之所以能一站式開發(fā)部署AI應(yīng)用，"內(nèi)功"非常重要。主要依托了幾大優(yōu)勢。從數(shù)據(jù)工程上，元腦企智支持10種以上的企業(yè)常見數(shù)據(jù)格式，并可以超過95%的抽取準確率將其轉(zhuǎn)化為知識庫以及模型可用的微調(diào)數(shù)據(jù)。從模型開發(fā)上，元腦企智支持10種以上的開源大模型和接口協(xié)議，并逐步支持20種以上的計算芯片上的模型完全私有化部署。從算法功能上，元腦企智能夠達到90%以上的RAG檢索召回準確率，最快構(gòu)建模型服務(wù)API的時間不足0.5天，且支持多種插件、IDE和編程語言。此外，元腦企智提供了低代碼乃至無代碼的環(huán)境，應(yīng)用開發(fā)速度大大提高、培訓(xùn)周期顯著縮短，有利于企業(yè)的降本增效。正是通過類似的開發(fā)范式，元腦企智可以便捷的助力各類金融場景應(yīng)用的開發(fā)，讓金融企業(yè)真正玩轉(zhuǎn)大模型。

7天快速測試驗證 助力金融大模型輕松上手

浪潮信息自推出元腦企智EPAI以來，成功實施了智能編程、智能客服大腦和智能投標助手等應(yīng)用案例。智能客服大腦利用金融業(yè)務(wù)數(shù)據(jù)構(gòu)建，能解決80%常見問題，并能與現(xiàn)有服務(wù)集成，提供自動化流程和智能化業(yè)務(wù)支持。智能編程助手借助元腦企智自動解析大型代碼庫，提升開發(fā)效率。智能投標助手能快速識別招標文件關(guān)鍵信息，節(jié)省業(yè)務(wù)時間，提高工作效率。

元腦企智助力金融機構(gòu) 輕松上手大模型

據(jù)王鵬飛介紹，元腦企智助力金融客戶實現(xiàn)項目快速實施，時間上最短7天，最長2個月。以最復(fù)雜的聯(lián)合共創(chuàng)為例，以項目的形式劃分為前期試用、方案確認、本地定制開發(fā)、驗收落地四個階段。雖然流程比較長，但核心的應(yīng)用開發(fā)部分一般2~3周內(nèi)完成;對于通常的大模型應(yīng)用簡單驗證，不超過7天即可完成。

元腦企智EPAI，是浪潮信息2024年具有戰(zhàn)略意義的產(chǎn)品，體現(xiàn)了浪潮信息一直在AI領(lǐng)域的前沿不停探索開拓的能力和決心。浪潮信息期望能將自身的AI成果賦能金融行業(yè)等千行百業(yè)，與客戶、合作伙伴共同攜手，加速AI創(chuàng)新落地。