百度智能云國(guó)內(nèi)首家支持Llama3全系列訓(xùn)練推理！

4月18日，Meta 正式發(fā)布 Llama 3，包括8B 和 70B 參數(shù)的大模型，官方號(hào)稱有史以來最強(qiáng)大的開源大模型。4月19日，百度智能云千帆大模型平臺(tái)在國(guó)內(nèi)首家推出針對(duì)Llama3全系列版本的訓(xùn)練推理方案，便于開發(fā)者進(jìn)行再訓(xùn)練，搭建專屬大模型，現(xiàn)已開放邀約測(cè)試。

百度智能云千帆大模型平臺(tái)中各種尺寸模型定制工具千帆ModelBuilder已上架最新 Llama 3系列模型，用戶在「體驗(yàn)中心」可以隨時(shí)體驗(yàn)?zāi)Ｐ托Ч?。同時(shí)，開發(fā)者可以根據(jù)需求上傳數(shù)據(jù)，在千帆ModelBuilder上對(duì)部分模型進(jìn)行精調(diào)SFT，提升模型效果，打造您的個(gè)人專屬模型。

千帆ModelBuilder作為一個(gè)具備更優(yōu)效價(jià)比的企業(yè)大模型開發(fā)平臺(tái)，已預(yù)置了最全面最豐富的大模型和全流程的工具鏈。一方面預(yù)置了文心大模型ERNIE3.5和ERNIE4.0，適合通用的復(fù)雜場(chǎng)景，能力強(qiáng)大；另一方面還具備三個(gè)輕量級(jí)的大模型，分別是ERNIE Speed、Lite、Tiny，通過輕量級(jí)模型，再加上精調(diào)技術(shù)，用戶可以自助生產(chǎn)輕量的行業(yè)專家模型；除此之外還有兩個(gè)垂直場(chǎng)景的模型，分別是ERNIE Character 和ERNIE Functions，ERNIE Character 適合角色扮演，ERNIE Functions適合對(duì)話或問答場(chǎng)景中的外部工具使用和業(yè)務(wù)函數(shù)調(diào)用。同時(shí)千帆ModelBuilder也支持國(guó)內(nèi)外第三方主流模型，總數(shù)量達(dá)到79個(gè)，是國(guó)內(nèi)擁有大模型數(shù)量最多的開發(fā)平臺(tái)。

在模型的工具鏈部分，千帆ModelBuilder提供了全流程的大模型的開發(fā)平臺(tái)，包括數(shù)據(jù)管理、模型精調(diào)、模型評(píng)估與優(yōu)化、推理服務(wù)部署，在用戶的場(chǎng)景下我們的企業(yè)和開發(fā)者可以借助這樣的工具鏈快速達(dá)到甚至超過我們基礎(chǔ)大模型能力的新模型，主要是旗艦?zāi)Ｐ托Ч膶Ｓ媚Ｐ?，從而大幅度降低成本，同時(shí)這個(gè)模型的響應(yīng)速度也能夠提升。同時(shí)，千帆ModelBuilder也提供豐富的SDK以及全棧API的能力。

百度智能云千帆大模型平臺(tái)作為全球首個(gè)一站式的企業(yè)級(jí)大模型平臺(tái)，截止2024年4月，服務(wù)客戶數(shù)已突破8.5萬，平臺(tái)上已經(jīng)精調(diào)出1.4w個(gè)模型，并且開發(fā)應(yīng)用數(shù)也達(dá)到了19w的規(guī)模。

審核編輯：劉清