千行百業(yè)用AI大模型，為什么火山引擎是聚處？

“角兒是座兒叫出來的”，這句話不僅適合相聲藝術，也很符合AI大模型商業(yè)化的現(xiàn)狀。

今年以來，“大模型落地”成為AI和云產業(yè)的高頻詞。避免“叫好不叫座”，讓AI大模型更快地融入行業(yè)場景之中，被各行各業(yè)真正用起來，是當務之急。

行業(yè)用戶多、落地案例豐富的大模型及AI服務生態(tài)，才算完成從實驗室到商業(yè)化的閉環(huán)，才能在市場競爭中站穩(wěn)腳跟。

最近恰逢2024火山引擎AI創(chuàng)新巡展，來到了天津站，分享豆包大模型的最新進展，并攜手南開大學發(fā)布教育行業(yè)大模型應用開發(fā)平臺。豆包大模型成功走進“象牙塔”，打造了“AI+教育”的落地標桿。

另外值得一提的是一組最新數據，截至7月，豆包大模型平均每家企業(yè)客戶日均 Tokens使用量，較5月15日模型發(fā)布時期增長了22倍。在零售、汽車、智能終端等行業(yè)，都攜手企業(yè)用戶，落地了不少AI實踐。

火山引擎，讓AI大模型越來越“叫座”，在行業(yè)智能化中扮演著越來越重要的角色。

傳統(tǒng)相聲曲藝界有句話，叫“北京是出處，天津是聚處”。天津并非相聲發(fā)源地，卻將相聲藝術發(fā)揚光大。有人說，因為天津觀眾的欣賞眼光高，接受住天津觀眾的考驗，才算在相聲界站穩(wěn)腳跟。

我們也不妨就從南開大學的“AI+教育”實踐開始，看看火山引擎到底經受了哪些考驗，才最終在行業(yè)站穩(wěn)了腳跟。

要說哪些行業(yè)對AI技術和服務的要求較高，教育行業(yè)一定排在前列。

簡單來說，教育行業(yè)的用戶數字素養(yǎng)普遍比較高，對數字服務和體驗的要求也更高。而且，由于教學信息化、數字化變革早，科研任務的數據量大，高校數字基礎設施建設也相對成熟，對AI的需求更多在于如何提升教學/管理/服務水平。

所以，AI大模型要融入教育場景，帶來用戶體驗和管理效率上的實際提升，收獲認可，并不是一件容易的事。

以南開大學為例，通過深入的調研和測試，最終選擇與火山引擎合作，為師生的學習、工作和生活提供更加便捷、高效的服務。

此次“AI+教育”實踐，體現(xiàn)出三個特點：

1.融合程度深。南開大學利用火山引擎的AI技術，改革教學、科研及管理體系，打造國內首個全面融合大模型能力的智慧校園，在全國范圍內屬于先例，具有標桿意義。

2.落地范圍廣。目前，雙方已經在“AI技術設施”與“AI 管理服務”兩個場景，落地一批“AI+教育”場景化應用，如教學場景中的“大學語文學習助手”“編程實訓助手”，服務場景的“新一代校園AI智能融合門戶”“部門服務助手”，以及管理場景中的“數據管理助手”，全面滿足南開師生在教學和服務場景下的智慧學習、智能辦事、教學咨詢、數據查詢、知識答疑等需求。

3.升級難度小。此次南開大學的智能化升級，火山引擎幫助建設了先進的AI基礎設施，全力優(yōu)化AI總體技術服務的底座與能力，提供了從硬件算力到開發(fā)工具、推理部署的一系列系統(tǒng)。這個完備的AI服務生態(tài)，讓南開大學可以更聚焦于自身擅長的能力和行業(yè)經驗，減少了智能化升級的難度。

比如已經落地的南開大學大模型應用開發(fā)平臺，現(xiàn)已開放給南開的廣大師生，使用大語言模型變成像使用Windows操作系統(tǒng)一樣簡單、易用，教育智能化的創(chuàng)新速度和效率，自然也就大大提高了。

目前來看，一系列AI賦能項目的實施和AI應用的落地，讓南開大學在教學質量、科研效率和校園管理等方面都取得了顯著進步。

（南開大學副校長、教授、博士生導師方勇純）

南開大學副校長、教授、博士生導師方勇純表示：“南開大學攜手火山引擎，共同探索‘AI+教育’的創(chuàng)新模式，落地一批AI應用場景，培養(yǎng)一支高水平的AI人才隊伍，全場景擁抱大模型，推進‘數字南開’智慧校園建設。”

可以看到，火山引擎的全棧AI技術服務生態(tài)，已經在海河之濱，點亮了一座AI在教育行業(yè)的落地燈塔。

與南開大學的合作中，火山引擎輸出的不只有豆包大模型，還有火山方舟大模型服務平臺、HiAgent AI應用創(chuàng)新平臺以及AI全棧云等多種能力。這并不是孤例，而是很多行業(yè)引入AI的普遍現(xiàn)象。

隨著以大模型為主的AI技術不斷進化，涉及的相關技術體系也越來越龐雜，行業(yè)想要引入AI，需要考慮到算力資源、成本、開發(fā)工具、應用等方方面面，每一個環(huán)節(jié)都可能形成阻礙。這就使得行業(yè)從以往單一地采購硬件、算力或技術，轉變?yōu)橄到y(tǒng)性地引入AI能力。

這時候，綜合能力過硬的火山引擎，就迎來了驚艷亮相的舞臺機會。

相聲藝術的基本功是說學逗唱，火山引擎也在大模型落地行業(yè)場景時用到了三大基本功。

（火山引擎副總裁 張鑫）

功力一：更強模型。

行業(yè)用戶最擔心的，就是模型效果不達預期，無法在真實的生產環(huán)境中，利用大模型的理解、生成等能力，為業(yè)務提質增效。解決辦法，就是把AI能力構筑在足夠先進的模型底座上。

智源研究院旗下的 FlagEval 大模型評測平臺6月發(fā)布的評測榜單顯示，在閉源大模型的“客觀評測”中，豆包大模型以綜合評分75.96分排名國產大模型第一，并且還在不斷升級演進。2024火山引擎AI創(chuàng)新巡展－上海站最新數據顯示，豆包大模型綜合能力提升了20.3%，角色扮演等6個維度性能最高提升38.3%，可以支撐行業(yè)用戶構建更優(yōu)質的語音對話、文本理解與生成、圖像識別等AI應用。發(fā)布2個月以來，平均每家企業(yè)客戶日均Tokens使用量增長22倍。建立在規(guī)模使用量上的“數據飛輪”轉動起來，模型能力持續(xù)領先。

功力二：更易落地。

在實際業(yè)務中，AI大模型面臨的環(huán)境更復雜、干擾源也更多，因此算法的準確率、魯棒性等也會受影響，行業(yè)用戶要真正把AI用起來，還需要結合知識庫、專有數據、finetune進一步優(yōu)化。

讓AI落地無憂，火山引擎打造了從算力到應用的一系列平臺和解決方案。比如一站式大模型服務平臺火山方舟，提供模型精調、推理、評測等全方位功能與服務；模型層，豆包大模型家族，提供豐富的垂類模型，適配多種業(yè)務場景；應用層，企業(yè)級AI應用開發(fā)平臺扣子專業(yè)版，提供專業(yè)級SLA和多種高級特性，使AI應用更易落地。AI 應用創(chuàng)新平臺HiAgent，讓業(yè)務人員可以輕松構建智能體，適配企業(yè)個性化需求，簡化AI應用創(chuàng)新?；鹕揭?AI 全棧云依托字節(jié)跳動的海量資源共池，支持多芯、多云架構，擁有超大規(guī)模算力，解除“買不到、買不起”算力的后顧之憂。

在此次天津站活動中，不僅南開大學分享了基于火山引擎全棧云與AI服務的智慧校園應用探索，中國國航、協(xié)和醫(yī)院也分享了AI賦能業(yè)務的相關實踐。

功力三：更低價格。

隨著AI走向各行各業(yè)和生產環(huán)境，日常訓練和推理的使用量不斷增大，成本也變成了行業(yè)用戶在引入AI時最關注的要素之一。模型價格高，試錯成本高，會阻礙行業(yè)AI應用創(chuàng)新的意愿和行動。因此，更普惠的AI才是行業(yè)真正需要的。

幫助企業(yè)卸下成本負擔，火山引擎一方面從當前入手，直接削減大模型推理成本，通過技術手段優(yōu)化，讓豆包大模型在各家大模型最強版本價格對比中，比行業(yè)價格低98%以上；另一方面著眼于長期使用，提供業(yè)內最高標準的初始TPM（每分鐘Tokens）和RPM（每分鐘請求數），每分鐘處理Tokens 限額最高可達同梯隊模型數倍，以更低價格、更高吞吐，讓大模型在生產環(huán)境中用起來。

“叫好又叫座”的AI，不僅是發(fā)布會和實驗室里碾壓同行的漂亮數據與排名，更要走上行業(yè)舞臺、直面群眾，變成實際的案例與價值。

這是AI商業(yè)化所必須解決的挑戰(zhàn)，也是云和模型廠商猛攻的新賽道。而火山引擎，已經亮出了具有說服力、全面而深厚的AI功底。

行之有效的行業(yè)案例，可以證明大模型確實有實用價值，才能推動各行各業(yè)“移風易俗”，向AI奔涌而來。

從這個角度看，已經在教育、零售、汽車、智能終端等領域點亮了AI燈塔的火山引擎，正吸引著越來越多的行業(yè)客戶奔赴而來，為什么？

首先，“燈塔式”案例，可以照亮前路。當行業(yè)用戶不知道AI有什么用、怎么用，這些示范案例可以像燈塔一樣指明方向，讓其他同類用戶直接“抄作業(yè)”，減少創(chuàng)新的不確定性。

除了與南開大學進行“AI+教育”探索，火山引擎還在零售領域，推出了解決方案，包括以豆包大模型為基礎的智能導購、VOC洞察分析、零售客服質檢、零售客服陪練、練播房提升主播帶貨水平、企業(yè)商品知識庫等技術和工具，助力零售智能化升級和業(yè)務增長。

在汽車行業(yè)，2024年8月梅賽德斯-奔馳與火山引擎合作，探索大模型、生成式人工智能和大數據等技術在智能座艙、車載應用等領域的落地。

有了這些案例，行業(yè)用戶或許可以更勇敢一點，積極擁抱AI。

“燈塔”給出了升級方向，千行萬業(yè)用戶還要在陌生的智能航路上，獨自探索，其間可能遭遇的暗礁與孤獨感，這時則呼喚著伙伴同行。

為行業(yè)護航，火山引擎不僅親自出馬，搭建了完整的AI服務生態(tài)體系，也格外重視生態(tài)聯(lián)盟的建設。

今年5月成立的智能終端大模型聯(lián)盟，吸引了OPPO、vivo、三星、華碩等多個廠商，共同探索AI智能硬件的新路線；同月成立的汽車大模型生態(tài)聯(lián)盟，除了一汽紅旗、吉利、長城等車企外，還包括中國電動汽車百人會等行業(yè)組織也都加入，圍繞汽車大模型應用場景及路徑、汽車大模型行業(yè)標準、汽車大模型評估體系建設落地，行業(yè)白皮書發(fā)布等方向為汽車行業(yè)創(chuàng)新合作發(fā)展帶來新模式。

8月成立的零售大模型生態(tài)聯(lián)盟，則以AI交互為核心，將聯(lián)合零售上下游企業(yè)，重新定義購買、營銷、產品、供應鏈等場景，加速零售業(yè)的運營和周轉效率，全面提升消費者的購物體驗，推動行業(yè)進步發(fā)展。

上述生態(tài)聯(lián)盟的意義在于，能夠聚合產業(yè)的變革力量，讓行業(yè)用戶不再是AI路上的獨行者。

火山引擎的一系列生態(tài)化動作，正推動AI從落地企業(yè)，進入到了落地產業(yè)的新階段，讓智能化從一家企業(yè)、一個行業(yè)的探索，變成整個產業(yè)都在加速擁抱的未來。而火山引擎自身，也成為連接AI與產業(yè)的核心樞紐。

或許未來，當我們回顧這段產業(yè)智能化的升級歷程會說：火山引擎，既是AI技術的出處，也是千行百業(yè)的聚處。

審核編輯 黃宇