KIMI與海內(nèi)外主流模型對比及應(yīng)用方向

KIMI與海內(nèi)外主流模型對比及應(yīng)用方向

Q：KIMI模型是使用MOE模型嗎？現(xiàn)在的算力是否已經(jīng)很缺，如果用戶量增加，會不會更加缺乏算力？以及這對公司的財務(wù)狀況有何影響？

A：是的，KIMI模型使用的是MOE模型。日前算力確實已經(jīng)相對缺乏，主要是因為用戶增長速度超出預(yù)期，導(dǎo)致即便有動態(tài)擴容操作也難以應(yīng)對突增的流量。就目前而言，算力缺乏的情況已經(jīng)顯現(xiàn)，公司也在緊急擴容中。

對于算力的問題，雖然目前確實面臨挑戰(zhàn)，但不是無解的問題。背后有大公司的支持和注資，如字節(jié)跳動和阿里巴巴，因此從長遠(yuǎn)來看，算力的問題是可以得到解決的。

“目前算力確實已經(jīng)相對缺乏”，“背后有大公司的支持和注資”。關(guān)于財務(wù)狀況，目前公司確實在燒錢，但這是初期投入，目的是先打磨產(chǎn)品。

現(xiàn)階段雖然燒錢，但公司已經(jīng)有了一些B端的付費用戶，雖然C端還未開始盈利，預(yù)計在不久的將來，隨著問題的解決和用戶基數(shù)的增加，公司有望逐步實現(xiàn)商業(yè)化并開始回收投資?！澳壳肮敬_實在燒錢”，“預(yù)計在不久的將來，公司有望逐步實現(xiàn)商業(yè)化”。

Q：如果DAU達到100萬，對公司的成本消耗有何影響？

A：成本消耗可以通過對用戶平均需求的計算得出。一位用戶大約會產(chǎn)生10萬token的需求，按照平均價格計算，每位用戶的成本大約在50到60元人民幣左右。

因此，如果DAU達到100萬，可以按照這個單價進行估算，得出整體的成本消耗。不過，實際的成本會因人而異，取決于每個用戶的具體需求。“每位用戶的成本大約在50到60元人民幣左右”。

Q：目前對內(nèi)地與海外主流大模型的能力有何評價？KIMI的應(yīng)用方向和通用能力是否有區(qū)別？

A：在中文領(lǐng)域，目前國內(nèi)的一些大模型，例如KIMI，已經(jīng)在多數(shù)維度上超越了GPT-3.5。這些模型在處理中文時已經(jīng)達到了很高的能力，有的在特定場景下甚至超過了GPT-4。但對于其他一些較為困難的任務(wù)，包括結(jié)構(gòu)化信息處理和圖像中潦草文字的識別，KIMI等大模型仍顯示出一些短板。

KIMI模型相較于其他模型，在聯(lián)網(wǎng)搜索、文檔處理和長文分析等功能上具有優(yōu)勢。而在生成能力和語音能力上，目前KIMI還未加入這些模態(tài)。戰(zhàn)略上，KIMI似乎專注于解決具有廣泛需求的關(guān)鍵問題，以此為基礎(chǔ)，今后可能會向其他領(lǐng)域拓展。

Q：在評價一個模型的綜合能力時，有沒有行之有效的權(quán)威標(biāo)準(zhǔn)？

A：在這個領(lǐng)域很容易出現(xiàn)投機取巧的情況，很多模型廠商不會依賴第三方評價機構(gòu)的測評結(jié)果。企業(yè)通常自建數(shù)據(jù)庫，并根據(jù)其內(nèi)部的測試結(jié)果來評估模型的能力。

在文本領(lǐng)域，多輪對話被用作衡量標(biāo)準(zhǔn)之一，而在圖像領(lǐng)域，則傾向于肉眼評估作品的一致性。目前，國際頂級會議要求用戶研究的結(jié)果必須附在論文后面，以提供直觀的用戶感受評分，而不是僅依賴于數(shù)值分?jǐn)?shù)。這種用戶體驗方式被認(rèn)為更權(quán)威。

Q：KIMI模型在擴大上下文處理能力時，參數(shù)量需要如何改變？

A：在模型的上下文處理能力提升時，參數(shù)量也需要相應(yīng)地進行調(diào)整。不過，參數(shù)量的增長并非主要目的，而是在提升時需要對權(quán)重分配進行改變。參數(shù)量與上下文長度的增長并不是簡單的正比關(guān)系，而是彼此相關(guān)但不是強依賴。

例如，月月醬面模型的參數(shù)量僅有幾千億，相比之下GPT模型有幾萬億參數(shù)，但月月醬面在處理長上下文能力上可以達到GPT即將推出的版本的近十倍。

Q：KIMI與其他大模型在向量數(shù)據(jù)庫的使用上有什么不同？KIMI內(nèi)部是否構(gòu)建了向量數(shù)據(jù)庫？

A：在文本模型領(lǐng)域，無論是大型企業(yè)還是KIMI，都會使用數(shù)據(jù)庫來支持模型的功能。這些數(shù)據(jù)庫可能是商業(yè)版本，也可能是對開源版本進行了修改。

例如，京東開源的一個現(xiàn)代數(shù)據(jù)庫、騰訊的VectorDB和百度相關(guān)的數(shù)據(jù)庫在國內(nèi)較為常用，而國外則有Movers和Chroma等。具體到KIMI，我不太清楚使用的是哪種版本，但其內(nèi)部一定會有向量數(shù)據(jù)庫的應(yīng)用，這是不可或缺的。

Q：全球大模型訓(xùn)練對算力的需求將如何變化？

A：從目前來看，KIMI的參數(shù)量還能夠增長數(shù)倍，這對發(fā)展來說是必要的。盡管存在一些稀疏化技術(shù)，但大模型訓(xùn)練對算力的需求仍然在不斷增加。我們之前也做過10萬億參數(shù)的模型，并證明了大參數(shù)模型對訓(xùn)練算力是一個重要的因素。

根據(jù)趨勢圖，模型的參數(shù)量增大會導(dǎo)致對訓(xùn)練算力的需求大幅增長，但未來的算力需求遠(yuǎn)未達到瓶頸。預(yù)計到明年，盡管可能達不到10的27次方，但也將接近10的5乘以10的26次方。這表明，即使進行了各種優(yōu)化，訓(xùn)練端消耗不會大幅下降，算力需求仍舊很大。

中科星圖交流紀(jì)要

Q：以具體之前做過的一些項目來說明北斗網(wǎng)格碼技術(shù)為推動低空經(jīng)濟的發(fā)展幫地方政府解決了什么樣的痛點？

A：如衢州的項目是去年年底啟動的，總經(jīng)費2.5個億。今年的1月8號，北斗伏羲正式中標(biāo)，第一期是4000萬。春節(jié)前后已經(jīng)開始在做一定的試運行，現(xiàn)在可以參觀和訪問。

上周衢州市的高毅書記視察了這個項目，給予了非常高的評價。同時將這個項目上報了了浙江省有關(guān)領(lǐng)導(dǎo)。浙江省的發(fā)改委也專門安排人來考察這個項目，有望發(fā)展成浙江省第一個低空空域基礎(chǔ)設(shè)施建設(shè)的試點城市。

該項目中比較核心的一點是北斗網(wǎng)格碼技術(shù)在這個體系內(nèi)發(fā)揮了獨特的作用。首先簡單的介紹一下北斗網(wǎng)格碼的基本原理。北斗網(wǎng)格法的基本原理是講地球從地心到地球外圍50萬公里，通過GeoSOT模型將其劃分成了32級網(wǎng)格體。

最大的網(wǎng)格是整個地球，最小的網(wǎng)格在地球赤道是1.5立方厘米。每一立方厘米都有一個網(wǎng)格，而且有一個整型的二進制數(shù)。

在低空就利用米級的網(wǎng)格或者是10米級的網(wǎng)格把低空全部網(wǎng)格化建模。并把被樓宇占據(jù)的網(wǎng)格、被電線占據(jù)的網(wǎng)格、被樹木占據(jù)的網(wǎng)格都標(biāo)識出來。

沒有被占據(jù)的網(wǎng)格，就理論上可以為無人機飛提供飛行，因此這個網(wǎng)格又是一個可計算的網(wǎng)格，因此這樣的話就能形成空中高德的體系。

與高德創(chuàng)始人成從武先生合作，主要的目的是將北斗之星打造成空中高德?？罩懈叩碌拇蛟炷鼐鸵罁?jù)這樣一套網(wǎng)格圖，而且能在網(wǎng)格圖上進行導(dǎo)航和路徑規(guī)劃。

確定起點和終點后就可以形成一條導(dǎo)航路線，繞開樓宇和樹木、電線。北京大學(xué)陳教授發(fā)明的專利，也折成了一定股份入主到北斗之星。所以北斗之星就作為中科星圖的重要部分，在整個低空建設(shè)中處于基礎(chǔ)地位。

衢州的項目叫低空基礎(chǔ)設(shè)施建設(shè)項目，他是中國最早的在建項目。該項目的特色是把空域網(wǎng)格化后，可以讓不同的無人機在同一個空域融合飛行。

人人都能使用無人機，家家都享受無人機服務(wù)，這是低空經(jīng)濟未來的真正的產(chǎn)業(yè)方向。北斗伏羲創(chuàng)造的這套標(biāo)準(zhǔn)和這張圖，就是融合飛行的基礎(chǔ)設(shè)施建設(shè)，使衢州今后各個公司都可以同時在一個空間進行飛行，形成產(chǎn)業(yè)的基礎(chǔ)。

Q：衢州的項目執(zhí)行期就是十個月左右，這些訂單是不是今年就能落地？

A：這十個月的訂單已經(jīng)落地，是4000萬，現(xiàn)在正在做從11月份開始的后階段的投資計劃。

Q：展望這些2.5個億的訂單的完成周期？

A：提出的是兩年，爭取在明年的年底前把2.5億的投資完成。

Q：除了衢州外目前潛在可能合作的城市？

A：每一個省現(xiàn)在都有若干市在參與論證或者是參與項目的計劃。最近正式中標(biāo)了成都的項目，朝陽的項目，中標(biāo)通知書已經(jīng)拿到了。其他各省市的陸陸續(xù)續(xù)會在六月前。

中科創(chuàng)達交流紀(jì)要

Q：四季度我們的毛利率有所下降是什么原因？

A：季度拆分對于軟件廠商來講并不是那么精確，因為我們在做一個系統(tǒng)開發(fā)里邊一定是長期的，季度拆分它并不是特別反映實際情況，另外我們投入了新的平臺方向，比如說像我們在鴻蒙系統(tǒng)平臺里面也在投入，我們在整車操作系統(tǒng)里也在投入，同時在端側(cè)人工智能里面也在投入，那么這些投入里邊，就項目來講它有一定周期，所以剛開始投入的時候?qū)γ蔬€是有影響的。

剛開始投入較大，它的規(guī)模效應(yīng)還沒有顯現(xiàn)出來，短期來講會有一定的毛利率下降，但拉長時間線來看的話毛利率整體還是可以的。

Q：在主營業(yè)務(wù)成本中，硬件產(chǎn)品和材料采購成本有增長，具體涉及到的項目？

A：主要是物聯(lián)網(wǎng)的硬件，因為物聯(lián)網(wǎng)硬件也在發(fā)生很多革命性變革，ai發(fā)展推動端側(cè)智能不斷更新，比如蘋果推出了vision pro等等，目前在軟件和ai能力更新的大周期里面，所以我們會有一些前期的布局，會有物料采購備貨，這會讓我們在供應(yīng)鏈中有很多優(yōu)勢。

Q：aipc這方面的布局？

A：可以說物聯(lián)網(wǎng)領(lǐng)域，包括這個端側(cè)領(lǐng)域發(fā)生了非常大的變化，從整個產(chǎn)業(yè)周期來看我們在布局混合ai，其中pc產(chǎn)品跟過去發(fā)生了很大的變化，當(dāng)它有強算力芯片再加上ai的時候，它未來就會變成一個邊緣計算中心，在以前傳統(tǒng)的pc領(lǐng)域我們之前就投入了，現(xiàn)在aipc會把從芯片再到本身的機器里面的ai能力和它的計算能力進步提升，我們有兩方面能力可以提供，一方面是做windows基于arm架構(gòu)里面的系統(tǒng)優(yōu)化和本身整合，這個在arm架構(gòu)里還有很多工作需要去做。

第二點，我們會基于pc產(chǎn)品去做形成aipc的模組，所以這些的業(yè)務(wù)展開了一個很大空間，當(dāng)把整個平臺能力具備的時候，隨著場景增加，是能夠不斷快速迭代滲透的。互聯(lián)網(wǎng)領(lǐng)域非常關(guān)鍵的一點是一定要進行平臺化思維，軟件核心的思維進行整個布局。

Q：2024年三大收入板塊會有一個什么成效？

A：從趨勢來看，24年就業(yè)績來講我重點想講的還是產(chǎn)業(yè)變化趨勢，現(xiàn)在的產(chǎn)業(yè)趨勢，就計算機產(chǎn)業(yè)而言，幾天就會發(fā)生翻天覆地的變化，現(xiàn)在產(chǎn)業(yè)趨勢大概是這幾點：

第一點，軟件的重要性毋庸置疑，在所有端側(cè)智能里軟件會成為核心。

整個芯片架構(gòu)在走向復(fù)雜，需要通過整個計算模式讓軟件來把所有的軟件、所有的庫和所有的算法集成到一個中央框架里面，這就是加速計算的本質(zhì)，加速計算的本質(zhì)就意味著軟件是成中心的核心去定義整個產(chǎn)品。手機廠商、芯片廠商、操作系統(tǒng)廠商一定能夠進行下一代產(chǎn)品的定義和開發(fā)，這里面軟件的需求就會爆發(fā)。

第二點就是汽車，從座艙再到駕駛到艙駕融合的趨勢，汽車還是有一個非常強的增長動力。物聯(lián)網(wǎng)業(yè)務(wù)從去年上半年來講，些特定產(chǎn)品品類包括客戶來講它本身的產(chǎn)品變化，業(yè)務(wù)變化導(dǎo)致有些下滑，從下半年就開始恢復(fù)了，今年的物聯(lián)網(wǎng)領(lǐng)域趨勢，aipc也好或者端側(cè)智能帶來很多產(chǎn)品創(chuàng)新，物聯(lián)網(wǎng)領(lǐng)域也是積極向好的。整體來看向好，24年會比23年好。

Q：從年報上看我們現(xiàn)金流好轉(zhuǎn)明顯是因為我們采取了哪些具體措施？物聯(lián)網(wǎng)下半年逐漸好轉(zhuǎn)是來自哪些產(chǎn)品線？

A：管理層面和整個團隊共同努力，客戶的管理、回款管理，包括整個的效能提升，這都會對經(jīng)營現(xiàn)金流提升這個有很大影響。AR、VR眼鏡等領(lǐng)域有很多新品，hr平臺、會議視頻系統(tǒng)等這里面都能帶來增長的動力。

單體大客戶掃地機這塊有影響，但其他機器人像割草機器人、服務(wù)機器人、消費機器人、電動滑板車等都還是在健康增長的。

Q：創(chuàng)達參與了aipc的哪些環(huán)節(jié)，能不能看到價值量的提升？在什么時間段？

A：現(xiàn)在高通等平臺推出了aipc產(chǎn)品，大家對這個產(chǎn)業(yè)比較看好，所以在軟件方面我們是有這種能力的，基于高通的平臺我們做參考設(shè)計。每家廠商都不一樣，大概今年aipc的一些訂單會逐漸體現(xiàn)出來。

理想分析師交流紀(jì)要

Q：下調(diào)指引后全年80萬目標(biāo)是否有變化？最新的Q1指引是最悲觀假設(shè)嗎？

A：65-80萬臺的目標(biāo)確實有改動，全年銷量增長率是50%-70%（對應(yīng)銷量指引56w-64w）；Q1的指引是相對保守的，但是還需觀察訂單情況。

Q：下調(diào)指引的原因？Q1后L789穩(wěn)態(tài)銷量的預(yù)期？L6和純電上市節(jié)奏變化？

A：主要是高估了自身的能力，其實我們從增長率角度看依然是ok的，但是去年的表現(xiàn)亮眼，高估了遠(yuǎn)超市場預(yù)期的指引，但是現(xiàn)在回到了腳踏實地能做到的銷量，主要原因是我們對MEGA節(jié)奏的判斷失誤，這個是最大的判斷錯誤，會導(dǎo)致大量的銷售投入分配失誤。

L6不會有計劃變化，穩(wěn)態(tài)依然是2萬+，可能在車展前后。

Q：MEGA是否會定價和配置修改？MEGA是否會影響毛利？

A：MEGA不會有價格上的調(diào)整，更多的是階段錯誤，所以現(xiàn)在圍繞第一批用戶運營展開，他們的NPS是MEGA體量提升的核心；整體毛利Q1依然是維持20%+。目前全年的毛利計劃依然是大于20%。

Q：L系列訂單恢復(fù)情況？接下來的純電車型展望？

A：L系列隨著最近宣傳和動作已有回暖，目前進一步的促銷尚未計劃，希望今年的經(jīng)營質(zhì)量更高，會在財務(wù)數(shù)據(jù)中的有表現(xiàn)。目前純電尚未披露更多信息。

Q：未來是否降價？降價是否影響品牌力？

A：強調(diào)哪怕現(xiàn)在訂單情況比預(yù)計差，市占率變化也不大，暫時不考慮降價-不同價格段不一樣，對于豪華品牌來說降價可能會有副作用，目前我們的市占率還是不錯的，就如同想哥在公開信中說的我們忘記了用戶的核心需求短期對銷量欲望過度追求。

資本市場對于短期會有壓力，但是對于公司中長期是非常健康的一件事情。如果豪華品牌新車型降價可能是飲鴆止渴，尤其是在目前市占率沒有出現(xiàn)變化的前提下。

Q：如何平衡銷量和利潤？

A：我們已經(jīng)放棄了一部分銷量，目前我們是合理的預(yù)期，目前一致預(yù)期也沒有80萬：利潤方面的指引是超越去年全年，所以我們強調(diào)經(jīng)營效率。

AI如何助力新藥研發(fā)

Q：宏博醫(yī)藥在國內(nèi)AI制藥領(lǐng)域的競爭優(yōu)勢或者領(lǐng)先的地方在哪里？有哪些主要的競爭對手？

A：宏博醫(yī)藥在AI制藥領(lǐng)域的競爭優(yōu)勢主要體現(xiàn)在與藥化團隊的緊密合作上。我們的團隊大部分成員都是藥化背景，這對于我們作為CRO公司來說非常重要，因為我們的目標(biāo)是將工具應(yīng)用得當(dāng)，發(fā)揮其最大價值。

我們的優(yōu)勢在于能夠有效地利用現(xiàn)有軟件工具，將其應(yīng)用于實際項目中，從而產(chǎn)生價值。至于競爭對手，任何擁有強大藥化團隊并且在實際項目中有所作為的公司都可能成為我們的競爭對手。

Q：今后技術(shù)的大幅提升是否可以完全不需要經(jīng)驗人員的最后監(jiān)督指導(dǎo)？

A：在短期內(nèi)，經(jīng)驗豐富的藥化專家仍然非常重要。盡管量子化學(xué)的準(zhǔn)確性已經(jīng)很高，但在實際應(yīng)用中仍需做很多近似處理。

AI的一個挑戰(zhàn)是需要大量的數(shù)據(jù)，而目前在AI制藥領(lǐng)域，無論是數(shù)據(jù)的數(shù)量還是質(zhì)量都遠(yuǎn)遠(yuǎn)不足。因此，在有限的數(shù)據(jù)條件下訓(xùn)練出一個非常準(zhǔn)確的模型，而不需要人工干預(yù)，目前看來還是很有挑戰(zhàn)的。

Q：CADD和AIDD未來的產(chǎn)業(yè)趨勢如何？CADD的優(yōu)勢是否會在AIDD領(lǐng)域展現(xiàn)？

A：CADD和AIDD各有優(yōu)勢。CADD擅長于分子對接等方面，而AIDD在處理超大規(guī)模虛擬篩選和分子動力學(xué)方面可能更有優(yōu)勢。

隨著算法和計算能力的提升，我們希望AIDD能夠在分子對接結(jié)合模式的高精度預(yù)測方面取得進展。同時，AIDD在進行參數(shù)校正和加速整個藥物發(fā)現(xiàn)過程方面也顯示出了其潛力。

Q：國內(nèi)什么時候可以看到AIDD生成的分子進入臨床？

A：根據(jù)最新的研究，AIDD生成的分子已經(jīng)有進入臨床的案例。這表明AIDD在藥物發(fā)現(xiàn)領(lǐng)域的應(yīng)用已經(jīng)開始取得實際成果。

Q：AIDD對算力的要求是怎樣的？是否成熟的GPU集群就足夠？

A：AIDD對算力的要求取決于你要達到的研發(fā)深度。對于分子生成這樣的任務(wù)，成熟的GPU集群確實可以滿足基本需求。但如果是進行更復(fù)雜的計算，比如尋找隱藏的活性口袋或進行大規(guī)模的分子動力學(xué)模擬，就需要更大的算力。

我們對算力的追求實際上是無止境的，因為更高的算力可以讓我們的模擬更加準(zhǔn)確和快速。此外，算力的提升還能讓我們模擬的時間延長，或者構(gòu)建更加完善的體系，從而更真實地模擬藥物與生物體系的相互作用。

Q：國內(nèi)藥企在AI制藥方面的布局情況如何？

A：國內(nèi)許多藥企已經(jīng)開始布局AI制藥，有的是通過自建平臺，有的則是通過與AI公司簽訂戰(zhàn)略合作。自建平臺雖然能夠更貼合企業(yè)自身的需求，但其成熟化需要一定的時間，且成本較高，包括人員、硬件和數(shù)據(jù)集等方面的投入。因此，很多藥企也對外包的AI制藥服務(wù)有需求。

Q：AI在臨床后端的應(yīng)用有哪些？

A：AI在臨床后端主要應(yīng)用于病人的篩選。很多藥物臨床試驗失敗的原因是沒有找到合適的病人。通過大數(shù)據(jù)分析，特別是結(jié)合大語言模型的A技術(shù)，可以從海量的患者數(shù)據(jù)中挖掘出最可能受益于特定藥物的病人群體，從而提高藥物研發(fā)的成功率。

Q：哪些環(huán)節(jié)是AI難以優(yōu)化的？

A：目前，化學(xué)合成是AI難以優(yōu)化的環(huán)節(jié)之一。雖然現(xiàn)有的自動化技術(shù)可以執(zhí)行一些常規(guī)的化學(xué)反應(yīng)，但許多化學(xué)反應(yīng)并不標(biāo)準(zhǔn)化，不太適合全自動化處理。因此，合成化合物的實驗室工作仍然是藥物研發(fā)中的一個挑戰(zhàn)，短期內(nèi)可能還難以通過自動化技術(shù)完全解決。

審核編輯：黃飛