0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

英特爾大模型全適配,大語言模型已成功部署于CPU

微云疏影 ? 來源:綜合整理 ? 作者:綜合整理 ? 2023-12-11 15:41 ? 次閱讀

據(jù)媒體報道,美當(dāng)?shù)貢r間12月8日,聯(lián)想集團(tuán)舉辦了“AI PC產(chǎn)業(yè)創(chuàng)新論壇”活動,在會議中,英特爾中國區(qū)技術(shù)總經(jīng)理高宇強調(diào)新一代酷睿Ultra處理器已適配超過10款中國國內(nèi)的大型計算機(jī)模型。

他進(jìn)一步指出,英特爾作為芯片制造商,始終致力于對“合適尺寸”模型的全面適配。面對大模型領(lǐng)域激烈的市場競爭,每個季度大約有4-5款新模型上市,一旦發(fā)現(xiàn)任何新的模型,英特爾承諾將立即派遣技術(shù)團(tuán)隊與相關(guān)模型廠商展開聯(lián)合研究,推動目標(biāo)模型在平臺上的移植工作。

此外,在AI算力解決方案方面,英特爾采取XPU策略,即GPU、NPU和CPU并行使用。高宇也提到,目前在英特爾CPU上已成功應(yīng)用大語言模型,且運行速度流暢;未來,這一模型也將在英特爾NPU上完成部署。展望未來,英特爾將持續(xù)深化與其包括聯(lián)想集團(tuán)在內(nèi)的國內(nèi)產(chǎn)業(yè)鏈的合作關(guān)系。

英特爾曾在上文提及的文章中明確表示,AI PC是指具備完整AI功能的PC設(shè)備。通過讓AI在云端和PC之間協(xié)同工作,或者使大語言模型在單機(jī)環(huán)境下獨立運行,實現(xiàn)對PC用戶體驗的根本性改造以及生產(chǎn)能力和創(chuàng)造力的充分釋放。

值得一提的是,隨著12月15日在國內(nèi)的酷睿Ultra系列處理器發(fā)布會日益臨近,這款新品同樣擁有集成式NPU,能夠提供低延時的Al計算服務(wù)。同時,英特爾表態(tài)自MeteorLake開始,將把Al廣泛引入PC,引領(lǐng)全球數(shù)億臺PC邁入Al時代。此外,基于強大的x86生態(tài)系統(tǒng),英特爾為廣大用戶提供豐富多樣的軟件模型和工具。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關(guān)注

    關(guān)注

    450

    文章

    49583

    瀏覽量

    416766
  • 英特爾
    +關(guān)注

    關(guān)注

    60

    文章

    9736

    瀏覽量

    170585
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2117

    瀏覽量

    1935
收藏 人收藏

    評論

    相關(guān)推薦

    英特爾IT的發(fā)展現(xiàn)狀和創(chuàng)新動向

    AI大模型的爆發(fā),客觀上給IT的發(fā)展帶來了巨大的機(jī)會。作為把IT發(fā)展上升為戰(zhàn)略高度的英特爾,自然在推動IT發(fā)展中注入了強勁動力。英特爾IT不僅專注創(chuàng)新、AI和優(yōu)化,以及
    的頭像 發(fā)表于 08-16 15:22 ?357次閱讀

    如何將Llama3.1模型部署英特爾酷睿Ultra處理器

    本文從搭建環(huán)境開始,一步一步幫助讀者實現(xiàn)只用五行代碼便可將Llama3.1模型部署英特爾 酷睿 Ultra 處理器上。
    的頭像 發(fā)表于 07-26 09:51 ?1508次閱讀
    如何將Llama3.1<b class='flag-5'>模型</b><b class='flag-5'>部署</b>在<b class='flag-5'>英特爾</b>酷睿Ultra處理器

    英特爾助力京東云用CPU加速AI推理,以大模型構(gòu)建數(shù)智化供應(yīng)鏈

    英特爾助力京東云用CPU加速AI推理,以大模型構(gòu)建數(shù)智化供應(yīng)鏈
    的頭像 發(fā)表于 05-27 11:50 ?374次閱讀
    <b class='flag-5'>英特爾</b>助力京東云用<b class='flag-5'>CPU</b>加速AI推理,以大<b class='flag-5'>模型</b>構(gòu)建數(shù)智化供應(yīng)鏈

    已有超過500款A(yù)I模型英特爾酷睿Ultra處理器上得以優(yōu)化運行

    近日,英特爾宣布在全新英特爾 酷睿 Ultra處理器上,有超過500款A(yù)I模型得以優(yōu)化運行。
    的頭像 發(fā)表于 05-11 09:31 ?547次閱讀

    英特爾酷睿Ultra處理器突破500個AI模型優(yōu)化

    英特爾在最新推出的英特爾? 酷睿? Ultra處理器上宣布,超過500款A(yù)I模型已得到優(yōu)化運行。這款處理器無疑是市場上領(lǐng)先的AI PC處理器,它不僅帶來了前所未有的AI體驗,還集成了沉浸式圖形處理和出色的電池續(xù)航能力。
    的頭像 發(fā)表于 05-09 11:18 ?602次閱讀

    【大語言模型:原理與工程實踐】大語言模型的應(yīng)用

    ,它通過抽象思考和邏輯推理,協(xié)助我們應(yīng)對復(fù)雜的決策。 相應(yīng)地,我們設(shè)計了兩類任務(wù)來檢驗大語言模型的能力。一類是感性的、無需理性能力的任務(wù),類似人類的系統(tǒng)1,如情感分析和抽取式問答等。大
    發(fā)表于 05-07 17:21

    【大語言模型:原理與工程實踐】大語言模型的評測

    在知識獲取、邏輯推理、代碼生成等方面的能力。這些評測基準(zhǔn)包括語言建模能力、綜合知識能力、數(shù)學(xué)計算能力、代碼能力和垂直領(lǐng)域等多個維度。對于微調(diào)模型,對話能力的評測關(guān)注模型在對話任務(wù)中的
    發(fā)表于 05-07 17:12

    【大語言模型:原理與工程實踐】大語言模型的基礎(chǔ)技術(shù)

    語言模型基礎(chǔ)技術(shù)21隨著Transformer結(jié)構(gòu)在機(jī)器翻譯領(lǐng)域取得巨大成功,研究人員開始探索其在其他自然語言處理任務(wù)中的潛力。很快,Transformer 結(jié)構(gòu)被證明不僅適用于序列
    發(fā)表于 05-05 12:17

    英特爾AI產(chǎn)品助力其運行Meta新一代大語言模型Meta Llama 3

    英特爾豐富的AI產(chǎn)品——面向數(shù)據(jù)中心的至強處理器,邊緣處理器及AI PC等產(chǎn)品為開發(fā)者提供最新的優(yōu)化,助力其運行Meta新一代大語言模型Meta Llama 3
    的頭像 發(fā)表于 04-28 11:16 ?459次閱讀

    浪潮信息&quot;源2.0&quot;大模型YuanChat支持英特爾最新商用AI PC

    北京2024年3月27日 /美通社/ -- 3月26日, 浪潮信息與英特爾正式宣布,浪潮信息"源2.0系列基礎(chǔ)大模型"已和最新的英特爾? 酷睿? Ultra處理器平臺完成適配,本地推理
    的頭像 發(fā)表于 03-27 22:52 ?369次閱讀
    浪潮信息&quot;源2.0&quot;大<b class='flag-5'>模型</b>YuanChat支持<b class='flag-5'>英特爾</b>最新商用AI PC

    浪潮信息與英特爾合作推出一種大模型效率工具“YuanChat”

    3月26日,浪潮信息與英特爾正式宣布,浪潮信息“源2.0系列基礎(chǔ)大模型”已和最新的英特爾? 酷睿? Ultra處理器平臺完成適配,本地推理速度提升100%。
    的頭像 發(fā)表于 03-27 13:50 ?460次閱讀
    浪潮信息與<b class='flag-5'>英特爾</b>合作推出一種大<b class='flag-5'>模型</b>效率工具“YuanChat”

    英特爾CPU部署Qwen 1.8B模型的過程

    本文介紹了在英特爾 13 代酷睿 CPU i5 - 13490F 設(shè)備上部署 Qwen 1.8B 模型的過程,你需要至少 16GB 內(nèi)存的機(jī)器來完成這項任務(wù),我們將使用
    的頭像 發(fā)表于 01-12 10:28 ?2318次閱讀

    CPU如何加速AI部署與應(yīng)用?第五代英特爾? 至強? 給你支招!

    屬于各自所有者資產(chǎn)。 12月15日|2023英特爾新品發(fā)布會暨AI技術(shù)創(chuàng)新派對等你來! 平臺賦能,算力共建,智貫東西 “2023 英特爾算力大會暨東數(shù)西算大會”成功舉辦 2023 英特爾
    的頭像 發(fā)表于 12-16 16:15 ?396次閱讀
    <b class='flag-5'>CPU</b>如何加速AI<b class='flag-5'>部署</b>與應(yīng)用?第五代<b class='flag-5'>英特爾</b>? 至強? 給你支招!

    #高通 #英特爾 #Elite 高通X Elite芯片或終結(jié)蘋果、英特爾的芯片王朝

    高通英特爾蘋果
    深圳市浮思特科技有限公司
    發(fā)布于 :2023年10月27日 16:46:07

    最新MLCommons結(jié)果公布 英特爾展現(xiàn)強大AI推理性能

    近日,MLCommons公布針對60億參數(shù)大語言模型及計算機(jī)視覺與自然語言處理模型GPT-J的MLPerf推理v3.1性能基準(zhǔn)測試結(jié)果,其中包括英特
    的頭像 發(fā)表于 09-15 19:35 ?470次閱讀
    最新MLCommons結(jié)果公布 <b class='flag-5'>英特爾</b>展現(xiàn)強大AI推理性能