0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

NVIDIA Merlin可使用開源規(guī)范構(gòu)建塊開發(fā)和優(yōu)化推薦系統(tǒng)

星星科技指導員 ? 來源:NVIDIA ? 作者:Ann Spencer ? 2022-04-15 10:30 ? 次閱讀

數(shù)據(jù)科學家和機器學習工程師使用許多方法、技術(shù)和工具來準備、構(gòu)建、培訓、部署和優(yōu)化他們的機器學習模型。雖然技術(shù)領(lǐng)先 引用推薦人團隊工作流程中利用開源軟件的重要性 ,但大多數(shù)流行的機器學習方法、庫和框架的設(shè)計都不是為了支持和加速推薦者工作流。

NVIDIA Merlin 旨在簡化推薦人工作流程。最新的更新包括 Transformers4Rec ,這是一個新的庫,它包裝了 HuggingFace transformer 體系結(jié)構(gòu),以構(gòu)建基于會話的建議的管道。它還添加了 SparseOperationsKit (SOK) ,一個新的 Python 包,支持稀疏訓練和深度學習推理( DL )。

這一最新版本重申了 NVIDIA 的 commitment 功能,幫助機器學習工程師和數(shù)據(jù)科學家使用開源規(guī)范構(gòu)建塊開發(fā)和優(yōu)化推薦系統(tǒng)。

Merlin 變壓器 4REC ,專為推薦和解決冷啟動問題而設(shè)計

主流媒體中流行的推薦方法通常依賴于長期用戶配置文件或終生用戶行為。然而,獲得新的持續(xù)活躍用戶的電子商務和媒體公司必須向首次和早期訪問用戶提供相關(guān)建議。相關(guān)建議可提高用戶參與度、保留率和向訂閱服務的轉(zhuǎn)換。

利用基于會話的推薦程序 通過 Transformers4Rec ,數(shù)據(jù)科學家和機器學習工程師能夠通過利用上下文和最近的用戶交互來預測用戶的下一個動作并提供相關(guān)建議,從而解決冷啟動問題。英偉達 Merlin 團隊設(shè)計了 TraseRe4ReC 作為獨立解決方案或在一組推薦模型中使用。

稀疏操作套件、稀疏訓練和深入學習推理

與大量數(shù)據(jù)集受益于使用深度學習( DL )推薦工具 合作的推薦團隊。Merlin hugetr是一個 DL 訓練框架 專為推薦系統(tǒng)設(shè)計 ,最新更新包括 SOK ,一個新的開源 Python 包,支持稀疏訓練和推理。

它還與包括 TensorFlow 在內(nèi)的 DL 框架兼容。 SOK 提供了使用 GPU 的嵌入模型并行功能,包括從單個 GPU 擴展到多個 GPU 。大多數(shù)常見的 DL 框架不支持模型并行,這使得在集群中使用所有可用的 GPU 具有挑戰(zhàn)性。然而, SOK 與 DL 框架(包括 TensorFlow )兼容有助于填補這一空白。

關(guān)于作者

Ann Spencer 是 Merlin 的高級產(chǎn)品營銷經(jīng)理。在加入 NVIDIA 之前,她曾在多家數(shù)據(jù)公司擔任產(chǎn)品和研究職務。 2012-2014 年,她還是 O ‘ Reilly Media 的數(shù)據(jù)編輯,專注于數(shù)據(jù)工程和數(shù)據(jù)科學。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 變壓器
    +關(guān)注

    關(guān)注

    159

    文章

    7218

    瀏覽量

    134067
  • 機器學習
    +關(guān)注

    關(guān)注

    66

    文章

    8323

    瀏覽量

    132172
  • 深度學習
    +關(guān)注

    關(guān)注

    73

    文章

    5439

    瀏覽量

    120794
收藏 人收藏

    評論

    相關(guān)推薦

    借助OpenUSD和NVIDIA Omniverse開發(fā)數(shù)字孿生應用

    為了滿足制造業(yè)和其他行業(yè)的數(shù)字化轉(zhuǎn)型需求,致力于開發(fā)生產(chǎn)、內(nèi)部物流和裝配優(yōu)化軟件的公司 SyncTwin GmbH 通過使用用于解決復雜路線規(guī)劃問題的加速優(yōu)化引擎NVIDIA cuOp
    的頭像 發(fā)表于 09-06 14:18 ?309次閱讀

    NVIDIA Holoscan SDK中使用OpenCV構(gòu)建零拷貝AI傳感器處理管線

    NVIDIA Holoscan 是 NVIDIA 的跨領(lǐng)域多模態(tài)實時 AI 傳感器處理平臺,為開發(fā)構(gòu)建端到端傳感器處理管線奠定了基礎(chǔ)。
    的頭像 發(fā)表于 07-02 11:50 ?424次閱讀
    在<b class='flag-5'>NVIDIA</b> Holoscan SDK中使用OpenCV<b class='flag-5'>構(gòu)建</b>零拷貝AI傳感器處理管線

    NVIDIA將全球數(shù)百萬開發(fā)者轉(zhuǎn)變?yōu)樯墒?AI 開發(fā)

    來自 AI 生態(tài)系統(tǒng)各個領(lǐng)域的 150 余家合作伙伴嵌入了 NIM 推理微服務,將企業(yè)級 AI 應用的部署時間從數(shù)周縮短至幾分鐘 NVIDIA 開發(fā)者計劃會員可免費使用 NIM 來進行研究、
    的頭像 發(fā)表于 06-03 18:21 ?947次閱讀

    使用OpenUSD和NVIDIA Omniverse開發(fā)虛擬工廠解決方案

    工業(yè)開發(fā)者正在借助 NVIDIA AI、NVIDIA Omniverse 和通用場景描述 (OpenUSD)生態(tài)系統(tǒng)的力量構(gòu)建虛擬工廠解決方
    的頭像 發(fā)表于 05-28 18:12 ?1175次閱讀
    使用OpenUSD和<b class='flag-5'>NVIDIA</b> Omniverse<b class='flag-5'>開發(fā)</b>虛擬工廠解決方案

    NVIDIA與微軟擴展合作,幫助開發(fā)者更快構(gòu)建和部署AI應用

    NVIDIA 在 Microsoft Build 開發(fā)者大會上展示了與 Microsoft Azure 和 Windows PC 的集成解決方案,簡化了 AI 模型部署并優(yōu)化了路徑規(guī)劃和應用性能。
    的頭像 發(fā)表于 05-23 10:14 ?338次閱讀

    NVIDIA加速微軟最新的Phi-3 Mini開源語言模型

    NVIDIA 宣布使用 NVIDIA TensorRT-LLM 加速微軟最新的 Phi-3 Mini 開源語言模型。TensorRT-LLM 是一個開源庫,用于
    的頭像 發(fā)表于 04-28 10:36 ?438次閱讀

    NVIDIA全面加快Meta Llama 3的推理速度

    Meta 最新開源大語言模型采用 NVIDIA 技術(shù)構(gòu)建,其經(jīng)過優(yōu)化后可在云、數(shù)據(jù)中心、邊緣和 PC 的 NVIDIA GPU 上運行。
    的頭像 發(fā)表于 04-23 09:52 ?389次閱讀

    美國Merlin公司加速自主飛行模擬器開發(fā)

    美國Merlin公司正全力加速自主飛行模擬器的開發(fā)進程,以推動航空領(lǐng)域的創(chuàng)新與發(fā)展。這一舉措不僅體現(xiàn)了Merlin公司在技術(shù)研發(fā)方面的雄厚實力,也預示著自主飛行技術(shù)即將迎來新的突破。
    的頭像 發(fā)表于 04-22 11:30 ?517次閱讀

    利用NVIDIA組件提升GPU推理的吞吐

    本實踐中,唯品會 AI 平臺與 NVIDIA 團隊合作,結(jié)合 NVIDIA TensorRT 和 NVIDIA Merlin HierarchicalKV(HKV)將推理的稠密網(wǎng)絡(luò)和熱
    的頭像 發(fā)表于 04-20 09:39 ?574次閱讀

    使用NVIDIA Holoscan for Media構(gòu)建下一代直播媒體應用

    NVIDIA Holoscan for Media 現(xiàn)已向所有希望在完全可重復使用的集群上構(gòu)建下一代直播媒體應用的開發(fā)者開放。
    的頭像 發(fā)表于 04-16 14:04 ?544次閱讀

    OpenWRT 開源社區(qū)官方第一開發(fā)板 OpenWrt One/AP-24.XY,正式面世

    OpenWRT 開源社區(qū)官方第一開發(fā)板 OpenWrt One/AP-24.XY,正式面世。將由比派科技Banana Pi 開源社區(qū)生產(chǎn)與分發(fā)銷售 https
    發(fā)表于 04-09 11:32

    NVIDIA Merlin 助力陌陌推薦業(yè)務實現(xiàn)高性能訓練優(yōu)化

    通過 Merlin 大幅提升大規(guī)模深度多目標精排模型訓練性能 本案例中,NVIDIA 團隊與陌陌推薦系統(tǒng)團隊深度合作,共同使用 NVIDIA GPU 和
    的頭像 發(fā)表于 11-09 10:45 ?295次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>Merlin</b> 助力陌陌推薦業(yè)務實現(xiàn)高性能訓練<b class='flag-5'>優(yōu)化</b>

    SCP基本構(gòu)建介紹

    1-什么是SCP ? 將電源和系統(tǒng)管理任務從應用處理器(AP)中抽象出來。 ? 符合ARM系統(tǒng)控制和管理接口(SCMI)規(guī)范。 ? 執(zhí)行環(huán)境不固定??梢栽赗TOS或裸機環(huán)境中運行。 2-基本構(gòu)
    的頭像 發(fā)表于 11-02 16:52 ?801次閱讀
    SCP基本<b class='flag-5'>構(gòu)建</b><b class='flag-5'>塊</b>介紹

    如何搭建高效推薦系統(tǒng)?用Milvus和NVIDIA Merlin搭建高效推薦系統(tǒng)

    之后,推薦系統(tǒng)能夠給出高度個性化的推薦結(jié)果,從而提升產(chǎn)品的用戶體驗。 為了方便大家對此進行深入了解,我們邀請到 NVIDIA Merlin? 團隊 ,他們將詳細介紹推薦系統(tǒng)的上述多個階
    的頭像 發(fā)表于 11-01 09:30 ?894次閱讀
    如何搭建高效推薦<b class='flag-5'>系統(tǒng)</b>?用Milvus和<b class='flag-5'>NVIDIA</b> <b class='flag-5'>Merlin</b>搭建高效推薦<b class='flag-5'>系統(tǒng)</b>

    現(xiàn)已公開發(fā)布!歡迎使用 NVIDIA TensorRT-LLM 優(yōu)化大語言模型推理

    NVIDIA 于 2023 年 10 月 19 日公開發(fā)布 TensorRT-LLM ,可在 NVIDIA GPU 上加速和優(yōu)化最新的大語言模型(Large Language Mode
    的頭像 發(fā)表于 10-27 20:05 ?888次閱讀
    現(xiàn)已公<b class='flag-5'>開發(fā)</b>布!歡迎使用 <b class='flag-5'>NVIDIA</b> TensorRT-LLM <b class='flag-5'>優(yōu)化</b>大語言模型推理