2023 云棲大會(huì)：NVIDIA AI 日程攻略先睹為快

2023 云棲大會(huì)開(kāi)幕在即，

10 月 31 日 - 11 月 2 日，

NVIDIA 將前往杭州云棲小鎮(zhèn)

赴約科技盛會(huì)，

帶來(lái)圍繞大模型、端到端網(wǎng)絡(luò)解決方案、

生成式 AI、“她力量”、AI 公益、

科研智算、AI 開(kāi)發(fā)者主題的并行話題演講、

全棧 AI 和加速計(jì)算展區(qū)、

AI 開(kāi)發(fā)者實(shí)戰(zhàn)小課堂、

有獎(jiǎng)互動(dòng)等一系列精彩內(nèi)容！

本文帶您搶先開(kāi)啟劇透環(huán)節(jié)！

?+

+

亮點(diǎn)一

精彩演講紛至沓來(lái)，

多維度解讀 AI 開(kāi)發(fā)和應(yīng)用

10 月 31 日

聚合話題演講 - “無(wú)畏·無(wú)限”新女性新機(jī)遇

演講主題：AI 女性“進(jìn)化論”：追光而行、全力奔跑

時(shí)間：13:55 - 14:05

地點(diǎn)：B 館 B3 - 5 蔚云廳

演講人：劉念寧，NVIDIA 全球副總裁

在主題為“無(wú)畏·無(wú)限”新女性新機(jī)遇的聚合話題演講，NVIDIA 全球副總裁劉念寧將與現(xiàn)場(chǎng)觀眾剖析科技女性群像，激勵(lì)女性在加速計(jì)算和生成式 AI 的全新時(shí)代中釋放無(wú)限可能，在實(shí)現(xiàn)進(jìn)化與成長(zhǎng)的同時(shí)，尋找 AI 的星辰大海。

10 月 31 日

聚合話題演講 - 可預(yù)期網(wǎng)絡(luò) - Al Infra

演講主題：適用于 AI 的網(wǎng)絡(luò)基礎(chǔ)設(shè)施

時(shí)間：14:30 - 14:50

地點(diǎn)：D2 - 1 會(huì)場(chǎng)

演講人：Gilad Shainer，

NVIDIA 網(wǎng)絡(luò)與高性能計(jì)算高級(jí)副總裁

現(xiàn)代數(shù)據(jù)中心已成為計(jì)算單元，而網(wǎng)絡(luò)架構(gòu)對(duì)于定義其功能至關(guān)重要。人工智能平臺(tái)依賴(lài)于各種網(wǎng)絡(luò)才能有效運(yùn)行，包括：計(jì)算網(wǎng)絡(luò)，負(fù)責(zé)高速數(shù)據(jù)處理；存儲(chǔ)網(wǎng)絡(luò)，提供對(duì)大量數(shù)據(jù)集的訪問(wèn)；此外還有管理網(wǎng)絡(luò)。這些網(wǎng)絡(luò)的特性直接影響人工智能工作負(fù)載的效率以及可以提供 AI 服務(wù)的范圍。

在本演講中，NVIDIA 網(wǎng)絡(luò)與高性能計(jì)算高級(jí)副總裁 Gilad Shainer 將與您深入探討人工智能網(wǎng)絡(luò)的復(fù)雜性，探索正在發(fā)揮作用的各種技術(shù)及其對(duì)現(xiàn)代數(shù)據(jù)中心的影響，闡明網(wǎng)絡(luò)技術(shù)如何塑造人工智能的格局。

11 月 1 日

聚合話題演講 - NVIDIA 加速計(jì)算創(chuàng)造生成式 AI 新時(shí)代

地點(diǎn)：B 館 B3 - 1 德云廳

大會(huì)第二天上午，聚合話題演講將以大語(yǔ)言模型（LLM）為主題，綜述 NVIDIA 端到端的數(shù)據(jù)中心級(jí)全棧 AI 和加速計(jì)算解決方案，并邀請(qǐng)阿里云人工智能平臺(tái) PAI 團(tuán)隊(duì)分享其自主研發(fā)、基于 NVIDIA 軟硬件技術(shù)棧的大模型開(kāi)發(fā)一站式工具箱和大規(guī)模 RLHF 高效訓(xùn)練框架。更別錯(cuò)過(guò)演講最后的 NVIDIA GPU 幸運(yùn)抽獎(jiǎng)機(jī)會(huì)！

9:15 - 9:45 >>

構(gòu)建面向生成式 AI 的 NVIDIA 端到端解決方案

演講人：王淼，NVIDIA 解決方案架構(gòu)與工程總監(jiān)

您將了解到 NVIDIA 如何端到端的加速生成式 AI，從 GPU / DPU / CPU、網(wǎng)絡(luò)、超級(jí)計(jì)算機(jī)到 Base Command，助力相關(guān)創(chuàng)新創(chuàng)業(yè)。

9:45 - 10:15 >>

面向 LLM 的軟件方案及

NVIDIA 軟件全棧與行業(yè)解決方案更新概覽

演講人：翟健，NVIDIA 解決方案架構(gòu)師

演講將介紹 NVIDIA 在大語(yǔ)言模型（LLM）領(lǐng)域中的解決方案更新，同時(shí)還會(huì)涵蓋 NVIDIA GPU 上的軟件全棧及解決方案的更新情況，包括 NVIDIA CUDA，深度學(xué)習(xí)（DL）框架，企業(yè)級(jí)軟件支持，數(shù)字孿生軟件及通用行業(yè)解決方案。

10:15 - 10:45 >>

NVIDIA TensorRT-LLM 介紹

演講人：周?chē)?guó)峰，NVIDIA 產(chǎn)品研發(fā)總監(jiān)

您將了解到 NVIDIA 針對(duì)大語(yǔ)言模型（LLM）推理方案 TensorRT-LLM，包括 TensorRT-LLM 的定位，基本功能和使用方法。

10:45 - 11:00 >>

PAI-Megatron-Patch：靈駿集群訓(xùn)練 LLMs 的一站式工具箱

演講人：黃俊，阿里云資深算法專(zhuān)家

Pai-Megatron-Patch 工具是阿里云人工智能平臺(tái) PAI 算法團(tuán)隊(duì)研發(fā)，基于阿里云智算服務(wù) PAI - 靈駿平臺(tái)的大模型最佳實(shí)踐解決方案配套工具，旨在幫助大模型開(kāi)發(fā)者快速上手靈駿產(chǎn)品，完成大語(yǔ)言模型（LLM）的高效分布式訓(xùn)練，有監(jiān)督指令微調(diào)，模型離線推理驗(yàn)證等完整大模型開(kāi)發(fā)鏈路。該項(xiàng)目提供了業(yè)界主流開(kāi)源大模型基于 Megatron-LM 的訓(xùn)練 & 離線推理驗(yàn)證流程，方便用戶(hù)快速上手大模型訓(xùn)練。本演講對(duì) Pai-Megatron-Patch 的架構(gòu)，功能，使用方式等進(jìn)行簡(jiǎn)要的介紹。

11:00 - 11:15 >>

PAI-ChatLearn：靈活易用、大規(guī)模 RLHF 高效訓(xùn)練框架

演講人：王林，阿里云高級(jí)技術(shù)專(zhuān)家

PAI-ChatLearn 是阿里云人工智能平臺(tái) PAI 團(tuán)隊(duì)自主研發(fā)，靈活易用、大規(guī)模模型 RLHF 高效訓(xùn)練框架。支持大模型進(jìn)行 SFT（有監(jiān)督指令微調(diào)）、RM（獎(jiǎng)勵(lì)模型）、RLHF（基于人類(lèi)反饋的強(qiáng)化學(xué)習(xí)）完整訓(xùn)練流程。PAI-ChatLearn 支持使用 NVIDIA Megatron 作為模型定義和訓(xùn)練的 backend，支持大規(guī)模（175B + 175B）模型的 RLHF 訓(xùn)練。本演講對(duì) PAI-ChatLearn 的架構(gòu)、性能、以及基于 NVIDIA Megatron 如何進(jìn)行高效 RLHF 訓(xùn)練等進(jìn)行簡(jiǎn)要的介紹。

11:15 - 11:45 >>

全新 GPU 架構(gòu)下的 FP8 訓(xùn)練與推理

演講人：高慧怡，NVIDIA 解決方案架構(gòu)師、薛博陽(yáng)，NVIDIA GPU 計(jì)算專(zhuān)家

介紹最新 NVIDIA Hopper GPU 架構(gòu)：FP8。具體介紹 FP8 在大語(yǔ)言模型上的訓(xùn)練與推理的相關(guān)工作，以及相應(yīng)的軟件解決方案 Transformer Engine。

11:45 - 12:25 >>

下一代大規(guī)模 LLM / MoE 訓(xùn)練系統(tǒng)基座 - NVIDIA Megatron Core

演講人：顏?zhàn)咏?，NVIDIA GPU 計(jì)算專(zhuān)家、樊士慶，NVIDIA GPU 性能架構(gòu)師

演講將為您介紹 NVIDIA Megatron Core 的設(shè)計(jì)、定位以及優(yōu)化，其中會(huì)重點(diǎn)介紹對(duì)大規(guī)模 MoE 預(yù)訓(xùn)練的支持。

11 月 1 - 2 日

NVIDIA 科學(xué)智能（AI4S）、生成式 AI、開(kāi)發(fā)者社群合作話題分享

此外，共有三場(chǎng) NVIDIA 技術(shù)演講將在 B 館風(fēng)云廳和 C 館云棲 SHOW 場(chǎng) 相繼精彩上演，無(wú)論是 AI 賦能科學(xué)發(fā)現(xiàn)還是開(kāi)發(fā)者深度內(nèi)容，又或者是生成式 AI 加速訓(xùn)練、調(diào)優(yōu)及部署，必定會(huì)帶給您不一樣的技術(shù)啟發(fā)！

演講主題：NVIDIA 科學(xué)智能（AI4S）賦能科學(xué)發(fā)現(xiàn)

時(shí)間：11 月 1 日 10:00 - 10:15

地點(diǎn)：C 館云棲 SHOW 場(chǎng)

演講人：李順，NVIDIA 教科研應(yīng)用技術(shù)總監(jiān)

想知道 NVIDIA 支持 AI for Science（AI4S）的技術(shù)框架？想了解相關(guān)技術(shù)在生命科學(xué)、氣象和流體力學(xué)中的應(yīng)用案例？好奇 NVIDIA 如何對(duì)中國(guó)科研 AI4S 應(yīng)用提供生態(tài)支持？以及現(xiàn)場(chǎng)將有 NVIDIA 和阿里云合作的 AI for Science 訓(xùn)練營(yíng)和 Hackathon 的相關(guān)信息。別錯(cuò)過(guò)本場(chǎng)演講！

演講主題：NVIDIA 生成式 AI 加速優(yōu)化方案概覽

時(shí)間：11 月 1 日 16:00 - 16:20

地點(diǎn)：B 館 B3 - 2 風(fēng)云廳

演講人：金國(guó)強(qiáng)，NVIDIA 解決方案架構(gòu)師

演講將介紹 NVIDIA 數(shù)據(jù)中心 GPU 在大語(yǔ)言模型及圖像生成領(lǐng)域的強(qiáng)大性能，結(jié)合 NeMo Framework / TensorRT / TensorRT-LLM / Triton 推理服務(wù)器等軟件 SDK 和框架極致加速生成 AI 的訓(xùn)練、微調(diào)和推理部署等成熟解決方案，極大提升 AI 應(yīng)用吞吐量降低延遲，縮短研發(fā)周期減小成本。您還將了解到基于阿里達(dá)摩院視頻生成算法的 NVIDIA 全流程優(yōu)化加速的解決方案 pipeline，為視頻生成領(lǐng)域的應(yīng)用打好堅(jiān)實(shí)的基礎(chǔ)。

演講主題：引領(lǐng)技術(shù)，推動(dòng)應(yīng)用

時(shí)間：11 月 2 日 11:30 - 11:45

地點(diǎn)：C 館云棲 SHOW 場(chǎng)

演講人：侯宇濤，NVIDIA GPU、CUDA 應(yīng)用市場(chǎng)總監(jiān)

云上開(kāi)發(fā)者大賽專(zhuān)場(chǎng)，NVIDIA GPU、CUDA 應(yīng)用市場(chǎng)總監(jiān)侯宇濤將分享 NVIDIA 與阿里云天池在助力開(kāi)發(fā)者成長(zhǎng)和推動(dòng) AI 技術(shù)應(yīng)用方面的舉措。當(dāng)然，現(xiàn)場(chǎng)還有 NVIDIA 和阿里云合作的開(kāi)發(fā)者新賽事消息，期待大家的關(guān)注！

?+

+

亮點(diǎn)二

NVIDIA 全棧 AI 和加速計(jì)算展區(qū)

1

數(shù)據(jù)中心規(guī)模全棧 AI 展示，

準(zhǔn)備就緒加速

NVIDIA 展區(qū)將帶來(lái)采用 NVIDIA AI 技術(shù)的客戶(hù)案例展示。包括 NVIDIA TensorRT-LLM 如何幫助螞蟻團(tuán)隊(duì)優(yōu)化開(kāi)源的代碼大模型 CodeFuse 的推理加速、NVIDIA GPU 及 NVIDIA Clara Parabricks 如何為阿里云金融與醫(yī)療行業(yè)提供最佳的解決方案，包含開(kāi)箱即用的魔搭開(kāi)源模型和靈積模型服務(wù)高效 GPU 優(yōu)化、Megatron 加速通義大模型訓(xùn)練，確保訓(xùn)練性能在大集群上的可擴(kuò)展性、基于 NVIDIA Megatron 開(kāi)發(fā)的深度學(xué)習(xí)大語(yǔ)言模型工具等豐富內(nèi)容。

此外，NVIDIA 展區(qū)也將展示加速基礎(chǔ)設(shè)施、AI 軟件、模型和服務(wù)的加速計(jì)算解決方案，包括 NVIDIA 加速的基礎(chǔ)設(shè)施、InfiniBand 網(wǎng)絡(luò)計(jì)算端到端解決方案、NVIDIA AI Enterprise、AI Models and Foundries 等生成式 AI 技術(shù)底座、AI Playground 生成式 AI 互動(dòng)體驗(yàn)等。而 NVIDIA 也正在為各行各業(yè)的 3D 創(chuàng)意工作流提供助力，使用戶(hù)能夠以前所未有的方式進(jìn)行協(xié)作和創(chuàng)新。因此，在 AI 互動(dòng)展示區(qū)域，我們也將帶來(lái)基于 NVIDIA Omniverse、CloudXR、RTX 等技術(shù)分享，期待與您一同探討數(shù)字世界的無(wú)限可能。

旨在培養(yǎng)顛覆行業(yè)格局的優(yōu)秀創(chuàng)業(yè)公司的 NVIDIA 初創(chuàng)加速計(jì)劃，展示內(nèi)容也將于現(xiàn)場(chǎng)開(kāi)放，歡迎想要獲得產(chǎn)品折扣、技術(shù)支持、市場(chǎng)宣傳、融資對(duì)接、業(yè)務(wù)推薦等一系列服務(wù)、加速發(fā)展的優(yōu)秀創(chuàng)業(yè)公司，前來(lái)了解。

2

AI 小課堂即將開(kāi)講

敲黑板！專(zhuān)為開(kāi)發(fā)者打造的必學(xué)課堂，連續(xù) 3 天課程內(nèi)容看點(diǎn)滿(mǎn)滿(mǎn)！

上下滑動(dòng)查看每日“課表”

10 月 31 日
時(shí)間	課程
10:00 - 10:30	利用 NVIDIA BlueField-3 DPU 構(gòu)建云
10:30 - 10:45	NVIDIA AI Enterprise 全面助力生成式 AI 全棧開(kāi)發(fā)
11:00 - 11:30	NVIDIA Spectrum-X平臺(tái)助力生成式 AI 云服務(wù)
13:00 - 13:30	基于 LLM 大模型構(gòu)建中文對(duì)話引擎：NeMo + ChatGLM
14:00 - 14:30	生成式 AI 應(yīng)用實(shí)踐：文字生成圖像的代碼實(shí)現(xiàn)流程
15:00 - 15:30	合成數(shù)據(jù)應(yīng)用初探 —— 圖像分類(lèi)數(shù)據(jù)集的制作案例

11 月 1 日
時(shí)間	課程
10:00 - 10:30	NVIDIA Spectrum-X平臺(tái)助力生成式 AI 云服務(wù)
10:30 - 10:45	NVIDIA AI Enterprise 全面助力生成式 AI 全棧開(kāi)發(fā)
11:00 - 11:30	利用 NVIDIABlueField-3 DPU 構(gòu)建云
13:00 - 13:30	基于 LLM 大模型構(gòu)建中文對(duì)話引擎：NeMo + ChatGLM
14:00 - 14:30	生成式 AI 應(yīng)用實(shí)踐：文字生成圖像的代碼實(shí)現(xiàn)流程
15:00 - 15:30	合成數(shù)據(jù)應(yīng)用初探 —— 圖像分類(lèi)數(shù)據(jù)集的制作案例

11 月 2 日
時(shí)間	課程
10:00 - 10:30	利用 NVIDIABlueField-3 DPU 構(gòu)建云
11:00 - 11:30	基于 LLM 大模型構(gòu)建中文對(duì)話引擎：NeMo + ChatGLM
13:00 - 13:30	生成式 AI 應(yīng)用實(shí)踐：文字生成圖像的代碼實(shí)現(xiàn)流程
14:00 - 14:30	合成數(shù)據(jù)應(yīng)用初探 —— 圖像分類(lèi)數(shù)據(jù)集的制作案例
15:00 - 15:30	合成數(shù)據(jù)應(yīng)用初探 —— 圖像分類(lèi)數(shù)據(jù)集的制作案例

主講人劃重點(diǎn)：

NVIDIA AI Enterprise 全面助力生成式 AI 全棧開(kāi)發(fā)

NVIDIA AI Enterprise 提供支持的企業(yè)級(jí)軟件，它能夠加速數(shù)據(jù)科學(xué)，并簡(jiǎn)化生產(chǎn)就緒型生成式 AI、計(jì)算機(jī)視覺(jué)和語(yǔ)音應(yīng)用。在本課程中，我們將介紹如何借助 NVIDIA AI Enterprise 軟件平臺(tái)，加速 AI 開(kāi)發(fā)和部署，保障性能、高可用和安全性。

—— 崔曉楠，NVIDIA 開(kāi)發(fā)者發(fā)展經(jīng)理

基于 LLM 大模型構(gòu)建中文對(duì)話引擎：NeMo + ChatGLM

本課程將 NeMo 與 ChatGLM 相結(jié)合，構(gòu)建中文場(chǎng)景下“能聽(tīng)、能想、能說(shuō)”的對(duì)話引擎，降低對(duì)話式人工智能和 LLM 大語(yǔ)言模型的使用門(mén)檻，快速了解對(duì)話式人工智能的搭建流程。

—— 李奕澎，NVIDIA 企業(yè)開(kāi)發(fā)者社區(qū)經(jīng)理

生成式 AI 應(yīng)用實(shí)踐：一個(gè)文字生成圖像的代碼實(shí)現(xiàn)流程

你將了解到生成式 AI 模型 Stable Diffusion 的基本原理以及 TensorRT 推理引擎的工作原理等內(nèi)容，希望在此學(xué)習(xí)過(guò)程中找到跟蹤 AI 發(fā)展的靈感，并鼓勵(lì)你進(jìn)行更多的實(shí)踐和探索。

—— 何琨，NVIDIA 企業(yè)開(kāi)發(fā)者社區(qū)高級(jí)經(jīng)理

合成數(shù)據(jù)應(yīng)用初探——圖像分類(lèi)數(shù)據(jù)集的制作案例

本課程將帶你了解合成數(shù)據(jù)生成工具 NVIDIA Omniverse Code 和 Omniverse Replicator，同時(shí)還有 Jetbot 小車(chē)自動(dòng)避障四分類(lèi)數(shù)字場(chǎng)景的 Python 代碼實(shí)現(xiàn)思路。

—— 侯宇濤，NVIDIA GPU、CUDA 應(yīng)用市場(chǎng)總監(jiān)

利用 NVIDIABlueField-3 DPU 構(gòu)建云

作為 AI 工廠和生成式人工智能云兩種數(shù)據(jù)中心網(wǎng)絡(luò)設(shè)計(jì)范例中，NVIDIA BlueField-3 DPU 實(shí)現(xiàn)了數(shù)據(jù)中心基礎(chǔ)設(shè)施軟件的大量加速計(jì)算，虛擬化、網(wǎng)絡(luò)、安全、存儲(chǔ)及數(shù)據(jù)的處理、控制、編排也將在 NVIDIA BlueField-3 DPU 上得到加速和處理。我們將深入探討 NVIDIA BlueField-3 DPU 在云環(huán)境和云應(yīng)用中的廣泛作用與核心價(jià)值。

—— 崔巖，NVIDIA 網(wǎng)絡(luò)技術(shù)專(zhuān)家

NVIDIA Spectrum-X 平臺(tái)助力生成式 AI 云服務(wù)

NVIDIA Spectrum-X 是首個(gè)專(zhuān)為基于以太網(wǎng)的 AI 云提高性能和效率而設(shè)計(jì)的平臺(tái)，依托于 NVIDIA Spectrum-4 以太網(wǎng)交換機(jī)和 NVIDIA BlueField-3 DPU 的緊密結(jié)合，在多租戶(hù)環(huán)境中實(shí)現(xiàn)了一致的、可預(yù)測(cè)的性能，并提高生成式 AI 云的能效。我們將深入探討 NVIDIA Spectrum-X 網(wǎng)絡(luò)平臺(tái)的動(dòng)態(tài)路由、擁塞控制和性能隔離等特性。

—— 孟慶，NVIDIA 網(wǎng)絡(luò)市場(chǎng)總監(jiān)

3

開(kāi)發(fā)者體驗(yàn)活動(dòng)，即刻預(yù)約動(dòng)手樂(lè)趣

大會(huì)期間，在 NVIDIA 展臺(tái)親自動(dòng)手，收獲有趣有料的科技體驗(yàn)！戳鏈接即可報(bào)名，提前預(yù)約參與開(kāi)發(fā)者體驗(yàn)活動(dòng)。

體驗(yàn)活動(dòng) 1：動(dòng)手實(shí)驗(yàn)——利用人工智能

技術(shù)實(shí)現(xiàn) Jetbot 自動(dòng)駕駛小車(chē)的避障功能

掃描下方二維碼報(bào)名預(yù)約體驗(yàn)活動(dòng) 1

NVIDIA Jetbot 將幫助您學(xué)習(xí)如何利用最新的人工智能技術(shù)實(shí)現(xiàn)避障過(guò)程，感受自動(dòng)駕駛技術(shù)的重要組成部分！

2022 云棲大會(huì)現(xiàn)場(chǎng)體驗(yàn)活動(dòng)精彩瞬間

體驗(yàn)活動(dòng) 2：動(dòng)手編程——體驗(yàn)

Full-Stack語(yǔ)音 AI 開(kāi)發(fā)全流程

掃描下方二維碼報(bào)名預(yù)約體驗(yàn)活動(dòng) 2

結(jié)合 Jetson 嵌入式平臺(tái)以及 NVIDIA NeMo 工具庫(kù)，您將體驗(yàn)到端到端、交互式全棧語(yǔ)音 AI 開(kāi)發(fā)全流程。有 NLP 和語(yǔ)音 AI 開(kāi)發(fā)需求的開(kāi)發(fā)者一定不要錯(cuò)過(guò)。

?+

+

亮點(diǎn)三

參會(huì)贏好禮：NVIDIA 獨(dú)家限量秘笈

活動(dòng)期間，光臨 NVIDIA 展臺(tái)及 AI 小課堂，將有機(jī)會(huì)獲取首部 NVIDIA DPU 編程入門(mén)書(shū)籍！

劇透就先到這里啦！

覺(jué)得意猶未盡？

那就收好這份 NVIDIA的

2023 云棲大會(huì)日程攻略，

前往活動(dòng)現(xiàn)場(chǎng)或線上云端參會(huì)，

親自解鎖大會(huì)亮點(diǎn)吧！

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國(guó)加州圣何塞會(huì)議中心舉行，線上大會(huì)也將同期開(kāi)放。點(diǎn)擊“閱讀原文”或掃描下方海報(bào)二維碼，關(guān)注更多會(huì)議及活動(dòng)信息。