AI 如何賦能萬物？GOTC 2023 給出答案

AI 賦能萬物的時代已經(jīng)到來。5 月 28 日，GOTC 2023 "AIis Everywhere專題論壇 " 由 Linux 基金會亞太區(qū)副總裁楊軒擔(dān)任出品人，將于上海張江科學(xué)會堂召開。

全球開源技術(shù)峰會（Global Open-source Technology Conference，簡稱 GOTC）是由開放原子開源基金會、 Linux 基金會亞太區(qū)、上海浦東軟件園和開源中國聯(lián)合發(fā)起的，面向全球開發(fā)者的一場盛大開源技術(shù)盛宴。

GOTC 2023 為期兩天，大會將以行業(yè)展覽、主題發(fā)言、特別論壇、分論壇的形式展現(xiàn)，與會者將一起探討元宇宙、3D 與游戲、eBPF、Web3.0、區(qū)塊鏈等熱門技術(shù)主題，以及開源社區(qū)、AIGC、汽車軟件、AI 編程、開源教育培訓(xùn)、云原生等熱門話題，探討開源未來，助力開源發(fā)展。

AI 已經(jīng)顛覆世界，GOTC 2023報名通道現(xiàn)已開啟，來吧，一起走進AIis Everywhere專題論壇，探討開源 AI 的未來。

大會亮點：

AI與數(shù)據(jù)、數(shù)據(jù)庫的未來

訓(xùn)練框架、推理模型、算法量產(chǎn)

詳解PyTorch 2.0體系結(jié)構(gòu)

大模型與多模態(tài)技術(shù)、AI應(yīng)用落地實踐

出品人：楊軒

現(xiàn)為 Linux 基金會亞太區(qū)副總裁，擁有超過 20 年軟件行業(yè)經(jīng)驗，曾在 Saba、Sumtotal、Computer Associates 等大型國際軟件公司擔(dān)任高級管理職務(wù)。擁有豐富的企業(yè)級軟件應(yīng)用和開發(fā)經(jīng)驗，以及軟件開源和數(shù)字化轉(zhuǎn)型實踐經(jīng)驗。

議題：Welcome and Introduction

演講時間：9:00-9:20

演講嘉賓：譚中意 | LF AI Outreach 主席

議題：Keynote

演講時間：9:20-9:40

演講嘉賓：Ibrahim Haddad | LF AI & Data 基金會執(zhí)行董事、PyTorch 基金會執(zhí)行董事

議題：AI & Data: painpoints and the future.

演講時間：9:40-10:00

演講嘉賓：堵俊平 | LF AI & Data Board Chair、ASF Member

議題簡介：當(dāng)下，由 ChatGPT 引爆的大語言模型革命正在產(chǎn)生深遠影響。作為智能時代最稀缺的資源之一，數(shù)據(jù)的重要性毋庸置疑，也經(jīng)常成為各大企業(yè)與研究機構(gòu)模型研發(fā)與調(diào)優(yōu)的瓶頸。本議題重點討論大模型背后的數(shù)據(jù)痛點以及面向未來的應(yīng)對方案。

議題：大規(guī)模語言模型在智能文檔問答的應(yīng)用：基于Langchain和Langchain-serve的解決方案

演講時間：10:00-10:20

演講嘉賓：王楠 | Jina AI 聯(lián)合創(chuàng)始人兼 CTO

議題簡介：文檔問答系統(tǒng)的任務(wù)是從文檔數(shù)據(jù)中查找與用戶問題相關(guān)的答案。由于文檔數(shù)量不斷增加，傳統(tǒng)的搜索已經(jīng)不能滿足人們的需求。隨著深度學(xué)習(xí)模型的發(fā)展，文檔問答系統(tǒng)從基于字符匹配的方法遷移到基于向量表示的方法。但是，它們?nèi)匀恢荒芊祷嘏c問題相關(guān)的段落，不能直接給出問題的答案，尤其是對于是否類問題。最近，大規(guī)模語言模型的能力不斷提升，為文檔問答系統(tǒng)的答案生成問題提供了解決方案。新一代的文檔問答系統(tǒng)將傳統(tǒng)模型、深度學(xué)習(xí)問答模型和大規(guī)模語言模型技術(shù)融合在一起，為用戶提供更完善的文檔問答服務(wù)。本次演講將介紹如何使用 Langchain 開發(fā)框架和 Langchain-serve 部署工具來開發(fā)智能文檔問答系統(tǒng)。

議題：昇思大模型一站式易用實踐

演講時間：10:20-10:40

演講嘉賓：何蘆微 | 華為資深開源工程師

議題簡介：人工智能發(fā)展到今天，已經(jīng)從” 大煉模型 “逐步邁向” 煉大模型 “。相比傳統(tǒng)針對特定應(yīng)用場景需求進行訓(xùn)練的模型，大模型泛化能力強，不再局限于單一特定場景，也因此它需要更大更廣數(shù)據(jù)量的” 投喂 “，需要更強的算力訓(xùn)練，這些都需要巨量的成本，絕大部分開發(fā)者基本無法承擔(dān)，如何降低大模型的訓(xùn)練和應(yīng)用門檻成了新的難題。 在本次議題中，我們將帶來昇思大模型一站式易用實踐分享，介紹昇思 MindSpore 社區(qū)打造的一站式大模型平臺，它集模型選型、在線推理、在線訓(xùn)練為一體，支持大模型的在線體驗及微調(diào)，讓開發(fā)者零距離接觸紫東?太初以文生文，悟空畫畫以文生圖，Luojia 遙感檢測等大模型應(yīng)用。

議題：AI數(shù)據(jù)庫OpenMLDB應(yīng)用實踐

演講時間：10:40-11:00

演講嘉賓：陳迪豪 | 第四范式架構(gòu)師

議題簡介：AI 已經(jīng)成為計算機基礎(chǔ)架構(gòu)中不可或缺的一環(huán)，而針對 AI 場景優(yōu)化的數(shù)據(jù)庫也應(yīng)運而生。AI 數(shù)據(jù)庫不僅功能上要滿足特征工程以及機器學(xué)習(xí)模型的上線需求，在離線和在線性能上也有更高的要求。本次分享將以 OpenMLDB 項目為例，深入介紹 AI 數(shù)據(jù)庫的應(yīng)用場景和性能優(yōu)化，實現(xiàn)特定 AI 場景快速落地以及數(shù)倍甚至數(shù)十倍的性能提升。

議題：向量數(shù)據(jù)庫：面向AIGC的海量記憶體

演講時間：11:00-11:20

演講嘉賓：郭人通 | Zilliz 合伙人、產(chǎn)品總監(jiān)

議題簡介：在 AIGC 大火的時代，向量數(shù)據(jù)庫在海量非結(jié)構(gòu)化數(shù)據(jù)處理中發(fā)揮著越來越重要的作用，本次分享將重點介紹在 AIGC 浪潮里，向量數(shù)據(jù)庫如何為 AI 賦能。

議題：PyTorch 2.0：將編譯器技術(shù)引入PyTorch內(nèi)核

演講時間：11:20-11:55

演講嘉賓：Peng Wu | Engineering Manager supporting the PyTorch compiler team

議題簡介：PyTorch 2.0 利用編譯器實現(xiàn)更快的訓(xùn)練和推理，同時不犧牲 PyTorch 的靈活性和易用性。本次演講將概述新 torch.compile () API 背后的技術(shù)棧，并討論 PyTorch 2.0 的關(guān)鍵特性，包括其完全向后兼容以及模型訓(xùn)練速度提高 43%。我們將介紹各種堆棧組件，如 TorchDynamo、AOTAutograd、PrimTorch 和 TorchInductor，以及它們?nèi)绾螀f(xié)同工作以簡化模型開發(fā)過程。參會者將更深入地了解 PyTorch 2.0 架構(gòu)以及在深度學(xué)習(xí)框架中整合編譯器技術(shù)所帶來的優(yōu)勢。

議題：開源深度學(xué)習(xí)框架飛槳及其開源社區(qū)

演講時間：13:30-14:00

演講嘉賓：張軍 | 百度飛槳框架產(chǎn)品負責(zé)人、開放原子開源基金會 TOC 委員

議題簡介：本報告結(jié)合生成式 AI 的最新發(fā)展趨勢和百度的實踐，介紹百度深度學(xué)習(xí)平臺 + 大模型核心技術(shù)研發(fā)、產(chǎn)品創(chuàng)新和生態(tài)建設(shè)的進展。報告同時分享圍繞飛槳產(chǎn)業(yè)級深度學(xué)習(xí)開源開放平臺、在新趨勢下開展產(chǎn)教融合教育生態(tài)建設(shè)的思考。

議題：當(dāng)聯(lián)邦學(xué)習(xí)遇到大型語言模型

演講時間：14:00-14:20

演講嘉賓：彭麟 | VMware CTO 辦公室資深研究員

議題簡介：聯(lián)邦學(xué)習(xí)使得多個數(shù)據(jù)源可以在不共享數(shù)據(jù)的情況下協(xié)同訓(xùn)練一個模型。近年來，基于 transformer 的大型語言模型越來越受歡迎。然而，這些模型由于其高計算資源需求和復(fù)雜算法而帶來挑戰(zhàn)。在本次演講中，我們將介紹 FATE 在金融用例中將聯(lián)邦學(xué)習(xí)應(yīng)用于 GPT-J、ChatGLM-6B、GLM 和 LLaMA 等大型語言模型方面的最新努力。FATE 將聯(lián)邦學(xué)習(xí)的分布式訓(xùn)練機制與大規(guī)模模型相結(jié)合，在保持各方敏感數(shù)據(jù)僅限于本地域內(nèi)的同時允許根據(jù)每個參與者實際數(shù)據(jù)量進行計算投入。這使得能夠共同培訓(xùn)大規(guī)模模式并互惠互利。我們還將探討技術(shù)和實踐考慮因素、現(xiàn)實世界用例以及對隱私保護機制的需求。

議題：模型推理優(yōu)化，探索AI落地潛能

演講時間：14:20-14:40

演講嘉賓：袁麗雅 | 中興通訊標(biāo)準(zhǔn)及開源高級工程師

議題簡介：大模型的趨勢已經(jīng)勢不可擋，如何提高模型推理效率成為亟待解決的問題。本報告將介紹模型推理優(yōu)化的技術(shù)現(xiàn)狀及趨勢，并分享 Adlik 項目在該領(lǐng)域的實踐。

議題：Xtreme1下一代多模態(tài)開源訓(xùn)練數(shù)據(jù)平臺

演講時間：14:40-15:00

演講嘉賓：王家軍 | 倍賽科技技術(shù)研發(fā)總監(jiān)

議題簡介：UBS Global 研究報告發(fā)現(xiàn)：現(xiàn)如今 AI 工程師 70%-90% 的時間都花費在訓(xùn)練數(shù)據(jù)上。很多算法在實踐中已非常優(yōu)秀，數(shù)據(jù)已然成為 AI 模型開發(fā)新的瓶頸。基于以上現(xiàn)狀，倍賽科技團隊研發(fā)出 Xtreme1 訓(xùn)練數(shù)據(jù)平臺，致力構(gòu)建最容易觸達的開源 Data-Centric MLOps 基礎(chǔ)設(shè)施，以連接人、模型和數(shù)據(jù)。Xtreme1 首次引入本體 Ontology 來穿透不同 AI 客戶的問題抽象，是全球首個支持多模態(tài)數(shù)據(jù)標(biāo)注的開源工具，全面遵循云原生架構(gòu)原則，以保證服務(wù)性能的可擴展性，部署規(guī)模的可彈性，以及在故障情況下的服務(wù)韌性。

議題：OPPO移動端圖形技術(shù)領(lǐng)域探索實踐 ——O3DE Mobile WG及shaderNN

演講時間：15:00-15:20

演講嘉賓：彭周虎 | OPPO 開源辦公室負責(zé)人

議題簡介：近年來，隨著移動端算力的不斷提升和深度學(xué)習(xí)研究的快速發(fā)展，特別是小網(wǎng)絡(luò)模型不斷成熟以及數(shù)據(jù)安全的要求越來越高，越來越多的原本在云端執(zhí)行的推理轉(zhuǎn)移到移動端上來實現(xiàn)。移動平臺的深度學(xué)習(xí)推理涉及硬件平臺、驅(qū)動、編譯優(yōu)化、模型壓縮、算子算法優(yōu)化以及部署，適合系統(tǒng)業(yè)務(wù)開發(fā)的高效推理框架成為業(yè)界迫切需求和開發(fā)重點。

基于移動端圖形圖像后處理高效 AI 推理需求，為降低業(yè)務(wù)融合成本，提高效能，我們開發(fā)了基于 GPU Shader 高效推理引擎 ShaderNN。它直接基于 GPU 紋理進行高效推理以節(jié)省 I/O 時間， 不依賴第三方庫，跨不同硬件平臺，支持主流深度學(xué)習(xí)訓(xùn)練框架，可定制，方便優(yōu)化、集成、部署和升級。

議題：英特爾的PyTorch之旅：AI算力提升和開源軟件優(yōu)化

演講時間：15:40-16:00

演講嘉賓：馬鳴飛 | Senior Deep Learning Software Engineer

議題簡介：PyTorch 是深度學(xué)習(xí)和機器學(xué)習(xí)最流行的框架之一，英特爾一直是 PyTorch 社區(qū)的長期貢獻者和宣傳者。在本次演講中，我們將分享在核心框架及其生態(tài)系統(tǒng)庫中為 PyTorch 做出貢獻的經(jīng)驗。我們將詳細介紹我們在 torch.compile 中的優(yōu)化，這是 PyTorch 2.0 的旗艦新功能，并展示其在 CPU 上的性能優(yōu)勢。我們將展示如何通過硬件算力的提升和開源軟件的優(yōu)化，讓 AI 應(yīng)用更加平民化，如基于擴散的生成式 AI 和大語言模型。 我們還將介紹過去參與的一些 PyTorch 生態(tài)系統(tǒng)項目，例如 HuggingFace，DeepSpeed，PyG 等等。最后，我們將討論未來的計劃和愿景，繼續(xù)與 PyTorch 基金會合作，以推動深度學(xué)習(xí)和機器學(xué)習(xí)朝著更好的方向發(fā)展。

議題：DeepRec：面向推薦場景的高性能深度學(xué)習(xí)框架

演講時間：16:00-16:20

演講嘉賓：演講嘉賓：丁辰 | 阿里云 PAI 技術(shù)專家

議題簡介：DeepRec 是阿里云機器學(xué)習(xí)平臺 PAI 開源的面向推薦場景的高性能深度學(xué)習(xí)框架，針對稀疏模型在分布式、圖優(yōu)化、算子、Runtime 等方面進行了深度的性能優(yōu)化，同時提供了動態(tài)彈性特征，動態(tài)彈性維度，自適應(yīng) EmbeddingVariable、增量模型導(dǎo)出及加載等一系列功能。DeepRec 在阿里巴巴集團內(nèi)部應(yīng)用于淘寶、天貓、阿里媽媽、高德、淘特、AliExpress、Lazada 等，在核心業(yè)務(wù)上支撐著千億特征、萬億樣本的超大規(guī)模稀疏訓(xùn)練。DeepRec 開源一年多以來，已經(jīng)在數(shù)十家公司的搜推廣業(yè)務(wù)場景中大規(guī)模應(yīng)用，帶來了巨大的業(yè)務(wù)價值。

議題：曠視算法量產(chǎn)與MegEngine生態(tài)建設(shè)

演講時間：16:20-16:40

演講嘉賓：陳其友 | 曠視科技 MegEngine 團隊負責(zé)人

議題簡介：目前 AI 技術(shù)應(yīng)用已經(jīng)在各種領(lǐng)域得到驗證，它具有比傳統(tǒng)算法更高的生產(chǎn)力。但是隨著大量的 AI 算法的需求，傳統(tǒng)的針對某個具體場景進行數(shù)據(jù)采集，標(biāo)注，模型訓(xùn)練，驗證，交付的算法生成方式成為了 AI 落地的瓶頸。MegEngine 團隊圍繞 MegEngine 訓(xùn)練框架，提出一種基于各個階段標(biāo)準(zhǔn)化的算法量產(chǎn)的方法來減低 AI 落地的門檻，為了實現(xiàn)算法量產(chǎn)，MegEngine 開發(fā)了一系列組件，他們共同形成了 MegEngine 的算法量產(chǎn)的生態(tài)，正在逐步開源。

議題：Primus——通用的分布式訓(xùn)練調(diào)度框架

演講時間：16:40-17:00

演講嘉賓：徐合邦 | 字節(jié)跳動基礎(chǔ)架構(gòu)計算框架研發(fā)工程師

議題簡介：近些年來，機器學(xué)習(xí)科技已經(jīng)深植各應(yīng)用領(lǐng)域，并且成功帶來顯著的提升。面對與日具增的訓(xùn)練資料和模型規(guī)模，為了滿足更高效率的模型訓(xùn)練，分布式訓(xùn)練的概念順應(yīng)而生。作為一個通用的分布式訓(xùn)練調(diào)度框架，Primus 提供一個通用的介面橋接了分布式訓(xùn)練任務(wù)和物理計算資源，讓資料科學(xué)家可以專注與學(xué)習(xí)算法的設(shè)計，并且讓分散式訓(xùn)練任務(wù)可以運行在不同種類的計算集群，例如 Kubernetes 和 YARN。于此基礎(chǔ)上，Primus 更提供了分布式訓(xùn)練任務(wù)所需的容錯能力以及資料調(diào)度能力，進而更提升了分布式訓(xùn)練的易用性。本議題將分享 Primus 在字節(jié)跳動的站內(nèi)現(xiàn)況及實踐，Primus 和分布式訓(xùn)練領(lǐng)域的相關(guān)挑戰(zhàn)、及未來展望。

議題：透明后端圖編譯器無縫提升ML上游框架

演講時間：17:00-17:20

演講嘉賓：Tiejun Chen | Sr. Technical lead

議題簡介：當(dāng)前有一個新興趨勢：觀測性從云向邊緣轉(zhuǎn)移，這時 AI 工作負載往往通過高層級 ML 框架（如 Ray）進行管理和編排。但與此同時，各種廠商的 AI 加速器（如 Nvidia GPU 系列、Intel Movidius VPU、Google TPU 等）已經(jīng)實現(xiàn)了 AI 加速。實際上可以看到許多基于 ASIC 的 AI 加速器。另一方面，存在著各種圖編譯器（如 TVM、Intel OpenVINO、TensorRT 等）用來提高 ML 性能，但碎片化嚴重。因此，在現(xiàn)實世界中用戶在賦予這些異構(gòu) AI 加速器不同軟件加速時面臨挑戰(zhàn)，原因是缺少一個自然支持它們的通用統(tǒng)一框架。本次演講將分享引入透明后端加速技術(shù)來自動提升流行 ML 上游框架（如 Tensorflow、Pytorch、TorchServe、Tensorflow Serving 等）上異構(gòu) AI 加速器上的 ML 性能，并與那些主流 ML 圖編譯器無縫結(jié)合。通過我們對主流 ML 框架零代碼更改方法，用戶可以在他們原始的 AI 應(yīng)用上看到提升的 ML/AI 性能。

議題：OpenGPT：LMM多模態(tài)大模型推理框架

演講時間：17:20-17:40

演講嘉賓：王峰 | Jina AI 高級算法工程師

議題簡介：大語言模型和多模態(tài)技術(shù)已經(jīng)成為趨勢，以 GPT-4 為代表的 AI 能力的提升，從實現(xiàn)單調(diào)的文本交互，轉(zhuǎn)變?yōu)榭梢越邮軋D像、文本作為輸入。越來越多基于大模型的多模態(tài)技術(shù)涌現(xiàn)出來，但是在實際工業(yè)產(chǎn)品落地過程中仍然存在諸多挑戰(zhàn)。特別是針對模型推理問題又有更多新的問題需要解決。本次分享將以 OpenGPT 項目為例來介紹 Jina AI 在解決大模型產(chǎn)品落地問題的實踐。

0635

全球開源技術(shù)峰會（Global Open-source Technology Conference，簡稱 GOTC）是由開放原子開源基金會、 Linux 基金會亞太區(qū)、上海浦東軟件園和開源中國聯(lián)合發(fā)起的，面向全球開發(fā)者的一場盛大開源技術(shù)盛宴。

GOTC 2023 將于 5 月 27 日至 28 日在上海張江科學(xué)會堂召開。大會將以行業(yè)展覽、主題發(fā)言、特別論壇、分論壇的形式展現(xiàn)，與會者將一起探討元宇宙、3D 與游戲、eBPF、Web3.0、區(qū)塊鏈等熱門技術(shù)主題，以及開源社區(qū)、AIGC、汽車軟件、AI 編程、開源教育培訓(xùn)、云原生等熱門話題，探討開源未來，助力開源發(fā)展。

GOTC 2023報名通道現(xiàn)已開啟，誠邀全球各技術(shù)領(lǐng)域開源愛好者共襄盛舉！

審核編輯黃宇