利用NVIDIA GPU并行計(jì)算技術(shù)解決AI研究問題

由于冠狀病毒的存在， 2021 年韓國科學(xué)技術(shù)信息研究所（ KISTI ） GPU 黑客大賽在 KISTI NVIDIA 和 OpenACC 組織的專家導(dǎo)師指導(dǎo)下舉行。為了激發(fā)科學(xué)家加速 AI 研究或 HPC 代碼的可能性， hackathon 提供了利用 NVIDIA GPU并行計(jì)算技術(shù)解決研究問題和擴(kuò)展專業(yè)知識(shí)的機(jī)會(huì)。

以面對(duì)面活動(dòng)而聞名的虛擬黑客大會(huì)對(duì)與會(huì)者和主持人都提出了自己的挑戰(zhàn)。新的模式還需要兼顧由三個(gè) HPC 和 AI 團(tuán)隊(duì)、四個(gè)高等教育和研究團(tuán)隊(duì)以及兩個(gè)行業(yè)團(tuán)隊(duì)組成的多樣化團(tuán)隊(duì)。

活動(dòng)團(tuán)隊(duì)發(fā)現(xiàn)以下配方有助于為參與者創(chuàng)造有意義的成功體驗(yàn)：

指導(dǎo)

基于他們?cè)谔囟I(lǐng)域或編程語言方面的專業(yè)知識(shí)，專門的導(dǎo)師與團(tuán)隊(duì)一起進(jìn)行指導(dǎo)，以設(shè)定目標(biāo)，并考慮不同的方法。導(dǎo)師們合作解決團(tuán)隊(duì)遇到的問題并排除障礙。每天的導(dǎo)師同步電話讓每個(gè)人都集中精力，朝著實(shí)現(xiàn)目標(biāo)的最佳策略努力。

社交

每個(gè)人都知道，只工作不玩耍實(shí)際上會(huì)阻礙團(tuán)隊(duì)的生產(chǎn)力。 hackathon 為參與者和導(dǎo)師提供了 TGIF 社交時(shí)間會(huì)議。使用 Metaverse Gather 城鎮(zhèn)空間，導(dǎo)師和團(tuán)隊(duì)分享經(jīng)驗(yàn)，為電池充電，并建立聯(lián)系，幫助他們?cè)诨顒?dòng)期間繼續(xù)前進(jìn)。

資源和現(xiàn)場研討會(huì)

成功的另一個(gè)重要因素是為與會(huì)者提供專門的培訓(xùn)和資源。例如， NVIDIA 深度學(xué)習(xí)培訓(xùn)中心（ DLI ）的一位大使和導(dǎo)師介紹了一個(gè)涵蓋 CUDA C / C ++主題的研討會(huì)。其他導(dǎo)師提供了團(tuán)隊(duì)專用的技術(shù)課程，重點(diǎn)是TRT和 NVIDIA Triton 、OpenACC和 NSight 系統(tǒng)的評(píng)測、并行計(jì)算和優(yōu)化。

努力工作是有回報(bào)的

延世大學(xué)的帕斯卡團(tuán)隊(duì)正在開發(fā)一種熱流體解算器，該解算器可以有效地計(jì)算湍流的熱運(yùn)動(dòng)。在這次黑客大會(huì)上，團(tuán)隊(duì)通過 OpenACC 和 cuFFT 庫將基于 CPU 的現(xiàn)有代碼轉(zhuǎn)換為多 GPU 環(huán)境。這使得最耗時(shí)的子程序之一的計(jì)算速度加快了 4 . 84 倍 RHS （右側(cè)，分步）。

來自 AmorePacific 化妝品公司的 Amore Opt 團(tuán)隊(duì)致力于 GPU 優(yōu)化 DeepLabV3 +細(xì)分模型。通過應(yīng)用他們對(duì) TensorRT 推理優(yōu)化器和 NVIDIA Triton 推理服務(wù)器的了解，他們提高了推理速度，使推理速度提高了 26 倍。他們做到了這一點(diǎn)，同時(shí)保持人工智能模型的準(zhǔn)確性，以便為未來的大規(guī)?？蛻舴?wù)檢測皮膚問題。

首爾國立大學(xué)的 TFC 團(tuán)隊(duì)參與了一個(gè)項(xiàng)目，以加速基于 CPU 的 Fortran 內(nèi)部流體計(jì)算代碼。通過在 KISTI 使用 NVIDIA GPU s ，團(tuán)隊(duì)加速了耗時(shí)的三對(duì)角矩陣算法（ TDMA ）用于熱解算器和動(dòng)量解算器，以及快速傅立葉變換（ FFT ）用于壓力解算器計(jì)算。他們?cè)谝慌_(tái) V100 GPU 上實(shí)現(xiàn)了 11.15 倍的速度。

NVIDIA Inception 成員 Nota 和杭陽大學(xué)合作，通過利用 NVIDIA GPU s 中的張量核進(jìn)行 INT4 量化，優(yōu)化了 Nota 模型壓縮引擎。名為 NOTA-HYU 的團(tuán)隊(duì)學(xué)會(huì)了使用 NVIDIA 分析工具 NSight 系統(tǒng)和 NSight 計(jì)算。然后，他們應(yīng)用 NVIDIA 庫彎刀，通過 CUDA 優(yōu)化，使剩余塊的總體速度提高 1.85 倍。

關(guān)于作者

Solee Moon 是 NVIDIA 高等教育與研究（ HER ）和 NVIDIA 深度學(xué)習(xí)培訓(xùn)中心（ DLI ）項(xiàng)目的企業(yè)營銷專家，專注于支持 AI 開發(fā)者社區(qū)的發(fā)展。在 NVIDIA 之前， Solee 曾在三星電子 CTR 擔(dān)任品牌營銷專家，執(zhí)行各種整合營銷傳播活動(dòng)。

審核編輯：郭婷