GPU如何引爆AI時代

NVIDIA首席科學家Bill Dally在最新一期AI播客中與主持人Noah Kravitz分享了自己關(guān)于人工智能的想法。

Bill Dally作為NVIDIA的首席科學家，也是深度學習領(lǐng)域的標桿。他曾擔任斯坦福大學計算機科學系主任，很早之前就已經(jīng)開始了神經(jīng)網(wǎng)絡(luò)方面的研究。他也是一位高產(chǎn)型研究員，擁有150多項專利。

很多AI算法和神經(jīng)網(wǎng)絡(luò)研究早在80年代就已經(jīng)登場，但直到最近幾年，AI才得以真正崛起。如今，Dally已在人工智能領(lǐng)域辛勤研究數(shù)十年，他相信“AI將會改變?nèi)祟惿畹姆椒矫婷妗薄?/p>

當今AI革命的起源

Dally告訴Kravitz，他在20世紀80年代開始研究神經(jīng)網(wǎng)絡(luò)時，使用的計算機的運算速度比現(xiàn)在慢10萬倍。而如今的AI革命由功能強大的GPU驅(qū)動。但是，新一輪AI革命的成功更需要付出大量努力。

2006年，NVIDIA的Ian BuckBut發(fā)布了CUDA編程語言?！癎PU擁有計算資源，而CUDA釋放了這些資源?！盌ally說道。自此，GPU計算引起關(guān)注。

Dally遇到了深度學習領(lǐng)域的杰出人物吳恩達，談起了吳恩達當時正在投身的一個項目。該項目利用無監(jiān)督式學習來檢測網(wǎng)絡(luò)上貓的圖像，現(xiàn)在已廣為人知。

該項目當時使用了Google Cloud上的16000個CPU。Dally建議他們合作使用GPU完成這項工作。這也成為NVIDIA探索深度學習的開端。

Dally表示，未來神經(jīng)網(wǎng)絡(luò)有兩個主要的領(lǐng)域?qū)⑹艿疥P(guān)注：創(chuàng)建更強大的算法以提高推理的效率，以及開發(fā)能基于更少數(shù)據(jù)進行訓練的神經(jīng)網(wǎng)絡(luò)。

技術(shù)進步包含“演進部分和革命部分(evolutionary component and a revolutionary component)”，他說道，“在研究中，我們重點關(guān)注革命部分?！?/p>

NVIDIA的研究文化日益增強

2009年，Dally作為首席科學家加入NVIDIA，NVIDIA研究團隊只有不到10位科學家。而現(xiàn)在，整個研究團隊已壯大到200人。

Dally希望NVIDIA研究人員能致力于未來深刻影響公司發(fā)展的領(lǐng)域，并取得出色的成績。他表示，在頂級會議中發(fā)表研究成果可以獲得同行的審核與反饋，這是實現(xiàn)質(zhì)量控制的關(guān)鍵，因此具有十分重要的意義。

“這種謙卑求教的體驗會讓你變得更好?！彼硎尽?/p>

近日在鹽湖城舉行的計算機視覺與模式識別會議(CPVR)上 ，NVIDIA研究人員共發(fā)表了14篇已收錄論文和學術(shù)海報，其中有7篇在演講環(huán)節(jié)中發(fā)表。