NVIDIA GPU計算的關(guān)鍵技術(shù)解析

?

　　1999年，NVIDIA推出了首款圖形處理器(GPU)，它是迄今為止使用最廣的并行處理器。源于對逼真及實時圖像的渴求，GPU已成為既可以浮點運算又可以編程的處理器;如今的GPU在計算吞吐量和內(nèi)存帶寬上遠優(yōu)于CPU，使其成為加速數(shù)據(jù)并行應用程序的理想處理器。

　　2003年起，NVIDIA開始對GPU進行非圖形應用程序方面的探索。通過使用高級圖形語言如DirectX、OpenGL和Cg，將各種數(shù)據(jù)并行算法移植于GPU。像蛋白質(zhì)折疊、股票期權(quán)定價、SQL查詢及MRI重建等問題都能通過GPU獲得非凡的加速表現(xiàn)。這些早期將圖形API用于通用計算的嘗試被我們稱為GPGPU程序。

　　雖然GPGPU模型顯示出不俗的加速性能，但依舊面臨諸多問題。首先，它要求程序員具備有關(guān)圖形API以及GPU架構(gòu)的相關(guān)知識。其次，問題必須按照頂點坐標、紋理及著色程序的方式表達出來，極大地增加了程序的復雜性。第三，不支持諸如隨機讀寫內(nèi)存等基礎的編程特性，大大限制了編程模型。最后，缺少對雙精度運算的支持(直到最近)意味著有些科學應用程序不能運行在GPU上。

　　為解決這些問題，NVIDIA采用了兩項關(guān)鍵技術(shù)——G80統(tǒng)一圖形與計算架構(gòu)(最先采用于GeForce 8800、Quadro FX 5600與Tesla C870 GPU)和CUDA。CUDA作為一種軟硬件架構(gòu)，可采用多種高級編程語言對GPU進行編程。同時，這兩種技術(shù)也代表著一種新的GPU應用方式。相比以前通過編程將專業(yè)圖形單元與圖形API結(jié)合不同，程序員可通過CUDA擴展來編寫C語言程序，針對通用的大規(guī)模并行處理器。我們把這種新型GPU編程模式稱之為“GPU計算”，它意味著更廣泛的應用程序支持，更多編程語言的支持，是與初期GPGPU編程模型的本質(zhì)分離。

　　G80架構(gòu)

　　NVIDIA旗下GeForce 8800是被賦予了新型GPU計算模型的產(chǎn)品。2006年11月推出，基于GeForce 8800的G80為GPU計算所帶來了的是一些關(guān)鍵性的創(chuàng)新：

　　G80是首款支持C語言的GPU，允許程序員使用GPU所帶來的計算力，而又無須再學習一門新的編程語言。

　　G80是首款以單個、統(tǒng)一處理器取代頂點與像素管線的GPU，這種處理器可以執(zhí)行頂點、幾何、像素及計算程序。

　　G80是首款利用標量線程處理器的GPU，從而消除了程序員手動管理向量寄存器。

　　G80采用了單指令、多線程(SIMT)的執(zhí)行模型，多個相互獨立的線程可并行執(zhí)行單條指令。

　　G80對內(nèi)部線程通訊采用了共享內(nèi)存和柵障同步。

　　2008年6月，NVIDIA對G80架構(gòu)進行了重大改進。第二代統(tǒng)一架構(gòu)——GT200(首次采用是在GeForce GTX 280，Quadro FX5800 和Tesla T10 GPU上)——將流處理器的核心數(shù)量(以下稱其為 CUDA核心)從128增加至240。每個處理器的寄存器組都擴大了一倍，允許更多的線程任何時候在芯片上執(zhí)行。增加硬件內(nèi)存的聯(lián)合存取以改善內(nèi)存訪問效率。另外，還添加了對雙精度浮點運算的支持，以處理科學和高性能計算(HPC)應用。

　　在設計每款新一代GPU時，NVIDIA都以改善現(xiàn)有應用性能與GPU可編程性為宗旨;更快速的應用性將能帶來直接的效益，GPU在可編程性上的不斷進步，使得它發(fā)展成為我們當下最通用的并行處理器。正是基于這樣的理念，促使我們又著手研發(fā)GT200架構(gòu)的繼任者。