說(shuō)起高層次綜合技術(shù)(High-level synthesis)的概念,現(xiàn)在有很多初學(xué)者簡(jiǎn)單地把它理解為可以自動(dòng)把c/c++之類地高級(jí)語(yǔ)言直接轉(zhuǎn)換成底層硬件描述語(yǔ)言(RTL)的技術(shù)。其實(shí)更準(zhǔn)確的表述是:由更高抽象度的行為描述生產(chǎn)電路的技術(shù)。高層次的概念代表的是硬件描述語(yǔ)言里面較高的抽象層次,只是隨著軟件硬件語(yǔ)言的共同發(fā)展,這樣的高抽象度的行為描述語(yǔ)言來(lái)到了C/C++/System C 這樣的層次。
以下是南加州大學(xué)的DANIEL D.GAJSKI教授在1994年出版的期刊時(shí)對(duì)高層次綜合技術(shù)的描述[1]:High-level synthesis systems start with an abstract behavioral specification of a digital system and find a register-transfer level structure that realizes the given behavior. 下圖揭示了高層次綜合工作的基本流程,以及它于傳統(tǒng)的RTL綜合流程的對(duì)比。接下來(lái)將對(duì)行為描述,行為綜合,分析與優(yōu)化三個(gè)主要子流程詳細(xì)描述。
01 行為描述
當(dāng)我們把HLS技術(shù)的起點(diǎn)立為一種行為描述語(yǔ)言的時(shí)候,就需要軟件語(yǔ)言遵循特定的行為描述規(guī)范,并且剔除一些源自于軟件系統(tǒng)的的思維理念。雖然各個(gè)HLS工具的行為綜合都有自己的規(guī)范,但是關(guān)于動(dòng)態(tài)內(nèi)存分配的約束是共通的:禁止遞歸和動(dòng)態(tài)指針。
函數(shù)遞歸意味著需要能夠動(dòng)態(tài)生成電路模塊,動(dòng)態(tài)指針是指運(yùn)行時(shí)指針值可以任意變化的指針變量。硬件不像軟件具有大塊的主內(nèi)存,只有分布在局部的內(nèi)存,所以比較適合并行實(shí)現(xiàn)。動(dòng)態(tài)指針要求作為對(duì)象的訪問(wèn)實(shí)體在運(yùn)行時(shí)變化,超出了數(shù)字電路概念的一種功能。同樣,超出了數(shù)字電路概念的還有管理系統(tǒng)內(nèi)存分配的系統(tǒng)調(diào)用函數(shù)等,在此不一一列舉了。
行為描述的概念,讓我們明確了針對(duì)數(shù)字電路特性使用高層次語(yǔ)言去編寫行為代碼的這一設(shè)計(jì)基本準(zhǔn)則。而后探討代碼風(fēng)格(coding style),系統(tǒng)優(yōu)化都由這一基本準(zhǔn)則延申。這就是為什么我們寫的C語(yǔ)言代碼會(huì)有一種介于硬件與軟件設(shè)計(jì)風(fēng)格之間的根本原因。
行為描述的基本對(duì)象有輸入輸出接口,數(shù)據(jù)位寬,并行化描述等等,在 Vitis HLS 中有行為描述的規(guī)范和推薦的寫法等等,在展開介紹之前,我們先明確行為綜合的流程。
02 行為綜合
在行為綜合的過(guò)程中,行為描述中使用的變量,數(shù)組,運(yùn)算分別用寄存器(FF,LUT),局部?jī)?nèi)存(URAM,BRAM,DRAM),運(yùn)算器(DSP,ALU)等數(shù)字電路單元來(lái)實(shí)現(xiàn)。行為描述中的處理流程(順序執(zhí)行, 分支,循環(huán)則以有限狀態(tài)機(jī)(FSM)的形式來(lái)呈現(xiàn)。通過(guò)分析行為描述,可以將運(yùn)算的依賴關(guān)系表示為數(shù)據(jù)流圖(DFG),將控制流程表示為控制流圖(CFG)。
分析到這里兩個(gè)非常重要的行為綜合概念出現(xiàn)了,就是調(diào)度(scheduling)和綁定(Binding)。
根據(jù)數(shù)據(jù)流圖和控制流圖來(lái)決定運(yùn)行順序和運(yùn)行速度的過(guò)程稱為調(diào)度。
將變量和運(yùn)算映射到寄存器或運(yùn)算器的過(guò)程稱為綁定。
下圖簡(jiǎn)潔明了地介紹了從C語(yǔ)言設(shè)計(jì)到導(dǎo)出RTL設(shè)計(jì)過(guò)程中,依據(jù)HLS庫(kù)和用戶指令進(jìn)行調(diào)度和綁定的過(guò)程。
這里我們使用一個(gè)非常簡(jiǎn)單的例子描述一下行為綜合的過(guò)程
(1) Compilation and Transformation 將一個(gè)行為描述代碼的轉(zhuǎn)化為數(shù)據(jù)流圖DFG
數(shù)據(jù)流圖由很多數(shù)據(jù)節(jié)點(diǎn)組成,最重要的是表達(dá)出了各個(gè)節(jié)點(diǎn)上數(shù)據(jù)的依賴關(guān)系,這是后面調(diào)度和綁定的基礎(chǔ)。
在這個(gè)步驟中,代碼風(fēng)格是一個(gè)比較關(guān)鍵的因素。HLS在轉(zhuǎn)化過(guò)于繁復(fù)高層次語(yǔ)言表達(dá)的時(shí)候,極個(gè)別情況會(huì)無(wú)法識(shí)別一些嵌套非常深的軟件算法,也會(huì)增加編譯時(shí)間. 所以盡量簡(jiǎn)潔,邏輯明晰的硬件友好代碼會(huì)提升開發(fā)效率。
(2) Scheduling 調(diào)度
在數(shù)據(jù)流圖中,我們看到XY和EF數(shù)據(jù)之間沒(méi)有依賴,他們可以選擇在同一個(gè)Control Step里面并行執(zhí)行,或者在兩個(gè)ST里面順序執(zhí)行。
這個(gè)過(guò)程中調(diào)度的并行性由HLS編譯器,用戶指令共同作用影響著,比如編譯器會(huì)主動(dòng)發(fā)現(xiàn)可以并行的優(yōu)化點(diǎn)自動(dòng)優(yōu)化,也會(huì)誤以為某些表達(dá)式存在數(shù)據(jù)依賴無(wú)法并行優(yōu)化等,所以仍需要用戶加入指令說(shuō)明情況。當(dāng)然追求更高的并行性對(duì)資源也有更大的需求,所以并不是一切調(diào)度都以最大并行性為目標(biāo)。
(3) Binding
在早期的HLS研究中,Allocation 和 Binding 是分開的兩個(gè)步驟。其中Allocation 鎖定了資源的數(shù)量和類型,Binding完成了運(yùn)算到資源的映射?,F(xiàn)在我們就統(tǒng)稱這些操作在Binding步驟完成。早期FPGA中的含有一種集成的算法單元ALU,如今DSP這樣的硬件模塊已經(jīng)包含了ALU和乘法器模塊等等。
下圖基于早期的ALU單元揭示了Binding 的可能性, 將加減法操作映射到寄存器還是ALU模塊,呈現(xiàn)了兩種不同的方案.
以下是選擇了使用一個(gè)ALU、兩個(gè)寄存器、一個(gè)乘法器的綜合結(jié)果。對(duì)于既定的調(diào)度方案,可以通過(guò)行為綜合來(lái)生成相應(yīng)的狀態(tài)機(jī)。HLS在行為綜合的過(guò)程中,除了達(dá)到算法的基本功能,更重要的是選擇不同的綁定和調(diào)度方案在資源、性能、吞吐量等各個(gè)指標(biāo)中做權(quán)衡和取舍。
03 分析和優(yōu)化
電路的規(guī)模和運(yùn)行時(shí)間存在權(quán)衡關(guān)系,所以產(chǎn)生最優(yōu)化的RTL描述需要開發(fā)者提供大致的優(yōu)化方針,甚至是明確的優(yōu)化仿真。
因此Xilinx的高層綜合工具提供了一系列性能評(píng)估的功能和向編譯器指向優(yōu)化方式的途徑。針對(duì)行為描述進(jìn)行行為綜合,可以獲取如下多種性能指標(biāo):
?面積(電路規(guī)模):根據(jù)資源實(shí)施設(shè)計(jì)所需的硬件資源量
在FPGA中可用,包括查找表(LUT),寄存器,Block RAM和DSP48。
?延遲:函數(shù)計(jì)算所有輸出值所需的時(shí)鐘周期數(shù)。
?初始化間隔(II):函數(shù)可以接受新輸入數(shù)據(jù)之前的時(shí)鐘周期數(shù)。
?循環(huán)迭代延遲:完成循環(huán)的一次迭代所需的時(shí)鐘周期數(shù)。
?循環(huán)啟動(dòng)間隔:下一次循環(huán)迭代開始處理數(shù)據(jù)之前的時(shí)鐘周期數(shù)。
?循環(huán)延遲:執(zhí)行循環(huán)所有迭代的循環(huán)數(shù)。
這些性能指標(biāo)的行為綜合結(jié)果都會(huì)在HLS工具的報(bào)告中指出,開發(fā)者需要找出性能瓶頸或者性能過(guò)剩的部分。針對(duì)循環(huán)的優(yōu)化方式由流水線(pipeline)或展開(unroll). 此外還有指示運(yùn)算器的并行或共享,指示數(shù)組的拆分(partition)和訪問(wèn)調(diào)度,指示功能函數(shù)的內(nèi)聯(lián)(inline)等等。這些優(yōu)化指令相互作用,需要從全局出發(fā)確定優(yōu)化指令。
當(dāng)進(jìn)行詳細(xì)的優(yōu)化指令也無(wú)法達(dá)到預(yù)期的指標(biāo)時(shí),就需要考慮代碼本身的優(yōu)化。這就需要開發(fā)者在設(shè)計(jì)模塊(函數(shù)、循環(huán)等)時(shí)靈活運(yùn)用并行、流水線等架構(gòu),并在充分理解行為綜合機(jī)制的基礎(chǔ)上編寫更容易生成高效硬件行為描述的代碼。
04 接口連接
行為描述后的模塊需再和其他模塊群整合,所以就過(guò)渡到考慮如何設(shè)計(jì)端口類型與其他IP進(jìn)行實(shí)例化連接了。
在RTL設(shè)計(jì)中,數(shù)據(jù)通過(guò)端口進(jìn)出IP,這些端口可以使用固特定的IP接口協(xié)議(AXI-Master/ AXI-lite)來(lái)進(jìn)行操作. 進(jìn)出IP的每一條數(shù)據(jù),都應(yīng)該將其指定為主源文件中的一個(gè)獨(dú)立函數(shù)實(shí)參。該函數(shù)實(shí)參將會(huì)被綜合為硬件RTL中的一個(gè)端口。
數(shù)據(jù)端口的類型大概分為以下三個(gè)大類:
1、直接讀寫數(shù)據(jù)值的寄存器式
2、按照隊(duì)列收發(fā)數(shù)據(jù)的數(shù)據(jù)流式
3、指定地址進(jìn)行讀寫的內(nèi)存總線模式
不同接口能夠?yàn)椴煌O(shè)計(jì)提供最優(yōu)性能,比如數(shù)據(jù)流接口更適合于數(shù)據(jù)驅(qū)動(dòng)型應(yīng)用,為了更高效地傳輸數(shù)據(jù)經(jīng)常在發(fā)送和接收雙方之間插入FIFO緩沖器。這樣的使用規(guī)則為FPGA硬件開發(fā)者所熟知,軟件開發(fā)者仍需要深入理解。
下表為Vivado Design Flow 下的接口類型已經(jīng)變量類型的關(guān)系。其中標(biāo)量,數(shù)組,指針和hls數(shù)據(jù)流格式對(duì)應(yīng)的默認(rèn)接口模式標(biāo)注為D,支持的接口標(biāo)注為1,不支持的接口標(biāo)注為3, ,是一個(gè)重要的設(shè)計(jì)參考表格。
本章節(jié)通過(guò)揭示HLS工作的基本概念讓大家對(duì)技術(shù)有了宏觀上的理解。這一份宏觀上的理解雖然淺顯易懂,但是它將基于CPU的架構(gòu)的軟件程序與在高層次綜合這項(xiàng)技術(shù)上行為描述語(yǔ)言做出了明顯的區(qū)分。賽靈思的HLS官方手冊(cè)中,對(duì)文中提到了端口協(xié)議,優(yōu)化指令,數(shù)據(jù)類型等都有非常詳細(xì)的解釋。本系列以后的文章將適合HLS加速的應(yīng)用場(chǎng)景出發(fā),重點(diǎn)講解數(shù)據(jù)傳輸?shù)募軜?gòu)優(yōu)化以及如何編寫高效的硬件描述C代碼。
寫在最后:
"為現(xiàn)場(chǎng)可編程門陣列的高層次綜合建立的算法基礎(chǔ)”曾獲IEEE計(jì)算機(jī)分會(huì)年度技術(shù)成就獎(jiǎng)的叢京生教授在ASPDAC 會(huì)議上對(duì)高層次綜合技術(shù)未來(lái)的展望:
一個(gè)性能優(yōu)于CPU的優(yōu)秀的高層次綜合設(shè)計(jì)的HLS C/C++代碼可能會(huì)很長(zhǎng),甚至和原始代碼相比面目全非。類似這樣對(duì)于一個(gè)軟件程序員進(jìn)行常年的HLS C/C++代碼的訓(xùn)練并不是可推廣和有效率的模式。但是在可定制計(jì)算技術(shù)的長(zhǎng)河中,科學(xué)家和研究者們希望無(wú)論軟硬件工作人員,都只要經(jīng)過(guò)一些基本優(yōu)化理論的訓(xùn)練就可以通過(guò)寫軟件代碼得到優(yōu)于通用CPU的設(shè)計(jì)。這樣大家才能廣泛體會(huì)到可定制計(jì)算能夠帶來(lái)的好處[4]。
原文標(biāo)題:【干貨分享】高層次綜合技術(shù)原理淺析
文章出處:【微信公眾號(hào):FPGA開發(fā)圈】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
Wen Chen
-
編程
+關(guān)注
關(guān)注
88文章
3543瀏覽量
93464 -
代碼
+關(guān)注
關(guān)注
30文章
4694瀏覽量
68075 -
HLS
+關(guān)注
關(guān)注
1文章
128瀏覽量
23966
原文標(biāo)題:【干貨分享】高層次綜合技術(shù)原理淺析
文章出處:【微信號(hào):FPGA-EETrend,微信公眾號(hào):FPGA開發(fā)圈】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論