32位DSP設(shè)計中的流水線數(shù)據(jù)相關(guān)問題
在航空微電子中心的某預(yù)研項目中,需要開發(fā)設(shè)計某32位浮點通用數(shù)字信號處理器(DSP)。本系統(tǒng)控制通路部分的設(shè)計采用超級哈佛及五級流水線結(jié)構(gòu)。本文分析了該流水線的設(shè)計過程,并對遇到的數(shù)據(jù)相關(guān)問題提出了一種新的解決方法。
1 流水線結(jié)構(gòu)
流水線處理器一般把一條指令的執(zhí)行分成幾個步驟,或稱為級(stages)。每一級在一個時鐘周期內(nèi)完成,也就是說在每個時鐘周期,處理器啟動并執(zhí)行一條指令。如果處理器的流水線有m級,則同時可重疊執(zhí)行的指令總條數(shù)為m。由于每條指令處在不同的執(zhí)行階段,因此,如果分級分得好,每一級都沒有時間上的浪費,這就是最理想的情況。流水線處理器在理想情況下與非流水線處理器的性能加速比為:
式中,I為一個程序被執(zhí)行的總的指令條數(shù),它在流水線處理器和非流水線處理器中是相等的。CPInp是每條指令總體平均所需的時鐘周期數(shù)。因為流水線處理器把一條指令的執(zhí)行時間理想地分成了m級,故有m條指令在同時(重疊)執(zhí)行。T是每個時鐘周期的時間長度,本例可假設(shè)它在兩種處理器中也是相同的,那么,最后總的加速比為m(即等于流水線的級數(shù))。并不是說把流水線級數(shù)分得越多,處理器的性能就越好。流水線處理器性能提高的關(guān)鍵在于每個時鐘周期處理器都應(yīng)當(dāng)能啟動一條指令的執(zhí)行。
2 數(shù)據(jù)相關(guān)問題
下面來討論數(shù)據(jù)相關(guān)(data dependence)問題及解決方法,先來看看下面的程序例子:
在上述程序段中,I1指令把寄存器r2和r3的內(nèi)容相加,并將結(jié)果存人寄存器r1,這樣,它下面的4條指令均與I1相關(guān),其使用I1的結(jié)果如圖1給出的數(shù)據(jù)相關(guān)關(guān)系圖。從圖中可見,當(dāng)每個周期結(jié)束時,在時鐘上升沿應(yīng)把數(shù)據(jù)打入寄存器。在數(shù)據(jù)沒被打入之前,任何從該寄存器讀出的數(shù)據(jù)都是過時的。圖1中的I2到I4的3條指令就屬于這種情況。它們從r1寄存器讀出的數(shù)據(jù)都是過時的,是不能使用的。I5則沒關(guān)系,當(dāng)它讀r1寄存器時,I1已將結(jié)果寫入。
I1下面有3條指令不能從寄存器r1讀出正確的數(shù)據(jù)。為了減少數(shù)據(jù)相關(guān)指令的條數(shù),設(shè)計時可以讓寫寄存器堆的操作提前半個周期,即由時鐘的下降沿打入。實踐證明這樣做是可行的,因為假定一個時鐘周期是10 ns,寄存器堆的訪問只需要5 ns。這樣,數(shù)據(jù)相關(guān)的指令條數(shù)就減至兩條,其操作示意圖如圖2所示。
3 數(shù)據(jù)相關(guān)問題的解決
在流水線處理器中處理數(shù)據(jù)相關(guān)問題有兩種方法:一種是暫停相關(guān)指令的執(zhí)行,即暫停流水線,直到能夠正確讀出寄存器操作數(shù)為止;另一種是采用專門的數(shù)據(jù)通路,直接把結(jié)果送到ALU的輸入端,也就是把內(nèi)部數(shù)據(jù)前推。描述這兩種方法可參考圖2所示的方案,即把寫寄存器堆提前半個周期,這時,只需考慮兩條相關(guān)指令。下面以ALU指令為例對暫停流水線的執(zhí)行方法加以分析。
3.1 暫停數(shù)據(jù)相關(guān)流水線
暫停數(shù)據(jù)相關(guān)流水線指令是當(dāng)數(shù)據(jù)相關(guān)出現(xiàn)時,暫時停止相關(guān)指令的執(zhí)行,等劍相關(guān)數(shù)據(jù)能從寄存器讀出再恢復(fù)執(zhí)行。這里涉及到兩個問題,一個是如何檢測數(shù)據(jù)相關(guān),另一個是如何暫停流水線。下面對這兩個問題分別加以描述。
首先考慮數(shù)據(jù)相關(guān)如何用硬件電路檢測出來。由于I1與目的寄存器rd、I2和I3的源操作數(shù)是寄存器rs1或rs2中的數(shù)據(jù),且只有當(dāng)它們的rs1或rs2與I1的目的寄存器號rd相等時才有可能發(fā)生數(shù)據(jù)相關(guān),因此,硬件電路中要有比較器。由于指令格式中的源寄存器號rs2與立即數(shù)部分重疊,而立即數(shù)是不會出現(xiàn)相關(guān)的,因此,指令操作碼必須要參與檢測,以區(qū)分是寄存器操作數(shù)還是立即數(shù)。另外,如I1指令的rd一定作為目的寄存器號使用,也就是當(dāng)結(jié)果要被寫入目的奇仔器時,后面的指令才有可能與之相關(guān)。上述規(guī)則用表達式表述如下(它們是在ID級檢測數(shù)據(jù)相關(guān)的表達式):
由于一條指令中的兩個源操作數(shù)都可能與上一條指令的目的操作數(shù)相關(guān),因此,總的數(shù)據(jù)相關(guān)DEPEN由A DFPEN和B_DEPEN兩部分組成。A_DEPEN指的是源寄存器rs1數(shù)據(jù)相關(guān),B_DE-PEN指的是源寄存器rs2數(shù)據(jù)相關(guān)。另外,兩條指令I(lǐng)2和I3也都可能與I1相關(guān)。如果是在流水線ID級檢測數(shù)據(jù)相關(guān),那么,對于I2來講,I1處在EXE級;對于I3來講,I1處在MEM級,因此,A_DEFPEN包括EXE_A_DEPEN和MEM_B_DEPEN兩部分。EXE_A_DEPEN的意思是處在ID級的指令與處在EXE級的指令數(shù)據(jù)相關(guān)。同理,MEM_A_DEPEN的意思是處在ID級的指令與處在MEM級的指令數(shù)據(jù)相關(guān)。同樣,B_DEPEN也包括EXE_B_DEPEN和MEM_B_DEPEN兩部分。
EXE_A_DEPEN為真的條件是:I2的rs1與I1的rd相等(ID_rs1==EXE_rd),rs1字段是寄存器(ID_rs1IsReg),并且I1的rd確實是目的寄存器(EXE_WREG==1)。后一個條件是為排除store指令而加上的。EXE_B_DEPEN與EXE_A_DEPEN類似,源寄存器號(ID_rs2IsReg)所包含的指令要比ID_rs1IsReg少得多。I3與I1的數(shù)據(jù)相關(guān)判斷與此類似。
得出了數(shù)據(jù)相關(guān)條件后。下一步的任務(wù)是確定如何暫停流水線。這里要特別注意的一個問題是不能停止所有指令的流水線,而只能暫停相關(guān)指令及其后續(xù)的所有指令。假如I2與I1相關(guān),則只暫停I2及I2以下的指令,而不應(yīng)把I1也暫停,否則,處理器將永遠(yuǎn)暫停下去。暫停流水線要注意以下3個方面:
(1) 封鎖當(dāng)前正譯碼的指令的寫控制信號;
(2) 不能把從存儲器取來的下條指令打入IR;
(3) 不改變當(dāng)前PC值。
實際操作時可使用如下的方法實現(xiàn)流水線的暫停:
這樣,當(dāng)I2與I1相關(guān)時,流水線將暫停兩個周期。I3與I1相關(guān)時,流水線暫停一個周期。通常把被暫停掉的周期稱作流水線“氣泡”。暫停流水線是解決流水線處理器數(shù)據(jù)相關(guān)問題的一種有效方法。使用這種方法可保證處理器能夠從寄存器堆讀出正確的數(shù)據(jù)。但是,暫停流水線兩個或一個周期會造成處理器性能的損失。因此,如果沒有數(shù)據(jù)相關(guān),處理器完全可以多執(zhí)行兩條或一條指令。在使用這種方法的處理器組成的計算機系統(tǒng)中,高級語言的編澤器和匯編器在產(chǎn)生最終目標(biāo)機器碼時,應(yīng)盡量避免出現(xiàn)過多的數(shù)據(jù)相關(guān)指令序列。編譯器和匯編器最初可以在相關(guān)指令之間插入nop指令,然后進行優(yōu)化,可以用一些有意義的不相關(guān)的指令替換掉nop,以減少“氣泡”的出現(xiàn)。
3.2 內(nèi)部前推
流水線數(shù)據(jù)相關(guān)問題的本質(zhì)在于一條指令執(zhí)行時要用到上面指令的計算結(jié)果,但這個結(jié)果尚未被寫入寄存器堆,因此,如果讓ALU使用從寄存器堆瀆出的數(shù)據(jù)的話,流水線“氣泡”問題也可以得到解決。試想,數(shù)據(jù)相關(guān)發(fā)生在ALU計算周期,而所有的計算任務(wù)均由這一個ALU來按順序完成,也就是說,ALU計算時發(fā)現(xiàn)與上一條或兩條指令的結(jié)果數(shù)據(jù)相關(guān)的話,這些結(jié)果實際上已由ALU計算出來了,只是還沒有寫入寄存器堆,但其結(jié)果還在流水線寄存器R和C中,這就可以把它們直接拿過來用。為此,可在ALU的兩個數(shù)據(jù)輸入端各加一個多路器,以使R和C中的數(shù)據(jù)能被直接送到ALU的輸入端,這樣就用內(nèi)部前推技術(shù)提高了流水線的性能。
4 結(jié)束語
采用暫停數(shù)據(jù)相關(guān)流水線的方法可以解決數(shù)據(jù)相關(guān)問題。目前,筆者已將該方法應(yīng)用于某32位浮點通用數(shù)字信號處理器中,而且該處理器已經(jīng)沒計完成,并通過綜合仿真查驗波形證明:該DSP完全符合要求。
評論