體系結(jié)構(gòu)第3章 第5講

國家精品資源共享課程：計算機體系結(jié)構(gòu)第三章：流水線技術(shù)國防科技大學(xué)計算機學(xué)院主講人：教授第三章流水線技術(shù)3.1流水線基本概念3.2MIPS基本流水線3.3流水線中的相關(guān)3.4實例分析：MIPSR40003.5向量處理機本章內(nèi)容1.分支指令的實現(xiàn)一旦分支轉(zhuǎn)移成功，正確的地址要在Mem段的末尾才會被寫入PC一旦ID段檢測到分支指令，就暫停執(zhí)行其后的指令，直到分支指令達到Mem段，確定新的PC為止分支轉(zhuǎn)移成功將導(dǎo)致MIPS流水線暫停3個周期3.3.3流水線的控制相關(guān)2.減少分支開銷的途徑兩個基本途徑：同時采用，缺一不可！在流水線中盡早判斷分支轉(zhuǎn)移是否成功轉(zhuǎn)移成功時，盡早計算出轉(zhuǎn)移目標地址經(jīng)改進，MIPS流水線可以將分支開銷減少1拍將“=0?”測試提前到ID段在ID段增加一個加法器，計算分支目標地址表3.6列出了改進后流水線的分支操作再改進，MIPS流水線可以將分支開銷再減少1拍將分支判斷結(jié)果和目標地址提前到ID/EX站前3.程序中分支指令的行為特點(1)各種能改變PC值的指令的執(zhí)行頻度條件分支：整數(shù)程序：14-15%浮點程序：3-12%

其中，向前分支與向后分支的比：3:1無條件分支：≤4%（絕大多數(shù)）(2)條件分支轉(zhuǎn)移成功的概率向前轉(zhuǎn)移成功：60%；向后轉(zhuǎn)移成功：85%4.減少流水線分支損失的方法(1)凍結(jié)或排空流水線思路：在流水線中停住或刪除分支后的指令，直到知道轉(zhuǎn)移目標地址優(yōu)點：簡單(2)預(yù)測分支轉(zhuǎn)移失敗思路：流水線繼續(xù)照常流動，如果分支轉(zhuǎn)移成功，將分支指令后的指令轉(zhuǎn)換為空操作，并從分支目標處開始取指令執(zhí)行；否則照常執(zhí)行MIPS流水線的處理過程4.減少流水線分支損失的方法(3)預(yù)測分支轉(zhuǎn)移成功思路：始終假設(shè)分支成功，直接從分支目標處取指令執(zhí)行對MIPS流水線沒有任何好處！(4)延遲分支（delayedbranch）思路：分支開銷為n的分支指令后緊跟有n個延遲槽，流水線遇到分支指令時，按正常方式處理，順帶執(zhí)行延遲槽中的指令，從而減少分支開銷。

延遲分支及指令的執(zhí)行順序4.減少流水線分支損失的方法具有一個分支延遲槽的MIPS流水線的執(zhí)行過程什么樣的指令能否放入分支延遲槽？三種調(diào)度方法：從前調(diào)度；從目標處調(diào)度；從失敗處調(diào)度三種方法的要求與效果，存在限制因素編譯器預(yù)測分支是否成功的能力放入延遲槽中的指令取消分支 （舉例） 思路：分支指令中包含預(yù)測方向，若預(yù)測正確，正常執(zhí)行延遲槽中的指令，否則將其轉(zhuǎn)換為空操作5.各種分支處理方法的性能(1)假設(shè)理想CPI=1，則加速比S=D/(1+C)=D/(1+f×p分支)

這里，D為流水線的深度，p分支為分支開銷，C為分支引起的流水線暫停時鐘周期數(shù)(每條指令的平均值)，f為分支的出現(xiàn)頻度。(2)表3.7列出了流水線中各種處理方法的開銷3.4實例分析：MIPSR40003.4.1MIPSR4000的整型流水線3.4.2MIPSR4000的浮點流水線3.4.3MIPSR4000流水線性能分析1.指令集：64位MIPS-3指令集2.MIPSR4000流水線結(jié)構(gòu)超流水結(jié)構(gòu)（superpipeling）訪存操作流水化3.流水線各段的功能3.4.1MIPSR4000的整型流水線4.指令序列在流水線中的重疊執(zhí)行過程定向+插入暫停周期5.載入延遲為兩個時鐘周期6.指令序列在流水線中的執(zhí)行時空圖7.R4000流水線的定向路徑遠多于MIPS流水線

ALU輸入端的定向源有4個：EX/DF，DF/DS，DS/TC，TC/WB8.分支處理在EX段完成分支條件的計算，基本分支延遲為3個時鐘周期分支處理策略單周期延遲分支從失敗處調(diào)度時-空圖包括浮點除法器、浮點乘法器和浮點加法器各1個分為8段（P121表3.9）多功能非線性流水線雙精度浮點操作指令延遲、初始化間隔和流水段的使用情況（P121表3.10）3.4.2MIPSR4000的浮點流水線1.引起流水線暫停的四個主要原因載入暫停分支暫停浮點結(jié)果暫停浮點結(jié)構(gòu)性暫停2.暫停對MIPSR4000流水線CPI的影響表3.113.4.3MIPSR4000流水線性能分析從前調(diào)度從目標處調(diào)度從失敗處調(diào)度×××NotaketakeADDADDIfIf××××××××××ADDR1,R2,R3NotakeTakeADDADDSUBSUBADDADDifif××SUBADD××××NotakeTakeADDADDIfIf×××××SUB×××

××××××××NotaketakeIfIfADDADD××××××××NotakeTakeADDADDSUBSUBADDADDififSUBSUB××ADDNotakeTakeADDADDIfIfSUB

SUB××××××××

×××××××流水段分支指令操作IFIDEXIF/ID.IR←Mem[PC];IF/ID.NPC,PC←(ifID/EX.cond{ID/EX.NPC}else{PC+4});ID/EX.A←Regs[IF/ID.IR6...10];ID/EX.B←Regs[IF/ID.IR11...15];

ID/EX.NPC←IF/ID.NPC+(IR16)16##IR16..31;

ID/EX.IR←IF/ID.IR;ID/EX.cond←(Regs[IF/ID.IR6...10]op0;

ID/EX.Imm←(IR16)16##IR16...31;MEMWB表3.6三種方法的要求及效果調(diào)度策略對調(diào)度的要求其作用前提從前調(diào)度被調(diào)度的指令必須與分支結(jié)果無關(guān)任何情況從目標處調(diào)度必須保證在分支失敗時執(zhí)行被調(diào)度的指令不會導(dǎo)致錯誤，可能需要復(fù)制指令分支成功時從失敗處調(diào)度必須保證在分支成功時執(zhí)行被調(diào)度的指令不會導(dǎo)致錯誤分支失敗時表3.7各種減少分支損失方法的效果調(diào)度方法每條分支指令的

平均分支損失暫停流水線預(yù)測分支成功每條條件分支指

令的分支損失預(yù)測分支失敗1.00延遲分支每條無條

件分支指

令的損失具有分支暫停

的有效CPI浮點

平均整型

平均整型

平均整型

平均浮點

平均浮點

平均1.001.000.620.251.001.001.001.001.000.690.211.001.171.151.001.171.150.741.121.110.701.000.350.000.301.041.04Earle鎖存器1965年由J.G.Earle發(fā)明優(yōu)點對時鐘扭曲不敏感（相對而言），一般是兩級門延遲，避免了數(shù)據(jù)通過鎖存器時可能產(chǎn)生的時鐘扭曲在鎖存器中可以執(zhí)行兩級邏輯運算，而不會增加鎖存器的延遲時間，可以隱藏鎖存器產(chǎn)生的額外開銷表3.9R4000浮點流水線中8個流水段流水段功能部件描述A浮點加法器尾數(shù)加D浮點除法器除法E浮點乘法器例外測試M浮點乘法器乘法第一階段N浮點乘法器乘法第二階段R浮點加法器舍入S浮點加法器操作數(shù)移位U展開浮點數(shù)表3.10雙精度浮點操作指令延遲、初始化間隔和流水段的使用情況浮點指令延遲初始化間隔使用的流水段加、減43U,S+A,A+R,R+S乘84U,E+M,M,M,M,N,N+A,R除3635U,A,R,D28,D+A,D+R,D+A,D+R,A,R求平方根112111U,E,(A+R)108,A,R取反21U,S求絕對值21U,S浮點比較32U,A,R表3.11暫停對R4000流水線CPI的影響整數(shù)平均： 流水線CPI 1.54

載入