體系結(jié)構(gòu)第4章 第4講

第四章指令級(jí)并行主要內(nèi)容4.1 指令級(jí)并行的概念4.2 指令的動(dòng)態(tài)調(diào)度4.3 控制相關(guān)的動(dòng)態(tài)解決技術(shù)4.4 多指令流出技術(shù)4.3 控制相關(guān)的動(dòng)態(tài)解決技術(shù)4.3.1 分支預(yù)測(cè)緩沖4.3.2 分支目標(biāo)緩沖動(dòng)態(tài)分支預(yù)測(cè)動(dòng)態(tài)分支預(yù)測(cè)的兩個(gè)理由n流出的處理器加速上限為n倍Amdahl定律提示：在較低CPI機(jī)器上，控制相關(guān)導(dǎo)致的空轉(zhuǎn)對(duì)機(jī)器性能影響大前面解決控制相關(guān)的靜態(tài)策略需要編譯器將一條或多條指令移動(dòng)到流水線產(chǎn)生的分支延遲槽中關(guān)于分支預(yù)測(cè)策略的兩部分工作預(yù)測(cè)的分支是否成功執(zhí)行分支目標(biāo)指令分支預(yù)測(cè)的效率預(yù)測(cè)的準(zhǔn)確率分支的開銷預(yù)測(cè)正確的開銷預(yù)測(cè)錯(cuò)誤的開銷分支預(yù)測(cè)緩沖(BPB):原理最簡(jiǎn)單的分支預(yù)測(cè)策略分支預(yù)測(cè)緩沖是一個(gè)小的存儲(chǔ)器陣列每個(gè)單元只有1位，記錄最近一次分支是否成功的信息預(yù)測(cè)位為1則預(yù)測(cè)分支成功，并從目標(biāo)位置開始取指令單元由分支指令地址的低位索引進(jìn)行尋址BPB的預(yù)測(cè)位會(huì)被具有相同低位地址的分支設(shè)置BPB也被稱為BHP（branchhistorybuffer分支歷史緩沖）1位BPB狀態(tài)圖這種單位預(yù)測(cè)策略有大約80%左右的準(zhǔn)確率當(dāng)分支不成功時(shí)，單位預(yù)測(cè)會(huì)失敗兩次2位預(yù)測(cè)策略能夠改善這種情況2位BPB工作原理在2位預(yù)測(cè)策略中，一個(gè)預(yù)測(cè)必須錯(cuò)誤兩次才會(huì)改變。對(duì)于一個(gè)4096條記錄的BPB，利用2位預(yù)測(cè)策略，用SPEC89測(cè)試，命中率為82%到99%準(zhǔn)確率最高的測(cè)試程序一般包含大量循環(huán)線性代碼一般準(zhǔn)確率最差2位BPB狀態(tài)轉(zhuǎn)換圖2位BPB另一種狀態(tài)轉(zhuǎn)換圖預(yù)測(cè)成功預(yù)測(cè)不成功預(yù)測(cè)不成功預(yù)測(cè)成功成功成功不成功成功不成功不成功不成功成功4096單元2位BPB的預(yù)測(cè)準(zhǔn)確率測(cè)試程序?yàn)镾PEC89整數(shù)測(cè)試程序:平均11%gcc,espresso,eqntott,li浮點(diǎn)測(cè)試程序:平均4%nasa7,matrix300,tomcatv為什么?4096單元2位BPB:預(yù)測(cè)錯(cuò)誤率n位BPB1位或2位BPB是n位BPB的特殊情況n位策略使用計(jì)數(shù)器，表示0~2n的值與2位策略類似，對(duì)于n位BPB，每次分支成功，計(jì)數(shù)器+1，反之則-1如果計(jì)數(shù)器值大于其最大值的一半，則做成功預(yù)測(cè)，反之則做失敗預(yù)測(cè)2位BPB:4Kvs.無窮多BPB實(shí)現(xiàn)BPB的實(shí)現(xiàn)方案實(shí)現(xiàn)一個(gè)小而特殊的“cache”，利用指令地址進(jìn)行索引，在IF流水段訪問?；蛘撸瑸橹噶頲ache中每一塊增加附加位，與指令一起取出若一個(gè)指令在ID段被譯碼為分支指令，且對(duì)應(yīng)的BPB標(biāo)志位預(yù)測(cè)其成功，則一旦PC已知，立刻從分支目標(biāo)位置開始取指或者，繼續(xù)順序取指分支目標(biāo)緩沖(BTB)另一個(gè)動(dòng)態(tài)分支預(yù)測(cè)方法：分支目標(biāo)緩沖BranchTargetBuffer,BTB為了減小或消除流水線的分支開銷，我們需要在IF段結(jié)束前知道從哪個(gè)地址開始取下一條指令換句話說，我們?cè)贗F段就需要知道這條未譯碼的指令是否為分支指令，并且如果它是分支指令，要盡快知道NPC值應(yīng)當(dāng)為多少BTB實(shí)現(xiàn)分支目標(biāo)緩存BTB每個(gè)單元應(yīng)該包括分支指令的地址分支目標(biāo)的地址分支預(yù)測(cè)標(biāo)識(shí)取指階段，所有指令地址都與BTB中保存的分支指令的地址做比較，一旦相同，就認(rèn)為本指令是分支指令，并且分支成功它的目標(biāo)地址就是保存在緩沖區(qū)中的分支目標(biāo)地址取出后直接送入NPCBTB結(jié)構(gòu)BTB執(zhí)行過程BTBVs.BPB分支預(yù)測(cè)技術(shù)受限于預(yù)測(cè)精度，以及預(yù)測(cè)失效后產(chǎn)生的開銷根據(jù)不同程序特點(diǎn)以及緩沖區(qū)的大小，典型的BTB可以實(shí)現(xiàn)80%到95%的預(yù)測(cè)精度降低失效開銷技術(shù)：在一個(gè)時(shí)鐘周期內(nèi)同時(shí)取出不同分支路徑的指令會(huì)引入其他開銷，比如存儲(chǔ)系統(tǒng)的端口加倍降低失效開銷的唯一方法，比如AS/400PowerPC處理器分支預(yù)測(cè)局限性預(yù)測(cè)