計算機組成原理第五章-第6講-流水CPU課件

流水CPU1編輯版pppt流水CPU1編輯版pppt5.6流水CPU人們追求計算機有很高的處理速率促使計算機性能提高的因素除了提高器件性能外還有哪些方式呢？？2編輯版pppt5.6流水CPU人們追求計算機有很高的處理速率2編輯版pp回顧存儲器性能提升方法解決途徑硬件工藝上的提升并行工作雙端口訪問和多模塊交叉空間并行和時間并行采用分層的存儲系統(tǒng)Cache（第6節(jié)）虛擬存儲系統(tǒng)（第9章）3編輯版pppt回顧存儲器性能提升方法解決途徑3編輯版pppt5.6流水CPU5.6.1并行處理技術(shù)5.6.2流水CPU的結(jié)構(gòu)5.6.3流水線中的主要問題5.6.4PentiumCPU4編輯版pppt5.6流水CPU5.6.1并行處理技術(shù)4編輯版pppt5.6.1并行處理技術(shù)并行性（Parrelism）概念問題中具有可以同時進行運算或操作的特性例：在相同時延的條件下，用n位運算器進行n位并行運算速度幾乎是一位運算器進行n位串行運算的n倍（狹義）廣義含義只要在同一時刻（同時性）或在同一時間間隔內(nèi)（并發(fā)性）完成兩種或兩種以上性質(zhì)相同或不同的工作，他們在時間上相互重疊，都體現(xiàn)了并行性。5編輯版pppt5.6.1并行處理技術(shù)并行性（Parrelism）概念5編輯5.6.1并行處理技術(shù)三種形式時間并行（重疊）：讓多個處理過程在時間上相互錯開，輪流使用同一套硬件設(shè)備的各個部件，以加快硬件周轉(zhuǎn)而贏得速度，實現(xiàn)方式就是采用流水處理部件空間并行（資源重復(fù)）：以數(shù)量取勝它能真正的體現(xiàn)同時性LSI和VLSI為其提供了技術(shù)保證時間+空間并行Pentium中采用了超標(biāo)量流水技術(shù)6編輯版pppt5.6.1并行處理技術(shù)三種形式6編輯版pppt5.6.2流水CPU的結(jié)構(gòu)流水計算機的系統(tǒng)組成存儲器體系：主存采用多體交叉存儲器；Cache流水方式CPU：指令部件、指令隊列、執(zhí)行部件指令流水線指令隊列：FIFO執(zhí)行部件：可以由多個采用流水線方式構(gòu)成的算術(shù)邏輯部件構(gòu)成，可以將定點運算部件和浮點運算部件分開。第一個流水：多體交叉存儲第二個流水：CPU流水第三個流水：運算器流水7編輯版pppt5.6.2流水CPU的結(jié)構(gòu)流水計算機的系統(tǒng)組成第一個流水：第5.6.2流水CPU的結(jié)構(gòu)流水線CPU時空圖IF（InstructionFetch取指）ID（InstructionDecode指令譯碼）EX（Execution執(zhí)行）WB（WriteBack寫回）8編輯版pppt5.6.2流水CPU的結(jié)構(gòu)流水線CPU時空圖8編輯版pppt5.6.2流水CPU的結(jié)構(gòu)非流水線時空圖9編輯版pppt5.6.2流水CPU的結(jié)構(gòu)非流水線時空圖9編輯版pppt5.6.2流水CPU的結(jié)構(gòu)標(biāo)量流水線時空圖10編輯版pppt5.6.2流水CPU的結(jié)構(gòu)標(biāo)量流水線時空圖10編輯版pppt5.6.2流水CPU的結(jié)構(gòu)超標(biāo)量流水線時空圖11編輯版pppt5.6.2流水CPU的結(jié)構(gòu)超標(biāo)量流水線時空圖11編輯版ppp5.6.2流水CPU的結(jié)構(gòu)超標(biāo)量流水具有兩條以上的指令流水線上圖中流水線滿載時，每一個時鐘周期可以執(zhí)行2條指令采用時間和空間并行技術(shù)PS.此時鐘周期不同于彼“時鐘周期”一個是流水理論中的概念一個是指令周期、CPU周期中的概念12編輯版pppt5.6.2流水CPU的結(jié)構(gòu)超標(biāo)量流水12編輯版pppt5.6.2流水CPU的結(jié)構(gòu)流水線（Pipelining）的分類按種類分為指令流水線：指令步驟并行算術(shù)流水線：運算步驟并行存儲流水線：多體交叉并行訪存處理機流水線（宏流水線）：處理機級聯(lián)13編輯版pppt5.6.2流水CPU的結(jié)構(gòu)流水線（Pipelining）的分5.6.3流水線中的主要問題流水瓶頸問題（流水線中有速度慢的段）再分成幾個段用資源重復(fù)的方法也可以解決斷流問題因為出現(xiàn)了相關(guān)沖突14編輯版pppt5.6.3流水線中的主要問題流水瓶頸問題（流水線中有速度慢的5.6.3流水線中的主要問題1.資源相關(guān)：多條指令進入流水線后在同一時鐘周期內(nèi)爭用同一功能部件。解決辦法：后邊指令拖一拍再推進；或增設(shè)一個存儲部件，指令數(shù)據(jù)分存。取指譯碼執(zhí)行訪存寫回15編輯版pppt5.6.3流水線中的主要問題1.資源相關(guān)：多條指令進入流水線5.6.3流水線中的主要問題2.數(shù)據(jù)相關(guān)，看例子例：兩條指令發(fā)生數(shù)據(jù)相關(guān)沖突RAW(ReadAfterWrite)寫后讀ADD R1, R2, R3 R2+R3-->R1SUB R4, R1, R5 R1-R5-->R4AND R6, R1, R7 R1^R7-->R6IDIDEXEXWB16編輯版pppt5.6.3流水線中的主要問題2.數(shù)據(jù)相關(guān)，看例子IDIDEX5.6.3流水線中的主要問題數(shù)據(jù)相關(guān)RAW(ReadAfterWrite)寫后讀后面指令用到前面指令所寫的數(shù)據(jù)WAR(WriteAfterRead)讀后寫后面指令覆蓋前面指令所讀的單元WAW(WriteAfterWrite)寫后寫兩條指令寫同一個單元解決辦法：可以推后后繼指令對相關(guān)單元的讀操作設(shè)置相關(guān)的直接通路（Forwarding）17編輯版pppt5.6.3流水線中的主要問題數(shù)據(jù)相關(guān)17編輯版pppt5.6.3流水線中的主要問題3.控制相關(guān)引起原因：轉(zhuǎn)移指令當(dāng)前指令有跳轉(zhuǎn)，但流水已經(jīng)開啟后續(xù)指令處理過程。解決辦法1：延遲轉(zhuǎn)移法，讓跳轉(zhuǎn)的指令接在最后流水入口解決方法2：轉(zhuǎn)移預(yù)測法，用硬件預(yù)測將來的行為，提前讓轉(zhuǎn)移指令進流水。18編輯版pppt5.6.3流水線中的主要問題3.控制相關(guān)18編輯版pppt【例4】流水線中有三類數(shù)據(jù)相關(guān)沖突：寫后讀（RAW）相關(guān)；讀后寫（WAR）相關(guān)；寫后寫（WAW）相關(guān)。判斷以下三組指令各存在哪種類型的數(shù)據(jù)相關(guān)。1）I1ADDR1，R2，R3；（R2）+（R3）->R1I2SUBR4，R1，R5；（R1）-（R5）->R42）I3STOM（x），R3；（R3）->M(x)M(x)是存儲器單元I4ADDR3，R4，R5；（R4）+（R5）->R33）I5MULR3，R1，R2；（R1）×（R2）->R3I6ADDR3，R4，R5；（R4）+（R5）->R3寫后讀讀后寫寫后寫19編輯版pppt【例4】流水線中有三類數(shù)據(jù)相關(guān)沖突：寫后讀（RAW）相關(guān)；讀解：第1）組指令中，I1指令運算結(jié)果應(yīng)先寫入R1，然后在I2指令中讀出R1內(nèi)容。由于I2指令進入流水線，變成I2指令在I1指令寫入R1前就讀出R1內(nèi)容，發(fā)生RAW相關(guān)。第2）組指令中，I3指令應(yīng)先讀出R3內(nèi)容并存入存儲單元M（x），然后在I4指令中將運算結(jié)果寫入R3。但由于I4指令進入流水線，變成I4指令在I3指令讀出R3內(nèi)容前就寫入R3，發(fā)生WAR相關(guān)。第3）組指令中，如果I6指令的加法運算完成時間早于I5指令的乘法運算時間，變成指令I(lǐng)6在指令I(lǐng)5寫入R3前就寫入R3，導(dǎo)致R3的內(nèi)容錯誤，發(fā)生WAW相關(guān)。20編輯版pppt解：20編輯版pppt5.6.4PentiumCPUPentiumCPU（第一代）1989年初0.8um工藝，310萬晶體管有60M和66MHz外頻兩種版本5V電壓，功耗20W超標(biāo)量流水線結(jié)構(gòu)486有一條流水線Pentium有U和V兩條指令流水線U流水線可以執(zhí)行所有的整數(shù)和浮點指令V流水線可以執(zhí)行簡單的整數(shù)和FXCH浮點指令雙重分離式Cache，減少了等待和搬移數(shù)據(jù)時間32位CPU，外部數(shù)據(jù)總線寬度為64位，外部地址總線寬度為36位21編輯版pppt5.6.4PentiumCPUPentiumCPU（5.6.4PentiumCPU非固定長度指令格式，9種尋址方式，191條指令，兼具有RISC和CISC特性，不過我們還是將其看成CISCSL電源管理技術(shù)提供了更加靈活的存儲器尋址結(jié)構(gòu)，可以支持傳統(tǒng)的4k大小的頁面，也可以支持4M大小的頁面動態(tài)轉(zhuǎn)移預(yù)測技術(shù)Pentium結(jié)構(gòu)圖MESI（ModifiedExclusionShareInvalid）BTB（BranchTargetBuffer）TLB（TranslationLookasideBuffer）22編輯版pppt5.6.4PentiumCPU非固定長度指令格式，9種尋23編輯版pppt23編輯版pppt流水CPU24編輯版pppt流水CPU1編輯版pppt5.6流水CPU人們追求計算機有很高的處理速率促使計算機性能提高的因素除了提高器件性能外還有哪些方式呢？？25編輯版pppt5.6流水CPU人們追求計算機有很高的處理速率2編輯版pp回顧存儲器性能提升方法解決途徑硬件工藝上的提升并行工作雙端口訪問和多模塊交叉空間并行和時間并行采用分層的存儲系統(tǒng)Cache（第6節(jié)）虛擬存儲系統(tǒng)（第9章）26編輯版pppt回顧存儲器性能提升方法解決途徑3編輯版pppt5.6流水CPU5.6.1并行處理技術(shù)5.6.2流水CPU的結(jié)構(gòu)5.6.3流水線中的主要問題5.6.4PentiumCPU27編輯版pppt5.6流水CPU5.6.1并行處理技術(shù)4編輯版pppt5.6.1并行處理技術(shù)并行性（Parrelism）概念問題中具有可以同時進行運算或操作的特性例：在相同時延的條件下，用n位運算器進行n位并行運算速度幾乎是一位運算器進行n位串行運算的n倍（狹義）廣義含義只要在同一時刻（同時性）或在同一時間間隔內(nèi)（并發(fā)性）完成兩種或兩種以上性質(zhì)相同或不同的工作，他們在時間上相互重疊，都體現(xiàn)了并行性。28編輯版pppt5.6.1并行處理技術(shù)并行性（Parrelism）概念5編輯5.6.1并行處理技術(shù)三種形式時間并行（重疊）：讓多個處理過程在時間上相互錯開，輪流使用同一套硬件設(shè)備的各個部件，以加快硬件周轉(zhuǎn)而贏得速度，實現(xiàn)方式就是采用流水處理部件空間并行（資源重復(fù)）：以數(shù)量取勝它能真正的體現(xiàn)同時性LSI和VLSI為其提供了技術(shù)保證時間+空間并行Pentium中采用了超標(biāo)量流水技術(shù)29編輯版pppt5.6.1并行處理技術(shù)三種形式6編輯版pppt5.6.2流水CPU的結(jié)構(gòu)流水計算機的系統(tǒng)組成存儲器體系：主存采用多體交叉存儲器；Cache流水方式CPU：指令部件、指令隊列、執(zhí)行部件指令流水線指令隊列：FIFO執(zhí)行部件：可以由多個采用流水線方式構(gòu)成的算術(shù)邏輯部件構(gòu)成，可以將定點運算部件和浮點運算部件分開。第一個流水：多體交叉存儲第二個流水：CPU流水第三個流水：運算器流水30編輯版pppt5.6.2流水CPU的結(jié)構(gòu)流水計算機的系統(tǒng)組成第一個流水：第5.6.2流水CPU的結(jié)構(gòu)流水線CPU時空圖IF（InstructionFetch取指）ID（InstructionDecode指令譯碼）EX（Execution執(zhí)行）WB（WriteBack寫回）31編輯版pppt5.6.2流水CPU的結(jié)構(gòu)流水線CPU時空圖8編輯版pppt5.6.2流水CPU的結(jié)構(gòu)非流水線時空圖32編輯版pppt5.6.2流水CPU的結(jié)構(gòu)非流水線時空圖9編輯版pppt5.6.2流水CPU的結(jié)構(gòu)標(biāo)量流水線時空圖33編輯版pppt5.6.2流水CPU的結(jié)構(gòu)標(biāo)量流水線時空圖10編輯版pppt5.6.2流水CPU的結(jié)構(gòu)超標(biāo)量流水線時空圖34編輯版pppt5.6.2流水CPU的結(jié)構(gòu)超標(biāo)量流水線時空圖11編輯版ppp5.6.2流水CPU的結(jié)構(gòu)超標(biāo)量流水具有兩條以上的指令流水線上圖中流水線滿載時，每一個時鐘周期可以執(zhí)行2條指令采用時間和空間并行技術(shù)PS.此時鐘周期不同于彼“時鐘周期”一個是流水理論中的概念一個是指令周期、CPU周期中的概念35編輯版pppt5.6.2流水CPU的結(jié)構(gòu)超標(biāo)量流水12編輯版pppt5.6.2流水CPU的結(jié)構(gòu)流水線（Pipelining）的分類按種類分為指令流水線：指令步驟并行算術(shù)流水線：運算步驟并行存儲流水線：多體交叉并行訪存處理機流水線（宏流水線）：處理機級聯(lián)36編輯版pppt5.6.2流水CPU的結(jié)構(gòu)流水線（Pipelining）的分5.6.3流水線中的主要問題流水瓶頸問題（流水線中有速度慢的段）再分成幾個段用資源重復(fù)的方法也可以解決斷流問題因為出現(xiàn)了相關(guān)沖突37編輯版pppt5.6.3流水線中的主要問題流水瓶頸問題（流水線中有速度慢的5.6.3流水線中的主要問題1.資源相關(guān)：多條指令進入流水線后在同一時鐘周期內(nèi)爭用同一功能部件。解決辦法：后邊指令拖一拍再推進；或增設(shè)一個存儲部件，指令數(shù)據(jù)分存。取指譯碼執(zhí)行訪存寫回38編輯版pppt5.6.3流水線中的主要問題1.資源相關(guān)：多條指令進入流水線5.6.3流水線中的主要問題2.數(shù)據(jù)相關(guān)，看例子例：兩條指令發(fā)生數(shù)據(jù)相關(guān)沖突RAW(ReadAfterWrite)寫后讀ADD R1, R2, R3 R2+R3-->R1SUB R4, R1, R5 R1-R5-->R4AND R6, R1, R7 R1^R7-->R6IDIDEXEXWB39編輯版pppt5.6.3流水線中的主要問題2.數(shù)據(jù)相關(guān)，看例子IDIDEX5.6.3流水線中的主要問題數(shù)據(jù)相關(guān)RAW(ReadAfterWrite)寫后讀后面指令用到前面指令所寫的數(shù)據(jù)WAR(WriteAfterRead)讀后寫后面指令覆蓋前面指令所讀的單元WAW(WriteAfterWrite)寫后寫兩條指令寫同一個單元解決辦法：可以推后后繼指令對相關(guān)單元的讀操作設(shè)置相關(guān)的直接通路（Forwarding）40編輯版pppt5.6.3流水線中的主要問題數(shù)據(jù)相關(guān)17編輯版pppt5.6.3流水線中的主要問題3.控制相關(guān)引起原因：轉(zhuǎn)移指令當(dāng)前指令有跳轉(zhuǎn)，但流水已經(jīng)開啟后續(xù)指令處理過程。解決辦法1：延遲轉(zhuǎn)移法，讓跳轉(zhuǎn)的指令接在最后流水入口解決方法2：轉(zhuǎn)移預(yù)測法，用硬件預(yù)測將來的行為，提前讓轉(zhuǎn)移指令進流水。41編輯版pppt5.6.3流水線中的主要問題3.控制相關(guān)18編輯版pppt【例4】流水線中有三類數(shù)據(jù)相關(guān)沖突：寫后讀（RAW）相關(guān)；讀后寫（WAR）相關(guān)；寫后寫（WAW）相關(guān)。判斷以下三組指令各存在哪種類型的數(shù)據(jù)相關(guān)。1）I1ADDR1，R2，R3；（R2）+（R3）->R1I2SUBR4，R1，R5；（R1）-（R5）->R42）I3STOM（x），R3；（R3）->M(x)M(x)是存儲器單元I4ADDR3，R4，R5；（R4）+（R5）->R33）I5MULR3，R1，R2；（R1）×（R2）->R3I6ADDR3，R4，R5；（R4）+（R5）->R3寫后讀讀后寫寫后寫42編輯版pppt【例4】流水線中有三類數(shù)據(jù)相關(guān)沖突：寫后讀（RAW）相關(guān)；讀解：第1）組指令中，I1指令運算結(jié)果應(yīng)先寫入R1，然后在I2指令中讀出R1內(nèi)容。由于I2指令進入流水線，變成I2指令在I1指令寫入R1前就讀出R1內(nèi)容，發(fā)生RAW相關(guān)。第2）組指令中，I3指令應(yīng)先讀出R3內(nèi)容并存入存儲單元