第7章 存儲(chǔ)器分層體體系結(jié)構(gòu)

1、電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 計(jì)算機(jī)組成與系統(tǒng)結(jié)構(gòu)計(jì)算機(jī)組成與系統(tǒng)結(jié)構(gòu)Computer Organization And Systems Architecture教師：張建教師：張建E-mail: Z辦公室：辦公室： 主樓主樓B1-707電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 引言引言馮若依曼(Von Nouma)美籍匈牙利數(shù)學(xué)家 1903 1957存儲(chǔ)程序概念存儲(chǔ)程序概念要運(yùn)行的程序必須先調(diào)入內(nèi)存，然后再執(zhí)行。程序程序MemoryCPULoadAllExecuteOne by one電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算

2、機(jī)科學(xué)與工程學(xué)院 7.1 7.1 存儲(chǔ)器概述存儲(chǔ)器概述n 存儲(chǔ)器的分類 半導(dǎo)體存儲(chǔ)器1. 靜態(tài)隨機(jī)存儲(chǔ)器 SRAM2. 動(dòng)態(tài)隨機(jī)存儲(chǔ)器 DRAM 磁表面存儲(chǔ)器：容量、存儲(chǔ)周期容量、存儲(chǔ)周期例：例：2GB 60ns容量、轉(zhuǎn)速容量、轉(zhuǎn)速例：例： 200GB 7200轉(zhuǎn)轉(zhuǎn)/分分3. 閃存 - Flash Memory電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 光盤(pán)存儲(chǔ)器： 1. 1. CD-ROM：只讀性光盤(pán)：只讀性光盤(pán) 2. 2. WORM：寫(xiě)入式（只能寫(xiě)一次）：寫(xiě)入式（只能寫(xiě)一次） 3. 3. CD-RW：可擦：可擦/ /寫(xiě)光盤(pán)寫(xiě)光盤(pán)DVD - Digital Versat

3、ile Disc 4.7GBVCD - Video Compact Disc 700MB7.1 7.1 存儲(chǔ)器概述存儲(chǔ)器概述電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n 存儲(chǔ)器存取方式 可按地址隨機(jī)地訪問(wèn)任一存儲(chǔ)單元 隨機(jī)存取存儲(chǔ)器(RAM) 訪問(wèn)時(shí)間與訪問(wèn)地址無(wú)關(guān) 順序存取存儲(chǔ)器(SAM)必須按順序訪問(wèn),例如：磁帶。速度慢，現(xiàn)在已Out了。7.1 7.1 存儲(chǔ)器概述存儲(chǔ)器概述電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 直接存取儲(chǔ)器(DAM)7.1 7.1 存儲(chǔ)器概述存儲(chǔ)器概述第1步：直接選取該區(qū)域第2步：該區(qū)域內(nèi)順序存取電子科技大學(xué)計(jì)算機(jī)科學(xué)與工

4、程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n 按可更改性分類7.1 7.1 存儲(chǔ)器概述存儲(chǔ)器概述 只讀存儲(chǔ)器(ROM) 讀/寫(xiě)存儲(chǔ)器最初的信息是如何寫(xiě)入的呢？電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n 按功能分類7.1 7.1 存儲(chǔ)器概述存儲(chǔ)器概述 高速緩沖存儲(chǔ)器 主存儲(chǔ)器 輔助存儲(chǔ)器 海量后備存儲(chǔ)器電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 主存儲(chǔ)器基本框圖主存儲(chǔ)器基本框圖地地址址寄寄存存器器地地址址譯譯碼碼讀寫(xiě)控制電路讀寫(xiě)控制電路地址線讀寫(xiě)控制信號(hào)數(shù)據(jù)線電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n 存儲(chǔ)器的主要性能指標(biāo)

5、存儲(chǔ)容量單位：Byte、KB、MB、GB 存取周期 CPU連續(xù)訪存中平均一次存取操作所需的時(shí)間。7.1.3 7.1.3 存儲(chǔ)器的主要性能指標(biāo)存儲(chǔ)器的主要性能指標(biāo) 存儲(chǔ)器的帶寬 單位時(shí)間內(nèi)傳輸?shù)淖畲髷?shù)據(jù)率，字節(jié)/秒電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.1.4 7.1.4 存儲(chǔ)器的層次化結(jié)構(gòu)存儲(chǔ)器的層次化結(jié)構(gòu)CPU主存儲(chǔ)器主存儲(chǔ)器輔助存儲(chǔ)器輔助存儲(chǔ)器Cache電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲(chǔ)器半導(dǎo)體隨機(jī)存取存儲(chǔ)器10 六管靜態(tài)MOS管存儲(chǔ)單元1110電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大

6、學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲(chǔ)器半導(dǎo)體隨機(jī)存取存儲(chǔ)器靜態(tài)靜態(tài)RAMRAM的組成的組成電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲(chǔ)器半導(dǎo)體隨機(jī)存取存儲(chǔ)器SRAMSRAM電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲(chǔ)器半導(dǎo)體隨機(jī)存取存儲(chǔ)器靜態(tài)靜態(tài)RAMRAM芯片舉例芯片舉例電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲(chǔ)器半導(dǎo)體隨機(jī)存取存儲(chǔ)器62646264 A12A0： D7D

7、0： NC： CE： WE： OE：電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲(chǔ)器半導(dǎo)體隨機(jī)存取存儲(chǔ)器11111電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲(chǔ)器半導(dǎo)體隨機(jī)存取存儲(chǔ)器1/0VB=(V1+V0 )/2VV11該點(diǎn)有充放電現(xiàn)象，該點(diǎn)有充放電現(xiàn)象， 以此判斷以此判斷1/0電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲(chǔ)器半導(dǎo)體隨機(jī)存取存儲(chǔ)器電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院

8、 7.3.2 7.3.2 存儲(chǔ)器芯片的擴(kuò)展存儲(chǔ)器芯片的擴(kuò)展電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.3.2 7.3.2 存儲(chǔ)器芯片的擴(kuò)展存儲(chǔ)器芯片的擴(kuò)展電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.3.2 7.3.2 存儲(chǔ)器芯片的擴(kuò)展存儲(chǔ)器芯片的擴(kuò)展電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 字?jǐn)U展字?jǐn)U展譯碼電路譯碼電路電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.4 7.4 半導(dǎo)體只讀存儲(chǔ)器和半導(dǎo)體只讀存儲(chǔ)器和FlashFlash存儲(chǔ)器存儲(chǔ)器電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)

9、與工程學(xué)院 7.5 7.5 并存儲(chǔ)器結(jié)構(gòu)技術(shù)并存儲(chǔ)器結(jié)構(gòu)技術(shù)譯碼電路譯碼電路電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.5 7.5 并存儲(chǔ)器結(jié)構(gòu)技術(shù)并存儲(chǔ)器結(jié)構(gòu)技術(shù)譯碼電路譯碼電路電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.6 高速緩沖存儲(chǔ)器高速緩沖存儲(chǔ)器控制器控制器數(shù)據(jù)路徑數(shù)據(jù)路徑存儲(chǔ)器存儲(chǔ)器處理器處理器輸入輸入輸出輸出指令指令數(shù)據(jù)數(shù)據(jù)n 存儲(chǔ)器向處理器提供指令和數(shù)據(jù)但問(wèn)題是但問(wèn)題是：存儲(chǔ)器：存儲(chǔ)器太小太小、太慢太慢?電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n 時(shí)間局部性如果某個(gè)數(shù)據(jù)被訪問(wèn)，那么很快它有可能再次被訪

10、問(wèn)。n 空間局部性如果某個(gè)數(shù)據(jù)被訪問(wèn)，那么與它鄰近的數(shù)據(jù)有可能很快被訪問(wèn)。Really? 別騙我！別騙我！局部性原理局部性原理電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 CacheCache的基本原理的基本原理n DRAM的發(fā)展趨勢(shì) 容量：4倍/3年 速度：2倍/10年電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 CacheCache的基本原理的基本原理n CPU與Memory的速度差11010010001980 19811983 1984 1985 1986 1987 1988 19891990 1991 1992 1993 1994 1995 19

11、96 1997 1998 1999 2000CPU1982增長(zhǎng)：增長(zhǎng)： 50% / 年年性能性能“Moores Law”DRAM電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 Cache的基本工作原理的基本工作原理n 問(wèn)題：存儲(chǔ)器太小、太慢 辦法：存儲(chǔ)器系統(tǒng)分層結(jié)構(gòu)控制器控制器 數(shù)據(jù)數(shù)據(jù) 路徑路徑存儲(chǔ)器存儲(chǔ)器(內(nèi)存內(nèi)存)(DRAM)處理器處理器寄存器寄存器L1Cache(SRAM)L2Cache(SRAM)外存外存(硬盤(pán)硬盤(pán))電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 處理器處理器數(shù)據(jù)行或數(shù)據(jù)行或塊塊命中命中: 數(shù)據(jù)在高數(shù)據(jù)在高層層存存儲(chǔ)儲(chǔ)器器缺失缺失:

12、 數(shù)據(jù)沒(méi)有位于高數(shù)據(jù)沒(méi)有位于高層層存存儲(chǔ)儲(chǔ)器器Cache的基本工作原理的基本工作原理電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 術(shù)語(yǔ)術(shù)語(yǔ) 命中率在高層存儲(chǔ)器中找到訪問(wèn)數(shù)據(jù)的比例。 缺失率在高層存儲(chǔ)器中沒(méi)有找到訪問(wèn)數(shù)據(jù)的比例。缺失率 = 1 命中率電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 術(shù)語(yǔ)術(shù)語(yǔ) 命中時(shí)間訪問(wèn)高層存儲(chǔ)器所需的時(shí)間。 缺失代價(jià)將數(shù)據(jù)塊從低層搬到高層存儲(chǔ)器并送到處理器所需的時(shí)間。判斷時(shí)間 + 數(shù)據(jù)傳送時(shí)間電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 當(dāng)前計(jì)算機(jī)的存儲(chǔ)器結(jié)構(gòu)當(dāng)前計(jì)算機(jī)的存儲(chǔ)器結(jié)構(gòu)SystemContro

13、llerL1 CacheMain Memory(DRAM)GraphicsProcessor(I/O Bus)L2 CacheProcessor電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 CacheCache的原理的原理CPU主存主存Cachen 插入到CPU與主存間n 由快速SRAM實(shí)現(xiàn)n 存儲(chǔ)程序的部分 指令 數(shù)據(jù)n 操作： 命中(在Cache中) 未命中 (不在Cache中)電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 例例題題：例7.2（1）Cache的命中率？訪存次數(shù)：未命中次數(shù)：命中率：電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)

14、與工程學(xué)院 例例題題：例7.2（2）CPU的平均訪存時(shí)間？電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 實(shí)現(xiàn)實(shí)現(xiàn)CacheCache的的4 4個(gè)關(guān)鍵問(wèn)題個(gè)關(guān)鍵問(wèn)題1：數(shù)據(jù)塊放在Cache的什么地方？2：如何在Cache中找到所需的數(shù)據(jù)塊？3：Cache未命中時(shí)如何轉(zhuǎn)換數(shù)據(jù)塊？4：寫(xiě)數(shù)據(jù)時(shí)如何寫(xiě)？A. 只寫(xiě)Cache？B. 只寫(xiě)Memory？C. 同時(shí)時(shí)寫(xiě)Cache和Memory？D. 其它？電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -直接映射直接映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工

15、程學(xué)院 二者必須二者必須相等相等基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -直接映射直接映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 組號(hào)組號(hào)第第0頁(yè)頁(yè)7位位Cache組號(hào)組號(hào)第第1頁(yè)頁(yè)組號(hào)組號(hào)第第15頁(yè)頁(yè)第第0頁(yè)頁(yè)第第1頁(yè)頁(yè)第第15頁(yè)頁(yè)第第16頁(yè)頁(yè)第第17頁(yè)頁(yè)第第31頁(yè)頁(yè)第第2032頁(yè)頁(yè)第第2033頁(yè)頁(yè)第第2047頁(yè)頁(yè)0組組1組組127組組主存主存組號(hào)組號(hào)組內(nèi)頁(yè)號(hào)組內(nèi)頁(yè)號(hào)頁(yè)內(nèi)地址頁(yè)內(nèi)地址XXYYZZ749定位定位Cache頁(yè)，頁(yè)，讀取組號(hào)讀取組號(hào)相等嗎？相等嗎？據(jù)此判斷內(nèi)存目標(biāo)頁(yè)據(jù)此判斷內(nèi)存目標(biāo)頁(yè)是否在是否在Cache中中基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)-

16、-直接映射直接映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n 內(nèi)存地址結(jié)構(gòu)的設(shè)計(jì)內(nèi)存地址結(jié)構(gòu)的設(shè)計(jì)組號(hào)組號(hào)組內(nèi)頁(yè)號(hào)組內(nèi)頁(yè)號(hào)數(shù)據(jù)頁(yè)（數(shù)據(jù)頁(yè)（512B）4位位7位位9位位基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -直接映射直接映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n CacheCache地址結(jié)構(gòu)的設(shè)計(jì)地址結(jié)構(gòu)的設(shè)計(jì)標(biāo)記位標(biāo)記位有效位有效位數(shù)據(jù)頁(yè)（數(shù)據(jù)頁(yè)（512B）1位位7位位必須與主存頁(yè)必須與主存頁(yè)大小相同大小相同基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -直接映射直接映射數(shù)據(jù)是否已存入標(biāo)記數(shù)據(jù)是否已存入標(biāo)記電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程

17、學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 000010100101110100100111010101110000101010XXXXXXXXX09 812 1119VTagData=DATAHIT基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -直接映射直接映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n 特點(diǎn)：特點(diǎn)： 硬件硬件實(shí)現(xiàn)容易；實(shí)現(xiàn)容易； Cache Cache利用率低；利用率低；基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -直接映射直接映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 舉例舉例假設(shè)一個(gè)直接映射的Cache，有16KB數(shù)據(jù)，塊大小

18、4個(gè)字，地址32位，那么Cache總共有多少位?(即Cache的大小)參考答案：參考答案：MIPS中：32位/字=4字節(jié)/字塊大?。?字/塊=16字節(jié)/塊=128位/塊16KB分為：16K16=1K=1024(塊）電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 舉例舉例數(shù)據(jù)塊數(shù)據(jù)塊0128bit有效位有效位1bit標(biāo)記位標(biāo)記位18bit數(shù)據(jù)塊數(shù)據(jù)塊1有效位有效位標(biāo)記位標(biāo)記位數(shù)據(jù)塊數(shù)據(jù)塊1023有效位有效位標(biāo)記位標(biāo)記位1024電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 舉例舉例對(duì)于前面例子，若內(nèi)存地址分別為100005和0 x100005的字節(jié)將分別映到C

19、ache的哪一塊？參考答案：n 對(duì)于內(nèi)存地址100005 該內(nèi)存地址位于第?塊6249塊塊？6250塊塊？6251塊塊？6250塊電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 10位舉例舉例參考答案：n 對(duì)于內(nèi)存地址0 x100005010100000000000000000001500001十六進(jìn)制十六進(jìn)制二進(jìn)制二進(jìn)制電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -全相聯(lián)映射全相聯(lián)映射CacheMemoryTagBlock 0TagBlock m-1Block 0Block 1Block n-1電子科技大學(xué)計(jì)

20、算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -全相聯(lián)映射全相聯(lián)映射標(biāo)記位標(biāo)記位有效位有效位數(shù)據(jù)頁(yè)（數(shù)據(jù)頁(yè)（512B）1位位11位位標(biāo)記位標(biāo)記位數(shù)據(jù)頁(yè)（數(shù)據(jù)頁(yè)（512B）11位位9位位判斷是否判斷是否在在Cache中中電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -全相聯(lián)映射全相聯(lián)映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n n路組相聯(lián)映射假設(shè)： 主存：32位地址線 Cache大?。?56KB 塊大小：4KB n：4，即4路組組相聯(lián)映射基本的基本的Cac

21、heCache設(shè)計(jì)設(shè)計(jì)- -組組相聯(lián)映射組組相聯(lián)映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 組組相聯(lián)映射組組相聯(lián)映射-Cache -Cache 的設(shè)置的設(shè)置TagBlock 0TagBlock 1TagBlock 2TagBlock 3TagBlock 0TagBlock 1TagBlock 2TagBlock 3TagBlock 0TagBlock 1TagBlock 2TagBlock 34路相聯(lián)0組1組15組組的大小=44=16KBCache的組數(shù) =25616=16最后組是15組電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 組組組相聯(lián)映射組

22、相聯(lián)映射 - - 主存主存(Memory)(Memory)的設(shè)置的設(shè)置Block 0Block 1Block15Block 0Block 1Block 15Cache分為16組0組Block 0Block 1Block 151組65535組組的大小=164=64KB主存的組數(shù) =23221064=65536最后組是65535組電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 組組組相聯(lián)映射組相聯(lián)映射 - Cache - Memory)- Cache - Memory)的映射關(guān)系的映射關(guān)系Block 0Block 1Block 15Block 0Block 1Block 15Bl

23、ock 0Block 1Block 15TagBlock 0TagBlock 1TagBlock 2TagBlock 3TagBlock 0TagBlock 1TagBlock 2TagBlock 3TagBlock 0TagBlock 1TagBlock 2TagBlock 30組1組15組0組1組65535組CacheMemory電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 組組相聯(lián)映射組組相聯(lián)映射 - -主存主存(Memory)(Memory)地址地址12 bits組內(nèi)塊號(hào)：01516 bits組號(hào)：0655354 bits塊內(nèi)尋址：塊大小4K31011121516電

24、子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 組組相聯(lián)映射組組相聯(lián)映射 - Cache - Cache 的標(biāo)志的標(biāo)志 ( Tag )( Tag )1 bit16 bits有效位Tag數(shù)據(jù)塊數(shù)據(jù)塊Data問(wèn)題（針對(duì)前面的假設(shè)）：主存地址：101A 1234 (Hex)計(jì)算：該地址數(shù)據(jù)放入Cache后，在Cache中的的塊號(hào)及對(duì)應(yīng)Cache項(xiàng)的Tag是多少？?jī)?nèi)存中的組號(hào)電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 在在CacheCache中查找一個(gè)塊中查找一個(gè)塊n 4路相聯(lián)Cache電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 CacheC

25、ache的的缺失與關(guān)聯(lián)度缺失與關(guān)聯(lián)度關(guān)聯(lián)度關(guān)聯(lián)度數(shù)據(jù)缺失率數(shù)據(jù)缺失率110.3%28.6%48.3%88.1%Cache: Size = 64KB ， Block size = 16 words 10個(gè)SPEC2000測(cè)試程序的結(jié)果電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 標(biāo)記位大小與組組相聯(lián)標(biāo)記位大小與組組相聯(lián)假設(shè)一個(gè)Cache： 有4K個(gè)塊 塊大小為4個(gè)字 主存地址為32位計(jì)算：直接映射、兩路組相聯(lián)、四路組相聯(lián)和全相聯(lián)映射時(shí)，Cache的總組數(shù)及總的標(biāo)記位數(shù)？電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 標(biāo)記位大小與組組相聯(lián)標(biāo)記位大小與組組相聯(lián)1

26、. 直接映射Cache的1個(gè)塊就是1個(gè)組Cache的總組數(shù)：4K = 212塊大小塊大小4個(gè)字，即個(gè)字，即16=24個(gè)字個(gè)字節(jié)，故需要節(jié)，故需要4位地址表示。位地址表示。電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 標(biāo)記位大小與組組相聯(lián)標(biāo)記位大小與組組相聯(lián)2. 兩路組映射Cache的2個(gè)塊為1個(gè)組電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 標(biāo)記位大小與組組相聯(lián)標(biāo)記位大小與組組相聯(lián)3. 四路組映射Cache的4個(gè)塊為1個(gè)組電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 標(biāo)記位大小與組組相聯(lián)標(biāo)記位大小與組組相聯(lián)5. 全相聯(lián)映射Cache只

27、有一個(gè)4K的塊組電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 主存主存(Memory)(Memory)地址地址12 bits組內(nèi)塊號(hào)：01516 bits組號(hào)：0655354 bits塊內(nèi)尋址：塊大小4K31011121516電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 Cache Cache 的標(biāo)志的標(biāo)志 ( Tag )( Tag )1 bit16 bits有效位Tag數(shù)據(jù)塊數(shù)據(jù)塊Data問(wèn)題（針對(duì)前面的假設(shè)）：主存地址：101A 1234 (Hex)計(jì)算：該地址數(shù)據(jù)放入Cache后，在Cache中的的塊號(hào)及對(duì)應(yīng)Cache項(xiàng)的Tag是多少？?jī)?nèi)存中的組號(hào)

28、電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 問(wèn)題解答問(wèn)題解答(1)(1)：1. 首先計(jì)算該地址在主存的塊號(hào):n該地址所在的塊號(hào)是：2. 分析塊號(hào)n在主存中的組號(hào)及組內(nèi)序號(hào)在主存中的組號(hào)：101AH組內(nèi)序號(hào)：1H（每組有16個(gè)塊）電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 問(wèn)題解答問(wèn)題解答(2)(2)：3. 存入Cache后所對(duì)應(yīng)的塊 映射到Cache的第1組，即： 塊在主存中組內(nèi)序號(hào)為1H4. 對(duì)應(yīng)Cache的Tag是：101AHCache塊號(hào)為：47 中的某一塊電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 存入存入Cache C

29、ache 后的情況后的情況有效位TagData1組組4#塊0#塊 7#塊63#塊1101AH XXXCache電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 缺失率與塊大小缺失率與塊大小電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 缺失率與塊大小缺失率與塊大小Cache塊較大時(shí)，一 旦缺失，帶來(lái)的延時(shí)和開(kāi)銷是比較大的。n 提前重啟（early restart）當(dāng)塊中所需字一旦返回就馬上執(zhí)行，而不需要等待整個(gè)塊都傳過(guò)來(lái)再執(zhí)行。 該技術(shù)用于指令訪問(wèn)，效果較好，因?yàn)橹噶钔ǔＪ沁B續(xù)的。 該技術(shù)用于數(shù)據(jù)Cache效率要低一些，因?yàn)檎?qǐng)求的數(shù)據(jù)其分布無(wú)法預(yù)知。電子科技大

30、學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 缺失率與塊大小缺失率與塊大小n 請(qǐng)求字優(yōu)先/關(guān)鍵字優(yōu)先缺失時(shí)，先將請(qǐng)求字從存儲(chǔ)器傳輸?shù)紺ache中，然后再傳輸該塊的剩余部分，之后再?gòu)膲K的開(kāi)始部分傳輸。該技術(shù)的延時(shí)性能比提前重啟要好一些。電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 Cache的缺失處理的缺失處理n 指令Cache缺失的處理步驟 將PC 4送到存儲(chǔ)器中 通知主存執(zhí)行讀操作，并等待主存訪問(wèn)完成 寫(xiě)Cache項(xiàng)，并設(shè)置Cache相關(guān)標(biāo)志 重新取指令，此時(shí)指令在Cache中電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 寫(xiě)操作處理寫(xiě)操作處理

31、n Write-through(寫(xiě)直達(dá)/通寫(xiě))當(dāng)需要寫(xiě)數(shù)據(jù)時(shí)（執(zhí)行Store指令），將數(shù)據(jù)同時(shí)寫(xiě)入Cache和主存中。優(yōu)點(diǎn)：Cache和主存的內(nèi)容保持一致。缺點(diǎn)：耗時(shí)長(zhǎng)，效率低。電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 寫(xiě)操作處理寫(xiě)操作處理n 寫(xiě)缺失當(dāng)要寫(xiě)的數(shù)據(jù)不在Cache中時(shí)，發(fā)生寫(xiě)缺失。1. 將主存中的數(shù)據(jù)塊讀到Cache；2. 將要寫(xiě)的數(shù)據(jù)寫(xiě)到Cache和主存中；為什么不直接寫(xiě)到為什么不直接寫(xiě)到Cache和主存？和主存？電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 寫(xiě)操作處理寫(xiě)操作處理n 寫(xiě)直達(dá)方法簡(jiǎn)單，但效率低下例如例如，10%的指令是st

32、ore，沒(méi)有Cache失缺的情況下，CPI為1.0，每次寫(xiě)操作要額外花費(fèi)100個(gè)周期，此時(shí)CPI為：CPI - ClockcyclePerInstruction電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 寫(xiě)操作處理寫(xiě)操作處理n 寫(xiě)緩沖（Write buffer）當(dāng)有數(shù)據(jù)需要寫(xiě)入主存時(shí)：將數(shù)據(jù)寫(xiě)入Cache和寫(xiě)緩沖區(qū)(write buffer)后，處理器繼續(xù)執(zhí)行；當(dāng)寫(xiě)主存操作完成后，寫(xiě)緩沖區(qū)里的數(shù)據(jù)被釋放；若寫(xiě)緩沖區(qū)滿，則處理器必須等待一個(gè)寫(xiě)操作完成后（釋放一個(gè)空位）才能將數(shù)據(jù)寫(xiě)入寫(xiě)緩沖區(qū)。電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 寫(xiě)操作處理寫(xiě)操作處

33、理n 寫(xiě)回機(jī)制（Write back 回寫(xiě)）當(dāng)有數(shù)據(jù)需要寫(xiě)入主存時(shí)： 先將數(shù)據(jù)寫(xiě)入Cache，并作已修改標(biāo)記； 當(dāng)被修改的Cache塊被替換時(shí)才將Cache的內(nèi)容寫(xiě)回主存；電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 精解精解n 寫(xiě)缺失時(shí)的策略 寫(xiě)直達(dá)/通寫(xiě)（write through）1. 寫(xiě)分配策略（write allocate)2. 寫(xiě)不分配策略（no write allocate) 寫(xiě)回機(jī)制/回寫(xiě)（write back）電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 設(shè)計(jì)支持設(shè)計(jì)支持CacheCache的存儲(chǔ)系統(tǒng)的存儲(chǔ)系統(tǒng)n 主存是由DRAM構(gòu)成 數(shù)據(jù)寬度固定 通過(guò)總線(Bus)與處理器連接總線頻率比處理要慢很多假設(shè)：假設(shè)： 地址(address)傳輸需要1個(gè)總