3.6cache存儲器

1、cache存儲器,1、cache基本原理,一、功能 解決CPU和主存之間的速度不匹配問題。一般采用高速的SRAM構(gòu)成。CPU和主存之間的速度差別很大采用兩級或多級Cache系統(tǒng)。早期的一級Cache在CPU內(nèi)，二級在主板上?，F(xiàn)在的CPU內(nèi)帶L1 Cahe和L2 Cahe。全由硬件調(diào)度，對用戶透明。,二、Cache基本原理 地址映射；替換策略；寫一致性；性能評價。,cache基本原理小結(jié)： Cache是介于CPU和主存M2之間的小容量存儲器，但存取速度比主存快。主存容量配置幾百MB的情況下，cache的典型值是幾百KB。cache能高速地向CPU提供指令和數(shù)據(jù)，從而加快了程序的執(zhí)行速度。從功能上

2、看，它是主存的緩沖存儲器，由高速的SRAM組成。為追求高速，包括管理在內(nèi)的全部功能由硬件實現(xiàn)，因而對程序員是透明的。 Cache的設(shè)計依據(jù):CPU這次訪問過的數(shù)據(jù)，下次有很大的可能也是訪問附近的數(shù)據(jù)。 CPU與Cache之間的數(shù)據(jù)傳送是以字為單位 主存與Cache之間的數(shù)據(jù)傳送是以塊為單位 CPU讀主存時，便把地址同時送給Cache和主存，Cache控制邏輯依據(jù)地址判斷此字是否在Cache中，若在此字立即傳送給CPU ，否則，則用主存讀周期把此字從主存讀出送到CPU，與此同時，把含有這個字的整個數(shù)據(jù)塊從主存讀出送到cache中。,三、cache的命中率 增加cache的目的，就是在性能上使主存

3、的平均讀出時間盡可能接近cache的讀出時間。因此,cache的命中率應(yīng)接近于1。由于程序訪問的局部性 ，這是可能的。在一個程序執(zhí)行期間，設(shè)Nc表示cache完成存取的總次數(shù)，Nm表示主存完成存取的總次數(shù)，h定義為命中率，則有 h=Nc/(Nc+Nm) (3.4) 若tc表示命中時的cache訪問時間，tm表示未命中時的主存訪問時間，1-h表示未命中率，則cache/主存系統(tǒng)的平均訪問時間ta為： ta=htc+(1-h)tm （3.5） 設(shè)r=tm/tc表示主存慢于cache的倍率,e表示訪問效率，則有:,為提高訪問效率，命中率h越接近1越好，r值以510為宜，不宜太大。命中率h與程序的行為

4、、cache的容量、組織方式、塊的大小有關(guān)。,【例5】CPU執(zhí)行一段程序時，cache完成存取的次數(shù)為1900次，主存完成存取的次數(shù)為100次，已知cache存取周期為50ns，主存存取周期為250ns，求cache/主存系統(tǒng)的效率和平均訪問時間。 【解】 h=Nc/(Nc+Nm)=1900/(1900+100)=0.95 r=tm/tc=250ns/50ns=5 e=1/(r+(1-r)h)=1/(5+(1-5)0.95)=83.3% ta=tc/e=50ns/0.833=60ns,無論選擇那種映射方式，都要把主存和cache劃分為同樣大小的“塊”。 選擇哪種映射方式，要考慮： 硬件是否容易

5、實現(xiàn) 地址變換的速度是否快 主存空間的利用率是否高 主存裝入一塊時，發(fā)生沖突的概率 以下我們介紹三種映射方法：,2、主存與cache的地址映射,一、全相聯(lián)的映射方式 映射方法（多對多） 主存內(nèi)容可以拷貝到任意行 地址變換 標記實際上 構(gòu)成 主存地址長度(s+w)位尋址單元數(shù)2w個字或字節(jié)塊大小行大小2w個字或字節(jié)主存的塊數(shù)2scache的行數(shù)不由地址格式確定標記大小s位了一個目錄表。,1、將地址分為兩部分（塊號和字），在內(nèi)存塊寫入Cache時，同時寫入塊號標記；2、CPU給出訪問地址后，也將地址分為兩部分（塊號和字），比較電路塊號與Cache 表中的標記進行比較，相同表示命中，訪問相應(yīng)單元；如

6、果沒有命中訪問內(nèi)存，CPU 直接訪問內(nèi)存，并將被訪問內(nèi)存的相對應(yīng)塊寫入Cache。3、特點：優(yōu)點：沖突概率小，Cache的利用高。缺點：比較器難實現(xiàn)，需要一個訪問速度很快代價高的相聯(lián)存儲器4、應(yīng)用場合：適用于小容量的Cache,二、直接映射方式 1、映射方法（一對多）如： i= j mod m 主存第j塊內(nèi)容拷貝到Cache的i行 一般I和m都是2N級 例cache容量16字，主存容量256字，則地址2，18，34.242等都存放在cache的地址2內(nèi)，如果第一次2在cache中，下次訪問34內(nèi)容，則不管cache其他位置的內(nèi)容訪問情況，都會引起2塊內(nèi)容的替換,2、基本原理利用行號選擇相應(yīng)行；

7、把行標記與CPU訪問地址進行比較，相同表示命中，訪問Cache；如果沒有命中，訪問內(nèi) 存，并將相應(yīng)塊寫入Cache 3、特點優(yōu)點：比較電路少m倍線路，所以硬件實現(xiàn)簡單，Cache地址為主存地址的低幾位，不需變換。缺點：沖突概率高（抖動）4、應(yīng)用場合適合大容量Cache,主存地址長度(s+w)位尋址單元數(shù)2s+w個字或字節(jié)塊大小行大小2w個字或字節(jié)主存的塊數(shù)2scache的行數(shù)m2r標記大小(s-r)位,三、組相聯(lián)映射方式 組相聯(lián)映射方式是前兩者的組合 Cache分組，組間采用直接映射方式，組內(nèi)采用全相聯(lián)的映射方式 Cache分組U，組內(nèi)容量V 映射方法（一對多） q= j mod u 主存第j

8、塊內(nèi)容拷貝到Cache的q組中的某行 地址變換 設(shè)主存地址x，看是不是在cache中，先y= x mod u，則在y組中一次查找 分析：比全相聯(lián)容易實現(xiàn)，沖突低 v=1，則為直接相聯(lián)映射方式 u=1，則為全相聯(lián)映射方式 v的取值一般比較小， 一般是2的冪，稱之為v路組相聯(lián)cache.,主存地址長度(s+w)位尋址單元數(shù)2s+w個字或字節(jié)塊大小行大小2w個字或字節(jié)主存的塊數(shù)2s每組的行數(shù)k每組的v2dcache的行數(shù)kv標記大小(s-d)位,cache工作原理要求它盡量保存最新數(shù)據(jù)，必然要產(chǎn)生替換。 對直接映射的cache來說，只要把此特定位置上的原主存塊換出cache即可。 對全相聯(lián)和組相聯(lián)c

9、ache來說， 就要從允許存放新主存塊的若干特定行中選取一行換出。,3、替換策略,最不經(jīng)常使用(LFU)算法 LFU算法將一段時間內(nèi)被訪問次數(shù)最少的那行數(shù)據(jù)換出。每行設(shè)置一個計數(shù)器。從0開始計數(shù)，每訪問一次， 被訪行的計數(shù)器增1。當需要替換時，將計數(shù)值最小的行換出，同時將這些行的計數(shù)器都清零。 這種算法將計數(shù)周期限定在對這些特定行兩次替換之間的間隔時間內(nèi)，不能嚴格反映近期訪問情況。 近期最少使用(LRU)算法 LRU算法將近期內(nèi)長久未被訪問過的行換出。每行也設(shè)置一個計數(shù)器，cache每命中一次，命中行計數(shù)器清零，其它各行計數(shù)器增1。當需要替換時，將計數(shù)值最大的行換出。 這種算法保護了剛拷貝到c

10、ache中的新數(shù)據(jù)行，有較高的命中率。 隨機替換 隨機替換策略從特定的行位置中隨機地選取一行換出。在硬件上容易實現(xiàn)，且速度也比前兩種策略快。缺點是降低了命中率和cache工作效率。,CPU對cache的寫入更改了cache的內(nèi)容?？蛇x用寫操作策略使cache內(nèi)容和主存內(nèi)容保持一致。,4、 cache的寫操作策略,寫回法 當CPU寫cache命中時，只修 改cache的內(nèi)容，而不立即寫入主存；只有當此行被換出時才寫回主存。這種方法減少了訪問主存的次數(shù),但是存在不一致性的隱患。實現(xiàn)這種方法時，每個cache行必須配置一個修改位，以反映此行是否被CPU修改過。 全寫法 當寫cache命中時，cach

11、e與主存同時發(fā)生寫修改，因而較好地維護了cache與主存的內(nèi)容的一致性。 當寫cache未命中時，直接向主存進行寫入。cache中每行無需設(shè)置一個修改位以及相應(yīng)的判斷邏輯。 缺點是降低了cache的功效。 寫一次法 基于寫回法并結(jié)合全寫法的寫策略,寫命中與寫未命中的處理方法與寫回法基本相同，只是第一次寫命中時要同時寫入主存。這便于維護系統(tǒng)全部cache的一致性。,5、 Pentium 4 的Cache,主要包括四個部分： 取指/譯碼單元：順序從L2cache中取程序指令，將它們譯成一系列的微指令，并存入L1指令cache中。 亂序執(zhí)行邏輯：依據(jù)數(shù)據(jù)相關(guān)性和資源可用性，調(diào)度微指令的執(zhí)行，因而微指令可按不同于所取機器指令流的順序被調(diào)度執(zhí)行。 執(zhí)行單元：它執(zhí)行微指令，從L1數(shù)據(jù)cache中取所需數(shù)據(jù)，并在寄存器組中暫存運算結(jié)果。 存儲器子系統(tǒng)：這部分包括L2cache、L3cache和系統(tǒng)總線。當L1、L2c