CPU的一級緩存和二級緩存.doc

首先我們來簡單了解一下一級緩存。目前所有主流處理器大都具有一級緩存和二級緩存，少數(shù)高端處理器還集成了三級緩存。其中，一級緩存可分為一級指令緩存和一級數(shù)據(jù)緩存。一級指令緩存用于暫時存儲并向CPU遞送各類運(yùn)算指令；一級數(shù)據(jù)緩存用于暫時存儲并向CPU遞送運(yùn)算所需數(shù)據(jù)，這就是一級緩存的作用（如果大家對上述文字理解困難的話，可參照下圖所示）。那么，二級緩存的作用又是什么呢？簡單地說，二級緩存就是一級緩存的緩沖器：一級緩存制造成本很高因此它的容量有限，二級緩存的作用就是存儲那些CPU處理時需要用到、一級緩存又無法存儲的數(shù)據(jù)。同樣道理，三級緩存和內(nèi)存可以看作是二級緩存的緩沖器，它們的容量遞增，但單位制造成本卻遞減。需要注意的是，無論是二級緩存、三級緩存還是內(nèi)存都不能存儲處理器操作的原始指令，這些指令只能存儲在CPU的一級指令緩存中，而余下的二級緩存、三級緩存和內(nèi)存僅用于存儲CPU所需數(shù)據(jù)。根據(jù)工作原理的不同，目前主流處理器所采用的一級數(shù)據(jù)緩存又可以分為實數(shù)據(jù)讀寫緩存和數(shù)據(jù)代碼指令追蹤緩存2種，它們分別被AMD和Intel所采用。不同的一級數(shù)據(jù)緩存設(shè)計對于二級緩存容量的需求也各不相同，下面讓我們簡單了解一下這兩種一級數(shù)據(jù)緩存設(shè)計的不同之處。一、AMD一級數(shù)據(jù)緩存設(shè)計AMD采用的一級緩存設(shè)計屬于傳統(tǒng)的“實數(shù)據(jù)讀寫緩存”設(shè)計?；谠摷軜?gòu)的一級數(shù)據(jù)緩存主要用于存儲CPU最先讀取的數(shù)據(jù)；而更多的讀取數(shù)據(jù)則分別存儲在二級緩存和系統(tǒng)內(nèi)存當(dāng)中。做個簡單的假設(shè)，假如處理器需要讀取“AMDATHLON643000+ISGOOD”這一串?dāng)?shù)據(jù)（不記空格），那么首先要被讀取的“AMDATHL”將被存儲在一級數(shù)據(jù)緩存中，而余下的“ON643000+ISGOOD”則被分別存儲在二級緩存和系統(tǒng)內(nèi)存當(dāng)中（如下圖所示）。需要注意的是，以上假設(shè)只是對AMD處理器一級數(shù)據(jù)緩存的一個抽象描述，一級數(shù)據(jù)緩存和二級緩存所能存儲的數(shù)據(jù)長度完全由緩存容量的大小決定，而絕非以上假設(shè)中的幾個字節(jié)。“實數(shù)據(jù)讀寫緩存”的優(yōu)點是數(shù)據(jù)讀取直接快速，但這也需要一級數(shù)據(jù)緩存具有一定的容量，增加了處理器的制造難度（一級數(shù)據(jù)緩存的單位制造成本較二級緩存高）。二、Intel一級數(shù)據(jù)緩存設(shè)計自P4時代開始，Intel開始采用全新的“數(shù)據(jù)代碼指令追蹤緩存”設(shè)計?；谶@種架構(gòu)的一級數(shù)據(jù)緩存不再存儲實際的數(shù)據(jù)，而是存儲這些數(shù)據(jù)在二級緩存中的指令代碼（即數(shù)據(jù)在二級緩存中存儲的起始地址）。假設(shè)處理器需要讀取“INTELP4ISGOOD”這一串?dāng)?shù)據(jù)（不記空格），那么所有數(shù)據(jù)將被存儲在二級緩存中，而一級數(shù)據(jù)代碼指令追蹤緩存需要存儲的僅僅是上述數(shù)據(jù)的起始地址（如下圖所示）。由于一級數(shù)據(jù)緩存不再存儲實際數(shù)據(jù)，因此“數(shù)據(jù)代碼指令追蹤緩存”設(shè)計能夠極大地降CPU對一級數(shù)據(jù)緩存容量的要求，降低處理器的生產(chǎn)難度。但這種設(shè)計的弊端在于數(shù)據(jù)讀取效率較“實數(shù)據(jù)讀寫緩存設(shè)計”低，而且對二級緩存容量的依賴性非常大。在了解了一級緩存、二級緩存的大致作用及其分類以后，下面我們來回答以下硬件一菜鳥網(wǎng)友提出的問題。從理論上講，二級緩存越大處理器的性能越好，但這并不是說二級緩存容量加倍就能夠處理器帶來成倍的性能增長。目前CPU處理的絕大部分?jǐn)?shù)據(jù)的大小都在0-256KB之間，小部分?jǐn)?shù)據(jù)的大小在256KB-512KB之間，只有極少數(shù)數(shù)據(jù)的大小超過512KB。所以只要處理器可用的一級、二級緩存容量達(dá)到256KB以上，那就能夠應(yīng)付正常的應(yīng)用；512KB容量的二級緩存已經(jīng)足夠滿足絕大多數(shù)應(yīng)用的需求。這其中，對于采用“實數(shù)據(jù)讀寫緩存”設(shè)計的AMDAthlon64、Sempron處理器而言，由于它們已經(jīng)具備了64KB一級指令緩存和64KB一級數(shù)據(jù)緩存，只要處理器的二級緩存容量大于等于128KB就能夠存儲足夠的數(shù)據(jù)和指令，因此它們對二級緩存的依賴性并不大。這就是為什么主頻同為1.8GHz的Socket754Sempron3000+（128KB二級緩存）、Sempron3100+（256KB二級緩存）以及Athlon642800+（512KB二級緩存）在大多數(shù)評測中性能非常接近的主要原因。所以對于普通用戶而言754Sempron2600+是值得考慮的。反觀IntelCPU緩存（CacheMemory）位于CPU與內(nèi)存之間的臨時存儲器，它的容量比內(nèi)存小但交換速度快。在緩存中的數(shù)據(jù)是內(nèi)存中的一小部分，但這一小部分是短時間內(nèi)CPU即將訪問的，當(dāng)CPU調(diào)用大量數(shù)據(jù)時，就可避開內(nèi)存直接從緩存中調(diào)用，從而加快讀取速度。由此可見，在CPU中加入緩存是一種高效的解決方案，這樣整個內(nèi)存儲器（緩存+內(nèi)存）就變成了既有緩存的高速度，又有內(nèi)存的大容量的存儲系統(tǒng)了。緩存對CPU的性能影響很大，主要是因為CPU的數(shù)據(jù)交換順序和CPU與緩存間的帶寬引起的。緩存的工作原理是當(dāng)CPU要讀取一個數(shù)據(jù)時，首先從緩存中查找，如果找到就立即讀取并送給CPU處理；如果沒有找到，就用相對慢的速度從內(nèi)存中讀取并送給CPU處理，同時把這個數(shù)據(jù)所在的數(shù)據(jù)塊調(diào)入緩存中，可以使得以后對整塊數(shù)據(jù)的讀取都從緩存中進(jìn)行，不必再調(diào)用內(nèi)存。正是這樣的讀取機(jī)制使CPU讀取緩存的命中率非常高（大多數(shù)CPU可達(dá)90%左右），也就是說CPU下一次要讀取的數(shù)據(jù)90%都在緩存中，只有大約10%需要從內(nèi)存讀取。這大大節(jié)省了CPU直接讀取內(nèi)存的時間，也使CPU讀取數(shù)據(jù)時基本無需等待?？偟膩碚f，CPU讀取數(shù)據(jù)的順序是先緩存后內(nèi)存。最早先的CPU緩存是個整體的，而且容量很低，英特爾公司從Pentium時代開始把緩存進(jìn)行了分類。當(dāng)時集成在CPU內(nèi)核中的緩存已不足以滿足CPU的需求，而制造工藝上的限制又不能大幅度提高緩存的容量。因此出現(xiàn)了集成在與CPU同一塊電路板上或主板上的緩存，此時就把CPU內(nèi)核集成的緩存稱為一級緩存，而外部的稱為二級緩存。一級緩存中還分?jǐn)?shù)據(jù)緩存（DataCache，D-Cache）和指令緩存（InstructionCache，I-Cache）。二者分別用來存放數(shù)據(jù)和執(zhí)行這些數(shù)據(jù)的指令，而且兩者可以同時被CPU訪問，減少了爭用Cache所造成的沖突，提高了處理器效能。英特爾公司在推出Pentium4處理器時，用新增的一種一級追蹤緩存替代指令緩存，容量為12KOps，表示能存儲12K條微指令。隨著CPU制造工藝的發(fā)展，二級緩存也能輕易的集成在CPU內(nèi)核中，容量也在逐年提升?，F(xiàn)在再用集成在CPU內(nèi)部與否來定義一、二級緩存，已不確切。而且隨著二級緩存被集成入CPU內(nèi)核中，以往二級緩存與CPU大差距分頻的情況也被改變，此時其以相同于主頻的速度工作，可以為CPU提供更高的傳輸速度。二級緩存是CPU性能表現(xiàn)的關(guān)鍵之一，在CPU核心不變化的情況下，增加二級緩存容量能使性能大幅度提高。而同一核心的CPU高低端之分往往也是在二級緩存上有差異，由此可見二級緩存對于CPU的重要性。CPU在緩存中找到有用的數(shù)據(jù)被稱為命中，當(dāng)緩存中沒有CPU所需的數(shù)據(jù)時（這時稱為未命中），CPU才訪問內(nèi)存。從理論上講，在一顆擁有二級緩存的CPU中，讀取一級緩存的命中率為80%。也就是說CPU一級緩存中找到的有用數(shù)據(jù)占數(shù)據(jù)總量的80%，剩下的20%從二級緩存中讀取。由于不能準(zhǔn)確預(yù)測將要執(zhí)行的數(shù)據(jù)，讀取二級緩存的命中率也在80%左右（從二級緩存讀到有用的數(shù)據(jù)占總數(shù)據(jù)的16%）。那么還有的數(shù)據(jù)就不得不從內(nèi)存調(diào)用，但這已經(jīng)是一個相當(dāng)小的比例了。目前的較高端的CPU中，還會帶有三級緩存，它是為讀取二級緩存后未命中的數(shù)據(jù)設(shè)計的種緩存，在擁有三級緩存的CPU中，只有約5%的數(shù)據(jù)需要從內(nèi)存中調(diào)用，這進(jìn)一步提高了CPU的效率。為了保證CPU訪問時有較高的命中率，緩存中的內(nèi)容應(yīng)該按一定的算法替換。一種較常用的算法是“最近最少使用算法”（LRU算法），它是將最近一段時間內(nèi)最少被訪問過的行淘汰出局。因此需要為每行設(shè)置一個計數(shù)器，LRU算法是把命中行的計數(shù)器清零，其他各行計數(shù)器加1。當(dāng)需要替換時淘汰行計數(shù)器計數(shù)值最大的數(shù)據(jù)行出局。這是一種高效、科學(xué)的算法，其計數(shù)器清零過程可以把一些頻繁調(diào)用后再不需要的