第13周大課 存儲(chǔ)系統(tǒng)(2)

1、1/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理存儲(chǔ)器概述存儲(chǔ)器概述存儲(chǔ)器訪問的局部性原理存儲(chǔ)器訪問的局部性原理半導(dǎo)體存儲(chǔ)器半導(dǎo)體存儲(chǔ)器2/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理提高主存儲(chǔ)器訪問帶寬的方法提高主存儲(chǔ)器訪問帶寬的方法Cache的工作原理的工作原理3/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理理解雙端口和多模塊的存儲(chǔ)器理解雙端口和多模塊的存儲(chǔ)器熟練掌握熟練掌握Cache的工作原理的工作原理4/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理6. 4 主存儲(chǔ)器主存儲(chǔ)器 6. 4. 1 主存儲(chǔ)器組成主存儲(chǔ)器組成 雖然人們?cè)诓粩嗟匮兄聘咚俣鹊拇鎯?chǔ)器，但是仍雖然人們?cè)诓粩嗟匮兄聘咚俣鹊拇鎯?chǔ)器，但是仍然趕不上高性能計(jì)算機(jī)對(duì)主存儲(chǔ)器

2、訪問帶寬的需求。所然趕不上高性能計(jì)算機(jī)對(duì)主存儲(chǔ)器訪問帶寬的需求。所以需要立足于現(xiàn)有的存儲(chǔ)器，通過引入并行處理技術(shù)來(lái)以需要立足于現(xiàn)有的存儲(chǔ)器，通過引入并行處理技術(shù)來(lái)提高主存儲(chǔ)器訪問帶寬。提高主存儲(chǔ)器訪問帶寬。 常用的并行存儲(chǔ)器有多端口常用的并行存儲(chǔ)器有多端口RAM（如雙口（如雙口RAM）和多模塊存儲(chǔ)器和多模塊存儲(chǔ)器 。 6. 4. 2 提高主存儲(chǔ)器訪問帶寬的方法提高主存儲(chǔ)器訪問帶寬的方法5/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理1. 雙口雙口RAM 這是具有兩套獨(dú)立的讀這是具有兩套獨(dú)立的讀/寫控制邏輯的寫控制邏輯的RAM，具有兩，具有兩個(gè)獨(dú)立的端口：左端口個(gè)獨(dú)立的端口：左端口( L )和右端口和右端口

3、( R )。 分別具有各自的地址總線、數(shù)據(jù)總線和控制總線，可分別具有各自的地址總線、數(shù)據(jù)總線和控制總線，可對(duì)存儲(chǔ)器中任何地址單元中的數(shù)據(jù)進(jìn)行獨(dú)立的存取操作。對(duì)存儲(chǔ)器中任何地址單元中的數(shù)據(jù)進(jìn)行獨(dú)立的存取操作。 當(dāng)兩個(gè)端口的訪存地址不同時(shí)，這兩個(gè)訪問可以同時(shí)當(dāng)兩個(gè)端口的訪存地址不同時(shí)，這兩個(gè)訪問可以同時(shí)進(jìn)行，否則發(fā)生訪問沖突。這時(shí)就由片內(nèi)仲裁邏輯決定哪進(jìn)行，否則發(fā)生訪問沖突。這時(shí)就由片內(nèi)仲裁邏輯決定哪個(gè)端口先進(jìn)行訪問。個(gè)端口先進(jìn)行訪問。 6. 4. 2 提高主存儲(chǔ)器訪問帶寬的方法提高主存儲(chǔ)器訪問帶寬的方法6/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理 雙端口雙端口RAM常作為流水線處理器的計(jì)算機(jī)主存常作為流

4、水線處理器的計(jì)算機(jī)主存儲(chǔ)器。在多機(jī)系統(tǒng)中，常采用雙端口儲(chǔ)器。在多機(jī)系統(tǒng)中，常采用雙端口RAM甚至多甚至多端口端口RAM，實(shí)現(xiàn)多處理器對(duì)主存儲(chǔ)器的共享。，實(shí)現(xiàn)多處理器對(duì)主存儲(chǔ)器的共享。 6. 4. 2 提高主存儲(chǔ)器訪問帶寬的方法提高主存儲(chǔ)器訪問帶寬的方法7/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理2. 多模塊存儲(chǔ)器多模塊存儲(chǔ)器n根據(jù)組成技術(shù)不同，多模塊存儲(chǔ)器又分為根據(jù)組成技術(shù)不同，多模塊存儲(chǔ)器又分為n單體多字存儲(chǔ)器單體多字存儲(chǔ)器n多體并行存儲(chǔ)器多體并行存儲(chǔ)器 6. 4. 2 提高主存儲(chǔ)器訪問帶寬的方法提高主存儲(chǔ)器訪問帶寬的方法8/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理2. 多模塊存儲(chǔ)器多模塊存儲(chǔ)器 6. 4.

5、 2 提高主存儲(chǔ)器訪問帶寬的方法提高主存儲(chǔ)器訪問帶寬的方法 單體多字存儲(chǔ)器單體多字存儲(chǔ)器 由于程序訪問存在著局部性，所以對(duì)相鄰存儲(chǔ)信由于程序訪問存在著局部性，所以對(duì)相鄰存儲(chǔ)信息（如指令和數(shù)組元素）的使用往往是連續(xù)的。若讓多息（如指令和數(shù)組元素）的使用往往是連續(xù)的。若讓多個(gè)存儲(chǔ)器模塊共用一套地址邏輯。這樣一個(gè)訪存地址就個(gè)存儲(chǔ)器模塊共用一套地址邏輯。這樣一個(gè)訪存地址就可以把存儲(chǔ)于多個(gè)存儲(chǔ)器模塊中相同地址單元的多個(gè)字可以把存儲(chǔ)于多個(gè)存儲(chǔ)器模塊中相同地址單元的多個(gè)字一并讀出，然后依次將它們送給處理器。一并讀出，然后依次將它們送給處理器。9/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理 存儲(chǔ)字存儲(chǔ)字存儲(chǔ)體存儲(chǔ)體 存

6、儲(chǔ)字存儲(chǔ)字存儲(chǔ)體存儲(chǔ)體 存儲(chǔ)字存儲(chǔ)字存儲(chǔ)體存儲(chǔ)體 存儲(chǔ)字存儲(chǔ)字存儲(chǔ)體存儲(chǔ)體MARM D RM D RM D RM D R寄存器寄存器前提：指令或數(shù)據(jù)在主存中必須是前提：指令或數(shù)據(jù)在主存中必須是連續(xù)存放連續(xù)存放的，一旦遇到轉(zhuǎn)的，一旦遇到轉(zhuǎn)移指令或者操作數(shù)不能連續(xù)存放，這種方法的效果就不明顯移指令或者操作數(shù)不能連續(xù)存放，這種方法的效果就不明顯單體多字存儲(chǔ)器單體多字存儲(chǔ)器10/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理2. 多模塊存儲(chǔ)器多模塊存儲(chǔ)器 6. 4. 2 提高主存儲(chǔ)器訪問帶寬的方法提高主存儲(chǔ)器訪問帶寬的方法 多體并行存儲(chǔ)器多體并行存儲(chǔ)器 由由N個(gè)容量相同、字長(zhǎng)相同的存儲(chǔ)器模塊組成。個(gè)容量相同、字長(zhǎng)相

7、同的存儲(chǔ)器模塊組成。各個(gè)存儲(chǔ)器模塊分別擁有獨(dú)立的地址邏輯。各個(gè)存儲(chǔ)器模塊分別擁有獨(dú)立的地址邏輯。 只要連續(xù)訪問的存儲(chǔ)單元不在同一個(gè)存儲(chǔ)器模塊只要連續(xù)訪問的存儲(chǔ)單元不在同一個(gè)存儲(chǔ)器模塊中，這些模塊就可以相互錯(cuò)開中，這些模塊就可以相互錯(cuò)開1/N周期啟動(dòng)、交叉（輪周期啟動(dòng)、交叉（輪流）占用系統(tǒng)的地址總線、數(shù)據(jù)總線和控制總線。流）占用系統(tǒng)的地址總線、數(shù)據(jù)總線和控制總線。 多體并行存儲(chǔ)器也叫多體并行存儲(chǔ)器也叫“模模N交叉存儲(chǔ)器交叉存儲(chǔ)器”。 11/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理四體交叉存儲(chǔ)器的工作示意圖四體交叉存儲(chǔ)器的工作示意圖 啟動(dòng)啟動(dòng)體體0單體訪存周期單體訪存周期單體訪存周期單體訪存周期 啟動(dòng)啟動(dòng)

8、體體1 啟動(dòng)啟動(dòng)體體2 啟動(dòng)啟動(dòng)體體312/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理2. 多模塊存儲(chǔ)器多模塊存儲(chǔ)器6. 4. 2 提高主存儲(chǔ)器訪問帶寬的方法提高主存儲(chǔ)器訪問帶寬的方法 由于模由于模N交叉存儲(chǔ)器提供的存儲(chǔ)容量為單體存儲(chǔ)器交叉存儲(chǔ)器提供的存儲(chǔ)容量為單體存儲(chǔ)器的的N倍，所以系統(tǒng)的地址總線寬度要大于單體存儲(chǔ)器的倍，所以系統(tǒng)的地址總線寬度要大于單體存儲(chǔ)器的地址總線寬度，多出的那部分地址將用于生成不同存儲(chǔ)地址總線寬度，多出的那部分地址將用于生成不同存儲(chǔ)體的體選信號(hào)。體的體選信號(hào)。 根據(jù)選擇訪存地址的高端還是低端來(lái)生成體選信號(hào)根據(jù)選擇訪存地址的高端還是低端來(lái)生成體選信號(hào)，可以將模，可以將模N交叉存儲(chǔ)

9、器分為交叉存儲(chǔ)器分為“高位交叉編址存儲(chǔ)器高位交叉編址存儲(chǔ)器”和和“低位交叉編址存儲(chǔ)器低位交叉編址存儲(chǔ)器” 。 13/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理模塊模塊0 模塊模塊1 模塊模塊2 模塊模塊3 00000000010001000011010000100101010010111000010001100101001111000110011101011011高位是模塊號(hào)高位是模塊號(hào), 低位是塊內(nèi)地址低位是塊內(nèi)地址 主存地址主存地址高位交叉編址高位交叉編址14/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理高位交叉編址存儲(chǔ)器高位交叉編址存儲(chǔ)器 優(yōu)點(diǎn)是可靠性高優(yōu)點(diǎn)是可靠性高，一個(gè)存儲(chǔ)器模，一個(gè)存儲(chǔ)器模塊失效只會(huì)影響

10、塊失效只會(huì)影響存儲(chǔ)空間的存儲(chǔ)空間的1/N部分，不在這一部分，不在這一部分的程序和數(shù)部分的程序和數(shù)據(jù)照常工作。問據(jù)照常工作。問題是，發(fā)生訪問題是，發(fā)生訪問沖突的概率高。沖突的概率高。 15/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理模塊模塊0 模塊模塊1 模塊模塊2 模塊模塊3 00000000010001000011001000100001100高位是塊內(nèi)地址高位是塊內(nèi)地址, 低位是模塊號(hào)低位是模塊號(hào) 主存地址主存地址001010100101101001100101001110001110101101111低位交叉編址低位交叉編址16/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理低位交叉編址存儲(chǔ)器低位交叉編址存儲(chǔ)器

11、 低位交叉存儲(chǔ)器低位交叉存儲(chǔ)器可以將連續(xù)的指可以將連續(xù)的指令和數(shù)據(jù)存儲(chǔ)在令和數(shù)據(jù)存儲(chǔ)在不同的存儲(chǔ)器模不同的存儲(chǔ)器模塊中，有利于減塊中，有利于減少訪問沖突。但少訪問沖突。但是可靠性差，一是可靠性差，一旦一個(gè)存儲(chǔ)體失旦一個(gè)存儲(chǔ)體失效，整個(gè)存儲(chǔ)空效，整個(gè)存儲(chǔ)空間將崩潰。間將崩潰。 17/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理6. 4. 2 提高主存儲(chǔ)器訪問帶寬的方法提高主存儲(chǔ)器訪問帶寬的方法3、采用更高速器件技術(shù)（如雙極型、采用更高速器件技術(shù)（如雙極型MOS）生產(chǎn)的存）生產(chǎn)的存儲(chǔ)芯片；儲(chǔ)芯片；4、信息按整數(shù)邊界存儲(chǔ)；、信息按整數(shù)邊界存儲(chǔ)；5、引入高速緩存、引入高速緩存Cache 。18/30計(jì)算機(jī)組成原理

12、計(jì)算機(jī)組成原理 例例6-14 某計(jì)算機(jī)存儲(chǔ)器按字節(jié)編址，采用小端方式存放數(shù)據(jù)。某計(jì)算機(jī)存儲(chǔ)器按字節(jié)編址，采用小端方式存放數(shù)據(jù)。假定編譯器規(guī)定假定編譯器規(guī)定int和和short型長(zhǎng)度分別為型長(zhǎng)度分別為32位和位和16位，并且數(shù)位，并且數(shù)據(jù)按邊界對(duì)齊存儲(chǔ)。某據(jù)按邊界對(duì)齊存儲(chǔ)。某C語(yǔ)言程序段如下：語(yǔ)言程序段如下：struct int a;charb;short c; record;record.a=273; 若變量若變量record的首地址為的首地址為0 xC008，則地址，則地址0 xC008中的內(nèi)容中的內(nèi)容及及record.c的地址分別為的地址分別為 。 A0 x00、0 xC00D B0 x0

13、0、0 xC00E C0 x11、0 xC00D D0 x11、0 xC00E D19/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理 計(jì)算機(jī)存儲(chǔ)系統(tǒng)的層次結(jié)構(gòu)中，最重要的兩計(jì)算機(jī)存儲(chǔ)系統(tǒng)的層次結(jié)構(gòu)中，最重要的兩個(gè)層次是采用高速緩沖存儲(chǔ)器的個(gè)層次是采用高速緩沖存儲(chǔ)器的“Cache 主存主存”層次層次，以及基于虛擬存儲(chǔ)器的，以及基于虛擬存儲(chǔ)器的“主存主存 輔存輔存”層層次次。 前者能提高存儲(chǔ)系統(tǒng)的等效訪問速度，即彌前者能提高存儲(chǔ)系統(tǒng)的等效訪問速度，即彌補(bǔ)主存儲(chǔ)器在速度上的不足；后者擴(kuò)大了存儲(chǔ)系補(bǔ)主存儲(chǔ)器在速度上的不足；后者擴(kuò)大了存儲(chǔ)系統(tǒng)的容量，即彌補(bǔ)主存儲(chǔ)器在容量上的不足。統(tǒng)的容量，即彌補(bǔ)主存儲(chǔ)器在容量上的不

14、足。20/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理6. 1 存儲(chǔ)器的分類與性能評(píng)價(jià)存儲(chǔ)器的分類與性能評(píng)價(jià) 6. 2 存儲(chǔ)器訪問的局部性原理與層次結(jié)構(gòu)存儲(chǔ)系統(tǒng)存儲(chǔ)器訪問的局部性原理與層次結(jié)構(gòu)存儲(chǔ)系統(tǒng) 6. 3 半導(dǎo)體存儲(chǔ)器半導(dǎo)體存儲(chǔ)器 6. 4 主存儲(chǔ)器主存儲(chǔ)器 6. 5 高速緩沖存儲(chǔ)器高速緩沖存儲(chǔ)器Cache 為了解決為了解決“主存儲(chǔ)器的速度始終趕不上處理器的速主存儲(chǔ)器的速度始終趕不上處理器的速度度”的問題，在主存和處理器之間增設(shè)的問題，在主存和處理器之間增設(shè)“高速緩沖存儲(chǔ)高速緩沖存儲(chǔ)器器Cache”是一種非常有效的辦法。是一種非常有效的辦法。 Cache采用靜態(tài)采用靜態(tài)RAM實(shí)現(xiàn)，容量小于主存容量，

15、實(shí)現(xiàn)，容量小于主存容量，但速度大大高于基于動(dòng)態(tài)但速度大大高于基于動(dòng)態(tài)RAM的大容量主存。的大容量主存。 21/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理6. 5 高速緩沖存儲(chǔ)器高速緩沖存儲(chǔ)器Cache 6. 5. 1 Cache的工作原理的工作原理 CPUCPU發(fā)出訪問主存的地址發(fā)出訪問主存的地址MM不久目標(biāo)數(shù)據(jù)將肯定從主存送往不久目標(biāo)數(shù)據(jù)將肯定從主存送往CPUCache沒有沒有Cache，計(jì)算機(jī)，計(jì)算機(jī)照常工作，有了照常工作，有了Cache, 計(jì)算機(jī)工作得計(jì)算機(jī)工作得快一點(diǎn)！快一點(diǎn)！22/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理CPUCacheMMCPU發(fā)出訪問主存的地址發(fā)出訪問主存的地址這個(gè)主存地這個(gè)主存地

16、址址Cache也也同時(shí)收到同時(shí)收到若目標(biāo)數(shù)據(jù)在若目標(biāo)數(shù)據(jù)在Cache中中(命中命中)則則Cache將先于將先于主存把數(shù)據(jù)送往主存把數(shù)據(jù)送往CPU若若Cache沒命中沒命中則主存遲早會(huì)把則主存遲早會(huì)把目標(biāo)數(shù)據(jù)送往目標(biāo)數(shù)據(jù)送往CPU23/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理 事實(shí)上，對(duì)于事實(shí)上，對(duì)于M體交叉訪問的主存儲(chǔ)器，給出一個(gè)體交叉訪問的主存儲(chǔ)器，給出一個(gè)主存地址在一個(gè)訪存周期內(nèi)能夠讀出主存地址在一個(gè)訪存周期內(nèi)能夠讀出M個(gè)字。根據(jù)程序個(gè)字。根據(jù)程序訪問的局部性原理，訪問的局部性原理，CPU將會(huì)繼續(xù)訪問這將會(huì)繼續(xù)訪問這M個(gè)字。個(gè)字。 所以在主存與所以在主存與Cache之間，設(shè)置一個(gè)多字寬的局部數(shù)據(jù)線

17、。之間，設(shè)置一個(gè)多字寬的局部數(shù)據(jù)線。 當(dāng)當(dāng)Cache不命中時(shí)，不命中時(shí)，CPU將在訪問目標(biāo)數(shù)據(jù)的同時(shí)，一并從將在訪問目標(biāo)數(shù)據(jù)的同時(shí)，一并從主存主存讀出來(lái)的讀出來(lái)的M個(gè)字，并將其作為一個(gè)個(gè)字，并將其作為一個(gè) 塊塊 傳送給傳送給Cache。 這樣這樣CPU的下一次訪問基本上能夠在的下一次訪問基本上能夠在Cache中命中了。中命中了。24/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理 當(dāng)當(dāng)Cache不命中，不命中，CPU正常訪問主存時(shí)，主存一方面正常訪問主存時(shí)，主存一方面將將目標(biāo)數(shù)據(jù)目標(biāo)數(shù)據(jù)通過通過系統(tǒng)數(shù)據(jù)總線系統(tǒng)數(shù)據(jù)總線送往送往CPU； 同時(shí)，通過同時(shí)，通過CacheMM局部多字寬數(shù)據(jù)線局部多字寬數(shù)據(jù)線將附帶

18、讀將附帶讀出的出的一個(gè)字塊一個(gè)字塊送往送往Cache。CPUCacheMM25/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理 隨著隨著CPU不斷地訪問主存，越來(lái)越多的不斷地訪問主存，越來(lái)越多的 主存字塊被裝入主存字塊被裝入Cache。 Cache的容量有限，遲早會(huì)出現(xiàn)的容量有限，遲早會(huì)出現(xiàn)Cache裝滿的情況。裝滿的情況。 所以當(dāng)一個(gè)新字塊要裝入所以當(dāng)一個(gè)新字塊要裝入Cache時(shí)，它將要判斷時(shí)，它將要判斷Cache是否已滿？是否已滿？ 未滿則直接裝入，未滿則直接裝入， 否則將啟動(dòng)否則將啟動(dòng)Cache內(nèi)部的替換控制機(jī)構(gòu)，從內(nèi)部的替換控制機(jī)構(gòu)，從Cache存儲(chǔ)存儲(chǔ)體中選擇一個(gè)舊的字塊，將其通過體中選擇一個(gè)舊的字塊，將其通過CacheMM局部多字局部多字寬數(shù)據(jù)線寫回主存，以騰出空間接納新送來(lái)的字塊。寬數(shù)據(jù)線寫回主存，以騰出空間接納新送來(lái)的字塊。26/30計(jì)算機(jī)組成原理計(jì)算機(jī)組成原理 由于程序訪問局部性原理的存在，由于程序訪問局部性原理的存在，Cache的命中的命中率通常都在率通常都在90%以上。以上。 所以，增設(shè)所以，增設(shè)Cache后，后，CPU的平均訪存速度明顯的平均訪存速度明顯提高，基本上接近提高，基本上接近Cache 的速度。的速度。 在在CPU看來(lái)，它只付出了少許成本，就擁有了看來(lái)，它只付出了少許成本，就擁有了一個(gè)與主存儲(chǔ)器容量相當(dāng)，速度幾乎等于一個(gè)與主存儲(chǔ)器容量相當(dāng)，