多核CPU與多處理機(jī)

1、試比較多核CPU與多處理機(jī)，討論線程、進(jìn)程、多機(jī)、內(nèi)核、流水線的關(guān)系16組目錄CONTENTE比較多核CPU和多處理機(jī)01淺談線程、進(jìn)程、多機(jī)、內(nèi)核、流水線02談以上聯(lián)系030113122711胡紅青16組試比較多核CPU與多處理機(jī)多核cpu多處理機(jī)多核cpu(處理器)是指在一枚處理器中集成兩個(gè)或多個(gè)完整的計(jì)算引擎(內(nèi)核)。1P.H.Enslow對(duì)多處理機(jī)作了下列定義： * 包含兩個(gè)或兩個(gè)以上功能大致相同的處理器； * 所有處理器共享一個(gè)公共內(nèi)存； * 所有處理器共享I/O通道、控制器和外圍設(shè)備； * 整個(gè)系統(tǒng)由統(tǒng)一的操作系統(tǒng)控制，在處理器和程序之間實(shí)現(xiàn)作業(yè)、任務(wù)、程序段、數(shù)組和數(shù)組元素等各級(jí)

2、的全面并行213122711胡紅青多核cpu13122711胡紅青在大多數(shù)情況下，多核CPU的內(nèi)核擁有獨(dú)立的L1緩存，共享L2緩存、內(nèi)存子系統(tǒng)、中斷子系統(tǒng)和外設(shè)13122711胡紅青為什么出現(xiàn)多核在此添加關(guān)鍵字Lorem ipsum dolor sit amet, consectetuer adipiscing elit. 瓶頸：頻率無(wú)法無(wú)限提升，物理定律無(wú)法違背，溫度，制程，功耗均是制約條件增加多核的原因，主要是控制功耗和發(fā)熱量。單核的瓶頸 微處理器4004摩爾定律每過(guò)18個(gè)月，芯片上可以集成的晶體管數(shù)目將增加一倍2005年4月，戈登摩爾曾公開(kāi)表示，引領(lǐng)半導(dǎo)體市場(chǎng)接近40年的“摩爾定律”，在

3、未來(lái)10年至20年內(nèi)可能失效。13122711胡紅青多核調(diào)度算法在此添加關(guān)鍵字Lorem ipsum dolor sit amet, consectetuer adipiscing elit. 1）對(duì)任務(wù)的分配進(jìn)行優(yōu)化。使同一應(yīng)用程序的任務(wù)盡量在一個(gè)核上執(zhí)行，以便達(dá)到有共享數(shù)據(jù)的任務(wù)能夠盡量在一個(gè)核上進(jìn)行，而共享數(shù)據(jù)量少或者沒(méi)有的任務(wù)盡量在不同核上進(jìn)行。這樣，可以顯著得降低cache的缺失率，進(jìn)而很大程度上提升了系統(tǒng)的整體性能。2）對(duì)任務(wù)的共享數(shù)據(jù)優(yōu)化。體系結(jié)構(gòu)共享二級(jí)緩存，可以考慮改變?nèi)蝿?wù)在內(nèi)存中的數(shù)據(jù)分布，使任務(wù)在執(zhí)行時(shí)盡量增加二級(jí)緩存的命中率。3）對(duì)任務(wù)的負(fù)載均衡優(yōu)化。當(dāng)任務(wù)在調(diào)度時(shí)，出

4、現(xiàn)了負(fù)載不均衡，考慮將較忙處理器中與其他任務(wù)最不相關(guān)的任務(wù)遷移，以達(dá)到數(shù)據(jù)的沖突量小。13122711胡紅青多處理機(jī)13122711胡紅青Cache不一致性不一致性在此添加關(guān)鍵字Lorem ipsum dolor sit amet, consectetuer adipiscing elit. 以進(jìn)一步減少訪問(wèn)主存的次數(shù)，可以在每個(gè)處理機(jī)同PMIN間設(shè)置Cache(CM)。但有了Cache以后，又要產(chǎn)生系統(tǒng)中多個(gè)Cache之間以及Cache同主存間的數(shù)據(jù)一致性問(wèn)題。13122711胡紅青多處理機(jī)的優(yōu)點(diǎn)多處理機(jī)的優(yōu)點(diǎn)很高的性能價(jià)格比 ： 單處理機(jī)的性能價(jià)格比隨其規(guī)模的增大而下降 很高的可靠性 ：冗

5、余度大、可維護(hù)性、可用性 很高的處理速度：多個(gè)處理器并行運(yùn)算 很好的模塊性：大量重復(fù)設(shè)置，結(jié)構(gòu)靈活性、可擴(kuò)充性、可重構(gòu)性 多處理機(jī)屬于MIMD計(jì)算機(jī)13122711胡紅青多處理機(jī)的分類在此添加關(guān)鍵字Lorem ipsum dolor sit amet, consectetuer adipiscing elit. 分類多處理機(jī)的分類按多處理機(jī)各機(jī)器之間物理連接的緊密程度與交互作用能力的強(qiáng)弱來(lái)分，多處理機(jī)分為緊耦合系統(tǒng)和松耦合系統(tǒng)兩大類。按處理機(jī)的結(jié)構(gòu)是否相同來(lái)分，如果每個(gè)處理機(jī)是同類型的，且完成同樣的功能，我們稱為同構(gòu)型多處理機(jī)系統(tǒng)。如果多處理機(jī)是由多個(gè)不同類型，且擔(dān)負(fù)不同功能的處理機(jī)組成，我們

6、稱為異構(gòu)型多處理機(jī)系統(tǒng)。按多處理機(jī)系統(tǒng)的組成結(jié)構(gòu)來(lái)分，現(xiàn)有的MIMD計(jì)算機(jī)分為如下五種類型：并行向量處理機(jī)(PVP)、對(duì)稱多處理機(jī)(SMP)、大規(guī)模并行處理機(jī)(MPP)、分布共享存儲(chǔ)器多處理機(jī)(DSM)、工作站機(jī)群(COW)，如圖7.2所示。兩者的比較13122711胡紅青這就像為什么我們要去公司上班而不是在家里上班一樣。去公司上班（多核CPU）的話，資源共享（共享緩存），溝通方便（CPU內(nèi)數(shù)據(jù)傳輸速度遠(yuǎn)大于總線速度）。但是如果信息技術(shù)（類比總線）上有突破性進(jìn)展，否則我們還是每天要擠公車去公司上班。兩者比較12多核實(shí)現(xiàn)，（即100支手在一個(gè)人身上）:即使人有一百只手，可一次搬的板磚太多了，脊椎

7、估計(jì)頂不住，他在某些地方存在瓶頸（比如I/O），可能腦子控制不過(guò)來(lái)（內(nèi)部的協(xié)調(diào)邏輯，調(diào)度策略復(fù)雜）。人多力量大，50個(gè)人協(xié)調(diào)好了，必然效率非常高，協(xié)調(diào)不好的話。1. 可能倆人搶著搬一塊磚（數(shù)據(jù)一致性）2. 可能一個(gè)人搬著磚走了一半不走了（單點(diǎn)故障），最要命的是別人都沒(méi)看見(jiàn)他不走了！那塊磚最后搞不好就丟了！3. 可能因?yàn)槿蝿?wù)沒(méi)分配好（任務(wù)調(diào)度），幾個(gè)人累死，幾個(gè)人傻看著4. 稀缺資源的分配，如I/O13122711胡紅青形象的任務(wù)目標(biāo)：你需要搬很多磚，你現(xiàn)在有一百支手。實(shí)際的任務(wù)目標(biāo)： 你有一個(gè)很大的計(jì)算任務(wù)，你有很多cpu。/c

8、stb/index.htmhttp:/ 操作系統(tǒng)中的進(jìn)程是指特定的代碼序列在指定的數(shù)據(jù)集合上的一次執(zhí)行活動(dòng)，是指并行程序的一次執(zhí)行過(guò)程，在Windows系統(tǒng)中就是一個(gè)EXE文件。13121507張文杰u 計(jì)算機(jī)上運(yùn)行的可執(zhí)行文件對(duì)特定的輸入數(shù)據(jù)的一個(gè)實(shí)例。 進(jìn)程=PCB（進(jìn)程控制塊）+程序段+數(shù)據(jù)u 同一個(gè)執(zhí)行程序文件如果操作不同的輸入數(shù)據(jù)就是兩個(gè)不同的進(jìn)程。u 線程是指由進(jìn)程進(jìn)一步派生出來(lái)的一組代碼（指令組）的執(zhí)行過(guò)程。進(jìn)程和線程通俗說(shuō)法u 進(jìn)程可以理解為一個(gè)線程容器，線程不能獨(dú)立存在，它必須隸屬于某個(gè)進(jìn)程，而進(jìn)程也必須至少擁有一個(gè)線程，如果一個(gè)進(jìn)程的所有線程都結(jié)束了，那么進(jìn)程也就結(jié)束。13

9、121507張文杰進(jìn)程和線程例子u 線程就是進(jìn)行并行計(jì)算的一個(gè)抽象概念，在另一個(gè)線程完成計(jì)算任務(wù)的同時(shí)，一個(gè)線程可以對(duì)圖像進(jìn)行更新，兩個(gè)線程可以同時(shí)處理同一個(gè)進(jìn)程發(fā)出的兩個(gè)網(wǎng)絡(luò)請(qǐng)求。13121507張文杰u 一個(gè)人在處理家務(wù)的過(guò)程中，將衣服放在洗衣機(jī)中自動(dòng)洗滌后將大米放在電飯煲里，然后開(kāi)始做菜。等菜做好了，飯也熟了同時(shí)衣服也洗好了。進(jìn)程和線程13121507張文杰多處理機(jī) 多個(gè)處理機(jī)及存儲(chǔ)器模塊構(gòu)成的并行處理機(jī)被稱為多處理機(jī)系統(tǒng)（multiprocessor system），簡(jiǎn)稱處理機(jī)。113121507張文杰處理機(jī)分類處理機(jī)之間通信通過(guò)存儲(chǔ)器進(jìn)行。依據(jù)存儲(chǔ)器模塊所在的位置不同，多處理機(jī)可以分

10、為緊耦合（tightly coupled）和松耦合（loosely coupled）。多處理機(jī)213121507張文杰cachep cache是容量較少、速度較快的存儲(chǔ)器，cache中存放經(jīng)常使用的信息。p 從存儲(chǔ)器讀信息到cache方法：直接映像、全相聯(lián)映像、組相聯(lián)映像、扇區(qū)映像。p cache替換策略：隨機(jī)替換、先進(jìn)先出（FIFO）替換、最近最少使用（LRU）替換。p 命中寫策略：寫回（write back /copy back）、寫透（write through）p 不命中寫策略：寫裝入（write allocate）和寫不裝入（write no allocate）多處理機(jī)3131215

11、07張文杰多處理機(jī)cache一致性解決問(wèn)題的核心：如何讓處理機(jī)在執(zhí)行過(guò)程中始終能夠使用最新的數(shù)據(jù)多處理機(jī)313121507張文杰p 寫廢策略：當(dāng)一個(gè)處理機(jī)往cache的某個(gè)“block”寫數(shù)據(jù)的時(shí)候，該塊在其它處理機(jī)cache中的拷貝（它們具有相同的存儲(chǔ)器地址）應(yīng)被置為無(wú)效狀態(tài)。p 寫改策略：新的數(shù)據(jù)也被寫到其它處理機(jī)cache相應(yīng)的塊中。依據(jù)互聯(lián)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)的不同，實(shí)現(xiàn)方法也不同監(jiān)聽(tīng)cache協(xié)議：（互聯(lián)網(wǎng)絡(luò)易于實(shí)現(xiàn)廣播的操作）寫廢和寫改命令能夠被廣播到其它所有的cache，每個(gè)cache都監(jiān)視總線上的動(dòng)作，監(jiān)測(cè)是否有其它c(diǎn)ache的寫操作發(fā)生。目錄協(xié)議：（不易實(shí)現(xiàn)廣播操作）cache目錄

12、為每個(gè)塊設(shè)立一個(gè)指針，指向其它每個(gè)存有該塊拷貝的cache。cache目錄可以是集中式的也可以是分布式的。多機(jī)13121507張文杰內(nèi)核地位p 主要作用在于與計(jì)算硬件進(jìn)行交互，實(shí)現(xiàn)對(duì)硬件的編程控制和接口操作，調(diào)度訪問(wèn)硬件資源，同時(shí)向應(yīng)用程序提供一個(gè)高級(jí)的執(zhí)行環(huán)境和對(duì)硬件的虛擬接口。p 內(nèi)核與普通的應(yīng)用程序不同，其所擁有的所有硬件設(shè)備的訪問(wèn)權(quán)限以及啟動(dòng)時(shí)即劃分的受保護(hù)的內(nèi)存空間。13121507張文杰內(nèi)核內(nèi)核（Kernel）是操作系統(tǒng)的核心 。流水線13121507張文杰 亂序執(zhí)行流水線p 譯碼級(jí)有一些略微的修改。 不同于以往處理器僅僅譯碼指令指針指向的指令， 現(xiàn)今的處理器（2008-2013

13、年）每個(gè)時(shí)鐘周期最多可以譯碼 4 條指令。p 寄存器重命名(register aliasing) 在處理器內(nèi)部，這些原始的寄存器（如AX,BX,CX,DX 等）被翻譯（或者重命名）成為內(nèi)部的寄存器，而這些寄存器對(duì)程序員是不可見(jiàn)的。寄存器和內(nèi)存地址需要被映射到一個(gè)臨時(shí)的地方用于指令執(zhí)行。當(dāng)前每個(gè)始終周期可以翻譯 4 條微指令。p 重排序緩存(Reorder Buffer, ROB) ROB 可以存儲(chǔ)最多 128 條微指令。在支持超線程的處理器上，ROB 同樣可以重排來(lái)自兩個(gè)虛擬處理器的指令。兩個(gè)虛擬處理器在 ROB 中將微指令匯集到一個(gè)共享的亂序執(zhí)行部件中。流水線13121507張文杰 亂序執(zhí)行

14、流水線p 保留站(Reservation Station, RS) 解碼單元解碼后的指令不是直接送到流水線，而是根據(jù)各自的指令種類，將解碼后的指令送往各自的保留站中保存下來(lái)。如果操作數(shù)位于寄存器中，就把操作數(shù)從寄存器中讀出來(lái)，和指令一起放入保留站。相反，如果操作數(shù)還在由前面的指令進(jìn)行計(jì)算，那么就把那條指令的識(shí)別信息保存下來(lái)。 然后，保留站把操作數(shù)齊備、可執(zhí)行的指令依次送到流水線進(jìn)行運(yùn)算。即使指令位于前面，如果操作數(shù)沒(méi)準(zhǔn)備好，也不能開(kāi)始執(zhí)行，所以保留站中的指令執(zhí)行順序與程序不一致（亂序）。另外，保留站會(huì)監(jiān)視執(zhí)行流水線輸出的結(jié)果，如果產(chǎn)生的結(jié)果正好是等待中的指令的操作數(shù)，就將其讀入，這樣操作數(shù)齊備

15、后，等待中的指令就可以執(zhí)行了。流水線13121507張文杰 亂序執(zhí)行流水線p 亂序執(zhí)行 不同的微指令在不同的執(zhí)行單元中同時(shí)執(zhí)行，而且每個(gè)執(zhí)行單元都全速運(yùn)行。只要當(dāng)前微指令所需要的數(shù)據(jù)就緒，而且有空閑的執(zhí)行單元，微指令就可以立即執(zhí)行，有時(shí)甚至可以跳過(guò)前面還未就緒的微指令。通過(guò)這種方式，需要長(zhǎng)時(shí)間運(yùn)行的操作不會(huì)阻塞后面的操作，流水線阻塞帶來(lái)的損失被極大的減小了。p 猜測(cè)執(zhí)行（if&switch） 猜測(cè)執(zhí)行意味著當(dāng)遇到一個(gè)分支指令后，亂序執(zhí)行部件會(huì)將所有分支的指令都執(zhí)行一遍。一旦分支指令的跳轉(zhuǎn)方向確定后，錯(cuò)誤跳轉(zhuǎn)方向的指令都將被丟棄。通過(guò)同時(shí)執(zhí)行兩個(gè)跳轉(zhuǎn)方向的指令，避免了由于分支跳轉(zhuǎn)導(dǎo)致的阻

16、塞。13121507張文杰流水線LD r1,a; 將內(nèi)存的變量a 讀入到寄存器r1（加載）ADD r2,r1,r5; r1與r5相加，保存到r2SUB r1,r5,r4; r5減去 r4，保存到 r1執(zhí)行這類程序時(shí)，開(kāi)頭的加載指令緩存未命中時(shí)，將變量a 讀取到r1 就需要很長(zhǎng)時(shí)間。而下一條ADD指令要使用r1 的值作為操作數(shù)，所以在加載指令完成之前，ADD指令無(wú)法執(zhí)行。但是，再下一條SUB 指令的操作數(shù)r4 和r5 的值已經(jīng)求出了，利用亂序執(zhí)行，無(wú)須等待前面的LD 指令、ADD指令就可以執(zhí)行，但ADD指令的操作數(shù)r1 正好是后面SUB 指令保存結(jié)果的位置反向依賴問(wèn)題參考資料13121507張文

17、杰http:/ 13121785常旭婷資源擁有資源擁有進(jìn)程在執(zhí)行過(guò)程中擁有獨(dú)立的內(nèi)存單元，同一個(gè)進(jìn)程內(nèi)的線程共享進(jìn)程的資源。并發(fā)執(zhí)行操作系統(tǒng)的設(shè)計(jì)（1）以多進(jìn)程形式，允許多個(gè)任務(wù)同時(shí)運(yùn)行；（2）以多線程形式，允許單個(gè)任務(wù)分成不同的部分運(yùn)行；例如，在一個(gè)未引入線程的單CPU操作系統(tǒng)中，若僅設(shè)置一個(gè)文件服務(wù)進(jìn)程，當(dāng)該進(jìn)程由于某種原因而被阻塞時(shí)，便沒(méi)有其它的文件服務(wù)進(jìn)程來(lái)提供服務(wù)。在引入線程的操作系統(tǒng)中，則可以在一個(gè)文件服務(wù)進(jìn)程中設(shè)置多個(gè)服務(wù)線程。當(dāng)?shù)谝粋€(gè)線程等待時(shí)，文件服務(wù)進(jìn)程中的第二個(gè)線程可以繼續(xù)運(yùn)行，以提供文件服務(wù)；當(dāng)?shù)诙€(gè)線程阻塞時(shí)，則可由第三個(gè)繼續(xù)執(zhí)行，提供服務(wù)。顯然，這樣的方法可以顯著地

18、提高文件服務(wù)的質(zhì)量和吞吐量。在操作系統(tǒng)的管理下，所有正在運(yùn)行的進(jìn)程輪流使用CPU，每個(gè)進(jìn)程允許占用CPU的時(shí)間非常短（一個(gè)時(shí)間片），宏觀上就好象所有的進(jìn)程都在不間斷地運(yùn)行一樣。13121785常旭婷CPU內(nèi)核（核心）是內(nèi)核（核心）是CPU最重要的組成部分，被稱為電腦的大腦。最重要的組成部分，被稱為電腦的大腦。CPU性能性能核心設(shè)計(jì)核心設(shè)計(jì)流水線架構(gòu)設(shè)計(jì)流水線架構(gòu)設(shè)計(jì)CPU所有的計(jì)算、接受/存儲(chǔ)命令、處理數(shù)據(jù)都由核心執(zhí)行。13121785常旭婷CPU內(nèi)核及流水線流水線系統(tǒng)最大限度地利用了CPU資源，使每個(gè)部件在每個(gè)時(shí)鐘周期都工作，大大提高了效率。CPU核心設(shè)計(jì)流水線的發(fā)展一定量地減少流水線深度

19、后PC時(shí)代，是移動(dòng)運(yùn)算高發(fā)展的時(shí)代，所以CPU應(yīng)該向低功率，高性能的方向發(fā)展，所以流水線深度可能更小，但CPU采用更好的架構(gòu)以及更高的工藝來(lái)制造，達(dá)到和長(zhǎng)流水線一樣甚至更高的性能。更多條數(shù)的流水線 流水線條數(shù)的增加，使CPU在相同的時(shí)間內(nèi)完成更多的工作，相當(dāng)于提高了CPU的性能。CPU線程的提高 CPU線程會(huì)越來(lái)越多，多線程的使用，使CPU的流水線效率和速度得到了很大的提高，所以未來(lái)CPU可能會(huì)出現(xiàn)一個(gè)CPU8個(gè)、16個(gè)、32個(gè)甚至64個(gè)線程的情況。 13121785常旭婷CPU內(nèi)核與線程超線程技術(shù) 一般處理器，都是幾個(gè)核心，那就有幾個(gè)線程。但是由于處理器技術(shù)發(fā)展越來(lái)越快，就誕生了一個(gè)“超線程

20、”技術(shù)。如果是一核心一線程的話，那么核心在工作時(shí)，難免會(huì)有空閑、休息的時(shí)候。但是我們不想讓它(核心)休息，就可以用超線程技術(shù)，給核心更多的線程，讓處理器的利用率更高，從而提升處理器的能力。；超線程HT（Hyper-Threading）技術(shù)是在單個(gè)核心處理單元中集成兩個(gè)邏輯處理單元，也就是一個(gè)實(shí)體內(nèi)核（共享的運(yùn)算單元），兩個(gè)邏輯內(nèi)核（有各自獨(dú)立的處理器狀態(tài)），在一顆CPU同時(shí)執(zhí)行多個(gè)程序而共同分享一顆CPU內(nèi)的資源，理論上要像兩顆CPU一樣在同一時(shí)間執(zhí)行兩個(gè)線程。但它并不象兩個(gè)真正的CPU那樣，每各CPU都具有獨(dú)立的資源。當(dāng)兩個(gè)線程都同時(shí)需要某一個(gè)資源時(shí)，其中一個(gè)要暫時(shí)停止，并讓出資源，直到這些資源閑置后才能繼續(xù)。因此超線程的性能并不等于兩顆CPU的性能。13121785常旭婷多線程、多核、多CPU相當(dāng)于一輛卡車在一條車道上跑。由于車少，所以運(yùn)輸能力有限。以往CPU生產(chǎn)廠商