多線程使多個線程以重疊的方式共享單個處理器的功能單元ppt課件

1、 多線程使多個線程以重疊的方式共享單個處置器的功能單元。 7.6 同時多線程q 為實現(xiàn)共享，處置器必需保管各個線程的獨立形狀。q 硬件必需可以較快地完成線程間的切換。線程的切q 換應(yīng)該比進程的切換要高效的多，進程的切換普通q 需求成百上千個處置器時鐘周期。第章 多處置機 第一種方法：細粒度多線程技術(shù) 它在每條指令間都能進展線程的切換，從而導(dǎo) 致多個線程的交替執(zhí)行。 主要優(yōu)點：可以隱藏由任何或長或短的阻塞帶來的 吞吐率的損失 主要缺陷：減慢了每個獨立線程的執(zhí)行q 目前有兩種主要的多線程實現(xiàn)方法7.6 同時多線程 第二種方法：粗粒度多線程技術(shù) 粗粒度多線程之間的切換只在發(fā)生代價較高、 時間較長的阻

2、塞出現(xiàn)時。 缺陷：不能有效地減少吞吐率的損失。 緣由：由粗粒度多線程的流水線建立時間的開銷造 成的。由于實現(xiàn)粗粒度多線程的CPU只執(zhí)行單個線 程的指令，因此當(dāng)發(fā)生阻塞時，流水線必需排空或 暫停。阻塞后切換的新的線程在指令執(zhí)行產(chǎn)生結(jié)果 之前必需先填滿整個流水線。7.6 同時多線程7.6.1 將線程級并行轉(zhuǎn)換為指令級并行 同時多線程技術(shù)是一種在多流出、動態(tài)調(diào)度處置器上開發(fā)線程級并行和指令級并行的改良的多線程技術(shù)。1. 產(chǎn)生的主要緣由q 現(xiàn)代多流出處置器通常含有多個并行的功能單元，q 而單個線程不能有效地利用這些功能單元。q 經(jīng)過存放器重命名和動態(tài)調(diào)度機制，來自各個獨立q 線程的多條指令可以同時流出

3、，而不思索他們之間q 的相互依賴關(guān)系；其相互依賴關(guān)系將經(jīng)過動態(tài)調(diào)度q 機制得以處理。7.6 同時多線程2. 一個超標(biāo)量處置器在以下幾種配置時其性能的差別 支持多線程技術(shù)的超標(biāo)量處置器 由于缺乏足夠的指令級并行而限制了流出槽 的利用率。 支持粗粒度多線程的超標(biāo)量處置器 經(jīng)過線程的切換部分隱藏了長時間阻塞帶來 的開銷。由于只需當(dāng)發(fā)生阻塞時才進展線程切換， 新線程還需求流水線建立時間，所以會產(chǎn)生一些 完全空閑的時鐘周期。7.6 同時多線程 支持細粒度多線程的超標(biāo)量處置器 線程的交替執(zhí)行消除了完全空閑的流出槽。由于在每個時鐘周期內(nèi)只流出一個線程的指令，指令級并行的限制依然導(dǎo)致一個時鐘周期內(nèi)存在不少的空

4、閑流出槽。 支持同時多線程的超標(biāo)量處置器 經(jīng)過在一個時鐘周期內(nèi)調(diào)度多個線程運用流出槽，從而同時實現(xiàn)線程級并行和指令級并行。 理想情況下，流出槽的運用率只受限于多個線程對資源的需求和可用資源間的不平衡。7.6 同時多線程圖圖7.16: 7.16: 超標(biāo)量處置器中的超標(biāo)量處置器中的4 4種不同的流出槽運用方法種不同的流出槽運用方法q 開發(fā)的根底開發(fā)的根底: : 運用動態(tài)調(diào)度技術(shù)的處置器曾經(jīng)具有運用動態(tài)調(diào)度技術(shù)的處置器曾經(jīng)具有q 了開發(fā)線程級并行所需的硬件設(shè)置。了開發(fā)線程級并行所需的硬件設(shè)置。q 動態(tài)調(diào)度超標(biāo)量處置器有大量的虛擬存放器組，可動態(tài)調(diào)度超標(biāo)量處置器有大量的虛擬存放器組，可q 以用來保管每

5、個獨立線程的存放器形狀。以用來保管每個獨立線程的存放器形狀。q 由于存放器重命名機制提供了獨一的存放器標(biāo)識符，由于存放器重命名機制提供了獨一的存放器標(biāo)識符，q 多個線程的指令可以在數(shù)據(jù)途徑上混合執(zhí)行，而不多個線程的指令可以在數(shù)據(jù)途徑上混合執(zhí)行，而不 q 會導(dǎo)致各線程間源操作數(shù)和目的操作數(shù)的混亂。會導(dǎo)致各線程間源操作數(shù)和目的操作數(shù)的混亂。q 多線程技術(shù)可以經(jīng)過在一個亂序執(zhí)行的處置器上為多線程技術(shù)可以經(jīng)過在一個亂序執(zhí)行的處置器上為q 每個線程設(shè)置重命名表、保管各自的每個線程設(shè)置重命名表、保管各自的PCPC值、提供多值、提供多 q 個線程的指令結(jié)果提交的才干來實現(xiàn)。個線程的指令結(jié)果提交的才干來實現(xiàn)。

6、7.6 同時多線程7.6.2 同時多線程處置器的設(shè)計 同時多線程只需在細粒度的實現(xiàn)方式下才有意義 并發(fā)多個同優(yōu)先級的線程必然拉長單個線程的執(zhí) 行時間 經(jīng)過指定一個優(yōu)先線程來減小這種影響，從 而在整體性能提高的同時對單個指定的線程性能 只產(chǎn)生較小的影響。7.6 同時多線程q 多個線程的混合執(zhí)行將不可防止地影響單個線程q 的執(zhí)行時間q 為提高單個線程的性能，應(yīng)該為指定的優(yōu)先線程盡能夠多地向前取指，并且在分支預(yù)測失效和預(yù)取緩沖失效的情況下清空取指單元。但是這樣限制了其他線程可用來調(diào)度的指令條數(shù)，從而減少了吞吐率。一切的多線程處置器都必需在這里尋求一種折衷方案。7.6 同時多線程q 只需一有能夠，處置

7、器就運轉(zhuǎn)指定的優(yōu)先線程。q 從取指階段開場就優(yōu)先處置優(yōu)先線程q 只需優(yōu)先線程的指令預(yù)取緩沖區(qū)未滿，就為它 q 優(yōu)先取指。只需當(dāng)優(yōu)先線程的緩沖區(qū)填滿以后才為q 其他線程預(yù)取指令。q 當(dāng)有兩個優(yōu)先線程時，需求并發(fā)預(yù)取兩個指令流， q 這給取指部件和指令cache的設(shè)置都增添了復(fù)雜度。q 7.6 同時多線程q 設(shè)計同時多線程處置器時面臨的其他主要問題q 指令流出單元也要優(yōu)先思索指定的優(yōu)先線程，只需q 當(dāng)優(yōu)先線程阻塞不能流出的時候才思索其他線程。 設(shè)置用來保管多個上下文所需的龐大的存放器文件設(shè)置用來保管多個上下文所需的龐大的存放器文件 必需堅持每個時鐘周期的低開銷必需堅持每個時鐘周期的低開銷 特別是在

8、關(guān)鍵步驟上特別是在關(guān)鍵步驟上 需求保證由于并發(fā)執(zhí)行多個線程帶來的需求保證由于并發(fā)執(zhí)行多個線程帶來的cachecache沖突沖突 不會導(dǎo)致顯著的性能下降。不會導(dǎo)致顯著的性能下降。7.6 同時多線程q 經(jīng)過研討這些問題還可以了解到 在大多情況下多線程所導(dǎo)致的額外性能開銷是很小在大多情況下多線程所導(dǎo)致的額外性能開銷是很小 的，簡單的線程切換選擇算法就足夠；的，簡單的線程切換選擇算法就足夠； 目前的超標(biāo)量處置器的效率是比較低的，還有很大的目前的超標(biāo)量處置器的效率是比較低的，還有很大的 改良余地，同時多線程是獲得吞吐率改良的最有出路改良余地，同時多線程是獲得吞吐率改良的最有出路 的方法之一。的方法之一。7.6 同時多線程7.6.3 同時多線程的性能 圖7.17表示在超標(biāo)量處置器上增添8個線程的同 時多線程才干時獲得的性能提高 圖7.18表示SMT與根本的超標(biāo)量處置器在主要內(nèi) 部目的利用率和命中率上的對比 7.6 同時多線程q 兩個特點 超標(biāo)量處置器本身功能非常強大，它具有很超標(biāo)量處置器本身功能非常強大，它具有很 大的一級大的一級cachecache、二級、二級cachecache以及大量的功以及大量的功能能 單元。僅僅采用指令級并行，不能夠利用單元。僅僅采用指令級并行，不能夠利用全全 部的硬件性能。部的硬件性能。 同時多線程的才干也很強大，可以支持同時多線程的才干也很強大，可以支