lec1GPU硬件體系結(jié)構(gòu)介紹

GPU硬件體系結(jié)構(gòu)介紹lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第1頁!大綱GPU最近的成果CPUvs.GPU最近的GPU體系結(jié)構(gòu)CPU和GPU發(fā)展趨勢lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第2頁!GPUputing20082013100M150K1604000430MCUDApatibleGPUs1.6MCUDA下載50超級計算機(jī)640所大學(xué)采用CUDA課程37,000篇paperlec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第3頁!lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第4頁!CPUvs.GPU(GFLOPS)lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第5頁!CPU體系結(jié)構(gòu)DRAMCacheI$ControlALUFPUI$ControlALUFPUI$ControlALUFPUI$ControlALUFPUlec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第6頁!為什么需要SIMD(SIMT)控制邏輯vs.數(shù)據(jù)通路(i$/fetch/issue/decode/…)mm^2/flop記分牌(scoreboard)分支預(yù)測亂序緩存(re-orderbuffer)MemorywallByte/flop訪存效率DDR的特點(diǎn)PowerwallWatt/floplec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第7頁!Byte/pute比例程序=數(shù)據(jù)+算法完成單位計算需要的數(shù)據(jù)矩陣乘法lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第8頁!DDR時序（簡化模型）

lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第9頁!控制邏輯vs.數(shù)據(jù)通路更多控制邏輯？SISD更多數(shù)據(jù)通路？SIMDSIMD的優(yōu)勢mm^2/flopwatt/flop但是…lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第10頁!如何利用多核系統(tǒng)MassiveParallelismDataparallelismRegularputationDosimilarworkindifferentthread避免資源沖突lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第11頁!GPU歷史固定功能流水線可編程流水線統(tǒng)一處理器流水線通用圖形處理器(GPGPU)GPUlec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第12頁!可編程流水線簡單的shaderPixel-shaderforeachpixel{Input:pixel坐標(biāo)，等Output:pixel顏色，等}統(tǒng)一處理器流水線lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第13頁!CUDA簡單模型GPUCPU數(shù)據(jù)+代碼運(yùn)算結(jié)果lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第14頁!Kepler(K20).nvidia./content/PDF/kepler/NV_DS_Tesla_KCompute_Arch_May_2012_LR.pdf

.nvidia./content/PDF/kepler/NVIDIA-Kepler-GK110-Architecture-Whitepaper.pdflec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第15頁!lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第16頁!編程模型動態(tài)并行Hyper-QGPUdirectlec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第17頁!lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第18頁!GPU發(fā)展趨勢lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第19頁!應(yīng)用領(lǐng)域Oil&Gas信號圖像處理計算機(jī)視覺生命科學(xué)&材料科學(xué)分子動力學(xué)生物信息學(xué)醫(yī)療圖像CT,MRI,etcBigdata…lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第20頁!CPUvs.GPU(GB/s)lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第21頁!GPU體系結(jié)構(gòu)(SIMD/SIMT)DRAMCacheI$ControlALUALUALUALUALUALU…I$ControlALUALUALUALUALUALU…I$ControlALUALUALUALUALUALU…I$ControlALUALUALUALUALUALU…lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第22頁!MemoryWall 為什么？Byte/flop(pute)典型應(yīng)用訪存效率DDR特點(diǎn)提高訪存效率lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第23頁!DDR架構(gòu)選擇bank激活（activate）一行（行尋址）根據(jù)列地址讀取數(shù)據(jù)（列尋址）ArrayofcellsdecodeArrayofcellsdecodeRowdataRowdatarowbankcolcoladdrcoladdrDatabuslec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第24頁!提高訪存效率主要指標(biāo)：byte/activateCPU:大cache提高命中率，減少訪存次數(shù)L2/L3cache增加mm^2/flopGPU:高并發(fā)，合并訪存提高byte/activatelec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第25頁!并行編程挑戰(zhàn)資源訪問沖突訪存效率冗余計算負(fù)載均衡通訊開銷lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第26頁!挑戰(zhàn)？機(jī)遇？高頻率==高性能？lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第27頁!固定流水線簡單OpenGL程序大部分功能固定只能修改部分參數(shù)lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第28頁!通用計算（GPGPU）利用GPU的高浮點(diǎn)計算能力利用OpenGL啟動計算代碼缺點(diǎn)編程困難OpenGL的開銷…CUDA/OpenCLlec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第29頁!GTX8800.nvidia./object/IO_37100.htmllec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第30頁!Kepler(K20)SMX處理器架構(gòu)高性能peakflops高效率perf/watt存儲系統(tǒng)增強(qiáng)的編程模型lec1GPU硬件體系結(jié)構(gòu)介紹共35頁，您現(xiàn)在瀏覽的是第31頁!SMX1xclock2x數(shù)據(jù)通路面積節(jié)省功耗4

warpscheduler32個線程同時調(diào)度（warp）2dispatchperscheduler每線程255寄存器SHFL