基于CUDA的并行圖像處理性能優(yōu)化

1、基于CUDA的并行圖像處理性能優(yōu)化Contents研究現(xiàn)狀2性能優(yōu)化策略3實(shí)驗(yàn)結(jié)果及性能分析4研究背景及工作意義1研究背景及工作意義研究背景1.大規(guī)模圖像數(shù)據(jù)的處理、實(shí)時(shí)圖像處理。2.基于CUDA的大規(guī)模并行計(jì)算。選題來(lái)源1.優(yōu)化基于CUDA平臺(tái)的并行圖像處理實(shí)現(xiàn)；2.擴(kuò)展至基于CUDA平臺(tái)的通用并行計(jì)算。工作意義選題來(lái)源于實(shí)際工程項(xiàng)目研究現(xiàn)狀指令優(yōu)化內(nèi)存訪問(wèn)優(yōu)化解循環(huán)優(yōu)化基于軟件架構(gòu)的優(yōu)化策略線程過(guò)載優(yōu)化特定硬件體系結(jié)構(gòu)下的優(yōu)化基于硬件架構(gòu)的優(yōu)化策略性能優(yōu)化策略性能優(yōu)化策略不同的性能優(yōu)化策略可以相互結(jié)合使用內(nèi)存訪問(wèn)優(yōu)化指令及程序流程優(yōu)化并行度優(yōu)化數(shù)據(jù)表示優(yōu)化性能優(yōu)化策略內(nèi)存訪問(wèn)優(yōu)化性能優(yōu)化策

2、略內(nèi)存訪問(wèn)優(yōu)化共享內(nèi)存訪問(wèn)優(yōu)化常量?jī)?nèi)存訪問(wèn)優(yōu)化紋理內(nèi)存訪問(wèn)優(yōu)化適宜于沒(méi)有塊間數(shù)據(jù)重疊訪問(wèn)的情況適宜于處理Host端單線程執(zhí)行具有復(fù)雜參數(shù)列表核函數(shù)的場(chǎng)景適宜應(yīng)用于圖像處理算法的實(shí)現(xiàn)性能優(yōu)化策略指令及程序流程優(yōu)化盡量使用執(zhí)行周期數(shù)較少的指令。避免使用邏輯分支控制語(yǔ)句。比較簡(jiǎn)短的循環(huán)應(yīng)當(dāng)解開。盡量合并、提取公共運(yùn)算。基本思想提高指令吞吐量、減少Device核函數(shù)內(nèi)運(yùn)算操作總次數(shù)性能優(yōu)化策略指令及程序流程優(yōu)化Compute Capability 1.xCompute Capability 2.0Compute Capability 2.164-bit floating-point add, mult

3、iply, multiply-add8324864-bit floating-point add, multiply, multiply-add116432-bit integer add, logical operation8324832-bit integer shift, compare8161632-bit integer multiply, multiply-add, sum of absolute differenceMultiple instructions161632-bit floating-point reciprocal, reciprocal square root8M

4、ultiple instructionsMultiple instructionsType conversions161616性能優(yōu)化策略指令及程序流程優(yōu)化100010001使用模板操作時(shí)，需要涉及到圖像邊界區(qū)域處理問(wèn)題性能優(yōu)化策略指令及程序流程優(yōu)化方案1： 直接依據(jù)4個(gè)頂點(diǎn)和4條邊界的不同情況予以分別處理。優(yōu)點(diǎn)： 算法基本思想簡(jiǎn)單、易轉(zhuǎn)化成實(shí)際代碼。缺點(diǎn)： 實(shí)際算法邏輯復(fù)雜、代碼量較大、有大量的邏輯分支控制語(yǔ)句。方案2： 顯示擴(kuò)展圖像邊界。優(yōu)點(diǎn)： 處理邏輯歸一化、代碼簡(jiǎn)潔。缺點(diǎn)： 需要申請(qǐng)釋放額外的空間、增加了處理步驟。方案3： 隱式擴(kuò)展圖像邊界。優(yōu)點(diǎn)： 處理邏輯歸一化、代碼簡(jiǎn)潔，不需要存儲(chǔ)

5、中間結(jié)果圖像。缺點(diǎn)： 不同的算法需要有不同的返回值模式、增加了大量的邏輯運(yùn)算。方案4： 利用紋理內(nèi)存的越界自動(dòng)處理功能。優(yōu)點(diǎn)： 處理邏輯歸一化、代碼簡(jiǎn)潔、不需要存儲(chǔ)中間結(jié)果圖像。缺點(diǎn)： 處理模式制約于紋理內(nèi)存提供的尋址模式，欠缺靈活性。區(qū)分邊界處理顯式擴(kuò)邊處理隱擴(kuò)邊處理算法執(zhí)行平均時(shí)間（ms/次）82.621345.736237.2112隱擴(kuò)邊處理紋理內(nèi)存越界訪問(wèn)機(jī)制算法執(zhí)行平均時(shí)間（ms/次）2.00101.6023性能優(yōu)化策略并行度優(yōu)化密集排列稀疏排列橫向排列縱向排列性能優(yōu)化策略并行度優(yōu)化密集排列時(shí)的數(shù)據(jù)訪問(wèn)性能優(yōu)化策略并行度優(yōu)化稀疏排列時(shí)的數(shù)據(jù)訪問(wèn)性能優(yōu)化策略并行度優(yōu)化橫向排列時(shí)的數(shù)據(jù)訪

6、問(wèn)性能優(yōu)化策略并行度優(yōu)化縱向排列時(shí)的數(shù)據(jù)訪問(wèn)性能優(yōu)化策略數(shù)據(jù)表示優(yōu)化0011010100，0，1；1，0，1；0，1，0普通模板表示1，-1；-1，0；1，0；0，1稀疏模板表示實(shí)驗(yàn)結(jié)果與性能分析實(shí)驗(yàn)環(huán)境硬件環(huán)境：CPU：Core i7 2600顯卡：NVIDIA Tesla C1060（4GB顯存）軟件環(huán)境：操作系統(tǒng)：Ubuntu 10.04 x64 Server顯卡驅(qū)動(dòng)：版本號(hào)480.17編譯環(huán)境：CUDA ToolKit 4.0算法：圖像形態(tài)學(xué)基本算法：腐蝕、膨脹、開運(yùn)算、閉運(yùn)算。基本參數(shù)：圖像分辨率：1024 768模板分辨率：3 3實(shí)驗(yàn)結(jié)果與性能分析常量?jī)?nèi)存訪問(wèn)沖突實(shí)驗(yàn)實(shí)驗(yàn)結(jié)果與性能

7、分析常量?jī)?nèi)存性能優(yōu)化驗(yàn)證不使用常量?jī)?nèi)存使用常量?jī)?nèi)存算法執(zhí)行平均時(shí)間（ms/次）82.621345.7362Back實(shí)驗(yàn)結(jié)果與性能分析共享內(nèi)存性能優(yōu)化驗(yàn)證不使用共享內(nèi)存使用共享內(nèi)存（塊內(nèi)隱擴(kuò)邊）使用共享內(nèi)存（預(yù)加載冗余數(shù)據(jù)）算法執(zhí)行平均時(shí)間（ms/次）82.621324.192329.7706不使用共享內(nèi)存使用共享內(nèi)存算法執(zhí)行平均時(shí)間（ms/次）74.86011.4405矩陣乘法運(yùn)算Back實(shí)驗(yàn)結(jié)果與性能分析紋理內(nèi)存性能優(yōu)化驗(yàn)證未使用紋理內(nèi)存使用1D紋理內(nèi)存使用2D紋理內(nèi)存算法執(zhí)行平均時(shí)間（ms/次）82.62135.03222.3041Back實(shí)驗(yàn)結(jié)果與性能分析并行度優(yōu)化驗(yàn)證實(shí)驗(yàn)結(jié)果與性能分析并行度優(yōu)化驗(yàn)證實(shí)驗(yàn)結(jié)果與性能分析并行度優(yōu)化驗(yàn)證1246816325125120.30470.25390.23320.27500.27760.62010.869110247680.75760.59800.53770.59300.58431.42223.0381102410240.99220.77670.68492.44750.73871.64353.9600實(shí)驗(yàn)