基于CUDA的并行圖像處理性能優(yōu)化

1、基于CUDA的并行圖像處理性能優(yōu)化Contents研究現(xiàn)狀2性能優(yōu)化策略3實驗結(jié)果及性能分析4研究背景及工作意義1研究背景及工作意義研究背景1.大規(guī)模圖像數(shù)據(jù)的處理、實時圖像處理。2.基于CUDA的大規(guī)模并行計算。選題來源1.優(yōu)化基于CUDA平臺的并行圖像處理實現(xiàn)；2.擴(kuò)展至基于CUDA平臺的通用并行計算。工作意義選題來源于實際工程項目研究現(xiàn)狀指令優(yōu)化內(nèi)存訪問優(yōu)化解循環(huán)優(yōu)化基于軟件架構(gòu)的優(yōu)化策略線程過載優(yōu)化特定硬件體系結(jié)構(gòu)下的優(yōu)化基于硬件架構(gòu)的優(yōu)化策略性能優(yōu)化策略性能優(yōu)化策略不同的性能優(yōu)化策略可以相互結(jié)合使用內(nèi)存訪問優(yōu)化指令及程序流程優(yōu)化并行度優(yōu)化數(shù)據(jù)表示優(yōu)化性能優(yōu)化策略內(nèi)存訪問優(yōu)化性能優(yōu)化策

2、略內(nèi)存訪問優(yōu)化共享內(nèi)存訪問優(yōu)化常量內(nèi)存訪問優(yōu)化紋理內(nèi)存訪問優(yōu)化適宜于沒有塊間數(shù)據(jù)重疊訪問的情況適宜于處理Host端單線程執(zhí)行具有復(fù)雜參數(shù)列表核函數(shù)的場景適宜應(yīng)用于圖像處理算法的實現(xiàn)性能優(yōu)化策略指令及程序流程優(yōu)化盡量使用執(zhí)行周期數(shù)較少的指令。避免使用邏輯分支控制語句。比較簡短的循環(huán)應(yīng)當(dāng)解開。盡量合并、提取公共運算?；舅枷胩岣咧噶钔掏铝俊p少Device核函數(shù)內(nèi)運算操作總次數(shù)性能優(yōu)化策略指令及程序流程優(yōu)化Compute Capability 1.xCompute Capability 2.0Compute Capability 2.164-bit floating-point add, mult

3、iply, multiply-add8324864-bit floating-point add, multiply, multiply-add116432-bit integer add, logical operation8324832-bit integer shift, compare8161632-bit integer multiply, multiply-add, sum of absolute differenceMultiple instructions161632-bit floating-point reciprocal, reciprocal square root8M

4、ultiple instructionsMultiple instructionsType conversions161616性能優(yōu)化策略指令及程序流程優(yōu)化100010001使用模板操作時，需要涉及到圖像邊界區(qū)域處理問題性能優(yōu)化策略指令及程序流程優(yōu)化方案1： 直接依據(jù)4個頂點和4條邊界的不同情況予以分別處理。優(yōu)點： 算法基本思想簡單、易轉(zhuǎn)化成實際代碼。缺點： 實際算法邏輯復(fù)雜、代碼量較大、有大量的邏輯分支控制語句。方案2： 顯示擴(kuò)展圖像邊界。優(yōu)點： 處理邏輯歸一化、代碼簡潔。缺點： 需要申請釋放額外的空間、增加了處理步驟。方案3： 隱式擴(kuò)展圖像邊界。優(yōu)點： 處理邏輯歸一化、代碼簡潔，不需要存儲

5、中間結(jié)果圖像。缺點： 不同的算法需要有不同的返回值模式、增加了大量的邏輯運算。方案4： 利用紋理內(nèi)存的越界自動處理功能。優(yōu)點： 處理邏輯歸一化、代碼簡潔、不需要存儲中間結(jié)果圖像。缺點： 處理模式制約于紋理內(nèi)存提供的尋址模式，欠缺靈活性。區(qū)分邊界處理顯式擴(kuò)邊處理隱擴(kuò)邊處理算法執(zhí)行平均時間（ms/次）82.621345.736237.2112隱擴(kuò)邊處理紋理內(nèi)存越界訪問機(jī)制算法執(zhí)行平均時間（ms/次）2.00101.6023性能優(yōu)化策略并行度優(yōu)化密集排列稀疏排列橫向排列縱向排列性能優(yōu)化策略并行度優(yōu)化密集排列時的數(shù)據(jù)訪問性能優(yōu)化策略并行度優(yōu)化稀疏排列時的數(shù)據(jù)訪問性能優(yōu)化策略并行度優(yōu)化橫向排列時的數(shù)據(jù)訪

6、問性能優(yōu)化策略并行度優(yōu)化縱向排列時的數(shù)據(jù)訪問性能優(yōu)化策略數(shù)據(jù)表示優(yōu)化0011010100，0，1；1，0，1；0，1，0普通模板表示1，-1；-1，0；1，0；0，1稀疏模板表示實驗結(jié)果與性能分析實驗環(huán)境硬件環(huán)境：CPU：Core i7 2600顯卡：NVIDIA Tesla C1060（4GB顯存）軟件環(huán)境：操作系統(tǒng)：Ubuntu 10.04 x64 Server顯卡驅(qū)動：版本號480.17編譯環(huán)境：CUDA ToolKit 4.0算法：圖像形態(tài)學(xué)基本算法：腐蝕、膨脹、開運算、閉運算?；緟?shù)：圖像分辨率：1024 768模板分辨率：3 3實驗結(jié)果與性能分析常量內(nèi)存訪問沖突實驗實驗結(jié)果與性能

7、分析常量內(nèi)存性能優(yōu)化驗證不使用常量內(nèi)存使用常量內(nèi)存算法執(zhí)行平均時間（ms/次）82.621345.7362Back實驗結(jié)果與性能分析共享內(nèi)存性能優(yōu)化驗證不使用共享內(nèi)存使用共享內(nèi)存（塊內(nèi)隱擴(kuò)邊）使用共享內(nèi)存（預(yù)加載冗余數(shù)據(jù)）算法執(zhí)行平均時間（ms/次）82.621324.192329.7706不使用共享內(nèi)存使用共享內(nèi)存算法執(zhí)行平均時間（ms/次）74.86011.4405矩陣乘法運算Back實驗結(jié)果與性能分析紋理內(nèi)存性能優(yōu)化驗證未使用紋理內(nèi)存使用1D紋理內(nèi)存使用2D紋理內(nèi)存算法執(zhí)行平均時間（ms/次）82.62135.03222.3041Back實驗結(jié)果與性能分析并行度優(yōu)化驗證實驗結(jié)果與性能分析并行度優(yōu)化驗證實驗結(jié)果與性能分析并行度優(yōu)化驗證1246816325125120.30470.25390.23320.27500.27760.62010.869110247680.75760.59800.53770.59300.58431.42223.0381102410240.99220.77670.68492.44750.73871.64353.9600實驗