HEVC變換部分總結

1、HEVC變換部分總結1、介紹DCT1.1、DCT矩陣的推導4*4 DCT變換公式： ， 將上式分解進行先列變換： 再行變換： 將矩陣A中的系數(shù)乘以(根據(jù)公式：，此時m=2)，再 根據(jù)變換矩陣設計原則取近似數(shù)，就得到變換系數(shù)矩陣。尺寸為8*8、16*16、32*32的變換系數(shù)矩陣類似。 1.2 、DCT矩陣的性質(zhì)一維DCT變換的系數(shù)公式： （1）基向量為標準正交基，變換矩陣為正交矩陣。即： for ， for （2）DCT矩陣系數(shù)之間存在三角函數(shù)關系。（3）尺寸為的DCT矩陣中包含了尺寸為的DCT矩陣。（4）尺寸為的DCT矩陣可用個元素表示。比如：4*4可用64、83、36表示，8*8可用64、

2、89、83、75、50、36、18表示。除了64*64系數(shù)矩陣，其余尺寸都可用第一列元素表示（第一列元素中64出現(xiàn)兩次）。（5）偶數(shù)行是中心對稱的，奇數(shù)行是中心反對稱的。1.3、DCT矩陣的設計 設計固定的DCT矩陣是為了防止不同的生產(chǎn)商制作的編碼器和譯碼器不同而產(chǎn)生誤差。因為1.2小節(jié)提到的第4,5,6條DCT矩陣性質(zhì)在實現(xiàn)算法的過程中可以減少大量計算量，所以必須嚴格保持，其他性質(zhì)盡可能達到。同時，也要考慮到運算中矩陣系數(shù)的比特深度帶來的運算消耗?？偨YDCT矩陣設計的原則：（1）盡可能的讓基向量為標準正交基。（2）DCT矩陣保持對稱性和反對稱性。（3）小尺寸的DCT矩陣嵌套在大尺寸的DCT矩

3、陣中。（4）8bit表示變換矩陣系數(shù)。（5）變換后移位前不超過32bit，移位后不超過16bit。（實驗表明，如果用18bit或者20bit表示只會減少0.5%的BD-rate）（6）尺寸為的DCT矩陣可用個元素表示。1.4、DCT的作用DCT 將原始圖像信息塊轉換成代表不同頻率分量的系數(shù)集，這有兩個優(yōu)點：其一，信號常將其能量的大部分集中于頻率域的一個小范圍內(nèi)，這樣一來，描述不重要的分量 只需要很少的比特數(shù)；其二，頻率域分解映射了人類視覺系統(tǒng)的處理過程，并允許后繼的量化過程滿足其靈敏度的要求。DCT 后的DCT 頻率系數(shù)個數(shù)與 DCT 前的像素塊個數(shù)相對應，說明這個過程只是一個沒有壓縮作用的無

4、損變換過程。單獨一個圖像的全部 DCT 系數(shù)塊的頻譜幾乎都集中在最左上角的系數(shù)塊中。DCT 輸出的頻率系數(shù)矩陣最左上角的直流 （DC）系數(shù)幅度最大；以 DC 系數(shù)為出發(fā)點向下、向右的其它 DCT 系數(shù)，離 DC 分量越遠，頻率越高，幅度值越小，即圖像信息的大部分集中于直流系數(shù)及其附近的低頻頻譜上，離 DC 系數(shù)越來越遠的高頻頻譜幾乎不含圖像信息，甚至于只含雜波。DCT 本身雖然沒有壓縮作用，卻為以后壓縮時的"取"、"舍" 奠定了必不可少的基礎。2、DCT的實現(xiàn)2.1、使用中間變量存儲運算結果從32*32的DCT矩陣中抽出4*4的矩陣進行一維列反變換 直接

5、計算 （1）使用中間變量 （2） （3）ADD/SUB （4）代碼如下： O0 = g_aiT410*srcline + g_aiT430*src3*line; O1 = g_aiT411*srcline + g_aiT431*src3*line; E0 = g_aiT400*src0 + g_aiT420*src2*line;E1 = g_aiT401*src0 + g_aiT421*src2*line;dst0 = Clip3( -32768, 32767, (E0 + O0 + add)>>shift );dst1 = Clip3( -32768, 32767, (E1 +

6、O1 + add)>>shift );dst2 = Clip3( -32768, 32767, (E1 - O1 + add)>>shift );dst3 = Clip3( -32768, 32767, (E0 - O0 + add)>>shift );前四行代碼對應（2）（3）兩式，即使用中間變量O0、O1、E0、E1。后四行代碼對應（4）式。一維4*4反變換按照（1）式直接進行矩陣相乘，需要16次乘法和12次加法。如果是進行二維反變換，需要128次乘法和96次加法。按照（2）式的方法使用中間變量存儲運算結果，一維反變換需要6次乘法和8次加法，二維反變換需

7、要48次乘法和64次加法。2.2、大尺寸DCT矩陣運算使用小尺寸矩陣運算方法Even part (5) （6）ADD/SUB (7) 對比（3）式和（1），會發(fā)現(xiàn)，8*8DCT反變換的偶數(shù)部分運算其實就是4*4DCT反變換。有了這個發(fā)現(xiàn)，再用上一小節(jié)的方法可以進一步減少運算量。8*8反變換代碼如下：for (k=0;k<4;k+) Ok = g_aiT8 1k*srcline + g_aiT8 3k*src3*line + g_aiT8 5k*src5*line + g_aiT8 7k*src7*line; EO0 = g_aiT820*src 2*line + g_aiT860*src

8、 6*line ; EO1 = g_aiT821*src 2*line + g_aiT861*src 6*line ; EE0 = g_aiT800*src 0 + g_aiT840*src 4*line ; EE1 = g_aiT801*src 0 + g_aiT841*src 4*line ; E0 = EE0 + EO0; E3 = EE0 - EO0; E1 = EE1 + EO1; E2 = EE1 - EO1; for (k=0;k<4;k+) dst k = Clip3( -32768, 32767, (Ek + Ok + add)>>shift ); dst

9、k+4 = Clip3( -32768, 32767, (E3-k - O3-k + add)>>shift ); 第一個for循環(huán)里處理奇數(shù)行運算，對應（6）。接下來八行代碼是處理偶數(shù)行運算，也就是做一個4*4DCT反變換。一維8*8反變換直接進行矩陣相乘，需要65次乘法和56次加法。如果是進行二維反變換，需要1024次乘法和896次加法。按照上述方法，一維反變換需要22次乘法和28次加法，二維反變換需要352次乘法和448次加法。當對16*16矩陣反變換時，它的偶數(shù)部分運算其實就是8*8DCT反變換，運算8*8DCT反變換時又可以用到4*4DCT反變換。32*32矩陣反變換是同

10、理。 32*32 IDCT 流程示意圖8*8DCT快速算法蝶形圖：3、DCT的精度控制變換計算代碼： 3.1、移位精度（>>shift）移位的位數(shù)必須滿足下面的約束：（1）每一次運算完的中間值必須是16bit深度。（2）因為變換矩陣系數(shù)都擴大了,在進行二維變換和二維反變換后，結果會擴大倍，所以在運算中所有移位之和為右移24+2M位。以4*4DCT為例。（1）假設出現(xiàn)最差情況，也就是將要作變換的殘差矩陣的系數(shù)全為最大幅度即 =255。為了運算方便，把最大幅度設為。即：（2）一維列變換后最大的輸出值為，為使得這個值在16bit深度內(nèi)，乘以，即右移位數(shù)為(B+M-9)位。即： 移位：（3

11、）一維行變換前系數(shù)矩陣只有第一行的數(shù)為，其余全為0。則行變換后最大的輸出值為。為使得這個值在16bit深度內(nèi)，乘以，即右移位數(shù)為(M+6)位。即：移位：（4）一維列反變換之前系數(shù)矩陣只有最左上角的數(shù)為，其余全為0。輸出矩陣中最大的系數(shù)為。為使得這個值在16bit深度內(nèi)，乘以，即右移位數(shù)為6位。即：移位：（5）一維行反變換之前系數(shù)矩陣只有第一列的數(shù)為，其余全為0。輸出矩陣中最大的系數(shù)為。為使得這個值在B bit深度內(nèi)，乘以，即右移位數(shù)為21-B位。即：移位：因為量化步驟可能導致在進行一維列反變換之前矩陣系數(shù)超過，所以一維列反變換多右移一位，調(diào)整為7位，一維行反變換少右移一位，調(diào)整為20-B位。3.2、補償精度（+add）變換結果右移n位，必然會導致精度的丟失。add為。變換結果加上再右移n為，可以保證精度誤差不超過。4、介紹DSTDST（Discrete Sine Transform）：離散正弦變換。DST的變換公式原型：經(jīng)過幀內(nèi)預測后，預測殘差仍然存在著一定的方向性。當預測方向是垂直方向的話，預測殘差會沿著垂直方向有逐漸增大的趨勢；同樣當預測方向是水平方向的話，預測殘差會沿著水平方向有逐漸增大的趨勢。因為當前像素與參考像素之間的距離越遠，它們之間的