清華大學(xué)多媒體課件27

1、1.空間冗余空間冗余例: 圖像中的“a”是一個(gè)規(guī)則物體。 光的亮度、飽和度及顏色都一樣， 因此，數(shù)據(jù)a有很大的冗余。a例: 序列圖像。f2af1a3.信息熵冗余信息熵冗余信息量：信息量： 指從指從n n個(gè)相等的可能事個(gè)相等的可能事件中選出一個(gè)事件所需要的信息件中選出一個(gè)事件所需要的信息度量和含量。度量和含量。信息熵：指一團(tuán)數(shù)據(jù)所帶的信息信息熵：指一團(tuán)數(shù)據(jù)所帶的信息量，平均信息量就是信息熵量，平均信息量就是信息熵（entropyentropy）。）。 例如例如:從64個(gè)數(shù)中選出某一個(gè)數(shù)?？上葐?wèn)“是否大于32?”消除半數(shù)的可能,這樣只要6次就可選出某數(shù)。 351.1.大于大于/ /小于小于 323

2、2？ 2.2.大于大于/ /小于小于 32+16=4832+16=48？3.3.大于大于/ /小于小于 48-8=4048-8=40？4.4.大于大于/ /小于小于 40-4=3640-4=36？5.5.大于大于/ /小于小于 36-2=3436-2=34？6.6.大于大于/ /小于小于 34+1=3534+1=35大大小小小小小小大大等等631.1.大于大于/ /小于小于 3232？ 2.2.大于大于/ /小于小于 32+16=4832+16=48？3.3.大于大于/ /小于小于 48+8=5648+8=56？4.4.大于大于/ /小于小于 56+4=6056+4=60？5.5.大于大于/

3、/小于小于 60+2=6260+2=62？6.6.大于大于/ /小于小于 62+1=6362+1=63大大大大等等大大大大大大 這是因?yàn)槊刻釂?wèn)一次都會(huì)得到1比特的信息量。因此，在64個(gè)數(shù)中選定某一數(shù)所需的信息量是 log2 64=6(bits)信息量：信息量： 指從指從n n個(gè)相等的可能事件中選出一個(gè)個(gè)相等的可能事件中選出一個(gè)事件所需要的信息度量和含量。事件所需要的信息度量和含量。 設(shè)從設(shè)從n n個(gè)數(shù)中選任意一個(gè)數(shù)個(gè)數(shù)中選任意一個(gè)數(shù)x x的概的概率為率為 p(x)p(x)，假定選定任意一個(gè)數(shù)的，假定選定任意一個(gè)數(shù)的概率都相等，概率都相等，p(x)= 1/np(x)= 1/n，因此定義，因此定義

4、信息量信息量 i(x) =log2n = -log2(1/n) = -log2p(x) =ip(x)信息量：信息量： 指從指從n n個(gè)相個(gè)相等的可能事件中選出等的可能事件中選出一個(gè)事件所需要的信一個(gè)事件所需要的信息度量和含量。息度量和含量。 從從6464個(gè)數(shù)中選任意一個(gè)個(gè)數(shù)中選任意一個(gè)數(shù)數(shù)x x的信息量的信息量 i(x) =log264 = 6信息熵：指一團(tuán)數(shù)據(jù)所帶的信息量，信息熵：指一團(tuán)數(shù)據(jù)所帶的信息量，平均信息量就是信息熵（平均信息量就是信息熵（entropyentropy）。）。 如果將信源所有可能事如果將信源所有可能事件的信息量進(jìn)行平均，就得件的信息量進(jìn)行平均，就得到了信息熵到了信息熵

5、(entropy)(entropy)。熵。熵就是平均信息量。就是平均信息量。 信息源的符號(hào)集為 xj (j=1,2,3.n) 設(shè)x出現(xiàn)的概率為p(xj),則 信息源x的熵為 為使單位數(shù)據(jù)量為使單位數(shù)據(jù)量d接近或等于接近或等于e(即信息熵即信息熵)，應(yīng)設(shè)公式，應(yīng)設(shè)公式 其中其中b(yj)是是j已分配給碼元素已分配給碼元素yj的比特?cái)?shù)的比特?cái)?shù),理論狀態(tài)下應(yīng)取理論狀態(tài)下應(yīng)取 b(yj)= -log2pj pj為為yj發(fā)生的概率。發(fā)生的概率。例如：例如：ascii碼用碼用7bit，128種種 a=31h b=32h實(shí)際應(yīng)用中很難預(yù)估出（實(shí)際應(yīng)用中很難預(yù)估出（p0.pk-1）因此我們?nèi)∫虼宋覀內(nèi)?b(y0)= b(y1)=b 26個(gè)英文字母?jìng)€(gè)英文字母 b(y0)= b(y1)= b(y26)=74.結(jié)構(gòu)冗余結(jié)構(gòu)冗余v圖像有非常強(qiáng)的紋理結(jié)構(gòu)。v如草席圖結(jié)構(gòu)上存在冗余。5.知識(shí)冗余知識(shí)冗余q圖像的理解與某些基礎(chǔ)知識(shí)有關(guān)。q例:人臉的圖像有同樣的結(jié)構(gòu)：嘴的上方有鼻子，鼻子