清華大學(xué)多媒體課件27

1、1.空間冗余空間冗余例: 圖像中的“a”是一個規(guī)則物體。 光的亮度、飽和度及顏色都一樣， 因此，數(shù)據(jù)a有很大的冗余。a例: 序列圖像。f2af1a3.信息熵冗余信息熵冗余信息量：信息量： 指從指從n n個相等的可能事個相等的可能事件中選出一個事件所需要的信息件中選出一個事件所需要的信息度量和含量。度量和含量。信息熵：指一團(tuán)數(shù)據(jù)所帶的信息信息熵：指一團(tuán)數(shù)據(jù)所帶的信息量，平均信息量就是信息熵量，平均信息量就是信息熵（entropyentropy）。）。 例如例如:從64個數(shù)中選出某一個數(shù)?？上葐枴笆欠翊笥?2?”消除半數(shù)的可能,這樣只要6次就可選出某數(shù)。 351.1.大于大于/ /小于小于 323

2、2？ 2.2.大于大于/ /小于小于 32+16=4832+16=48？3.3.大于大于/ /小于小于 48-8=4048-8=40？4.4.大于大于/ /小于小于 40-4=3640-4=36？5.5.大于大于/ /小于小于 36-2=3436-2=34？6.6.大于大于/ /小于小于 34+1=3534+1=35大大小小小小小小大大等等631.1.大于大于/ /小于小于 3232？ 2.2.大于大于/ /小于小于 32+16=4832+16=48？3.3.大于大于/ /小于小于 48+8=5648+8=56？4.4.大于大于/ /小于小于 56+4=6056+4=60？5.5.大于大于/

3、/小于小于 60+2=6260+2=62？6.6.大于大于/ /小于小于 62+1=6362+1=63大大大大等等大大大大大大 這是因為每提問一次都會得到1比特的信息量。因此，在64個數(shù)中選定某一數(shù)所需的信息量是 log2 64=6(bits)信息量：信息量： 指從指從n n個相等的可能事件中選出一個個相等的可能事件中選出一個事件所需要的信息度量和含量。事件所需要的信息度量和含量。 設(shè)從設(shè)從n n個數(shù)中選任意一個數(shù)個數(shù)中選任意一個數(shù)x x的概的概率為率為 p(x)p(x)，假定選定任意一個數(shù)的，假定選定任意一個數(shù)的概率都相等，概率都相等，p(x)= 1/np(x)= 1/n，因此定義，因此定義

4、信息量信息量 i(x) =log2n = -log2(1/n) = -log2p(x) =ip(x)信息量：信息量： 指從指從n n個相個相等的可能事件中選出等的可能事件中選出一個事件所需要的信一個事件所需要的信息度量和含量。息度量和含量。 從從6464個數(shù)中選任意一個個數(shù)中選任意一個數(shù)數(shù)x x的信息量的信息量 i(x) =log264 = 6信息熵：指一團(tuán)數(shù)據(jù)所帶的信息量，信息熵：指一團(tuán)數(shù)據(jù)所帶的信息量，平均信息量就是信息熵（平均信息量就是信息熵（entropyentropy）。）。 如果將信源所有可能事如果將信源所有可能事件的信息量進(jìn)行平均，就得件的信息量進(jìn)行平均，就得到了信息熵到了信息熵

5、(entropy)(entropy)。熵。熵就是平均信息量。就是平均信息量。 信息源的符號集為 xj (j=1,2,3.n) 設(shè)x出現(xiàn)的概率為p(xj),則 信息源x的熵為 為使單位數(shù)據(jù)量為使單位數(shù)據(jù)量d接近或等于接近或等于e(即信息熵即信息熵)，應(yīng)設(shè)公式，應(yīng)設(shè)公式 其中其中b(yj)是是j已分配給碼元素已分配給碼元素yj的比特數(shù)的比特數(shù),理論狀態(tài)下應(yīng)取理論狀態(tài)下應(yīng)取 b(yj)= -log2pj pj為為yj發(fā)生的概率。發(fā)生的概率。例如：例如：ascii碼用碼用7bit，128種種 a=31h b=32h實際應(yīng)用中很難預(yù)估出（實際應(yīng)用中很難預(yù)估出（p0.pk-1）因此我們?nèi)∫虼宋覀內(nèi)?b(y0)= b(y1)=b 26個英文字母個英文字母 b(y0)= b(y1)= b(y26)=74.結(jié)構(gòu)冗余結(jié)構(gòu)冗余v圖像有非常強的紋理結(jié)構(gòu)。v如草席圖結(jié)構(gòu)上存在冗余。5.知識冗余知識冗余q圖像的理解與某些基礎(chǔ)知識有關(guān)。q例:人臉的圖像有同樣的結(jié)構(gòu)：嘴的上方有鼻子，鼻子