信息論課程報告——信息論在分割數(shù)字圖像中的應(yīng)用

1、信息論實習(xí)報告題目：信息論在分割數(shù)字圖像中的應(yīng)用姓 名： 學(xué)號： 院（系）： 專業(yè)： 指導(dǎo)教師： 職稱： 2016 年 7 月摘要從上世紀(jì)開始到今天，信息論已經(jīng)發(fā)展的越來越成熟。自創(chuàng)立以來，它已拓展應(yīng)用到許多其他領(lǐng)域。本文采用的數(shù)據(jù)是數(shù)字圖像lena。在研究圖像的最大熵閾值分割前，首先對數(shù)字圖像的一維熵、二維熵的運算進(jìn)行研究探討。然后在此基礎(chǔ)上進(jìn)行了一維熵閾值分割和二維熵閾值的比較，最后對圖像添加椒鹽噪聲，并對二維熵閾值分割模型下的“噪聲”和“邊緣”進(jìn)行探討。根據(jù)計算其混淆矩陣，得到分類精度、Kappa系數(shù)。分析結(jié)果表明，二維熵閾值分割模型下的“噪聲”與實際噪聲并吻合的并不好，難以直接使用。這

2、主要是模型的自身缺陷所致。關(guān)鍵詞：一維熵；二維熵；圖像處理；閾值分割目 錄信息論實習(xí)報告1第一章 引言1第二章 圖像熵的計算22.1圖像一維熵的計算22.2 圖像二維熵的計算2第三章 最大熵閾值分割43.1 一維熵最大熵閾值分割43.2 二維熵最大熵閾值分割43.3 添加噪聲后的二維熵閾值分割6第四章 展望與感想114.1 展望114.2 感想11致 謝12參考文獻(xiàn)13附錄14一維熵代碼14二維熵代碼14余下代碼15中國地質(zhì)大學(xué)課程報告第一章 引言信息論是應(yīng)用數(shù)學(xué)、電機(jī)工程學(xué)和計算機(jī)科學(xué)的一個分支，涉及信息的量化。信息論是由克勞德香農(nóng)發(fā)展，用來找出信號處理操作的基本限制，如數(shù)據(jù)壓縮、可靠的存儲

3、和數(shù)據(jù)傳輸?shù)?。自?chuàng)立以來，它已拓展應(yīng)用到許多其他領(lǐng)域，包括統(tǒng)計推斷、自然語言處理、密碼學(xué)、神經(jīng)生物學(xué)1、進(jìn)化論2和分子編碼的功能3、生態(tài)學(xué)的模式選擇4、熱物理5、量子計算、語言學(xué)、剽竊檢測6、模式識別、異常檢測和其他形式的數(shù)據(jù)分析7。閾值分割是圖像處理和計算機(jī)視覺中的基本和關(guān)鍵技術(shù)之一，因簡單有效而成為使用最為普遍的分割方法8。其關(guān)鍵是如何選取閾值以獲得最佳分割效果。在較早提出并進(jìn)行定性和定量比較研究的有代表性的閾值選取方法中9-10，由Kapur等人11提出的最大Shannon熵法因?qū)Σ煌旁氡群筒煌笮〉哪繕?biāo)均能產(chǎn)生較好的分割效果且簡單有效，而成為實際中常被選用的方法。這種一維最大熵法雖然

4、處理速度快，但因一維灰度直方圖不能反映圖像的局部空間信息，當(dāng)圖像受到噪聲干擾等因素影響時，難以獲得滿意的分割效果8。因此，Abutaleb11與Brink12分別將最大Shannon熵法拓展到灰度級一鄰域平均灰度級二維直方圖，其效果較一維方法有所改善。吳一全等人8指出二維直方圖區(qū)域直分法中存在明顯的錯分。本文采用的數(shù)據(jù)是圖像lena。在研究圖像的最大熵閾值分割前，首先對數(shù)字圖像的一維熵、二維熵的運算進(jìn)行研究探討。然后在此基礎(chǔ)上進(jìn)行了一維熵閾值分割和二維熵閾值的比較，最后對圖像添加椒鹽噪聲，并對二維熵閾值分割模型下的“噪聲”和“邊緣”進(jìn)行探討。根據(jù)計算其混淆矩陣，得到分類精度、Kappa系數(shù)。并

5、加以分析。第二章 圖像熵的計算2.1圖像一維熵的計算任何一個消息的自信息量都代表不了信源所包含的平均自信息量。不能作為整個信源的信息測度，因此定義自信息量的數(shù)學(xué)期望為離散信源的平均自信息量：HX=Elog1pai=-i=1npailogpai稱之為信源的信息熵。H是從整個信源的統(tǒng)計特性來考慮的，它是從平均意義上來表征信源的總體特性的。對于某特定的信源，其信息熵只有一個;不同的信源因統(tǒng)計特性不同，其熵也不同。圖像熵反映了圖像中平均每個像元含有信息量的多少。一維熵將像元看作相互獨立，表示圖像中灰度分布的聚集特征。令Pi 表示圖像中灰度值為i的像素所占的比例，計算圖像的一元灰度熵為：H=-i=025

6、5pilogpi在MATLAB中輸入圖像，統(tǒng)計出圖像中不同灰度出現(xiàn)的次數(shù)，并計算其概率，這樣就可以求出圖像的一維熵，結(jié)果為7.4334bits。2.2 圖像二維熵的計算圖像的一維熵可以表示圖像灰度分布的聚集特征，卻不能反映圖像灰度分布的空間特征，為了表征這種空間特征，可以在一維熵的基礎(chǔ)上引入能夠反映灰度分布空間特征的特征量來組成圖像的二維熵。選擇圖像的鄰域灰度均值作為灰度分布的空間特征量，與圖像的像素灰度組成特征二元組，記為( i, j )，其中i 表示像素的灰度值，j 表示鄰域灰度，f(i, j)為特征二元組(i, j)出現(xiàn)的頻數(shù)。計算聯(lián)合概率Pij=fi,jMN其中MN等于圖像的總像元數(shù)。

7、定義離散的圖像二維熵為：H=-12i.jPij logPij構(gòu)造的圖像二維熵可以在圖像所包含信息量的前提下，突出反映圖像中像素位置的灰度信息和像素鄰域內(nèi)灰度分布的綜合特征（原圖像與均值平滑后的圖像的聯(lián)合熵，再除以1/2）。在MATLAB中輸入圖像，將其轉(zhuǎn)為double型的矩陣，對圖像進(jìn)33行均值濾波（其中圖像的邊緣像素由于鄰近的像元少于8個，MATLAB的濾波函數(shù)并未進(jìn)行操作，下邊的代碼對應(yīng)的是計算圖像中間510*510的像素的二維熵），將圖像原始值乘以1000再加上均值濾波后的數(shù)值（不可顛倒順序），這樣僅通過統(tǒng)計新生成的數(shù)是否一致即可求出頻數(shù)，求出圖像的二維熵，結(jié)果為：7.155bits（如

8、果認(rèn)為均值濾波后的圖像的像元也只能取整數(shù)的話，則圖像的二維熵為：5.6677bits；如果認(rèn)為均值濾波后的圖像保留圖像邊緣（不對邊緣做任何處理）的話，圖像的二維熵為：7.2234bits；如果認(rèn)為均值濾波后的圖像的像元也只能取整數(shù)且保留圖像邊緣的話，圖像的二維熵為：5.7311bits）第三章 最大熵閾值分割3.1 一維熵最大熵閾值分割圖像熵反映了圖像中平均每個像元含有信息量的多少。一維熵是將像元看作相互獨立，反應(yīng)了圖像中灰度分布的聚集特征所包含的信息量。令Pi 表示圖像中灰度值為i的像素所占的比例，計算圖像的一維灰度熵：H=-i=0255pilogpi設(shè)分割的灰度閾值為t，0,t為背景，t+

9、1,255為目標(biāo)。使目標(biāo)和背景的熵和最大者為最佳閾值。在MATLAB中輸入圖像，統(tǒng)計出圖像中不同灰度（圖像的灰度是0,255的一個子集），并根據(jù)已有的灰度值循環(huán)找到一個分割閾值使背景熵與目標(biāo)熵的和最大。其結(jié)果為：分割閾值灰度為：122；目標(biāo)和背景的一維熵的和為：12.8996bits。a 一維熵閾值分割的結(jié)果 b 圖像的一維直方圖（橙黃色的線為閾值）圖1 3.2 二維熵最大熵閾值分割二維熵閾值分割的閾值對（s，t）定義在圖像二維直方圖上，也就是一個LxL大小的正方形區(qū)域，L表示圖像的灰度級（比如256），正方形區(qū)域的橫坐標(biāo)表示圖像像元的灰度值，縱坐標(biāo)表示像元的鄰域的平均灰度值，該正方形區(qū)域中的

10、任一點（i，j）的值pij表示（i，j）發(fā)生的頻率。 圖2 二維直方圖x0y平面圖 求出的二維分割閾值（s，t）是上述正方形區(qū)域中的一點，可以將此二維直方圖劃分為4塊，對圖像的分割也可以劃分為如下四種，對于任意的（i，j）有: （1） 0i s,且0 jt, A區(qū)域表示背景； （2）s i L-1,且tjL-1, B區(qū)域表示目標(biāo)； （3） 0i s,且tjL-1, D區(qū)域表示噪聲； （4） s i L-1,且0 jt, C的區(qū)域表示邊緣；在MATLAB中輸入圖像，對其進(jìn)行33均值濾波，統(tǒng)計出圖像中不同灰度，并根據(jù)已有的灰度值循環(huán)找到一個分割閾值使背景熵與目標(biāo)熵的和最大。結(jié)合一維熵閾值分割運行結(jié)

11、果，可得分割閾值灰度為：（122，121.6667）。a 二維熵閾值分割的結(jié)果 b 圖像的二維直方圖x0y平面圖（十字為閾值）圖33.3 添加噪聲后的二維熵閾值分割如圖2所示，區(qū)域D代表噪聲，區(qū)域C代表邊緣。但是區(qū)域D反映的是原始灰度低鄰域灰度高的地方，區(qū)域C反映的是原始灰度高鄰域灰度低的地方。事實上噪聲像元和鄰域的像元一般有較大的差別，但未必都是原始灰度低鄰域灰度高的地方，同樣邊緣像素也未必是原始灰度高鄰域灰度低。所以這個模型可能存在著較大的問題。為了簡單起見，給圖像添加了5%的椒鹽噪聲（實際的噪聲要比這個復(fù)雜），將噪聲的分為噪聲（亮噪聲、暗噪聲的和）、亮噪聲、暗噪聲，將加噪聲的圖像按照二維

12、熵閾值分割模型分割，提取模型下的噪聲和和邊緣將它們和上面三種噪聲對比，計算混淆矩陣、分類精度與Kappa系數(shù)等，評價模型分類精度。(a)一維熵閾值分割下的目標(biāo)（白色）和背景（黑色）(b)二維熵閾值分割的結(jié)果，淺灰色表示噪聲深灰色為邊緣(c)二維直方圖，分布在左右兩端的線上的都為真實的噪聲(e)白色為預(yù)測噪聲分和真實的噪聲不同的地方(f)白色為預(yù)測噪聲分和真實的暗噪聲不同的地方(g)白色為預(yù)測噪聲分和真實的亮噪聲不同的地方(h)白色為預(yù)測邊緣分和真實的噪聲不同的地方(i)白色為預(yù)測邊緣分和真實暗的噪聲不同的地方(j)白色為預(yù)測邊緣分和真實的亮噪聲不同的地方圖4混淆矩陣是模式識別領(lǐng)域中一種可視化的

13、分類效果示意圖。它描繪了樣本數(shù)據(jù)的真實類別屬性與識別結(jié)果之間的關(guān)系，是評價分類器性能的一種常用方法假設(shè)對于 k 類模式的分類任務(wù)，訓(xùn)練樣本集D包括N個樣本，每個類別分別含有 Ni 個數(shù)據(jù)( i = 1，k) 采用某種識別算法構(gòu)造分類器C,cmij表示i 類模式被分類器C判斷成j 類模式的數(shù)據(jù)占i 類模式樣本總數(shù)的百分率，則可得到 k k 維混淆矩陣CM(C,D) 13 :CMC,D:=cm11cm1kcmk1cmkk混淆矩陣中元素的行下標(biāo)對應(yīng)目標(biāo)的真實類別，列下標(biāo)對應(yīng)分類器產(chǎn)生的估計類別。 對角線元素表示各模式能夠被分類器C正確分類的百分率，而非對角線元素則表示發(fā)生錯誤分類的百分率13。在做數(shù)

14、據(jù)分析時，我們經(jīng)常會面臨一致性檢驗問題，即判斷不同的模型或者分析方法在預(yù)測結(jié)果上是否具有一致性、模型的結(jié)果與實際結(jié)果是否具有一致性等。Kappa的計算最早由Cohen提出，計算方法比較簡14:=P0-Pe1-Pe，P0=a+dn，Pe=a+ba+c+c+b+n2其中P0是觀察一致性(observed agreement)，而Pe是期望一致性 (agreement by chance)，指的是在測量者為獨立之假設(shè)下一致性的期望，通常被視為測量看法一致性的基準(zhǔn)。=1表示兩測量結(jié)果完全一致；=0表示不存在一致性14；0;noise_b=(lena0-lena)0;noise=logical(nois

15、e_w+noise_b);%有點搞不明白為什么兩個邏輯型的矩陣相加居然變成double型的了%一維熵閾值分割LENA=reshape(lena,1,);A=unique(lena);H=ones(1,size(A,1);parfor i=1:size(A,1)-1 N1=histc(LENA,A(1:i); %統(tǒng)計各數(shù)出現(xiàn)次數(shù) P1=N1/sum(N1); H1=-sum(P1.*log2(P1); N2=histc(LENA,A(i+1:size(A,1); %統(tǒng)計各數(shù)出現(xiàn)次數(shù) P2=N2/sum(N2); H2=-sum(P2.*log2(P2); H(i)=H1+H2;end,i=max

16、(H);%H第i個元素最大，最大值是多少并不是筆者關(guān)心的內(nèi)容，所以用“”將其忽略bwlena=im2bw(lena,double(A(i)/255);%imshow(bwlena)%disp(閾值為：,num2str(i)imwrite(bwlena,C:UserssiyuanDesktopxinxilun2bwlena.tiff,tiff)%二維熵閾值分割（需要用到一維熵閾值分割部分）lena=double(lena);%如果沒有這句平滑濾波后的矩陣還是uint8格式，下邊的操作會很快，但是筆者認(rèn)為均值是可以為不為整數(shù)的h=ones(3)/9;Lena=imfilter(lena,h);%很

17、可能存在小數(shù)的LenA=reshape(Lena,1,);B=unique(LenA); %取得所有不重復(fù)的數(shù)h=ones(1,size(B,2)-1);parfor j=1:size(B,2)-1 N3=histc(LenA,B(1:j); %統(tǒng)計各數(shù)出現(xiàn)次數(shù) P3=N3/sum(N3); H3=-sum(P3.*log2(P3)*0.5; N4=histc(LenA,B(j+1:size(B,2); %統(tǒng)計各數(shù)出現(xiàn)次數(shù) P4=N4/sum(N4); H4=-sum(P4.*log2(P4)*0.5; h(j)=H3+H4;end,j=max(h);lena_background=lena=

18、A(i)&Lena=A(i)&Lena=B(j);lena_border=lenaA(i)&LenaB(j);lena_noise=lenaB(j);lena2=uint8(lena_target*255+lena_noise*160+lena_border*80);%figure%imshow(lena2)%disp(閾值(s和t)分別為：,num2str(i),num2str(j)figureplot(lena,Lena,b.,double(A(i)*ones(1,256),0:255,k,0:255,double(B(j)*ones(1,256),k)axis(0 255 0 255)title(加噪聲后的圖像的二維直方圖)xlabel(圖像的灰度)ylabel(均值濾波后圖像灰度)% imwrite(lena2,C:UserssiyuanDesktopxinxilun2lena2.tiff,tiff)%二維熵噪聲模型的探討Noise=noise,noise_b,noise_w;varname=noise,noise_b,no