信息熵在圖像處理中的應(yīng)用

1、信息熵在圖像處理中的應(yīng)用 摘要：為了尋找快速有效的圖像處理方法，信息理論越來(lái)越多地滲透到圖像處理技術(shù)中。文章介紹了信息熵在圖像處理中的應(yīng)用，總結(jié)了一些基于熵的圖像處理特別是圖像分割技術(shù)的方法，及其在這一領(lǐng)域內(nèi)的應(yīng)用現(xiàn)狀和前景 同時(shí)介紹了熵在織物疵點(diǎn)檢測(cè)中的應(yīng)用。Application of Information Entropy on Image AnalysisAbstract：In order to find fast and efficient methods of image analysis，information theory is used more and more in im

2、age analysisThe paper introduces the application of information entropy on the image analysis，and summarizes some methods of image analysis based on information entropy，especially the image segmentation methodAt the same time，the methods and application of fabric defect inspection based on informati

3、on entropy ale introduced 信息論是人們?cè)陂L(zhǎng)期通信實(shí)踐活動(dòng)中，由通信技術(shù)與概率論、隨機(jī)過(guò)程、數(shù)理統(tǒng)計(jì)等學(xué)科相結(jié)合而逐步發(fā)展起來(lái)的一門(mén)新興交叉學(xué)科。而熵是信息論中事件出現(xiàn)概率的不確定性的量度，能有效反映事件包含的信息。隨著科學(xué)技術(shù)，特別是信息技術(shù)的迅猛發(fā)展，信息理論在通信領(lǐng)域中發(fā)揮了越來(lái)越重要的作用，由于信息理論解決問(wèn)題的思路和方法獨(dú)特、新穎和有效，信息論已滲透到其他科學(xué)領(lǐng)域。隨著計(jì)算機(jī)技術(shù)和數(shù)學(xué)理論的不斷發(fā)展，人工智能、神經(jīng)網(wǎng)絡(luò)、遺傳算法、模糊理論的不斷完善，信息理論的應(yīng)用越來(lái)越廣泛。在圖像處理研究中，信息熵也越來(lái)越受到關(guān)注。1 信息熵1948年，美國(guó)科學(xué)家香農(nóng)(CES

4、hannon)發(fā)表了一篇著名的論文通信的數(shù)學(xué)理論 。他從研究通信系統(tǒng)傳輸?shù)膶?shí)質(zhì)出發(fā)，對(duì)信息做了科學(xué)的定義，并進(jìn)行了定性和定量的描述。他指出，信息是事物運(yùn)動(dòng)狀態(tài)或存在方式的不確定性的描述。其通信系統(tǒng)的模型如下所示： 圖1 信息的傳播信息的基本作用就是消除人們對(duì)事物的不確定性。信息熵是信息論中用于度量信息量的一個(gè)概念。假定X是隨機(jī)變量的集合，p（x）表示其概率密度，計(jì)算此隨機(jī)變量的信息熵H（x）的公式是P（x，y）表示一對(duì)隨機(jī)變量的聯(lián)合密度函數(shù)，他們的聯(lián)合熵H（x，y）可以表示為  信息熵描述的是信源的不確定性，是信源中所有目標(biāo)的平均信息量。信息量是信息論的中心概念，將熵作為一個(gè)隨機(jī)事件

5、的不確定性或信息量的量度，它奠定了現(xiàn)代信息論的科學(xué)理論基礎(chǔ)，大大地促進(jìn)了信息論的發(fā)展。設(shè)信源X發(fā)符號(hào)ai，的概率為Pi，其中i=1，2，r，Pi>O，要=1，則信息熵的代數(shù)定義形式為：H(X)=-logP(ai) (1)2 圖像處理所謂計(jì)算機(jī)圖像處理是指：將圖像信號(hào)轉(zhuǎn)換成數(shù)字格式，并利用計(jì)算機(jī)對(duì)其進(jìn)行處理的過(guò)程。近幾年來(lái)，數(shù)字圖像處理技術(shù)的發(fā)展進(jìn)一步深入、廣泛和迅速，人們已充分認(rèn)識(shí)到圖像處理技術(shù)是認(rèn)識(shí)世界、改造世界的重要手段之一。圖像信息處理技術(shù)已廣泛應(yīng)用于許多社會(huì)領(lǐng)域，如工業(yè)、農(nóng)業(yè)、國(guó)防軍事、社會(huì)公安、科研、生物醫(yī)學(xué)、通信郵電等等。概念上說(shuō)，數(shù)字圖像處理過(guò)程中所需的基本步驟如圖2所示。

6、 圖2 數(shù)字圖像處理基本步驟圖像處理和分析過(guò)程主要包括：圖像變換、圖像編碼、邊緣檢測(cè)、圖像分割、目標(biāo)表達(dá)、描述和測(cè)量等等ra。人們?yōu)榱说玫礁信d趣的目標(biāo)，用各種方法來(lái)處理和分析圖像。如灰度共生矩陣法、Markov隨機(jī)場(chǎng)法、灰度直方圖統(tǒng)計(jì)法、灰度匹配法、二維傅立葉變換法、6abor變換法、小波變換法和數(shù)學(xué)形態(tài)法等等。例如在灰度共生矩陣法中，用于測(cè)量灰度級(jí)分布隨機(jī)性的一種特征參數(shù)就叫做熵。它的定義為：(2)當(dāng)矩陣Pi,j的所有項(xiàng)皆為零時(shí)，其熵值最高。除此之外，還有和熵、灰度熵、梯度熵、混合熵等等，從而說(shuō)明了熵是圖像的重要特征之一。3 信息熵在圖像處理中的應(yīng)用圖像分割是圖像處理和分析的關(guān)鍵步驟，也是一

7、種基本的計(jì)算機(jī)視覺(jué)技術(shù)。當(dāng)今信息熵主要應(yīng)用在圖像分割技術(shù)中。為了識(shí)別和分析目標(biāo)，圖像分割把圖像分成各具特性的區(qū)域。這些特性可以是灰度、顏色、紋理等， 目標(biāo)可以對(duì)應(yīng)單個(gè)區(qū)域，也可以對(duì)應(yīng)多個(gè)區(qū)域?；陟氐膱D像分割方法，盡可能減少了圖像信息的損失，因此可用于復(fù)雜背景，而且這種方法有很多。如黃春艷等提出的圖像的分割方法有最大熵法和最小交叉熵法。最大熵法和最小交叉熵法的基本思想都是利用圖像的灰度分布密度函數(shù)定義圖像的信息熵，根據(jù)假設(shè)的不同或視角的不同提 不同的熵準(zhǔn)則，最后通過(guò)優(yōu)化該準(zhǔn)則得到閾值。最人熵準(zhǔn)則強(qiáng)調(diào)系統(tǒng)內(nèi)部的均勻性，應(yīng)用于閾值化分割中就是搜索使目標(biāo)或背景內(nèi)部的灰度分布盡可能均勻的最優(yōu)閾值。交叉

8、熵是度量?jī)蓚€(gè)概率分布之間信息量差異，它是Fn函數(shù)。最小交叉熵準(zhǔn)則應(yīng)用在閾值化分割中，一般是搜索使分割前后圖像的信息量差異最小的閾值。吳謹(jǐn)?shù)忍岢龅脑谧畲箢?lèi)間方差法和一致性準(zhǔn)則法的基礎(chǔ)上，運(yùn)用最大熵原理來(lái)選擇灰度閾值對(duì)圖像進(jìn)行分割方法。還有龐全等提出的基于面向?qū)ο笏枷氲膱D像分割算法。此方法是分割閾值與局部灰度分布相關(guān)的分割方法，針對(duì)非均勻圖像的特點(diǎn)，在香農(nóng)熵上推導(dǎo)出子集熵與全集熵的關(guān)系，作為圖像的面向?qū)ο竺枋?實(shí)驗(yàn)表明，相比常用的動(dòng)態(tài)閾值算法，該算法具有運(yùn)算量少、分割結(jié)果白適應(yīng)性好的特點(diǎn)。隨著計(jì)算機(jī)技術(shù)和數(shù)學(xué)理論的不斷發(fā)展，人工智能、神經(jīng)網(wǎng)絡(luò)、遺傳算法、模糊理論的不斷完善，以及處理的圖像越來(lái)越復(fù)雜

9、，單一的方法已不能滿足人們的需求，因此，研究多方法的結(jié)合是這一領(lǐng)域的趨勢(shì)。如劉耀輝等提出的結(jié)合小波變換和二維最大熵法的圖像分割的方法。在小波變換后的低頻子圖上應(yīng)用二維最大熵法獲得最優(yōu)分割閾值，同時(shí)減小了運(yùn)算量，并利用高頻子圖獲取圖像邊緣信息進(jìn)而更好地定位目標(biāo)區(qū)域，實(shí)現(xiàn)對(duì)子圖的成功分割。還有劉勃等提出的基于交叉熵的改進(jìn)PCNN圖像自動(dòng)分割新方法。該方法從原始圖像與分割圖像的目標(biāo)之間、背景之間的差異性出發(fā)，對(duì)PCNN模型中的變閾值函數(shù)進(jìn)行了改進(jìn)，然后使其與最小交叉熵判據(jù)相結(jié)合來(lái)對(duì)圖像進(jìn)行自動(dòng)分割。實(shí)驗(yàn)表明，該片法對(duì)圖像的分割精度高而且適應(yīng)性較強(qiáng)。圖像處理中噪聲的干擾是不可避免的，因此去除燥聲也是圖

10、像處理中的問(wèn)題之一。目前，去除噪聲的方法主要是利用圖像變換，把圖像從空域變?yōu)轭l域然后再進(jìn)行濾波。實(shí)驗(yàn)證明，信息熵用于抑制噪聲干擾也是可行有效的。如楊光等提出的一種改進(jìn)的中值濾波方法，此方法利用選點(diǎn)濾波的方式，并結(jié)合信息熵理論來(lái)有效地抑制脈沖噪聲干擾，并對(duì)其他類(lèi)型噪聲有一定的抑制作用，而且可以與其他算法聯(lián)合抑制綜合噪聲下擾，還能保持圖像很好的清晰度。圖像的邊緣是指圖像局部亮度變化最顯著的部分。邊緣主要存在于目標(biāo)與目標(biāo)、目標(biāo)與背景、區(qū)域與區(qū)域之間，是圖像分割、紋理提取和形狀特征提取等圖像分析的重要基礎(chǔ)，圖像分析和理解的第一步常常是邊緣檢測(cè)。邊緣檢測(cè)如此重要，其方法主要有：Roberts算子、Sob

11、el算子、Prewitt算子，還有二階微分算子等等。然而信息熵原理近來(lái)也被用于邊緣檢測(cè)技術(shù)中。如張香琴等提出將熵算子與去除噪聲相結(jié)合的邊界檢測(cè)法，如果計(jì)算的熵大于閾值，要判斷是噪聲的出現(xiàn)所引起，還是邊界的出現(xiàn)所引起，這樣，邊檢測(cè)邊界邊去噪聲。根據(jù)熵的理論，局部熵反映了圖像灰度的離散程度，圖像灰度分布相對(duì)均勻時(shí)則局部熵較大，而圖像灰度分布離散性較大時(shí)局部熵較小。局部熵是局部窗口內(nèi)所有像素點(diǎn)共同作用的結(jié)果，對(duì)單點(diǎn)噪聲不敏感，故局部熵本身具有一定的抗噪濾波能力。下面這個(gè)實(shí)驗(yàn)說(shuō)明了信息熵在圖像處理中的相關(guān)應(yīng)用再計(jì)算出信息熵和互信息，如此進(jìn)行十次實(shí)驗(yàn)，觀察結(jié)果并進(jìn)行分析。選取兩幅有相同部分但不完全相同的

12、圖片，matlab分別讀出兩幅圖片的信息熵，同時(shí)計(jì)算他們的互信息，然后對(duì)圖片進(jìn)行剪裁，保留全部相同部分，再計(jì)算出信息熵和互信息，如此進(jìn)行十次實(shí)驗(yàn)，觀察結(jié)果并進(jìn)行分析。步驟如下：（1） 選取兩幅符合要求的圖片。分別命名為a1 和b1。 a1 b1（2） 打開(kāi)matlab，創(chuàng)建新文件，并編寫(xiě)完成實(shí)驗(yàn)所需要的程序。代碼如下。clca=imread('a1.jpg');a=rgb2gray(a);b=imread(' b1.jpg');b=rgb2gray(b);Ma,Na = size(a);Mb,Nb = size(b);M=min(Ma,Mb);N=min(Na,

13、Nb);%初始化直方圖數(shù)組hab = zeros(256,256);ha = zeros(1,256);hb = zeros(1,256);%歸一化if max(max(a)=min(min(a)a = (a-min(min(a)/(max(max(a)-min(min(a);elsea = zeros(M,N);endif max(max(b)-min(min(b)b = (b-min(min(b)/(max(max(b)-min(min(b);elseb = zeros(M,N);enda = double(int16(a*255)+1;b = double(int16(b*255)+1;

14、%統(tǒng)計(jì)直方圖for i=1:Mfor j=1:Nindexx = a(i,j);indexy = b(i,j) ;hab(indexx,indexy) = hab(indexx,indexy)+1;%聯(lián)合直方圖ha(indexx) = ha(indexx)+1;%a圖直方圖hb(indexy) = hb(indexy)+1;%b圖直方圖endend%計(jì)算聯(lián)合信息熵hsum = sum(sum(hab);index = find(hab=0);p = hab/hsum;Hab = sum(sum(-p(index).*log(p(index);%計(jì)算a圖信息熵hsum = sum(sum(ha)

15、;index = find(ha=0);p = ha/hsum;Ha = sum(sum(-p(index).*log(p(index);%計(jì)算b圖信息熵hsum = sum(sum(hb);index = find(hb=0);p = hb/hsum;Hb = sum(sum(-p(index).*log(p(index);%計(jì)算a和b的互信息mi = Ha+Hb-Hab;%計(jì)算a和b的歸一化互信息%mi = hab/(Ha+Hb);（3） 運(yùn)行matlab，得出并記錄結(jié)果。（4） 剪裁圖片，保留全部相同部分。再計(jì)算信息熵，同時(shí)程序里的圖片名稱更改一下，如此進(jìn)行九次。所得結(jié)果如下： a2 b

16、2 a3 b3 a4 b4 a 5 b5 a 6 b 6 a 7 b7 a 8 b 8 a 9 b 9 a 10 b 10 結(jié)果2 結(jié)果3 結(jié)果4 結(jié)果5 結(jié)果6 結(jié)果7 結(jié)果8 結(jié)果9 結(jié)果10下表對(duì)所需結(jié)果做出總結(jié)次數(shù)12345678910H（a）5.17965.19335.20255.20155.19085.17145.19845.17875.18245.195H（b）5.17225.19685.19185.19305.19015.14975.18595.1915.19675.1921Mi0.573720.566150.554580.570870.551780.533950.536340.690550.546931.6955實(shí)驗(yàn)結(jié)論：兩幅圖片重疊部分所占比例越大，互信息越大。而信息熵與此無(wú)明顯關(guān)系。信息熵僅與圖片的內(nèi)容有關(guān)，內(nèi)容越混亂信息熵越大。5 結(jié)語(yǔ)隨著計(jì)算機(jī)技術(shù)的迅速發(fā)展，以及其他科學(xué)技術(shù)的不斷完善，信息熵已不再僅僅是通信領(lǐng)域中的概念，因此把信息熵應(yīng)用到圖像處理中是圖像處理領(lǐng)域的又一方向，隨著信息熵更好更充分地發(fā)揮作用，圖像處理技術(shù)將會(huì)發(fā)展得更快，更加完善。參考文獻(xiàn)：【1】傅蕓祖信息論-基礎(chǔ)理論與應(yīng)用.北京：電子工業(yè)出版社，2007.5【2】姜丹信息論與編碼M合肥： 中國(guó)科學(xué)技術(shù)大學(xué)出版社，2004【3】章毓晉圖像處理和分析M北京清華大學(xué)出