基于小波變換的獨立分量分析在圖像分離中的應(yīng)用

1、基于小波變換的獨立分量分析在圖像分離中的應(yīng)用陳艷（在讀碩士，主要研究方向盲信號處理） 朱小會（在讀碩士，主要研究方向污水處理） 姚毅（四川理工學(xué)院電信系教授，主要研究方向信號檢測與智能信息處理、電磁場與微波技術(shù)）四川理工學(xué)院匯東校區(qū)18087信箱 郵編：643000 電話 要 該文提出了一種新的基于小波變換的獨立分量分析方法對混合圖像進(jìn)行分離。研究表明，當(dāng)各個源信號的概率密度分布相同時，自然梯度算法的穩(wěn)態(tài)誤差與源信號峭度成反比。因此，對峭度更大的小波域高頻子圖像進(jìn)行獨立分量分析可以獲得更高的分離精度。同時混合圖像在小波變換的過程中，可以利用小波閾值對混合圖像進(jìn)行去噪，

2、提高圖像的信噪比。最后通過實驗證明該方法是有效的。關(guān)鍵字 獨立分量分析 小波變換 峭度 自然梯度算法文獻(xiàn)標(biāo)識碼：A 中圖分類號：TP3Abstract This paper proposes a kind of new Independent Component Analysis(ICA) method based on Wavelet transform and its application to image separation. According to the research, the steady-state error of the Natural Gradient Algor

3、ithm is inverse proportional to the kurtosis of the sources when the probability distribution function of each source is the same. In addition, in the wavelet transformation, it enhances picture the signal to noise ratio by using the wavelet threshold value to de-noise.Finally, the experiments resul

4、ts show that the proposed method is effective.Key words Independent Component Analysis (ICA), Wavelet transform, Kurtosis, Natural Gradient Algorithm1引言獨立分量分析(Independent Component Analysis, ICA)是信號處理領(lǐng)域在20世紀(jì)90年代后期發(fā)展起來的一項全新的信號處理和數(shù)據(jù)分析方法。自Comon【1】提出ICA的理論框架以來，已有多種算法用于解決各類實際問題。Bell等人在1995年提出了基于信息極大傳輸原理的

5、獨立分量提取算法最大熵（Infomax）算法【2】，此后Lee等人提出了擴(kuò)展的Infomax算法【3】，Hyvarinen等人提出了采用批處理的固定點快速分離算法FastICA【4】，其中FastICA使得盲源信號分離技術(shù)實用化。其實ICA基本含義是將多道觀測信號根據(jù)統(tǒng)計獨立原則通過優(yōu)化算法分解為若干獨立成分，從而實現(xiàn)信號的增強(qiáng)和分解，在語音識別、通訊、圖像處理、醫(yī)學(xué)信號處理等領(lǐng)域尤其受到關(guān)注【5】。在實際應(yīng)用中，由于測量信號往往是由若干獨立源信號的線性疊加，并且常含有觀測噪聲。因此，將現(xiàn)有的ICA算法直接用于含有噪聲觀測信號，往往無法獲得理想的分離結(jié)果。小波變換(Wave Transform

6、)是八十年代后期發(fā)展起來的應(yīng)用數(shù)學(xué)分支，其理論及其實際應(yīng)用正成為眾多學(xué)科的熱點，已廣泛應(yīng)用于圖像處理、信號處理、語音識別等領(lǐng)域【6-7】。小波分析在時域和頻域同時有良好的分辨性，利用多尺度分析方法，可以在不同的尺度下觀測信號不同精度的局部特征。由于信號和噪聲經(jīng)過小波變換后的統(tǒng)計特性不同，從而在多尺度分析中呈現(xiàn)出不同的傳播行為，利用這一特性采用小波門限去噪方法可以對有噪信號進(jìn)行去噪【7-8】。另外結(jié)合文獻(xiàn)【9】推導(dǎo)出：在各個源信號的概率密度分布相同時，ICA算法的精確度與源信號的峭度成正比。研究表明，小波域高頻子圖像的分布近似拉普拉斯分布，具有更大的峭度【10】。根據(jù)上述的特性，本文提出了基于小

7、波變換的獨立分量分析對含噪混合圖像分離的方法。這里使用小波變換有兩個目的，第一是采用小波變換對含有噪聲的混合圖像進(jìn)行消噪處理；第二是利用小波域高頻子圖像的分布近似拉普拉斯分布，具有更大的峭度使算法具有更小的誤差。2獨立分量分析算法原理21獨立分量分析模型假設(shè)存在個相互獨立的未知源信號，通過某個未知的待檢測分析系統(tǒng)后線性疊加在個傳感器上接收到的觀測信號 。已經(jīng)證明：在 的條件下，如果源信號不含一個以上的高斯過程則存在混合矩陣，使。噪聲環(huán)境下傳感器接收的線性混合圖像系統(tǒng)模型為 (1)其中是一個維的矩陣，源信號和混合矩陣都是未知的，只有混合后的可以觀測到，為維加性高斯白噪聲，一般設(shè)。ICA算法的基本

8、思路在于求解一矩陣，使其作用于觀測信號所得估計信號 （2）進(jìn)而可得，在統(tǒng)計獨立的意義下最逼近于未知源信號，即要找到矩陣使得信號的各個分量盡可能相互獨立。為此需要建立一個合適的目標(biāo)函數(shù)，再采用某種優(yōu)化算法分離源信號。目標(biāo)函數(shù)可取各個源信號間的高階統(tǒng)計量、互信息熵或最大似然算法【11】，優(yōu)化算法則可采用牛頓迭代法、基于神經(jīng)網(wǎng)絡(luò)的自適應(yīng)算法、隨機(jī)梯度法、自然梯度算法等【12】。本文采用最大熵算法是根據(jù)常規(guī)的隨機(jī)梯度法求解矩陣，算法的目標(biāo)判據(jù)為獨立分量通過非線性環(huán)節(jié)后信息熵極大，其迭代公式為 （3）其中為學(xué)習(xí)率，為每次處理的向量的個數(shù)，與源信號的分布及其假設(shè)有關(guān)，根據(jù)不同的情況有多種選取方法。由于算法

9、中涉及矩陣求逆，而且收斂速度慢，Amari在隨機(jī)梯度的基礎(chǔ)上提出了自然梯度學(xué)習(xí)算法【13】，避免了矩陣求逆，加快了收斂速度。據(jù)此，其迭代公式為： （4） 22實現(xiàn)源信號分離時解的精確度分析本文將討論得到的與源信號差異，以及這些差異取決于哪些因素，從而證明自然梯度算法的精確度與源信號的峭度成正比。本文首先介紹峭度的概念。峭度（kurtosis）是對一個隨機(jī)變量非高斯性的量度。假設(shè)一個零均值的實隨機(jī)信號的概率密度函數(shù)為，那么其峭度定義為 （5）在實際盲源分離中用的就是這個算子。由于源信號是零均值，單位方差的情況下，,因而上式就變?yōu)?（6）設(shè)由自然梯度迭代公式得到分離矩陣為，理想情況下是,但是實際情

10、況下自然梯度算法收斂到的最優(yōu)解仍與理想最佳解有偏差，如果設(shè)是一個維偏差矩陣。則 （7）若，則，即分離信號與源信號完全一致。若，則二者不一致，越大，則的成分在中所占比重越大，即信號對恢復(fù)后的信號的干擾越嚴(yán)重。，稱為污染系數(shù)。下面將說明，是均值為的隨機(jī)變量，只要求出它的均方誤差就能衡量自然梯度算法的精確度。文獻(xiàn)【9】指出當(dāng)各個源信號具有相同的概率密度函數(shù)時，的均方誤差和的表達(dá)式為： （8）其中 （9） （10）對于超高斯信號（峭度大于），通常取非線性函數(shù)，所以就有。將按冪級數(shù)展開，得 （11） （12）由于，進(jìn)而 （13）將（13）式代入（10）式可知，因此式（8）就可以得到其近似值為： (14)

11、將式（11）和（12）代入式（9）得到： (15)由信號源的峭度為，將此式代入式（14）得到： （16） 由此可以看到，當(dāng)各個源信號的概率分布相同，時，信號源的峭度越大時，所得解的精確度越高。3小波閾值去噪由于小波變換具有低熵性、多分辨性、去相關(guān)性和選基靈活性的特點，使得小波變換成為特征提取和低通濾波功能的綜合，相當(dāng)于對信號同時進(jìn)行低通和高通濾波，其低頻系數(shù)主要反映信號信息，而高頻系數(shù)主要反映噪聲和信號的細(xì)節(jié)信息。對非平穩(wěn)含噪信號進(jìn)行多層小波分析，并對每層高頻分解系數(shù)進(jìn)行域值處理后再合成，可有效地達(dá)到濾除噪聲和保留信號高頻信息地目的。小波門限法去噪是基于小波變換多分辨分析的一種方法。有噪信號經(jīng)

12、過小波變換的多分辨率逐級分解，噪聲細(xì)節(jié)信號的幅度隨著小波變換尺度的增長而不斷減小，但有用的小波變換系數(shù)與尺度的關(guān)系則不同，在多尺度分析中呈現(xiàn)出不同的統(tǒng)計特性。據(jù)此利用有噪信號小波變換的這一特性，可以選擇閾值門限對含噪混合圖像進(jìn)行消噪。由于圖像是二維信號，再應(yīng)用小波變換對圖像進(jìn)行處理時采用二維小波變換。圖像消噪的主要目的是在平滑噪聲的同時盡可能地保留原始圖像的重要特征。二維小波分析對圖像消噪地步驟如下：1） 選定一個小波并確定一個小波分解的層次N，然后對圖像進(jìn)行N層小波分解；2） 對于分解的每一層，選擇一個恰當(dāng)?shù)拈撝?，并對該層高頻系數(shù)進(jìn)行軟閾值量化處理；3） 根據(jù)小波分解后的第N層的低頻系數(shù)和經(jīng)

13、過閾值量化處理后的各層高頻系數(shù)，來計算二維信號的小波重構(gòu)。4基于小波變換的獨立分量分析方法通過對ICA算法的分析可知，ICA算法取得成功的關(guān)鍵在于對源信號的概率密度作出正確的假設(shè)，并根據(jù)源信號的概率密度的估計來選擇合適的非線性函數(shù)，使之盡量符合源信號的概率分布。該方法的缺點是如果對源信號的概率密度估計不準(zhǔn)確的話，會嚴(yán)重影響ICA算法的性能。本文從源信號的概率密度出發(fā)來改善ICA的性能，提出了一種基于二維小波變換的采用自然梯度算法作為學(xué)習(xí)算法的獨立分量分析方法。研究表明，近高斯分布的自然圖像在小波域高頻子帶的分布近似為超高斯的拉普拉斯分布。結(jié)合前面的討論，根據(jù)文獻(xiàn)【9】如果將混合圖像變換到二維小

14、波域，并對峭度更大的高頻子圖像進(jìn)行ICA分解，就可以獲得更高的分離精度。此外，由于高頻子圖像的大小為源圖像的，因此ICA分離的計算量大大減少，算法收斂的速度會更快。由于小波變換似一個線性變換，對式（1）和式（2）的兩邊分別進(jìn)行小波變換可得： (17) （18）其中表示小波變換。由此可見，如果我們將、和分別當(dāng)作新的源信號、混合信號和分離信號，則時域的混合矩陣和分離矩陣與小波域是一致的。因此在小波域得到的分離矩陣可直接用來分解原混合信號，從而得到原始信號，不需對小波域分離信號求反變換。本文采用基于小波變換的獨立分量分析方法進(jìn)行含有噪聲的混合圖像分離的具體步驟如下：（1）的每一行代表一幅混合圖像，將

15、的行還原成幅混合圖像，分別進(jìn)行二維小波變換得到幅子圖像，其中幅為低頻子圖像，3幅為高頻子圖像；（2）選擇某一方向（水平，垂直或?qū)欠较颍┑姆哳l子圖像，將其按行堆疊成矩陣形式，采用自然梯度算法對進(jìn)行ICA分解，得到分離矩陣和行向量相互獨立的分離圖像矩陣；（3）分離矩陣乘以時域混合圖像矩陣得到時域分離矩陣，將的每一行都還原成二維的圖像形式就可以得到幅獨立的源圖像。通常圖像的概率分布為近似高斯分布，而小波域高頻子圖像近似為拉普拉斯分布，拉普拉斯分布是一種超高斯分布，具有更大的峭度。所以該算法具有更高的分離精度和更快的收斂速度。5仿真實驗及分析本文取標(biāo)準(zhǔn)圖像Lena、rice、testpat，將它們

16、按逐行的方式轉(zhuǎn)化為相應(yīng)的3個一維信號，在隨機(jī)混合后加入高斯白噪聲，得到混合噪聲圖像。采用兩種方法對其進(jìn)行處理：第一種，直接對觀測信號進(jìn)行獨立分量分析；第二種，先對各路觀測信號進(jìn)行小波變換，再進(jìn)行獨立分量分析。 圖（1）源圖像圖（2）高斯白噪聲混合圖像圖（3）第一種方法所獲得的圖像圖（4）第二種方法所獲得的圖像對比圖（3）和（4）中兩種方法所分離出的圖像，主觀上可以看出第二種方法所獲得圖像效果要好于第一種方法。以客觀評價標(biāo)準(zhǔn)對分離結(jié)果進(jìn)行分析對比，分別計算分離圖像的峰值信噪比（PSNR）、以及與源圖像的相關(guān)系數(shù)，結(jié)果如表1所示。表1 采用兩種方法分離圖像的PSNR和相關(guān)系數(shù)PSNR相關(guān)系數(shù)第一種

17、方法第二種方法第一種方法第二種方法Lena.jpeg38693751.8632071250.9316rice.jpeg29691347.8916070590.9227Testpat.jpeg37396545.1573082870.9413對像素為的圖像，其定義為 （17）式中，和 分別為標(biāo)準(zhǔn)圖像與待評價圖像的第()個像素的灰度值。由上述實驗結(jié)果可知，第二種方法與第一種方法比較，峰值信噪比都有很大的提高，同時相關(guān)系數(shù)也有不同程度的提高。由此可見，本文所提出的小波變換和獨立分量相結(jié)合的方法取得了令人滿意的含噪混合圖像分離效果。6結(jié)束語 本文根據(jù)小波域高頻子圖像具有更大峭度的特點，提出了基于小波變換

18、的獨立分量分析對含噪混合圖像分離的方法。文中首先介紹了獨立分量分析算法思想和小波變換的方法，然后詳細(xì)闡述了具體分離方案，通過實驗和結(jié)果分析說明了本文方法的有效性，并得出以下結(jié)論：在各個源信號的概率密度分布相同時，ICA算法的精確度與源信號的峭度平方成正比。 1Comon P. Independent component analysis，A new conceptJ。Signal Processing，1994,36（3）:2873142Bell A J，Sejmowski T J。An information-maximization approach to blind separation

19、 and blind deconvolutionJ。Neural Computation，1995,7(6)-11593Lee T W，Girolam M，Sejnowski T J et al。Independent component analysis using an extended infomax algorithm for mixed subgaussian and supergaussian sourcesJ。Neural Computation，1999,11(2):417-4414Hyvarinen A，Lja E et al。A fast fixed-point algorithm for independent component analysisJ。Neural Computation，1997,9(7):1483-14925Hyvarinen A。Survey on Independen