特征值分解及奇異值分解在數(shù)字圖像中的應(yīng)用

1、特征值分解及奇異值分解在數(shù)字圖像中的應(yīng)用摘要：目前，隨著科學(xué)技術(shù)的高速發(fā)展，現(xiàn)實生活中有大量的信息用數(shù)字進(jìn)行存儲、處理和傳送。而傳輸帶寬、速度和存儲器容量等往往有限制，因此數(shù)據(jù)壓縮就顯得十分必要。數(shù)據(jù)壓縮技術(shù)已經(jīng)是多媒體發(fā)展的關(guān)鍵和核心技術(shù)。圖像文件的容量一般都比較大，所以它的存儲、處理和傳送會受到較大限制，圖像壓縮就顯得極其重要。當(dāng)前對圖像壓縮的算法有很多，特點各異，類似 JPEG 等許多標(biāo)準(zhǔn)都已經(jīng)得到了廣泛的應(yīng)用。本文在簡單闡述了矩陣特征值的數(shù)值求解理論之后，介紹了幾種常用的求解矩陣特征值的方法，并最終將特征值計算應(yīng)用到圖像壓縮中。以及奇異值分解(Singular Value Decomp

2、osition ，SVD) 。奇異值分解是一種基于特征向量的矩陣變換方法，在信號處理、模式識別、數(shù)字水印技術(shù)等方面都得到了應(yīng)用。由于圖像具有矩陣結(jié)構(gòu)，有文獻(xiàn)提出將奇異值分解應(yīng)用于圖像壓縮2，并取得了成功，被視為一種有效的圖像壓縮方法。本文在奇異值分解的基礎(chǔ)上進(jìn)行圖像壓縮。關(guān)鍵詞：特征值數(shù)值算法；奇異值分解；矩陣壓縮；圖像處理引言矩陣的特征值計算雖然有比較可靠的理論方法，但是，理論方法只適合于矩陣規(guī)模很小或者只是在理論證明中起作用，而實際問題的數(shù)據(jù)規(guī)模都比較大，不太可能采用常規(guī)的理論解法。計算機擅長處理大量的數(shù)值計算，所以通過適當(dāng)?shù)臄?shù)值計算理論，寫成程序，讓計算機處理，是一種處理大規(guī)模矩陣的方法

3、，而且是一種好的方法。常用的特征值數(shù)值方法包括冪法、反冪法、雅克比方法、QR分解法等。其中，冪法適用于求解矩陣絕對值最大的特征值，反冪法適合求解矩陣的逆矩陣的特征值，雅克比方法適合求解對稱矩陣的特征值，QR分解法主要使用于求中小型矩陣以及對稱矩陣的全部特征值。矩陣乘以一個向量的結(jié)果仍是同維數(shù)的一個向量。因此，矩陣乘法對應(yīng)了一個變換，把一個向量變成同維數(shù)的另一個向量，變換的效果當(dāng)然與方陣的構(gòu)造有密切關(guān)系。圖像壓縮處理就是通過矩陣?yán)碚摐p少表示數(shù)字圖像時需要的數(shù)據(jù)量，從而達(dá)到有效壓縮。數(shù)字圖像的質(zhì)量很大程度上取決于取樣和量化的取樣數(shù)和灰度級。取樣和量化的結(jié)果是一個實際的矩陣。圖像壓縮是數(shù)據(jù)壓縮技術(shù)在

4、數(shù)字圖像上的應(yīng)用，它的目的是減少圖像數(shù)據(jù)中的冗余信息從而用更加高效的格式存儲和傳輸數(shù)據(jù)。圖像數(shù)據(jù)之所以能被壓縮，就是因為數(shù)據(jù)中存在著冗余。圖像數(shù)據(jù)的冗余主要表現(xiàn)為：圖像中相鄰像素間的相關(guān)性引起的空冗余；圖像序列中不同幀之間存在相關(guān)性引起的時間冗余；不同彩色平面或頻譜帶的相關(guān)性引起的頻譜冗余。圖像矩陣A的奇異值（Singular Value）及其特征空間反映了圖像中的不同成分和特征。奇異值分解是一種基于特征向量的矩陣變換方法，在信號處理、模式識別、數(shù)字水印技術(shù)等方面都得到了應(yīng)用。本文中我們主要討論矩陣特征值求解及奇異值分解在圖像壓縮上的應(yīng)用。特征值分解及奇異值分解在數(shù)字圖像中的應(yīng)用一特征值在圖像

5、處理中的應(yīng)用1特征值求解的數(shù)值方法我們首先介紹幾種常用的求解特征值的數(shù)值方法。（1） 冪法。冪法就是求矩陣的絕對值最大的特征值和相應(yīng)特征向量的方法。如果是矩陣A的特征值，并且其絕對值比A的任何其他特征值的絕對值大，則稱它為主特征值。相應(yīng)于主特征值的特征向量稱為主特征向量。如果特征向量V中絕對值最大的分量為1，則稱其是歸一化的。設(shè)矩陣A有一個主特征值，而且對應(yīng)于有唯一的歸一化特征向量V，通過下面稱為冪法的迭代過程可求出特征對，V。從初始向量開始，用如下遞歸公式遞歸生成序列，其中是絕對值最大的分量。序列和將分別收斂到V和：，注：如果是個特征向量且，則必須選擇其他初始向量（2）反冪法。反冪法可以用來

6、計算矩陣絕對值最小的特征值及其對應(yīng)的特征向量。設(shè)A是n階非奇異矩陣，有n個線性無關(guān)的特征向量，它們對應(yīng)于特征值，滿足不等式，其中。因為A非奇異，所以 ，由得。所以的特征值是A的特征值的倒數(shù)。計算A的絕對值最小的特征值的問題就是計算絕對值最大的特征值的問題，于是可用冪法求出的絕對值最大的特征值，即A的絕對值最小的特征值。計算方法如下。其中為初始向量。（3）雅克比方法。雅克比方法的基本思想是通過一系列的由平面旋轉(zhuǎn)矩陣構(gòu)成的正交變換將實對稱矩陣逐步化為對角陣，從而得到全部特征值及其相應(yīng)的特征向量。2矩陣的特征值求解在圖像壓縮中的應(yīng)用利用矩陣分解以及矩陣特征值的求解方法，可以將其應(yīng)用到很多方面，例如矩

7、陣壓縮、馬爾科夫過程、天氣預(yù)報等等，我們這里簡單介紹其在圖像壓縮方面的應(yīng)用。矩陣的壓縮是指利用矩陣的分解之后，提取特征值較大的特征值，舍棄比較小的特征值。還是因為在矩陣?yán)碚撝校卣髦荡砹诵畔⒘?，所以保留比較大的特征值、舍棄比較小的特征值，可以達(dá)到矩陣壓縮的目的。而圖像壓縮由于使用特征值分解壓縮圖片存在著不可靠性，所以采用一種新的矩陣分解方法來提取數(shù)字圖像的特征信息，那就是矩陣的奇異值分解。奇異值分解非常有用，對于矩陣，存在，滿足。U和V中分別是A的奇異向量，而S是A的奇異值。的正交單位特征向量組成U，特征值組成，的正交單位特征向量組成V，特征值（與相同）組成。因此，奇異值分解和特征值問題緊密

8、聯(lián)系。把獲得的奇異值，取其中比較大的（類同特征值的提取壓縮方法）奇異值，然后使用同樣的方法，進(jìn)行壓縮，其本質(zhì)其實還是使用類似矩陣分解，然后提取特征的方法，讓比較小的奇異值舍去，以達(dá)到數(shù)字圖像壓縮的目的。使用普通相機拍攝的圖像A (見圖1)，大小為256×256。圖1使用普通相機拍攝的圖像由于大的奇異值對圖像的貢獻(xiàn)大，所以可以從r個奇異值中選取k個生成矩陣近似表示圖像A，即?。河媒票硎緢D像A，其中是奇異值， ，分別是U，V的分量。存儲圖像A需要個數(shù)值，存儲圖像需個數(shù)值，取就可以達(dá)到壓縮圖像的目的。以下是不同壓縮比例的圖像。提取500個奇異值后的壓縮圖像如圖2；提取300個奇異值后的壓

9、縮圖像如圖3；提取100個奇異值后的壓縮圖像如圖4，圖像比較模糊，說明奇異值個數(shù)不可以取得過少。 圖2提取500個奇異值后的壓縮圖像 圖3提取300個奇異值后的壓縮圖像圖4提取100個奇異值后的壓縮圖像二奇異值在圖像處理中的應(yīng)用1. 矩陣奇異值分解定義設(shè)A是秩為r的復(fù)矩陣，的特征值為  則稱為A的奇異值。 易見，零矩陣的奇異值都是零，矩陣A的奇異值的個數(shù)等于A的列數(shù)，A的非零奇異值的個數(shù)等于其秩。 矩陣的奇異值具有如下性質(zhì)： （1）A為正規(guī)矩陣時，A的奇異值是A的特征值的模； （2）A為半正定的Hermite矩陣時，A的奇異值是A的特征值；&#

10、160;（3）若存在酉矩陣， ，矩陣，使，則稱和B酉等價。酉等價的矩陣和B有相同的奇異值。2. 奇異值分解定理 設(shè)A是秩為r(r>0)>的復(fù)矩陣，則存在m階酉矩陣U與n階酉矩陣V，使得 D                   其中為矩陣A的全部非零奇異值。 3. 奇異值分解的圖像性質(zhì)任意一個矩陣的奇異值是唯一的，它刻畫了矩陣數(shù)據(jù)的分布特征。直觀上，可以這樣理解矩陣的奇異值分解

11、：將矩陣A看成是一個線性變換，它將m維空間的點映射到n維空間。 經(jīng)過奇異值分解后，這種變換被分割成 3 個部分，分別為U、和V。其中U和V都是標(biāo)準(zhǔn)正交矩陣。若A為數(shù)字圖像，則 A可視為二維時頻信息，可將A 的奇異值分解公式寫為：其中，和分別是U 和V 的列矢量，是A 的非零奇異值。故上式表示的數(shù)字圖像 可以看成是r個秩為 1 的子圖疊加的結(jié)果，而奇異值為權(quán)系數(shù)。所以也表示時頻信息，對應(yīng)的 和 可分別視為頻率矢量和時間矢量，因此數(shù)字圖像A 中的時頻信息就被分解到一系列由 和 構(gòu)成的視頻平面中。由矩陣范數(shù)理論， 奇異值能與向量2-范數(shù)和矩陣Frobenious-范數(shù)(F-范數(shù))相聯(lián)系。若

12、以F-范數(shù)的平方表示圖像的能量，則由矩陣奇異值分解的定義知：也就是說，數(shù)字圖像A經(jīng)奇異值分解后，其紋理和幾何信息都集中在U、之中，而中的奇異值則代表圖像的能量信息。性質(zhì)1：矩陣的奇異值代表圖像的能量信息，因而具有穩(wěn)定性。性質(zhì)2：矩陣的奇異值具有比例不變性。性質(zhì)3：矩陣的奇異值具有旋轉(zhuǎn)不變性。性質(zhì)4：設(shè)，。若，所以可得：上式表明，在F-范數(shù)意義下，是在空間（秩為s的維矩陣構(gòu)成的線性空間）中A的一個將秩最佳逼近。因此可根據(jù)需要保留s(s<r)個大于某個閾值的而舍棄其余r-s個小于閾值的且保證兩幅圖像在某種意義下的近似。這就為奇異值特征矢量的降維和數(shù)據(jù)壓縮等應(yīng)用找到了依據(jù)。4. 圖像的奇異值分

13、解壓縮方法 4.1  奇異值分解壓縮原理分析 用奇異值分解來壓縮圖像的基本思想是對圖像矩陣進(jìn)行奇異值分解，選取部分的奇異值和對應(yīng)的左、右奇異向量來重構(gòu)圖像矩陣。根據(jù)奇異值分解的圖像性質(zhì)1和4可以知道，奇異值分解可以代表圖像的能量信息，并且可以降低圖像的維數(shù)。如果A表示n個m維向量，可以通過奇異值分解將A表示m+n為個r維向量。A的秩遠(yuǎn)遠(yuǎn)小于m和n，則通過奇異值分解可以大大降低A的維數(shù)。 對于一個像素的圖像矩陣，其中，。按奇異值從大到小取k個奇異值和這些奇異值對應(yīng)的左奇異向量及右奇異向量重構(gòu)原圖像矩陣A。如果選擇的，這是無損的壓縮；基于奇異值分解的圖像壓縮

14、討論的是，即有損壓縮的情況。這時，可以只用個數(shù)值代替原來的個圖像數(shù)據(jù)。這個數(shù)據(jù)分別是矩陣A的前k個奇異值，´左奇異向量矩陣U的前k列和右奇異向量矩陣V的前k列元素。 比率：稱為圖像的壓縮比。顯然，被選擇的奇異值的個數(shù)k應(yīng)該滿足條件，即。故在傳送圖像的過程中，不需要傳個數(shù)據(jù)，而只需要傳個有關(guān)奇異和奇異向量的數(shù)據(jù)即可。接收端，在接收到奇異值，以及左異向量和右奇異向量后，可以通過重構(gòu)出原圖像矩陣。與的誤差為： 某個奇異值對圖像的貢獻(xiàn)可以定義為，對一幅圖像來說，較大的奇異值對圖像信息的貢獻(xiàn)量較大，較小的奇異值對圖像的貢獻(xiàn)較小。假如接近1，該圖像的主要信息就包含在之中。通常

15、圖像的奇異值都具“大L 曲線”，只有不多的一些比較大的奇異值，其它的奇異值相對較小，因此一般只需要比較小的k 就使接近1。在滿足視覺要求的基礎(chǔ)上，按奇異值的大小選擇合適的奇異值個數(shù)k<r，就可以通過將圖像恢復(fù)。k越小，用于表示的數(shù)據(jù)量就小，壓縮比就越大，而k越接近r，則與就越相似。在一些應(yīng)用場合中，如果是規(guī)定了壓縮比，則可以由式求出k，這時也同樣可以求出。4.2 奇異值分解壓縮應(yīng)用過程 在對圖像進(jìn)行操作時，因為矩陣的維數(shù)一般較大，直接進(jìn)行奇異值分解運算量大， 可以將圖像分解為子塊，對各子塊進(jìn)行奇異值分解并確定奇異值個數(shù)，將每個子塊進(jìn)行重構(gòu)。這樣操作

16、除了因為對較小型的矩陣進(jìn)行奇異值分解的計算量比較小外，另一方面是為了利用原始圖像的非均勻的復(fù)雜性。如果圖像的某一部分比較簡單，那么只需要少量的奇異值，就可以達(dá)到滿意的近似效果。 為了保證圖像的質(zhì)量就需要較多的奇異值。但是各個子塊的奇異值數(shù)目， 大小各不相同， 因此可以考慮為每個子塊自適應(yīng)的選擇適當(dāng)?shù)钠娈愔禂?shù)目。一種簡單的方法是定義奇異值貢獻(xiàn)量的和來選擇k，其中a是一個接近1的數(shù)。對常見的256 ×256 。bmp格式的圖像（位圖），劃分為4×4個子塊，每個子塊大小為6×64。對每個子塊根據(jù)來選擇所需要的奇異值數(shù)目。

17、增大a的值來選擇奇異值數(shù)目，可以推理得隨著a不斷增大，視覺效果越來越好。隨著a不斷增大， 需要的奇異值也增多， 壓縮比會減小。結(jié)論第一，特征值的應(yīng)用不僅僅在于圖像處理上，在物理、材料、力學(xué)等方面都有各種應(yīng)用。有人曾在書里這樣說過“有振動的地方就有特征值和特征向量”，以后我們將進(jìn)一步探討矩陣?yán)碚摷捌湎嚓P(guān)應(yīng)用。第二，用奇異值分解進(jìn)行圖像壓縮，肯定能取得成功，也具有較好的應(yīng)用價值，但仍然可對子塊的劃分采取更加有效的方法來完成。例如對規(guī)模很大的矩陣，隨機抽取矩陣的某些行列得到規(guī)模較小的矩陣，計算小矩陣的奇異值，重復(fù)若干次，用這些小矩陣的奇異值逼近原始矩陣的奇異。另外，若已知圖像矩陣的奇異值及其特征空間，一般認(rèn)為較大的奇異值及其對應(yīng)的奇異向量表示圖像信號，而噪聲反映在較小的奇異值及其對應(yīng)的奇異向量上。依據(jù)一定的準(zhǔn)則選擇門限，低于該門限的奇異值置零(截斷) ，然后通過這些奇異