【矩陣的LU分解、QR分解和奇異值分解的原理及應(yīng)用探究8100字（論文）】

矩陣的LU分解、QR分解和奇異值分解的原理及應(yīng)用研究目錄TOC\o"1-2"\h\u9697摘要 )其中，是矩陣A的正奇異值。2.4本章小結(jié)在這三種分解方法中，LU分解顯然是最為簡單的，不管是原理還是計(jì)算過程都會(huì)比其他兩種方法簡潔易懂，但是該方法只適用于方陣中，這給LU分解方法的普及帶來了不便；QR分解在LU分解的基礎(chǔ)上，將分解方法推及到了普通矩陣，對(duì)矩陣的行列數(shù)沒有要求，只要是列滿秩矩陣就可以運(yùn)用，而且其求解方法可以利用第三種初等變換來得到，對(duì)于初學(xué)者來說，也是一種不錯(cuò)的方法；奇異值分解相比于前兩種方法，在矩陣分解和其相關(guān)的領(lǐng)域應(yīng)用的要更廣泛一些，當(dāng)然，它的分解原理和分解過程更難懂一些，但是，奇異值分解是目前已知的最穩(wěn)定的分解方法，而且速度也不慢，所以，奇異值分解是比LU分解和QR分解更為理想的分解方法。

3.矩陣分解的理論應(yīng)用3.1LU分解的理論應(yīng)用在線性代數(shù)中，LU分解常用來解線性方程組，利用矩陣初等變換把方程組化為等解的三角形方程組，從而求出方程組的解。例1：利用LU分解求出下列方程組的解： （3.1）解：首先寫出增廣矩陣并實(shí)施行初等變換： （3.2）得到與原方程組等解的三角形方程組： （3.3）利用上式回代即可求出方程組的解。在求解過程中，實(shí)際上是先用L1左乘原方程組的增廣矩陣，再用L2左乘該增廣矩陣，進(jìn)而得到對(duì)應(yīng)的增廣矩陣： （3.4）若將原方程組的系數(shù)矩陣記作A，三角形方程組的系數(shù)矩陣記作U，則有或者；那么很容易就可以驗(yàn)證出 （3.5）令,則有而且。這表明矩陣A能夠分解為一個(gè)單位下三角矩陣與一個(gè)上三角矩陣的乘積，即矩陣的LU分解理論上的應(yīng)用是正確的。3.2QR分解的理論應(yīng)用例2：對(duì)于列滿秩矩陣 （3.6）求矩陣A的QR分解。解：首先將矩陣的列向量提取出來，令 （3.7）由Schmidt正交化方法得： （3.8） （3.9） （3.10）由此可以得到： （3.11）這里注意，實(shí)非奇異上三角矩陣R是由Schmidt正交化方法變形得到的， （3.12）所以在進(jìn)行QR分解計(jì)算時(shí)，一定要把計(jì)算步驟寫清楚，因?yàn)槊恳粋€(gè)系數(shù)都會(huì)成為矩陣的元素。通過驗(yàn)證可以知道，列滿秩矩陣A可以分解成列正交矩陣Q和實(shí)非奇異矩陣R的乘積，所以QR分解的理論上應(yīng)用是可行的。3.3奇異值分解的理論應(yīng)用當(dāng)矩陣A是一個(gè)復(fù)矩陣時(shí)，將矩陣A的共軛矩陣記作。奇異值分解有兩種方法，一種是利用矩陣進(jìn)行求解，一種是利用矩陣進(jìn)行求解。（1）利用矩陣求解利用矩陣求解首先求矩陣的酉相似矩陣V （3.13）記 （3.14）令 （3.15）擴(kuò)充U1為酉矩陣，構(gòu)造奇異值分解 （3.16）例3：求矩陣 （3.17）的奇異值分解。解：通過 （3.18）可以求出矩陣的特征值為對(duì)應(yīng)的特征向量依次為于是可得 （3.19）令，其中 （3.20）計(jì)算 （3.21）構(gòu)造，則有 （3.22）那么A的奇異值分解為 （3.23）（2）利用矩陣求解利用矩陣求解首先求矩陣的酉相似矩陣U （3.24）記 （3.25）令 （3.26）擴(kuò)充V1為酉矩陣，構(gòu)造奇異值分解 （3.27）例4：求矩陣 （2.28）的奇異值分解。解：利用可以得到的特征值對(duì)應(yīng)的特征向量依次為取，令 （3.29）取 （3.30）則有 （3.31）因此，就得到了 （3.32）奇異值分解是一種有著明顯物理意義的方法，它將一個(gè)比較復(fù)雜的矩陣分解成幾個(gè)簡單的小矩陣相乘，每一個(gè)小矩陣都描述了大矩陣的一個(gè)重要特征。通過驗(yàn)證，奇異值分解理論上是可以應(yīng)用的。3.4本章小結(jié)本章主要列舉了幾個(gè)例子，分別給出了LU分解、QR分解和奇異值分解在理論研究和數(shù)值分析上的應(yīng)用。LU分解在解線性方程組上面有不可代替的作用，過程簡潔快速，也可以結(jié)合Gauss消元法進(jìn)行處理；QR分解矩陣時(shí)主要利用的是Schmidt正交化方法，從而得到列正交矩陣Q和實(shí)非奇異矩陣R，注意要把過程寫清楚；奇異值分解在進(jìn)行數(shù)值計(jì)算時(shí)可以利用和兩種方法求解，相比起前兩種方法，奇異值分解會(huì)帶有更多的物理意義。

4.矩陣分解在圖像處理上的應(yīng)用4.1奇異值分解在矩陣壓縮的應(yīng)用原理在用數(shù)字理論做圖像處理時(shí)，通常將一幅圖像定義為一個(gè)二維的函數(shù)f(x，y)，其中(x，y)表示空間坐標(biāo)，在空間坐標(biāo)(x，y)點(diǎn)上的幅值f表示該點(diǎn)圖像的強(qiáng)度或者灰度。對(duì)于數(shù)字圖像而言，空間坐標(biāo)(x，y)和幅值f都是有限的、離散的，這樣的話，一幅圖像就可用一個(gè)二維函數(shù)表示。對(duì)于模擬圖像不利于計(jì)算機(jī)進(jìn)行處理，所以要將模擬圖像轉(zhuǎn)換成數(shù)字圖像，主要包括：取樣和量化。取樣就是將(x，y)坐標(biāo)值離散化，而量化就是將幅度值離散化，這樣取樣和量化的結(jié)果就是一個(gè)矩陣，可以表示為： （4.1）或者更一般的矩陣表達(dá)式為： （4.2）圖像壓縮的目的是減少圖像遺留在數(shù)據(jù)中的多余信息，使之得到更高效的格式存儲(chǔ)和數(shù)據(jù)傳輸，而數(shù)據(jù)可以壓縮的原因就在于數(shù)據(jù)中存在冗余信息。以數(shù)學(xué)的觀點(diǎn)來看，這一過程實(shí)際上就是將二維像素陣列變換為一個(gè)在統(tǒng)計(jì)上無關(guān)聯(lián)的數(shù)據(jù)集合，圖像壓縮是指以較少的比特有損或無損地表示原來的像素矩陣的技術(shù)，也稱圖像編碼。圖像壓縮可以是有損數(shù)據(jù)壓縮也可以是無損數(shù)據(jù)壓縮。對(duì)于如繪制的技術(shù)圖、圖表或者漫畫優(yōu)先使用無損壓縮，這是因?yàn)橛袚p壓縮方法，尤其是在低的位速條件下將會(huì)帶來壓縮失真。如醫(yī)療圖像或者用于存檔的掃描圖像等這些有價(jià)值的內(nèi)容的壓縮也盡量選擇無損壓縮方法。有損方法非常適合于自然的圖像，例如一些應(yīng)用中的圖像的微小損失是可以接受的(有時(shí)是無法感知的)，這樣就可以大幅度地減小位速。利用奇異值分解進(jìn)行圖像壓縮本質(zhì)上就是對(duì)原始圖像矩陣進(jìn)行奇異值分解，選取前k個(gè)較大的奇異值及其對(duì)應(yīng)的左右奇異矩陣來重構(gòu)圖像矩陣。用C表示原始圖像矩陣，對(duì)C進(jìn)行奇異值分解得到，其中奇異值按從大到小的順序排列。如果從中選擇k個(gè)大奇異值以及與這些奇異值對(duì)應(yīng)的左奇異向量逼近原始圖像，便可以使用共個(gè)數(shù)代替原來的個(gè)圖像數(shù)據(jù)。這個(gè)被選擇的新數(shù)據(jù)是矩陣C的前k個(gè)奇異值、左奇異矩陣U的前k列和右奇異矩陣V的前k列元素。定義 （4.3）為圖像的壓縮比。要達(dá)到圖像壓縮的目的，顯然要滿足即 （4.4）因此在傳送圖像的過程中，就不用再傳送原始圖像矩陣的個(gè)數(shù)據(jù)，只需要傳送個(gè)有關(guān)奇異值和奇異矩陣的數(shù)據(jù)。在接收端，將接收到的奇異值、奇異向量按截尾的奇異值分解公式 （4.5）即可重構(gòu)出原始圖像。4.2奇異值分解的圖像性質(zhì)每一個(gè)矩陣的奇異值是唯一的，它將矩陣數(shù)據(jù)的特征和分布很明顯地算了出來。矩陣的奇異值分解可以這樣理解：將當(dāng)做一種線性變換，它將m維空間的點(diǎn)映射到了n維的空間。通過奇異值分解，被分割成三部分，分別為U、和V。A為數(shù)字圖像，可視為二維時(shí)頻信息，可以將A的奇異值分解公式寫成 （4.6）其中和分別為U和V的列向量，為A的非零奇異值，因此上述公式所表示的數(shù)字圖像A可以看成是n個(gè)秩為1的子圖的相加的結(jié)果，奇異值為權(quán)系數(shù)。所以Ai也表示時(shí)頻信息，對(duì)應(yīng)的和可分別視為頻率矢量和時(shí)間矢量，則數(shù)字圖像A中的視頻信息就被分解到一系列由和構(gòu)成的視頻平面中。由矩陣范數(shù)理論可知，奇異值能與向量2-范數(shù)和矩陣F-范數(shù)相聯(lián)系。 （4.7） （4.8）若以F-范數(shù)的平方表示圖像的能量，則由矩陣的奇異值分解可得 （4.9）綜上可知，數(shù)字圖像A的紋理和幾何意義上的信息大都集中在U、中，而中的奇異值通常代表了圖像的能量信息。性質(zhì)1：矩陣的奇異值代表了圖像的能量信息，因此具有很高的穩(wěn)定性。設(shè)，，是矩陣A一個(gè)擾動(dòng)矩陣，A和B的非零奇異值分別記為：和，且，是中最大的一個(gè)，則有 （4.10）通過上面闡述可知，圖像在被小的擾動(dòng)所干擾的時(shí)候擾動(dòng)矩陣的最大奇異值一般情況下都大于圖像矩陣奇異值的變換，因此圖像奇異值的穩(wěn)定性很強(qiáng)。性質(zhì)2：矩陣的奇異值具有比例不變性。設(shè)，矩陣A的奇異值為，，矩陣kA的奇異值為則有 （4.11）性質(zhì)3：矩陣的奇異值具有旋轉(zhuǎn)不變性。設(shè)，矩陣A的奇異值為，。

如果是酉矩陣，則矩陣的奇異值與矩陣A的奇異值相同。性質(zhì)4：設(shè)，，若，則 （4.12）所以，可以由此得到 （4.13）由式（4.13）可以得出，在F-范數(shù)意義下，是在空間中的將秩最佳逼近。那么，可以根據(jù)需要保留s個(gè)大于某個(gè)閾值而舍棄其余個(gè)小于閾值的且保證兩幅圖像在某種意義下的近似，而這就是奇異值特征矢量的降維和數(shù)據(jù)壓縮的理論基礎(chǔ)。4.3應(yīng)用實(shí)例及結(jié)果展示了解奇異值分解在圖像壓縮中的應(yīng)用原理之后，就可以進(jìn)行實(shí)際操作。首先，將一張圖片轉(zhuǎn)化成數(shù)字矩陣，然后分析它的奇異值分布情況，得到下面圖1（詳細(xì)說明。圖1原始圖像的奇異值分布情況由圖1可以看出，原始圖像數(shù)字矩陣較大的奇異值大多分布在之前，也就是說，k增加到200以后，對(duì)圖像重構(gòu)的效果已經(jīng)沒有多大改善了。圖2是選取了幾個(gè)不同大小的k值，來比較k值大小對(duì)圖像重構(gòu)的影響。圖2中（a）是選取k=10個(gè)奇異值時(shí)的重構(gòu)圖像，可以看到圖像時(shí)非常模糊的，圖像的重構(gòu)效果并不是很好。圖2（b）是選取了50個(gè)奇異值時(shí)的重構(gòu)圖像，能看出圖像比（a）要清晰很多，但還是有一些模糊。圖2（c）是選取了k=100個(gè)奇異值時(shí)的重構(gòu)圖像，能看到這時(shí)的圖像已經(jīng)基本清晰了。圖2（d）是選取了k=200個(gè)奇異值時(shí)的重構(gòu)圖像，此時(shí)的圖像已經(jīng)基本接近原圖的清晰度了。圖2（e）是選取了k=300個(gè)奇異值時(shí)的重構(gòu)圖像，此時(shí)的圖像相比起（d）來說就沒有多大的差別了。圖2（f）是原始圖像。從上面的實(shí)驗(yàn)結(jié)果來看，當(dāng)選取的k值很小時(shí)，對(duì)圖像重構(gòu)的結(jié)果幫助不是很大，重構(gòu)的圖像效果也很不理想。隨著k值慢慢增大，重構(gòu)的圖像越來越接近原圖，效果越來越好。但是當(dāng)k值增大到一定數(shù)值的時(shí)候，再繼續(xù)增大k值，對(duì)重構(gòu)圖像的效果只有微小的提升了，因此，在實(shí)際的圖像壓縮過程中，要根據(jù)實(shí)際情況選取合適的k值，使壓縮比最大，避免因數(shù)值太小造成重構(gòu)效果不好，圖像過于模糊，也不要選取太大的數(shù)值，造成程序不必要的負(fù)擔(dān)。本章小結(jié)

5.結(jié)論本文介紹了矩陣的三種分解方法，首先介紹了矩陣的LU分解、QR分解和奇異值分解的基本原理和常用結(jié)論，然后舉例說明了三種不同方法在理論研究上的應(yīng)用，通過研究發(fā)現(xiàn)，LU分解簡便快捷，當(dāng)解多個(gè)系數(shù)矩陣為A的線性方程組時(shí)，具有優(yōu)越性，只要做一次矩陣分解，后面只要解三角形方程即可，但是要求必須是方陣，而且需要有可逆條件，普適性較低；QR分解速度是最快的，對(duì)于機(jī)器來說是一種負(fù)擔(dān)相對(duì)小一些的計(jì)算方法，而且相比于LU分解，QR分解將矩陣分解進(jìn)行了一步推廣，即非方陣的矩陣也可以使用QR分解方法進(jìn)行分解，但是QR分解相對(duì)來說沒有那么穩(wěn)定，當(dāng)矩陣數(shù)據(jù)過多或者結(jié)構(gòu)復(fù)雜時(shí)，容易出現(xiàn)問題；相比于前兩種分解方法來說，奇異值分解是目前求解最小二乘法最好的矩陣分解方法，普適性強(qiáng)于LU分解，又比QR分解要穩(wěn)定，速度也比較快，可以說是比較理想的一種算法。三種算法各有優(yōu)劣，可以根據(jù)具體的情況來選擇不同的分解方法。后面將奇異值分解應(yīng)