矩陣的因子分解

1、矩陣的因子分解第1頁，共100頁，2022年，5月20日，9點20分，星期五 數(shù)據(jù)集中可能包含大量特征，維災(zāi)難使得數(shù)據(jù)分析很困難，1.維歸約（降維）：利用舊屬性的線性組合得到新屬性，使得新屬性相互正交，捕獲到數(shù)據(jù)的最大變差（PCA：主成分分析(principle components analysis)和SVD）2.選擇特征子集：嵌入（決策樹分類其），過濾和包裝（搜索，特征加權(quán)等）第2頁，共100頁，2022年，5月20日，9點20分，星期五 矩陣的各種分解在矩陣計算中也扮演相當(dāng)重要的角色。由于變換即矩陣，所以各種分解從根本上看是各種變換，其目的是將矩陣變換成特殊的矩陣。第3頁，共100頁，2

2、022年，5月20日，9點20分，星期五 4.2 矩陣的滿秩分解滿秩分解定理：設(shè) 為任意矩陣，則存在 使得 A=BC,其中B為列滿秩矩陣,C為行滿秩矩陣.任一非（行或列）滿秩的非零矩陣可表示為一列滿秩矩陣和一行滿秩矩陣的積；B的列可取為A的列的任一極大線性無關(guān)組；C可取為其行為A的行所生成的空間的基, 然后用定理確定矩陣B。應(yīng)用于極小最小二乘解和極小范數(shù)最小二乘解的算法中。 第4頁，共100頁，2022年，5月20日，9點20分，星期五例1 求下面矩陣的滿秩分解解 思路：對矩陣A實施初等行變換得簡化階梯形矩陣H（階梯型的非零行的第一個非零元為1，其所在的列其它元素為0）,取A的r個使H陣滿秩的

3、列為B，將H全為零的行去掉后即可構(gòu)成行滿秩矩陣C。第5頁，共100頁，2022年，5月20日，9點20分，星期五由此可知rank(A)=2，且該矩陣第一列、第三列是線性無關(guān)的。選取第6頁，共100頁，2022年，5月20日，9點20分，星期五同樣，我們也可以選取 由上述例子可以看出矩陣的滿秩分解形式并不唯一。但是不同的分解形式之間有如下聯(lián)系：注：如果 均為矩陣A 的滿秩分解，那么存在矩陣 滿足第7頁，共100頁，2022年，5月20日，9點20分，星期五則稱其為A的 LU 分解或三角分解。4.3 矩陣的三角分解定義1 如果方陣A可以分解成一個單位下三角矩陣L與一個上三角矩陣U的乘積第8頁，共1

4、00頁，2022年，5月20日，9點20分，星期五初等下三角矩陣第9頁，共100頁，2022年，5月20日，9點20分，星期五初等下三角矩陣性質(zhì)(1)det(Li)=1, 第10頁，共100頁，2022年，5月20日，9點20分，星期五(2)用初等下三角矩陣左乘矩陣A，等于將A的第i行依次乘以-li+1i,-lni 分別加到第i+1行到第n行上去。(3)設(shè)A=(aij) nn,且a jj 0，并且取 則LiA在(i+1,j),(i+2,j)(n,j)的位置上為0第11頁，共100頁，2022年，5月20日，9點20分，星期五(4)第12頁，共100頁，2022年，5月20日，9點20分，星期五

5、定理1 ( LU分解定理 ) 設(shè)A是n階非奇異矩陣，則存在唯一的單位下三角矩陣L（主對角線上元素全為1的下三角矩陣）與唯一的上三角矩陣U ，使得的充要條件是A的所有順序主子式均非零，即矩陣的LU分解也稱為Doolitte分解若L為下三角矩陣,U為單位上三角矩陣,稱為Crout分解。第13頁，共100頁，2022年，5月20日，9點20分，星期五定理2 ( LDU分解定理 ) 設(shè)A是n階非奇異矩陣，則存在唯一的單位下三角矩陣L，對角矩陣D=diag(d1,d2,dn)和單位上三角矩陣U ，使得 A=LDU的充要條件是A的所有順序主子式均非零，即第14頁，共100頁，2022年，5月20日，9點2

6、0分，星期五矩陣的LU分解方法 矩陣的LU分解方法有很多種，這里主要介紹初等行變換消元法 步驟： 1. 通過初等行變換將A化為上三角矩陣U： （A，I）（U，L1） 2.取L= ：因為L1是一系列初等下三角矩陣乘積（對應(yīng)初等行變換），所以L是單位下三角矩陣。第15頁，共100頁，2022年，5月20日，9點20分，星期五例 1 求下列矩陣的LU分解：第16頁，共100頁，2022年，5月20日，9點20分，星期五解：從而得 這里第17頁，共100頁，2022年，5月20日，9點20分，星期五因為所以第18頁，共100頁，2022年，5月20日，9點20分，星期五1. 即使矩陣A非奇異，如果A不

7、滿足前n-1個順序主子式非零，未必能做LU分解，2.適當(dāng)改變非奇異矩陣的行的次序，可使改變后的矩陣做LU分解，引入排列陣的概念說明第19頁，共100頁，2022年，5月20日，9點20分，星期五定義1 設(shè)e1, e2, en是n階單位矩陣I的n個列向量，矩陣P=(ei1, ei2, , ein )稱為一個n階排列陣，其中i1, i2, in是1,2n的一個排列.P是排列陣的充要條件是P為一系列形如P(i,j)的初等交換矩陣的乘積.第20頁，共100頁，2022年，5月20日，9點20分，星期五排列陣的性質(zhì)：1. P是排列陣，則PT和P-1也是排列陣，且PT=P-12. P1 ，P2是排列陣，則

8、P1P2是排列陣3.即：用排列陣左乘矩陣A相當(dāng)于將A的行按照排列陣的次序重排，右乘對A的列按排列陣的次序重排。第21頁，共100頁，2022年，5月20日，9點20分，星期五引理1 設(shè)A是n階非奇異矩陣，則存在排列陣P，使得PA的所有順序主子式要條件均非零。定理3 設(shè)A是n階非奇異矩陣，則存在排列陣P，使得 PA=LDU所其中L是單位下三角矩陣，U是單位上三角矩陣，D是對角矩陣。第22頁，共100頁，2022年，5月20日，9點20分，星期五三角方程組易于求解矩陣LU分解的一個應(yīng)用解線性方程組第23頁，共100頁，2022年，5月20日，9點20分，星期五定理 設(shè)矩陣A對稱正定，則存在唯一的對

9、角元為正的下三角陣 L，使得 稱為對稱正定矩陣A的喬累斯基分解 利用喬累斯基（Cholesky）分解式來求解Ax=b的方法也稱Cholesky方法或平方根法 MATLAB函數(shù)：Chol(A)；lu(A)是求矩陣的LU分解函數(shù)喬累斯基（Cholesky）分解第24頁，共100頁，2022年，5月20日，9點20分，星期五4.4 QR分解 QR分解在矩陣計算中占據(jù)相當(dāng)重要的地位。利用QR分解，可以解決各種應(yīng)用中（例如圖像壓縮處理、結(jié)構(gòu)分析等）出現(xiàn)的最小二乘問題、特征值問題等矩陣計算中的核心問題。以初等變換為工具的三角分解無法消除病態(tài)矩陣的不穩(wěn)定性，因此引入以正交變換為工具的QR分解方法第25頁，共

10、100頁，2022年，5月20日，9點20分，星期五定理1 ( QR分解定理 ) 設(shè)A是n階非奇異實（復(fù)）矩陣，則存在正交（酉）矩陣Q與非奇異實（復(fù)）上三角矩陣R ，使得 A=QR且除去相差一個對角元絕對值全等于1的對角矩陣因子，分解式是唯一的。矩陣的QR分解也稱為正交三角分解；若規(guī)定上三角矩陣R的對角元符號，則A的QR分解唯一。第26頁，共100頁，2022年，5月20日，9點20分，星期五證明：先證明分解的存在性。將矩陣A按列分塊得到由于 ，所以 是線性無關(guān)的。利用Schmidt正交化與單位化方法，先得到一組正交向量組再單位化，這樣得到一組標(biāo)準(zhǔn)正交向量組并且向量組之間有如下關(guān)系第27頁，共

11、100頁，2022年，5月20日，9點20分，星期五于是有第28頁，共100頁，2022年，5月20日，9點20分，星期五為正交矩陣。證畢第29頁，共100頁，2022年，5月20日，9點20分，星期五唯一性：設(shè)A=QR=Q1R1,則 Q=Q1R1R-1=Q1D，其中D=R1R-1為非奇異上三角矩陣，于是I=QHQ=(Q1D)H(Q1D)=DHD所以D為酉矩陣，比較DHD= DDH=I的對角元，可得D為對角矩陣，且對角元的模為1，于是R1=DR,Q1=QD-1證畢第30頁，共100頁，2022年，5月20日，9點20分，星期五定理2 設(shè)A是列滿秩的mn實（復(fù)）矩陣，則存在m階正交（酉）矩陣Q和

12、n階非奇異實（復(fù)）上三角矩陣R，使得定理3 設(shè)A是mn矩陣，且rank(A)=r0,則存在m階正交（酉）矩陣Q和r n階行滿秩矩陣R，使得非奇異矩陣的QR分解的推廣：第31頁，共100頁，2022年，5月20日，9點20分，星期五推論 設(shè)A是mn矩陣，且rank(A)=r0,則存在mr列正交規(guī)范矩陣Q1和rn行滿秩矩陣R，使得 A=Q1R，列正交規(guī)范矩陣指的是mr矩陣Q1滿足 。矩陣Q1是列正交規(guī)范矩陣的充要條件是Q1的列向量組是標(biāo)準(zhǔn)正交向量組第32頁，共100頁，2022年，5月20日，9點20分，星期五一、Schmidt 方法步驟：1.將矩陣A的列向量1， 2 ， n施以Schmidt標(biāo)準(zhǔn)

13、正交化,得到1， 2 ， n 標(biāo)準(zhǔn)正交組：2.取Q=(1， 2 ， n )，則Q為正交矩陣 3. 取R=QTA矩陣的QR分解方法第33頁，共100頁，2022年，5月20日，9點20分，星期五例1 利用Schmidt 方法將下列矩陣進行QR分解：第34頁，共100頁，2022年，5月20日，9點20分，星期五解 先將A= 1， 2 ， 3 的三個列向量正交化與單位化：第35頁，共100頁，2022年，5月20日，9點20分，星期五所以A的QR分解為：A=QR第36頁，共100頁，2022年，5月20日，9點20分，星期五從而1. 取A的列向量1， 2 ， n，對1，由Householder矩陣

14、性質(zhì)知存在Householder 矩陣H1，使得（為方便說明，不妨取負(fù)號）二、Householder 變換法步驟：第37頁，共100頁，2022年，5月20日，9點20分，星期五從而2.對 ，當(dāng) 時，存在Householder 矩陣H2，使得第38頁，共100頁，2022年，5月20日，9點20分，星期五則得取如果 ，則 ，直接進行下一步。第39頁，共100頁，2022年，5月20日，9點20分，星期五使得3.對An-2 繼續(xù)類似的變換，如此最多n-1步，也即至多可以找到n-1個矩陣令Q=Hn-1H2H1，則Q為正交矩陣，從而得到QR分解第40頁，共100頁，2022年，5月20日，9點20分

15、，星期五例2 利用Householder變換將下列矩陣進行QR分解第41頁，共100頁，2022年，5月20日，9點20分，星期五對向量 ，令解：從而得Householder 矩陣第42頁，共100頁，2022年，5月20日，9點20分，星期五使得 注意 ，即 被 反射到對向量 ，令可得Householder 矩陣第43頁，共100頁，2022年，5月20日，9點20分，星期五因此取從而有第44頁，共100頁，2022年，5月20日，9點20分，星期五所求的QR分解為第45頁，共100頁，2022年，5月20日，9點20分，星期五定義1 設(shè)A，B Rnn (Cnn),若存在n階正交（酉）矩陣U

16、使得 UTAU=U-1AU=B（UHAU=U-1AU=B），稱A正交（酉）相似B。4.5 Schur 定理和正規(guī)矩陣 (Schur theory and Normal Matrices)定理1（Schur定理） 任何一個n階復(fù)矩陣A都酉相似于一個上三角矩陣，即存在一個n階酉矩陣U和一個n階上三角矩陣R使得 UHAU=R其中R的對角元是A的特征值，可以按要求的順序排列第46頁，共100頁，2022年，5月20日，9點20分，星期五定義2 設(shè)ACnn，若AHA=AAH，稱A為正規(guī)矩陣。常見的正規(guī)矩陣：對角矩陣;對稱和反對稱矩陣：AT=A，AT=A。Hermite矩陣和反Hermite矩陣：AH=A

17、，AH=A正交矩陣和酉矩陣：ATA=AAT=I，AHA=AAH=I。正規(guī)矩陣第47頁，共100頁，2022年，5月20日，9點20分，星期五正規(guī)矩陣的性質(zhì)：1.正規(guī)矩陣有n個線性無關(guān)的特征向量；2.正規(guī)矩陣屬于不同特征值的特征向量是正交的；3.與正規(guī)矩陣酉相似的矩陣都是正規(guī)矩陣。第48頁，共100頁，2022年，5月20日，9點20分，星期五由定理2 若A是n階正規(guī)矩陣，則A酉相似于一個對角陣，即存在一個n階酉矩陣U使得 UHAU=，其中=diag(1 , n),i(i=1,2,n)是A的特征值。該式稱為正規(guī)矩陣的譜分解式.正規(guī)是酉相似的不變性質(zhì)定理2 n階矩陣A酉相似于一個對角陣的充要條件是

18、A是正規(guī)矩陣。第49頁，共100頁，2022年，5月20日，9點20分，星期五即i是矩陣 A的特征值i所對應(yīng)的單位特征向量。設(shè)U=(1, 2, n),則由定理2知 UHAU=diag(1 , n),可得即Ai= i i（1,2,n）求譜分解式的步驟第50頁，共100頁，2022年，5月20日，9點20分，星期五例1 ：求正規(guī)矩陣的譜分解表達(dá)式。解：首先求出矩陣A 的特征值與特征向量。容易計算第51頁，共100頁，2022年，5月20日，9點20分，星期五從而A的特征值為 1=2= 3=1, 4=-3當(dāng)=1時，求得三個線性無關(guān)的特征向量為 1=1,1,0,0T 2=1,0,1,0T 3=-1,0

19、,0,1T第52頁，共100頁，2022年，5月20日，9點20分，星期五當(dāng)=-3時，求得一個線性無關(guān)的特征向量為 4=1,-1,-1,1T將 1,2,3正交化與單位化可得第53頁，共100頁，2022年，5月20日，9點20分，星期五將4單位化可得：于是有這樣可得其譜分解表達(dá)式為A=UUH第54頁，共100頁，2022年，5月20日，9點20分，星期五推論1 設(shè)A是n階Hermite矩陣，則A必酉相似于對角矩陣，即存在一個n階酉矩陣U使得 UHAU=，其中=diag(1 , n),i(i=1,2,n)是A的實特征值。該分解式稱為Hermite矩陣A的譜分解式。第55頁，共100頁，2022年

20、，5月20日，9點20分，星期五是一種通用的降維工具。在我們處理高維數(shù)據(jù)的時候，為了能降低后續(xù)計算的復(fù)雜度，在“預(yù)處理”階段通常要先對原始數(shù)據(jù)進行降維。原則：降維后的數(shù)據(jù)不能失真，也就是說，被PCA降掉的那些維度只能是那些噪聲或是冗余的 目的就是“降噪”和“去冗余”?！敖翟搿钡哪康木褪鞘贡Ａ粝聛淼木S度間的相關(guān)性盡可能小，“去冗余”的目的就是使保留下來的維度含有的“能量”盡可能大。著名的PCA（Principal Component Analysis）第56頁，共100頁，2022年，5月20日，9點20分，星期五形成樣本矩陣S Nd，假設(shè)我們有一個樣本集X，里面有N個樣本，每個樣本的維度為d。

21、即：即每行為一個樣本，每一列為一個維度，得到樣本矩陣S著名的PCA（Principal Component Analysis）第57頁，共100頁，2022年，5月20日，9點20分，星期五2. 計算樣本矩陣的協(xié)方差矩陣；協(xié)方差矩陣度量的是維度與維度之間的關(guān)系，主對角線上的元素是各個維度上的方差(即能量)，其他元素是兩兩維度間的協(xié)方差(即相關(guān)性)。著名的PCA（Principal Component Analysis）第58頁，共100頁，2022年，5月20日，9點20分，星期五3. （1）去噪對協(xié)方差矩陣S進行譜分解，去不同維度的相關(guān)性（非對角元素化為0）找到一個正交矩陣P，滿足（2）降維

22、 選取中最大的p個特征值對應(yīng)的特征向量組成投影矩陣P1： 取最大的前p(p0,稱i為A的正奇異值。另一種定義：第65頁，共100頁，2022年，5月20日，9點20分，星期五定理1：正規(guī)矩陣A的奇異值等于A的特征值的模長。證：根據(jù)正規(guī)矩陣的性質(zhì)，知存在酉矩陣U使得 A=Udiag(1, 2,n )UH,其中1, 2,n是A的特征值，所以AHA=Udiag(|1|2, |2|2 , |n|2 )UH所以A的奇異值為|1|,|2| ,|n| #第66頁，共100頁，2022年，5月20日，9點20分，星期五定理2 （奇異值分解定理） 設(shè)AC mn，秩（A）=r，則存在m階酉矩陣V和n階酉矩陣U使得

23、 其中=diag(1, r),且1 r0.第67頁，共100頁，2022年，5月20日，9點20分，星期五1.U的列向量是AHA的標(biāo)準(zhǔn)正交特征向量；（也稱為懸掛矩陣）2.U的前r列向量是AHA對應(yīng)于r個非零特征值12，r2的標(biāo)準(zhǔn)正交特征向量；3.V的列向量是AAH的標(biāo)準(zhǔn)正交特征向量；（也稱為對準(zhǔn)矩陣）4.V的前r列向量是AHA對應(yīng)于特征值12，r2的標(biāo)準(zhǔn)正交特征向量；注記：第68頁，共100頁，2022年，5月20日，9點20分，星期五第二步： 令 U1=(u1 ur), 計算求矩陣SVD的算法第一步： 計算 ，并計算特征值1 n和對應(yīng)的標(biāo)準(zhǔn)正交特征向量u1 un，取U=(u1 un)注：根據(jù)

24、這樣的取法得AAHV1=A(AHAU1)-1=A(U12)-1=AU1=V12即：V1對應(yīng)于特征值12，r2的標(biāo)準(zhǔn)正交特征向量第69頁，共100頁，2022年，5月20日，9點20分，星期五第三步： 求解線性方程組 的標(biāo)準(zhǔn)正交基礎(chǔ)解系vr+1 vm，令V=(v1,vr,vr+1,. vm)則U和V即為所求。第70頁，共100頁，2022年，5月20日，9點20分，星期五例 1 求下列矩陣的SVD分解：解：第一步第71頁，共100頁，2022年，5月20日，9點20分，星期五矩陣AHA的特征值為3,1,0，對應(yīng)的特征向量為標(biāo)準(zhǔn)正交化得第72頁，共100頁，2022年，5月20日，9點20分，星期

25、五第二步 令：計算：其中第73頁，共100頁，2022年，5月20日，9點20分，星期五第三步 解 ，得其基礎(chǔ)解系為從而第74頁，共100頁，2022年，5月20日，9點20分，星期五因此所求SVD為第75頁，共100頁，2022年，5月20日，9點20分，星期五例2 ：求下列矩陣的奇異值分解表達(dá)式第76頁，共100頁，2022年，5月20日，9點20分，星期五解:（1）計算AHA的特征值分別為5,0。 對應(yīng)的兩個標(biāo)準(zhǔn)正交特征向量由這兩個標(biāo)準(zhǔn)正交特征向量組成矩陣U第77頁，共100頁，2022年，5月20日，9點20分，星期五（2）計算AAH 的特征值為5，0，0，所以A的奇異值為 。下面計算

26、AAH的標(biāo)準(zhǔn)正交特征向量，解得分別與5，0，0對應(yīng)的三個標(biāo)準(zhǔn)正交特征向量由這三個標(biāo)準(zhǔn)正交特征向量組成矩陣V，所以有第78頁，共100頁，2022年，5月20日，9點20分，星期五于是可得奇異值分解式為第79頁，共100頁，2022年，5月20日，9點20分，星期五注：使用第二種方法時選取的U和V不唯一，他們的對應(yīng)列之間相差一個符號，因此當(dāng)分解式不成立時，需要調(diào)整相應(yīng)的特征向量符號。第80頁，共100頁，2022年，5月20日，9點20分，星期五SVD的幾何意義: 圓S經(jīng)過變換A，變成橢圓AS。圓的正交方向u1,u2 變成橢圓的長、短軸方向 , 。設(shè)矩陣A的奇異值分解為A=VUT，考慮A對應(yīng)的線

27、性變換Au1u21v12v22u21u1SAS1v12v2第81頁，共100頁，2022年，5月20日，9點20分，星期五 從變換的角度理解SVD，酉變換U保持球面不變，對角矩陣 將球面拉伸到一個有標(biāo)準(zhǔn)基的橢圓(1，2是A的兩個奇異值，對應(yīng)橢圓的長半軸和短半軸)，最后酉變換V旋轉(zhuǎn)或鏡射這個橢圓，但不改變它的形狀。第82頁，共100頁，2022年，5月20日，9點20分，星期五矩陣奇異值分解的特點：1. 數(shù)據(jù)壓縮：矩陣Amn的奇異值分解為：A=VUT，其展開式：A有nm個數(shù)據(jù)，分解后為(m+n+1)r個數(shù)據(jù)，若A的秩r遠(yuǎn)遠(yuǎn)小于m和n,則通過奇異值分解可以大大降低A的維數(shù),可以達(dá)到降維的目的,同時

28、可以降低計算機對存貯器的要求，常用于圖像壓縮。奇異值的減少特別的快，在很多情況下，前10%甚至1%的奇異值的和就占了全部的奇異值之和的99%以上了。也就是說，我們也可以用前k個大的奇異值來近似描述矩陣。第83頁，共100頁，2022年，5月20日，9點20分，星期五圖像的數(shù)字化技術(shù)與矩陣的奇異值分解 計算機處理圖像技術(shù)的第一步是圖像的數(shù)字化存儲技術(shù)，即將圖像轉(zhuǎn)換成矩陣來存儲。轉(zhuǎn)換的原理是將圖形分解成象素（pixels）的一個矩形的數(shù)陣，其中的信息就可以用一個矩陣A=(aij)mn來存儲。矩陣A的元素aij 是一個正的數(shù)，它相應(yīng)于象素的灰度水平（gray level） 的度量值。由于一般來講，相

29、鄰的象素會產(chǎn)生相近的灰度水平值，因此有可能在滿足圖像清晰度要求的條件下，將存儲一個mn階矩陣需要存儲的mn個數(shù)減少到n+m+1的一個倍數(shù)。第84頁，共100頁，2022年，5月20日，9點20分，星期五壓縮數(shù)字化圖形存儲量的方法主要是應(yīng)用矩陣的奇異值分解和矩陣范數(shù)下的逼近。如果圖象的數(shù)字矩陣A的奇異值分解為：A=UVT，其展開式：壓縮矩陣A的方法是取一個秩為k(kr)的矩陣Ak 來逼近矩陣A。Ak按如下方法選?。哼@是矩陣A的秩1分解式。第85頁，共100頁，2022年，5月20日，9點20分，星期五在秩為k(kn)的所有矩陣中，矩陣Ak所對應(yīng)的圖象和矩陣A所對應(yīng)的圖象最相近。一般的，k越大圖象

30、就越清晰。壓縮比：=(m+n+1)/mn;經(jīng)典的方法是選取接近k，使Ak的存儲量比A的存儲量減少20%。 第86頁，共100頁，2022年，5月20日，9點20分，星期五第87頁，共100頁，2022年，5月20日，9點20分，星期五第88頁，共100頁，2022年，5月20日，9點20分，星期五第89頁，共100頁，2022年，5月20日，9點20分，星期五第90頁，共100頁，2022年，5月20日，9點20分，星期五矩陣奇異值分解的特點：2.奇異值對矩陣的擾動不敏感,而特征值對矩陣的擾動敏感。3.奇異值的比例不變性。即kA的奇異值是A的奇異值的|k|倍。4.奇異值的旋轉(zhuǎn)不變性。即若P是正

31、交陣,PA的奇異值與A的奇異值相同。奇異值的比例和旋轉(zhuǎn)不變性特征在數(shù)字圖像的旋轉(zhuǎn)、鏡像、平移、放大、縮小等幾何變化方面有很好的應(yīng)用。第91頁，共100頁，2022年，5月20日，9點20分，星期五5.容易得到矩陣A的秩為k(kr)（低秩）的一個最佳逼近矩陣。奇異值的這個特征可以應(yīng)用于信號的分解和重構(gòu),提取有用信息,消除信號噪聲等6.若A、B都有相同的奇異向量,則|A B|2 = , 即,我們可以通過控制奇異值的大小來控制兩個矩陣空間的距離。第92頁，共100頁，2022年，5月20日，9點20分，星期五存儲矩陣Ak只需要存儲k個奇異值，k個m維向量ui和n維向量vj的所有分量，共計k（m+n+1）個元素。如果m=n=1000，存儲原矩陣A需要存儲10001000個元素。取k=100時，圖象已經(jīng)非常清晰了，這時的存儲量是100（2000+1）=200100個數(shù)。和矩陣A比較，存儲量減少了80%。第93頁，共100頁，2022年，5月20日，9點20分，星期五SVD用于文本分類 用一個大矩陣A來描述一百萬篇文章和五十萬詞的關(guān)聯(lián)性。這個矩陣中，每一行對應(yīng)一篇文 章，每一列對應(yīng)一個詞。M=1