向量與矩陣的范數(shù)

1、 第五章第五章 向量與矩陣的范數(shù)向量與矩陣的范數(shù)定義：定義： 設(shè)設(shè) 是實數(shù)域是實數(shù)域 （或復(fù)數(shù)域（或復(fù)數(shù)域 ）上）上的的 維線性空間，對于維線性空間，對于 中的任意一個向量中的任意一個向量 按照某一確定法則對應(yīng)著一個實數(shù)，這個按照某一確定法則對應(yīng)著一個實數(shù)，這個實數(shù)稱為實數(shù)稱為 的的范數(shù)范數(shù)，記為，記為 ，并且要求，并且要求范數(shù)滿足下列運算條件：范數(shù)滿足下列運算條件： （1）非負性：當）非負性：當 只只有且僅有當有且僅有當 （2） 齊次性：齊次性： 為任為任意數(shù)。意數(shù)。VRnVC0,00,0,kkk（3） 三角不等式：對于三角不等式：對于 中的任意兩個中的任意兩個向量向量 都有都有例例 ： 在

2、在 維線性空間維線性空間 中，對于任意的中，對于任意的向量向量 定義定義V, nnC12(,)nna aaC11122211(1)(2)()(3)maxniiniiii naaa 證明：證明： 都是都是 上的范數(shù)，并且還有上的范數(shù)，并且還有引理（引理（Hoider不等式）：不等式）：設(shè)設(shè)nC12,12122(1)(2)(3)nnn1212,TTnnna aab bbC則則 其中其中 且且 。引理（引理（Minkowski不等式）：不等式）：設(shè)設(shè)則則 11111()()nnnpqpqiiiiiiiabab1,1pq111pq1212,TTnnna aab bbC111111()()()nnnpp

3、ppppiiiiiiiabab其中實數(shù)其中實數(shù) 。幾種常用的范數(shù)幾種常用的范數(shù)定義：定義：設(shè)向量設(shè)向量 ，對任，對任意的數(shù)意的數(shù) ，稱，稱為向量為向量 的的 范數(shù)范數(shù)。常用的常用的 范數(shù)：范數(shù)：（1）1范數(shù)范數(shù) p 12,Tna aa1p 11()nppipiap 11niia1p （2）2范數(shù)范數(shù)也稱為歐氏范數(shù)。也稱為歐氏范數(shù)。（3） 范數(shù)范數(shù) 定理：定理：證明：證明：令令 ，則，則121 2221()()nHiia 1maxii na limpp1maxii nxa ,1,2,iiayinx于是有于是有另一方面另一方面11()nppipixy111111()npiinpppiiynyn11

4、lim()1nppipiy故故由此可知由此可知定義：定義：設(shè)設(shè) 是是 維線性空間維線性空間 上定義的兩種向量范數(shù)，如果存在兩個與上定義的兩種向量范數(shù)，如果存在兩個與 無關(guān)的正數(shù)無關(guān)的正數(shù) 使得使得1limmaxippi nxa nV,ab12,dd12,babddV定理：定理：有限維線性空間有限維線性空間 上的任意兩個向上的任意兩個向量范數(shù)都是等價的。量范數(shù)都是等價的。利用向量范數(shù)可以去構(gòu)造新的范數(shù)。利用向量范數(shù)可以去構(gòu)造新的范數(shù)。例例 ：設(shè)設(shè) 是是 上的向量范數(shù)，且上的向量范數(shù)，且 ，則由，則由所定義的所定義的 是是 上的向量范數(shù)。上的向量范數(shù)。例例 ： 設(shè)設(shè) 數(shù)域數(shù)域 上的上的 維線性空間

5、，維線性空間， VmCb,( )m nACrank An,nabACanCVFn 為其一組基底，那么對于為其一組基底，那么對于 中的任意一個向量中的任意一個向量 可唯一地表示成可唯一地表示成又設(shè)又設(shè) 是是 上的向量范數(shù)，則由上的向量范數(shù)，則由所定義的所定義的 是是 上的向量范數(shù)。上的向量范數(shù)。 矩陣范數(shù)矩陣范數(shù)V12,n 121,nniinixXx xxFnFVXVV定義：定義：對于任何一個矩陣對于任何一個矩陣 ，用，用 表示按照某一確定法則與矩陣表示按照某一確定法則與矩陣 相對相對應(yīng)的一個實數(shù)，且滿足應(yīng)的一個實數(shù)，且滿足AA（1）非負性：當）非負性：當 只有只有且僅有當且僅有當 （2） 齊次

6、性：齊次性： 為任為任意復(fù)數(shù)。意復(fù)數(shù)。（3） 三角不等式：對于任意兩個同種形三角不等式：對于任意兩個同種形狀矩陣狀矩陣 都有都有0,0AA0,0AA,kAk Ak,A BABABm nAC（4）矩陣乘法的相容性：對于任意兩個可以）矩陣乘法的相容性：對于任意兩個可以相乘的矩陣相乘的矩陣 ，都有，都有那么我們稱那么我們稱 是是矩陣矩陣 的范數(shù)的范數(shù)。例例 1：對于任意對于任意 ，定義，定義可以證明如此定義的可以證明如此定義的 的確為矩陣的確為矩陣 的范的范數(shù)。數(shù)。,A BABA BAAm nAC11mnijijAaAA證明：證明：只需要驗證此定義滿足矩陣范數(shù)的只需要驗證此定義滿足矩陣范數(shù)的四條性質(zhì)

7、即可。非負性，齊次性與三角不四條性質(zhì)即可。非負性，齊次性與三角不等式容易證明。現(xiàn)在我們驗證乘法的相容等式容易證明?，F(xiàn)在我們驗證乘法的相容性。設(shè)性。設(shè) ，則，則,m pp nACBC11111111111111()()()()ppmnmnikkjikkjijkijkppmnikkjijkkppmnikkjikjkABa babababA B 例例 2 ：設(shè)矩陣設(shè)矩陣 ，證明：，證明：是矩陣范數(shù)。是矩陣范數(shù)。證明：非負性，齊次性和三角不等式容易證明：非負性，齊次性和三角不等式容易證得?，F(xiàn)在我們考慮乘法的相容性。設(shè)證得?，F(xiàn)在我們考慮乘法的相容性。設(shè) ，那么，那么n nAC,maxiji jAna,n

8、 nn nACBC,11,maxmaxmaxmaxmaxmaxnnikkjikkji ji jkkikkji kk jikkji kk jABna bnabn nabnanbA B因此因此 為矩陣為矩陣 的范數(shù)。的范數(shù)。AA例例 3 ：對于任意對于任意 ，定義，定義可以證明可以證明 也是矩陣也是矩陣 的范數(shù)。我們稱此的范數(shù)。我們稱此范數(shù)為矩陣范數(shù)為矩陣 的的Frobenious范數(shù)范數(shù)。證明證明：此定義的非負性，齊次性是顯然的。：此定義的非負性，齊次性是顯然的。利用利用Minkowski不等式容易證明三角不等式。不等式容易證明三角不等式。現(xiàn)在我們驗證乘法的相容性?，F(xiàn)在我們驗證乘法的相容性。 設(shè)

9、設(shè) ，則，則 m nAC12211()mnijFijAaAAA,m ll nACBC22211111122111122111122()()()()()mnlmnlikkjikkjFijkijkmnllikkjijkkmlnlikkjikjkFFABa babababAB 于是有于是有 例例 4 ：對于任意對于任意 ，定義，定義證明如此定義的證明如此定義的 是矩陣是矩陣 的范數(shù)。的范數(shù)。證明：證明： 首先注意到這樣一個基本事實，首先注意到這樣一個基本事實，即即由一個例題可知此定義滿足范數(shù)的性質(zhì)。由一個例題可知此定義滿足范數(shù)的性質(zhì)。n nAC12()HATr A AAA1122211()()mnH

10、ijijTr A AaFFFABABFrobenious范數(shù)的性質(zhì)：范數(shù)的性質(zhì)：（1）如果）如果 ，那么，那么（2） （3）對于任何）對于任何 階酉矩陣階酉矩陣 與與 階酉矩陣階酉矩陣 12nA2221niFiA21()()nHHiFiATR A AA AnmU 都有等式都有等式關(guān)于矩陣范數(shù)的等價性定理。關(guān)于矩陣范數(shù)的等價性定理。定理：定理：設(shè)設(shè) 是矩陣是矩陣 的任意兩的任意兩種范數(shù)，則總存在正數(shù)種范數(shù)，則總存在正數(shù) 使得使得VHFFFFFAUAAAVUAV,AA12,ddA12,m ndAAdAAC 誘導(dǎo)范數(shù)誘導(dǎo)范數(shù)定義：定義：設(shè)設(shè) 是向量范數(shù)，是向量范數(shù)， 是矩陣范是矩陣范數(shù)，如果對于任何

11、矩陣數(shù)，如果對于任何矩陣 與向量與向量 都有都有則稱矩陣范數(shù)則稱矩陣范數(shù) 與向量范數(shù)與向量范數(shù) 是相容是相容的。的。例例 1 ：矩陣的矩陣的Frobenius范數(shù)與向量的范數(shù)與向量的2-范范數(shù)是相容的數(shù)是相容的.證明證明 : 因為因為 XAAXAXAXAX12211()mnijFijAa121 2221()()nHiiXxXX根據(jù)根據(jù)Hoider不等式可以得到不等式可以得到222211112211122111222()()()()()mnmnijjijjijijmnnijjijjmnnijjijjFAXa xa xaxaxAX 于是有于是有 例例 2 ：設(shè)設(shè) 是向量的范數(shù)，則是向量的范數(shù)，則滿

12、足矩陣范數(shù)的定義，且滿足矩陣范數(shù)的定義，且 是與向量范是與向量范 相容的矩陣范數(shù)。相容的矩陣范數(shù)。證明證明：首先我們驗證此定義滿足范數(shù)的四：首先我們驗證此定義滿足范數(shù)的四條性質(zhì)。非負性，齊次性與三角不等式易條性質(zhì)。非負性，齊次性與三角不等式易證?，F(xiàn)在考慮矩陣范數(shù)的相容性。證。現(xiàn)在考慮矩陣范數(shù)的相容性。22FAXAXX0maxiXAXAXiAX設(shè)設(shè) ，那么，那么 0B 000000()maxmax()()maxmaxmaxmaxiXXBXXXXiiABXA BXBXABXBXXA BXBXBXXAXBXXXAB因此因此 的確滿足矩陣范數(shù)的定義。的確滿足矩陣范數(shù)的定義。 iA 最后證明最后證明 與

13、與 是相容的。是相容的。由上面的結(jié)論可知由上面的結(jié)論可知這說明這說明 與與 是相容的。是相容的。 定義：定義：上面所定義的矩陣范數(shù)稱為由向量范上面所定義的矩陣范數(shù)稱為由向量范數(shù)數(shù) 所誘導(dǎo)的所誘導(dǎo)的誘導(dǎo)范數(shù)誘導(dǎo)范數(shù)或或算子范數(shù)算子范數(shù)。由。由 iAXiiAXAXAXAXiAXX向量向量 P-范數(shù)范數(shù) 所誘導(dǎo)的矩陣范數(shù)稱為矩所誘導(dǎo)的矩陣范數(shù)稱為矩陣陣P-范數(shù)。即范數(shù)。即常用的常用的矩陣矩陣P-范數(shù)范數(shù)為為 ， 和和 。定理：定理：設(shè)設(shè) ，則，則（1）我們稱此范數(shù)為矩陣我們稱此范數(shù)為矩陣 的的列和范數(shù)列和范數(shù)。pX0maxppXpAXAX1A2AAm nAC11max(),1,2,mijjiAajn

14、A（2） 表示矩陣表示矩陣 的第的第 個特征值。我們稱此范個特征值。我們稱此范數(shù)為矩陣數(shù)為矩陣 的的譜范數(shù)譜范數(shù)。（3）我們稱此范數(shù)為矩陣我們稱此范數(shù)為矩陣 的的行和范數(shù)。行和范數(shù)。例例 1 ：設(shè)設(shè) 122max(),()HHjjjAA AA AHA AjA1max(),1,2,nijijAaimA210023120A計算計算 ， ， 和和 。解：解：1A2AAFA15A5A23FA215A500096069HA A因為因為所以所以 。練習練習 ：設(shè)設(shè) 或或0110000iAi100010001A分別計算這兩個矩陣的分別計算這兩個矩陣的 ， ， 和和 。例例 2 ：證明：對于任何矩陣證明：對于

15、任何矩陣 都有都有2A1AAFAm nAC11222222221HTHTHAAAAAAA AAAAA如何由矩陣范數(shù)構(gòu)造與之相容的向量范數(shù)？如何由矩陣范數(shù)構(gòu)造與之相容的向量范數(shù)？定理：定理：設(shè)設(shè) 是矩陣范數(shù)，則存在向量范數(shù)是矩陣范數(shù)，則存在向量范數(shù) 使得使得證明：證明：對于任意的非零向量對于任意的非零向量 ，定義向量范，定義向量范數(shù)數(shù) ，容易驗證此定義滿足向，容易驗證此定義滿足向量范數(shù)的三個性質(zhì)，且量范數(shù)的三個性質(zhì)，且*AX*AXAX*HXX*HHAXAXAXAX例：例：已知矩陣范數(shù)已知矩陣范數(shù)求與之相容的一個向量范數(shù)。求與之相容的一個向量范數(shù)。解：取解：取 。設(shè)。設(shè)*11mnijijAAa01

16、0T12TnXxxx那么那么矩陣的譜半徑及其性質(zhì)矩陣的譜半徑及其性質(zhì)定義：定義：設(shè)設(shè) ， 的的 個特征值為個特征值為 ，我們稱，我們稱為為矩陣矩陣 的譜半徑的譜半徑。例例 1 ：設(shè)設(shè) ，那么，那么1*1nHiiXXxXm nACnA12,n 12( )max,nAAm nAC( )AA這里這里 是矩陣是矩陣 的任何一種范數(shù)。的任何一種范數(shù)。例例 2 ：設(shè)設(shè) 是一個正規(guī)矩陣，則是一個正規(guī)矩陣，則證明：證明：因為因為 AAA2( )AA222220022maxmax()( )HHHXXHAXXA AXAXXXA AA于是有于是有例例 3 ：設(shè)設(shè) 是是 上的相容矩陣范數(shù)。上的相容矩陣范數(shù)。證明：證明

17、： （1） （2） 為可逆矩陣，為可逆矩陣， 為為 的特征值的特征值則有則有2( )AAn nC1I AA11AA例例 5 ：如果如果 ，則，則 均為可逆均為可逆矩陣，且矩陣，且這里這里 是矩陣是矩陣 的算子范數(shù)。的算子范數(shù)。 矩陣序列與極限矩陣序列與極限定義：定義：設(shè)矩陣序列設(shè)矩陣序列 ，其中，其中1A I A111()11IAAAAA( )kA( )( )kkm nijAaC ，如果，如果 個數(shù)列個數(shù)列都收斂，則稱矩陣序列都收斂，則稱矩陣序列 收斂。收斂。 進一步，如果進一步，如果那么那么 我們稱矩陣我們稱矩陣 為為矩陣序列矩陣序列 的極限的極限。 mn( ),1,2,;1,2,kijai

18、m jn( )kA( )limkijijkaa( )limkijkAAaA( )kA例例 ：如果設(shè)如果設(shè) ，其中，其中那么那么( )( )2 2kkijAaC( )( )111221( )( )212221,(01)3(1),kkkkkkkaarrkkkarrakk( )103lim11kkAA 定理：定理： 矩陣序列矩陣序列 收斂于收斂于 的充分必的充分必要條件是要條件是其中其中 為任意一種矩陣范數(shù)。為任意一種矩陣范數(shù)。證明：取矩陣范數(shù)證明：取矩陣范數(shù)必要性：設(shè)必要性：設(shè) ( )kAA( )lim0kkAA( )kAA11mnijijAa( )limkijkAAa那么由定義可知對每一對那么由

19、定義可知對每一對 都有都有從而有從而有上式記為上式記為, i j( )lim0(1,2,;1,2, )kijijkaaim jn( )11lim0mnkijijkijaa( )lim0kkAA充分性：設(shè)充分性：設(shè)那么對每一對那么對每一對 都有都有即即( )( )11limlim0mnkkijijkkijAAaa, i j( )lim0(1,2,;1,2, )kijijkaaim jn( )lim(1,2,;1,2, )kijijkaaim jn故有故有現(xiàn)在已經(jīng)證明了定理對于所設(shè)的范數(shù)成立現(xiàn)在已經(jīng)證明了定理對于所設(shè)的范數(shù)成立，如果，如果 是另外一種范數(shù)，那么由范數(shù)是另外一種范數(shù)，那么由范數(shù)的等價

20、性可知的等價性可知( )limkijkAAaA( )( )( )12kkkdAAAAdAA這樣，當這樣，當時同樣可得時同樣可得因此定理對于任意一種范數(shù)都成立。因此定理對于任意一種范數(shù)都成立。 同數(shù)列的極限運算一樣，關(guān)于矩陣序同數(shù)列的極限運算一樣，關(guān)于矩陣序列的極限運算也有下面的性質(zhì)。列的極限運算也有下面的性質(zhì)。（1）一個收斂的矩陣序列的極限是唯一的。）一個收斂的矩陣序列的極限是唯一的。（2）設(shè)）設(shè)( )lim0kkAA( )lim0kkAA( )( )lim,limkkkkAABB則則（3）設(shè)）設(shè)，其中，其中 ，那么，那么 （4）設(shè)）設(shè) ，其中，其中 ( )( )lim,kkkaAbBaAbB

21、a bC( )( )lim,limkkkkAABB( )( ),km lkl nACBC( )( )limkkkABAB( )limkkAA( ),km nm mn nACPCQC那么那么（5）設(shè)）設(shè) ，且，且 ， 均可均可逆，則逆，則 也收斂，且也收斂，且例例 1：若對矩陣若對矩陣 的某一范數(shù)的某一范數(shù) ，則，則( )limkkPA QPAQ( )limkkAA( )kAA( )1() kA( )11lim()kkAAA1A lim0kkA例例 2：已知矩陣序列：已知矩陣序列： 則則 的充要條件是的充要條件是 。證明：證明： 設(shè)設(shè) 的的Jordan標準形標準形其中其中2,kA AAlim0k

22、kA( )1AA1122diag(),(),()rrJJJJ1()(1,2, )1iiiiiiiddJir11122diag(),(),()kkkkrrAPJJJP于是于是顯然，顯然， 的充要條件是的充要條件是又因又因lim0kkAlim()0,1,2,kiikJir111111( )iiiidk dkkikikikkiiikkikid dccJc 其中其中(1)(1)()!0()lklkk kklclklclk 當當于是于是 的充要條件是的充要條件是 。因此因此 的充要條件是的充要條件是例例 3 ：設(shè)設(shè) 是是 的相容矩陣范數(shù)，則對的相容矩陣范數(shù)，則對任意任意 ，都有，都有 矩陣的冪級數(shù)矩陣的

23、冪級數(shù)lim()0kiikJ1ilim0kkA( )1An nCn nAC1( )limkkkAA( )( )kkm nijAaC定義：定義：設(shè)設(shè) ，如果，如果 個常數(shù)項級數(shù)個常數(shù)項級數(shù)都收斂，都收斂， 則稱矩陣級數(shù)則稱矩陣級數(shù)收斂。如果收斂。如果 個個常數(shù)項級數(shù)個個常數(shù)項級數(shù)mn( )1,1,2,;1,2,kijkaim jn( )(1)(2)( )1kkkAAAAmn( )1,1,2,;1,2,kijkaim jn都絕對收斂，都絕對收斂， 則稱矩陣級數(shù)則稱矩陣級數(shù)絕對收斂。絕對收斂。 例例 ： 如果設(shè)如果設(shè) ，其中，其中( )( )2 2kkijAaC( )(1)(2)( )1kkkAAA

24、A( )( )111231111( )( )2122111111,(1),sin22kkkkkkkkkkkkkkaak kkaa那么矩陣級數(shù)那么矩陣級數(shù)是收斂的。是收斂的。( )(1)(2)( )1kkkAAAA( )( )kkm nijAaC定理：定理：設(shè)設(shè) ，則矩陣級，則矩陣級數(shù)數(shù)絕對收斂的充分必要條件是正項級數(shù)絕對收斂的充分必要條件是正項級數(shù)收斂，其中收斂，其中 為任意一種矩陣范數(shù)。為任意一種矩陣范數(shù)。證明：證明：取矩陣范數(shù)取矩陣范數(shù) ( )(1)(2)( )1kkkAAAA( )(1)(2)( )1kkkAAAAA( )( )11mnkkijijAa那么對每一對那么對每一對 都有都有因

25、此如果因此如果收斂，則對每一對收斂，則對每一對 常數(shù)項級數(shù)常數(shù)項級數(shù), i j( )( )kkijAa( )(1)(2)( )1kkkAAAA, i j( )(1)(2)( )1kkijijijijkaaaa都是收斂的，于是矩陣級數(shù)都是收斂的，于是矩陣級數(shù)絕對收斂。絕對收斂。 反之，若矩陣級數(shù)反之，若矩陣級數(shù)絕對收斂，則對每一對絕對收斂，則對每一對 都有都有( )(1)(2)( )1kkkAAAA( )(1)(2)( )1kkkAAAA, i j( )(1)(2)( )1kkijijijijkaaaa 于是于是根據(jù)范數(shù)等價性定理知結(jié)論對任何一種范數(shù)都根據(jù)范數(shù)等價性定理知結(jié)論對任何一種范數(shù)都正確

26、。正確。( )( )1111111mnmnkkkijijkkijijkAaa 定義：定義：設(shè)設(shè) ，稱形如，稱形如的矩陣級數(shù)為矩陣冪級數(shù)。的矩陣級數(shù)為矩陣冪級數(shù)。()m nijAaC2( )0120kkkkkc Ac Ic Ac Ac A定理：定理：設(shè)冪級數(shù)設(shè)冪級數(shù) 的收斂半徑為的收斂半徑為為為 階方陣。若階方陣。若 ，則矩陣冪級數(shù)，則矩陣冪級數(shù) 絕對收斂；若絕對收斂；若 ，則，則 發(fā)散。發(fā)散。 0kkkc x,R An( )AR0kkkc A( )AR0kkkc A證明：證明： 設(shè)設(shè) 的的Jordan標準形為標準形為其中其中于是于是A1122diag(),(),()rrJJJJ1()(1,2, )1iiiiiiiddJir11122diag(),(),()kkkkrrAPJJJP111111( )iiiidk dkkikikikkiiikkikid dccJc 所以所以1001011220010()=()=diag(),(),()kkkkkkkkkkkkkKKkkrrKc Ac PJ PPc JPPc Jc Jc JP其中其中1111000001100( )iiiidk dkkkik kik kikkkkkikkkiikkk kikkkikd dcc cc ccc Jc cc (1)(1)()!0(