稀疏重建第一章

1、壓縮感知理論及其應用第一章 有關數(shù)學基礎知識介紹1第一章 有關數(shù)學基礎知識介紹向量和矩陣范數(shù)的定義和性質(zhì)奇異值分解的定義和性質(zhì)最小二乘問題凸集、凸函數(shù)和凸優(yōu)化問題21.1 向量和矩陣范數(shù)的定義和性質(zhì)范數(shù)：一個非負函數(shù) 滿足如下性質(zhì)時被稱為范數(shù)：:0,)X (1)正定性： 當且僅當 ；0 xx0(2)齊次性：對任意的 和 滿足 ；xxx(3)三角不等式：對任意的 和 滿足 。xyxyxy,1CCxyxy準范數(shù)準三角不等式：準范數(shù)常數(shù)31.1 向量和矩陣范數(shù)的定義和性質(zhì)度量：對于集合X X，定義一個函數(shù) ，當d滿足如下性質(zhì)時，其被稱為一個度量：), 0: XXd(1) ，當且僅當x=y；0),(y

2、xd(2) ，有 ；Xyx ,),(),(xydyxd(3) ，有 。Xzyx,),(),(),(zydyxdzxd范數(shù) 是集合X的一個度量。yxyx),(d性質(zhì)(3)由范數(shù)的三角不等式可以得到證明。41.1 向量和矩陣范數(shù)的定義和性質(zhì)lp范數(shù)：1/1:pnpjpjxx=p 時， 。 : maxijnxx5 時，上述定義是一個準范數(shù)， 。01p1/12pC 時，上述定義是一個范數(shù)。1p 1.1 向量和矩陣范數(shù)的定義和性質(zhì)6X的一個度量為：ppdyxyx),(由p-三角不等式：ppppppyxyx1.1 向量和矩陣范數(shù)的定義和性質(zhì)向量內(nèi)積：*1,niiix yx y與范數(shù)的聯(lián)系：2,xx x71

3、.1 向量和矩陣范數(shù)的定義和性質(zhì)對于 ，且 有,1,p q 1/1/1pqHolder不等式：,pqx yxyCauchy-Schwarz不等式：22,x yxy81.1 向量和矩陣范數(shù)的定義和性質(zhì)幾種特殊情況：12nxx2nxx當x x的非零元素最多有s個時：xxxss21特別地， 。1/1/,0pqpqnpq xx91.1 向量和矩陣范數(shù)的定義和性質(zhì)反向不等式：,0qppq xx101.1 向量和矩陣范數(shù)的定義和性質(zhì)對偶范數(shù)：xyxy,sup1*實數(shù)域xyxyy,sup1,*nR復數(shù)域xyxyy,Resup1,*nCp范數(shù)是q范數(shù)的對偶范數(shù)當 。1/1/1pq2范數(shù)的對偶范數(shù)是它自己。11

4、1.1 向量和矩陣范數(shù)的定義和性質(zhì)矩陣范數(shù)：qqqpppAxAxAxx11supsup:qp,1一些性質(zhì)：qprqrpBAAB（1）12qprqrqrcrcrrpqpqqpcBAAdBxAdABxABxABdxBxddBxx11/, 11supsupsupsupsup13)(maxmax22AAAAH（2）1.1 向量和矩陣范數(shù)的定義和性質(zhì)其中， 為特征值， 為奇異值。14)()(maxsupsupsupsup2maxmax221112212222222AAADUxUxAxAxAxAxxxxHiiiiiiiHHHHzz取x x為 的最大特征值對應的特征矢量，則：AAH)(,)(,maxmax2

5、2AAxxAAxAxAAxAxAxHHH22max)( AAAH15ppknk1 ,maxp1aA（3）1.1 向量和矩陣范數(shù)的定義和性質(zhì)特別地：mikinkA1,11maxA221maxknkaAL1范數(shù)最大的列16pknknkpkkpnkkkxxaxaaAx111pmaxL2范數(shù)最大的列njjkmkA1,maxA（4）1.1 向量和矩陣范數(shù)的定義和性質(zhì)17L1范數(shù)最大的行njjkmknjjjkmknjjjkmkAxAxA1,1,1,maxmaxmaxxAxAAA1122（5）1.1 向量和矩陣范數(shù)的定義和性質(zhì)2211121,1,11,21,11,1,21222maxmaxmaxxAAAxAxnkkmjkjnknkkjnjmjnkkjknkkjnjmjnkkjnkkjkmjjxAAAxAAAx如果A是共軛對稱矩陣，則：1122 AA181.1 向量和矩陣范數(shù)的定義和性質(zhì)Frobenious范數(shù)：2/1112,FmjnkkjHHAtrtrAAAAAFrobeniou