009-小波分析(第四講)-小波新進(jìn)展-信號(hào)的稀疏表示

小波分析技術(shù)的新發(fā)展──信號(hào)的稀疏表示北京科技大學(xué)陽(yáng)建宏2023/3/14信號(hào)的表示是建立在內(nèi)積之上的設(shè)為一個(gè)線性賦范空間，由基底生成，則任一可由下式給出兩邊取內(nèi)積解聯(lián)立方程組，得信號(hào)的表示信號(hào)的表示是建立信號(hào)在一組基下的分解系數(shù)定義了信號(hào)的一種表示，這種表示可以描述信號(hào)的某種性質(zhì)D正弦函數(shù)基小波函數(shù)基時(shí)，完備基時(shí)，過(guò)完備基表示系數(shù)信號(hào)的表示信號(hào)的稀疏表示信號(hào)的表示重要的問(wèn)題是找一個(gè)準(zhǔn)則，說(shuō)明如何選一組基，使它本質(zhì)上適合于表示所要處理的信號(hào)類。數(shù)學(xué)逼近論建議我們這樣選擇基，即只需用基中較少數(shù)目的向量的線性組合就可以精確地重構(gòu)信號(hào)。這些選取的向量可以理解成信號(hào)的內(nèi)在結(jié)構(gòu)。有眾多的例子說(shuō)明單一的基不能有效地表示信號(hào)；例如：傅里葉基可以很好的表示諧波信號(hào)，但不能有效地表示瞬變信號(hào)。可以通過(guò)組合幾個(gè)基，從而提高信號(hào)表示(變換)的有效性；若干個(gè)基的組合過(guò)完備的。(單一基------完備的）組合得到的過(guò)完備基又稱為原子庫(kù)。過(guò)完備e2=[0,1]=Origin=[0,0]=e1=[1,0]=例子1：圖像在像素基上的表示e2=[0,1]=e1=[1,0]=圖像在像素基上的表示e2=[0,1]=圖像=

空間的點(diǎn)e1=[1,0]=圖像在像素基上的表示e2=[0,1]=圖像=

空間的點(diǎn)=a1e1+a2e2e1=[1,0]=圖像在像素基上的表示e2=[0,1]==a1e1+a2e2a1a2e1=[1,0]=圖像=

空間的點(diǎn)圖像在像素基上的表示e2=[0,1]==a1e1+a2e2a1a2e1=[1,0]==圖像=

空間的點(diǎn)圖像在像素基上的表示e2=[0,1]=Image=Pointinspace=a1e1+a2e2w1w2e1=[1,0]==像素基→傅里葉基f2=[0.707,0.707]=f1=[0.707,-0.707]=(低頻)(高頻)圖像=

空間的點(diǎn)圖像在傅里葉基上的表示f2=[0.707,0.707]=f1=[0.707,-0.707]=(lowfrequency)(highfrequency)b2=b1f1+b2f2=圖像=

空間的點(diǎn)圖像在傅里葉基上的表示e2=[0,1]=e1=[1,0]=數(shù)據(jù)={空間的點(diǎn)}={(a1,a2)}={a2}e2=[0,1]=e1=[1,0]=={(a1,a2)}數(shù)據(jù)={空間的點(diǎn)}f2=[0.707,0.707]=f1=[0.707,-0.707]=={(b1,b2)}={b2}數(shù)據(jù)={空間的點(diǎn)}e2=[0,1]=e1=[1,0]=={(a1,a2)}數(shù)據(jù)={空間的點(diǎn)}f2=[0.707,0.707]=f1=[0.707,-0.707]=={(b1,b2)}數(shù)據(jù)={空間的點(diǎn)}f2=[0.707,0.707]=f1=[0.707,-0.707]=Data={Pointsinspace}={(b1,b2)}對(duì)于完備編碼，需要兩個(gè)向量，但是也可以僅僅需要一個(gè)系數(shù)如b1或

b2。e2=[0,1]=e1=[1,0]=={(a1,a2)}數(shù)據(jù)={空間的點(diǎn)}f2=[0.707,0.707]=f1=[0.707,-0.707]=={(b1,b2)}數(shù)據(jù)={空間的點(diǎn)}f2=[0.707,0.707]=f1=[0.707,-0.707]=={(a1,a2,b1,b2)}e2=[0,1]=e1=[1,0]=數(shù)據(jù)={空間的點(diǎn)}f2=[0.707,0.707]=f1=[0.707,-0.707]=Data={Pointsinspace}={(a1,a2,b1,b2)}e2=[0,1]=e1=[1,0]=對(duì)于完備編碼，空間的任何一點(diǎn)可以由基向量的加權(quán)和表示。對(duì)于過(guò)完備編碼，空間的任何一點(diǎn)可以由更少的基向量的加權(quán)和表示。對(duì)于完備編碼，需要兩個(gè)向量，但是對(duì)于過(guò)完備編碼僅僅需要一個(gè)系數(shù)如a1

或a2

或b1或b2。完備與過(guò)完備e2=[0,1]=e1=[1,0]=過(guò)完備表示e2=[0,1]=e1=[1,0]=過(guò)完備表示e2=[0,1]=e1=[1,0]=e3過(guò)完備表示e2=[0,1]=e1=[1,0]=e3過(guò)完備表示e2=[0,1]=e1=[1,0]=e3e4過(guò)完備表示e2=[0,1]=e1=[1,0]=e3e4過(guò)完備表示e2=[0,1]=e1=[1,0]=e3e4e5過(guò)完備表示e2=[0,1]=e1=[1,0]=e3e4e5過(guò)完備表示e2=[0,1]=e1=[1,0]=e3e4e5e6過(guò)完備表示信號(hào)的表示---例2信號(hào)的表示---例3信號(hào)的表示---例3信號(hào)的表示---例3信號(hào)的表示---例4信號(hào)的表示---例4信號(hào)的表示---例4信號(hào)的表示---例5?信號(hào)的表示---例5??::信號(hào)的表示---例5尋求客觀事物的“稀疏”表示方法,一直是計(jì)算機(jī)視覺(jué)、數(shù)學(xué)、數(shù)據(jù)壓縮等領(lǐng)域的專家學(xué)者致力于的研究目標(biāo).對(duì)于含“點(diǎn)奇異”的一維信號(hào),小波能達(dá)到最優(yōu)的非線性逼近階.而在處理二維或者更高維含“線奇異”的信號(hào)時(shí),由一維小波張成的高維小波基不能達(dá)到最優(yōu)逼近階.小波變換的不足使人們開(kāi)始尋求更好的非線性逼近工具.稀疏（2）邊緣在小波的各個(gè)尺度上擴(kuò)散過(guò)去幾年,在數(shù)學(xué)分析、計(jì)算機(jī)視覺(jué)、模式識(shí)別、統(tǒng)計(jì)分析等不同學(xué)科中,分別獨(dú)立地發(fā)展著一種彼此極其相似的理論:多尺度幾何分析.發(fā)展多尺度幾何分析的目的是為了檢測(cè)、表示、處理某些高維奇異性.對(duì)于二維圖像,奇異性主要由邊緣所刻畫(huà),因此主要的任務(wù)是處理邊緣。目前,提出的多尺度幾何分析方法主要有:Ridgelet、Curvelet、Bandelet、Contourlet等.稀疏幾何表示小波稀疏幾何表示小波和稀疏幾何方法在處理邊緣上的差異過(guò)完備稀疏表示采用過(guò)完全函數(shù)系統(tǒng)代替?zhèn)鹘y(tǒng)的正交基函數(shù)。從過(guò)完備系統(tǒng)中找到具有最佳線性組合的m項(xiàng)原子來(lái)表示一個(gè)信號(hào)。過(guò)完備稀疏表示方法始于上世紀(jì)九十年代，1993年Mallat和Zhang首次提出了應(yīng)用過(guò)完備函數(shù)系統(tǒng)對(duì)信號(hào)進(jìn)行稀疏分解的思想,并引入了匹配追蹤算法.過(guò)完備稀疏表示的提出MKN確定的原子庫(kù)原子庫(kù)D中的每一列是一個(gè)原型信號(hào)（原子）。向量是隨機(jī)的，并且非零元素的個(gè)數(shù)小于N，非零元素的位置和值也是隨機(jī)的。稀疏隨機(jī)向量N稀疏表示模型簡(jiǎn)潔性:每一個(gè)生成的信號(hào)由原子庫(kù)D中少數(shù)幾個(gè)原子線性組合而成的。豐富性:信號(hào)產(chǎn)生的一個(gè)通用模型，可以通過(guò)過(guò)完備原子庫(kù)與表示系數(shù)來(lái)描述任何信號(hào)MultiplybyDM稀疏表示模型

信號(hào)的稀疏表示是指用盡可能少的向量的線性組合

來(lái)表示信號(hào)。信號(hào)的稀疏表示是通過(guò)信號(hào)在過(guò)完備原子庫(kù)上的稀疏分解得到的。原子庫(kù)過(guò)完備信號(hào)表示系數(shù)不唯一表示的殘差原子庫(kù)定義為一系列參數(shù)化波形的集合。過(guò)完備原子庫(kù)指原子個(gè)數(shù)m大于原子的維數(shù)n，且m個(gè)基本成分至少包含n維空間的一個(gè)基。(M個(gè)基本成分能夠張成一個(gè)n維空間)信號(hào)的稀疏表示原子庫(kù)過(guò)完備信號(hào)表示系數(shù)不唯一不同的稀疏性度量準(zhǔn)則，對(duì)應(yīng)不同的稀疏分解方法，可以得到不同的表示系數(shù)。表示的殘差稀疏完全表示稀疏逼近表示稀疏表示信號(hào)的稀疏表示MMultiplybyD稀疏隨機(jī)向量幾個(gè)主要問(wèn)題有哪些方法可以得到稀疏解

?這些方法的有效性如何

?如何獲得原子庫(kù)

D?信號(hào)的稀疏變換Known我們需要解一個(gè)欠定線性方程組:我們采用Lp范數(shù)測(cè)量稀疏性:在所有的解中，尋找最稀疏的一個(gè)!!稀疏求解-1+11當(dāng)p0時(shí)，轉(zhuǎn)變成求向量非零項(xiàng)的個(gè)數(shù)稀疏性測(cè)量基礎(chǔ)知識(shí)---信號(hào)的稀疏表示稀疏性度量準(zhǔn)則稀疏分解方法分解方法特點(diǎn)匹配追蹤易于陷入局部最優(yōu)；計(jì)算速度快正交追蹤信號(hào)逼近速度快；計(jì)算復(fù)雜基追蹤全局最優(yōu)；計(jì)算復(fù)雜欠定系統(tǒng)局噪解法信號(hào)表示的稀疏性差c的熵最佳正交基法原子庫(kù)由多個(gè)正交基組成靈活性

根據(jù)應(yīng)用的不同，靈活地構(gòu)造原子庫(kù)、選擇稀疏分解的算法。如可以基于函數(shù)模型或表征一定物理意義的向量來(lái)構(gòu)造原子庫(kù)。相比小波正交分解，小波函數(shù)需要滿足容許性條件、正交條件。稀疏性

信號(hào)分解系數(shù)比較少，可以得到信號(hào)的有效表示。信號(hào)稀疏表示的特