信號處理課件：chpter 7 Wavelet

1、一、認識小波1、預備知識 從數(shù)學的角度講，小波是構造函數(shù)空間正交基的基本單元，是在能量有限空間L2(R) 上滿足允許條件的函數(shù)，這樣認識小波需要L2(R) 空間的基礎知識，特別是內積空間中空間分解、函數(shù)變換等的基礎知識。 從信號處理的角度講，小波(變換)是強有力的時頻分析(處理)工具，是在克服傅立葉變換缺點的基礎上發(fā)展而來的，所以從信號處理的角度認識小波，需要傅立葉變換、傅立葉級數(shù)、濾波器等的基礎知識。 0)(2dttf(1.1) 一個信號從數(shù)學的角度來看，它是一個自變量為時間t的函數(shù)f(t)。因為信號是能量有限的，即滿足條件(1.1)的所有函數(shù)的集合就形成L2(R) 圖像是二維信號，同樣是能

2、量有限的。實際上任何一幅數(shù)字圖像都是從真實的場景中經(jīng)過采樣和量化處理后得到的。從數(shù)學上看，圖像是定義在L2(R2)上的函數(shù)。如圖1所示的LENA圖像f(x,y)，假設圖像的大小是512x512，量化級是256，即511,0 255),(0yxyxfxy2、L2(R)空間的正交分解和變換1 對f(t)L2(R)，存在L2(R) 的一組標準正交基gi(t)，t R，i=1,2,使得其中1)()(iiitgctf(1.2)Zlkdttgtgtgtgdttgtftgtfckllklkiii,)()()(),()()()(),(，(1.3) 對于給定信號f(t)，關鍵是選擇合適的基gi(t) ，使得f(

3、t)在這組基下的表現(xiàn)呈現(xiàn)出我們需要的特性，但是如果某一個基不滿足要求，可通過變換將函數(shù)轉換到另一個基下表示，才能得到我們需要的函數(shù)表示。常用的變換2有：(1) K-L變換(2) Walsh變換(3) 傅立葉變換(4) 小波變換 如圖所示如圖所示是信號f(t)的傅立葉變換示意圖。信號f(t)經(jīng)傅立葉變換由時域變換到頻域，基底不同得到大變換也不同。 在信號處理中，有兩類非常重要的變換即傅立葉變換和。目前，可簡單地將小波理解為滿足以下兩個條件的特殊信號：(1) 小波必須時振蕩的；(2) 小波的振幅只能在一個很短的一段區(qū)間上非零，即是局部化的。1、Daubechies小波一些著名的小波3：2、Coif

4、lets小波3、Symlets小波4、Morlet小波 5、Mexican Hat小波6、Meyer小波不是小波的例3、傅立葉變換與時頻分析4 我們知道，任何復雜的周期信號f(t)可以用簡單的調和振蕩函數(shù)表示成如下形式：這就是著名的傅立葉級數(shù)，tktk00sincos和都是簡單的調和振蕩函數(shù)，直觀講都是正弦波。kkba 和是函數(shù)f(t)的傅立葉系數(shù)，可由以下公式計算：1000)sincos(2)(ikktkbtkaatf(1.4)于是，周期函數(shù)f(t) 就與下面的傅立葉序列產(chǎn)生了一一對應，即從數(shù)學上已經(jīng)證明了，傅立葉級數(shù)的前N項和是原函數(shù)f(t) 在給定能量下的最佳逼近：2 , 1 , 0si

5、n)(22 , 1 , 0cos)(20000ktdtktfTbktdtktfTaTkTk，(1.5)(1.6),(),( ,)(22110babaatf(1.7)對于L2(R)上的非周期函數(shù)f(t) ，有0sincos2)(lim201000dxtkbtkaatfTNkkkN(1.8)dtetffti)()(1.9)稱)(f為f(t)的傅立葉變換，反變換公式為deftfti)()(1.10)有了傅立葉變換，我們可以很容易地將時域信號f(t)轉換到頻域 上，于是信號的頻率特性一目了然，并且與傅立葉級數(shù)一樣，傅立葉變換將一段信號的主要低頻能量都集中在頻率信號的前面幾項，這種能量集中性有利于進一步

6、的處理。在過去200年里，傅立葉分析在科學與工程領域發(fā)揮了巨大的作用，但傅立葉分析也有不足，主要表現(xiàn)在以下兩點：)(fq 傅立葉分析不能刻畫時域信號的局部特性；q 傅立葉分析對非平穩(wěn)信號的處理效果不好。下面通過兩個例子來說明這兩點。例1、歌聲信號 歌聲是一種聲音震蕩的波函數(shù)，其傅立葉變換就是將這個波函數(shù)轉化成某種樂譜。但遺憾地是，傅立葉變換無法反映信號在哪一時刻有高音，在哪一時刻有低音，因此結果是所有的音符都擠在了一起，如圖所示。小波變換有效地克服了傅立葉變換的這一缺點，信號變換到小波域后，小波不僅能檢測到高音與低音，而且還能將高音與低音發(fā)生的位置與原始信號相對應，如圖所示。例2、信號逼近：如

7、圖(a)和(b)是原始信號，其余的是逼近信號。因此我們需要這樣一個數(shù)學工具：既能在時域很好地刻畫信號的局部性，同時也能在頻域反映信號的局部性，這種數(shù)學工具就是“小波”。從函數(shù)分解的角度，希望能找到另外一個基函數(shù)(t) 來代替sint。(t) 應滿足以下三個特性：q 任何復雜的信號f(t)，都能由一個母函數(shù)(t) 經(jīng)過伸縮和平移產(chǎn)生的基底的線性組合表示；q 信號用新的基展開的系數(shù)要能反映出信號在時域上的局部化特性；q 新的基函數(shù)(t) 及其伸縮平移要比三角基sint更好地匹配非平穩(wěn)信號。 歷史上，Haar第一個找到了這樣一個基函數(shù)，這就是非常著名但又及其簡單的Haar小波。 1 ,21 121,

8、0 1)(xxt(1.11)數(shù)學上已經(jīng)證明：小波級數(shù)、信號的小波逼近Zkjktj,| )2(構成L2(R)的一個正交基，通過規(guī)范化處理，(1.12),( )2(2)(2,Zkjkttjjkj構成L2(R)的一個規(guī)范正交基。故任何一個能量有限信號f(t)L2(R) 可以分解為(1.13)dtttfttfctctfkjkjkjZjZkkjkj)()()(),()()(,其中(1.14)(1.15)二、小波變換的定義及特點定義定義1 1函數(shù)(t)L2(R) 稱為基本小波，如果它滿足以下的“允許”條件：dC)( (2.1)如果)( 是連續(xù)的，易得：0)(0)0( dtt(2.2)(t)又稱為母小波，因

9、為其伸縮、平移可構成L2(R)的一個標準正交基：同傅立葉變換一樣，連續(xù)小波變換可定義為函數(shù)與小波基的內積：將a,b離散化，令可得離散小波變換：RbRaabtatba ,)(21,，(2.3)(),(),(,ttfbafWba(2.4)Zkjkbajj,22，(2.5) 總結：即小區(qū)域的波，是一種特殊的長度有限、平均值為零的波形。它有兩個特點：一是“小”，即在時域具有緊支集或近似緊支集；二是正負交替的“波動性”，也即支流分量為零。ZkjkttttfkjfDWjjkjkj,)2(2)()(),(),)(2,，(2.6)(2.7)小波分析優(yōu)于傅立葉分析的地方是，它在時域和頻域同時具有良好的局部化性質

10、。而且由于對高頻成分采用逐漸精細的時域或頻域取樣步長，從而可以聚焦到對象的任何細節(jié)，所以被稱為“數(shù)學顯微鏡”。小波分析廣泛應用與信號處理、圖像處理、語音識別等領域。 可以這樣理解小波變換的含義：打個比喻，我們用鏡頭觀察目標信號f (t)， (t)代表鏡頭所起的所用。b 相當于使鏡頭相對于目標平行移動，a的所用相當于鏡頭向目標推進或遠離。由此可見，小波變換有以下特點： 多尺度/多分辨的特點，可以由粗及細地處理信號； 可以看成用基本頻率特性為()的帶通濾波器在不同尺度a下對信號做濾波。 適當?shù)剡x擇小波，使(t)在時域上為有限支撐,()在頻域上也比較集中，就可以使WT在時、頻域都具有表征信號局部特征

11、的能力。小波變換的思想來源于伸縮和平移方法。v 尺度伸縮 對波形的尺度伸縮就是在時間軸上對信號進行壓縮和伸展，如圖所示。1);sin()(attf21);2sin()(attf41);4sin()(attf21);2()(attf41);4()(attf1);()(attfv 時間平移 時間平移就是指小波函數(shù)在時間軸上的波形平行移動，如圖所示。小波運算的基本步驟：(1) 選擇一個小波函數(shù)，并將這個小波與要分析的信號起始點對齊；(2) 計算在這一時刻要分析的信號與小波函數(shù)的逼近程度，即計算小波變換系數(shù)C，C越大，就意味著此刻信號與所選擇的小波函數(shù)波形越相近，如圖所示。(3) 將小波函數(shù)沿時間軸向

12、右移動一個單位時間，然后重復步驟(1)、(2)求出此時的小波變換系數(shù)C，直到覆蓋完整個信號長度，如圖所示；(4) 將所選擇的小波函數(shù)尺度伸縮一個單位，然后重復步驟(1)、(2)、(3)，如圖所示；(5) 對所有的尺度伸縮重復步驟(1)、(2)、(3)、(4)。v 尺度與頻率的關系尺度與頻率的關系如下： 小尺度a 壓縮的小波快速變換的細節(jié)高頻部分 大尺度a 拉伸的小波緩慢變換的粗部低頻部分三、多分辨分析由母小波按如下方式的伸縮平移可構成L2(R)空間的標準正交基如何構造母小波呢？1989年，Mallat和Meyer提出了按多分辨分析的思想來構造母小波，其基本思想是：q 現(xiàn)構造一個具有特定性質的層

13、層嵌套的閉子空間序列VjjZ，這個閉子空間序列充滿了整個L2(R)空間。q 在V0子空間找一個函數(shù)g(t)，其平移g(t-k)k Z構成V0子空間的Riesz基。q 對函數(shù)g(t)進行正交化，得到函數(shù)稱為正交尺度函數(shù)(t)。q 由(t)計算出小波函數(shù)(t)。RtZkjkttjjkj， ,)2(2)(2,(3.1)Riesz基定義 令H是Hilbert空間，H中的一個序列gjjZ是Riesz基，如果它滿足以下的條件：A和B分別稱為Riesz基的上下界，Riesz基又稱為穩(wěn)定基。 jjjjjjjZjjnnjjjZjjjcBgccAlcBAtgctflcHfHZjtgspan22222,0 )2)(

14、)(, 0,| )( ) 1有使得存在常數(shù)使得總存在即(3.2)(3.3)定義定義1 空間L2(R )中的多分辨分析是指L2(R )中的滿足如下條件的一個子空間序列 ZjjV 基。的構成使得存在函數(shù)平移不變性伸縮性逼近性單調性RieszVktgVtgZkVktfVtfVtfVtfRLVVVVVZkjjjjZjjZjj0012101)(,)() 5;,)()(:) 4;)2()(:) 3);(,0:) 2;:) 1多分辨空間的關系可用下圖來形象地說明。如果g(t-k)kZ是V0的Riesz基，可通過正交化得到V0空間的函數(shù)(t)V0，使得(t-k)kZ 構成V0空間的規(guī)范正交基。由伸縮性和平移不

15、變性可知， j,k(t)j,kZ構成Vj空間的一個規(guī)范正交基。于是RtZkjkttjjkj， ,)2(2)(2,(3.4)ZjkjkjVjtttffVtfRLtfj)()(),()()()(,2空間的正交投影是在每個，則(3.5)注意： (t)并不是L2(R )空間的小波函數(shù)，而是與其緊密相關的尺度函數(shù)，j,k(t)j,kZ稱為尺度基，多分辨空間序列VjjZ稱為尺度空間，在MRA意義下，可由尺度基導出小波基。由MRA的單調性可以看出： Vj是Vj+1的嚴格子空間，設Wj是Vj關于Vj+1的正交補(子空間)，即ljljjjjjjjjjjjjjjjjjWVWWWVWWVVWVWVVWVV11221

16、1111:于是顯然，且即滿足(3.6) 對于一幅圖像，量化級數(shù)決定了圖像的分辨率，量化級數(shù)越高，圖像就越清晰，即圖像的分辨率高。對于任意一幅圖像，都可以用不同的量化空間來表示，細節(jié)比較豐富的部分用高分辨率來表示，細節(jié)比較單一的部分可用低分辨率來表示。 我們可以將不同的量化級數(shù)構成的空間看成不同的多分辨空間Vj，顯然這些量化空間是相互嵌套的， 列，稱為小波空間。是相互正交的子空間序故，所以，而由于顯然ZjjjjjjjjjlljjWWWWVVVWWVRL1112lim)(3.7)從圖像處理的角度，多分辨空間的分解可以理解為圖像的分解，假設有一幅256級量化的圖像，不妨將它看成量化空間Vj中的圖像，

17、則 可理解為Vj空間中的圖像有一部分保留在Vj-1空間中，還有一部分放在Wj-1空間，。11jjjWVV與尺度函數(shù)的產(chǎn)生一樣，若存在(t)W0，使得(t-k)kZ構成空間W0的一個規(guī)范正交基，則構成L2(R)空間的一個規(guī)范正交基。 稱為小波基，(t)稱為母小波。Zkjkjt,)()2(2)(2,kttjjkj(3.8)VjWj-1Vj-1MRA非常抽象，但是它給出了構造小波的一般框架。在實踐中很難通過小波空間直接構造小波，但通過MRA可推導出一個非常重要的關系：雙尺度方程，通過求解該方程，使我們有可能求出尺度函數(shù)和小波函數(shù)。 由前面的分析，我們知道：1010)()(WWtVVtkkkk1k)(

18、2tg(t) k)(2th(t) :)2()()(線性表示空間的一個基都可以用和所以ZkktVtt(3.9)(3.10)方程(3.9)和(3.10)稱為雙尺度方程。由(t) 的正交性可得：對雙尺度方程兩邊取傅立葉變換，可得頻域上的的雙尺度方程：ZkkttgZkktthkk，)2(),()2(),(3.12)(3.11)22)( 22)( gh(3.14)(3.13)kikkkikkeggehh21)( 21)( :其中(3.16)(3.15)從信號處理的角度，h是與(t)對應的低通濾波器，g是與(t) 對應的高通濾波器，h，g既可以表示為時域上的離散序列形式hk，gkkZ，也可以表示為頻域上的

19、2周期函數(shù)h ()，g()。兩者本質上是一樣的。若kN時，hk=0，這樣的濾波器稱為有限脈沖響應濾波器(FIR)，F(xiàn)IR濾波器具有好的局部化特性。此時，(t)只在有限區(qū)間0，N上取值，所以(t)是緊支的，其支集supp=0，N，(3.9)式變?yōu)椋篘kkktht0)2()(3.17) 此時(t)也是緊支的。所以只要濾波器的長度是有限的，我們稱對應的小波(t)是緊支小波。 由(3.13)式得：nnjjhhhhhhh22884244222)( 1(3.18)1)0()0( )0()0( )0( 2)( 20)0( )( 11hhhhjjnjj推得且由是收斂的，即，則是連續(xù)的，且若(3.19)只要找到

20、滿足雙尺度方程(3.9)的序列hkkZ，通過公式(3.15)就可以計算出2周期函數(shù)h ()，再由公式(3.19)就可以計算出 ，經(jīng)過傅立葉反變換，最終可得尺度函數(shù)(t)，有了尺度函數(shù)就可以計算出小波函數(shù)(t) 。)( 通過解雙尺度方程(3.9)，我們希望得到滿足MRA的尺度函數(shù)(t) ，并最終構造出小波函數(shù)(t) ，但有兩個問題必須解決：雙尺度方程(3.9)是否有解？解的唯一性如何？雙尺度方程(3.9)的解是否滿足MRA？ 關于問題1，I. Daubechies和Lagarias7在1991年給出了證明。 解決問題2卻是一件非常困難的事情。這里牽涉到尺度函數(shù)(t)與濾波器系數(shù)hkkZ之間的關系

21、問題：q 如果有一個L2(R)空間的尺度函數(shù)(t)，一定能構造出雙尺度方程(3.9) ，從而找到一組滿足(3.9)的濾波器hkkZ；q 反過來，如果有一組濾波器hkkZ滿足某個雙尺度方程，由此求解得到的函數(shù)卻不一定是滿足MRA的尺度函數(shù)，這樣無法保證雙尺度方程解的平移構成L2(R) Riesz基 若(t)是正交的，則相應的濾波器h有什么性質呢？ 若(t)是正交的，則相應的濾波器hk必須滿足條件：1)0(1)()(22hhh(3.20)(3.21)但是，如果hk僅僅滿足(3.20)和(3.21) ，并不能保證由雙尺度方程構造出的函數(shù)(t)是正交尺度函數(shù)。 (3.20)和(3.21) 稱為構造正交

22、小波的。僅有必要條件是不夠的，即hkkZ除了滿足條件(3.20)和(3.21) 外，還應滿足其他條件。S. Mallat4，W. Lawton6等都在這方面作出了重大的貢獻，并給出了一些有意義的結論。下面給出W. Lawton的充分條件。定理x2 設h()是FIR濾波器，若滿足1)0(1)()(22hhh 1,12)( 02)12)(12(1NjiNhhaAhhNkkijkijNNZkkjj，構造矩陣，由定義若矩陣A的特征值1是非退化的，則(t-k)kZ是標準正交的。構造緊支小波基 尋找滿足雙尺度方程(3.9)和(3.10)的濾波器hk,gkk0,1,N 利用公式(3.15)計算2周期函數(shù)h(

23、)； 驗證h()是否滿足條件12)( jjh通過傅立葉反變換求出(t) 驗證矩陣A的特征值1是否非退化； (t-k)kZ是正交的尺度函數(shù)，對應的緊支小波由公式(3.10)計算。 計算1)0(1)()(22hhh和 我們知道尺度函數(shù)和小波函數(shù)(t),(t)tR是在時域刻畫信號的性質，對應的濾波器h(),g()R從頻域上刻畫信號的性質。實際上，(t),(t)t R大量的性質都可以由對應的h(),g()R從頻域上反映出來，甚至離散小波變換都可以借助濾波器來實現(xiàn)，因此小波與濾波器具有緊密的關系。 若尺度函數(shù)(t)是正交的，則它所對應的濾波器h()稱為h()滿足以下條件：0)(1)0(1)()(22hh

24、hh濾波器hkkZ稱為低通濾波器。所謂低通是指：當信號f(t)被hkkZ作用后，其低頻成分能被保留下來，而高頻成分(=)卻被濾掉了。 對應的小波濾波器g()也是也滿足條件1)()(22gg(3.22)另外，由于(t-k)kZ與(t-k)kZ分別是V0空間和W0空間的規(guī)范正交基，而V0W0，則0)(),(tkt0) 1() 1()()(:ghgh由此可導出(3.23)公式(3.23)反映了低通濾波器h()和高通濾波器g()之間的關系。S. Mallat4同時給出了這樣的結論：若高通濾波器g()滿足公式，則由公式22)( g產(chǎn)生的小波基(t-k)kZ構成W0空間的規(guī)范正交基。因此當尺度函數(shù)(t)已

25、經(jīng)確定時，只要能找到一個滿足公式(3.22)和(3.23)的g()，就一定能找到對應的小波(t)，但是這樣的解并不是唯一的。例如可取)()(hegi(3.24)可以驗證g()滿足(3.22)和(3.23)，對應的共軛鏡像濾波器為：kkkhg11) 1(3.25)因此當找到低通共軛鏡像濾波器hkkZ后，利用公式(3.25)馬上可得高通共軛鏡像濾波器gkkZ。在一個MRA下的正交尺度函數(shù)和小波函數(shù)(t),(t)tR，產(chǎn)生一組共軛鏡像濾波器h,g，滿足：0)()()()(1)()(1)()(2222ghghgghh(3.26)公式(3.26)還有幾個等價形式，下面以定理的形式給出。 設h,g是由正交

26、尺度函數(shù)和小波函數(shù)產(chǎn)生的共軛鏡像濾波器，則以下幾個條件等價：q 在頻域上(3.26)式成立；q 在時域上以下公式成立：ZjkjjZjkkjjZjkkjjghZkgghh0 2220 ,20 ,2(3.27)q 定義調制矩陣：)()()()()(gghhm(3.28)則RmmT，1)()(3.29) L2(R) 空間的一個MRA產(chǎn)生了兩個子空間：尺度空間VjjZ和小波空間WjjZ。j,kj,kZ和j,kj,kZ 分別是兩個空間的規(guī)范正交基，信號f(t)L2(R) 在兩個空間上都可以做正交投影：ZkkjkjWZkkjkjVtttfftttffjj)()(),()()(),(,(3.30)信號在小波

27、空間的展開為ZjZkkjkjZjWtttfftfj)()(),()(,(3.31)但實踐中不可能進行無窮次逼近，不妨設f(t)VJ，則因為)( 1112211JjWWWVWWVWVVJjjjJJJJJJ所以 JjjZkkjkjZkkjkjtttftttftf)()(),()()(),()(,表示從尺度2-J到2-j進行了(J-j)次小波分解(jJ)實際計算時，可以一次一次地進行小波分解，然后遞推實現(xiàn)(J-j)次小波分解，不妨記一次小波分解的尺度系數(shù)和小波系數(shù)為kjkjkjkjfdfc,nnjnjkjkjZnjnjjkjjjVVV, 1, 1, 11,1, 來表示：的一組基可由，則由于(3.32

28、)2()22()(21)2()2(22,1, 1,kttdtnkttdtntktjjjjnjkj令而因為dtkttktthk)2()()2(),(代入(3.32)式得故knnjkjhtt2, 1,21)(),()2(21212, 1, 12,knnhhnknjnnnjknkj令從而nknjnnknjnkjkjchtfhtfc2, 12, 1,21),(21),(我們得到如下的遞推公式：Znknjnkjchc2, 1,21(3.33)現(xiàn)在來求dj,k的遞推公式，nnjnjkjkjZnjnjjkjjjVVW, 1, 1, 11,1, 來表示：的一組基可由，則由于(3.34)2()22()(21)2

29、()2(22,1, 1,kttdtnkttdtntktjjjjnjkj令而因為dtkttkttgk)2()()2(),(代入(3.34)式得)2(21 212, 1, 12,knnggnknjnnnjknkj令故knnjkjgtt2, 1,21)(),(從而nknjnnknjnkjkjcgtfgtfd2, 12, 1,21),(21),(我們得到如下的遞推公式：Znknjnkjcgd2, 1,21(3.35)通過公式(3.33)和(3.35)，可以很快計算出尺度系數(shù)和小波系數(shù)cj,k,dj,k，這就是著名的Mallat算法：因此，只要確定VJ空間的初始序列cJ,kkZ，就可以算出任意空間Vj(

30、jJ)的所有尺度系數(shù)和小波系數(shù)。公式(3.33)和(3.35)稱為離散小波變換的分解公式。又由于Vj+1=VjWj， VjWj，因此Vj上的標準正交基與Wj上的標準正交基是相互正交的。它們共同構成Vj+1上的標準正交基，則Vj+1上的函數(shù)j+1,nj,nZ可以由這兩個基共同表示：ZkkjkjnjZkkjkjnjnj, 1, 1, 1,有前面的計算可知：knkjnjknkjnjgh2, 12, 121,21,故ZkkjknZkkjknnjgh,2,2, 12121從而ZkkjknZkkjknZkkjknZkkjknnjnjdgchtfgtfhtfc,2,2,2,2, 1, 12121),(21),(21),(這就是Mallat重構算法：小波的應用1,4,8,9小波的應用主要是信號的處理，其中最典型的應用是小波圖象壓縮。另外，小波在諸如信號去噪、特征提取等多方面均有成功的應用。下面以圖象去噪為例說明小波應用策略。小波的各種應用均可分為以下三步：1）對原始信號作小波變換，將信號由空域變換到頻域；2）對小波系數(shù)做相應處理；3）對處理后的小波系數(shù)做小波逆變換，還原原信號。 因為噪聲信號多包含在具有較高頻率的細節(jié)中，所以小波去噪首先對圖像信號進行小波分解，可利用門限閾值對所分解的小波系數(shù)進行處理，然后對圖像信號