第二講 多分辨分析與Mallat算法

孫延奎

清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系

第2章多分辨分析與Mallat算法內(nèi)容提綱預(yù)備知識(shí)小波研究的函數(shù)空間L2(R)L2(R)的Haar多分辨分析{Vj}L2(R)的多分辨分析{Vj}及例子用多分辨分析構(gòu)造小波的基本方法與舉例常用緊支撐小波及做圖小波變換的Mallat算法Mallat算法的實(shí)現(xiàn)

小波在奇異點(diǎn)檢測(cè)和信號(hào)降噪中的應(yīng)用雙正交小波變換的Mallat算法預(yù)備知識(shí)

線性空間

內(nèi)積與正交線性空間的范數(shù)

平方可積空間

平方可和空間

絕對(duì)可積與絕對(duì)可和空間小波研究的函數(shù)空間L2(R)f(x)是平方可積的絕對(duì)可積函數(shù)空間L1(R)

若，則若，則卷積定理平移性質(zhì)調(diào)制性質(zhì)尺度伸縮性質(zhì)微積分性質(zhì)Parseval定理Z-變換序列a={an}的z變換定義為：

序列的離散傅立葉變換序列a={an}的離散傅立葉變換定義為：顯然，它是關(guān)于數(shù)字頻率的以為周期的連續(xù)函數(shù)L2(R)的Riesz基

如果函數(shù)序列對(duì)于任何數(shù)列能使下式成立，則稱(chēng)為一個(gè)Riesz基。（線性無(wú)關(guān)的框架）

標(biāo)準(zhǔn)正交基。

L2(R)的多分辨分析{Vj}令中的一個(gè)函數(shù)子空間序列。若下列條件成立：，1)單調(diào)性：，2)逼近性：，3)伸縮性：

4)平移不變性

：

5)Riesz基存在性

：

存在函數(shù)

使，構(gòu)成的一個(gè)Riesz基（不一定是正交的）。稱(chēng)為尺度函數(shù)。

稱(chēng)為由生成的多分辨分析。

是如何得到L2(R)上的Haar多分辨分析{Vj}？V0如何定義？V1如何定義？Vj如何定義？…,V-2,V-1,V0,V1,V2,…,Vj,…構(gòu)成L2(R)上的一個(gè)嵌套的子空間序列.

構(gòu)成V0的標(biāo)準(zhǔn)正交基構(gòu)成Vj的一個(gè)標(biāo)準(zhǔn)正交基.構(gòu)成Wj的一個(gè)標(biāo)準(zhǔn)正交基.構(gòu)成L2(R)的一個(gè)標(biāo)準(zhǔn)正交基.稱(chēng)為的（1次）小波變換.Vj中的函數(shù)在任意二進(jìn)區(qū)間

在R上是連續(xù)的能量有限函數(shù)。即Vj中的函數(shù)在R上是分段線性的、連續(xù)的且能量有限的?？梢宰C明：是1次多項(xiàng)式,…,V-2,V-1,V0,V1,V2,…,Vj,…構(gòu)成L2(R)上的一個(gè)嵌套的子空間序列.構(gòu)成V0的一個(gè)Riesz基，但不是標(biāo)準(zhǔn)正交基。

L2(R)上的1次基數(shù)B樣條多分辨分析{Vj}稱(chēng)N2(t)是尺度函數(shù)，它生成L2(R)上的1次基數(shù)B樣條多分辨分析{Vj}。Vj中的函數(shù)在任意二進(jìn)區(qū)間

在R上是1次連續(xù)可導(dǎo)的能量有限函數(shù)。即Vj中的函數(shù)在R上是分段二次的、連續(xù)可微且能量有限的?？梢宰C明：是2次多項(xiàng)式,…,V-2,V-1,V0,V1,V2,…,Vj,…構(gòu)成L2(R)上的一個(gè)嵌套的子空間序列.構(gòu)成V0的一個(gè)Riesz基，但不是標(biāo)準(zhǔn)正交基。

L2(R)上的2次基數(shù)B樣條多分辨分析{Vj}

L2(R)上的3次基數(shù)B樣條多分辨分析{Vj}？

L2(R)上的m次基數(shù)B樣條多分辨分析{Vj}？?jī)沙叨确匠逃捎?所以，從而存在常數(shù)使得基數(shù)B樣條多分辨分析{Vj}的兩尺度方程由習(xí)題2.1可知，線性B樣條多分辨分析{Vj}的兩尺度方程如式（2-4）;二次B樣條多分辨分析{Vj}的兩尺度方程如式（2-6）.尺度函數(shù)Nm+1(t)的性質(zhì)問(wèn)題1.兩個(gè)不同的尺度函數(shù)是否能夠生成同一個(gè)多分辨分析？

2.若生成多分辨分析{Vj},是否存在一個(gè)正交尺度函數(shù)生成同一個(gè)多分辨分析{Vj}?如果可以，如何構(gòu)造？3.正交多分辨分析具有哪些性質(zhì)？有哪些作用？

線性樣條尺度函數(shù)N2(t)和二次樣條尺度函數(shù)

N3(t)10,00,01次盒樣條尺度函數(shù)和2次盒樣條尺度函數(shù)與N2(t)生成相同的線性樣條多分辨分析{Vj}。與N3(t)生成相同的二次樣條多分辨分析{Vj}。兩尺度方程的頻域表示問(wèn)題:若生成多分辨分析{Vj},是否存在一個(gè)正交尺度函數(shù)生成同一個(gè)多分辨分析{Vj}?尺度函數(shù)正交尺度函數(shù)按照習(xí)題2.2，是標(biāo)準(zhǔn)正交系的充分必要條件是：由此，可得如下的正交化方法：正交多分辨分析具有哪些性質(zhì)？?jī)沙叨确匠讨械南禂?shù)具有什么性質(zhì)？中，尺度空間Vj與小波空間Wj的基函數(shù)是什么？是否存在一個(gè)函數(shù)，它的二進(jìn)伸縮與平移構(gòu)成Wj的標(biāo)準(zhǔn)正交基？如果是，如何構(gòu)造之？所有Vj的基函數(shù)的集合是否構(gòu)成的標(biāo)準(zhǔn)正交基？所有Wj的基函數(shù)的集合是否構(gòu)成的標(biāo)準(zhǔn)正交基？一維正交多分辨分析MRA及其性質(zhì)構(gòu)成Vj的一個(gè)標(biāo)準(zhǔn)正交基.問(wèn)題：是否構(gòu)成L2(R)的一個(gè)標(biāo)準(zhǔn)正交基?性質(zhì)1

注意：非標(biāo)準(zhǔn)尺度函數(shù)性質(zhì)2正交尺度函數(shù){hk}稱(chēng)為低通濾波器的兩尺度方程為其中，或性質(zhì)3尺度空間小波空間構(gòu)成的標(biāo)準(zhǔn)正交基。的結(jié)構(gòu)如何?如何構(gòu)造小波,使問(wèn)題：構(gòu)成的標(biāo)準(zhǔn)正交基？從而推導(dǎo)見(jiàn)式（2-16）

正交小波函數(shù)的構(gòu)造令,則的標(biāo)準(zhǔn)正交基.

是構(gòu)成的標(biāo)準(zhǔn)正交基。MRA確定了構(gòu)造正交小波的統(tǒng)一框架.定理2.1高通濾波器.一個(gè)重要性質(zhì)：小波方程正交小波見(jiàn)（2－23）、（2－24）

Haar小波構(gòu)造

例

2.6

Haar小波

例2.5

Shannon多分辨分析

正交尺度函數(shù)。Shannon正交小波構(gòu)造

例2.8Shannon小波

容易驗(yàn)證：

例2.8Shannon小波

而，即是偶函數(shù)，所以：兩式相減，得：

多分辨分析（MultiresolutionAnalysis,MRA）構(gòu)造正交小波基MRA(非正交)尺度函數(shù)

正交尺度函數(shù)

低通濾波器

高通濾波器

小波函數(shù)

正交化兩尺度方程小波方程MRA時(shí)域求解過(guò)程→時(shí)域和頻域的對(duì)應(yīng)關(guān)系其中，，從非正交多分辨分析構(gòu)造正交小波1次基數(shù)B樣條MRA1次盒樣條函數(shù)2次基數(shù)B樣條MRA2次盒樣條函數(shù)10,00,0

例2.7

Battle-Lemarie線性樣條正交小波為正交尺度函數(shù)，稱(chēng)為Battle-Lemarie線性樣條尺度函數(shù)。

Matlab實(shí)現(xiàn)技巧：用函數(shù)quadv()用于數(shù)值積分

Matlab實(shí)現(xiàn)技巧：用函數(shù)quadv()無(wú)限支撐的對(duì)稱(chēng)的正交小波有無(wú)限支集，但

是指數(shù)衰減的。

Battle-Lemarie線性樣條小波

見(jiàn)表2-101,-12,-23,-34,-45,-50.8176459560.397296430-0.069101020-0.0519453370.0169748050.0099905996,-67,-78,-89,-910,-1011,-11-0.003883261-0.0022019450.0009233710.000511636-0.000224296-0.000122686問(wèn)題能否直接用N2(t),N3(t)構(gòu)造小波？參考崔錦泰，小波分析導(dǎo)論，1995B樣條半正交小波的構(gòu)造如何快速計(jì)算小波變換？從一個(gè)正交MRA，可構(gòu)造一個(gè)正交小波,使得它的二進(jìn)伸縮和平移構(gòu)成能量有限空間L2(R)的一個(gè)標(biāo)準(zhǔn)正交基，即即是一個(gè)小波。構(gòu)成的標(biāo)準(zhǔn)正交基.

給出計(jì)算小波系數(shù)

的快速算法小波級(jí)數(shù)表示.小波變換的快速算法----Mallat算法問(wèn)題：已知，給出計(jì)算，的快速算法。預(yù)備知識(shí)：離散序列的卷積、二通道濾波器組及相關(guān)概念離散序列的卷積反轉(zhuǎn)后向右逐個(gè)滑動(dòng),起濾波器的作用.k+1次移動(dòng)初始狀態(tài)中間狀態(tài)最終狀態(tài)又移動(dòng)m次對(duì)無(wú)限序列利用z變換的性質(zhì)（二元）下抽樣（Downsampling）用表示:

（二元）上抽樣（Upsampling）用表示

推導(dǎo)過(guò)程：小波分解小波重構(gòu)分解算法重構(gòu)算法可以看出,正交小波變換的快速算法本質(zhì)上由低通濾波器h完全確定。不涉及尺度函數(shù)與小波函數(shù)的具體表達(dá)式。小波分解的迭代過(guò)程小波重構(gòu)的迭代過(guò)程Mallat算法的實(shí)現(xiàn)卷積法實(shí)現(xiàn)小波變換在實(shí)際中具有廣泛的應(yīng)用。問(wèn)題:

在實(shí)際應(yīng)用中，所處理的都是有限長(zhǎng)信號(hào)，在這種情況下，如何實(shí)現(xiàn)信號(hào)的分解與重構(gòu)？一種解決方法：增加原始信號(hào)的長(zhǎng)度，將邊界延拓到原信號(hào)之外，以保證原始信號(hào)的分解與重構(gòu)是精確實(shí)現(xiàn)的。另一種方法：信號(hào)不變，改變邊界處的小波基函數(shù)（略）信號(hào)邊界延拓（實(shí)濾波器）常用的邊界處理方法：

零延拓

周期延拓

周期對(duì)稱(chēng)延拓法

光滑常數(shù)延拓法

平滑延拓延拓法

沿著信號(hào)兩端的導(dǎo)數(shù)方向延拓問(wèn)題：設(shè)信號(hào)長(zhǎng)度為n,濾波器的長(zhǎng)度為l,

那么信號(hào)左右最少需要延拓多少個(gè)即可實(shí)現(xiàn)精確重構(gòu)？

零延拓

周期延拓

周期對(duì)稱(chēng)延拓法

光滑常數(shù)延拓法

設(shè)信號(hào)長(zhǎng)度為n,濾波器的長(zhǎng)度為l,則每次分解只要在信號(hào)的左右兩端延拓len個(gè)元素即可。這里len為l/2的上取整。延拓后的信號(hào)的長(zhǎng)度為n+2*len.參考資料：教材參考文獻(xiàn)[76]，第89頁(yè)。思考練習(xí)題：如何給出重構(gòu)的嚴(yán)格證明？Matlab小波工具箱中若干函數(shù)介紹waveinfo()wfilters()wavefun()在Matlab中,用wavefun()可繪制尺度函數(shù)與小波函數(shù)的圖形.在使用時(shí)需要輸入“小波的名字”及迭代次數(shù)即可。dwt()idwt()wavedecwaveinfo()

Waveinfo

waveinfo('wname')waveinfoprovidesinformationonallwaveletswithinthetoolbox.

waveinfo('wname')providesinformationonthewaveletfamilywhoseshortnameisspecifiedbythestring'wname'wfilters()功能：小波濾波器格式：[Lo_D,Hi_D,Lo_R,Hi_R]=wfilters(‘wname’)

[F1,F2]=wfilters(‘wname’,’type’)

其中‘type’可以取‘d’,’r’,’l’,’h’

舉例：（源代碼）wname=’db5’;%wname取db5小波%下面計(jì)算與給定小波相關(guān)聯(lián)的四個(gè)濾波器[Lo_D,Hi_D,Lo_R,Hi_R]=wfilters(wname);subplot(421);stem(Lo_D);title(‘分解低通濾波器’);grid;subplot(422);stem(Hi_D);title(‘分解高通濾波器’);grid;subplot(425);stem(Lo_R);title(‘重構(gòu)低通濾波器’);grid;subplot(426);stem(Hi_D);title(‘重構(gòu)高通濾波器’);grid;

（輸出結(jié)果）dwt()

[cA,cD]=dwt(X,'wname')[cA,cD]=dwt(X,'wname','mode',MODE)[cA,cD]=dwt(X,Lo_D,Hi_D)[cA,cD]=dwt(X,Lo_D,Hi_D,'mode',MODE)X的長(zhǎng)度為,濾波器的長(zhǎng)度為對(duì)于周期延拓方式，cA，cD的長(zhǎng)度均為對(duì)于其他延拓方式，cA，cD的長(zhǎng)度均為使用注意事項(xiàng)：要求濾波器的長(zhǎng)度相同（可通過(guò)補(bǔ)零實(shí)現(xiàn)）。idwt()

X=idwt(cA,cD,Lo_R,Hi_R)X=idwt(cA,cD,Lo_R,Hi_R，'mode',MODE)對(duì)于周期延拓方法，

對(duì)于其他延拓方式，建議大家借助Matlab對(duì)一個(gè)長(zhǎng)度8的信號(hào)用db2做實(shí)驗(yàn)分析.Mallat算法的實(shí)現(xiàn)dwt()直接用于數(shù)據(jù)壓縮如何？數(shù)據(jù)壓縮應(yīng)用的特點(diǎn)與要求:一般要求小波分解后低頻與高頻信號(hào)的長(zhǎng)度不超過(guò)原始信號(hào)的長(zhǎng)度。以上分析表明，dwt()實(shí)現(xiàn)很難滿足這個(gè)要求，為什么？wavedec實(shí)現(xiàn)多級(jí)小波分解的Matlab函數(shù)是wavedec，使用方式有[C,L]=wavedec(X,N,'wname')[C,L]=wavedec(X,N,Lo_D,Hi_D)輸出參數(shù)C是由[cAj,cDj,cDj-1,...,cD1]組成，L是由[cAj的長(zhǎng)度,cDj,的長(zhǎng)度cDj-1的長(zhǎng)度,...,cD1的長(zhǎng)度，X的長(zhǎng)度]組成。具有延拓功能的二帶分析/綜合系統(tǒng)

問(wèn)題:

在什么情況下,能夠確保完全重構(gòu)?我們希望這種系統(tǒng)，既滿足完全重構(gòu)條件，又不增加信號(hào)的數(shù)據(jù)量。在一般情況下，采用所提出的各種延拓方法，具有延拓功能的二帶分析/綜合系統(tǒng)很難保證在小波分解時(shí)不丟失信息，從而難以實(shí)現(xiàn)信號(hào)的完全重構(gòu)。問(wèn)題:

在什么情況下,能夠確保完全重構(gòu)?在一些特殊情況下也可實(shí)現(xiàn)信號(hào)的完全重構(gòu)。如當(dāng)所研究的信號(hào)/函數(shù)具有周期性時(shí)，則采用周期延拓可實(shí)現(xiàn)信號(hào)/函數(shù)的精確重構(gòu)；當(dāng)采用具有某種對(duì)稱(chēng)性的雙正交小波濾波器時(shí)，合理選擇延拓方法，可以實(shí)現(xiàn)信號(hào)的完全重構(gòu)。如對(duì)第三章中給出的具有對(duì)稱(chēng)性的雙正交小波濾波器，采用對(duì)稱(chēng)周期延拓可實(shí)現(xiàn)完全重構(gòu)。詳細(xì)分析可參考WaveletImageandVideoCompression,1998年出版:SymmetricExtensionTransforms,83-91。此外，有一篇中文論文作為課外閱讀資料供參考。用小波處理函數(shù)/信號(hào)的基本步驟

用小波處理信號(hào)的基本過(guò)程包括:

初始化小波變換小波系數(shù)處理小波逆變換（可選）和已知是正交尺度函數(shù)與小波,則用小波處理信號(hào)的基本過(guò)程包括:

初始化設(shè)信號(hào)在最高初始分辨率級(jí)下的光滑逼近為

記，則有。其中，

可以看出,這本質(zhì)上是一個(gè)信號(hào)采樣問(wèn)題.不同的應(yīng)用決定了不同的采樣率.如聲音信號(hào),需要捕捉到20kHz頻率的信號(hào).此時(shí)的采樣率應(yīng)為40kHz.清華大學(xué)計(jì)算機(jī)系孫延奎2009

小波分解遞歸分解達(dá)到一定的分解級(jí),輸出小波系數(shù)(細(xì)節(jié))和低頻系數(shù).順便指出，我們可以根據(jù)需要控制分解的級(jí)數(shù)，不一定到達(dá)j=0級(jí)。

小波系數(shù)處理

壓縮信號(hào)、信號(hào)濾波或去噪、信號(hào)奇異性檢測(cè)、信號(hào)融合等

小波重構(gòu)有些應(yīng)用如信號(hào)奇異性檢測(cè)等不需要恢復(fù)原信號(hào)。類(lèi)似地，我們可以為離散信號(hào)的分解與重構(gòu)找到根據(jù)。例2.9問(wèn)題：1）用Haar尺度函數(shù)和小波分解信號(hào)；

2）用D4尺度函數(shù)和小波分解信號(hào)；

3）用FFT變換分解信號(hào)。令絕對(duì)值最小的80%和90%的（小波）系數(shù)為0對(duì)信號(hào)進(jìn)行壓縮，畫(huà)出相應(yīng)的重構(gòu)信號(hào)的圖形，并求出相應(yīng)的相對(duì)誤差。

對(duì)各種變換的效果進(jìn)行對(duì)比分析。處理中的注意事項(xiàng):由于低頻系數(shù)表示信號(hào)的重要信息,一般來(lái)說(shuō)它們的幅值都比較大,對(duì)重構(gòu)信號(hào)有重要的影響.因此,在處理過(guò)程中需要保留.相對(duì)誤差與均方差的計(jì)算公式相對(duì)誤差:均方根誤差:設(shè)信號(hào)，其重構(gòu)信號(hào)為則3.在數(shù)據(jù)壓縮應(yīng)用中，需要保持每層小波分解后的數(shù)據(jù)數(shù)量經(jīng)適當(dāng)截?cái)啾３植蛔?。均方?Haar小波均方差：0.79912.9559

相對(duì)誤差：0.0050

0.0185

取0比例：80%90%D4小波均方差：0.02770.2159

相對(duì)誤差：0.00017

0.0014取0比例：80%90%FFT變換均方差：0.0012

0.0025

相對(duì)誤差：