小波變換和多分辨率概念

1、每個(gè)小波變換都會(huì)有一個(gè)mother wavelet,我們稱之為母小波，同時(shí) 還有一個(gè) father wavelet，就是 scaling function。而該小波的 basis 函數(shù)其實(shí)就是對(duì)這個(gè)母小波和父小波縮放和平移形成的?？s放倍數(shù)都 是2的級(jí)數(shù)，平移的大小和當(dāng)前其縮放的程度有關(guān)。還講到，小波系統(tǒng)有很多種，不同的母小波，衍生的小波基就完全不 同。小波展開的近似形式是這樣：其中的、就是小波級(jí)數(shù)，這些級(jí)數(shù)的組合就形成了小波變換中的 基basis。和傅立葉級(jí)數(shù)有一點(diǎn)不同的是，小波級(jí)數(shù)通常是 orthonormal basis，也就是說，它們不僅兩兩正交，還歸一化了。我們還講了一般小波變換的三個(gè)

2、特點(diǎn)，就是小波級(jí)數(shù)是二維的，能定 位時(shí)域和頻域，計(jì)算很快。但我們并沒有深入講解，比如，如何理解 這個(gè)二維？它是如何同時(shí)定位頻域和時(shí)域的？在這一篇文章里，我們就來討論一下這些特性背后的原理。首先，我們一直都在講小波展開的近似形式。那什么是完整形式呢？ 之前講到，小波basis的形成，是基于基本的小波函數(shù)，也就是母小 波來做縮放和平移的。但是，母小波并非唯一的原始基。在構(gòu)建小波 基函數(shù)集合的時(shí)候，通常還要用到一個(gè)函數(shù)叫尺度函數(shù)，scaling function，人們通常都稱其為父小波。它和母小波一樣，也是歸一化了，而且它還需要滿足一個(gè)性質(zhì)，就是它和對(duì)自己本身周期平移的函數(shù)兩兩正交：11)11 =

3、1()“( fcT) = 0 Vfc另外，為了方便處理，父小波和母小波也需要是正交的?？梢哉f，完 整的小波展開就是由母小波和父小波共同定義的。88 8 ft) +，泌(2弗一村!.=!.=- 5_ ./=()其中 是母小波，一-小是父小波。需要提醒一點(diǎn)的是，這個(gè)正交純 粹是為了小波分析的方便而引入的特性，并不是說小波變換的基就一 定必須是正交的。但大部分小波變換的基確實(shí)是正交的，所以本文就 直接默認(rèn)正交為小波變換的主要性質(zhì)之一了。引入這個(gè)父小波呢，主 要是為了方便做多解析度分析(multiresolution analysis, MRA)。說 到這里，你的問題可能會(huì)井噴了：好好的為什么出來一個(gè)

4、父小波呢？ 這個(gè)scaling function是拿來干嘛的？它背后的物理意義是什么？ wavelet function背后的物理意義又是什么？這個(gè)多解析度分析又是 什么呢？不急，下面，我們圍繞一個(gè)例子來鞏固一下前面的知識(shí)，同 時(shí)再引出新的特性。假設(shè)我們有這樣一個(gè)信號(hào)：1 2 3 4 5 6 7 8該信號(hào)長度為8,是離散的一維信號(hào)。我們要考慮的，就是如何用小波將其展開。為了方便講解，我們考慮最簡單的一種小波，哈爾小波。下面是它的一種母小波：歐（匯）=2/205 n 8otherwise那如何構(gòu)建基于這個(gè)母小波的基呢？剛才提到了，要縮放，要平移。我們先試試縮放，那就是放（2n：2/2 0othe

5、rwise獨(dú)=1 一七3 71 4但這樣的話，它與自己的內(nèi)積就不是1 了，不符合小波基orthonormal 的要求，所以我們要在前面加一個(gè)系數(shù)根號(hào)二，這樣我們就得到了另 一個(gè)哈爾小波的basis function：ri1 n 2V2(2n) = I 3 n 40otherwise0(2g : I | 的 |同理，我們可以一直這樣推廣下去做scale，得到4n, 8n,.下的 basis functiono當(dāng)然在這個(gè)例子里，我們信號(hào)長度就是8，所以做到 4n就夠了。但推廣來說，就是這種scaling對(duì)母小波的作用為-， ，這是歸一化后的表示形式。平移的話也很簡單，我們可以對(duì)母小波進(jìn)行平移，也可

6、以對(duì)scale之 后的basis function進(jìn)行平移。比如對(duì)上一幅圖中的basis function 進(jìn)行平移，就成了(|5 n 6- 8) = *7 n8I 0otherwise/2(2n _ 8) : 1|看得出來，平移后的basis function和母小波以及僅僅scale過的小波，都是正交的，附合小波basis的特點(diǎn)。如果我們用甲(n)來表示這個(gè) mother wavelet，那么這些orthonormal basis函數(shù)可以寫成：響渺)=2護(hù)寸(2項(xiàng)一kN)這里的k是可以看成時(shí)域的參數(shù)，因?yàn)樗刂浦〔ɑ鶗r(shí)域的轉(zhuǎn)移， 而j是頻域的參數(shù)，因?yàn)樗鼪Q定了小波基的頻率特性。看到這里，

7、你 應(yīng)該會(huì)感覺很熟悉，因?yàn)檫@里的平移和變換本質(zhì)和剛才對(duì) scaling function的平移變換是一模一樣的。臨S）=期M 一 8）土這樣，我們就有了針對(duì)此信號(hào)space的哈爾小波basis組合：I 二, l w | TOC o 1-5 h z 由也孔）=曲例2門）I如（苗=- 8）I所,口）=諷我）氣I二伽奴州）= 16） F2,3（n） =- 24）圖1可以看出，我們用到了三層頻率尺度的小波函數(shù)，每往下一層，小波 的數(shù)量都是上面一層的兩倍。在圖中，每一個(gè)小波基函數(shù)的表達(dá)形式 都寫在了波形的下面。等等，你可能已經(jīng)發(fā)現(xiàn)了，有問題。這里為什么多了個(gè)沒有函數(shù)表達(dá) 式的波形呢？這貨明顯不是wave

8、let function阿。沒錯(cuò)，它是之前提 到的scaling function，也就是父小波。然后你可能就會(huì)問，為啥這個(gè) 憑空插了一個(gè)scaling function出來呢？明明目標(biāo)信號(hào)已經(jīng)可以用純 的小波基組合表示了。是，確實(shí)是，就算不包括scaling function,這 些小波函數(shù)本身也組成了正交歸一基，但如果僅限于此的話，小波變 換也就沒那么神奇的功效了。引入這個(gè)scaling function，才能引入我 們提到的多解析度分析的理論，而小波變換的強(qiáng)大，就體現(xiàn)在這個(gè)多 解析度上。那在這里，我們?cè)趺从眠@個(gè)多解析度呢？這個(gè)哈爾小波 basis組合是怎么通過多解析度推導(dǎo)出來的呢？話說在

9、數(shù)學(xué)定義中，有一種空間叫Lebesgue空間，對(duì)于信號(hào)處理非 常重要，可以用Lp(R)表示，指的是由p次可積函數(shù)所組成的函數(shù) 空間。我們?cè)谛〔ㄗ儞Q中要研究的信號(hào)都是屬于L人2(R)空間的，這 個(gè)空間是R上的所有處處平方可積的可測(cè)函數(shù)的集合，這樣就等于對(duì) 信號(hào)提出了一個(gè)限制，就是信號(hào)能量必須是有限的，否則它就不可積 了。小波變換的定義都是基于但不限于L人2(R)中的信號(hào)的。這玩意 的特性要具體解釋起來太數(shù)學(xué)了，牽涉到太多泛函知識(shí)，我就不在這 里詳述了。而且老實(shí)說我也沒能力完全講清楚，畢竟不是學(xué)這個(gè)的， 有興趣可以參考wiki?？傊阌涀。〔ㄗ儞Q研究中所使用的信號(hào)基 本都是平方可積的信號(hào)，但其應(yīng)

10、用不限于這種信號(hào)，就行了。對(duì)L人2(R)空間做MRA是在干嘛呢？就是說，在L人2(R)空間中，我 們可以找出一個(gè)嵌套的空間序列此食，并有下列性質(zhì)：二心點(diǎn)蕓門見=仞，壓再。明(iii)(iv)我巨說=八次任疏(v)有這樣一個(gè)方程.：|, 一：-.是此的 orthonormal basis。我來簡單解釋一下這些性質(zhì)。這個(gè)V_j都是L人2(R)空間中的子空間， 然后他們是由小到大的，交集是0，因?yàn)檫@是最小的子空間，并集 就是L空間。是不是有點(diǎn)難以理解？沒關(guān)系，看看下面這個(gè)圖就清楚 了：這個(gè)圖是圈圈套圈圈，最里面的圈是V0，之后分別是V1，V2, V3, V4。那他們有趣的性質(zhì)就是，假如有一個(gè)函數(shù)f(

11、t)他屬于一個(gè)某空 間，那你將其在時(shí)域上平移，它還是屬于這個(gè)空間。但如果你對(duì)它頻 域的放大或縮小，它就會(huì)相應(yīng)移到下一個(gè)或者上一個(gè)空間了。同時(shí)我們還知道，你要形容每一個(gè)空間的話，都需要有對(duì)應(yīng)的orthonormal basis，這是必然的，那對(duì)于V0來講，它的orthonormal basis就是啊:H) = w-肉)a e z l2這一系列函數(shù)是什么呢？是-v的時(shí)域變換，而且我們剛才也說了， 時(shí)域上平移，是不會(huì)跳出這個(gè)空間的。這樣，我們就可以說，由這一 系列basis所定義的L人2(R)子空間V0被這些basis所span，表示成：1% = Spanfc(t) kk從負(fù)無窮到正無窮。上面的ba

12、r表示這是一個(gè)閉包空間，也就是說/W =工 Qjfc 啊t() for any /(t) %這樣，我們就定義了基本的V0這個(gè)子空間。剛才說了，這個(gè)子空間 的基都是對(duì)的整數(shù)時(shí)域變換，這里我們稱為scaling function， 所以換個(gè)說法，就是說這里整個(gè)子空間V0，由scaling function和其 時(shí)域變換的兄弟們span。當(dāng)然，如果這個(gè)scaling function只是用來代表一個(gè)子空間的，那它 的地位也就不會(huì)這么重要了。剛才我們提到，這個(gè)嵌套空間序列有一 個(gè)性質(zhì)，/(腥嶺-JV3。這就是這個(gè)函數(shù)，如果你對(duì)它頻域的放 大或縮小，它就會(huì)相應(yīng)移到下一個(gè)或者上一個(gè)空間了。這個(gè)性質(zhì)就有 意

13、思了，它代表什么呢？對(duì)于任何一個(gè)包含V0的更上一層的空間來 講，他們的基都可以通過對(duì)scaling function做頻域的scale后再做時(shí) 域上的整數(shù)變換得到！推廣開來就是說，當(dāng)平抑=瀘以凝-k)我們有嶺=Span(pfc(2Jt) = S 乎n中活仞這也就意味著，對(duì)于任何屬于V_j空間的函數(shù)f(t)，都可以表示為：/() = 電以2九+幻.到這里，我們就明白這些個(gè)子空間和那個(gè)憑空冒出來的scalingfunction的作用了。scaling的構(gòu)建這些不同的子空間的基礎(chǔ)，當(dāng)j越 大的時(shí)候，每一次你對(duì)頻率變換后的scaling function所做的時(shí)域上 的整數(shù)平移幅度會(huì)越小，這樣在這個(gè)j

14、子空間里面得到的f(t)表示粒 度會(huì)很細(xì)，細(xì)節(jié)展現(xiàn)很多。反之亦然。通俗點(diǎn)說，就是對(duì) scaling function的變換平移給你不同的子空間，而不同的子空間給你不同的 分辨率，這樣你就可以用不同的分辨率去看日標(biāo)信號(hào)。下面就是時(shí)候看看什么是MRA equation 了，這是更加有趣，也是更 加核心的地方。通過剛才的講解，V0屬于VI，那scaling function- ： 1 是在V0中的，自然也在V1中了。我們把他寫成V1的基的線性組合， 那就是#() = E h(n) y/2- n), n e Z其中的h（n）是scaling function的系數(shù)，也叫做scaling filter或

15、者 scaling vector,可以是實(shí)數(shù)，也可以是虛數(shù)。根號(hào)2是為了維持norm 為1的。看，在這個(gè)公式里，我們就把屬于V0的函數(shù)用V1的基表 示出來了。同理，我們可以循環(huán)如此，把屬于V0的一-:門在V2, V3, Vn中表示出來。這些方程就是 MRA equation，也叫refinement equation，它是scaling function理論的基礎(chǔ)，也是小波分析的基礎(chǔ) 之一。好，稍微總結(jié)一下。到現(xiàn)在，已經(jīng)講了關(guān)于scaling function的基本 理論知識(shí)，知道了信號(hào)空間可以分為不同精細(xì)度的子空間，這些子空 間的basis集合就是scaling function或者頻率變換

16、之后的scaling function，如下圖所示：Iv%沐）；II TOC o 1-5 h z 西丫 伽-8） : 。I|2,（ : | 口。舞（煩-8） ;& II 山d/中（麗）,|0上圖就是四個(gè)子空間的basis集合的展覽。通過前面的討論，我們還 知道，一開始的scaling function可以通過更精細(xì)的子空間的scaling function （它們都是對(duì)應(yīng)子空間的basis）來構(gòu)建。比如2n - TOC o 1-5 h z 用):1ry/2tp(2n) :IVi戒n - 8) :2.對(duì)于更加finer的scale：轉(zhuǎn)(對(duì)=:(2夙An) + | (牛(4門 一 8) + ； (

17、2審(如 一 16) + ； (2貴(4n - 24) 已尤422甲皿):I；12甲(4n) : |o2(4n 8):【】I I 芯 。圖2依此類推。實(shí)際上，對(duì)于任何scale和translate過的scaling function, 都可以用更加精細(xì)的scale層面上的scaling function構(gòu)建出來。然后，我們有各種scale下的scaling function 了，該看看它們分別所 對(duì)應(yīng)的嵌套的空間序列叮如了。先看看V0，自然就是以基本的scaling function為基礎(chǔ)去span出來的：Vo = span(4n 8fc)t fc 0,1,2,3V3 = span翎(8n &

18、k)t k = 0,7V2代表的信號(hào)，是分別在1，2; 3, 4; 5, 6; 7, 8上有相同值的信 號(hào)。那么V3呢？則表示任何信號(hào)，因?yàn)閷?duì)于V3來講，任何一個(gè)時(shí) 間刻度上的值都可以不一樣。而且現(xiàn)在，我們也可以通過上面的一些 scaling functions的波形驗(yàn)證了之前提到的多解析度分析中的一個(gè)核 心性質(zhì)，那就是：Vo C C C我們之前講了一堆多解析度的理論，但直到現(xiàn)在，通過這些圖形化的 分析，我們可能才會(huì)真正理解它。那好，既然我們有一個(gè)現(xiàn)成的信號(hào)， 那就來看看，對(duì)這個(gè)信號(hào)作多解析度分析是啥樣子的：你看，在不同的子空間，對(duì)于同一個(gè)信號(hào)就有不同的詮釋。詮釋最好 的當(dāng)然是V3,完全不損失

19、細(xì)節(jié)。這就是多解析度的意義。我們可以 有嵌套的，由scaling function演變的basis function集合，每一個(gè)集 合都提供對(duì)原始信號(hào)的某種近似，解析度越高，近似越精確。說到這里，可能你對(duì)scaling function以及多解析度分析已經(jīng)比較理 解了。但是，我們還沒有涉及到它們?cè)谛〔ㄗ儞Q中的具體應(yīng)用，也就 是還沒有回答剛才那個(gè)問題：憑空插了一個(gè)scaling function到小波 basis組合中干嘛。也就是說，我們希望理解scaling function是怎么 和小波函數(shù)結(jié)合的呢，多解析度能給小波變換帶來什么樣的好處呢。 這其實(shí)就是是小波變換中的核心知識(shí)。理解了這個(gè)，后面

20、的小波變換 就是純數(shù)學(xué)計(jì)算了。好，我們已經(jīng)知道，對(duì)于子空間V0，basis是scaling function：對(duì)應(yīng)的小波函數(shù)是:場(chǎng)_L1 M然后子空間V1的basis集合是這倆哥們:看出什么規(guī)律了么？多看幾次這三個(gè)圖，你會(huì)驚訝地發(fā)現(xiàn)，在V0中的scaling function和wavelet function的組合，其實(shí)就是V1中的 basis！繼續(xù)這樣推導(dǎo)，V1本來的的basis是：然后V1中對(duì)應(yīng)的wavelet function是I|0他們的組合，本質(zhì)上也就是V2的basis (參考圖2)。你繼續(xù)推導(dǎo)下 去，會(huì)得到同樣的結(jié)論：在scale j的wavelet function，可以被用來

21、將Vj的basis擴(kuò)展到V(j+1)中去！這是一個(gè)非常非常關(guān)鍵的性質(zhì)， 因?yàn)檫@代表著，對(duì)任何一個(gè)子空間Vj，我們現(xiàn)在有兩種方法去得到它 的 orthonormal basis：一種就是它本來的basis 一；，對(duì)任意k。第二種就是它上一個(gè)子空間的basis-.，對(duì)任意k，以及上一級(jí) 子空間的wavelet function 一-，對(duì)任意k。第二種選擇能給我們帶來額外的好處，那就是我們可以循環(huán)不斷地用 上一級(jí)子空間的scaling function以及wavelet function的組合來作為 當(dāng)前子空間的基。換句話說，如果針對(duì)V3這個(gè)子空間，它實(shí)際上就 有四種不同的，但是等價(jià)的orthono

22、rmal basis：1.本級(jí)(V3)的 scaling function basis set2.上一級(jí)(V2)的 scaling function + wavelet function;3 .上上一級(jí)(V1)的 scaling function + 上上一級(jí)(V1)的 wavelet function + 上一級(jí)(V2)的 wavelet function;4.上上上一級(jí)(V0)的 scaling function + 上上上一級(jí)(V0)的 waveletfunction + 上上一級(jí)(V1)的wavelet function + 上一級(jí)(V2)的wavelet function 那為什么我

23、們最后選定的是這種選取方式呢？實(shí)際上，剛才介紹的這 個(gè)性質(zhì)已經(jīng)告訴我們，對(duì)于任何的scale j0，我們都可以給我們的 signal space 找到一組 orthonormal basis，這個(gè) basis 是通過組合 scale j0 上的 scaling function 以及所有在 scale j，j=j0 上的 wavelets 得 到的。這樣，基于這個(gè)orthonormal basis，所有信號(hào)空間中的信號(hào)都 可以寫成組成這個(gè)basis的functions的線性組合：好，看看最后一種選取方式，有沒有感到眼熟？對(duì)了，它就是我們之 前提到的“針對(duì)此信號(hào)space的哈爾小波basis組合

24、，參見圖1。現(xiàn) 在我們知道了，這個(gè)scaling function不是憑空插進(jìn)去的，而是通過 不斷的嵌套迭代出來的：）IsS)=工序3)+ 頓加認(rèn)0) 也j 70 k對(duì)應(yīng)的系數(shù)的計(jì)算和平常一樣：dj,k =物，認(rèn)對(duì)這，就是最終的，也是最核心的，小波變換形式。不管是信號(hào)壓縮， 濾波，還是別的方式處理，只要是用小波變換，都逃不出這個(gè)基礎(chǔ)流 程：1.選取合適的wavelet function和scaling function，從已有的信號(hào) 中，反算出系數(shù)c和d。2.對(duì)系數(shù)做對(duì)應(yīng)處理從處理后的系數(shù)中重新構(gòu)建信號(hào)。 這里的系數(shù)處理是區(qū)別你的應(yīng)用的重點(diǎn)。比如圖像或者視頻壓縮，就 希望選取能將能量聚集到很小一部分系數(shù)中的小波，然后拋棄那些能 量很小的小波系數(shù)，只保留少數(shù)的這些大頭系數(shù)，再反變換回去。這 樣的話，圖像信號(hào)的能量并沒有怎么丟失，圖像體積卻大大減小了。還有一個(gè)沒有解釋的問題是，為什么要強(qiáng)調(diào)尺度函數(shù)和小波函數(shù)組成 一個(gè)orthonormal basis呢？計(jì)算方便是一方面，還有一個(gè)原因是， 如果他們滿足這個(gè)性質(zhì)，就滿足瑞利能量定理，也就是說，信號(hào)的能 量，可以完全用每個(gè)頻域里面的展開部分的能量，也就是他們的展開 系數(shù)表示：roqco co