小波變換-完美通俗解讀

小波變換完美通俗解讀這是《小波變換和motion信號(hào)處理》系列的第一篇，根底普及。第二篇我準(zhǔn)備寫(xiě)深入小波的東西，第三篇講解應(yīng)用。記得我還在大四的時(shí)候，在申請(qǐng)出國(guó)和保研中猶豫了好一陣，骨子里的保守最后讓我選擇了先保研。當(dāng)然后來(lái)也退學(xué)了，不過(guò)這是后話。當(dāng)時(shí)保研就要找老板，實(shí)驗(yàn)室，自己運(yùn)氣還不錯(cuò)，進(jìn)了一個(gè)在本校很牛逼的實(shí)驗(yàn)室干活路。我們實(shí)驗(yàn)室主要是搞圖像的，實(shí)力在全國(guó)也是很強(qiáng)的，進(jìn)去后和師兄師姐聊，大家都在搞什么小波變換，H264之類的。當(dāng)時(shí)的我心思都不在這方面，盡搞什么操作系統(tǒng)移植，ARM+FPGA這些東西了。對(duì)小波變換的認(rèn)識(shí)也就停留在神秘的“圖像視頻壓縮算法之王〞上面。后來(lái)我才發(fā)現(xiàn)，在別的很廣泛的領(lǐng)域中，小波也逐漸開(kāi)始流行。比方話說(shuō)很早以前，我們接觸的信號(hào)頻域處理根本都是傅立葉和拉普拉斯的天下。但這些年，小波在信號(hào)分析中的逐漸興盛和普及。這讓人不得不感到好奇，是什么特性讓它在圖象壓縮，信號(hào)處理這些關(guān)鍵應(yīng)用中更得到信賴呢？說(shuō)實(shí)話，我還在國(guó)內(nèi)的時(shí)候，就開(kāi)始好奇這個(gè)問(wèn)題了，于是放狗搜，放毒搜，找遍了中文講小波變換的科普文章，發(fā)現(xiàn)沒(méi)幾個(gè)講得清楚的，當(dāng)時(shí)好奇心沒(méi)那么重，也不是搞這個(gè)研究的，懶得找英文大部頭論文了，于是作罷。后來(lái)來(lái)了這邊，有些工程要用信號(hào)處理，不得已接觸到一些小波變換的東西，才開(kāi)始硬著頭皮看?？戳艘恍┎牧?，聽(tīng)了一些課，才發(fā)現(xiàn)，還是那個(gè)老生常談的論調(diào)：國(guó)外的技術(shù)資料和國(guó)內(nèi)真TNND不是一個(gè)檔次的。同樣的事情，別人說(shuō)得很清楚，連我這種并不聰明的人也看得懂;國(guó)內(nèi)的材料那么繞來(lái)繞去講得一塌糊涂，除了少數(shù)天才沒(méi)幾個(gè)人能在短時(shí)間掌握的。牢騷就不繼續(xù)發(fā)揮了。在這個(gè)系列文章里，我希望能簡(jiǎn)單介紹一下小波變換，它和傅立葉變換的比較，以及它在移動(dòng)平臺(tái)做motiondetection的應(yīng)用。如果不做特殊說(shuō)明，均以離散小波為例子。考慮到我以前看中文資料的痛苦程度，我會(huì)盡量用簡(jiǎn)單，但是直觀的方式去介紹。有些必要的公式是不能少的，但我盡量少用公式，多用圖。另外，我不是一個(gè)好的翻譯者，所以對(duì)于某些實(shí)在翻譯不清楚的術(shù)語(yǔ)，我就會(huì)直接用英語(yǔ)。我并不claim我會(huì)把整個(gè)小波變換講清楚，這是不可能的事，我只能盡力去圍繞要點(diǎn)展開(kāi)，比方小波變換相對(duì)傅立葉變換的好處，這些好處的原因是什么，小波變換的幾個(gè)根本性質(zhì)是什么，背后的推導(dǎo)是什么。我希望到達(dá)的目的就是一個(gè)小波變換的初學(xué)者在看完這個(gè)系列之后，就能用matlab或者別的工具對(duì)信號(hào)做小波變換的根本分析并且知道這個(gè)分析大概是怎么回事。最后說(shuō)明，我不是研究信號(hào)處理的專業(yè)人士，所以文中必有疏漏或者錯(cuò)誤，如發(fā)現(xiàn)還請(qǐng)不吝賜教。要講小波變換，我們必須了解傅立葉變換。要了解傅立葉變換，我們先要弄清楚什么是〞變換“。很多處理，不管是壓縮也好，濾波也好，圖形處理也好，本質(zhì)都是變換。變換的是什么東西呢？是基，也就是basis。如果你暫時(shí)有些遺忘了basis的定義，那么簡(jiǎn)單說(shuō)，在線性代數(shù)里，basis是指空間里一系列線性獨(dú)立的向量，而這個(gè)空間里的任何其他向量，都可以由這些個(gè)向量的線性組合來(lái)表示。那basis在變換里面啥用呢？比方說(shuō)吧，傅立葉展開(kāi)的本質(zhì)，就是把一個(gè)空間中的信號(hào)用該空間的某個(gè)basis的線性組合表示出來(lái)，要這樣表示的原因，是因?yàn)楦盗⑷~變換的本質(zhì)，是。小波變換自然也不例外的和basis有關(guān)了。再比方你用Photoshop去處理圖像，里面的圖像拉伸，反轉(zhuǎn)，等等一系列操作，都是和basis的改變有關(guān)。既然這些變換都是在搞基，那我們自然就容易想到，這個(gè)basis的選取非常重要，因?yàn)閎asis的特點(diǎn)決定了具體的計(jì)算過(guò)程。一個(gè)空間中可能有很多種形式的basis，什么樣的basis比較好，很大程度上取決于這個(gè)basis效勞于什么應(yīng)用。比方如果我們希望選取有利于壓縮的話，那么就希望這個(gè)basis能用其中很少的向量來(lái)最大程度地表示信號(hào)，這樣即使把別的向量給砍了，信號(hào)也不會(huì)損失很多。而如果是圖形處理中常見(jiàn)的線性變換，最省計(jì)算量的完美basis就是eigenvectorbasis了，因?yàn)榇藭r(shí)變換矩陣T對(duì)它們的作用等同于對(duì)角矩陣(Tv_n=av_n，a是eigenvalue)。總的來(lái)說(shuō)，拋開(kāi)具體的應(yīng)用不談，所有的basis，我們都希望它們有一個(gè)共同的特點(diǎn)，那就是，容易計(jì)算，用最簡(jiǎn)單的方式呈現(xiàn)最多的信號(hào)特性。好，現(xiàn)在我們對(duì)變換有了根本的認(rèn)識(shí)，知道他們其實(shí)就是在搞基。當(dāng)然，搞基也是分形式的，不同的變換，搞基的妙處各有不同。接下來(lái)先看看，傅立葉變換是在干嘛。傅立葉級(jí)數(shù)最早是JosephFourier這個(gè)人提出的，他發(fā)現(xiàn)，這個(gè)basis不僅僅存在與vectorspace，還存在于functionspace。這個(gè)functionspace本質(zhì)上還是一個(gè)linearvectorspace，可以是有限的，可以是無(wú)限的，只不過(guò)在這個(gè)空間里，vector就是function了，而對(duì)應(yīng)的標(biāo)量就是實(shí)數(shù)或者復(fù)數(shù)。在vectorspace里，你有vectorv可以寫(xiě)成vectorbasis的線性組合，那在functionspace里，functionf(x)也可以寫(xiě)成對(duì)應(yīng)functionbasis的線性組合，也有norm。你的vectorbasis可以是正交的，我的functionbasis也可以是正交的〔比方sin(t)和sin(2t)〕。唯一不同的是，我的functionbasis是無(wú)窮盡的，因?yàn)槲业膄unctionspace的維度是無(wú)窮的。好，具體來(lái)說(shuō)，那就是現(xiàn)在我們有一個(gè)函數(shù)，f(x)。我們希望將它寫(xiě)成一些cos函數(shù)和一些sin函數(shù)的形式，像這樣

again，這是一個(gè)無(wú)限循環(huán)的函數(shù)。其中的1，cosx,sinx,cos2x…..這些，就是傅立葉級(jí)數(shù)。傅立葉級(jí)數(shù)應(yīng)用如此廣泛的主要原因之一，就是它們這幫子functionbasis是正交的，這就是有趣的地方了。為什么functionbasis正交如此重要呢？我們說(shuō)兩個(gè)vector正交，那就是他倆的內(nèi)積為0。那對(duì)于functionbasis呢？functionbasis怎么求內(nèi)積呢？現(xiàn)在先復(fù)習(xí)一下vector正交的定義。我們說(shuō)兩個(gè)vectorv,w如果正交的話，應(yīng)符合：那什么是function正交呢？假設(shè)我們有兩個(gè)函數(shù)f(x)和g(x)，那是什么？我們遵循vector的思路去想，兩個(gè)vector求內(nèi)積，就是把他們相同位置上對(duì)應(yīng)的點(diǎn)的乘積做一個(gè)累加。那移過(guò)來(lái)，就是對(duì)每一個(gè)x點(diǎn)，對(duì)應(yīng)的f和g做乘積，再累加。不過(guò)問(wèn)題是，f和g都是無(wú)限函數(shù)阿，x又是一個(gè)連續(xù)的值。怎么辦呢？向量是離散的，所以累加，函數(shù)是連續(xù)的，那就是…….積分！

我們知道函數(shù)內(nèi)積是這樣算的了，自然也就容易證明，按照這個(gè)形式去寫(xiě)的傅立葉展開(kāi)，這些級(jí)數(shù)確實(shí)都是兩兩正交的。證明過(guò)程這里就不展開(kāi)了。好，下一個(gè)問(wèn)題就是，為什么它們是正交basis如此重要呢？這就牽涉到系數(shù)的求解了。我們研究了函數(shù)f，研究了級(jí)數(shù)，一堆三角函數(shù)和常數(shù)1，那系數(shù)呢？a0,a1,a2這些系數(shù)該怎么確定呢？好，比方我這里準(zhǔn)備求a1了。我現(xiàn)在知道什么？信號(hào)f(x)是的，傅立葉級(jí)數(shù)是的，我們?cè)趺辞骯1呢？很簡(jiǎn)單，把方程兩端的所有局部都求和cosx的內(nèi)積，即：

然后我們發(fā)現(xiàn)，因?yàn)檎坏男再|(zhì)，右邊所有非a1項(xiàng)全部消失了，因?yàn)樗麄兒蚦osx的內(nèi)積都是0！所有就簡(jiǎn)化為

這樣，a1就求解出來(lái)了。到這里，你就看出正交的奇妙性了吧:)好，現(xiàn)在我們知道，傅立葉變換就是用一系列三角波來(lái)表示信號(hào)方程的展開(kāi)，這個(gè)信號(hào)可以是連續(xù)的，可以是離散的。傅立葉所用的functionbasis是專門挑選的，是正交的，是利于計(jì)算coefficients的。但千萬(wàn)別誤解為展開(kāi)變換所用的basis都是正交的，這完全取決于具體的使用需求，比方泰勒展開(kāi)的basis就只是簡(jiǎn)單的非正交多項(xiàng)式。有了傅立葉變換的根底，接下來(lái)，我們就看看什么是小波變換。首先來(lái)說(shuō)說(shuō)什么是小波。所謂波，就是在時(shí)間域或者空間域的震蕩方程，比方正弦波，就是一種波。什么是波分析？針對(duì)波的分析拉〔囧〕。并不是說(shuō)小波分析才屬于波分析，傅立葉分析也是波分析，因?yàn)檎也ㄒ彩且环N波嘛。那什么是小波呢？這個(gè)〞小“，是針對(duì)傅立葉波而言的。傅立葉所用的波是什么？正弦波，這玩意以有著無(wú)窮的能量，同樣的幅度在整個(gè)無(wú)窮大區(qū)間里面振蕩，像下面這樣：那小波是什么呢？是一種能量在時(shí)域非常集中的波。它的能量是有限的，而且集中在某一點(diǎn)附近。比方下面這樣：

這種小波有什么好處呢？它對(duì)于分析瞬時(shí)時(shí)變信號(hào)非常有用。它有效的從信號(hào)中提取信息，通過(guò)伸縮和平移等運(yùn)算功能對(duì)函數(shù)或信號(hào)進(jìn)行多尺度細(xì)化分析，解決了傅立葉變換不能解決的許多困難問(wèn)題。恩，以上就是通常情況下你能在國(guó)內(nèi)網(wǎng)站上搜到的小波變換文章告訴你的。但為什么呢？這是我希望在這個(gè)系列文章中講清楚的。不過(guò)在這篇文章里，我先點(diǎn)到為止，把小波變換的重要特性以及優(yōu)點(diǎn)cover了，在下一篇文章中再具體推導(dǎo)這些特性。小波變換的本質(zhì)和傅立葉變換類似，也是用精心挑選的basis來(lái)表示信號(hào)方程。每個(gè)小波變換都會(huì)有一個(gè)motherwavelet，我們稱之為母小波，同時(shí)還有一個(gè)scalingfunction，中文是尺度函數(shù)，也被成為父小波。任何小波變換的basis函數(shù)，其實(shí)就是對(duì)這個(gè)母小波和父小波縮放和平移后的集合。下面這附圖就是某種小波的示意圖：從這里看出，這里的縮放倍數(shù)都是2的級(jí)數(shù)，平移的大小和當(dāng)前其縮放的程度有關(guān)。這樣的好處是，小波的basis函數(shù)既有高頻又有低頻，同時(shí)還覆蓋了時(shí)域。對(duì)于這點(diǎn)，我們會(huì)在之后詳細(xì)闡述。小波展開(kāi)的形式通常都是這樣〔注意，這個(gè)只是近似表達(dá)，嚴(yán)謹(jǐn)?shù)恼归_(kāi)形式請(qǐng)參考第二篇〕：〔可以理解k為上圖縱坐標(biāo)的1,2,3.j為上圖中的橫坐標(biāo)1,2,3，，，8〕其中的就是小波級(jí)數(shù)，這些級(jí)數(shù)的組合就形成了小波變換中的基basis。和傅立葉級(jí)數(shù)有一點(diǎn)不同的是，小波級(jí)數(shù)通常是orthonormalbasis，也就是說(shuō)，它們不僅兩兩正交，還歸一化了。小波級(jí)數(shù)通常有很多種，但是都符合下面這些特性：1.小波變換對(duì)不管是一維還是高維的大局部信號(hào)都能cover很好。這個(gè)和傅立葉級(jí)數(shù)有很大區(qū)別。后者最擅長(zhǎng)的是把一維的，類三角波連續(xù)變量函數(shù)信號(hào)映射到一維系數(shù)序列上，但對(duì)于突變信號(hào)或任何高維的非三角波信號(hào)那么幾乎無(wú)能為力。2.圍繞小波級(jí)數(shù)的展開(kāi)能夠在時(shí)域和頻域上同時(shí)定位信號(hào)，也就是說(shuō)，信號(hào)的大局部能量都能由非常少的展開(kāi)系數(shù)，比方a_{j,k}，決定。這個(gè)特性是得益于小波變換是二維變換。我們從兩者展開(kāi)的表達(dá)式就可以看出來(lái)，傅立葉級(jí)數(shù)是，而小波級(jí)數(shù)是。3.從信號(hào)算出展開(kāi)系數(shù)a需要很方便。普遍情況下，小波變換的復(fù)雜度是O(Nlog(N))，和FFT相當(dāng)。有不少很快的變換甚至可以到達(dá)O(N)，也就是說(shuō)，計(jì)算復(fù)雜度和信號(hào)長(zhǎng)度是線性的關(guān)系。小波變換的等式定義，可以沒(méi)有積分，沒(méi)有微分，僅僅是乘法和加法即可以做到，和現(xiàn)代計(jì)算機(jī)的計(jì)算指令完全match?？赡芸吹竭@里，你會(huì)有點(diǎn)暈了。這些特性是怎么來(lái)的？為什么需要有這些特性？具體到實(shí)踐中，它們到底是怎么給小波變換帶來(lái)比別人更強(qiáng)的好處的？計(jì)算簡(jiǎn)單這個(gè)可能好理解，因?yàn)榍懊嫖覀円呀?jīng)講過(guò)正交特性了。那么二維變換呢？頻域和時(shí)域定位是如何進(jìn)行的呢？恩，我完全理解你的感受，因?yàn)楫?dāng)初我看別的文章，也是有這些問(wèn)題，就是看不到答案。要說(shuō)想完全理解小波變換的這些本質(zhì)，需要詳細(xì)的講解，所以我就把它放到下一篇了。接下來(lái)，上幾張圖，我們以一些根本的信號(hào)處理來(lái)呈現(xiàn)小波變換比傅立葉變換好的地方，我保證，你看了這個(gè)比較之后，大概能隱約感受到小波變換的強(qiáng)大，并對(duì)背后的原理充滿期待:)假設(shè)我們現(xiàn)在有這么一個(gè)信號(hào)：

看到了吧，這個(gè)信號(hào)就是一個(gè)直流信號(hào)。我們用傅立葉將其展開(kāi)，會(huì)發(fā)現(xiàn)形式非常簡(jiǎn)單：只有一個(gè)級(jí)數(shù)系數(shù)不是0，其他所有級(jí)數(shù)系數(shù)都是0。好，我們?cè)倏唇酉聛?lái)這個(gè)信號(hào)：簡(jiǎn)單說(shuō)，就是在前一個(gè)直流信號(hào)上，增加了一個(gè)突變。其實(shí)這個(gè)突變，在時(shí)域中看來(lái)很簡(jiǎn)單，前面還是很平滑的直流，后面也是很平滑的直流，就是中間有一個(gè)階躍嘛。但是，如果我們?cè)俅巫屍涓盗⑷~展開(kāi)呢？所有的傅立葉級(jí)數(shù)都為非0了！為什么？因?yàn)楦盗⑷~必須用三角波來(lái)展開(kāi)信號(hào)，對(duì)于這種變換突然而劇烈的信號(hào)來(lái)講，即使只有一小段變換，傅立葉也不得不用大量的三角波去擬合，就像這樣：看看上面這個(gè)圖。學(xué)過(guò)根本的信號(hào)知識(shí)的朋友估計(jì)都能想到，這不就是Gibbs現(xiàn)象么？Exactly。用比較八股的說(shuō)法來(lái)解釋，Gibbs現(xiàn)象是由于展開(kāi)式在間斷點(diǎn)鄰域不能均勻收斂所引起的，即使在N趨于無(wú)窮大時(shí)，這一現(xiàn)象也依然存在。其實(shí)通俗一點(diǎn)解釋，就是當(dāng)變化太sharp的時(shí)候，三角波fit不過(guò)來(lái)了，就湊合出Gibbs了:)接下來(lái)我們來(lái)看看，如果用剛剛舉例中的那種小波，展開(kāi)之后是這樣的：看見(jiàn)了么？只要小波basis不和這個(gè)信號(hào)變化重疊，它所對(duì)應(yīng)的級(jí)數(shù)系數(shù)都為0！也就是說(shuō)，假設(shè)我們就用這個(gè)三級(jí)小波對(duì)此信號(hào)展開(kāi)，那么只有3個(gè)級(jí)數(shù)系數(shù)不為0。你可以使用更復(fù)雜的小波，不管什么小波，大局部級(jí)數(shù)系數(shù)都會(huì)是0。原因？由于小波basis的特殊性，任何小波和常量函數(shù)的內(nèi)積都趨近于0。換句話說(shuō)，選小波的時(shí)候，就需要保證母小波在一個(gè)周期的積分趨近于0。正是這個(gè)有趣的性質(zhì)，讓小波變換的計(jì)算以及對(duì)信號(hào)的詮釋比傅立葉變換更勝一籌！原因在于，小波變換允許更加精確的局部描述以及信號(hào)特征的別離。一個(gè)傅立葉系數(shù)通常表示某個(gè)貫穿整個(gè)時(shí)間域的信號(hào)分量，因此，即使是臨時(shí)的信號(hào)，其特征也被強(qiáng)扯到了整個(gè)時(shí)間周期去描述。而小波展開(kāi)的系數(shù)那么代表了對(duì)應(yīng)分量它當(dāng)下的自己，因此非常容易詮釋。小波變換的優(yōu)勢(shì)不僅僅在這里。事實(shí)上，對(duì)于傅立葉變換以及大局部的信號(hào)變換系統(tǒng)，他們的函數(shù)基都是固定的，那么變換后的結(jié)果只能按部就班被分析推導(dǎo)出來(lái)，沒(méi)有任何靈活性，比方你如果斷定使用傅立葉變換了，那basisfunction就是正弦波，你不管怎么scale，它都是正弦波，即使你舉出余弦波，它還是移相后的正弦波。總之你就只能用正弦波，沒(méi)有任何商量的余地。而對(duì)于小波變換來(lái)講，基是變的，是可以根據(jù)信號(hào)來(lái)推導(dǎo)或者構(gòu)建出來(lái)的，只要符合小波變換的性質(zhì)和特點(diǎn)即可。也就是說(shuō)，如果你有著比較特殊的信號(hào)需要處理，你甚至可以構(gòu)建一個(gè)專門針對(duì)這種特殊信號(hào)的小波basisfunction集合對(duì)其進(jìn)行分析。這種靈活性是任何別的變換都無(wú)法比較的?？偨Y(jié)來(lái)說(shuō)，傅立葉變換適合周期性的，統(tǒng)計(jì)特性不隨時(shí)間變化的信號(hào);而小波變換那么適用于大局部信號(hào)，尤其是瞬時(shí)信號(hào)。它針對(duì)絕大局部信號(hào)的壓縮，去噪，檢測(cè)效果都特別好?？吹竭@里，你應(yīng)該大概了解了小波變換針對(duì)傅立葉變換的優(yōu)點(diǎn)了。你也許對(duì)背后的原因還存在一些疑問(wèn)，并希望深入了解一些小波的構(gòu)建等知識(shí)，請(qǐng)移步本系列第二篇：傅立葉變換，小波變換和motion信號(hào)處理〔二〕這是《小波變換和motion信號(hào)處理》系列的第二篇，深入小波。第一篇我進(jìn)行了根底知識(shí)的鋪墊，第三篇主要講解應(yīng)用。在上一篇中講到，每個(gè)小波變換都會(huì)有一個(gè)motherwavelet，我們稱之為母小波，同時(shí)還有一個(gè)fatherwavelet，就是scalingfunction。而該小波的basis函數(shù)其實(shí)就是對(duì)這個(gè)母小波和父小波縮放和平移形成的?？s放倍數(shù)都是2的級(jí)數(shù)，平移的大小和當(dāng)前其縮放的程度有關(guān)。還講到，小波系統(tǒng)有很多種，不同的母小波，衍生的小波基就完全不同。小波展開(kāi)的近似形式是這樣：其中的就是小波級(jí)數(shù)，這些級(jí)數(shù)的組合就形成了小波變換中的基basis。和傅立葉級(jí)數(shù)有一點(diǎn)不同的是，小波級(jí)數(shù)通常是orthonormalbasis，也就是說(shuō)，它們不僅兩兩正交，還歸一化了。我們還講了一般小波變換的三個(gè)特點(diǎn)，就是小波級(jí)數(shù)是二維的，能定位時(shí)域和頻域，計(jì)算很快。但我們并沒(méi)有深入講解，比方，如何理解這個(gè)二維？它是如何同時(shí)定位頻域和時(shí)域的？在這一篇文章里，我們就來(lái)討論一下這些特性背后的原理。首先，我們一直都在講小波展開(kāi)的近似形式。那什么是完整形式呢？之前講到，小波basis的形成，是基于根本的小波函數(shù)，也就是母小波來(lái)做縮放和平移的。但是，母小波并非唯一的原始基。在構(gòu)建小波基函數(shù)集合的時(shí)候，通常還要用到一個(gè)函數(shù)叫尺度函數(shù)，scalingfunction，人們通常都稱其為父小波。它和母小波一樣，也是歸一化了，而且它還需要滿足一個(gè)性質(zhì)，就是它和對(duì)自己本身周期平移的函數(shù)兩兩正交：另外，為了方便處理，父小波和母小波也需要是正交的。可以說(shuō)，完整的小波展開(kāi)就是由母小波和父小波共同定義的。其中是母小波，是父小波。需要提醒一點(diǎn)的是，這個(gè)正交純粹是為了小波分析的方便而引入的特性，并不是說(shuō)小波變換的基就一定必須是正交的。但大局部小波變換的基確實(shí)是正交的，所以本文就直接默認(rèn)正交為小波變換的主要性質(zhì)之一了。引入這個(gè)父小波呢，主要是為了方便做多解析度分析〔multiresolutionanalysis,MRA〕。說(shuō)到這里，你的問(wèn)題可能會(huì)井噴了：好好的為什么出來(lái)一個(gè)父小波呢？這個(gè)scalingfunction是拿來(lái)干嘛的？它背后的物理意義是什么？waveletfunction背后的物理意義又是什么？這個(gè)多解析度分析又是什么呢？不急，下面，我們圍繞一個(gè)例子來(lái)穩(wěn)固一下前面的知識(shí)，同時(shí)再引出新的特性。假設(shè)我們有這樣一個(gè)信號(hào)：該信號(hào)長(zhǎng)度為8，是離散的一維信號(hào)。我們要考慮的，就是如何用小波將其展開(kāi)。為了方便講解，我們考慮最簡(jiǎn)單的一種小波，哈爾小波。下面是它的一種母小波：那如何構(gòu)建基于這個(gè)母小波的基呢？剛剛提到了，要縮放，要平移。我們先試試縮放，那就是ψ(2n)：但這樣的話，它與自己的內(nèi)積就不是1了，不符合小波基orthonormal的要求，所以我們要在前面加一個(gè)系數(shù)根號(hào)二，這樣我們就得到了另一個(gè)哈爾小波的basisfunction：同理，我們可以一直這樣推廣下去做scale，得到4n，8n，…….下的basisfunction。當(dāng)然在這個(gè)例子里，我們信號(hào)長(zhǎng)度就是8，所以做到4n就夠了。但推廣來(lái)說(shuō)，就是這種scaling對(duì)母小波的作用為，這是歸一化后的表示形式。平移的話也很簡(jiǎn)單，我們可以對(duì)母小波進(jìn)行平移，也可以對(duì)scale之后的basisfunction進(jìn)行平移。比方對(duì)上一幅圖中的basisfunction進(jìn)行平移，就成了看得出來(lái)，平移后的basisfunction和母小波以及僅僅scale過(guò)的小波，都是正交的，附合小波basis的特點(diǎn)。如果我們用ψ(n)來(lái)表示這個(gè)motherwavelet，那么這些orthonormalbasis函數(shù)可以寫(xiě)成：這里的k是可以看成時(shí)域的參數(shù)，因?yàn)樗刂浦〔ɑ鶗r(shí)域的轉(zhuǎn)移，而j是頻域的參數(shù)，因?yàn)樗鼪Q定了小波基的頻率特性。看到這里，你應(yīng)該會(huì)感覺(jué)很熟悉，因?yàn)檫@里的平移和變換本質(zhì)和剛剛對(duì)scalingfunction的平移變換是一模一樣的。這樣，我們就有了針對(duì)此信號(hào)space的哈爾小波basis組合：圖1可以看出，我們用到了三層頻率尺度的小波函數(shù)，每往下一層，小波的數(shù)量都是上面一層的兩倍。在圖中，每一個(gè)小波基函數(shù)的表達(dá)形式都寫(xiě)在了波形的下面。等等，你可能已經(jīng)發(fā)現(xiàn)了，有問(wèn)題。這里為什么多了個(gè)沒(méi)有函數(shù)表達(dá)式的波形呢？這貨明顯不是waveletfunction阿。沒(méi)錯(cuò)，它是之前提到的scalingfunction，也就是父小波。然后你可能就會(huì)問(wèn)，為啥這個(gè)憑空插了一個(gè)scalingfunction出來(lái)呢？明明目標(biāo)信號(hào)已經(jīng)可以用純的小波基組合表示了。是，確實(shí)是，就算不包括scalingfunction，這些小波函數(shù)本身也組成了正交歸一基，但如果僅限于此的話，小波變換也就沒(méi)那么神奇的成效了。引入這個(gè)scalingfunction，才能引入我們提到的多解析度分析的理論，而小波變換的強(qiáng)大，就表達(dá)在這個(gè)多解析度上。那在這里，我們?cè)趺从眠@個(gè)多解析度呢？這個(gè)哈爾小波basis組合是怎么通過(guò)多解析度推導(dǎo)出來(lái)的呢？話說(shuō)在數(shù)學(xué)定義中，有一種空間叫Lebesgue空間，對(duì)于信號(hào)處理非常重要，可以用L^p(R)表示，指的是由p次可積函數(shù)所組成的函數(shù)空間。我們?cè)谛〔ㄗ儞Q中要研究的信號(hào)都是屬于L^2(R)空間的，這個(gè)空間是R上的所有處處平方可積的可測(cè)函數(shù)的集合，這樣就等于對(duì)信號(hào)提出了一個(gè)限制，就是信號(hào)能量必須是有限的，否那么它就不可積了。小波變換的定義都是基于但不限于L^2(R)中的信號(hào)的。這玩意的特性要具體解釋起來(lái)太數(shù)學(xué)了，牽涉到太多泛函知識(shí)，我就不在這里詳述了。而且老實(shí)說(shuō)我也沒(méi)能力完全講清楚，畢竟不是學(xué)這個(gè)的，有興趣可以參考wiki?？傊阌涀?，小波變換研究中所使用的信號(hào)根本都是平方可積的信號(hào)，但其應(yīng)用不限于這種信號(hào)，就行了。對(duì)L^2(R)空間做MRA是在干嘛呢？就是說(shuō)，在L^2(R)空間中，我們可以找出一個(gè)嵌套的空間序列，并有以下性質(zhì)：(i)

(ii)

(iii)

(iv)

(v)有這樣一個(gè)方程,

是的orthonormal

basis。我來(lái)簡(jiǎn)單解釋一下這些性質(zhì)。這個(gè)V_j都是L^2(R)空間中的子空間，然后他們是由小到大的，交集是{0}，因?yàn)檫@是最小的子空間，并集就是L空間。是不是有點(diǎn)難以理解？沒(méi)關(guān)系，看看下面這個(gè)圖就清楚了：這個(gè)圖是圈圈套圈圈，最里面的圈是V0，之后分別是V1，V2，V3，V4。那他們有趣的性質(zhì)就是，假設(shè)有一個(gè)函數(shù)f(t)他屬于一個(gè)某空間，那你將其在時(shí)域上平移，它還是屬于這個(gè)空間。但如果你對(duì)它頻域的放大或縮小，它就會(huì)相應(yīng)移到下一個(gè)或者上一個(gè)空間了。同時(shí)我們還知道，你要形容每一個(gè)空間的話，都需要有對(duì)應(yīng)的orthonormalbasis，這是必然的，那對(duì)于V0來(lái)講，它的orthonormalbasis就是這一系列函數(shù)是什么呢？是的時(shí)域變換，而且我們剛剛也說(shuō)了，時(shí)域上平移，是不會(huì)跳出這個(gè)空間的。這樣，我們就可以說(shuō)，由這一系列basis所定義的L^2(R)子空間V0被這些basis所span，表示成：k從負(fù)無(wú)窮到正無(wú)窮。上面的bar表示這是一個(gè)閉包空間，也就是說(shuō)這樣，我們就定義了根本的V0這個(gè)子空間。剛剛說(shuō)了，這個(gè)子空間的基都是對(duì)的整數(shù)時(shí)域變換，這里我們稱為scalingfunction，所以換個(gè)說(shuō)法，就是說(shuō)這里整個(gè)子空間V0，由scalingfunction和其時(shí)域變換的兄弟們span。當(dāng)然，如果這個(gè)scalingfunction只是用來(lái)代表一個(gè)子空間的，那它的地位也就不會(huì)這么重要了。剛剛我們提到，這個(gè)嵌套空間序列有一個(gè)性質(zhì)，。這就是這個(gè)函數(shù)，如果你對(duì)它頻域的放大或縮小，它就會(huì)相應(yīng)移到下一個(gè)或者上一個(gè)空間了。這個(gè)性質(zhì)就有意思了，它代表什么呢？對(duì)于任何一個(gè)包含V0的更上一層的空間來(lái)講，他們的基都可以通過(guò)對(duì)scalingfunction做頻域的scale后再做時(shí)域上的整數(shù)變換得到！推廣開(kāi)來(lái)就是說(shuō)，當(dāng)我們有這也就意味著，對(duì)于任何屬于V_j空間的函數(shù)f(t)，都可以表示為：到這里，我們就明白這些個(gè)子空間和那個(gè)憑空冒出來(lái)的scalingfunction的作用了。scaling的構(gòu)建這些不同的子空間的根底，當(dāng)j越大的時(shí)候，每一次你對(duì)頻率變換后的scalingfunction所做的時(shí)域上的整數(shù)平移幅度會(huì)越小，這樣在這個(gè)j子空間里面得到的f(t)表示粒度會(huì)很細(xì)，細(xì)節(jié)展現(xiàn)很多。反之亦然。通俗點(diǎn)說(shuō)，就是對(duì)scalingfunction的變換平移給你不同的子空間，而不同的子空間給你不同的分辨率，這樣你就可以用不同的分辨率去看目標(biāo)信號(hào)。下面就是時(shí)候看看什么是MRAequation了，這是更加有趣，也是更加核心的地方。通過(guò)剛剛的講解，V0屬于V1，那scalingfunction是在V0中的，自然也在V1中了。我們把他寫(xiě)成V1的基的線性組合，那就是其中的h(n)是scalingfunction的系數(shù)，也叫做scalingfilter或者scalingvector，可以是實(shí)數(shù)，也可以是虛數(shù)。根號(hào)2是為了維持norm為1的。看，在這個(gè)公式里，我們就把屬于V0的函數(shù)用V1的基表示出來(lái)了。同理，我們可以循環(huán)如此，把屬于V0的在V2,V3,…,Vn中表示出來(lái)。這些方程就是MRAequation，也叫refinementequation，它是scalingfunction理論的根底，也是小波分析的根底之一。好，稍微總結(jié)一下。到現(xiàn)在，已經(jīng)講了關(guān)于scalingfunction的根本理論知識(shí)，知道了信號(hào)空間可以分為不同精細(xì)度的子空間，這些子空間的basis集合就是scalingfunction或者頻率變換之后的scalingfunction，如以下圖所示：上圖就是四個(gè)子空間的basis集合的展覽。通過(guò)前面的討論，我們還知道，一開(kāi)始的scalingfunction可以通過(guò)更精細(xì)的子空間的scalingfunction〔它們都是對(duì)應(yīng)子空間的basis〕來(lái)構(gòu)建。比方對(duì)于更加finer的scale：圖2

依此類推。實(shí)際上，對(duì)于任何scale和translate過(guò)的scalingfunction，都可以用更加精細(xì)的scale層面上的scalingfunction構(gòu)建出來(lái)。然后，我們有各種scale下的scalingfunction了，該看看它們分別所對(duì)應(yīng)的嵌套的空間序列了。先看看V0，自然就是以根本的scalingfunction為根底去span出來(lái)的：這個(gè)不新鮮，剛剛就講過(guò)了。這個(gè)子空間代表什么樣的信號(hào)？常量信號(hào)。道理很簡(jiǎn)單，這個(gè)scalingfunction在整個(gè)信號(hào)長(zhǎng)度上，沒(méi)有任何變化。繼續(xù)往下看：這個(gè)相比V0更加finer的子空間，代表著這樣一種信號(hào)，它從1-4是常量，從5-8是另一個(gè)常量。同理我們有：V2代表的信號(hào)，是分別在1，2;3，4;5，6;7，8上有相同值的信號(hào)。那么V3呢？那么表示任何信號(hào)，因?yàn)閷?duì)于V3來(lái)講，任何一個(gè)時(shí)間刻度上的值都可以不一樣。而且現(xiàn)在，我們也可以通過(guò)上面的一些scalingfunctions的波形驗(yàn)證了之前提到的多解析度分析中的一個(gè)核心性質(zhì)，那就是：我們之前講了一堆多解析度的理論，但直到現(xiàn)在，通過(guò)這些圖形化的分析，我們可能才會(huì)真正理解它。那好，既然我們有一個(gè)現(xiàn)成的信號(hào)，那就來(lái)看看，對(duì)這個(gè)信號(hào)作多解析度分析是啥樣子的：你看，在不同的子空間，對(duì)于同一個(gè)信號(hào)就有不同的詮釋。詮釋最好的當(dāng)然是V3，完全不損失細(xì)節(jié)。這就是多解析度的意義。我們可以有嵌套的，由scalingfunction演變的basisfunction集合，每一個(gè)集合都提供對(duì)原始信號(hào)的某種近似，解析度越高，近似越精確。說(shuō)到這里，可能你對(duì)scalingfunction以及多解析度分析已經(jīng)比較理解了。但是，我們還沒(méi)有涉及到它們?cè)谛〔ㄗ儞Q中的具體應(yīng)用，也就是還沒(méi)有答復(fù)剛剛那個(gè)問(wèn)題：憑空插了一個(gè)scalingfunction到小波basis組合中干嘛。也就是說(shuō)，我們希望理解scalingfunction是怎么和小波函數(shù)結(jié)合的呢，多解析度能給小波變換帶來(lái)什么樣的好處呢。這其實(shí)就是是小波變換中的核心知識(shí)。理解了這個(gè)，后面的小波變換就是純數(shù)學(xué)計(jì)算了。好，我們已經(jīng)知道，對(duì)于子空間V0，basis是scalingfunction：對(duì)應(yīng)的小波函數(shù)是：然后子空間V1的basis集合是這倆哥們：看出什么規(guī)律了么？多看幾次這三個(gè)圖，你會(huì)驚訝地發(fā)現(xiàn)，在V0中的scalingfunction和waveletfunction的組合，其實(shí)就是V1中的basis！繼續(xù)這樣推導(dǎo)，V1本來(lái)的的basis是：然后V1中對(duì)應(yīng)的waveletfunction是他們的組合，本質(zhì)上也就是V2的basis〔參考圖2〕。你繼續(xù)推導(dǎo)下去，會(huì)得到同樣的結(jié)論：在scalej的waveletfunction，可以被用來(lái)將Vj的basis擴(kuò)展到V(j+1)中去！這是一個(gè)非常非常關(guān)鍵的性質(zhì)，因?yàn)檫@代表著，對(duì)任何一個(gè)子空間Vj，我們現(xiàn)在有兩種方法去得到它的orthonormalbasis：1.一種就是它本來(lái)的basis，對(duì)任意k。2.第二種就是它上一個(gè)子空間的basis，對(duì)任意k，以及上一級(jí)子空間的waveletfunction，對(duì)任意k。第二種選擇能給我們帶來(lái)額外的好處，那就是我們可以循環(huán)不斷地用上一級(jí)子空間的scalingfunction以及waveletfunction的組合來(lái)作為當(dāng)前子空間的基。換句話說(shuō)，如果針對(duì)V3這個(gè)子空間，它實(shí)際上就有四種不同的，但是等價(jià)的orthonormalbasis：1.本級(jí)(V3)的scalingfunctionbasisset2.上一級(jí)(V2)的scalingfunction+waveletfunction;3.上上一級(jí)(V1)的scalingfunction+上上一級(jí)(V1)的waveletfunction+上一級(jí)(V2)的waveletfunction;4.上上上一級(jí)(V0)的scalingfunction+上上上一級(jí)(V0)的waveletfunction+上上一級(jí)(V1)的waveletfunction+上一級(jí)(V2)的waveletfunction好，看看最后一種選取方式，有沒(méi)有感到眼熟？對(duì)了，它就是我們之前提到的“針對(duì)此信號(hào)space的哈爾小波basis組合〞，參見(jiàn)圖1?，F(xiàn)在我們知道了，這個(gè)scalingfunction不是憑空插進(jìn)去的，而是通過(guò)不斷的嵌套迭代出來(lái)的：〕那為什么我們最后選定的是這種選取方式呢？實(shí)際上，剛剛介紹的這個(gè)性質(zhì)已經(jīng)告訴我們，對(duì)于任何的scalej0，我們都可以給我們的signalspace找到一組or