小波分析及其工程應(yīng)用講義

1、INFROMATION AND CYBERNETICS1948年年 N.Wiener提出了控制論（提出了控制論（Cybernetics）(系統(tǒng)總結(jié)自動控制中反饋等思想系統(tǒng)總結(jié)自動控制中反饋等思想)1948年年 C.Shannon 把信息定義為信源的不定度。把信息定義為信源的不定度。即對信宿（接受信息的系統(tǒng)）而言，未收到消息前不知道信源即對信宿（接受信息的系統(tǒng)）而言，未收到消息前不知道信源（產(chǎn)生信息的系統(tǒng)）發(fā)出的是什么信息，只有收到消息后才能消（產(chǎn)生信息的系統(tǒng)）發(fā)出的是什么信息，只有收到消息后才能消除信源的不定度。除信源的不定度。1950年年N.Wiener認(rèn)為，信息是人們在與客觀世界相互作用過

2、程中與客認(rèn)為，信息是人們在與客觀世界相互作用過程中與客觀觀世界進(jìn)行交換的內(nèi)容的名稱。世界進(jìn)行交換的內(nèi)容的名稱。 信息（信息（Information）是指符號、信號或消息所包含的內(nèi)容，用來消除對）是指符號、信號或消息所包含的內(nèi)容，用來消除對客觀事物認(rèn)識的不確定性?？陀^事物認(rèn)識的不確定性。 控制科學(xué)與工程的核心問題是信息，包括信息提取、信息傳播、信息處理、控制科學(xué)與工程的核心問題是信息，包括信息提取、信息傳播、信息處理、信息存儲和信息利用等。信息存儲和信息利用等。CONTROL AND COMMUNICATION控制（控制（Control）部分一般由傳感器（）部分一般由傳感器（Sensor）、控制

3、器）、控制器（Controller）和執(zhí)行器（）和執(zhí)行器（Actuator）組成。）組成?？刂瓶茖W(xué)與工程是在理論上用較抽象的方式來研究一切控制系控制科學(xué)與工程是在理論上用較抽象的方式來研究一切控制系統(tǒng)得信息傳輸和信息處理的特點和規(guī)律，研究不同的控制規(guī)律統(tǒng)得信息傳輸和信息處理的特點和規(guī)律，研究不同的控制規(guī)律達(dá)到不同的控制目的。達(dá)到不同的控制目的。一般的信息學(xué)科研究信息的測度（一般的信息學(xué)科研究信息的測度（Measure），并再此基礎(chǔ)上），并再此基礎(chǔ)上研究實際系統(tǒng)中信息的有效傳輸和有效處理等問題（如編碼、研究實際系統(tǒng)中信息的有效傳輸和有效處理等問題（如編碼、譯碼、信道容量及傳輸速率等）。譯碼、信道

4、容量及傳輸速率等）。控制和通信存在不可分割的關(guān)系?？刂坪屯ㄐ糯嬖诓豢煞指畹年P(guān)系。INTRODUCTION OF WAVELET ANALYSIS小波分析是當(dāng)前應(yīng)用數(shù)學(xué)發(fā)展的新領(lǐng)域，同時具有理論深刻和應(yīng)用小波分析是當(dāng)前應(yīng)用數(shù)學(xué)發(fā)展的新領(lǐng)域，同時具有理論深刻和應(yīng)用廣泛的雙重意義。廣泛的雙重意義。與與Fourier變換、加窗變換、加窗Fourier變換（變換（Gabor變換）相比，小波變換變換）相比，小波變換是時間和頻率的局域變換，能有效的從信號中提取信息，通過伸縮是時間和頻率的局域變換，能有效的從信號中提取信息，通過伸縮和平移等運(yùn)算功能對函數(shù)或信號進(jìn)行多尺度細(xì)化分析，解決了和平移等運(yùn)算功能對函數(shù)或

5、信號進(jìn)行多尺度細(xì)化分析，解決了FourierFourier變換不能解決的許多困難問題，從而小波變化被譽(yù)為變換不能解決的許多困難問題，從而小波變化被譽(yù)為“數(shù)學(xué)數(shù)學(xué)顯微鏡顯微鏡”，成為信號分析發(fā)展史上的里程碑。，成為信號分析發(fā)展史上的里程碑。 APPLICATIONS OF WAVELT ANALYSIS小波變換在數(shù)學(xué)領(lǐng)域本身的許多學(xué)科、信號分析、圖像處理、計算小波變換在數(shù)學(xué)領(lǐng)域本身的許多學(xué)科、信號分析、圖像處理、計算機(jī)識別、數(shù)據(jù)壓縮、機(jī)識別、數(shù)據(jù)壓縮、CT成像；地震勘探數(shù)據(jù)處理、邊緣檢測、機(jī)械成像；地震勘探數(shù)據(jù)處理、邊緣檢測、機(jī)械故障診斷等方面都已取得了具有科學(xué)意義和應(yīng)用價值的重要成果。故障診斷

6、等方面都已取得了具有科學(xué)意義和應(yīng)用價值的重要成果。除了微分方程的求解之外，原則上能用除了微分方程的求解之外，原則上能用Fourier分析的地方均可用小分析的地方均可用小波分析，甚至能獲得更好的結(jié)果。波分析，甚至能獲得更好的結(jié)果。 小波分析所處理的信號特點：小波分析所處理的信號特點：(1) signals with short time duration(such as engine knocks)(2) applications in which the inverse wavelet transform is required(such as image/video compression)

7、BACKGRANDnSignals and Systems (信號與系統(tǒng))nDigital Signal Processing(數(shù)字信號處理)nFunction Analysis(泛函分析)REFERENCES本課程的參考資料：n 美Ingrid Daubechies 李建平 楊萬年譯 小波十講 國防工業(yè)出版社 2004年5月 n法 Stephane mallat A Wavelet Tour of Signal Processing 機(jī)械工業(yè)出版社 2003年9月 n 美Shie Qian（錢世鍔）Time-Frequency and Wavelet Transforms 機(jī)械工業(yè)出版社 2

8、005年1月 1.胡昌華 李國華 劉濤 周志杰 基于MATLAB 6.x的系統(tǒng)分析與設(shè)計小波分析（第二版） 西安電子科技大學(xué)出版社 2004年1月 REFERENCESEBOOKn胡昌華 張軍波 夏軍 張偉 基于Matlab的系統(tǒng)分析與設(shè)計小波分析 西安電子科技大學(xué)出版社 1999年12月nThe Wavelet Tutorial（ROBI POLIKAR）/polikar/WAVELETS/WTtutorial.html n小波分析與信號處理_理論、應(yīng)用及軟件實現(xiàn)5.思科技產(chǎn)品研發(fā)中心 MATLAB6.5輔助小波分析與應(yīng)用 電子工業(yè)出版社 2003年

9、1月 小波參考書目.DOCMAIN CONTENTSnPART I: OVERVIEW: WHY WAVELET TRANSFORM?nPART II: FUNDAMENTALS: THE FOURIER TRANSFORM AND THE SHORT TERM FOURIER TRANSFORM, RESOLUTION PROBLEMS nPART III: MULTIRESOLUTION ANALYSIS: THE CONTINUOUS WAVELET TRANSFORM nPART IV: MULTIRESOLUTION ANALYSIS: THE DISCRETE WAVELET TR

10、ANSFORMAPPLICATIONSn一維小波分析用于信號奇異性檢測一維小波分析用于信號奇異性檢測n一維小波分析用于用于信號消噪處理一維小波分析用于用于信號消噪處理n利用小波包進(jìn)行特征提取利用小波包進(jìn)行特征提取n利用小波包進(jìn)行信號消噪處理利用小波包進(jìn)行信號消噪處理n利用小波包進(jìn)行圖像壓縮利用小波包進(jìn)行圖像壓縮HISTORY OF THE ANALYSIS METHODFourier SeriesFourier TransformShort Time Fourier TransformGabor Expansion從1910年開始Haar的規(guī)范正交基1981年法國地質(zhì)物理學(xué)家Morlet在分析

11、地質(zhì)數(shù)據(jù)首先提出了小波分析概念。參考文獻(xiàn)：小波分析與信號處理_理論、應(yīng)用及軟件實現(xiàn) page5CONTRAST WITH STFT與短時傅立葉變換相比較：(1)In the STFT(Short-time Fourier Transform), the size of window is fixed and the number of oscillations varies;The wavelet keeps the number of oscillations constant and varies the width of the window.(2)The wavelet transfo

12、rm is a constant Q analysis.(3)the STFT is always complex;The wavelet transform can be real-valued if both the signal s(t) and the mother wavelet are real. 002/2Qaa tFOURIER SERIESDuring the study of heat propagation and diffusion, Fourier found series of harmonically related sinusoids to be useful

13、in presenting the temperature distribution through a body.In 1807, he claimed that “any” periodic signal could be represented by a series of harmonically related sine and cosine functions.參考文獻(xiàn)：小波分析與信號處理_理論、應(yīng)用及軟件實現(xiàn) page29 nntTjnects2)(2/2/2)()(TTntTjdtetsncFOURIER TRANSFORMIn 1822, Fourier introduced

14、 a representation for aperiodic signals as weighted integrals of complex sinusoids that are not all harmonically related.The aperiodic signal can be viewed as a periodic signal with an infinitely long period. nntTjnects2)(deStsjt)(21)(2/2/2)()(TTntTjdtetsncdtetsStj)()(THE DISCRETE FOURIER TRANSFORM單

15、變量離散函數(shù) sk(其中k=0,1,2,N-1)的傅立葉變換1021NkmNjkeksNmS1, 2 , 1 , 0Nm離散傅立葉反變換102NmkNjmemSkS1, 2 , 1 , 0NkEXAMPLE OF FOURIER TRANSFORMx(t)=cos(2*pi*10*t)+cos(2*pi*25*t)+cos(2*pi*50*t)+cos(2*pi*100*t) .Is a stationary signal EXAMPLE OF FOURIER TRANSFORMThe Fourier Transform of the signalCHARACTORS OF FOURIER T

16、RANSFORMnFirst put forward the concept of frequency.nFourier Transform acts as a mathematical prism to break down a signal into a group of waveforms.nFourier Transform helps to understand the uncertainty principle, which limiting the flexibility of time and frequency transforms.nFourier Transform is

17、 not suitable if the signal has time varying frequency nNote: the Fourier transform tells whether a certain frequency component exists or not. FAST FOURIER TRANSFORM離散傅立葉變換成為信號處理的一種基礎(chǔ)工具的一個主要原因是離散傅立葉變換成為信號處理的一種基礎(chǔ)工具的一個主要原因是快速傅立葉變換（快速傅立葉變換（FFT）的發(fā)展。）的發(fā)展。一般方法計算一般方法計算M點一維傅立葉變換，需要點一維傅立葉變換，需要M2次的乘法次的乘法/ /加法

18、運(yùn)算加法運(yùn)算快速傅立葉變換完成同樣任務(wù)，只需進(jìn)行快速傅立葉變換完成同樣任務(wù)，只需進(jìn)行 次運(yùn)算次運(yùn)算MM2log例如：例如：M1024普通方法需要進(jìn)行約普通方法需要進(jìn)行約106次操作，次操作，F(xiàn)FT只需要只需要104即可即可100：1的計算優(yōu)勢的計算優(yōu)勢RECONSTRUCTION OF THE FT SIGNAL用傅立葉級數(shù)或變換表示的函數(shù)特征完全可以通過傅立葉反過程進(jìn)用傅立葉級數(shù)或變換表示的函數(shù)特征完全可以通過傅立葉反過程進(jìn)行重建，不丟失任何信息。行重建，不丟失任何信息?？梢怨ぷ髟陬l率域，轉(zhuǎn)換回函數(shù)的原始域時不丟失任何信息！可以工作在頻率域，轉(zhuǎn)換回函數(shù)的原始域時不丟失任何信息！信號處理脈沖響

19、應(yīng)h(t)前處理f(t)后處理g(t)f(t)*h(t)dthfthtf)()()()(上述卷積過程與預(yù)測控制中的原理基本相同上述卷積過程與預(yù)測控制中的原理基本相同即針對線性時不變系統(tǒng)，系統(tǒng)響應(yīng)由各子信號的響應(yīng)疊加而成即針對線性時不變系統(tǒng)，系統(tǒng)響應(yīng)由各子信號的響應(yīng)疊加而成RECONSTRUCTION OF THE FT SIGNAL在頻率域進(jìn)行信號處理在頻率域進(jìn)行信號處理前處理f(t)后處理g(t)傅立葉變換信號處理脈沖響應(yīng))()(HF)(H傅立葉反變換EXAMPLE OF SIGNAL PROCESSING(1-1)EXAMPLE OF SIGNAL PROCESSING (1-2)EXAM

20、PLE OF IMAGE PROCESSING (2-1)EXAMPLE OF IMAGE PROCESSING (2-2)EXAMPLE OF FOURIER TRANSFORMThe two signals have same FT coefficientShort-Time Fourier Transform(1)短時傅立葉變換的基本思想是短時傅立葉變換的基本思想是: (GABOR 1946)假定非平穩(wěn)信號在分析窗函數(shù)假定非平穩(wěn)信號在分析窗函數(shù) 的一個短時間間隔內(nèi)是平穩(wěn)的一個短時間間隔內(nèi)是平穩(wěn)（偽平穩(wěn)）的，并移動分析窗函數(shù)，（偽平穩(wěn)）的，并移動分析窗函數(shù)，使使 在不同的有限時間寬度內(nèi)是平

21、穩(wěn)信號，從而計算在不同的有限時間寬度內(nèi)是平穩(wěn)信號，從而計算不同時刻的功率譜。不同時刻的功率譜。)(t)()(ttsdetstSTFTj)()(),(Short-Time Fourier Transform(2)nThe STFT spectrogram is the simplest time-dependent spectrum that can be used get a rough idea of a signals energy distribution in the joint time-frequency domain.nThe selection of a signals tim

22、e duration and frequency bandwidth are not independent, and are related through the Fourier transform.nThe drawback is that once you choose a particular size for the time window, that window is the same for all frequencies. t21tShort-Time Fourier Transform(3)The STFT represents a sort of compromise

23、between the time- and frequency-based views of a signal. GABOR EXPANSIONThe Gabor expansion is defined as mntjnnmmnnmnmemTthcthcts)()()(,In Gabors original paper:2/42)()(tetgth21tThe Gaussian function is optimally concentrated in the Joint time-frequency domain in the terms of the uncertainty princi

24、pleEXAMPLE OF STFT(1)EXAMPLE OF STFT(2)In this signal, there are four frequency components at different times. The interval 0 to 250 ms is a simple sinusoid of 300 Hz, and the other 250 ms intervals are sinusoids of 200 Hz, 100 Hz, and 50 Hz, respectively. Apparently, this is a non-stationary signal

25、. EXAMPLE OF STFT(3)The window is smaller:Note that the four peaks are well separated from each other in time. Also note that, in frequency domain, every peak covers a range of frequencies, instead of a single frequency value. EXAMPLE OF STFT(4)The window is larger:Note that the four peaks are well

26、separated from each other in time. Also note that, in frequency domain, every peak covers a range of frequencies, instead of a single frequency value. EXAMPLE OF STFT(5)Now lets further increase the width of the window, and see what happens: THE WAVLET TRANSFORM(1)Although FT is probably the most po

27、pular transform being used (especially in electrical engineering), it is not the only one. There are many other transforms that are used quite often by engineers and mathematicians. Hilbert transform, short-time Fourier transform (more about this later), Wigner distributions, the Radon Transform, an

28、d of course our featured transformation , the wavelet transform, constitute only a small portion of a huge list of transforms that are available at engineers and mathematicians disposal. Every transformation technique has its own area of application, with advantages and disadvantages, and the wavele

29、t transform (WT) is no exception. WAVELET TRANSORM(2)設(shè)設(shè) (L2（R）表示平方可積的實數(shù)空間，即能量有限的信號空間）表示平方可積的實數(shù)空間，即能量有限的信號空間)其傅立葉變化為其傅立葉變化為當(dāng)當(dāng) 滿足允許條件（滿足允許條件（Admissible Condition):稱稱 為一個基本小波或母小波（為一個基本小波或母小波（Mother Wavelet）將母函數(shù)將母函數(shù) 經(jīng)伸縮和平移后，就可以得到一個小波序列經(jīng)伸縮和平移后，就可以得到一個小波序列)()(2RLt )()(RdC)()(t)(tWAVELT TRANSFORM(3)對于連續(xù)情況，

30、小波序列為對于連續(xù)情況，小波序列為 abtatba1)(,0;,aRbaa:scale factor，b:shift factor對任意對任意 的連續(xù)小波變換為的連續(xù)小波變換為)()(2RLtf RbafdtabttfafbaW)(1,),(,其逆變換為：其逆變換為： RRfdadbabtbaWaCtf),(11)(2A EXAMPLE OF CONTINUE WAVELET TRASFORM(1)A EXAMPLE OF CONTINUE WAVELET TRASFORM(2)THE PROCESS OF THE WAVELET TRANSFORM(1)The Fourier Transfo

31、rmThe Wavelet TransformTHE PROCESS OF THE WAVELET TRANSFORM(2)The scale factor:The smaller the scale factor, the more compressed the wavelet. (類似地圖當(dāng)中的比例尺概念）THE PROCESS OF THE WAVELET TRANSFORM(2)Shifting a wavelet simply means delaying (or hastening) its onset. THE PROCESS OF THE WAVELET TRANSFORM(3-1)Five Easy Steps to a Continuous Wavelet TransformnTake a wavelet and compare it to a section at the start of the original signal. nCalculate a n