小波神經(jīng)網(wǎng)絡(luò)原理及其應用

1、1小波神經(jīng)網(wǎng)絡(luò)原理及其應用 短時交通流量預測數(shù)學中的顯微鏡小波 2主要內(nèi)容1.小波變換與傅里葉變換的比較2.小波變換的基本原理與性質(zhì)3.幾種常用的小波簡介4.小波變換的應用領(lǐng)域5.小波分析應用前景6.小波變換的去噪應用7.小波神經(jīng)網(wǎng)絡(luò)31.小波變換與傅里葉變換的比較 傅立葉變換的理論是人類數(shù)學發(fā)展史上的一個里程碑，從1807年開始，直到1966年整整用了一個半世紀多才發(fā)展成熟，她在各個領(lǐng)域產(chǎn)生了深刻的影響得到了廣泛的應用，推動了人類文明的發(fā)展。其原因是傅立葉理論不僅僅在數(shù)學上有很大的理論價值，更重要的是傅立葉變換或傅立葉積分得到的頻譜信息具有物理意義。遺憾的是，這種理論具有一定的局限性。 用傅

2、立葉變換提取信號的頻譜需要利用信號的全部時域信息。 傅立葉變換沒有反映出隨著時間的變化信號頻率成分的變化情況。 傅立葉變換的積分作用平滑了非平穩(wěn)信號的突變成分。 由于上述原因，必須進一步改進，克服上述不足，這就導致了小波分析。 41.小波變換與傅里葉變換的比較 小波分析是在傅里葉分析的基礎(chǔ)上發(fā)展起來的，但小波分析與傅里葉分析存在著極大的不同，與Fourier變換相比，小波變換是空間（時間）和頻率的局部變換，因而能有效地從信號中提取信息。通過伸縮和平移等運算功能可對函數(shù)或信號進行多尺度的細化分析，解決了Fourier變換不能解決的許多困難問題。小波變換聯(lián)系了應用數(shù)學、物理學、計算機科學、信號與信

3、息處理、圖像處理、地震勘探等多個學科。 51.小波變換與傅里葉變換的比較 （1）克服第一個不足：小波系數(shù)不僅像傅立葉系數(shù)那樣，是隨頻率不同而變化的，而且對于同一個頻率指標j， 在不同時刻 k，小波系數(shù)也是不同的。 （2）克服第二個不足：由于小波函數(shù)具有緊支撐的性質(zhì)即某一區(qū)間外為零。這樣在求各頻率水平不同時刻的小波系數(shù)時，只用到該時刻附近的局部信息。從而克服了上面所述的第二個不足。 （3）克服第三個不足：通過與加窗傅立葉變換的“時間頻率窗”的相似分析，可得到小波變換的“時間頻率窗”的笛卡兒積。小波變換的“時間-頻率窗”的寬度，檢測高頻信號時變窄，檢測低頻信號時變寬。這正是時間-頻率分析所希望的。

4、根據(jù)小波變換的 “時間頻率窗” 的寬度可變的特點，為了克服上面所述的第三個不足，只要不同時檢測高頻與低頻信息，問題就迎刃而解了。62.小波變換的基本原理與性質(zhì) 小波是什么？ 小波可以簡單的描述為一種函數(shù)，這種函數(shù)在有限時間范圍內(nèi)變化，并且平均值為0。這種定性的描述意味著小波具有兩種性質(zhì):A、具有有限的持續(xù)時間和突變的頻率和振幅；B、在有限時間范圍內(nèi)平均值為0。72.小波變換的基本原理與性質(zhì) 小波的“容許”條件 用一種數(shù)學的語言來定義小波，即滿足“容許”條件的一種函數(shù)，“容許”條件非常重要，它限定了小波變換的可逆性。 小波本身是緊支撐的，即只有小的局部非零定義域，在窗口之外函數(shù)為零；本身是振蕩的

5、，具有波的性質(zhì)，并且完全不含有直流趨勢成分，即滿足 )()(xdC2)(0)()0(dxx82.小波變換的基本原理與性質(zhì) 信號的信息表示時域表示：信號隨時間變化的規(guī)律，信息包括均值、方差、峰度以及峭陡等，更精細的表示就是概率密度分布（工程上常常采用其分布參數(shù)）頻域表示：信號在各個頻率上的能量分布，信息為頻率和譜值（頻譜或功率譜），為了精確恢復原信號，需要加上相位信息（相位譜），典型的工具為FT時頻表示：時間和頻率聯(lián)合表示的一種信號表示方法，信息為瞬時頻率、瞬時能量譜 信號處理中，對不同信號要區(qū)別對待，以選擇哪種或者哪幾種信號表示方法93.小波變換的基本原理與性質(zhì) 為什么選擇小波 小波提供了一種

6、非平穩(wěn)信號的時間-尺度分析手段，不同于FT方法，與STFT方法比較具有更為明顯的優(yōu)勢102.小波變換的基本原理與性質(zhì)112.小波變換的基本原理與性質(zhì) 小波變換的定義： 小波變換是一種信號的時間尺度（時間頻率）分析方法，它具有多分辨分析的特點，而且在時頻兩域都具有表征信號局部特征的能力，是一種窗口大小固定不變但其形狀可改變，時間窗和頻率窗都可以改變的時頻局部化分析方法。即在低頻部分具有較低的時間分辨率和較高的頻率分辨率，在高頻部分具有較高的時間分辨率和較低的頻率分辨率，很適合于分析非平穩(wěn)的信號和提取信號的局部特征，所以小波變換被譽為分析處理信號的顯微鏡。在處理分析信號時，小波變換具有對信號的自適

7、應性，也是是一種優(yōu)于傅里葉變換和窗口傅里葉變換的信號處理方法。123.小波變換的基本原理與性質(zhì) 關(guān)于小波有兩種典型的概念：連續(xù)小波變換，離散小波變換 連續(xù)小波變換定義為 可見，連續(xù)小波變換的結(jié)果可以表示為平移因子a和伸縮因子b的函數(shù)dtabtatxdtttxttxbaCWTfRRbaba)()()()()(),(),(21,假定小波母函數(shù)窗口寬度為t，窗口中心為t0，則相應可求出連續(xù)小波的窗口中心為at0+，窗口寬度為a t。 即信號限制在時間窗內(nèi)：at0+- t a/2, at0+t a/2同樣，對于小波母函數(shù)的頻域變換，其頻域窗口中心為0，窗口寬度為 ，則相應的連續(xù)小波的傅立葉變換為：其頻

8、域窗口中心為：窗口寬度為：信號在頻域窗內(nèi)：)()(21,aeaja0,1aaa1211,21100aaaa從上面的時頻域的討論可見，連續(xù)小波的時頻域窗口中心及其寬度都隨a的變化而伸縮，如果我們稱t 為窗口函數(shù)的窗口面積，則：可見，連續(xù)小波基函數(shù)的窗口面積不隨參數(shù)的變化而變化。atataa1,152.小波變換的基本原理與性質(zhì)多分辨分析傅立葉分解過程小波分解過程162.小波變換的基本原理與性質(zhì)多分辨分析 伸縮因子對小波的作用02468-101sin(t)-a=102468-101sin(2t)-a=1/2幅度 A02468-101sin(4t)-a=1/4時 間 t-10-50510-101mor

9、let-a=1-10-50510-101morlet-a=1/2-10-50510-101morlet-a=1/4172.小波變換的基本原理與性質(zhì)182.小波變換的基本原理與性質(zhì)多分辨分析 平移因子對小波的作用 平移因子使得小波能夠沿信號的時間軸實現(xiàn)遍歷分析，伸縮因子通過收縮和伸張小波，使得每次遍歷分析實現(xiàn)對不同頻率信號的逼近193.小波變換的基本原理與性質(zhì)多分辨分析 連續(xù)小波變換實現(xiàn)過程首先選擇一個小波基函數(shù)，固定一個尺度因子，將它與信號的初始段進行比較 ；通過CWT的計算公式計算小波系數(shù)（反映了當前尺度下的小波與所對應的信號段的相似程度）；改變平移因子，使小波沿時間軸位移，重復上述兩個步驟

10、完成一次分析；增加尺度因子，重復上述三個步驟進行第二次分析；循環(huán)執(zhí)行上述四個步驟，直到滿足分析要求為止。202.小波變換的基本原理與性質(zhì)多分辨分析212.小波變換的基本原理與性質(zhì)多分辨分析 小波逆變換 如果小波函數(shù)滿足“容許”條件，那么連續(xù)小波變換的逆變換是存在的dtdaatbaCWTfCtxba 02,1)(),(1)(dtdaaabtabaCWTfC22101)(),(1 222.小波變換的基本原理與性質(zhì) 離散小波變換DWT（ discrete wavelet transform，DWT ）定義 對尺度參數(shù)按冪級數(shù)進行離散化處理，對時間進行均勻離散取值 （要求采樣率滿足尼奎斯特采樣定理）R

11、mmnmdtnttxttxnmDWTx)2()(2)(),(),(2,奈奎斯特定理 采樣定理說明采樣頻率與信號頻譜之間的關(guān)系，是連續(xù)信號離散化的基本依據(jù)。 在進行模擬/數(shù)字信號的轉(zhuǎn)換過程中，當采樣頻率fs.max大于信號中最高頻率fmax的2倍時(fs.max2fmax)，采樣之后的數(shù)字信號完整地保留了原始信號中的信息，一般實際應用中保證采樣頻率為信號最高頻率的510倍；采樣定理又稱奈奎斯特定理。常用的基本小波 1. Haar小波101/2( )11/210ttt 其它/224( )sin/4iie 常用的基本小波 2. Daubechies小波D4尺度函數(shù)與小波 012345-0.4-0.2

12、00.20.40.60.811.21.4-2-10123-1.5-1-0.500.511.52D6尺度函數(shù)與小波 常用的基本小波 3. Morlet小波20/2( )itttee20() /2( )2 e Morlet小波不存在尺度函數(shù); 快速衰減但非緊支撐. X (s,t)x(t)01a連續(xù)小波-運算過程示意圖X (s,t)x(t)501a連續(xù)小波-運算過程示意圖X (s,t)x(t)1001a連續(xù)小波-運算過程示意圖X (s,t)x(t)1501a連續(xù)小波-運算過程示意圖X (s,t)x(t)20010a連續(xù)小波-運算過程示意圖X (s,t)x(t)010a 連續(xù)小波-運算過程示意圖X (

13、s,t)x(t)20a 連續(xù)小波-運算過程示意圖X (s,t)x(t)30a 連續(xù)小波-運算過程示意圖X (s,t)x(t)40a 連續(xù)小波-運算過程示意圖X (s,t)x(t)50a 連續(xù)小波-運算過程示意圖375.小波變換的應用領(lǐng)域 事實上小波分析的應用領(lǐng)域十分廣泛，它包括：數(shù)學領(lǐng)域的許多學科；信號分析、圖象處理；量子力學、理論物理；軍事電子對抗與武器的智能化；計算機分類與識別，音樂與語言的人工合成；醫(yī)學成像與診斷；地震勘探數(shù)據(jù)處理；大型機械的故障診斷等方面。386.小波分析應用前景 （1） 瞬態(tài)信號或圖像的突變點常包含有很重要的故障信息，例如，機械故障、電力系統(tǒng)故障、腦電圖、心電圖中的異

14、常、地下目標的位置及形狀等，都對應于測試信號的突變點。因此，小波分析在故障檢測和信號的多尺度邊緣特征提取方面的應用具有廣泛的應用前景。 （2） 神經(jīng)網(wǎng)絡(luò)與小波分析相結(jié)合，分形幾何與小波分析相結(jié)合是國際上研究的熱點之一?；谏窠?jīng)網(wǎng)絡(luò)的智能處理技術(shù)，模糊計算、進化計算與神經(jīng)網(wǎng)絡(luò)結(jié)合的研究，沒有小波理論的嵌入很難取得突破。非線性科學的研究正呼喚小波分析，也許非線性小波分析是解決非線性科學問題的理性工具。396.小波分析應用前景 （3）小波分析用于數(shù)據(jù)或圖像的壓縮，目前絕大多數(shù)是對靜止圖像進行研究的。面向網(wǎng)絡(luò)的活動圖像壓縮，長期以來是采用離散余弦變換（DCT）加運動補償（Mc）作為編碼技術(shù)，然而，該方

15、法存在兩個主要的問題：方塊效應和蚊式噪聲。利用小波分析的多尺度分析不但可以克服上述問題，而且可首先得到粗尺度上圖像的輪廓，然后決定是否需要傳輸精細的圖案，以提高圖像的傳輸速度。因此研究面對網(wǎng)絡(luò)的地速率圖像壓縮的小波分析并行算法，具有較高探索性和新穎性。同時也具有較高的應用價值和廣泛的應用前景。（4）目前使用的二維及高維小波基主要是可分離的。不可分離二維及高維小波基的構(gòu)造、性質(zhì)應用研究，由于理論上較為復雜，這方面的成果甚少。也許向量小波及高維小波的研究能夠為小波分析的應用開創(chuàng)一個新天地。小波變換的去噪應用 執(zhí)行離散小波變換的有效方法是使用濾波器。該方法是Mallat在 1988年開發(fā)的，叫做Ma

16、llat算法，也叫金字塔算法。這種方法實際上是一種信號的分解方法，在數(shù)字信號處理過程中稱為雙通道子帶編碼 算法描述：把信號通過濾波器分成高頻部分和低頻部分，低頻部分繼續(xù)分解，迭代上述過程。形成的樹叫小波分解樹。417.小波變換的去噪應用小波降噪原理 從信號學的角度看 ,小波去噪是一個信號濾波的問題。盡管在很大程度上小波去噪可以看成是低通濾波 ,但由于在去噪后 ,還能成功地保留信號特征 ,所以在這一點上又優(yōu)于傳統(tǒng)的低通濾波器。由此可見 ,小波去噪實際上是特征提取和低通濾波的綜合 ,其流程框圖如下圖所示：特征提取低通濾波特征信號重建信號帶噪信號什么是小波神經(jīng)網(wǎng)絡(luò)？ 小波變換：一種數(shù)學分析的工具 小

17、波變換+人工神經(jīng)網(wǎng)絡(luò)=小波神經(jīng)網(wǎng)絡(luò)小波神經(jīng)網(wǎng)絡(luò)是一種以BP神經(jīng)網(wǎng)絡(luò)拓撲結(jié)構(gòu)為基礎(chǔ)，把小波基函數(shù)作為隱含層結(jié)點的傳遞函數(shù)，信號前向傳播的同時誤差反向傳播的神經(jīng)網(wǎng)絡(luò)。小波網(wǎng)絡(luò)的具體分類 (1) 用小波函數(shù)直接代替隱層函數(shù) 根據(jù)所選取的小波基函數(shù)的連續(xù)性的不同，可以將該模型分為連續(xù)參數(shù)的小波神經(jīng)網(wǎng)絡(luò)和基于小波框架的小波神經(jīng)網(wǎng)絡(luò)兩種： 連續(xù)參數(shù)的小波神經(jīng)網(wǎng)絡(luò) 基于小波框架的小波神經(jīng)網(wǎng)絡(luò)基于小波框架的小波神經(jīng)網(wǎng)絡(luò)的學習方法 在傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)中，存在隱層單元數(shù)目難以確定的不足，而小波神經(jīng)網(wǎng)絡(luò)的隱層單元數(shù)目則可以 按如下方法自適應地確定： 首先取小波神經(jīng)網(wǎng)絡(luò)的隱層單元數(shù)目M為1，學習迭代若干次后，如滿足誤差條件，則停止迭帶，若達到最大學習次數(shù)后，仍不滿足誤差條件，則小波變換單元數(shù)目增加1，重復上述過程，直到滿足誤差條件為止。這樣就可以根據(jù)具體的問題自適應地確定小波變化單元個數(shù)，從而克服傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的不足。小波神經(jīng)網(wǎng)絡(luò)的優(yōu)點 (1)小波變換通過尺度伸縮和平移對信號進行多尺度分析，能有效提取信號的局部信息 (2)神經(jīng)網(wǎng)絡(luò)具有自學習、自適應和容錯性等特