第4章 維納濾波原理及自適應(yīng)算法

1、1第第4 4章章 維納濾波原理及自適應(yīng)算法維納濾波原理及自適應(yīng)算法234.1 4.1 自適應(yīng)橫向濾波器及其學(xué)習(xí)過程自適應(yīng)橫向濾波器及其學(xué)習(xí)過程.1自適應(yīng)橫向濾波器結(jié)構(gòu)自適應(yīng)橫向濾波器結(jié)構(gòu)( )( )()()T11nu nu nu nM輊=-+臌uL( )nu( )u n4iw*wT011Mwww-=wL( )d n( )d n( )e n( )( )( )e nd nd n=-( )()( )( )1HT0Miid nw u ninn-*=-=w uuw5假設(shè) 由信號 與噪聲 組成 如果 ，圖1的系統(tǒng)稱為濾波（filtering）； 如果 ，圖1的系統(tǒng)稱為預(yù)測（predicti

2、on）； 如果 ，圖1的系統(tǒng)稱為平滑 （smoothing）。( )( )( )unsnvn=+( )u n( )s n( )v n( )( )dns n=( )()00,0d ns nnn=+( )()00,0d ns nnn=+64.1.2自適應(yīng)橫向濾波器的學(xué)習(xí)過程和工作過程自適應(yīng)橫向濾波器的學(xué)習(xí)過程和工作過程實際的濾波器系統(tǒng) 通過控制開關(guān)K1和K2，使系統(tǒng)進(jìn)入不同的工作模式 7 開關(guān)K1打向A1，K2打向A2，進(jìn)入學(xué)習(xí)過程，求得最優(yōu)權(quán)向量 開關(guān)K1打向B1，K2打向B2 ，進(jìn)入工作過程，對輸入信號進(jìn)行濾波處理 求出濾波器權(quán)值的學(xué)習(xí)過程是最優(yōu)濾波問題的關(guān)鍵 84.2 維納濾波原理維納濾波原

3、理4.2.1 4.2.1 均方誤差準(zhǔn)則及誤差性能面均方誤差準(zhǔn)則及誤差性能面已知估計誤差( )( )( )( )( )( )( )HTe nd nd nd nnd nn*=-=-=-w uuw( )e n( )( )( ) ( )2EEJe ne n enw*=()() ()()()() ()() ()() ()HT2HHHH=EEEEEd nn d nnd nd nnn d nnn*輊輊-犏犏臌臌=-+w uuwuwwuwuuw定義 的平均功率為9定義： 的平均功率 ( )d n( )22Edd n=s( ) ( )En dn*=pu( )nu( )( )HEnn=Ruu( )2HHHdJ w

4、p ww pw Rw=-+s( )J w互相關(guān)向量的自相關(guān)矩陣：誤差性能面或均方誤差10對實系統(tǒng)，若M=1 ( )( )( )( )( )( )( )2200002200000200ddJJ wpwpwrwpwrww =-+=-+ss( )J w是開口向上的拋物線可選擇權(quán)值w使 最小11 若M=2, 是拋物面( )J w( )J w 對于任何的M, 是M維的拋物面，具有唯一的全局極小值點(diǎn)。124.2.2 4.2.2 維納維納- -霍夫方程霍夫方程 R R是非奇異的是非奇異的 -最優(yōu)權(quán)向量最優(yōu)權(quán)向量 最小均方誤差（最小均方誤差（MMSEMMSE，Minimum Mean Minimum Mean

5、 Square ErrorSquare Error）準(zhǔn)則）準(zhǔn)則 -使誤差的平均功率最小使誤差的平均功率最小( )2HHHdJ wp ww pw Rw=-+s( )( )222JJ*輊= -+臌wwpRww1owRp-=( )J w的梯度( )22J0= -+=wpRw令oRwp= -維納維納-霍夫方程霍夫方程134.2.3 4.2.3 正交原理正交原理已知維納-霍夫方程 改寫成oRwp=o0-=Rwp( )( )( ) ( )( )( )( )HooHoEEEnnn dnnndn*-=-輊=-犏臌=Rwpuuwuuuw0( )( )( )Hooendnn*=- uw( ) ( )oEn en*

6、=u014 即 和 相互正交() ( )oE0,0,1,1u ni eniM*-=-L()u ni-( )oen( )( )( )ooend ndn=-( ) ( )( ) ( )HooooEE0dn enn en*=wu而( )odn( )oen和 也相互正交幾何解釋：154.2.4 最小均方誤差最小均方誤差( )2HHHdJ wp ww pw Rw=-+s( )( )( )( )( )2HHHminooooo2Ho2Hoo2HHoo2HHooEEdddddJJnnnnsssss*=-+=-=-=-輊輊=-犏犏臌臌wp ww pw Rwp ww Rwwuuww uw u16最小均方誤差與最佳

7、權(quán)向量示意圖 ( )2222minEdddJd nsss=-=-174.2.5 計算實例計算實例1：噪聲中的單頻信號估計：噪聲中的單頻信號估計觀測信號( )( )2( )( )sinnu ns nv nv nNpj驏=+=+桫( )22Evvns=j)0, 2p( )22 (/4)2cosnd ns nNNpj驏= -=+桫( )22E2ddns=設(shè)期望信號為： u(n)是白噪聲中的正弦信號, 是在 上均勻分布的隨機(jī)初始相位，噪聲 信號與噪聲互不相關(guān)。18( )( )( )()( )( )H01E10rrnnrr輊犏=犏-臌Ruu( ) ( )( )( )TE01n d npp輊=-臌pu問題

8、：設(shè)計一個二維的維納濾波器，使濾波器輸出在最小均方誤差意義下，逼近期望響應(yīng)。oRwp=思路：求出R和p，根據(jù) ，可求出w解：定義濾波器輸入信號向量( )( )()T1nu nu n輊=-臌u19( )( )()T1nu nu n輊=-臌u( )( )()()()( ) ()( ) ()22Esinsin22E sinsinE12cosE2nmnr mv nv nmNNnmnv n v nmNNmv n v nmNppjjppjjp禳驏 驏镲 驏-驏镲镲=+-睚 琪镲桫桫桫桫镲镲鉿禳驏镲-驏镲=+-睚 镲桫桫镲鉿驏=+-桫( )22120cos0.5,0212cos,12vvmNr mmNpss

9、p驏+=+=桫=驏=桫20類似地()()()()()22Esin2cos222E sin2sin22Ecos2sinnmnpmv nmNNnmmNNnv nmNmNppjppjpjp禳 驏 驏镲-驏镲镲-=+-+睚镲桫桫桫镲镲鉿禳 驏镲-驏镲 =+-睚镲 桫桫镲鉿禳驏镲镲+-+睚镲桫镲鉿驏= -桫,0,1m=2T2112cos222 0sin121cos22vvNNNpspps輊驏犏+犏輊桫驏犏犏=-犏犏桫驏臌犏+犏桫臌Rp212oo01224224422sin2sin4sin 22sin44sin44vvvvvNNNwwNNpppsppssss驏驏驏鼢瓏+鼢瓏鼢瓏桫桫桫= -驏驏鼢瓏+鼢瓏鼢

10、瓏桫桫Toooo01 ww輊=犏臌Rwpw由( )()2TT222010112122cos2sin22dvJwww wwNNspps=-+驏驏驏鼢瓏=+鼢瓏鼢瓏桫桫桫wp ww Rw2222Tmino224222sin4sin22sin44vdvvNNJNppsspss驏驏鼢瓏+鼢瓏鼢瓏桫桫=-=-驏+桫p w22 N=4 誤差性能面T2omin220 2cot2csc 0vJNNpps輊驏驏鼢瓏犏=-=鼢瓏鼢瓏犏桫桫臌wT2o0 02vs=-wT2omin0.5 2 76 2 7 1vJs輊=-=犏臌w234.2.6 4.2.6 計算實例計算實例2 2：信道傳輸信號的估計：信道傳輸信號的估計

11、考慮如下系統(tǒng)( )1v n( )2vn21s22s( )()( )111:1Hd nbd nv n=-+( )()( )22:1Hx nb x nd n=-+( )( )( )2u nx nvn=+ 和 分別是零均值，方差為 和 的白噪聲過程 24 問題：如何設(shè)計維納濾波器，使估計誤差 在MMSE意義下最小。 ：產(chǎn)生語音信號的模型 ：傳輸信道( )e n1H2H25思路：維納濾波問題，根據(jù) 求解解：o=Rwp( )()()( )( )( )010,101rrprrp*輊輊犏犏=犏犏-臌臌Rp()( ) ()( )( ) ()()()221E1E111xru n unx nvnx nvnr*=-

12、輊輊=+-+-=臌臌( )( ) ( )( )( ) ( )( )( )( ) ( )( ) ( )( )( )2222222220EEE0 xru n unx nvnx nvnx nx n vnxn vnvnrs*輊輊=+臌臌=+=+26( )( ) ( )( )( ) ( )()( )()( )() ( )()() ( )()()( )2222220EE1011E1E11110 xxxxpu n dnx nvnx nb x nrb rpu ndnx nvnx nb x nrb r*=輊輊=+-臌臌=-=-輊輊=-+-臌臌=-27令 其中 ，差分方程：( )( )( )12H zHz Hz=

13、( )11111Hzb z-=-( )21211Hzb z-=-( )()1212121 2121111H zbbzbb za za z-=-+()112abb= -+21 2abb=( )()()( )12112x na x na x nv n+-+-=系統(tǒng)H是2階的AR模型28( )()()( )221122222110 10111xxxaarrraaaas+= -輊-+-犏臌T1o0.83610.7853-=-wRp2212120.8458,0.9458,0.27, 0.1bbss= -=假設(shè)( )( )()()( )()2222222EE110210.9486dxxd nx nb x

14、nbrb rs=-=+-=2Hmino0.1579dJs=-=p w(0)1.0997, (1)0.4997, (0)0.5270,p(-1)0.4458rrp= -得：294.3 4.3 維納濾波器的最陡下降求解方法維納濾波器的最陡下降求解方法維納-霍夫方程的缺點(diǎn)：需要計算逆矩陣在估計出 后， 將固定，不具有自適應(yīng)性 1-Rowow30自適應(yīng)橫向濾波器根據(jù) ，修正 ，使 達(dá)到最小。( )e n( )e n( )nw31用迭代方法求最佳權(quán)向量()()1nnwww+=+ D( )()12JnmD= -ww( )()( )( )( )( )2HHHdJnnnnnwp wwpwRw=-+s( )()

15、( )( )()( )222JnJnnn*輊= -+犏臌wwpRww()( )( )1nnnwwpRw輊+=+-臌m-最陡下降算法32最陡下降算法仿真實例最陡下降算法仿真實例最陡下降算法的仿真步驟如下 步驟步驟1 1 模擬產(chǎn)生輸入隨機(jī)序列 u n初始化，0n =0.02m= 迭代次數(shù) 1000N =權(quán)向量 ( ) T000=w求出自相關(guān)矩陣1.09970.49970.49971.0997輊犏=犏臌R互相關(guān)向量T0.52700.4458=-p步驟步驟2 2 對 1,2,n=L權(quán)向量的更新： ()( )( )( )1nnnnm輊+=+-臌wwpRw代價函數(shù)： ( )()( )2HdJnns=-wp

16、 w步驟步驟3 3 令 1nn=+，轉(zhuǎn)到步驟2。 344.4 LMS4.4 LMS算法算法 最陡下降法的不足： p和R 確定，迭代過程和結(jié)果就確定； 與輸入信號變化無關(guān)，不具有自適應(yīng)性。35LMSLMS算法原理算法原理最陡下降法中 若 和 聯(lián)合各態(tài)歷經(jīng) R R 和 p p 瞬時估計值為 ()( )( )1nnnwwpRw輊+=+-臌m( )( )( ) ( )HE Ennn dn*=Ruupu()()() ()H1111 NNiiiii diNN*=邋Ruupu( )( )( ) ( )H nnn dn*=Ruupu( )nu( )d n36-LMS 算法，Windrow等人1975年提出()

17、( )( )( )( ) ( )( )( ) ( )( )( )( )( ) ( )( )( )( )( )( )( ) ( )HH1nnpRnnn dnnnnnn dnnnnn dnd nnn enmmmmm*輊+=+-臌輊=+-犏臌輊=+-犏臌輊=+-犏臌=+wwwwuuuwwuuwwuwu37 注意： 最陡下降法中，p和R都是確定量，得到的w(n)是確定向量序列；( )( )( ) ( )( )( ) ( )( )( )( ) ( )()( ) ( )HH222222J nnn dnnnnndnnnn en*= -+= -+= -= -pRwuuuwuuwu( ) nwLMS算法中，u(n)和e(n)都是隨機(jī)過程， 是隨機(jī)向量； LMS算法是種隨機(jī)梯度算法。38算法算法4.14.1（LMSLMS算法）算法）步驟步驟1 1 初始化，n=0 權(quán)向量： 估計誤差： 輸入向量：( ) 0w0=( )( )( )( )0000eddd=-=( )( )( )()( )TT0011000uuuMu輊=-+臌輊=臌uLL39步驟步驟2 2 權(quán)向量的更新： 期望信號的估計： 估計誤差：0,1 ,2,n=L()( )( ) ( )1nnn enwwu*+=+m()() ()H111d nnnwu+=+()()()111e