第2章維納濾波

1、第,2,章,維納濾波,2.1,問題的提出,u,(,n,),線性離散時間濾波器,y,(,n,),h,(,n,),?,?,d,(,n,),?,e,(,n,),在給定的約束,條件以及最優(yōu),準(zhǔn)則下來設(shè)計,最佳濾波器,離散形式維納濾波問題示意圖,要求,:,濾波器是離散時間濾波器；濾波器是線性的；濾波器為無限沖激響應(yīng)（,IIR,）,濾波器，有限沖激響應(yīng)濾波器可以看成是它的一個特例。,準(zhǔn)則,:,最小均方誤差（,MMSE,）準(zhǔn)則。,維納濾波器,:,輸入信號和期望響應(yīng)平穩(wěn)且聯(lián)合平穩(wěn)時所得到的最佳濾波器。,本質(zhì)：,給定一個輸入信號，設(shè)計一個線性離散濾波器，對期望響應(yīng)估計，使得其,估計誤差的均方值為最小。,1,第,

2、2,章,維納濾波,2.2,離散形式維納濾波器的解,y,(,n,),為線性卷積和,w,0,w,1,w,2,?,表示，則濾波器的輸出,單位沖激響應(yīng),h,(,n,),用,?,y,(,n,),?,?,w,k,u,(,n,?,k,),n,?,0,1,2,?,k,?,0,最小均方誤差準(zhǔn)則下的代價函數(shù),J,?,E,e,2,(,n,),代價函數(shù)的梯度向量,?,J,?,k,J,?,k,?,0,1,2,?,?,w,k,進(jìn)一步可求得,?,J,?,E,e,2,(,n,),?,e,(,n,),?,k,J,?,?,?,2,E,e,(,n,),?,w,k,?,w,k,?,w,k,?,?,2,E,u,(,n,?,k,),e,

3、(,n,),k,?,0,1,2,?,2,第,2,章,維納濾波,置梯度為零,得,維納濾波器最優(yōu)解的一個充要條件,E,u,e,o,(,n,),k,?,1,2,(,n,?,k,),?,0,0,?,(,),e,o,(,n,),表示濾波器工作在最優(yōu)條件下的估計誤差。,式中,e,o,(,n,),正交于,正交原理,:,使均方誤差代價函數(shù)達(dá)到最小值的充要條件是其相應(yīng)的估計誤差,用于估計期望響應(yīng)的每個輸入樣本值。,充要條件之二,的推導(dǎo),:,由正交原理出發(fā),E,u,(,n,?,k,),e,o,(,n,),?,E,u,(,n,?,k,),d,(,n,),?,y,o,(,n,),?,?,E,u,(,n,?,k,),d

4、,(,n,),?,?,w,oi,u,(,n,?,i,),?,0,k,?,0,1,2,?,i,?,0,整理得,?,w,oi,E,?,u,(,n,?,k,),u,(,n,?,i,),?,?,E,?,u,(,n,?,k,),d,(,n,),?,k,?,0,1,2,?,i,?,0,定義,濾波器輸入的自相關(guān)函數(shù),E,?,u,(,n,?,k,),u,(,n,?,i,),?,?,r,(,i,?,k,),濾波器輸入與期望響應(yīng)的互相關(guān)函數(shù),E,?,u,(,n,?,k,),d,(,n,),?,?,p,(,?,k,),?,因輸入平穩(wěn)，,故只與和,的差有關(guān),3,第,2,章,維納濾波,得到,維納濾波器的另一個充要條件,

5、，即著名的,維納,-,霍夫（,Wiener-Hopf,）方程,為,?,w,oi,r,(,i,?,k,),?,p,(,?,k,),k,?,0,1,2,?,?,i,?,0,2.3,離散形式維納濾波器的性質(zhì),2.3.1,正交原理的幾何解釋,d,(,1,),e,o,(,1,),u,(,1,),y,o,樣本空間,u,(,0,),正交原理的幾何解釋（二維的情況）,4,第,2,章,維納濾波,2.3.2,正交原理推論,考察濾波器輸出信號與估計誤差之間的相關(guān)特性,?,?,E,y,(,n,),e,(,n,),?,E,?,w,k,u,(,n,?,k,),e,(,n,),?,?,w,k,E,u,(,n,?,k,),e

6、,(,n,),k,?,0,k,?,0,最優(yōu)狀態(tài)下，上式為,?,?,E,y,o,(,n,),e,o,(,n,),?,E,?,w,ok,u,(,n,?,k,),e,o,(,n,),?,?,w,ok,E,u,(,n,?,k,),e,o,(,n,),k,?,0,k,?,0,由正交原理,(,右端為零,),可得,y,n,),?,0,(,),E,),e,o,(,n,o,(,y,o,(,n,),正交。,u,(,n,),和濾波器的輸出,),輸入樣本值,結(jié)論：維納濾波器的估計誤差,e,o,(,n,5,第,2,章,維納濾波,2.3.3,最小均方誤差,維納濾波器的估計誤差為,?,(,n,),e,o,(,n,),?,d

7、,(,n,),?,y,o,(,n,),?,d,(,n,),?,d,o,?,d,(,n,),?,d,n,),(,),),?,e,o,(,n,o,(,2,J,?,E,e,定義最小均方誤差為,min,o,(,n,),?,(,n,),和,d,(,n,),為零均值，對式兩邊同時取方差，得,假定,d,o,2,2,?,d,?,?,d,?,?,J,min,o,2,2,即,J,min,?,?,d,?,?,d,?,o,2,2,?,?,?,式中：,的方差。,?,是其最優(yōu)估值,d,d,(,n,),的方差，,d,是期望響應(yīng),d,o,(,n,),o,結(jié)論：維納濾波器所得最小均方誤差等于期望響應(yīng)的方差與濾波器輸出方差的差值

8、。,6,?,?,第,2,章,維納濾波,2.4,橫向濾波器的維納解,2.4.1,橫向濾波器的維納,-,霍夫方程及其解,u,(,n,?,1,),u,(,n,),u,(,n,?,M,?,1,),u,(,n,?,M,?,2,),?,1,?,1,?,1,?,z,z,z,?,w,M,?,2,w,M,?,1,w,0,w,1,d,(,n,),?,?,e,(,n,),d,(,n,),?,?,?,?,?,?,橫向濾波器結(jié)構(gòu)示意圖,),u,1,),?,u,(,n,?,M,?,1,),由級抽頭延遲線級聯(lián)而成，每個抽頭的輸入分別為,u,(,n,(,n,?,w,0,w,w,k,(,k,?,0,1,?,M,?,1,),。,

9、各抽頭權(quán)值分別為,w,，構(gòu)成一組權(quán)系數(shù),1,?,M,?,1,7,第,2,章,維納濾波,y,(,n,u,(,n,),，當(dāng)前輸出,d,(,n,),濾波器的當(dāng)前輸入值：,),，期望響應(yīng)為,重寫維納,-,霍夫方程,M,?,1,w,oi,r,(,i,?,k,),?,p,(,?,k,),k,?,0,1,2,?,?,i,?,0,u,(,n,),n,?,?,1,),的相關(guān)矩陣為，則,定義橫向濾波器的抽頭輸入,u,(,1,),?,u,(,n,?,M,r,(1),r,(,M,?,1),?,?,r,(0),?,r,(1),?,r,(0),r,(,M,?,2),T,?,?,R,?,E,u,(,n,),u,(,n,),

10、?,?,?,?,?,r,(,M,?,1),r,(,M,?,2),r,(0),?,?,u,(,n,),(,n,),u,(,n,?,1,n,?,?,1,),T,是抽頭輸入向量，矩陣對稱。,式中：,?,u,),?,u,(,M,定義橫向濾波器抽頭輸入與期望響應(yīng)的互相關(guān)向量為，則,p,?,E,u,(,n,),d,(,n,),?,p,(,0,),p,(,?,1,),?,p,(,1,?,M,),T,?,1,Rw,p,，即維納解為,w,?,R,p,則橫向濾波器的維納,-,霍夫方程式的矩陣表示形式為,o,?,o,T,式中：,是橫向濾波器最優(yōu)抽頭權(quán)向量。,w,?,w,w,?,w,o,o,0,o,1,o,M,?,1

11、,8,第,2,章,維納濾波,2.4.2,橫向濾波器的誤差性能,一、誤差性能曲面,M,?,1,輸出：,y,(,n,),?,?,w,k,u,(,n,?,k,),?,u,T,(,n,),w,(,n,),?,w,T,(,n,),u,(,n,),k,?,0,估計誤差：,e,(,n,),?,d,(,n,),?,y,(,n,),?,d,(,n,),?,w,T,(,n,),u,(,n,),均方誤差：,J,?,E,e,2,(,n,),?,E,d,(,n,),?,y,(,n,),2,?,E,d,(,n,),?,w,T,(,n,),u,(,n,),2,?,E,d,2,(,n,),?,w,T,(,n,),E,u,(,

12、n,),u,T,(,n,),w,(,n,),?,2,w,T,(,n,),E,d,(,n,),u,(,n,),2,T,T,?,?,?,w,(,n,),Rw,(,n,),?,2,w,(,n,),p,d,誤差性能曲面：將代價函數(shù)相對于抽頭權(quán)值的關(guān)系曲面。,9,第,2,章,維納濾波,代價函數(shù)是抽頭權(quán)值的二次函數(shù)；,如果矩陣是正定，誤差性能曲面就是一個碗狀曲面，且有唯一的最小值點,J,min,。,該點所對應(yīng)的權(quán)值為濾波器最優(yōu)權(quán)值，該點的梯度向量等于零,：,T,?,J,?,?,J,?,J,?,J,?,?,J,?,?,?,?,?,0,?,?,w,?,?,w,0,?,w,1,?,w,M,?,1,?,而,?,J

13、,?,2,Rw,(,n,),?,2,p,Rw,?,p,，與維納,-,霍夫方程一致。,故可推出,o,10,第,2,章,維納濾波,二、最小均方誤差的其他,3,種表達(dá)式,?,(,n,),?,y,(,n,),d,最優(yōu)條件下,o,o,T,y,(,n,),?,w,又,o,o,u,(,n,),2,2,T,T,?,?,?,E,d,(,n,),?,E,w,u,(,n,),u,(,n,),w,o,在零均值的假定條件下，得,?,o,o,d,o,T,?,w,T,E,u,(,n,),u,(,n,),w,o,o,T,?,w,o,Rw,o,2,T,T,T,?,1,?,d,?,w,p,?,p,w,?,p,R,p,進(jìn)一步,?,

14、o,o,o,2,2,J,?,?,?,?,由,?,，得最小均方誤差的,3,種表達(dá)式,min,d,d,o,2,2,T,2,T,?,1,J,min,?,?,d,?,w,T,Rw,?,?,?,p,w,?,?,?,p,R,p,o,o,d,o,d,11,第,2,章,維納濾波,u,(,n,),?,sin(,2,?,n,N,例,2-1,如圖所示的橫向濾波器，該系統(tǒng)輸入信號為,),，期望響應(yīng),d,(,n,),?,2,cos(,2,?,n,N,),J,min,。,試計算在均方誤差意義下的最佳權(quán)向量,w,o,和最小均方誤差,u,(,n,?,1,),u,(,n,),?,sin(,2,?,n,N,),?,1,z,d,(

15、,n,),?,2,cos(,2,?,n,N,),w,0,w,1,?,e,(,n,),?,(,n,),?,d,?,?,解：輸入的自相關(guān)函數(shù)為,1,N,2,?,n,2,?,(,n,?,k,),2,?,k,r,(,k,),?,E,?,u,(,n,),u,(,n,?,k,),?,?,sin,sin,?,0,.,5,cos,k,?,0,1,N,n,?,1,N,N,N,輸入與期望響應(yīng)的互相關(guān)函數(shù)為,2,N,2,?,n,2,?,(,n,?,k,),2,?,k,p,(,?,k,),?,E,?,u,(,n,?,k,),d,(,n,),?,?,cos,sin,?,?,sin,k,?,0,1,N,n,?,1,N,N

16、,N,12,?,?,第,2,章,維納濾波,由此可得輸入自相關(guān)矩陣和互相關(guān)向量分別為,2,?,?,?,T,0,.,5,0,.,5,cos,2,?,?,?,?,?,r,(,0,),r,(,1,),?,?,T,N,?,?,p,?,p,(,0,),p,(,?,1,),?,0,?,sin,R,?,?,?,?,?,?,?,?,2,?,N,r,(,1,),r,(,0,),?,?,?,?,?,0,.,5,cos,?,0,.,5,N,?,?,T,2,?,2,?,?,?,w,?,2,cot,?,2,csc,由，,可求得,Rw,o,o,?,p,?,N,N,?,?,?,2,?,d,E,d,2,(,n,),2,，結(jié)合和

17、的結(jié)果，可得均方誤差性能函數(shù)及其梯度向,可以求得,?,?,量為,2,?,?,?,2cot,2,?,?,?,?,N,?,2,T,J,min,?,?,d,?,p,w,o,?,2,?,?,0,?,sin,?,?,?,?,0,2,?,?,N,?,?,?,?,2csc,?,N,?,?,?,最佳權(quán)向量也可以通過置均方誤差性能函數(shù)的梯度向量為,0,求得，見教材,13,頁。,本題中最小均方誤差為,0,，但它不是說任何問題中都為,0,，一般時候大于,0,。,13,第,2,章,維納濾波,三、二次型誤差性能曲面的性質(zhì),把誤差性能函數(shù)重新表示為,2,J,?,?,d,?,w,T,Rw,?,2,w,T,p,2,?,?,d

18、,?,w,T,p,?,p,T,w,?,w,T,Rw,2,?,?,d,?,p,T,R,?,1,p,?,(,w,?,R,?,1,p,),T,R,(,w,?,R,?,1,p,),?,1,T,?,1,?,J,?,(,w,?,R,p,),R,(,w,?,R,p,),min,?,J,min,?,(,w,?,w,o,),T,R,(,w,?,w,o,),（該式表明最佳權(quán)向量與最小均方誤差的對應(yīng)關(guān)系）,為使誤差性能曲面的表達(dá)式簡單化，定義權(quán)偏差向量為,T,?,w,1,?,?,w,?,?,w,?,?,w,?,w,o,?,?,w,0,M,?,1,此時的二次型誤差性能函數(shù)可以表示為,J,?,J,min,?,w,?,T

19、,R,w,?,14,第,2,章,維納濾波,w,0,和,w,1,的橫向濾波器。此時，誤差性,為直觀起見，考慮只有兩個權(quán)值,能曲面是三維空間中的一個拋物面，如圖所示。若用一組,J=C,的等值,平面來截取誤差性能表面，并向權(quán)值平面投影，則可在權(quán)值平面上可,得到一組同心橢圓，這就是誤差性能曲面的等高線圖。橢圓的中心為,性能表面最低點的投影。,橫向濾波器的二次誤差性能曲面和等高,線,15,第,2,章,維納濾波,相關(guān)矩陣,R,的特征分解與化為標(biāo)準(zhǔn)形,det,R,?,?,I,?,0,?,0,?,1,?,?,M,?,1,Q,?,?,q,0,q,1,?,q,M,?,1,?,0,?,?,?,0,0,?,?,0,?,?,?,0,1,?,Rq,n,?,?,n,q,n,R,?,Q,Q,T,?,?,?,?,?,?,?,?,?,?,0,0,?,?,M,?,1,?,?,誤差性能表面的另一種