數(shù)字信號處理-第2章

1、第二章 維納濾波和卡爾曼濾波 第二章 維納濾波和卡爾曼濾波 2.1 引言引言 2.2 維納濾波器的離散形式維納濾波器的離散形式時域解時域解 2.3 離散維納濾波器的離散維納濾波器的z域解域解 2.4 維納預(yù)測維納預(yù)測 2.5 卡爾曼卡爾曼(Kalman)濾波濾波 第二章 維納濾波和卡爾曼濾波 2.1 引引 言言 在生產(chǎn)實踐中，我們所觀測到的信號都是受到噪聲干擾的。如何最大限度地抑制噪聲，并將有用信號分離出來，是信號處理中經(jīng)常遇到的問題。換句話說，信號處理的目的就是要得到不受干擾影響的真正信號。相應(yīng)的處理系統(tǒng)稱為濾波器。這里， 我們只考慮加性噪聲的影響，即觀測數(shù)據(jù)x(n)是信號s(n)與噪聲v(

2、n)之和（如圖2.1.1所示）, 即 x(n)=s(n)+v(n) （2.1.1） 第二章 維納濾波和卡爾曼濾波 我們的目的是為了得到不含噪聲的信號s(n)，也稱為期望信號，若濾波系統(tǒng)的單位脈沖響應(yīng)為h(n)（如圖2.1.2所示）， 系統(tǒng)的期望輸出用yd(n)表示，yd(n)應(yīng)等于信號的真值s(n)；系統(tǒng)的實際輸出用y(n)表示，y(n)是s(n)的逼近或估計，用公式表示為yd(n)=s(n)， y(n) = 。因此對信號x(n)進行處理，可以看成是對期望信號的估計，這樣可以將h(n)看作是一個估計器，也就是說, 信號處理的目的是要得到信號的一個最佳估計。那么， 采用不同的最佳準(zhǔn)則，估計得到的

3、結(jié)果可能不同。所得到的估計， 在通信中稱為波形估計; 在自動控制中，稱為動態(tài)估計。 )( ns第二章 維納濾波和卡爾曼濾波 圖 2.1.1 觀測信號的組成 x(n)s(n)v(n)第二章 維納濾波和卡爾曼濾波 圖 2.1.2 信號處理的一般模型 h(n)x(n)s(n) v(n)y(n)第二章 維納濾波和卡爾曼濾波 假若已知x(n-1), x(n-2), , x(n-m)，要估計當(dāng)前及以后時刻的信號值s(n+N), N0，這樣的估計問題稱為預(yù)測問題；若已知x(n-1), x(n-2), , x(n-m) ，要估計當(dāng)前的信號值s(n)，稱為過濾或濾波； 根據(jù)過去的觀測值x(n-1), x(n-2

4、), , x(n-m)，估計過去的信號值s(n-N), N1，稱為平滑或內(nèi)插。維納(Wiener)濾波與卡爾曼(Kalman)濾波就是用來解決這樣一類從噪聲中提取信號的過濾或預(yù)測問題, 并以估計的結(jié)果與信號真值之間的誤差的均方值最小作為最佳準(zhǔn)則。 第二章 維納濾波和卡爾曼濾波 維納濾波是在第二次世界大戰(zhàn)期間，由于軍事的需要由維納提出的。1950年，伯特和香農(nóng)給出了當(dāng)信號的功率譜為有理譜時，由功率譜直接求取維納濾波器傳輸函數(shù)的設(shè)計方法。 維納濾波器的求解，要求知道隨機信號的統(tǒng)計分布規(guī)律（自相關(guān)函數(shù)或功率譜密度），得到的結(jié)果是封閉公式。采用譜分解的方法求解，簡單易行，具有一定的工程實用價值，并且物

5、理概念清楚，但不能實時處理；維納濾波的最大缺點是僅適用于一維平穩(wěn)隨機信號。這是由于采用頻域設(shè)計法所造成的， 因此人們逐漸轉(zhuǎn)向在時域內(nèi)直接設(shè)計最佳濾波器的方法。 第二章 維納濾波和卡爾曼濾波 2.2 維納濾波器的離散形式維納濾波器的離散形式時域解時域解 2.2.1 維納濾波器時域求解的方法維納濾波器時域求解的方法根據(jù)線性系統(tǒng)的基本理論，并考慮到系統(tǒng)的因果性，可以得到濾波器的輸出y(n), 0)()()()()(mmnxmhnhnxnyn=0, 1, 2, （2.2.2） 設(shè)期望信號為d(n)，誤差信號e(n)及其均方值E|e(n)|2分別為 e(n)=d(n)-y(n)=s(n)-y(n) （2

6、.2.） 2022)()()(| )()(| )(|mmnxmhndEnyndEneE（2.2.） 第二章 維納濾波和卡爾曼濾波 要使均方誤差為最小，須滿足 0| )(|2jhneE（2.2.5） 這里，hj表示h(j); 同理，可以用aj，bj分別表示a(j)，b(j)。由于誤差的均方值是一標(biāo)量，因此（2.2.5）式是一個標(biāo)量對復(fù)函數(shù)的求導(dǎo)問題， 它等價于 0| )(| )(|22jjbneEjaneEj=0, 1, 2, （2.2.6） 記 jjjbjaj=0, 1, 2, （2.2.） 第二章 維納濾波和卡爾曼濾波 則（2.2.6）式可以寫為 0| )(|2neEj（2.2.8） 將（2

7、.2.8）式展開 )()()()()()()()(| )(|*2njebnenjebneneaneneaneEneEjjjjj（2.2.9） 又根據(jù)（2.2.1）(2.2.3)式 第二章 維納濾波和卡爾曼濾波 )()()()()()()()(*jnjxbnejnxanejnjxbnejnxanejjjj將（2.2.10）（2.2.13）式代入（2.2.9）式， 得 )()(2| )(|*2nejnxEneEj（2.2.14) 第二章 維納濾波和卡爾曼濾波 因此 Ex*(n-j)e(n)=0 j=0, 1, 2, （2.2.15） 上式說明，均方誤差達到最小值的充要條件是誤差信號與任一進入估計的

8、輸入信號正交，這就是通常所說的正交性原理。它的重要意義在于提供了一個數(shù)學(xué)方法，用以判斷線性濾波系統(tǒng)是否工作于最佳狀態(tài)。 第二章 維納濾波和卡爾曼濾波 下面計算輸出信號與誤差信號的互相關(guān)函數(shù) 0*0*)()()( )()()()()(jjnejnxEjhnejnxjhEnenyE(2.2.16) 假定濾波器工作于最佳狀態(tài)，濾波器的輸出yopt(n)與期望信號d(n)的誤差為eopt(n)，把（2.2.15）式代入上式，得到 0)()(*optnenyEopt(2.2.17) 第二章 維納濾波和卡爾曼濾波 圖 2.2.1 期望信號、 估計值與誤差信號的幾何關(guān)系 eopt(n)d(n)yopt(n)

9、第二章 維納濾波和卡爾曼濾波 圖2.2.1表明在濾波器處于最佳工作狀態(tài)時， 估計值加上估計偏差等于期望信號， 即 )(e)()(optoptnnynd注意我們所研究的是隨機信號，圖2.2.1中各矢量的幾何表示應(yīng)理解為相應(yīng)量的統(tǒng)計平均或者是數(shù)學(xué)期望。再從能量的角度來看，假定輸入信號和期望信號都是零均值, 應(yīng)用正交性原理,則, 因此在濾波器處于最佳狀態(tài)時， 估計值的能量總是小于等于期望信號的能量。 |2opt22dopteEy第二章 維納濾波和卡爾曼濾波 2.2.2 維納維納霍夫方程霍夫方程將（2.2.15）式展開， 可以得到 0)()()()(0*mmnxmhndknxE將輸入信號分配進去， 得

10、到 )()()(0*kmrmhkrmxxdxk=0, 1, 2, 對上式兩邊取共軛，利用相關(guān)函數(shù)的性質(zhì): ryx(-k)=r*xy(k), 得到 )()()()()(0krkhmkrmhkrxxmxxxdk=0, 1, 2, (2.2.20) 第二章 維納濾波和卡爾曼濾波 (2.2.20)式稱為維納-霍夫（WienerHopf）方程。當(dāng)h(n)是一個長度為M的因果序列(即h(n)是一個長度為M的FIR濾波器)時， 維納-霍夫方程表述為 )()()()()(10krkhmkrmhkrxxMmxxxdk=0, 1, 2, (2.2.21) 把k的取值代入(2.2.21)式， 得到 注rxx(m)=

11、 rxx(-m)當(dāng)k=0時，h1rxx(0)+h2rxx(1)+hMrxx(M-1)=rxd(0)當(dāng)k=1時， h1rxx(1)+ h2rxx(0)+ hMrxx(M-2)= rxd(+1) 當(dāng)k=M-1時， h1rxx(M-1)+ h2rxx (M-2)+hMrxx(0)= rxd(M-1) (2.2.22) 第二章 維納濾波和卡爾曼濾波 定義 )0()2() 1()2()0()0() 1() 1 ()0() 1() 1 ()0(21xxxxxxxxxxxxxxxxxxxxxdxdxdxdMrMrMrMrrrMrrrRMrrrRhhhh第二章 維納濾波和卡爾曼濾波 （2.2.22）式可以寫成

12、矩陣的形式， 即 hRRxxxd(2.2.23) 對上式求逆，得到 xdxxRRh1(2.2.24) 第二章 維納濾波和卡爾曼濾波 上式表明已知期望信號與觀測數(shù)據(jù)的互相關(guān)函數(shù)及觀測數(shù)據(jù)的自相關(guān)函數(shù)時，可以通過矩陣求逆運算， 得到維納濾波器的最佳解。同時可以看到，直接從時域求解因果的維納濾波器， 當(dāng)選擇的濾波器的長度M較大時， 計算工作量很大， 并且需要計算Rxx的逆矩陣，從而要求的存貯量也很大。此外， 在具體實現(xiàn)時，濾波器的長度是由實驗來確定的，如果想通過增加長度提高逼近的精度，就需要在新M基礎(chǔ)上重新進行計算。因此，從時域求解維納濾波器，并不是一個有效的方法。 第二章 維納濾波和卡爾曼濾波 2

13、.2.3 估計誤差的均方值估計誤差的均方值 假定所研究的信號都是零均值的，濾波器為FIR型，長度等于M，將(2.2.2)式和(2.2.3)式代入(2.2.4)式，可以得到 )()() 1 ()()()()()()()(| )(| )(|*1010*10*10*22inxknxEhkhndknxEkhndknxEkhndEneEMkMiMkMk(2.2.25) 第二章 維納濾波和卡爾曼濾波 上式可以進一步化簡得到 )()()(*)()()()()()()()()()(| )(|1T*11T*2TT*T*21010*10*10*22xdxxxxxdxxxdxxxddxxxdxddMkxxMiMkx

14、dxdMkdRRhRRRhRRRhRhhRRhkirihkhkrkhkrkhneE 可以看出， 均方誤差與濾波器的單位脈沖響應(yīng)是一個二次函數(shù)關(guān)系。由于單位脈沖響應(yīng)h h (n)為M維向量，因此均方誤差是一個超橢圓拋物形曲面，該曲面有極小點存在。當(dāng)濾波器工作于最佳狀態(tài)時， 均方誤差取得最小值。第二章 維納濾波和卡爾曼濾波 將（2.2.24）式代入(2.2.26)式，得到最小均方誤差 optxddxdxxxddhRRRRneET*21T*2min2)()(| )(|(2.2.27) 例2.2.1 設(shè)y(n)=x(n)+v2(n)，v2(n)是一白噪聲，方差22=0.1。 期望信號x1(n)的信號模

15、型如圖2.2.2（a）所示，其中白噪聲v1(n)的方差21=0.27，且b0=0.8458。x(n)的信號模型如圖2.2.2（b）所示，b1=0.9458。假定v1(n)與v2(n)、x1(n)與y(n)不相關(guān)，并都是實信號。設(shè)計一個維納濾波器，得到該信號的最佳估計，要求濾波器是一長度為2的FIR濾波器。 第二章 維納濾波和卡爾曼濾波 圖 2.2.2 輸入信號與觀測數(shù)據(jù)的模型 z1x1(n)v1(n)b0z1x(n)x1(n)b1y(n)v2(n)(a)(b)第二章 維納濾波和卡爾曼濾波 解解 這個問題屬于直接應(yīng)用維納-霍夫方程的典型問題， 其關(guān)鍵在于求出觀測信號的自相關(guān)函數(shù)和觀測信號與期望信

16、號的互相關(guān)函數(shù)。 圖 2.2.3 維納濾波器的框圖 H1(z)H2(z)v1(n)x1(n)x(n)y(n)v2(n)第二章 維納濾波和卡爾曼濾波 根據(jù)題意，畫出這個維納濾波器的框圖，如圖2.2.3所示。 用H1(z)和H2(z)分別表示x1(n)和x(n)的信號模型，那么濾波器的輸入信號x(n)可以看作是v1(n)通過H1(z)和H(z)級聯(lián)后的輸出， H1(z)和H(z)級聯(lián)后的等效系統(tǒng)用H(z)表示，輸出信號y(n)就等于x(n)和v2(n)之和。因此求出輸出信號的自相關(guān)函數(shù)矩陣Ryy和輸出信號與期望信號的互相關(guān)矩陣Ryd是解決問題的關(guān)鍵。相關(guān)函數(shù)矩陣由相關(guān)函數(shù)值組成，已知x(n)與v2

17、(n)不相關(guān)，那么 )()()(22mrmrmrvvxxyy第二章 維納濾波和卡爾曼濾波 (1) 求出期望信號的方差。根據(jù)圖2.2.2(a)，期望信號的時間序列模型所對應(yīng)的差分方程為 x1(n)=v1(n)-b0 x1(n-1) 這里，b0=0.8458, 由于x1(n)的均值為零，其方差與自相關(guān)函數(shù)在零點的值相等。 22021212111021212111)1() 1()(2)()()0(xxxbnxbnxnvbnvEnxER9486. 0)8458. 0(127. 0122021221bxd第二章 維納濾波和卡爾曼濾波 (2) 計算輸入信號和輸出信號的自相關(guān)函數(shù)矩陣。根據(jù)自相關(guān)函數(shù)、功率譜

18、密度和時間序列信號模型的等價關(guān)系，已知時間序列信號模型，就可以求出自相關(guān)函數(shù)。這里，信號的模型H(z)可以通過計算得到。 )9458. 01)(8458. 01 (1)()()(1121zzzHzHzH這是一個二階系統(tǒng)，所對應(yīng)的差分方程為 x(n)+a1x(n-1)+a2x(n-2)=v1(n) 式中，a1=-0.1，a2=-0.8。由于v1(n)、v2(n)的均值為零，因此， x(n)的均值為0。給方程兩邊同乘以x*(n-m)，并取數(shù)學(xué)期望，得到 rxx(m)+a1rxx(m-1)+a2rxx (m-2)=0 m0 (1)rxx(0)+ a1rxx(1)+a2rxx(2)=21 m=0 (2

19、) 第二章 維納濾波和卡爾曼濾波 對方程（1）取m=1, 2，得到 rxx(1)+a1rxx(0)+a2rxx(1)=0 (3)rxx(2)+a1rxx(1)+a2rxx(0)=0(4) 方程（2）、（3）、（4）聯(lián)立求解，得 5 . 08 . 011 . 01) 1 (1) 1 . 0()8 . 01(27. 08 . 018 . 01)1(11)0(2122212221222aaraaaarxxxxx至此， 輸入信號的自相關(guān)矩陣Rxx可以寫出： 15 . 05 . 01)0() 1 () 1 ()0(xxxxxxxxxxrrrrR第二章 維納濾波和卡爾曼濾波 v2(n)是一個零均值的白噪聲

20、，它的自相關(guān)函數(shù)矩陣呈對角形， 且 ，22)0(22vvr1 . 0001 . 0)0() 1 () 1 ()0(2222222222vvvvvvvvvvrrrrR因此，輸出信號的自相關(guān)Ryy為 1 . 15 . 05 . 01 . 1)0()0() 1 () 1 () 1 ()0()0() 1 () 1 ()0(22222222vvxxvvxxvvxxvvxxyyyyyyyyyyrrrrrrrrrrrrR第二章 維納濾波和卡爾曼濾波 (3) 計算輸出信號與期望信號的互相關(guān)函數(shù)矩陣。 由于兩個信號都是實信號，故 ryd(m)=Ey(n)d(n-m)=Ey(n)x1(n-m)=E(x(n)+v2

21、(n)x1(n-m)=Ex(n)x1(n-m) m=0, 1 根據(jù)圖2.2.2系統(tǒng)H2(z)的輸入與輸出的關(guān)系, 有 x1(n)-b1x(n-1)=x(n) 推出 x1(n)=x(n)+b1x(n-1) 這樣 ryd(m) =Ex(n)x1(n-m)=Ex(n)(x(n-m)+b1x(n-1-m) =rxx(m)+b1rxx(m-1) 第二章 維納濾波和卡爾曼濾波 將m=0, m=1代入上式, 得 ryd(0)=rxx(0)+b1rxx(-1)=1-0.94580.5=0.5272ryd(1)=rxx(1)+ b1rxx(0)=0.5-0.94581=-0.4458 因此，輸出信號與期望信號的

22、互相關(guān)Ryd為 4458. 05272. 0) 1 ()0(ydydydrrR求出輸出信號自相關(guān)的逆矩陣, 并乘以Ryd, 就可以得到維納濾波器的最佳解Wopt:1456. 15208. 05208. 01456. 1)0() 1 () 1 ()0() 1 ()0(1)0() 1 () 1 ()0(2211rrrrrrrrrrRyy第二章 維納濾波和卡爾曼濾波 7853. 08360. 0458. 05272. 01456. 15428. 05208. 01456. 11ydyyoptRRW把Wopt代入（2.2.27）式，可以計算出該維納濾波達到最佳狀態(tài)時均方誤差，即取得了最小值E|e(n)

23、|2min， 1579. 07583. 08360. 04458. 05272. 09486. 0)(| )(|optT*2min2WRneEydd第二章 維納濾波和卡爾曼濾波 2.3 離散維納濾波器的離散維納濾波器的z域解域解 若不考慮濾波器的因果性，（2.2.20）式可以寫為 )()()()()(krkhmkrmhkrxxmxxxd設(shè)定d(n)=s(n)，對上式兩邊做Z變換，得到 Sxs(z)=Hopt(z)Sxx(z) )()()(zSzSzHxxxsopt第二章 維納濾波和卡爾曼濾波 假設(shè)信號和噪聲不相關(guān)，即rsv(m)=0，則 Sxs(z)=Sss(z)Sxx(z)=Sss(z)+S

24、vv(z) （2.3.2）式可以寫成 )()()()()()(zSzSzSzSzSzHvvssssxxxsopt（2.3.5）式表示，當(dāng)噪聲為0時，信號全部通過；當(dāng)信號為0時， 噪聲全部被抑制掉，因此維納濾波確有濾除噪聲的能力。把信號的頻譜用Pss(ej)表示，噪聲的頻譜用Pvv(ej)表示，那么非因果的維納濾波器的傳輸函數(shù)Hopt(ej)的幅頻特性如圖2.3.1所示。 第二章 維納濾波和卡爾曼濾波 011)e (joptHPss(ej)0, Pvv(ej)=0 Pss(ej)0, Pvv(ej) 0 Pss(ej)=0, Pvv(ej) 0 然而實際的系統(tǒng)都是因果的。對于一個因果系統(tǒng)，不能直

25、接轉(zhuǎn)入頻域求解的原因是由于輸入信號與期望信號的互相關(guān)序列是一個因果序列，如果能夠把因果維納濾波器的求解問題轉(zhuǎn)化為非因果問題，求解方法將大大簡化。那么怎樣把一個因果序列轉(zhuǎn)化為一個非因果序列呢？ 第二章 維納濾波和卡爾曼濾波 圖 2.3.1 非因果維納濾波器的傳輸函數(shù)的幅頻特性 Hopt(ej)PSS(ej)Pvv(ej)0第二章 維納濾波和卡爾曼濾波 回顧前面講到的時間序列信號模型，假設(shè)x(n)的信號模型B(z)已知（如圖2.3.2(a)所示），求出信號模型的逆系統(tǒng)B-1(z)， 并將x(n)作為輸入，那么逆系統(tǒng)B-1(z)的輸出(n)為白噪聲。一般把信號轉(zhuǎn)化為白噪聲的過程稱為白化，對應(yīng)的濾波器

26、稱為白化濾波器（如圖2.3.2(b)所示）。 圖 2.3.2 x(n)的時間序列信號模型及其白化濾波器 B(z)(n)x(n)B1(z)(n)x(n)第二章 維納濾波和卡爾曼濾波 具體思路如圖2.3.3所示。用白噪聲作為待求的維納濾波器的輸入，設(shè)定1/B(z)為信號x(n)的白化濾波器的傳輸函數(shù)，那么維納濾波器的傳輸函數(shù)G(z)的關(guān)系為 )()()(zBzGzH(2.3.7) 因此，維納濾波器的傳輸函數(shù)H(z)的求解轉(zhuǎn)化為G(z)的求解。 圖 2.3.3 維納濾波解題思路 (n)x(n)G(z)y(n) s(n)(1zB第二章 維納濾波和卡爾曼濾波 2.3.1 非因果維納濾波器的求解非因果維納

27、濾波器的求解 假設(shè)待求維納濾波器的單位脈沖響應(yīng)為(n)，期望信號d(n)=s(n)，系統(tǒng)的輸出信號y(n)=s(n)，g(n)是G(z)的逆Z變換， 如圖2.3.3所示。 kknkgngnnsny)()()()()( )(第二章 維納濾波和卡爾曼濾波 kskskkskskkkkkrkrkgrkrkgkrkgkgrnsknkgnsknkgErnknrgkgEnsEknkgnsEneE222ss*22ss*222|)()()0()()()()(| )(|)0()()()()()()()()()()(| )(|)()()(| )(|(2.3.9) 第二章 維納濾波和卡爾曼濾波 可以看出，均方誤差的第

28、一項和第三項都是非負數(shù), 要使均方誤差為最小，當(dāng)且僅當(dāng) 0)()(krkgs -k (2.3.10) 因此g(n)的最佳值為 2)()(krkgsopt -k (2.3.11) 對上式兩邊同時做Z變換，得到 2)()(zSzGsopt(2.3.12) 第二章 維納濾波和卡爾曼濾波 這樣，非因果維納濾波器的最佳解為 )()(1)()()(2optoptzBzSzBzGzHs(2.3.13) 因為s(n)=s(n)*(n)，且x(n)=(n)*b(n)，根據(jù)相關(guān)卷積定理(1.4.15)式, 得到 rxs(m)=rs(m)*b(-m) (2.3.14) 對上式兩邊做Z變換，得到 Sxs (z)=Ss

29、(z)B(z-1) 因此 )()()(1zBzSzSxss(2.3.15) 第二章 維納濾波和卡爾曼濾波 將上式代入(2.3.13)式，并根據(jù)x(n)的信號模型，得到非因果的維納濾波器的復(fù)頻域最佳解的一般表達式 )()()()()(11)(12optzSzSzBzSzBzHxxxsxs(2.3.16) 假定信號與噪聲不相關(guān)，即當(dāng)Es(n)v(n)=0時，有 rxs(m)=E(s(n)+v(n)*s(n+m)=rss(m)rxx(m)=E(s(n)+v(n)*(s(n+m)+v(n+m)=rss(m)+rvv(m) 對上邊兩式做Z變換, 得到 Sxs(z)=Sss(z) Sxx(z)=Sss(z

30、)+Svv(z) (2.3.17) (2.3.18) 第二章 維納濾波和卡爾曼濾波 把(2.3.17)式代入(2.3.15)式, 得到 )()()(1zBzSzSsss（2.3.19) 將（2.3.18）式和（2.3.19）式代入（2.3.16）式, 得到信號和噪聲不相關(guān)時，非因果維納濾波器的復(fù)頻域最佳解和頻率響應(yīng)分別為 )()()()()()(optzSzSzSzSzSzHvvssssxxxs)()()()e ()e ()e ()e (jjjjoptvvssssvvssssPPPSSSH（2.3.20) （2.3.21) 第二章 維納濾波和卡爾曼濾波 下面我們推出該濾波器的最小均方誤差E|e

31、(n)|2min的計算, 重新寫出(2.3.9)式的最佳解 kssskrrneE22min2| )(|)0(| )(|根據(jù)圍線積分法求逆Z變換的公式, rss(m)用下式表示: CmsssszzzSmrd)(j21)(1(2.3.22) 得出 CsssszzzSrd)(j21)0(1(2.3.23) 第二章 維納濾波和卡爾曼濾波 由復(fù)卷積定理 zzzYzXnynxCnd1)(j21)()(*(2.3.24) 取y(n)=x(n), 有 zzzXzXnxCnd)(j21| )(|12(2.3.25) 因此 zzzSzSkrCssnsd)()(j21| )(|12(2.3.26) 把(2.3.23

32、)式和(2.3.26)式代入(2.3.9)式， 得到 zzzSzSzSneEsssCd)()(1)(j21| )(|12min2(2.3.27) 第二章 維納濾波和卡爾曼濾波 將（2.3.19）式代入上式， 得到 zzzSzHzSzzzBzSzBzSzSneEssoptssCsssssCd)()()(j21d)()()()(1)(j21| )(|1112min2(2.3.28) 因為實信號的自相關(guān)函數(shù)是偶函數(shù)，即rss(m)=rss(-m)，因此 Sss(z)=Sss(z-1) 假定信號與噪聲不相關(guān)，Es(n)v(n)=0， 則 CxxvvssCssxxsssszzzSzSzSzzzSzSzS

33、zSneEd)()()(j21d)()()()(j21| )(|1min2(2.3.30) 第二章 維納濾波和卡爾曼濾波 2.3.2 2.3.2 因果維納濾波器的求解因果維納濾波器的求解 若維納濾波器是一個因果濾波器， 要求 g(n)=0 n0 則濾波器的輸出信號 0)()()()()( )(kknkgngnnsny估計誤差的均方值 E|e(n)|2=E|s(n)-y(n)|2 (2.3.32) (2.3.31) 類似于（2.3.9）式的推導(dǎo)，得到 022202| )(|1)()()0(| )(|kskssskrkrkgrneE(2.3.33) 第二章 維納濾波和卡爾曼濾波 要使均方誤差取得最

34、小值， 當(dāng)且僅當(dāng) )()(000)()(22optnunrnnnrngss(2.3.34) 令 )(1)(ZT)()()()()(2opt0zSngzGznrznunrzSsoptnnsnnss(2.3.35) (2.3.36) 第二章 維納濾波和卡爾曼濾波 又由（2.3.15）式得到 )()(1)(12optzBzSzGxs(2.3.37) 所以因果維納濾波器的復(fù)頻域最佳解為 )()()(11)()()(12optzBzSzBzBzGzHxsopt(2.3.38) 第二章 維納濾波和卡爾曼濾波 維納濾波的最小均方誤差為 zzzSzHzSzzzBzSzBzSzSzzzSzSrkrkukrrkr

35、rneExsssCxsxsssCsCssskssssksssd)()()(j21d)()()()(1)(j21d)()(1j21)0()()()(1)0(| )(|)0(| )(|1opt11212*2022min2(2.3.39) 第二章 維納濾波和卡爾曼濾波 比較（2.3.28）式和（2.3.39）式，可以看出因果維納濾波器的最小均方誤差與非因果維納濾波器的最小均方誤差的形式相同，但公式中的Hopt(z)的表達式不同, 分別參見(2.3.16) 式和(2.3.38)式。 前面已經(jīng)導(dǎo)出， 對于非因果情況，kssskrrneE22min2| )(|)0(| )(|對于因果情況， 022min2

36、| )(|)0(| )(|kssskrrneE比較兩式，它們的第二項求和域不同，因為因果情況下,k=0+， 因此可以說明非因果情況的E|e(n)|2min一定小于等于因果情況E|e(n)|2min。在具體計算時,可以選擇單位圓作為積分曲線， 應(yīng)用留數(shù)定理， 計算積分函數(shù)在單位圓內(nèi)的極點的留數(shù)來得到。 第二章 維納濾波和卡爾曼濾波 通過前面的分析, 因果維納濾波器設(shè)計的一般方法可以按下面的步驟進行： (1) 根據(jù)觀測信號x(n)的功率譜求出它所對應(yīng)的信號模型的傳輸函數(shù)，即采用譜分解的方法得到B(z)。具體方法為Sxx(z)=2B(z)B(z-1)，把單位圓內(nèi)的零極點分配給B(z)，單位圓外的零極

37、點分配給B(z-1)，系數(shù)分配給2。 (2)求的Z反變換，取其因果部分再做Z變換，即舍掉單位圓外的極點，得 (3) 積分曲線取單位圓，應(yīng)用（2.3.38）式和（2.3.39）式，計算Hopt(z), E|e(n)|2min。 )()(1zBzSxs)()(1zBzSxs。 第二章 維納濾波和卡爾曼濾波 例例 2.3.1 已知 )8 . 01)(8 . 01 (36. 0)(1zzzSss信號和噪聲不相關(guān)，即rsv(m)=0，噪聲v(n)是零均值、單位功率的白噪聲（2v=1,mv=0)，求Hopt(z)和E|e(n)|2min。 解解 根據(jù)白噪聲的特點得出Svv(z)=1, 由噪聲和信號不相關(guān)，

38、 得到rxx(m)=rss(m)+rvv(m)。 對上式兩邊做Z變換，并代入已知條件，對x(n)進行功率譜分解:)()()8 . 01)(8 . 01 ()5 . 01)(5 . 01 (6 . 11)8 . 01)(8 . 01 (36. 0)()()(12111zBzBzzzzzzzSzSzSvvssxx第二章 維納濾波和卡爾曼濾波 考慮到B(z)必須是因果穩(wěn)定的系統(tǒng)，得到 6 . 1,8 . 015 . 01)(211zzzB(1) 首先分析物理可實現(xiàn)情況，應(yīng)用公式（2.3.38）:)5 . 01)(8 . 01 (36. 0)5 . 01 (6 . 18 . 01)()()(11)(1

39、1112optzzzzzBzSzBzHxs令 )5 . 01)(8 . 01 (36. 0)(,)5 . 01)(8 . 01 (36. 0)(11zzzFzzzFF(z)的極點為0.8和2，考慮到因果性、穩(wěn)定性，僅取單位圓內(nèi)的極點zi=0.8, f(n)為F(z)的Z反變換。用Res表示留數(shù)，應(yīng)用留數(shù)定理，有 第二章 維納濾波和卡爾曼濾波 nznnzzzzzzzsnf8 . 06 . 0)8 . 0()5 . 01)(8 . 01 (36. 08 . 0 ,)5 . 01)(8 . 01 (36. 0Re)(8 . 01111取因果部分， f+(n)=0.60.8nu(n) 1111opt1

40、5 . 011838 . 016 . 0)5 . 01 (6 . 18 . 01)(8 . 016 . 0)(8 . 06 . 0)()(zzzzzHznuZTnfZTzFn第二章 維納濾波和卡爾曼濾波 zzzzzzzzzzzzzzSzHzSneECCCxsssd)8 . 01)(8 . 01 (36. 0j21d)8 . 01)(8 . 01 (36. 05 . 0183)8 . 01)(8 . 01 (36. 0j21d)()()(j21| )(|11111optmin2令 zzzzE1)5 . 01)(8 . 01 (8536. 0)(1第二章 維納濾波和卡爾曼濾波 單位圓內(nèi)只有極點Zi

41、=0.5, 83)5 . 0(1)5 . 01)(8 . 01 (36. 05 . 0),(Res| )(|5 . 01min2zzzzzzEneE未經(jīng)濾波器的均方誤差 1| )(| )()(| )(|2222vnvEnsnxEneE第二章 維納濾波和卡爾曼濾波 (2) 對于非物理可實現(xiàn)情況, 應(yīng)用公式(2.3.20)和(2.3.28), 有 )5 . 01)(5 . 01 (225. 0)()()()()()(1optzzzSzSzSzSzSzHvvssssxxxszzzzzzzzzzzzzzzzzzzSzHzSneECCxsssd)5 . 01)(5 . 01)(8 . 01)(8 . 0

42、1 ()5 . 05 . 0025. 1 (36. 0j21d)8 . 01)(8 . 01 (36. 0)5 . 01)(5 . 01 (225. 0)8 . 01)(8 . 01 (36. 0j21d)()()(j21| )(|1111111optmin2第二章 維納濾波和卡爾曼濾波 令 )5 . 01)(5 . 01)(8 . 01)(8 . 01 ()5 . 05 . 0025. 1 (36. 0)(111zzzzzzzF單位圓內(nèi)有兩個極點0.8和0.5, 應(yīng)用留數(shù)定理，有 1035 . 0),(Res8 . 0),(Res)(min2zFzFneE比較兩種情況下的最小均方誤差,可以看

43、出非物理可實現(xiàn)情況的最小均方誤差小于物理可實現(xiàn)情況的均方誤差。 第二章 維納濾波和卡爾曼濾波 2.4 維維 納納 預(yù)預(yù) 測測 2.4.1 2.4.1 維納預(yù)測的計算維納預(yù)測的計算 在維納濾波中，期望的輸出信號yd(n)=s(n)，實際的輸出為y(n)=s(n)。在維納預(yù)測中，期望的輸出信號yd(n)=s(n+N)， 實際的輸出y(n)=s(n+N)。前面已經(jīng)推導(dǎo)得到維納濾波的最佳解為 )()()()()(optzSzSzSzSzHxxxyxxxsd（2.4.1） 其中,Sxx(z)是觀測數(shù)據(jù)的功率譜;Sxyd(z)是觀測數(shù)據(jù)與期望信號的互功率譜，即互相關(guān)函數(shù)rxyd(k)的傅里葉變換 )()(

44、*)(knynxErdkxyd（2.4.2） 第二章 維納濾波和卡爾曼濾波 對應(yīng)于維納預(yù)測器， 其輸出信號y(n)和預(yù)測誤差信號e(n+N)分別為 )( )()()()()( )(0NnsNnsNnemNnxmhNnsnym（2.4.3） （2.4.4） 同理，要使預(yù)測誤差的均方值為最小，須滿足 0| )(|2khNneE（2.4.5） 其中，hk表示h(k)。 第二章 維納濾波和卡爾曼濾波 觀測數(shù)據(jù)與期望的輸出的互相關(guān)函數(shù)rxyd(k)和互譜密度Sxyd(z)分別為 NxsxyxsdxyzzSzSkNrkNnsnxEknynxEkrdd)()()()()()()()(*（2.4.6） （2.

45、4.7） 這樣，非因果維納預(yù)測器的最佳解為 )()()()()(optzSzSzzSzSzHxxxsNxxxyd（2.4.8） 因果維納預(yù)測器的最佳解為 )()()(11)()()(11)(1212optzBzSzzBzBzSzBzHxsNxyd（2.4.9） 第二章 維納濾波和卡爾曼濾波 維納預(yù)測的最小均方誤差為 CxsssCxysszdzzSzHzSzdzzSzHzSNneEd)()()(j21)()()(j21| )(|1opt1optmin2從上面分析可以看出， 維納預(yù)測的求解和維納濾波器的求解方法是一致的。 第二章 維納濾波和卡爾曼濾波 2.4.2 2.4.2 純預(yù)測純預(yù)測 假設(shè)x(

46、n)=s(n)+v(n)，式中v(n)是噪聲，且v(n)=0，期望信號為s(n+N), N0，此種情況稱為純預(yù)測。 假定維納預(yù)測器是因果的，仍設(shè)s(n)與v(n)不相關(guān)，純預(yù)測情況下的輸入信號的功率譜及維納預(yù)測器的最佳解分別為 )()(1)()()(11)()()()()()(12opt12zBzzBzBzSzzBzHzBzBzSzSzSNxsNssxsxx（2.4.11） （2.4.12） 第二章 維納濾波和卡爾曼濾波 純預(yù)測器的最小均方誤差為 CNNCNNCNxssszdzzBzzzBzBzBzdzzzBzBzBzBzzBzBzdzzzSzHzSNneE)()()()(j2)()()()(

47、)()(j21)()()(j21| )(|11212121optmin2（2.4.13） 應(yīng)用復(fù)卷積定理 zzzYzXnynxCnd1)(j21)()(*（2.4.14） 第二章 維納濾波和卡爾曼濾波 取y(n)=x(n) zzzXzXnxCnd)()(j21)(12（2.4.15） 將上式代入(2.4.13)式, 并考慮到b(n)是因果系統(tǒng)，得到 )( )()()()()()(| )(|10220022222min2nbNnbnbNnbnuNnbnbNneENnnnnn 可以看到，隨著N增加，E|e(n+N)|2min也增加。這一點也容易理解，當(dāng)預(yù)測的距離越遠，預(yù)測的效果越差，偏差越大，因而

48、E|e(n+N)|2min越大。 第二章 維納濾波和卡爾曼濾波 例例2.4.1 已知 )1)(1 (1)(),()(12azazazSnsnxxx其中-1a1， 求: (1) 最小均方誤差下的s(n+N)； (2) E|e(n+N)|2min。 解解 首先對Sxx(z)進行功率譜分解。因為 1221211)(,1)1)(1 (1)(azzBaazazazSxx所以 第二章 維納濾波和卡爾曼濾波 其次，求出B(z)的Z反變換 )(11T11nuaaznZ 然后，應(yīng)用Z變換的性質(zhì)，得到 1ZTT11)()(11 azanuaNnuaazzNNnNnZN取因果部分NNNaazaazzBzzBzH11

49、opt1)1 ()()(1)(（2.4.17） 第二章 維納濾波和卡爾曼濾波 圖 2.4.1 純預(yù)測維納濾波器 aNx(n)y(n)第二章 維納濾波和卡爾曼濾波 由Hopt(z)=aN，此時可以把純預(yù)測的維納濾波器看作是一個線性比例放大器（如圖2.4.1所示）。 根據(jù)x(n)的信號模型 111)(azzB可以寫出x(n)的時間序列模型所對應(yīng)的輸入輸出方程 x(n)=(n)+ax(n-1) 將信號x(n)通過純預(yù)測維納濾波器，隨著時間的遞增，可以得到 當(dāng)N=1時，x(n+1)=ax(n)=as(n)當(dāng)N=2時，x(n+2)=ax(n+1)=a2s(n) 當(dāng)N=N時，x(n+N)=ax(N+n-1

50、)=aNs(n) （2.4.19） 第二章 維納濾波和卡爾曼濾波 以上推導(dǎo)結(jié)果相當(dāng)于在n+N時刻，(n+N)=0，即去掉噪聲時的結(jié)果。設(shè)N0時，(n+N)=0，則 x(n+N)=ax(n+N-1) 此時，從統(tǒng)計意義上講，當(dāng)N0時，白噪聲信號(n+N)對x(n)無影響。 這一結(jié)論還可以推廣，對于任何均值為零的x(n)，要估計s (n+N)時，只需要考慮B(z)的慣性，即可認(rèn)為(n+N)=0,N0， 這樣估計出來的結(jié)果將有最小均方誤差。 終值定理 21)(lim)() 1(limxxxmxxzmmrzSz第二章 維納濾波和卡爾曼濾波 表明一個信號的功率譜在單位圓上沒有極點與信號均值等于0等價，因此

51、對于功率譜在單位圓上沒有極點的信號，要估計s(n+N)時，可認(rèn)為(n+N)=0, N0，即僅需要考慮B(z)的慣性，這樣估計出來的結(jié)果將有最小均方誤差。 第二章 維納濾波和卡爾曼濾波 2.4.3 2.4.3 一步線性預(yù)測的時域解一步線性預(yù)測的時域解 已知x(n-1), x(n-2)，,x(n-p), 預(yù)測x(n)，假設(shè)噪聲v(n)=0，這樣的預(yù)測稱為一步線性預(yù)測。設(shè)定系統(tǒng)的單位脈沖響應(yīng)為h(n)，根據(jù)線性系統(tǒng)的基本理論，輸出信號 pkknxkhnxny1)()()( )(令apk=-h(k)，則 pkpkknxanx1)()( （2.4.21） 預(yù)測誤差 pkpkpkpkknxaknxanxn

52、xnxne01)()()()( )()(（2.4.22） 第二章 維納濾波和卡爾曼濾波 其中, ap0=1, 212)()(| )(|pkpkknxanxEneE（2.4.23） 要使均方誤差為最小值，要求 planeEpl, 2 , 10| )(|2 同維納濾波的推導(dǎo)過程一樣, 可以得到 Ee*(n)x(n-l)=0 l=1, 2, , p （2.4.24） 把(2.4.22)式代入(2.4.24)式, 得到 pkxxpkxxlkralr10)()(l=1, 2, , p （2.4.25） 第二章 維納濾波和卡爾曼濾波 由于預(yù)測器的輸出 是輸入信號的線性組合，參見（2.4.21)式, 得到

53、)( nx0)( )(*nxneE（2.4.26） (2.4.24)式說明誤差信號與輸入信號滿足正交性原理， (2.4.26)式說明預(yù)測誤差與預(yù)測的信號值同樣滿足正交性原理。 預(yù)測誤差的最小均方值 pkxxpkxxpkpkkrarnxknxanxEnxneEnxnxneEneE11*min2)()0()()()()()()( )()(| )(|(2.4.27） 第二章 維納濾波和卡爾曼濾波 將(2.4.25)式和(2.4.27)式聯(lián)立， 得到下面的方程組： pkxxpkxxpkxxpkxxpllkralrneEkrar11min2, 2 , 10)()(| )(|)()0(（2.4.28） 將

54、方程組寫成矩陣形式 00| )(|1)0() 1()() 1()0() 1 ()() 1 ()0(min21neEaarprprprrrprrrpppxxxxxxxxxxxxxxxxxx（2.4.29） 第二章 維納濾波和卡爾曼濾波 這就是有名的Yule-Walker方程，可以看出Yule-Walker方程具有以下特點： (1) 除了第一個方程外，其余都是齊次方程; (2) 與維納-霍夫方程相比，不需要知道觀測數(shù)據(jù)x(n)與期望信號s(n)的互相關(guān)函數(shù)。 該方程組有p+1個方程，對應(yīng)地，可以確定apk,k=1, 2, , p和Ee2(n)min，共計p+1個未知數(shù)，因此可用來求解AR模型參數(shù)。

55、這就是后面要介紹的AR模型法進行功率譜估計的原理，它再一次揭示了時間序列信號模型、功率譜和自相關(guān)函數(shù)描述一個隨機信號的等價性。 第二章 維納濾波和卡爾曼濾波 例例2.4.2 已知 )8 . 01)(8 . 01 (36. 0)(1zzzSxxx(n)為AR模型，求AR模型參數(shù)。 解解 求解AR模型參數(shù)包括確定AR模型的階數(shù)p及系數(shù)ap1,ap2, ,app。 首先對Sxx(z)做傅里葉反變換，得到x(n)的自相關(guān)函數(shù)rxx(m), rxx(m)=0.8|m| 采用試驗的方法確定模型階數(shù)p。首先取p=2， 各相關(guān)函數(shù)值由上式計算，并代入(2.4.29)式 00118 . 064. 08 . 01

56、8 . 064. 08 . 01221aa第二章 維納濾波和卡爾曼濾波 計算得到 a1=-0.8， a2=0, 2=0.36 如果取p=3，可計算出a1=-0.8, a2=a3=0, 2=0.36，說明AR模型的階數(shù)只能是一階的。采用譜分解的方法，即對Sxx(z)進行譜分解，得到的模型也是一階的，其時間序列模型和差分方程為 ) 1(8 . 0)()(8 . 011)(1nxnnxzzB第二章 維納濾波和卡爾曼濾波 2.5 卡爾曼卡爾曼(Kalman)濾波濾波 卡爾曼濾波是用狀態(tài)空間法描述系統(tǒng)的，由狀態(tài)方程和量測方程所組成。卡爾曼濾波用前一個狀態(tài)的估計值和最近一個觀測數(shù)據(jù)來估計狀態(tài)變量的當(dāng)前值，

57、 并以狀態(tài)變量的估計值的形式給出?？柭鼮V波具有以下的特點： (1) 算法是遞推的，且狀態(tài)空間法采用在時域內(nèi)設(shè)計濾波器的方法，因而適用于多維隨機過程的估計；離散型卡爾曼算法適用于計算機處理。 (2) 用遞推法計算，不需要知道全部過去的值，用狀態(tài)方程描述狀態(tài)變量的動態(tài)變化規(guī)律，因此信號可以是平穩(wěn)的，也可以是非平穩(wěn)的， 即卡爾曼濾波適用于非平穩(wěn)過程。 (3) 卡爾曼濾波采取的誤差準(zhǔn)則仍為估計誤差的均方值最小。 第二章 維納濾波和卡爾曼濾波 2.5.1 2.5.1 卡爾曼濾波的狀態(tài)方程和量測方程卡爾曼濾波的狀態(tài)方程和量測方程 假設(shè)某系統(tǒng)k時刻的狀態(tài)變量為xk，狀態(tài)方程和量測方程（也稱為輸出方程）表示

58、為 kkkkxAx1(2.5.1a) kkkkvxCy(2.5.1b) 其中，k表示時間，這里指第k步迭代時，相應(yīng)信號的取值；輸入信號k是一白噪聲，輸出信號的觀測噪聲vk也是一個白噪聲, 輸入信號到狀態(tài)變量的支路增益等于1，即B=1；A A表示狀態(tài)變量之間的增益矩陣，可以隨時間發(fā)生變化，用Ak表示第k步迭代時， 增益矩陣A的取值； 第二章 維納濾波和卡爾曼濾波 C C表示狀態(tài)變量與輸出信號之間的增益矩陣，可以隨時間變化， 第k步迭代時， 取值用Ck表示，其信號模型如圖2.5.1所示。 將狀態(tài)方程中時間變量k用k-1代替，得到的狀態(tài)方程和量測方程如下所示： x xk=A Ak-1xk-1+k-1

59、 yk=Ckxk+vk 其中，xk是狀態(tài)變量;k-1表示輸入信號是白噪聲; vk是觀測噪聲; yk是觀測數(shù)據(jù)。 第二章 維納濾波和卡爾曼濾波 圖 2.5.1 卡爾曼濾波器的信號模型 z1Ak1Ckk1xk1xkvkyk第二章 維納濾波和卡爾曼濾波 為了后面的推導(dǎo)簡單起見，假設(shè)狀態(tài)變量的增益矩陣A不隨時間發(fā)生變化，k,vk都是均值為零的正態(tài)白噪聲，方差分別是Qk和Rk，并且初始狀態(tài)與k,vk都不相關(guān)，表示相關(guān)系數(shù)。即kjkvvkvkkkjkkkkRRvEvQQEjkjk,2,2, 0:, 0:其中 jkjkkj01第二章 維納濾波和卡爾曼濾波 2.5.2 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾

60、波的遞推算法 卡爾曼濾波是采用遞推的算法實現(xiàn)的，其基本思想是先不考慮輸入信號k和觀測噪聲vk的影響，得到狀態(tài)變量和輸出信號（即觀測數(shù)據(jù)）的估計值，再用輸出信號的估計誤差加權(quán)后校正狀態(tài)變量的估計值，使?fàn)顟B(tài)變量估計誤差的均方值最小。 因此, 卡爾曼濾波的關(guān)鍵是計算出加權(quán)矩陣的最佳值。 當(dāng)不考慮觀測噪聲和輸入信號時，狀態(tài)方程和量測方程為 11 kkkkkkkkkxACxCyxAx(2.5.4) (2.5.5) 第二章 維納濾波和卡爾曼濾波 顯然，由于不考慮觀測噪聲的影響，輸出信號的估計值與實際值是有誤差的，用 表示 kykkkyyy(2.5.6) 為了提高狀態(tài)估計的質(zhì)量，用輸出信號的估計誤差 來校正