第二章維納濾波和卡爾曼濾波演示文稿

第二章維納濾波和卡爾曼濾波演示文稿1現(xiàn)在是1頁\一共有72頁\編輯于星期四2優(yōu)選第二章維納濾波和卡爾曼濾波現(xiàn)在是2頁\一共有72頁\編輯于星期四平滑或內(nèi)插：根據(jù)過去的觀測值，估計過去的信號值。濾波：已知當前和過去的觀測值，估計當前的信號。預測：已知過去的觀測值，估計當前及以后時刻的信號值。

維納濾波（Wiener）和卡爾曼濾波(Kalman)解決從噪聲中提取信號的濾波或預測問題，并以估計的結(jié)果與真值之間的誤差均方值最小作為最佳準則。

維納濾波的思想是20世紀40年代初提出的，1949年正式以書的形式出版?？柭鼮V波是20世紀60年代由卡爾曼提出的?，F(xiàn)在是3頁\一共有72頁\編輯于星期四(1)維納濾波根據(jù)估計信號的當前值，它的解以系統(tǒng)的系統(tǒng)函數(shù)或單位脈沖響應(yīng)形式給出。這種系統(tǒng)常稱為最佳線性濾波器?？柭鼮V波用前一個估計值和最近一個觀察數(shù)據(jù)來估計信號當前值，它用狀態(tài)方程和遞推的方法進行估計，它的解以估計值（常是狀態(tài)變量值）形式給出。系統(tǒng)常稱為線性最優(yōu)估計器。(2)維納濾波只適用于平穩(wěn)隨機過程；卡爾曼濾波適用于平穩(wěn)和非平穩(wěn)隨機過程。(3)維納濾波設(shè)計時要已知信號與噪聲的統(tǒng)計分布規(guī)律?？柭鼮V波設(shè)計時要求已知狀態(tài)方程和量測方程。共同點：都解決最佳線性濾波和預測問題，都以均方誤差最小為最優(yōu)準則，平穩(wěn)條件下它們得到的穩(wěn)態(tài)結(jié)果一致。維納濾波和卡爾曼濾波比較：不同點：現(xiàn)在是4頁\一共有72頁\編輯于星期四通信的信道均衡器在通信系統(tǒng)中，為了在接收端補償信道傳輸引入的各種畸變，在對接收信號進行檢測之前，通過一個濾波器對信道失真進行校正，這個濾波器稱為信道均衡器。圖2.1.3信道均衡器的結(jié)構(gòu)示意來自于實際的對Wiener濾波器的幾個應(yīng)用實例：現(xiàn)在是5頁\一共有72頁\編輯于星期四

發(fā)送端發(fā)送序列系統(tǒng)辨識有一個系統(tǒng)是未知的，設(shè)計一個線性濾波器盡可能精確的逼近這個未知系統(tǒng)，Wiener濾波器實現(xiàn)一個統(tǒng)計意義上最優(yōu)的對未知系統(tǒng)的逼近。

經(jīng)信道傳輸后，接收端的濾波器輸入信號，可能

包含畸變，加性噪聲，多徑效應(yīng)

期望信號，

盡量確定Wiener濾波器系數(shù)，使盡可能逼近即，也就是使估計誤差的均方值最小，（均方誤差最小準則）現(xiàn)在是6頁\一共有72頁\編輯于星期四圖2.1.4線性系統(tǒng)辨識的結(jié)構(gòu)是Wiener濾波器的期望響應(yīng)，使與間的估計誤差的均方值最小?，F(xiàn)在是7頁\一共有72頁\編輯于星期四最優(yōu)線性預測通過一個隨機信號已存在的數(shù)據(jù)來預測一個新值，這是一步前向線性預測問題。由的線性組合得到對的最優(yōu)估計，相當于設(shè)計一個FIR濾波器對 進行線性運算，來估計期望響應(yīng)，Wiener濾波器可以用于設(shè)計均方誤差最小的最優(yōu)預測器。陣列波束形成，圖象編碼現(xiàn)在是8頁\一共有72頁\編輯于星期四假設(shè)濾波系統(tǒng)是一個線性時不變系統(tǒng)，它的和輸入信號都是復函數(shù)，設(shè)維納濾波器設(shè)計的任務(wù)就是選擇,使其輸出信號與期望信號誤差的均方值最小，實質(zhì)是解維納－霍夫方程。2.2維納濾波器的離散形式－－時域解維納濾波器時域求解的方法考慮系統(tǒng)的因果性，可得到濾波器的輸出現(xiàn)在是9頁\一共有72頁\編輯于星期四設(shè)期望信號，誤差信號及其均方誤差分別為要使均方誤差為最小，需滿足：這里，表示，用，表示，?，F(xiàn)在是10頁\一共有72頁\編輯于星期四由于是一標量，因此上式是一個標量對復函數(shù)求導的問題，等價于記則式可寫為現(xiàn)在是11頁\一共有72頁\編輯于星期四得將上式展開由于現(xiàn)在是12頁\一共有72頁\編輯于星期四將如上各項代入表達式，整理得：因此等價于上式說明，均方誤差達到最小值的充要條件是誤差信號與任一進入估計的輸入信號正交，這就是正交性原理。下面計算輸出信號與誤差信號的互相關(guān)函數(shù)現(xiàn)在是13頁\一共有72頁\編輯于星期四可見，在濾波器工作于最佳狀態(tài)時，輸出和誤差信號也是正交的。假定濾波器工作于最佳狀態(tài)，濾波器的輸出與期望信號的誤差為，則維納-霍夫方程將展開，得整理得現(xiàn)在是14頁\一共有72頁\編輯于星期四對兩邊取共軛，并利用相關(guān)函數(shù)的性質(zhì),得此式稱為維納-霍夫(Wiener-Hopf)方程。解此方程可得到最優(yōu)權(quán)系數(shù)，此式是Wiener濾波器的一般方程，根據(jù)權(quán)系數(shù)是有限個還是無限個可以分別設(shè)計IIR型和FIR型Wiener濾波器。FIR濾波器是一個長度為M的因果序列(即是一個長度為M的FIR濾波器)時，維納-霍夫方程表述為把的取值代入上式，得現(xiàn)在是15頁\一共有72頁\編輯于星期四則維納-霍夫方程可寫成矩陣形式

時

時定義對上式求逆，得

時現(xiàn)在是16頁\一共有72頁\編輯于星期四

此式表明，已知期望信號與觀測數(shù)據(jù)的互相關(guān)函數(shù)及觀測數(shù)據(jù)的自相關(guān)函數(shù)時，可以通過矩陣求逆運算，得到維納濾波器的最佳解。同時可以看到，直接從時域求解維納濾波器，并不是一個有效的方法，當較大時，計算量很大，并需計算，從而要求存儲量也很大。另外，具體實現(xiàn)時，濾波器的長度由實驗確定，增加，需在新基礎(chǔ)上重新計算。維納-霍夫方程矩陣形式現(xiàn)在是17頁\一共有72頁\編輯于星期四2.2.3FIR型Wiener濾波器的最小均方誤差

設(shè)所研究的信號是零均值的，濾波器為FIR型，長度等于M，則現(xiàn)在是18頁\一共有72頁\編輯于星期四將代入得:

現(xiàn)在是19頁\一共有72頁\編輯于星期四

經(jīng)過了一個通信信道，信道的傳輸函數(shù)，在信道輸出端加入了白噪聲，通道模型如圖，傳輸函數(shù)信道輸出，假定與，與不相關(guān)，并都是實信號。在接收端設(shè)計一個長度為2的FIR結(jié)構(gòu)的Wiener濾波器，目的是由恢復出。例:設(shè)期望響應(yīng)是一個過程，參數(shù)，激勵白噪聲的方差，由白噪聲驅(qū)動的產(chǎn)生該過程的傳輸函數(shù)為現(xiàn)在是20頁\一共有72頁\編輯于星期四時域求解Wiener濾波器很困難，用Z域求解。又因為實際的系統(tǒng)是因果的，維納-霍夫方程有個的約束條件，所以不能直接轉(zhuǎn)入Z域求解它的。這是因為輸入信號與期望信號的互相關(guān)序列是一個因果序列。這里我們利用將加以白化的方法來求維納-霍夫方程的Z域解(由波德(Bode)和香農(nóng)(Shannon)首先提出的方法)。2.3離散維納濾波的Z域解

是一個因果(物理可實現(xiàn))的最小相位系統(tǒng)。把信號轉(zhuǎn)化為白噪聲的過程稱為白化。白化濾波器現(xiàn)在是21頁\一共有72頁\編輯于星期四設(shè)計維納濾波器的問題可轉(zhuǎn)化為求的問題。非因果維納濾波器的求解該信號為實信號。是的逆Z變換?，F(xiàn)在是22頁\一共有72頁\編輯于星期四要使均方誤差最小，當且僅當因此的最佳值為現(xiàn)在是23頁\一共有72頁\編輯于星期四兩邊取Z變換非因果維納濾波器的最佳解為因為，且根據(jù)相關(guān)卷積定理，得兩邊取Z變換現(xiàn)在是24頁\一共有72頁\編輯于星期四代入假定信號與噪聲不相關(guān)，即，有兩邊取Z變換，得代入表達式，得現(xiàn)在是25頁\一共有72頁\編輯于星期四代入式，非因果維納濾波器的復頻域最佳解非因果維納濾波器的頻率響應(yīng)為幅頻特性現(xiàn)在是26頁\一共有72頁\編輯于星期四推導濾波器的最小均方誤差(信號不失真，因為沒有噪聲)有誤差，誤差是由于信號譜和噪聲譜交叉造成。信噪比越小，越小噪聲全部被抑制掉，因此維納濾波器有濾除噪聲的能力根據(jù)圍線積分求逆Z變換的公式，得現(xiàn)在是27頁\一共有72頁\編輯于星期四同理由帕塞伐爾定理取有把，代入公式，得現(xiàn)在是28頁\一共有72頁\編輯于星期四將代入上式，得因為實信號的自相關(guān)函數(shù)是偶函數(shù)，即，因此假定信號與噪聲不相關(guān)，即，則可見，維納濾波的最小均方誤差不僅與輸入信號的功率譜現(xiàn)在是29頁\一共有72頁\編輯于星期四有關(guān)，而且與信號和噪聲的功率譜的乘積有關(guān)。也就是說，最小均方誤差與信號和噪聲功率譜的重疊部分的大小有關(guān)。若維納濾波器是一個因果濾波器，要求因果維納濾波器的求解則濾波器輸出估計誤差的均方值類似于前面的推導，得現(xiàn)在是30頁\一共有72頁\編輯于星期四令又由于得要使均方誤差最小，當且僅當現(xiàn)在是31頁\一共有72頁\編輯于星期四所以因果維納濾波器的復頻域最佳解為維納濾波的最小均方誤差為現(xiàn)在是32頁\一共有72頁\編輯于星期四非因果情況因果情況

由于取值不同，可說明非因果情況的一定小于等于因果情況。具體計算中，可選單位圓作為積分曲線，應(yīng)用留數(shù)定理，計算積分函數(shù)在單位圓內(nèi)的極點的留數(shù)來求得?，F(xiàn)在是33頁\一共有72頁\編輯于星期四

因果濾波器的設(shè)計步驟：（1）根據(jù)觀測信號的功率譜求出它所對應(yīng)的信號模型的傳輸函數(shù)，即采用譜分解的方法得到。具體方法為。把單位圓內(nèi)的極零點分配給，單位圓外的極零點分配給，系數(shù)分配給。（2）求的Z反變換，取其因果部分再做Z變換，即舍掉單位圓外的極點，得。（3）積分曲線取單位圓，應(yīng)用和計算公式，計算和?，F(xiàn)在是34頁\一共有72頁\編輯于星期四例:已知,信號和噪聲不相關(guān),即，噪聲零均值，單位功率的白噪聲，求和。解：根據(jù)白噪聲特點得出，由信號和噪聲不相關(guān)得兩邊取Z變換，代入已知條件，對進行功率譜分解：現(xiàn)在是35頁\一共有72頁\編輯于星期四

必須為因果穩(wěn)定的系統(tǒng)，得分析物理可實現(xiàn)情況,令,現(xiàn)在是36頁\一共有72頁\編輯于星期四

的極點為0.8和2，考慮因果性，穩(wěn)定性，僅取單位圓內(nèi)的極點，為的Z反變換，應(yīng)用留數(shù)定理，有取的因果部分現(xiàn)在是37頁\一共有72頁\編輯于星期四取單位圓為積分圍線，上式等于單位圓內(nèi)極點及的留數(shù)之和，即求現(xiàn)在是38頁\一共有72頁\編輯于星期四未經(jīng)濾波器的均方誤差（2）對于非物理可實現(xiàn)情況應(yīng)用留數(shù)定理，有可以看出，非物理可實現(xiàn)情況的最小均方誤差小于物理可實現(xiàn)情況的均方誤差?，F(xiàn)在是39頁\一共有72頁\編輯于星期四

已知：。P個以前時刻的觀測值

估計：。當前，未來時刻的信號值。估計準則：均方誤差最小。信號為什么是可以預測的？

①信號內(nèi)部存在關(guān)聯(lián)性。數(shù)據(jù)間關(guān)聯(lián)越密切，預測愈準確；完全不關(guān)聯(lián)，則無法預測。周期信號關(guān)聯(lián)性強，從一個周期可完全無誤地預測出以后的信號。2.4維納預測現(xiàn)在是40頁\一共有72頁\編輯于星期四

白噪聲：前后數(shù)據(jù)不相關(guān)，無法預測。平穩(wěn)信號：均值為常數(shù)，自相關(guān)函數(shù)只與時間間隔有關(guān)，說明信號內(nèi)部是關(guān)聯(lián)的，可以預測。但預測越遠時刻的信號，誤差越大，因為關(guān)聯(lián)性越差。

②系統(tǒng)具有慣性。

輸入無關(guān)聯(lián)信號，輸出一個關(guān)聯(lián)信號（非白色的信號）。表明系統(tǒng)是有慣性的。因此，隨機信號之所以能夠預測，在于信號存在某些統(tǒng)計上的規(guī)律，預測正是利用這些規(guī)律，因而不能做到精確預測，使預測誤差等于0，但可從統(tǒng)計意義上做到最優(yōu)。這里使預測具有有理譜密度現(xiàn)在是41頁\一共有72頁\編輯于星期四誤差的均方值最小作為最優(yōu)的標準。預測濾波：考慮實際獲得的信號是帶噪聲干擾的，這時預測和濾波緊密相連，成為帶濾波的預測。純預測：不考慮噪聲干擾的預測，或不帶濾波的預測。維納預測的計算

維納濾波的最佳解為

維納預測器，輸出信號，預測誤差現(xiàn)在是42頁\一共有72頁\編輯于星期四要使預測誤差均方值為最小，需滿足

非因果維納預測器的最佳解為因果維納預測器的最佳解為觀測數(shù)據(jù)與期望輸出的互相關(guān)函數(shù)和互功率譜密度為：現(xiàn)在是43頁\一共有72頁\編輯于星期四可見，維納預測和維納濾波器的求解方法是一致的。純預測

假設(shè)，且，故，期望信號為，假定維納預測器是因果的。維納預測器的最小均方誤差為因果純預測器的最佳解為現(xiàn)在是44頁\一共有72頁\編輯于星期四應(yīng)用帕塞伐爾定理：純預測器的最小均方誤差為取現(xiàn)在是45頁\一共有72頁\編輯于星期四

可見，隨著N增加，也增加。預測距離越遠，預測效果越差。例，已知，其中，求（1）最小均方誤差下的；（2）?？紤]是因果系統(tǒng)現(xiàn)在是46頁\一共有72頁\編輯于星期四解：對進行譜分解

求的Z反變換

應(yīng)用Z變換的性質(zhì)，得：現(xiàn)在是47頁\一共有72頁\編輯于星期四最小均方誤差：它說明，N越大，誤差越大。如果N＝0則沒有誤差?，F(xiàn)在是48頁\一共有72頁\編輯于星期四又，將通過純預測維納濾波器，得根據(jù)的信號模型此時，可把純預測的維納濾波器看作一個線性比例放大器。當當當可得含義？現(xiàn)在是49頁\一共有72頁\編輯于星期四由此可見，的結(jié)果相當于認為時刻，，因而僅由的慣性就能完全決定估計值。此時從統(tǒng)計意義上講，當時，白噪聲信號對無影響。以上結(jié)論可推廣，對于任何均值為零的，要估計 時，只需考慮的慣性，即可認為，這樣估計出來的結(jié)果將有最小均方誤差?，F(xiàn)在是50頁\一共有72頁\編輯于星期四一步線性預測的時域解

表示一個信號的功率譜在單位圓上沒有極點與信號均值等于零等價，因此對于功率譜在單位圓上沒有極點的信號，要估計時，可認為，即僅需要考慮的慣性，這樣估計出來的結(jié)果將有最小均方誤差。一步線性預測：假設(shè)，已知，預測。終值定理時域求解利用正交原理。現(xiàn)在是51頁\一共有72頁\編輯于星期四令，則要使均方誤差為最小值，要求預測誤差其中系統(tǒng),輸出信號現(xiàn)在是52頁\一共有72頁\編輯于星期四同維納濾波器的推導過程一樣，可以得到代入可得由于預測器的輸出是輸入信號的線性組合，可得此式說明，誤差信號與輸入信號正交。此式說明，預測誤差與預測的信號正交?，F(xiàn)在是53頁\一共有72頁\編輯于星期四預測誤差的最小均方值得聯(lián)立方程組現(xiàn)在是54頁\一共有72頁\編輯于星期四寫成矩陣形式除了第一個方程外，其余都是齊次方程與維納-霍夫方程相比，不需要知道觀測數(shù)據(jù)與期望信號的互相關(guān)函數(shù)。這就是著名的Yule-Walker方程。該方程組共P+1個方程，可確定和共P+1個未知數(shù)?？捎肔evinson-Durbin(萊文森-杜賓)遞推算法求得?，F(xiàn)在是55頁\一共有72頁\編輯于星期四則維納-霍夫方程可寫成矩陣形式定義現(xiàn)在是56頁\一共有72頁\編輯于星期四

是測量引入的白噪聲，通過各的值估計。這類最優(yōu)估計問題稱為卡爾曼濾波。例如：對一個一階AR模型，的輸出狀態(tài)進行估計。觀測方程是2.5卡爾曼(Kalman)濾波

在信號處理，通信和現(xiàn)代控制系統(tǒng)中，需要對一個隨機動態(tài)系統(tǒng)的狀態(tài)進行估計，由一個測量裝置對系統(tǒng)狀態(tài)進行測量，通過記錄的測量值對狀態(tài)進行最優(yōu)估計?？柭鼮V波用前一個狀態(tài)的估計值和最近一個觀測數(shù)據(jù)來估計狀態(tài)變量的當前值。現(xiàn)在是57頁\一共有72頁\編輯于星期四卡爾曼濾波的特點：（1）算法是遞推的，時域內(nèi)設(shè)計濾波器，適用于多維隨機過程的估計；（2）用遞推法計算，不需要知道全部過去的值。用狀態(tài)方程描述狀態(tài)變量的動態(tài)變化規(guī)律，因此，信號可以是平穩(wěn)的，也可以是非平穩(wěn)的；（3）誤差準則仍為均方誤差最小準則?，F(xiàn)在是58頁\一共有72頁\編輯于星期四：時間，指第步迭代時，相應(yīng)信號的取值假設(shè)某系統(tǒng)時刻的狀態(tài)變量為，狀態(tài)方程和量測方程（也稱為輸出方程），表示為卡爾曼濾波的狀態(tài)方程和量測方程：第K步迭代時，狀態(tài)變量與輸出信號之間的增益：白噪聲：第步迭代時，狀態(tài)變量之間的增益矩陣，可以隨時間變化（非平穩(wěn)隨機過程）矩陣，可隨時間變化現(xiàn)在是59頁\一共有72頁\編輯于星期四圖卡爾曼濾波器的信號模型其中，狀態(tài)變量，表示輸入信號，是白噪聲觀測噪聲，觀測數(shù)據(jù)狀態(tài)方程中用代替，得狀態(tài)方程和量測方程現(xiàn)在是60頁\一共有72頁\編輯于星期四為推導簡化，假設(shè)A不隨時間變化，都是均值為零的正態(tài)白噪聲，方差分別為和。初始狀態(tài)與都不相關(guān)，表示相關(guān)系數(shù)。即其中現(xiàn)在是61頁\一共有72頁\編輯于星期四

基本思想：先不考慮輸入信號和觀測噪聲的影響，得到狀態(tài)變量和輸出信號（即觀測數(shù)據(jù)）的估計值，再用輸出信號的估計誤差加權(quán)后校正狀態(tài)