四章節(jié)自適應(yīng)信號處理課件

1、四章節(jié)自適應(yīng)信號處理四章節(jié)自適應(yīng)信號處理 內(nèi) 容最優(yōu)濾波理論與Wiener濾波器梯度下降算法橫向LMS自適應(yīng)濾波器橫向RLS自適應(yīng)濾波器Kalman濾波器自適應(yīng)格型濾波器自適應(yīng)格-梯型濾波器無限脈沖響應(yīng)自適應(yīng)濾波器 盲自適應(yīng)濾波器自適應(yīng)濾波器的應(yīng)用 2 內(nèi) 容最優(yōu)濾波理論與Wiene Kalman濾波器 狀態(tài)空間方程3 Kalman濾波器 狀態(tài)空間方程5 Kalman濾波器（續(xù)）假設(shè)：線性狀態(tài)模型、高斯噪聲4 Kalman濾波器（續(xù)）假設(shè)：線性狀態(tài)模型、高斯噪聲6 Kalman濾波器（續(xù)）已知：5 Kalman濾波器（續(xù)）已知：7 Kalman濾波器（續(xù)） 三個基本概念6 Kalman濾波器（

2、續(xù)） 三個基本概念8 Kalman濾波器（續(xù)） 新息稱 為 的新息過程向量7 Kalman濾波器（續(xù)） 新息稱 為 Kalman濾波器（續(xù)）估計狀態(tài)向量估計誤差：相關(guān)矩陣：校正項8 Kalman濾波器（續(xù)）估計狀態(tài)向量估計誤差：相關(guān)矩陣： Kalman濾波器（續(xù)）例： 是一個時不變的標量隨機變量， 為觀測數(shù)據(jù)，其中 為白噪聲?，F(xiàn)用Kalman濾波器自適應(yīng)估計 ，即考慮設(shè)計Kalman濾波器的問題。設(shè)計過程：(1)構(gòu)造狀態(tài)空間方程；(2)設(shè)計 的更新公式9 Kalman濾波器（續(xù)）例： 是一個時不變的標量隨 Kalman濾波器（續(xù)）10 Kalman濾波器（續(xù)）12LMS、RLS、Kalman算

3、法比較（1）計算復(fù)雜度： LMSRLSKalman 相差不大（2）RLS算法是“無激勵”狀態(tài)空間模型下的Kalman濾波算法（3）收斂速率： LMS： 越大，學(xué)習(xí)步長越大，收斂越快 RLS： 越大， 遺忘作用越弱，收斂越慢 時變學(xué)習(xí)速率、時變遺忘因子 Kalman：無收斂問題，無收斂參數(shù)11LMS、RLS、Kalman算法比較（1）計算復(fù)雜度： LM表1 Kalman濾波算法與RLS濾波算法變量對照表Kalman算法RLS算法 參數(shù)名稱變 量變 量 參數(shù)名稱初始狀態(tài)向量 s(0) w0抽頭權(quán)向量狀態(tài)向量 s(n)指數(shù)加權(quán)的抽頭權(quán)向量參考（觀測）信號 y(n)期望響應(yīng)觀測噪聲 v(n)測量誤差一

4、步預(yù)測的狀態(tài)向量抽頭權(quán)向量的估計狀態(tài)預(yù)測誤差相關(guān)陣 K(n)輸入向量相關(guān)矩陣的逆矩陣Kalman增量 g(n)增量向量新息先驗估計誤差( )初始條件初始條件 K(0)12表1 Kalman濾波算法與RLS濾波算法變量對照表Kalm 內(nèi) 容最優(yōu)濾波理論與Wiener濾波器梯度下降算法橫向LMS自適應(yīng)濾波器橫向RLS自適應(yīng)濾波器Kalman濾波器自適應(yīng)格型濾波器自適應(yīng)格-梯型濾波器無限脈沖響應(yīng)自適應(yīng)濾波器 盲自適應(yīng)濾波器自適應(yīng)濾波器的應(yīng)用 13 內(nèi) 容最優(yōu)濾波理論與Wiene自適應(yīng)格型濾波器 格型自適應(yīng)濾波原理 對稱的格型結(jié)構(gòu) n時刻的前向和后向預(yù)測誤差(殘差)服從如下遞推關(guān)系:其初值為：前向和后

5、向預(yù)測誤差濾波器傳遞函數(shù)遞推公式為其中14自適應(yīng)格型濾波器 格型自適應(yīng)濾波原理 對稱的格型結(jié)構(gòu)其初值自適應(yīng)格型濾波器 格型自適應(yīng)濾波原理 對稱的格型結(jié)構(gòu) 容易推出前、后向濾波器傳遞函數(shù)的一般關(guān)系式：由式(4a)知: 為了使前向濾波器物理可實現(xiàn)，前向濾波器傳遞函數(shù)Am(z)必須是最小相位多項式，即的零點必須全部在單位圓內(nèi)，亦即 從而這就是格型濾波器時各級反射系數(shù)必須滿足的條件。15自適應(yīng)格型濾波器 格型自適應(yīng)濾波原理 對稱的格型結(jié)構(gòu)由式(自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 對稱的格型結(jié)構(gòu)（續(xù)） 由式(4b), 即由下式可見, 格型濾波器的設(shè)計歸結(jié)為前向濾波器的設(shè)計。 可知，后向濾波器的權(quán)系數(shù)與前

6、向濾波器的權(quán)系數(shù)之間存在以下關(guān)系：16自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 對稱的格型結(jié)構(gòu)（續(xù)）可自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 格型濾波器設(shè)計準則 現(xiàn)在討論前向濾波器A(z)的設(shè)計準則。(3)可等價寫作相應(yīng)的時域表達式為17自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 格型濾波器設(shè)計準則相應(yīng)自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 格型濾波器設(shè)計準則 定義前、后向濾波器的殘差能量容易證明 上式表明,在格型濾波器設(shè)計中有如下三種等價表述：i) 使前向預(yù)測濾波器Am(z)殘差能量均方誤差Fm最小ii) 使后向預(yù)測濾波器Bm(z)殘差能量均方誤差Gm最小iii)使前后向預(yù)測濾波器殘差能量均方誤差(Fm +Gm)

7、/2最小18自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 格型濾波器設(shè)計準則容易自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 格型濾波器設(shè)計準則 上述結(jié)論構(gòu)成格型濾波器的設(shè)計基礎(chǔ)，而且由此有 1) 完全可以僅根據(jù)前向殘差能量Fm設(shè)計格型濾波器， 2) 后向預(yù)測誤差（殘差）正交 這表明，不同級濾波器的后向殘差正交 這一特性意味著格型濾波器的前后級是解耦的，故可 獨立設(shè)計每一級濾波器。3)階數(shù)越大，前向殘差Fm越小。 19自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 格型濾波器設(shè)計準則 自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 格型濾波器設(shè)計準則 總結(jié)上述，格型濾波器的設(shè)計過程可表述如下： 令m=1,2,，并依次設(shè)計前向濾波器，當前

8、向殘差能量 不再減小時，最小的階數(shù)即為格型濾波器的最優(yōu)階數(shù)。 20自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 格型濾波器設(shè)計準則22自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 格型自適應(yīng)算法 令w(n)為濾波器在n時刻的權(quán)系數(shù)，并滿足 現(xiàn)考慮采用一般能量形式的加權(quán)最小二乘法。為此，定義瞬態(tài)前后向殘差能量 和n時刻及以前時刻前后向殘差的加權(quán)總能量誤差函數(shù)21自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 格型自適應(yīng)算法現(xiàn)考慮采自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 格型自適應(yīng)算法(續(xù)) 利用可得n時刻發(fā)射系數(shù)且有這保證了前向濾波器是最小相位的,即物理可實現(xiàn)的。22自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 格型自適應(yīng)算法(續(xù))可自適應(yīng)

9、格型濾波器格型自適應(yīng)濾波原理 格型自適應(yīng)算法（續(xù)） 取 并引入即得且 服從如下遞推關(guān)系式： 23自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 格型自適應(yīng)算法（續(xù)）即自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 格型自適應(yīng)算法（步驟） 步驟1 計算預(yù)測誤差功率和前后向預(yù)測誤差的初始值:步驟2 計算前、后向殘差 步驟3 求中間系數(shù) 步驟4 計算反射系數(shù)： 步驟5 計算預(yù)測誤差功率： 步驟6 令 ,重做步驟2-5, 直到預(yù)測誤差功率很小為止. 24自適應(yīng)格型濾波器格型自適應(yīng)濾波原理 格型自適應(yīng)算法（步驟） 內(nèi) 容最優(yōu)濾波理論與Wiener濾波器梯度下降算法橫向LMS自適應(yīng)濾波器橫向RLS自適應(yīng)濾波器Kalman濾波器自

10、適應(yīng)格型濾波器自適應(yīng)格-梯型濾波器無限脈沖響應(yīng)自適應(yīng)濾波器 盲自適應(yīng)濾波器自適應(yīng)濾波器的應(yīng)用 25 內(nèi) 容最優(yōu)濾波理論與Wiene自適應(yīng)格-梯型濾波器預(yù)備知識算法原理基本方程更新方程 - 階更新方程 - 時間更新方程 輸出估計 算法步驟26自適應(yīng)格-梯型濾波器基本方程 算法步驟28自適應(yīng)格-梯型濾波器 預(yù)備知識 分塊矩陣求逆引理 設(shè)有分塊矩陣： 則有或其中27自適應(yīng)格-梯型濾波器 預(yù)備知識 分塊矩陣求逆引理 則有或其自適應(yīng)格-梯型濾波器 預(yù)備知識 數(shù)據(jù)向量與預(yù)測系數(shù)向量 考慮數(shù)據(jù)向量 則存在兩種不同的分塊方式 分別對應(yīng)于前向預(yù)測和后向預(yù)測。定義前向預(yù)測系數(shù)向量和后向預(yù)測系數(shù)向量，即28自適應(yīng)格

11、-梯型濾波器 預(yù)備知識 數(shù)據(jù)向量與預(yù)測系數(shù)向量則存自適應(yīng)格-梯型濾波器 算法原理 基本方程 1)數(shù)據(jù)向量 a)對于前向預(yù)測：b)對于后向預(yù)測：29自適應(yīng)格-梯型濾波器 算法原理 基本方程b)對于后向預(yù)測：3自適應(yīng)格-梯型濾波器 算法原理 基本方程 2)預(yù)測誤差 (l=0,1,n) a)對于前向預(yù)測：b)對于后向預(yù)測：c)對于聯(lián)合估計：30自適應(yīng)格-梯型濾波器 算法原理 基本方程b)對于后向預(yù)測：c自適應(yīng)格-梯型濾波器 算法原理 基本方程 3)代價函數(shù)（預(yù)測誤差加權(quán)平方和） a)對于于前向預(yù)測：b)對于后向預(yù)測：c)對于聯(lián)合估計：31自適應(yīng)格-梯型濾波器 算法原理 基本方程b)對于后向預(yù)測：c自

12、適應(yīng)格-梯型濾波器 算法原理 基本方程 4)最小代價函數(shù) 對于前向預(yù)測：對于后向預(yù)測：32自適應(yīng)格-梯型濾波器 算法原理 基本方程對于后向預(yù)測：34自適應(yīng)格-梯型濾波器 算法原理 基本方程 5)W-H方程與Wiener解 a)對于前向預(yù)測：b)對于后向預(yù)測：c)對于聯(lián)合估計：33自適應(yīng)格-梯型濾波器 算法原理 基本方程b)對于后向預(yù)測：c自適應(yīng)格-梯型濾波器 算法原理 基本方程 6)聯(lián)合方程（聯(lián)合最小代價函數(shù)和W-H方程） 對于前向預(yù)測：對于后向預(yù)測：34自適應(yīng)格-梯型濾波器 算法原理 基本方程對于后向預(yù)測：36自適應(yīng)格-梯型濾波器 算法原理 基本方程 7) 自相關(guān)矩陣 對于前向預(yù)測：對于后向

13、預(yù)測：35自適應(yīng)格-梯型濾波器 算法原理 基本方程對于后向預(yù)測：37自適應(yīng)格-梯型濾波器 算法原理 基本方程 8)互相關(guān)向量 a)對于前向預(yù)測：b)對于后向預(yù)測：c)對于聯(lián)合估計：36自適應(yīng)格-梯型濾波器 算法原理 基本方程b)對于后向預(yù)測：c自適應(yīng)格-梯型濾波器 算法原理 基本方程 9) 期望響應(yīng)加權(quán)平方和對于后向預(yù)測：對于前向預(yù)測：37自適應(yīng)格-梯型濾波器 算法原理 基本方程對于后向預(yù)測：對于前自適應(yīng)格-梯型濾波器 算法原理 基本方程10) Kalman增益向量 38自適應(yīng)格-梯型濾波器 算法原理 基本方程10) Kalman自適應(yīng)格-梯型濾波器 算法原理 階更新方程 11)相關(guān)矩陣逆矩陣

14、 對于前向預(yù)測：對于后向預(yù)測：39自適應(yīng)格-梯型濾波器 算法原理 階更新方程對于后向預(yù)測：41自適應(yīng)格-梯型濾波器 算法原理 階更新方程 12)預(yù)測系數(shù)向量后向預(yù)測：聯(lián)合估計：前向預(yù)測:40自適應(yīng)格-梯型濾波器 算法原理 階更新方程后向預(yù)測：聯(lián)合估計自適應(yīng)格-梯型濾波器 算法原理 階更新方程 13)最小代價函數(shù) 對于前向預(yù)測：對于后向預(yù)測：41自適應(yīng)格-梯型濾波器 算法原理 階更新方程對于后向預(yù)測：43自適應(yīng)格-梯型濾波器 算法原理 階更新方程 14) 誤差函數(shù) a)對于前向預(yù)測：b)對于后向預(yù)測：c)對于聯(lián)合估計：其中其中其中42自適應(yīng)格-梯型濾波器 算法原理 階更新方程b)對于后向預(yù)測：自

15、適應(yīng)格-梯型濾波器 算法原理 時間更新方程 15)預(yù)測系數(shù)向量 對于前向預(yù)測：對于后向預(yù)測：43自適應(yīng)格-梯型濾波器 算法原理 時間更新方程對于后向預(yù)測：4自適應(yīng)格-梯型濾波器 算法原理 時間更新方程 km(n)的更新方程 考慮其中由此導(dǎo)出定義則有其中44自適應(yīng)格-梯型濾波器 算法原理 時間更新方程 km(n)的自適應(yīng)格-梯型濾波器 算法原理 時間更新方程 的更新方程其中因為由此可導(dǎo)出45自適應(yīng)格-梯型濾波器 算法原理 時間更新方程 自適應(yīng)格-梯型濾波器 算法原理 的階更新方程Kalman增益向量可以寫為 由上式及(16-17)得Kalman增益向量還可寫為 再注意到由(22)-(24)得46自適應(yīng)格-梯型濾波器 算法原理 的階更新方程Kal自適應(yīng)格-梯型濾波器 算法原理 輸出估計 由(2c)和(14c) 可見，系統(tǒng)的輸出估計值是后向殘差的加權(quán)和。歸納上述，即得如下RLS