最小二乘格型濾波(LSL)

1、3.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL）1.1.用矢量空間法描述前向和后向線性預(yù)測誤差濾波器用矢量空間法描述前向和后向線性預(yù)測誤差濾波器（1 1） 階前向預(yù)測階前向預(yù)測M 權(quán)系數(shù)矢量與預(yù)測矢量權(quán)系數(shù)矢量與預(yù)測矢量 階前向預(yù)測值階前向預(yù)測值 , , 可表示為可表示為 以前的以前的 個數(shù)據(jù)的線個數(shù)據(jù)的線性組合性組合: :M)( ix)( ixM)()()( 1kixnwixMkfkni 1 (3.4.85) (3.4.85)式中式中 時刻時刻 的第的第 個前向預(yù)測系數(shù)個前向預(yù)測系數(shù). .), 2 , 1)(Mknwfknk 將上式展開將上式展開, , 可得前向預(yù)測

2、矢量表示式可得前向預(yù)測矢量表示式: :)()()( , 1nnnfMMwXx (3.4.86) (3.4.86)其中其中, , 數(shù)據(jù)矩陣數(shù)據(jù)矩陣: : )()()()(21, 1nznznznMMxxxX (3.4.87) (3.4.87)3.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL）前向預(yù)測濾波器的權(quán)矢量前向預(yù)測濾波器的權(quán)矢量: :T21 )()()()(nwnwnwnfMfffMw 應(yīng)用式應(yīng)用式(3.4.79)(3.4.79)和和(3.4.80),(3.4.80),可得在最小二乘意義下可得在最小二乘意義下 的最的最佳解為佳解為)(nfMw)()()(),()(T

3、, 11, 1, 1nnnnnMMMfMxXXXw(3.4.88)(3.4.88)最佳前向預(yù)測矢量為最佳前向預(yù)測矢量為)()()(),()()( T, 11, 1, 1, 1nnnnnnMMMMxXXXXx(3.4.89)(3.4.89)令數(shù)據(jù)空間令數(shù)據(jù)空間 的投影矩陣為的投影矩陣為)(, 1nmX)()(),()()(T, 11, 1, 1, 1, 1nnnnnMMMMMXXXXP(3.4.90)(3.4.90)則前向預(yù)測矢量則前向預(yù)測矢量)()()( , 1nnnMxPx(3.4.91)(3.4.91)3.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL）)()()()

4、()()()(, 1, 1nnnnnnnMMfMxPPIxxxe(3.4.92)(3.4.92)其中其中 時刻的當(dāng)前分量時刻的當(dāng)前分量n)()(),()(),()(, 1nnnnnneMfMfMxPe (3.4.93)(3.4.93)前向預(yù)測誤差能量前向預(yù)測誤差能量 即預(yù)測誤差功率即預(yù)測誤差功率( (又稱為又稱為 “ “預(yù)測誤差剩余預(yù)測誤差剩余”), ”), 定義為預(yù)測誤定義為預(yù)測誤差矢量的內(nèi)積差矢量的內(nèi)積( (范數(shù)的平方范數(shù)的平方), ), 即即)(),()()(2nnnnfMfMfMfMeee(3.4.94)(3.4.94)根據(jù)延時算子根據(jù)延時算子 的移位性質(zhì)的移位性質(zhì), , 由上式可以得

5、到由上式可以得到1z)(),() 1(11nznznfMfMfMee(3.4.95)(3.4.95)預(yù)測誤差矢量和當(dāng)前分量預(yù)測誤差矢量和當(dāng)前分量 設(shè)數(shù)據(jù)空間設(shè)數(shù)據(jù)空間 的正交投影矩陣為的正交投影矩陣為 , ,則則 時刻的預(yù)測時刻的預(yù)測誤差矢量為誤差矢量為)(, 1nMX)(, 1nMPn3.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL）（2 2） 階后向預(yù)測階后向預(yù)測M權(quán)系數(shù)矢量與預(yù)測矢量權(quán)系數(shù)矢量與預(yù)測矢量 階后向預(yù)測值階后向預(yù)測值 , ,可表示為可表示為 以后的以后的 個數(shù)據(jù)的個數(shù)據(jù)的線性組合線性組合: :M)( Mix)( MixM)()()( 1kMixnwMi

6、xMkbkni 1(3.4.96)(3.4.96)式中式中 時刻時刻 的第的第 個后向預(yù)測系數(shù)。個后向預(yù)測系數(shù)。), 2 , 1)(Mknwbknk將上式展開將上式展開, , 可得后向預(yù)測矢量表示式可得后向預(yù)測矢量表示式: :)()()( 1, 0nnMnbMMwXx (3.4.97)(3.4.97)其中其中, , 數(shù)據(jù)矩陣數(shù)據(jù)矩陣: : )()()()()1(101, 0nznznznMMxxxX (3.4.98)(3.4.98)后向預(yù)測濾波器的權(quán)矢量后向預(yù)測濾波器的權(quán)矢量: :T21 )()()()(nwnwnwnbMbbbMw3.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（L

7、SLLSL）在最小二乘意義下在最小二乘意義下, , 的最佳解為的最佳解為)(nfMw)()()(),()(T1, 011, 01, 0nznnnnMMMMbMxXXXw (3.4.99)(3.4.99)最佳后向預(yù)測矢量為最佳后向預(yù)測矢量為)()()(),()()( T1, 011, 01, 01, 0nznnnnMnMMMMMxXXXXx (3.4.100)(3.4.100)令數(shù)據(jù)空間令數(shù)據(jù)空間 的投影矩陣為的投影矩陣為)(1,0nM X)()(),()()(T1, 011, 01, 01, 01, 0nnnnnMMMMMXXXXP (3.4.101)(3.4.101)則后向預(yù)測矢量則后向預(yù)測

8、矢量)()()( 1, 0nznMnMMxPx(3.4.102)(3.4.102)3.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL）預(yù)測誤差矢量和當(dāng)前分量預(yù)測誤差矢量和當(dāng)前分量 設(shè)數(shù)據(jù)空間設(shè)數(shù)據(jù)空間 的正交投影矩陣為的正交投影矩陣為 , , 則則 時刻的預(yù)測時刻的預(yù)測誤差矢量為誤差矢量為)(, 1nmX)(, 1nMPn)()()( )()(1, 0nznMnMnnMMbMxPxxe(3.4.103)(3.4.103)其中其中 時刻的當(dāng)前分量時刻的當(dāng)前分量n)()(),()(),()(1, 0nznnnnneMMbMbMxPe (3.4.104)(3.4.104)后向預(yù)

9、測誤差能量后向預(yù)測誤差能量與前向預(yù)測類似與前向預(yù)測類似, , 后向預(yù)測誤差能量為后向預(yù)測誤差能量為)(),()()(2nnnnbMbMbMbMeee)(),() 1(11nnnbMbMbMezez(3.4.105)(3.4.105)(3.4.106)(3.4.106)3.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL）2.2.前向和后向線性預(yù)測誤差濾波器的參數(shù)更新前向和后向線性預(yù)測誤差濾波器的參數(shù)更新（1 1） 階前向預(yù)測誤差與遞推公式階前向預(yù)測誤差與遞推公式1M 根據(jù)根據(jù)(3.4.93)(3.4.93)給出的計算給出的計算 階前向預(yù)測誤差當(dāng)前分量階前向預(yù)測誤差當(dāng)前分量

10、的公式的公式: :M)(nefM)()(),()(1,nnnneMfMxP 可得可得 階前向預(yù)測誤差在階前向預(yù)測誤差在 時刻的分量時刻的分量1Mn)()(),()(11,1nnnneMfMxP (3.4.107)(3.4.107) 其中其中, , 是對子空間是對子空間 的正交投影矩陣的正交投影矩陣. .數(shù)據(jù)矩陣數(shù)據(jù)矩陣 , , 是將列矢量是將列矢量 附加于附加于 的最后一列的后面得的最后一列的后面得到的新矩陣。到的新矩陣。)(11,nMP)(1, 1nM X)(1, 1nM X)()1(nMxz)(, 1nMX令令)()()()(1, 1nnnnMM zxyxzuXU3.4.3 3.4.3 最

11、小二乘格型算法（最小二乘格型算法（LSLLSL）則有則有: :)()()(),()()()(),() 1()(),()()()()(11, 1, 1111)1(, 1, 1nennnnennnnnnnnnnfMMfMMbMbMbMbMMMMxPyPz,xPyPz,ezezuPu,PezxzPuPPPU,uUUUUU (3.4.108)(3.4.108)將以上各式代入下式將以上各式代入下式: :yu,PuPu,PuPz,yPz,yPz,UUUUUU,u13.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL）得到得到)(),()(),() 1(1)()(111nnnnnnene

12、bMbMbMfMfMxezez (3.4.109)(3.4.109)其中其中) 1() 1() 1 (0100)(),(T1neneennbMbMbMbMez (3.4.110)(3.4.110)(),()( ),()(),()( )(),()(),(11111nnnnnnnnnnnfMbMbMfMbMfMbMbMeezxezeezxeezxez(3.4.111)(3.4.111)3.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL） 定義前向與后向兩個預(yù)測誤差矢量的相關(guān)系數(shù)定義前向與后向兩個預(yù)測誤差矢量的相關(guān)系數(shù)( (稱為偏相關(guān)系數(shù)稱為偏相關(guān)系數(shù)) )為為: :)(1nM

13、)(),(1nnzfMbMee (3.4.112)(3.4.112)將式將式(3.4.109), (3.4.111)(3.4.109), (3.4.111)代入式代入式(3.4.108), (3.4.108), 得得) 1()()()(11nenKnenebMbMfMfM(3.4.113)(3.4.113)其中其中) 1()()(11nnnKbMMbM(3.4.114)(3.4.114)稱為前向預(yù)測誤差更新的調(diào)整因子稱為前向預(yù)測誤差更新的調(diào)整因子( ( 階后向反射系數(shù)階后向反射系數(shù)) )。1M 式式(3.4.113)(3.4.113)即為前向預(yù)測誤差按階遞推即為前向預(yù)測誤差按階遞推( (階更新

14、階更新) )計算公式計算公式, , 即由即由 遞推計算遞推計算 。 特別注意到特別注意到, ,在這種遞推計算中在這種遞推計算中, , 需要知道后向預(yù)測誤差需要知道后向預(yù)測誤差 。)(nefM)(1nefM) 1( nebM3.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL）(2) (2) 階后向預(yù)測誤差與遞推公式階后向預(yù)測誤差與遞推公式1M 用以上類似方法用以上類似方法, , 可導(dǎo)出后向預(yù)測誤差階更新計算公式為可導(dǎo)出后向預(yù)測誤差階更新計算公式為)()() 1()(11nenKnenefMfMbMbM(3.4.115)(3.4.115) 其中其中, , 是后向預(yù)測誤差更新的

15、調(diào)整因子是后向預(yù)測誤差更新的調(diào)整因子 ( ( 階前向反階前向反射系數(shù)射系數(shù)):):)(1nKfM 1M)()()(11nnnKfMMfM(3.4.116)(3.4.116)3.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL）(3)(3)預(yù)測誤差濾波器的格型結(jié)構(gòu)預(yù)測誤差濾波器的格型結(jié)構(gòu) 式式(3.4.113)(3.4.113)和式和式(3.4.115)(3.4.115)聯(lián)立聯(lián)立Z-1)(nefM)(1nKbM)(1nKfM) 1()()()(11nenKnenebMbMfMfM)()() 1()(11nenKnenefMfMbMbM圖3.4.8 (a) 單級格型結(jié)構(gòu))(ne

16、bM可得到最小二乘格型可得到最小二乘格型(LSL)(LSL)預(yù)測誤差濾波器預(yù)測誤差濾波器( (單級格型結(jié)構(gòu)單級格型結(jié)構(gòu)) )圖圖)()() 1()(11nenKnenefMfMbMbM) 1()()()(11nenKnenebMbMfMfM3.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL） 由前向和后預(yù)測誤差公式由前向和后預(yù)測誤差公式: :)()()()( )()(1kixnwixixixieMkfkfMni 1)()()()( )()(1kMixnwMixMixMixieMkbkbMni 1當(dāng)當(dāng) 時時, , 有有0M)()()(00nxnenebf(3.4.117)(

17、3.4.117)3.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL）圖3.4.8 (b) 多級(M階)格型結(jié)構(gòu)Z-1)(nxZ-1Z-1)(1nKf)(1nKb)(2nKf)(2nKb)(1nef)(1neb)(nKfM)(nKbM)(2nef)(nefM)(2neb)(nebM 由此可畫出由此可畫出M M階階( (多級多級) )預(yù)測誤差濾波器的格型結(jié)構(gòu)預(yù)測誤差濾波器的格型結(jié)構(gòu), ,如圖如圖3.4.8 (b)3.4.8 (b)所示所示由圖可見由圖可見, , 該濾波器是模塊型結(jié)構(gòu)該濾波器是模塊型結(jié)構(gòu)( (各級結(jié)構(gòu)相同各級結(jié)構(gòu)相同), ), 每一級都每一級都只包含兩個參數(shù)只包

18、含兩個參數(shù): :前向反射系數(shù)前向反射系數(shù) 和后向反射系數(shù)和后向反射系數(shù) 。 )(1nKbM )(1nKfM 3.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL）（4 4）預(yù)測誤差能量的更新）預(yù)測誤差能量的更新 a a）前向預(yù)測誤差能量按階更新公式）前向預(yù)測誤差能量按階更新公式 由式由式(3.4.87)(3.4.87)可知可知, , 前向預(yù)測誤差能量前向預(yù)測誤差能量)(),()()(2nnnnfMfMfMfMeee將將 階前向預(yù)測誤差矢量階前向預(yù)測誤差矢量 代入上式代入上式, , 得得M)()()(1,nnnMfMxPe)()(),()()(),()()(1,1,1,nnn

19、nnnnnMMMfMxPxxPxP(3.4.118)(3.4.118)令令)()()()1(, 1nnznMMxyzxuXU則有則有) 1()()()(11, 1, 1nnznnbMbMMMuPu,PeuPPPPPUUUU,uU3.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL）進一步得到進一步得到)()()(),()()()(),()()(),()(),(11, 1, 1111nnnnnnnnnnnznznfMMfMMMbMbMxPxyPz,xPxyPz,yu,PxeexuPz,U,uUUU將以上各式代入下式將以上各式代入下式: : yu,PuPu,PuPz,yPz,y

20、Pz,UUUUUU,u1得到前向預(yù)測誤差能量按階更新公式如下得到前向預(yù)測誤差能量按階更新公式如下: :)1()()()(211nnnnbMMfMfM(3.4.119)(3.4.119)b)b)后向預(yù)測誤差能量按階更新公式后向預(yù)測誤差能量按階更新公式 若令若令 , , , , , ,用類似方法可得后向用類似方法可得后向預(yù)測誤差能量按階更新公式為預(yù)測誤差能量按階更新公式為)(, 1nMXU )(nxu )()1(nzmxyz)()() 1()(211nnnnfMMbMbM(3.4.120)(3.4.120)3.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL）(5)(5)偏相關(guān)

21、系數(shù)偏相關(guān)系數(shù) 和角參量和角參量 的更新的更新)(1nM)(nM 根據(jù)反射系數(shù)公式根據(jù)反射系數(shù)公式(3.4.114)(3.4.114)和和(3.4.116), (3.4.116), 在討論了前向和在討論了前向和后向預(yù)測誤差能量按階更新后后向預(yù)測誤差能量按階更新后, , 還需進一步解決前后向預(yù)測誤還需進一步解決前后向預(yù)測誤差偏相關(guān)系數(shù)差偏相關(guān)系數(shù) 的更新問題。的更新問題。 )(1nM 由于按階由由于按階由 計算計算 存在困難存在困難, , 因此可按時因此可按時間更新方法間更新方法, ,從初值從初值 開始開始, , 依次遞推依次遞推, , ， , ,直直至至 。)(1nM)(2nM )0(1M)

22、1 (1M),2(1M)(1nM 現(xiàn)令現(xiàn)令 ， ， ，)(, 1nMXU )(nu)(nxz )()1(nzMxy同樣利用同樣利用 與與 性質(zhì)性質(zhì)8:8:UPUPyu,PuPu,PuPz,yPz,yPz,UUUUUU,u13.4.3 3.4.3 最小二乘格型算法（最小二乘格型算法（LSLLSL）可以求得可以求得 的時間更新公式為的時間更新公式為)(1nM ) 1() 1()() 1()(11nnenennMbMfMMM(3.4.121)(3.4.121) 其中其中, , 角參量角參量 是子空間是子空間 與與 的夾角的余弦的夾角的余弦的平方的平方, ,定義為定義為)(nM)(1,0nM X)1(1,0nMX)()(),()(1, 1nnnnMMP(3.4.122)(3.4.122)還可進一步求得還可進一步求得)()(),() 1(, 1nnnnMMP(3.4.123)(3.4.123)以及角參量的階更新公式以及角參量的階更新公式: :) 1()1() 1() 1(21nnennbMbMMM(3.4.124)(3.4.