最小二乘快速橫向?yàn)V波FTF

1、最小二乘快速橫向?yàn)V波FTF 由已知的 來估計(jì) , 這時(shí), 橫向?yàn)V波器的輸出是 的最小二乘估計(jì) , 即濾波方程為 (3.4.125)其中, 采用前加窗法時(shí)的數(shù)據(jù)矩陣 由于最小二乘橫向?yàn)V波器的權(quán)矢量由下式?jīng)Q定: (3.4.126)定義橫向?yàn)V波算子(又稱橫向?yàn)V波器的投影矩陣): (3.4.127)則式(3.4.126)可寫成 (3.4.128)(nx)(nd)(nd)(nd)()()(1, 0nnnMMwXd )()()()()1(11, 0nznznnMMxxxX)()()(),()(T1, 011, 0T1, 0nnnnnMMMMdXXXw)()(),()(T1, 011, 01, 01, 0n

2、nnnMMMMXXXK)()()(1,0nnnMMdKw上式表明, 權(quán)矢量 是橫向?yàn)V波算子 各行矢量與 的內(nèi)積. 將式(3.4.128)代入式(3.4.125), 可得 (3.4.129)估計(jì)誤差矢量為 (3.4.130)式中， 和 分別是數(shù)據(jù)子空間 的投影矩陣和正交投影矩陣。 利用單位現(xiàn)時(shí)矢量 , 可求出誤差矢量 的當(dāng)前分量: (3.4.131)（2）前向預(yù)測(cè)誤差濾波器 最小二乘前向預(yù)測(cè)器是用 時(shí)刻以前相繼的 個(gè)數(shù)據(jù), 對(duì)該時(shí)刻的 做最小二乘估計(jì), 即 (3.4.132)(nMw)(1,0nM K)(nd)()()()()()(1, 01, 01, 0nnnnnnMMMdPdKXd)()()

3、|(1, 0nnnnMdPe)(1,0nM P)(1, 0nMP)(1,0nM X)(n )|(nne)()(),()|(),()|(1,0nnnnnnnneMdPe )(nMfnM)(nx)()()( , 1nnnMMfXx在最小二乘意義下, 預(yù)測(cè)系數(shù)(權(quán)系數(shù))矢量的最佳解為引入橫向?yàn)V波算子 (3.4.133) 考慮到數(shù)據(jù)子空間 的投影矩陣:因此得到 (3.4.134)式(3.4.134)表明, 用橫向?yàn)V波算子 作用于數(shù)據(jù)矢量 , 便可求出最小二乘前向預(yù)測(cè)系數(shù)矢量 (即最佳權(quán)矢量). 最小二乘前向預(yù)測(cè)誤差矢量為 (3.4.135) )()()(),()(T, 11, 1, 1nnnnnMMM

4、xXXXfM)()(),()(T, 11, 1, 1, 1nnnnNMMMXXXK)(, 1nMX)()(),()()(T, 11, 1, 1, 1, 1nnnnnMMMMMXXXXP)()()(, 1nnnMMxKf)()()( , 1nnnMxPx)(, 1nMK)(nx)(nMf)()()( )()|(, 1nnnnnnMxPxxef 其當(dāng)前分量為 (3.4.136) 根據(jù)前向線性預(yù)測(cè)濾波器的輸入輸出關(guān)系, 上式還可表示為(3.4.137) 預(yù)測(cè)誤差能量為 (3.4.138)（3）后向預(yù)測(cè)誤差濾波器 最小二乘后向預(yù)測(cè)器, 是利用 時(shí)刻以后的 個(gè)相繼數(shù)據(jù) ,向后一步預(yù)測(cè) 即延時(shí)數(shù)據(jù) . 根

5、據(jù)上節(jié)分析, 的最小二乘后向預(yù)測(cè)矢量為 (3.4.139) 在最小二乘意義下, 后向預(yù)測(cè)系數(shù)(權(quán)系數(shù))矢量的最佳解為)()(),()|(),()|(, 1nnnnnnnneMfxPef )()()()()()( )()|(T1nnnxknxnfnxnxnneMMkkffx)()(),()|(),|()(, 1nnnnnnnnMfxPxeeff)(nMb)(MnM)(,),1(nxMnx)(Mnx)(nzMx)(nzMx)()()( 1,0nnMnMMbXx)()()(),()(T1, 011, 01, 0nznnnnMMMMxXXXbM引入橫向?yàn)V波算子 (3.4.140)考慮到子空間 的投影矩

6、陣因此得到 (3.4.141) (3.4.142)式(3.4.141)表明, 用橫向?yàn)V波算子 作用于延時(shí)數(shù)據(jù)矢量 ,便可求出最小二乘后向預(yù)測(cè)系數(shù)矢量 (即最佳權(quán)矢量). 最小二乘后向預(yù)測(cè)誤差矢量為 (3.4.143)其當(dāng)前分量為 (3.4.144)()(),()(T1, 011, 01, 01, 0nnnnMMMMXXXK)(1,0nM X)()(),()()(T1, 011, 01, 01, 01, 0nnnnnMMMMMXXXXP)()()(1, 0nznnMMMxKb)()()( 1, 0nznMnMMxPx)(1, 0nMK)(nzNx)(nMb)()()|(1, 0nznnnMMxP

7、eb)()(),()|(1,0nnnnneMNbxzP 誤差能量為 (3.4.145)（4）增益濾波器 a) 什么是增益濾波器? 確切而言, 增益濾波器實(shí)際是關(guān)于角參量的濾波器. 現(xiàn)以圖所示的一維數(shù)據(jù)空間為例予以說明. 設(shè) 時(shí)刻的數(shù)據(jù)子空間為 , 時(shí)刻的數(shù)據(jù)子空間為 , 兩者之間的夾角為 , 角參量為 (3.4.146)()(),()(1, 0nznnnMMMbxPxz)(nMg1n) 1( nxn)(nx21cos)(n 若一維子空間 的投影矩陣為 , 單位現(xiàn)時(shí)矢量 在上投影為 , 令 (3.4.147) 很明顯, 矢量 就是 對(duì) 的最小二乘估計(jì). 如果把這種估計(jì)看成是 通過一個(gè)最小二乘濾波

8、器的輸出, 則 便是這個(gè)最佳濾波器的增益(即最小二乘濾波器系數(shù)), 因此,把該濾波器稱為增益濾波器.圖3.4.9 最小二乘增益濾波器的幾何說明)(nx) 1( nx)(n )()(nn e)(ne)(n )()()()(nnnnxxgP )( nx)(nxP)(n )(nx)()(nnx P)()()()(nnnnxxgP )()(nn xg)(nx)(n )(nx)(ngb)估計(jì)誤差矢量與角參量 在上述情況下, 由 對(duì) 進(jìn)行最小二乘估計(jì)的誤差矢量為 (3.4.148)式中, 是對(duì) 的正交投影矩陣. 由角參量的定義可知, 的當(dāng)前分量等于該時(shí)刻的角參量 (3.4.149)將式(3.4.148)代

9、入上式, 得即 (3.4.150)(nx)(n )()()()()()(nnnnnnx xPPe)(nxP)( nx)(ne)()()(),()(1nnnnne xP)()(),()(),()()()(),()()()(),()(1nnnnnnnnnnnnnnxgxgPx 21cos)()(1)(nxngn參見華中教材p83, 式(3.186):(3)(3),(3) (3)xxP由上式得到 (3.4.151)可以看出, 增益濾波器的增益 與 一樣, 也是兩個(gè)子空間 與 之間夾角的一種度量.c) 維情況 這時(shí), 數(shù)據(jù)子空間為 , 相應(yīng)的投影矩陣為 , 將一維的式(3.4.147)推廣, 得 (3

10、.4.152)式中, 稱為增益濾波器的增益矢量(或系數(shù)矢量, 權(quán)矢量). 上式兩邊同乘以 , 可進(jìn)一步得到 (3.4.153)其中, 是增益濾波器的橫向?yàn)V波算子. 上式說明, 增益矢量可以通過 作用于單位現(xiàn)時(shí)矢量 來得到. 2sin)()(),()()(nnnnxngxg )(ng)(1n)(nx)1(nxM)(1,0nM X)(1,0nM P)()()()(1,01,0nnnnMM PgXM)(nMg)(11, 0nMX)()()(1, 0nnnM KgM)(1,0nM K)(nMg)(1,0nM K)(n 維時(shí)的角參量為 (3.4.154)式中, (3.4.155) M)()(1)()()

11、,()(T1, 0nnnnnnMMMMgxP T) 1() 1()()(MnxnxnxnMx小結(jié)小結(jié) 由上得到4種濾波器的權(quán)矢量(或預(yù)測(cè)系數(shù)矢量, 增益矢量)的計(jì)算公式: 最小二乘橫向?yàn)V波器 前向預(yù)測(cè)誤差濾波器 后向預(yù)測(cè)誤差濾波器 增益濾波器 以上權(quán)矢量的時(shí)間更新, 皆歸結(jié)為相應(yīng)的橫向?yàn)V波算子的時(shí)間更新問題.)()()(1, 0nnnMMdKw)()()(, 1nnnMMxKf)()()(1, 0nznnMMMxKb)()()(1, 0nnnM KgMwM(n)由K0,M-1(n)作用于x(n)得到wM(n)由K0,M-1(n)作用于x(n)得到wM(n)由K0,M-1(n)作用于x(n)得到

12、wM(n)由K0,M-1(n)作用于x(n)得到2. 橫向?yàn)V波算子的時(shí)間更新橫向?yàn)V波算子的時(shí)間更新(1)子空間 的橫向?yàn)V波算子 的更新 設(shè) 是 (行) (列)數(shù)據(jù)矩陣, 則橫向?yàn)V波算子定義為又設(shè): 列矢量; 由 的 個(gè)列矢量張成的 維子空間; 的投影矩陣; 對(duì) 的正交投影矩陣; 將 附加到 的最后一列, 構(gòu)成的 維新矩陣; 由 的 個(gè)列矢量張成的 維矢量空間; 的投影矩陣; 對(duì) 的正交投影矩陣; 的橫向?yàn)V波算子.,uUU,uKUnMT1,UUUKU參照式(3.4.127)u1nUUMMUPUUPU),(uUuU) 1( Mn,uU),(uU) 1(M) 1(MU,uP,uUU,uP,uUU,u

13、K,uU 可以證明，橫向?yàn)V波算子 具有以下性質(zhì)(證明參見教材):(a) (b)(c) ;(d)(e)(f) U,uKU,uU,uU,uKPKIuUKU,u),(T1M0MMU,uIUK11MU,uuK0T1M0UUU,uKPKUUUUUU,uPuuPu,PuKKKT1T11M0 UUUUUUu,PuuPu,PuKKKT1T11M0(2)橫向?yàn)V波算子的更新(a) 的時(shí)間更新關(guān)系式令于是有由 的 個(gè)列矢量張成的 維子空間為 設(shè)子空間 的投影矩陣為 ; 橫向?yàn)V波算子為. 由 時(shí)刻投影矩陣 遞推 時(shí)刻投影矩陣 的公式如下:)(1,0nM K)()(1, 0nnM uXU)(),(),(1, 0nnM

14、XuU),(uU) 1(M) 1(M)(),(,1, 0nnuUM X)(),(1,0nnM XU,uP)(),1, 0(,nMuU KK) 1( n) 1(1, 0nMPn)(),1, 0(nMP1) 1()(T)1(11)1(1, 0),1, 0(nnMMnn00PP見教材p83, 式(3.11.3):1T1(1)( )1nnnnUU,PP0 00 0上式兩邊左乘 , 得到 (3.4.156)注意到: 上式右邊分塊矩陣的最后一列是列矢量 , 利用橫向?yàn)V波算子 的性質(zhì)(c), 有設(shè) 與分塊矩陣其余部分相乘后得到的矩陣的最后一行為, 同時(shí)根據(jù)性質(zhì)(a), 有 所以由式(3.11.32)得到橫向

15、濾波算子 的時(shí)間更新關(guān)系式為: (3.4.157)(),1, 0(nMK1) 1()()()(T) 1(11) 1(1, 0),1, 0(),1, 0(),1, 0(nnMMMMnnnn00PKPK)(n UuP1)(1)(1),1, 0(1)1(),1, 0(MMnMnn00 KK)(),1, 0(nMK) 1(Tny)()()(),1, 0(1, 0),1, 0(nnnMMM KPK)(),1,0(nMK1) 1() 1()(T11,0),1,0(nnnMMMyKK0式中, yT(n-1)表示一個(gè)1n維矢量.同理可得橫向?yàn)V波算子的時(shí)間更新關(guān)系式為: (3.4.158)自適應(yīng)算法中的時(shí)間更新

16、自適應(yīng)算法中的時(shí)間更新 FTF自適應(yīng)算法的目的, 是要解決權(quán)矢量 的時(shí)間更新問題, 為此要涉及 , , 等一系列參量的更新.(1)橫向?yàn)V波器橫向?yàn)V波器 的更新的更新推導(dǎo)思路(a)利用橫向?yàn)V波算子性質(zhì)(e):式中, 取 , .1) 1() 1()(T1, 1), 1(nnnMMMbKK0式中, bT(n-1)表示一個(gè)1n維矢量.)(nMw)(nMg)(nM)|(nne)(nNwUUUUUU,uPuuPu,PuKKKT1T11M0)(1, 0nM XU)(n u(b)其它有關(guān)公式:結(jié)論 由 時(shí)刻遞推計(jì)算 時(shí)刻的權(quán)矢量的時(shí)間更新公式為 (3.4.159) 上式表明, 在由 遞推計(jì)算 時(shí), 還必須事先

17、計(jì)算 , 和.(2)增益濾波器增益濾波器 的更新的更新推導(dǎo)思路推導(dǎo)思路(a)利用橫向?yàn)V波算子性質(zhì)(f):1) 1() 1()(T11, 0),1, 0(nnnMMMyKK0)()()(1, 0nnnM KgM)()(1)()(),()(T1, 0nnnnnnMMMMgxP 1nn)()()|() 1()(nnnnennMMMgwwM) 1( nMw)(nMw)(nMg)(nM)|(nne)(nMg式中, 取 , , 于是有(b)再利用前向預(yù)測(cè)誤差矢量的當(dāng)前分量和誤差能量表示式:同時(shí)注意到, 因則 階增益濾波器的權(quán)矢量為并定義 UUUUUUu,PuuPu,PuKKKT1T11M0)(, 1nMX

18、U )(nxU )(, 0nUuMX)()(),()|(),()|(, 1nnnnnnnneMfxPef )()(),()|(),|()(, 1nnnnnnnnMfxPxeeff)()()(1, 0nnnM KgM1M)()()(, 01nnnM KgM)(1nMg)()(nmnMm式中, 是 的前 個(gè)元素組成的矢量; 表示 的最后一個(gè)(即第 個(gè))元素. 結(jié)論(a) 時(shí)刻的 階增益濾波器 的計(jì)算公式為: (3.4.160)可見, 計(jì)算 時(shí)需預(yù)先求出 時(shí)刻的 , 和 . (b)進(jìn)一步由 求 時(shí)刻的 : (3.4.161a) 上式中的 和 可分別由式(3.4.160)求得. 該式說明, 一般情況下

19、, 不等于 的前 個(gè)元素組成的矢量 . 利用下面將要得到的式(3.4.168), 可進(jìn)一步導(dǎo)出下面的實(shí)用公式:(3.4.161b)(nMm)(1nMgM)(nm)(1nMg1Mn1M)(1nMg)(1)()|() 1(0)()()(1nnnnennmnnMffMMfgmgM)(1nMgn)(nMf)|(nnef)(nf)(1nMgn)(nMg)()()()(nnmnnMMbmgM)(nMm)(nm)(nMg)(1nMgM)(nMm)()()1()()()(1nnnnmnnMMMMbmgM(3)前向預(yù)測(cè)誤差濾波器前向預(yù)測(cè)誤差濾波器 的更新的更新 的更新公式的更新公式推導(dǎo)思路推導(dǎo)思路(a)利用橫向

20、濾波算子性質(zhì)(f):式中, 取 , . (b)其它有關(guān)公式: )(nMf)(nMf UUUUUUu,PuuPu,PuKKKT1T11M0)(, 1nMXU )(n u1) 1() 1()(T1, 1), 1(nnnMMMbKK0)()()(, 1nnnMMxKf)()(),()|(),()|(, 1nnnnnnnneMfxPef )()(),() 1(, 1nnnnMM P結(jié)論結(jié)論 前向預(yù)測(cè)系數(shù)矢量 的時(shí)間更新公式為: (3.4.162) 上式中, , 和 是通過第 次迭代后的已知參量, 欲得 , 還必須進(jìn)一步解決 的計(jì)算問題. 問題: 是用 來預(yù)測(cè) 時(shí)的前向預(yù)測(cè)誤差,即計(jì)算時(shí)需知道 , 而計(jì)

21、算 時(shí)又要用到 ,如何解決這一問題? 前向預(yù)測(cè)的輸出是 的預(yù)測(cè)值:預(yù)測(cè)誤差為)(nMf) 1() 1()|() 1()(nnnnennMMMgfffM) 1( nMf) 1( nMg) 1( nM1n)(nMf)|(nnef)|(nnef)(nMf)(nx)|(nnef)(nMf)(nMf)|(nnef)(nx)()()( 1inxnanxNii)()()()( )()|(1inxnaixnxnxnneNiif寫成矢量形式, 有 (3.4.163)其中, 數(shù)據(jù)矢量預(yù)測(cè)系數(shù)矢量將式(3.4.162)代入式(3.4.163), 得到(3.4.164)其中, (3.4.165)由式(3.4.164)

22、可解得 (3.4.166)由上式計(jì)算 可避免預(yù)先計(jì)算 .)() 1()()|(TnnnnnMffxxeMT)() 1() 1(MnxnxnMxT1)()()(nfnfnMMf) 1() 1() 1()|() 1|()|(TnnnnnennenneMMffgxMf) 1() 1()() 1|(TnnnxnneMffxM) 1|() 1()|(nnennnefMf)|(nnef)(nMf誤差能量誤差能量 的更新公式的更新公式 直接給出更新計(jì)算公式如下: (3.4.167)(4)后向預(yù)測(cè)誤差濾波器后向預(yù)測(cè)誤差濾波器 的更新的更新后向預(yù)測(cè)系數(shù)矢量 的時(shí)間更新公式 (3.4.168) 由上式可看出, 為了由 計(jì)算 , 必須在第 次迭代中先算出 , 和 . 的時(shí)間更新公式的時(shí)間更新公式 (3.4.169)其中 (3.4.170)由上式計(jì)算 , 可避免與計(jì)算 出現(xiàn)的“交叉耦合”.)(nf) 1|()|() 1()(nnennennffff)(nMb)(nMb)()()|() 1()(nnnnennMMMgbbbM) 1( nMb)(nMbn)|(nneb)(nM)(nMg)|(nneb) 1|()()|(nnennnebMb) 1()()() 1|(TnnMnxnneMfbxM)|(nneb)(nMg 的時(shí)間更新公式的時(shí)間更新公式 (3.4.171)4.角