自適應(yīng)濾波LMS算法及RLS算法及其仿真

自適應(yīng)濾波TOC\o"1-5"\h\z\o"CurrentDocument"第1章緒論1\o"CurrentDocument"1自適應(yīng)濾波理論發(fā)展過(guò)程1\o"CurrentDocument"2自適應(yīng)濾波發(fā)展前景2\o"CurrentDocument"2.1小波變換與自適應(yīng)濾波2\o"CurrentDocument"2.2模糊神經(jīng)網(wǎng)絡(luò)與自適應(yīng)濾波3第2章線性自適應(yīng)濾波理論41最小均方自適應(yīng)濾波器4\o"CurrentDocument"1.1最速下降算法4\o"CurrentDocument"1.2最小均方算法6\o"CurrentDocument"2遞歸最小二乘自適應(yīng)濾波器7第3章仿真12\o"CurrentDocument"基于LMS算法的MATLAB仿真12\o"CurrentDocument"基于RLS算法的MATLAB仿真15組別：第二小組組員：黃亞明李存龍楊振第1章緒論從連續(xù)的(或離散的)輸入數(shù)據(jù)中濾除噪聲和干擾以提取有用信息的過(guò)程稱為濾波。相應(yīng)的裝置稱為濾波器。實(shí)際上，一個(gè)濾波器可以看成是一個(gè)系統(tǒng)，這個(gè)系統(tǒng)的目的是為了從含有噪聲的數(shù)據(jù)中提取人們感興趣的、或者希望得到的有用信號(hào)，即期望信號(hào)。濾波器可分為線性濾波器和非線性濾波器兩種。當(dāng)濾波器的輸出為輸入的線性函數(shù)時(shí)，該濾波器稱為線性濾波器，當(dāng)濾波器的輸出為輸入的非線性函數(shù)時(shí)，該濾波器就稱為非線性濾波器。自適應(yīng)濾波器是在不知道輸入過(guò)程的統(tǒng)計(jì)特性時(shí)，或是輸入過(guò)程的統(tǒng)計(jì)特性發(fā)生變化時(shí)，能夠自動(dòng)調(diào)整自己的參數(shù)，以滿足某種最佳準(zhǔn)則要求的濾波器。1.1自適應(yīng)濾波理論發(fā)展過(guò)程自適應(yīng)技術(shù)與最優(yōu)化理論有著密切的系。自適應(yīng)算法中的最速下降算法以及最小二乘算法最初都是用來(lái)解決有/無(wú)約束條件的極值優(yōu)化問(wèn)題的。1942年維納(Wiener)研究了基于最小均方誤差(MMSE)準(zhǔn)則的在可加性噪聲中信號(hào)的最佳濾波問(wèn)題。并利用Wiener.Hopf方程給出了對(duì)連續(xù)信號(hào)情況的最佳解。基于這?準(zhǔn)則的最佳濾波器稱為維納濾波器。20世紀(jì)60年代初，卡爾曼(Kalman)突破和發(fā)展了經(jīng)典濾波理論，在時(shí)間域上提出了狀態(tài)空間方法，提出了一套便于在計(jì)算機(jī)上實(shí)現(xiàn)的遞推濾波算法，并且適用于非平穩(wěn)過(guò)程的濾波和多變量系統(tǒng)的濾波，克服了維納(Wiener)濾波理論的局限性，并獲得了廣泛的應(yīng)用。這種基于MMSE準(zhǔn)則的對(duì)于動(dòng)態(tài)系統(tǒng)的離散形式遞推算法即卡爾曼濾波算法。這兩種算法都為自適應(yīng)算法奠定了基礎(chǔ)。從頻域上的譜分析方法到時(shí)域上的狀態(tài)空間分析方法的變革，也標(biāo)志著現(xiàn)代控制理論的誕生。最優(yōu)濾波理論是現(xiàn)代控制論的重要組成部分。在控制論的文獻(xiàn)中，最優(yōu)濾波理論也叫做Kalman濾波理論或者狀態(tài)估計(jì)理論。從應(yīng)用觀點(diǎn)來(lái)看，Kalman濾波的缺點(diǎn)和局限性是應(yīng)用Kalman濾波時(shí)要求知道系統(tǒng)的數(shù)學(xué)模型和噪聲統(tǒng)計(jì)這兩種先驗(yàn)知識(shí)。然而在絕大多數(shù)實(shí)際應(yīng)用問(wèn)題中，它們是不知道的，或者是近似知道的，也或者是部分知道的。應(yīng)用不精確或者錯(cuò)誤的模型和噪聲統(tǒng)計(jì)設(shè)計(jì)Kalman濾波器將使濾波器性能變壞，導(dǎo)致大的狀態(tài)估計(jì)誤差，甚至使濾波發(fā)散。為了解決這個(gè)矛盾，產(chǎn)生了自適應(yīng)濾波。最早的自適應(yīng)濾波算法是最小JY(LMS)算法。它成為橫向?yàn)V波器的一種簡(jiǎn)單而有效的算法。實(shí)際上，LMS算法是一種隨機(jī)梯度算法，它在相對(duì)于抽頭權(quán)值的誤差信號(hào)平方幅度的梯度方向上迭代調(diào)整每個(gè)抽頭權(quán)值。1996年Hassibi等人證明了LMS算法在H。準(zhǔn)則下為最佳，從而在理論上證明了LMS算法具有孥實(shí)性。自Widrow等人1976年提出LM，自適應(yīng)濾波算法以來(lái)，經(jīng)過(guò)30多年的迅速發(fā)展，已經(jīng)使這一理論成果成功的應(yīng)用到通信、系統(tǒng)辨識(shí)、信號(hào)處理和自適應(yīng)控制等領(lǐng)域，為自適應(yīng)濾波開辟了新的發(fā)展方向。在各種自適應(yīng)濾波算法中，LMS算法因?yàn)槠浜?jiǎn)單、計(jì)算量小、穩(wěn)定性好和易于實(shí)現(xiàn)而得到了廣泛應(yīng)用。這種算法中，固定步長(zhǎng)因子口對(duì)算法的性能有決定性的影響。若□較小時(shí)，算法收斂速度慢，并且為得到滿意的結(jié)果需要很多的采樣數(shù)據(jù)，但穩(wěn)態(tài)失調(diào)誤差較小：當(dāng)“較大時(shí)，該算法收斂速度快，但穩(wěn)態(tài)失調(diào)誤差變大，并有可能使算法發(fā)散。收斂速度與穩(wěn)態(tài)失調(diào)誤差是不可兼得的兩個(gè)指標(biāo)。以往的文獻(xiàn)對(duì)LMS算法的性能和改進(jìn)算法已經(jīng)做出了相當(dāng)多的研究，并且至今仍然是一個(gè)重要的研究課題。另一類重要的自適應(yīng)算法是最小二乘（LS）算法。LS算法早在1795年就由高斯提出來(lái)了，但LS算法存在運(yùn)算量大等缺點(diǎn)，因而在自適應(yīng)濾波中一般采用其遞推形式一一遞推最小二乘（RLS）算法，這是一種通過(guò)遞推方式尋求最佳解的算法，復(fù)雜度比直接LS算法小，因而獲得了廣泛應(yīng)用。1994年Sayed和Kailath建立了Kalman濾波和RLS算法之間的對(duì)應(yīng)關(guān)系，證明了RLS算法事實(shí)上是Kalman濾波器的一種特例，從而使人們對(duì)RLS算法有了進(jìn)一步的理解，而且Kalman濾波的大量研究成果可應(yīng)用于自適應(yīng)濾波處理。這對(duì)自適應(yīng)濾波技術(shù)起到了重要的推動(dòng)作用?；旧?，現(xiàn)有的參考文獻(xiàn)都是基于這兩種算法進(jìn)行改進(jìn)的。而這兩種算法又可以簡(jiǎn)單的用以下語(yǔ)句來(lái)描述：LMS：（抽頭權(quán)向量更新值）二（老的抽頭權(quán)向量值）+（學(xué)習(xí)速率）（抽頭輸出向量）（誤差信號(hào)）RLS：（狀態(tài)遞推值）二（舊的狀態(tài)值）+（卡爾曼增益）（新息向量）以往的研究多集中在線性濾波方面，非線性濾波理論還有待于進(jìn)一步的研究開發(fā)。1.2自適應(yīng)濾波發(fā)展前景現(xiàn)代信號(hào)處理理論為自適應(yīng)濾波技術(shù)的發(fā)展提供了廣闊的空間。尤其是小波技術(shù)和人工智能理論的發(fā)展，更是推動(dòng)和加快了自適應(yīng)濾波技術(shù)的前進(jìn)。1.2.1小波變換與自適應(yīng)濾波小波變換是由法國(guó)地球物理學(xué)家Morlet于80年代初在分析地球物理信號(hào)時(shí)作為?種信號(hào)分析的數(shù)學(xué)工具提出來(lái)的。通俗地講，小波是一種短期波。在積分變換中，小波作為核函數(shù)的用法大體與傅立葉分析中的正弦和余弦函數(shù)或與沃耳什（Walsh）分析中的沃耳什函數(shù)的用法相同。目前，小波分析主要用于信號(hào)處理、圖像壓縮、次能帶編碼、醫(yī)學(xué)顯像、數(shù)據(jù)壓縮、地震分析、消除噪聲數(shù)據(jù)、計(jì)算機(jī)圖像、聲音合成等領(lǐng)域。小波變換的基本特點(diǎn)是多分辨率或多標(biāo)度的觀點(diǎn)，目的是“既要看到森林（信號(hào)的概貌），又要看到樹木（信號(hào)的細(xì)節(jié)）”。借助于小波的精辟理論，自適應(yīng)濾波技術(shù)有了新的發(fā)展方向，這也引起了信號(hào)處理領(lǐng)域許多學(xué)者專家的濃厚興趣和熱切關(guān)注?；谛〔ㄗ儞Q的自適應(yīng)濾波技術(shù)是未來(lái)自適應(yīng)濾波發(fā)展的方向之一，有著廣闊的應(yīng)用前景。目前還有許多問(wèn)題亟待解決，例如不同形式的小波濾波器的濾波效果研究；在時(shí)變信號(hào)濾波方面的應(yīng)用研究以及對(duì)于失調(diào)噪聲的濾波等等。1.2.2模糊神經(jīng)網(wǎng)絡(luò)與自適應(yīng)濾波神經(jīng)網(wǎng)絡(luò)作為一種新的計(jì)算方法，已經(jīng)引起了人們廣泛的研究興趣。神經(jīng)網(wǎng)絡(luò)可以認(rèn)為是一種由許多稱為“神經(jīng)元”（neuron）的基本計(jì)算單元通過(guò)廣泛的連接所組成的網(wǎng)絡(luò)。它是在現(xiàn)代神經(jīng)科學(xué)研究成果的基礎(chǔ)上提出來(lái)的，反映了人腦功能的基本特征。網(wǎng)絡(luò)的信息處理由神經(jīng)元之間的相互作用來(lái)實(shí)現(xiàn)，網(wǎng)絡(luò)的學(xué)習(xí)與識(shí)別決定于各神經(jīng)元之間聯(lián)接權(quán)系數(shù)的動(dòng)態(tài)變化過(guò)程。人工神經(jīng)網(wǎng)絡(luò)是模仿和延伸人腦認(rèn)知功能的新型智能信息處理系統(tǒng)，由于神經(jīng)元本身具有高度自適應(yīng)性，因而由大量神經(jīng)元組成的神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)性、自組織性、巨量并行性、存儲(chǔ)分布性、結(jié)構(gòu)可變性等特點(diǎn)，能解決常規(guī)信息處理方法難以解決或無(wú)法解決的問(wèn)題。模糊技術(shù)也是現(xiàn)代智能理論的一個(gè)重要方面。利用模糊技術(shù)我們可以很容易的將人們熟悉的語(yǔ)言描述應(yīng)用到自動(dòng)控制或信號(hào)處理中來(lái)，然而，模糊理論與神經(jīng)網(wǎng)絡(luò)都存在著各自的優(yōu)缺點(diǎn)。模糊邏輯和神經(jīng)網(wǎng)絡(luò)在許多方面具有關(guān)聯(lián)性和互補(bǔ)性。它們的交叉研究正是基于二者互補(bǔ)性和關(guān)聯(lián)性的結(jié)合。首先，兩者具有互補(bǔ)性。一方面，模糊技術(shù)的特長(zhǎng)在于模糊推理能力，容易進(jìn)行高階的信息處理。將模糊技術(shù)引入神經(jīng)網(wǎng)絡(luò)，可以大大拓寬神經(jīng)網(wǎng)絡(luò)處理信息的范圍和能力，使其不僅能夠處理精確信息，也能夠處理模糊信息或其它不精確信息，不僅能夠?qū)崿F(xiàn)精確性聯(lián)想及映射，也能夠?qū)崿F(xiàn)不精確性聯(lián)想及映射，特別是模糊聯(lián)想和模糊映射。另一方面，神經(jīng)網(wǎng)絡(luò)在自學(xué)習(xí)和自動(dòng)模式識(shí)別方面有極強(qiáng)的優(yōu)勢(shì)，采取神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)行模糊信息處理，則使得模糊規(guī)則的自動(dòng)提取及隸屬函數(shù)的全自動(dòng)生成有可能得以解決。其次，兩者具有關(guān)聯(lián)性，有許多共同點(diǎn)。它們都著眼于模擬人的思維，都是為了處理實(shí)際中不確定性、不精確性等引起的系統(tǒng)難以控制等問(wèn)題。兩者在形式上有不少相似之處，其信息都是分布式存儲(chǔ)于其結(jié)構(gòu)之中，從而都具有好的容錯(cuò)能力。不管是神經(jīng)網(wǎng)絡(luò)還是模糊邏輯，都不需要建立數(shù)學(xué)模型，只需根據(jù)輸入的采樣數(shù)據(jù)去獲取所需的結(jié)論，也就是模型無(wú)關(guān)估計(jì)器。另外，神經(jīng)網(wǎng)絡(luò)的映射功能早已得到證明。近年來(lái)，Kosko、L。X.Wang等證明了模糊系統(tǒng)能以任意精度逼近緊密集上的實(shí)連續(xù)函數(shù)，這也說(shuō)明了二者之間有著密切的關(guān)系。因此，將兩者融合在一起的模糊神經(jīng)網(wǎng)絡(luò)可以有效的克服兩者的缺點(diǎn)，提高整個(gè)網(wǎng)絡(luò)的性能。譬如；神經(jīng)網(wǎng)絡(luò)可以降低透明程度，使它們更接近于模糊系統(tǒng)；而模糊系統(tǒng)可以提高自適應(yīng)性，更接近于神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)與模糊神經(jīng)網(wǎng)絡(luò)有力的推動(dòng)了自適應(yīng)濾波技術(shù)，特別是非線性自適應(yīng)濾波技術(shù)的發(fā)展。事實(shí)上，一個(gè)神經(jīng)網(wǎng)絡(luò)或模糊神經(jīng)網(wǎng)絡(luò)本身就可以看作是一個(gè)自適應(yīng)濾波器。

第2章線性自適應(yīng)濾波理論)自適應(yīng)濾波器。線性自適應(yīng)濾波理論比非線性自適應(yīng)濾波理論發(fā)展的比較早、比較成熟。這自適應(yīng)濾波T)自適應(yīng)濾波器。本節(jié)所討論的LMS算法是應(yīng)用最廣泛的一類算法，從理論體系上來(lái)看，最優(yōu)化方法中的最速下降法是隨機(jī)梯度信息處理的一種遞歸算法，在誤差性能未知的情況下，它可以尋求誤差曲面的最小點(diǎn)，可為平穩(wěn)隨機(jī)條件下的LMS算法提供若干啟發(fā)性思路，并且是分析算法性能的重要基礎(chǔ)。2.1?1最速下降算法最速下降法是一種不用求矩陣逆來(lái)解正規(guī)方程組的方法。它通過(guò)遞推方式尋求加權(quán)矢量的最佳值。雖然在自適應(yīng)濾波中很少直接使用最速下澤算法，但它構(gòu)成了其它自適應(yīng)算法、特別是LMS算法的基礎(chǔ)。圖2.1表示一個(gè)橫向?yàn)V波器。圖2.1橫向?yàn)V波器圖2.1橫向?yàn)V波器x(n)=[x(n,x(n一1),...,x(n一M+1)]r(2—1)加權(quán)矢量(即濾波器參數(shù)矢量)為w(n)=[w(n),w(n),...,w(n)]r(2一2)濾波器輸出為y(n)=Tw(n)x(n-i+1)=WT(n')x(n)(2一3)ii=1利用圖2-1中輸出信號(hào)y(n)與期望信號(hào)的d(n)的關(guān)系，誤差序列e(n)可以寫成:TOC\o"1-5"\h\ze(n)=d(n)-y(n)(2—4)自適應(yīng)濾波器就是根據(jù)誤差序列8(行)按照某種準(zhǔn)則和算法對(duì)其系數(shù)w(n)進(jìn)行調(diào)整，最終使自適應(yīng)濾波器的目標(biāo)(代價(jià))函數(shù)達(dá)到最小，即最佳濾波狀態(tài)。按照均方誤差(MSE)準(zhǔn)則所定義的目標(biāo)函數(shù)是F(e(n))=E(n)=E[e2(n)=E[d2(n)-2d(n)y(n)+y2(n)](2-5)將式(2—3)代入上式，得到E(n)=E[d2(n)—2E[d(n)wT(n)x(n)]+E[wt(n)x(n)xT(n)w(n)](2-6)固定濾波器系數(shù)，則目標(biāo)函數(shù)(2.6)可寫為E(n)=E=E[d2(n)]-2wTp+wtw(2.7)式中，R=E[x(n)xT(n)是輸入信號(hào)的自相關(guān)矩陣；P=E[d(n)x(n)]是期望信號(hào)與輸入信號(hào)的互相關(guān)矢量。假設(shè)輸入自相關(guān)矩陣日為非奇異的，當(dāng)R與P均已知時(shí)，將式(2.7)對(duì)W求導(dǎo)數(shù)，并令其等于零，可得到使目標(biāo)函數(shù)最小的最佳濾波參數(shù)W。為W。=R-1P(2-8)這個(gè)解稱為維納解，即最佳濾波參數(shù)值。從式(2.7)可以看出，自適應(yīng)濾波器的目標(biāo)函數(shù)是濾波參數(shù)叩的二次函數(shù)，因此形成了一個(gè)多維的超拋物曲面，二維時(shí)好像是一個(gè)碗狀的曲面且具有唯一的碗底最小點(diǎn)。這個(gè)多維的超拋物曲面通常稱之為自適應(yīng)濾波器的誤差性能曲面。位于該曲面上的某一點(diǎn)，經(jīng)過(guò)自適應(yīng)調(diào)節(jié)過(guò)程，可以朝碗底最小方向移動(dòng)，最終到達(dá)最小點(diǎn)。最速下降法就是實(shí)現(xiàn)這種從初始值到最佳值搜索的一種優(yōu)化技術(shù)，它利用梯度信息分析白適應(yīng)濾波性能和最佳濾波狀態(tài)，避免了對(duì)輸入信號(hào)自相關(guān)矩陣R直接求逆。可以想象，沿著E減小的方向調(diào)整權(quán)值W，應(yīng)該可以找到最佳值W。，因?yàn)樘荻鹊姆较蚴牵鲩L(zhǎng)最快的方向，所以負(fù)的梯度方向就是E減少最快的方向，這樣，就可以采用如下的遞推公式來(lái)調(diào)整W以尋找W。：WS+"命)+祖皿)](2-9)式中，▽(「)代表珂時(shí)刻孝的梯度，是一個(gè)MX1維的矢量，這里M為濾波器濾波權(quán)系數(shù)的數(shù)目；u是一個(gè)正實(shí)常數(shù)，通常被稱為步長(zhǎng)或步長(zhǎng)因子。根據(jù)梯度定義，▽(n)可以寫成：v(疽群F*]將式(2.7)對(duì)叩取偏導(dǎo)，可以得到:V(?)=-2P+2Rw(fi)將式(2—11)代入式(2-9)可得到最速下降法的遞推公式:w(w+l)=+2^[P-Rw(/t)](212)有關(guān)最速下降法的收斂性，這里只給出其結(jié)果。當(dāng)最速下降法滿足下面條件時(shí)是收斂的：0<u<入max式中，入吟是自相關(guān)矩陣R的最大特征根。

2.1.2最小均方算法如上節(jié)所述，要使用最速下降法，就要知道均方誤差性能函數(shù)的梯度的精確值，見式(2—11)，這就要求輸入信號(hào)x(n)和期望信號(hào)d(n)平穩(wěn)，并且要求它們的二階統(tǒng)計(jì)特性已知。而這是相當(dāng)復(fù)雜的，很多情況下它們是未知的或不完全知道的，因此一般采用梯度的估計(jì)值▽(n)來(lái)代替梯度▽(n)，即4])=W㈤泌㈤014)最小均方(LMS)算法就是使用瞬時(shí)輸出誤差功率的梯度▽E[e2(n)]作為均方誤差梯度▽E[e2(n)]的估計(jì)值，也就是令寸3)=&[尸(")]="㈣](2-15)將式(2—15)代入式(2-14)，有w(?t--w(nJ-=w(?+(2-16)式(2.16)就是LMS算法的遞推公式。自適應(yīng)LMS算法簡(jiǎn)單，既不需要計(jì)算輸入信號(hào)的相關(guān)函數(shù)，又不需要求矩陣的逆，因而得到了廣泛應(yīng)用。但是，由于LMS算法采用梯度矢量的瞬時(shí)估計(jì)，它有很大的方差，以至不能獲得最優(yōu)濾波性能。下面給出完整的算法步驟：有關(guān)參量：M——濾波器抽頭數(shù)；U——步長(zhǎng)；0<u<(MPin)-1，Pin=E[x(n)]2初始條件：w(0)=0或者由先驗(yàn)知識(shí)確定計(jì)算步驟：對(duì)于H=1,2，…⑴取x(n)，d(n)濾波y(n)=Wt(n)x(n)估計(jì)誤差e(n)=d(n)-y(n)⑷更新權(quán)向量w(H+1)=w(n)+ue(n)x(n)當(dāng)濾波器的輸入信號(hào)為有色隨機(jī)過(guò)程時(shí)，特別是輸入信號(hào)為高度相關(guān)的情況，大多數(shù)自適應(yīng)濾波算法的收斂速度都要下降，對(duì)于上述典型LMS算法。此問(wèn)題更加突出。為了提高收斂速度，相繼提出了多種改進(jìn)的算法。下面給出幾種改進(jìn)的權(quán)值遞推公式：(1)歸一化LMS算法：^M￡(n)x(n)^M￡(n)x(n)(247)式中，0<u<1為控制失調(diào)的固定收斂因子；Y是為了避免XT(n)x(n)過(guò)小而導(dǎo)致步長(zhǎng)值太大而設(shè)置的正常數(shù)。⑵簡(jiǎn)化的LMS算法:w(n+I)=隊(duì)(/0+2戶璃《[0打)問(wèn)用}(2-IS)或w(h十D=w(胛)葉2g(*)s■斷但(削(2*19)或w(jj-1)二w(Xi42舟，也珥x(聽侮即何(料)](2-20)式口,-泗(X)=V1,r>0式口,-泗(X)=V1,r>0-1Tx<0或一輕g?7(jr)=w("+1)二w(h)+4,(n+1)%伽++1)(2-21)式中，電=r/i」中「(刀-1.)\3+1)；fS+1)士d{n+1)-wr(?7)x(?—1;以上這幾種改進(jìn)LMS算法中，前兩種都是交步長(zhǎng)方法，后一種采用的是改變梯度估值的方法。除了這幾種方法以外，還有很多改進(jìn)的算法，比如變換域LMS算法，該算法適用于輸入信號(hào)具有高度相關(guān)性的情況下；頻域LMS算法，該算法與經(jīng)典梯度下降法相比較有著更好的收斂性；分塊LMS算法，與其它方法相比該算法計(jì)算量大為減少；最小高階均方(LMK)算法，該算法是LMS算法的擴(kuò)展，或者說(shuō)LMS算法是該算法的特例，當(dāng)系統(tǒng)噪聲為非高斯分布時(shí)，LMK算法要比LMS算法收斂精度高；QR分解LMS算法，該算法適用于橫向延遲線抽頭數(shù)目比較小的情況。其它方法這里不再列舉。2.2遞歸最小二乘自適應(yīng)濾波器最小二乘(LS)法是一種典型的有效的數(shù)據(jù)處理方法，既可用于靜態(tài)系統(tǒng)，又可用于動(dòng)態(tài)系統(tǒng)：既可用于線性系統(tǒng)，又可用于非線性系統(tǒng)；既可用于離線估計(jì)，又可用于在線估計(jì)。遞歸最小二乘(RecursiveLeastSquare簡(jiǎn)寫RLS)是最小乘法的一種快速算法，它包含時(shí)間遞歸最小二乘(TRLS)算法和階數(shù)遞歸最小二乘(ORES)算法兩方面內(nèi)容，一般前者適用于動(dòng)態(tài)系統(tǒng)辨識(shí)和在線估計(jì)，后者適用于靜態(tài)系統(tǒng)辨識(shí)和離線估計(jì)。與LMS算法相比，RLS算法有著非常快的收斂速度。圖2-2自適應(yīng)RLS算法采用RLS算法的自適應(yīng)濾波器如圖2-2所示。輸入信號(hào){x(n)}，含有N個(gè)已知樣本{x(1),x(2),x(3)???x(N)}，期望輸出為{d(n)}={d(1)，d(2)，…，d(N))。濾波器輸出為Nx?)-J}(n)x(F!-A+1)；h=(2-22)頊M為濾波器長(zhǎng)度，且MWN。誤差信號(hào)為e(n)=d(n)-y(n)(2-23)按照最小平方準(zhǔn)則，設(shè)計(jì)濾波器目標(biāo)函數(shù)為頃小一￡七)二￡【外)一如)r(224)TOC\o"1-5"\h\z商J=1將式(2-22)代入式(2—24)得到g㈤=￡d』⑴-舶月)［工°(W婦】)〕?=i}=\\o"CurrentDocument"~￡￡叫㈤心T+1)x(?-W-F1J(2-25)ft-lm-lr=l定義如下參量：,v奴幻柏一坦):k.m=0J：…、M—1(2-26)頃1為確定性自相關(guān)函數(shù)，表示輸入信號(hào)在抽頭k與抽頭m之間兩信號(hào)的相關(guān)性：

0(W;幻=￡#=0,1,…,MT(2-27)—為確定性互相關(guān)函數(shù)，表示期望響應(yīng)與在抽頭炸輸入信號(hào)之間的互相關(guān)性:虬㈤=文鄧)(2-28)r-l為期望響應(yīng)序列的能量。將式(2-26)?(2-28)代入式(2.25),目標(biāo)函數(shù)可寫為4=1■WA/」￡￡珥W)w血(聊(N；SLim—1)(2-29)而=[因此有=FW-J)+疙電(明(W-1，再-1)(2-30)令式(2-30)等于零，得到M￡眩3)4(7/;后-Is-1)=O(A"-【)；4=1,2,…,M(2-31)E=1把它簡(jiǎn)化成矩陣形式，有◎(珂將3)=凱叩)(2-32)式中，w(n)為MX1維最小平方估計(jì)的濾波器系數(shù)矢量，即W何)=M(心w2(n…,%伽)K(2-33]中(n)為延遲線抽頭輸入信號(hào)的確定性自相關(guān)函數(shù)，是一個(gè)MXM維矩陣即機(jī)心怖;LO)磯皿1〕…的;0,機(jī)心怖;LO)(2-34)煩1,1)…S(h；1W—1)-L0)機(jī)燈;A/TJ)■■-6(n;M-]};。(n)為脈沖響應(yīng)序列與輸入信號(hào)之間的確定性互相關(guān)函數(shù)MX1維矢量，即(2-34)晌)二國(guó)3;0)#(切,…1)「(2-35)假定矩陣中(n)是非奇異的，其逆矩陣存在，則由(2-32)可求得wSXbRwm)(2-S6J式f2,36)就是最+--乘法自適應(yīng)濾波算法的正規(guī)方程。從式中可以看出，它要求中(n)是可逆的矩陣，雖然如此，但是對(duì)大多數(shù)應(yīng)用來(lái)說(shuō)這都是成立的。若對(duì)于某應(yīng)用中(n)為降秩，即為不可逆矩陣，則式(2-36可理解為采用了偽逆矩陣。下面推導(dǎo)RLS算法由式(2，36)有w{?—1)「山T-l)O(w-1)(2-37)根據(jù)式(2.26)可得到機(jī)H；*,州)-0(舞一1;農(nóng)扒)+打一幻(2-38)寫成矩陣形式e(X)=o(n-I)+x(n)KT(n)(2-39)利用矩陣求逆定理+眼'B)P"(2-40)再由式(2-39)可求得①(n)-(5(阡.1);;(2-41)l+x，(為①十―1)x3)引入MXM維矩陣P(舛)二功"。)(2-42)和N維矢量-四(2-43)K(n)被稱為增益系數(shù)。將式(2.42)和式(2-43)代入(2-41)得到P")工P(t—1)-K(k)x「3)P3-L)(2-44)上式兩邊右乘x(n)P”)xS)二P(k—1)x。)一KW)妒5)P3—】狀倒］(2-45)用式(2.43)中分母多項(xiàng)式右乘上式兩邊，整理得到KSix『S)P3—1)x3)-P危一1)x(a)-K(m(2-46)把上式帶入式(2.45)中，可化簡(jiǎn)成下式=P(邱)x3)(2-47)另外，根據(jù)式(2.27)有如下遞推關(guān)系式。孩;幻=。(網(wǎng)一1;k)+d(心(鼻-k)Q-48)寫成矩陣形式Q(n)-9(打-1)+45)x("〕(2-49)式中MX1維矢量d(n)x(n)代表遞歸計(jì)算的更新校正項(xiàng)，把式(2—42)代入式(2-36)得到：w(w)=P(?)O(r)(2-50)再將式(2-49)代入上式，并由式(2-47)可得到w(ff)=P(n)6(n-1)+P(n)c/(n)A(n)=P3)f)(H-1)+(2-51)將式(2-44)代入式(2-51)中，且根據(jù)式(2-50)有w(?)=P(n-l)0(tt-1)-K(n)xr-1)0(?-1)+K(n)c/(n)=w("l)+K5)[4(/?)-x「(")w(/7-1)](2-52)上式就是RLS算法的遞推公式。與LMS算法相比較，兩者的主要差別在于增益系數(shù)，LMS算法簡(jiǎn)單的利用輸入矢量乘上常數(shù)，而RLS算法則用較復(fù)雜的K(n)。下面給出RLS算法的初始條件以及運(yùn)算步驟：初始條件：w(0)=0；P(O)=①-i(0)=6-iI為小的正實(shí)數(shù)運(yùn)算步驟：對(duì)于n=1,2，…(1)取d(n)，x(n)更新增益矢量KS).-—業(yè)1—-⑵】+x「g-1)x(〃〕更新濾波器參數(shù)K(g)Z更新逆矩陣P(H)二

第3章仿真3.1基于1]^算法的MATLAB仿真在matlab中輸入以下程序，可得出仿真結(jié)果g=100;%統(tǒng)計(jì)仿真次數(shù)為gN=1024;%輸入信號(hào)抽樣點(diǎn)數(shù)k=128;%濾波器階數(shù)pp=zeros(g,N-k);其平均%將每次獨(dú)立循環(huán)的誤差結(jié)果存于矩陣pp中，以便后面對(duì)u=0.00026;forq=1:g%濾波器收斂因子t=1:N;a=1;s=a*sin(0.05*pi*t);%輸入單信號(hào)sfigure(1);subplot(411)plot(s);%信號(hào)s時(shí)域波形title('信號(hào)s時(shí)域波形');xlabel('n');axis([0,N,-a-1,a+1]);xn=awgn(s,5);%設(shè)置初值%加入均值為零的高斯白噪聲y=zeros(1,N);%輸出信號(hào)yy(1:k)=xn(1:k);%將輸入信號(hào)xn的前k個(gè)