自適應(yīng)濾波LMS算法及RLS算法及其仿真

自適應(yīng)濾波TOC\o"1-5"\h\z\o"CurrentDocument"第1章緒論 1\o"CurrentDocument"1．1自適應(yīng)濾波理論發(fā)展過(guò)程 1\o"CurrentDocument"1．2自適應(yīng)濾波發(fā)展前景 2\o"CurrentDocument"1．2．1小波變換與自適應(yīng)濾波 2\o"CurrentDocument"1．2．2模糊神經(jīng)網(wǎng)絡(luò)與自適應(yīng)濾波 3第2章線性自適應(yīng)濾波理論 4\o"CurrentDocument"2．1最小均方自適應(yīng)濾波器 4\o"CurrentDocument"2．1．1最速下降算法 4\o"CurrentDocument"2．1．2最小均方算法 6\o"CurrentDocument"2．2遞歸最小二乘自適應(yīng)濾波器 7\o"CurrentDocument"第3章仿真 12\o"CurrentDocument"基于LMS算法的MATLAB^真 12\o"CurrentDocument"基于RLS算法的MATLAB八真 15組別：第二小組組員：黃亞明李存龍楊振第1章緒論從連續(xù)的(或離散的)輸入數(shù)據(jù)中濾除噪聲和干擾以提取有用信息的過(guò)程稱為濾波。相應(yīng)的裝置稱為濾波器。實(shí)際上，一個(gè)濾波器可以看成是一個(gè)系統(tǒng)，這個(gè)系統(tǒng)的目的是為了從含有噪聲的數(shù)據(jù)中提取人們感興趣的、或者希望得到的有用信號(hào)，即期望信號(hào)。濾波器可分為線性濾波器和非線性濾波器兩種。當(dāng)濾波器的輸出為輸入的線性函數(shù)時(shí)，該濾波器稱為線性濾波器，當(dāng)濾波器的輸出為輸入的非線性函數(shù)時(shí)，該濾波器就稱為非線性濾波器。自適應(yīng)濾波器是在不知道輸入過(guò)程的統(tǒng)計(jì)特性時(shí)，或是輸入過(guò)程的統(tǒng)計(jì)特性發(fā)生變化時(shí)，能夠自動(dòng)調(diào)整自己的參數(shù)，以滿足某種最佳準(zhǔn)則要求的濾波器。1．11．1自適應(yīng)濾波理論發(fā)展過(guò)程自適應(yīng)技術(shù)與最優(yōu)化理論有著密切的系。自適應(yīng)算法中的最速下降算法以及最小二乘算法最初都是用來(lái)解決有／無(wú)約束條件的極值優(yōu)化問(wèn)題的。1942年維納(Wiener)研究了基于最小均方誤差(MMSE準(zhǔn)則的在可加性噪聲中信號(hào)的最佳濾波問(wèn)題。并利用Wiener.Hopf方程給出了對(duì)連續(xù)信號(hào)情況的最佳解?；谶@準(zhǔn)則的最佳濾波器稱為維納濾波器。 20世紀(jì)60年代初，卡爾曼(Kalman)突破和發(fā)展了經(jīng)典濾波理論，在時(shí)間域上提出了狀態(tài)空間方法，提出了一套便于在計(jì)算機(jī)上實(shí)現(xiàn)的遞推濾波算法，并且適用于非平穩(wěn)過(guò)程的濾波和多變量系統(tǒng)的濾波，克服了維納(Wiener)濾波理論的局限性，并獲得了廣泛的應(yīng)用。這種基于MMS準(zhǔn)則的對(duì)于動(dòng)態(tài)系統(tǒng)的離散形式遞推算法即卡爾曼濾波算法。這兩種算法都為自適應(yīng)算法奠定了基礎(chǔ)。從頻域上的譜分析方法到時(shí)域上的狀態(tài)空間分析方法的變革，也標(biāo)志著現(xiàn)代控制理論的誕生。最優(yōu)濾波理論是現(xiàn)代控制論的重要組成部分。在控制論的文獻(xiàn)中，最優(yōu)濾波理論也叫做Kalman濾波理論或者狀態(tài)估計(jì)理論。從應(yīng)用觀點(diǎn)來(lái)看，Kalman濾波的缺點(diǎn)和局限性是應(yīng)用Kalman濾波時(shí)要求知道系統(tǒng)的數(shù)學(xué)模型和噪聲統(tǒng)計(jì)這兩種先驗(yàn)知識(shí)。然而在絕大多數(shù)實(shí)際應(yīng)用問(wèn)題中，它們是不知道的，或者是近似知道的，也或者是部分知道的。應(yīng)用不精確或者錯(cuò)誤的模型和噪聲統(tǒng)計(jì)設(shè)計(jì)Kalman濾波器將使濾波器性能變壞，導(dǎo)致大的狀態(tài)估計(jì)誤差，甚至使濾波發(fā)散。為了解決這個(gè)矛盾，產(chǎn)生了自適應(yīng)濾波。最早的自適應(yīng)濾波算法是最小JY(LMS)算法。它成為橫向?yàn)V波器的一種簡(jiǎn)單而有效的算法。實(shí)際上，LM算法是一種隨機(jī)梯度算法，它在相對(duì)于抽頭權(quán)值的誤差信號(hào)平方幅度的梯度方向上迭代調(diào)整每個(gè)抽頭權(quán)值。1996年Hassibi等人證明了LM算法在H。準(zhǔn)則下為最佳，從而在理論上證明了LM算法具有孥實(shí)性。自Widrow等人1976年提出LMSt適應(yīng)濾波算法以來(lái)，經(jīng)過(guò)30多年的迅速發(fā)展，已經(jīng)使這一理論成果成功的應(yīng)用到通信、系統(tǒng)辨識(shí)、信號(hào)處理和自適應(yīng)控制等領(lǐng)域，為自適應(yīng)濾波開(kāi)辟了新的發(fā)展方向。在各種自適應(yīng)濾波算法中，LMSf法因?yàn)槠浜?jiǎn)單、計(jì)算量小、穩(wěn)定性好和易于實(shí)現(xiàn)而得到了廣泛應(yīng)用。這種算法中，固定步長(zhǎng)因子卩對(duì)算法的性能有決定性的影響。若卩較小時(shí)，算法收斂速度慢，并且為得到滿意的結(jié)果需要很多的采樣數(shù)據(jù)，但穩(wěn)態(tài)失調(diào)誤差較小：當(dāng)“較大時(shí)，該算法收斂速度快，但穩(wěn)態(tài)失調(diào)誤差變大，并有可能使算法發(fā)散。收斂速度與穩(wěn)態(tài)失調(diào)誤差是不可兼得的兩個(gè)指標(biāo)。以往的文獻(xiàn)對(duì)LMSt法的性能和改進(jìn)算法已經(jīng)做出了相當(dāng)多的研究，并且至今仍然是一個(gè)重要的研究課題。另一類重要的自適應(yīng)算法是最小二乘（LS）算法。LS算法早在1795年就由高斯提出來(lái)了，但LS算法存在運(yùn)算量大等缺點(diǎn)，因而在自適應(yīng)濾波中一般采用其遞推形式一一遞推最小二乘（RLS）算法，這是一種通過(guò)遞推方式尋求最佳解的算法，復(fù)雜度比直接LS算法小，因而獲得了廣泛應(yīng)用。1994年Sayed和Kailath建立了Kalman濾波和RLSS法之間的對(duì)應(yīng)關(guān)系，證明了RLSS法事實(shí)上是Kalman濾波器的一種特例，從而使人們對(duì)RLSS法有了進(jìn)一步的理解，而且Kalman濾波的大量研究成果可應(yīng)用于自適應(yīng)濾波處理。這對(duì)自適應(yīng)濾波技術(shù)起到了重要的推動(dòng)作用?；旧希F(xiàn)有的參考文獻(xiàn)都是基于這兩種算法進(jìn)行改進(jìn)的。而這兩種算法又可以簡(jiǎn)單的用以下語(yǔ)句來(lái)描述：LMS（抽頭權(quán)向量更新值）=（老的抽頭權(quán)向量值）+（學(xué)習(xí)速率）（抽頭輸出向量）（誤差信號(hào)）RLS（狀態(tài)遞推值）=（舊的狀態(tài)值）+（卡爾曼增益）（新息向量）以往的研究多集中在線性濾波方面，非線性濾波理論還有待于進(jìn)一步的研究開(kāi)發(fā)。1．2自適應(yīng)濾波發(fā)展前景現(xiàn)代信號(hào)處理理論為自適應(yīng)濾波技術(shù)的發(fā)展提供了廣闊的空間。尤其是小波技術(shù)和人工智能理論的發(fā)展，更是推動(dòng)和加快了自適應(yīng)濾波技術(shù)的前進(jìn)。1．2．1小波變換與自適應(yīng)濾波小波變換是由法國(guó)地球物理學(xué)家Morlet于80年代初在分析地球物理信號(hào)時(shí)作為種信號(hào)分析的數(shù)學(xué)工具提出來(lái)的。通俗地講，小波是一種短期波。在積分變換中，小波作為核函數(shù)的用法大體與傅立葉分析中的正弦和余弦函數(shù)或與沃耳什（Walsh）分析中的沃耳什函數(shù)的用法相同。目前，小波分析主要用于信號(hào)處理、圖像壓縮、次能帶編碼、醫(yī)學(xué)顯像、數(shù)據(jù)壓縮、地震分析、消除噪聲數(shù)據(jù)、計(jì)算機(jī)圖像、聲音合成等領(lǐng)域。小波變換的基本特點(diǎn)是多分辨率或多標(biāo)度的觀點(diǎn)，目的是“既要看到森林（信號(hào)的概貌），又要看到樹(shù)木（信號(hào)的細(xì)節(jié)）”。借助于小波的精辟理論，自適應(yīng)濾波技術(shù)有了新的發(fā)展方向，這也引起了信號(hào)處理領(lǐng)域許多學(xué)者專家的濃厚興趣和熱切關(guān)注。基于小波變換的自適應(yīng)濾波技術(shù)是未來(lái)自適應(yīng)濾波發(fā)展的方向之一，有著廣闊的應(yīng)用前景。目前還有許多問(wèn)題亟待解決，例如不同形式的小波濾波器的濾波效果研究；在時(shí)變信號(hào)濾波方面的應(yīng)用研究以及對(duì)于失調(diào)噪聲的濾波等等。1．2．2模糊神經(jīng)網(wǎng)絡(luò)與自適應(yīng)濾波神經(jīng)網(wǎng)絡(luò)作為一種新的計(jì)算方法，已經(jīng)引起了人們廣泛的研究興趣。神經(jīng)網(wǎng)絡(luò)可以認(rèn)為是一種由許多稱為“神經(jīng)元”（neuron）的基本計(jì)算單元通過(guò)廣泛的連接所組成的網(wǎng)絡(luò)。它是在現(xiàn)代神經(jīng)科學(xué)研究成果的基礎(chǔ)上提出來(lái)的，反映了人腦功能的基本特征。網(wǎng)絡(luò)的信息處理由神經(jīng)元之間的相互作用來(lái)實(shí)現(xiàn)，網(wǎng)絡(luò)的學(xué)習(xí)與識(shí)別決定于各神經(jīng)元之間聯(lián)接權(quán)系數(shù)的動(dòng)態(tài)變化過(guò)程。人工神經(jīng)網(wǎng)絡(luò)是模仿和延伸人腦認(rèn)知功能的新型智能信息處理系統(tǒng)，由于神經(jīng)元本身具有高度自適應(yīng)性，因而由大量神經(jīng)元組成的神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)性、自組織性、巨量并行性、存儲(chǔ)分布性、結(jié)構(gòu)可變性等特點(diǎn)，能解決常規(guī)信息處理方法難以解決或無(wú)法解決的問(wèn)題。模糊技術(shù)也是現(xiàn)代智能理論的一個(gè)重要方面。利用模糊技術(shù)我們可以很容易的將人們熟悉的語(yǔ)言描述應(yīng)用到自動(dòng)控制或信號(hào)處理中來(lái)，然而，模糊理論與神經(jīng)網(wǎng)絡(luò)都存在著各自的優(yōu)缺點(diǎn)。模糊邏輯和神經(jīng)網(wǎng)絡(luò)在許多方面具有關(guān)聯(lián)性和互補(bǔ)性。它們的交叉研究正是基于二者互補(bǔ)性和關(guān)聯(lián)性的結(jié)合。首先，兩者具有互補(bǔ)性。一方面，模糊技術(shù)的特長(zhǎng)在于模糊推理能力，容易進(jìn)行高階的信息處理。將模糊技術(shù)引入神經(jīng)網(wǎng)絡(luò)，可以大大拓寬神經(jīng)網(wǎng)絡(luò)處理信息的范圍和能力，使其不僅能夠處理精確信息，也能夠處理模糊信息或其它不精確信息，不僅能夠?qū)崿F(xiàn)精確性聯(lián)想及映射，也能夠?qū)崿F(xiàn)不精確性聯(lián)想及映射，特別是模糊聯(lián)想和模糊映射。另一方面，神經(jīng)網(wǎng)絡(luò)在自學(xué)習(xí)和自動(dòng)模式識(shí)別方面有極強(qiáng)的優(yōu)勢(shì)，采取神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)行模糊信息處理，則使得模糊規(guī)則的自動(dòng)提取及隸屬函數(shù)的全自動(dòng)生成有可能得以解決。其次，兩者具有關(guān)聯(lián)性，有許多共同點(diǎn)。它們都著眼于模擬人的思維，都是為了處理實(shí)際中不確定性、不精確性等引起的系統(tǒng)難以控制等問(wèn)題。兩者在形式上有不少相似之處，其信息都是分布式存儲(chǔ)于其結(jié)構(gòu)之中，從而都具有好的容錯(cuò)能力。不管是神經(jīng)網(wǎng)絡(luò)還是模糊邏輯，都不需要建立數(shù)學(xué)模型，只需根據(jù)輸入的采樣數(shù)據(jù)去獲取所需的結(jié)論，也就是模型無(wú)關(guān)估計(jì)器。另外，神經(jīng)網(wǎng)絡(luò)的映射功能早已得到證明。近年來(lái)，Kosko、L。X.Wan等證明了模糊系統(tǒng)能以任意精度逼近緊密集上的實(shí)連續(xù)函數(shù)，這也說(shuō)明了二者之間有著密切的關(guān)系。因此，將兩者融合在一起的模糊神經(jīng)網(wǎng)絡(luò)可以有效的克服兩者的缺點(diǎn)，提高整個(gè)網(wǎng)絡(luò)的性能。譬如；神經(jīng)網(wǎng)絡(luò)可以降低透明程度，使它們更接近于模糊系統(tǒng)；而模糊系統(tǒng)可以提高自適應(yīng)性，更接近于神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)與模糊神經(jīng)網(wǎng)絡(luò)有力的推動(dòng)了自適應(yīng)濾波技術(shù)，特別是非線性自適應(yīng)濾波技術(shù)的發(fā)展。事實(shí)上，一個(gè)神經(jīng)網(wǎng)絡(luò)或模糊神第經(jīng)網(wǎng)2絡(luò)本章身就線可以性看作自是一適個(gè)自適應(yīng)應(yīng)濾濾波器波。理論線性自適應(yīng)濾波理論比非線性自適應(yīng)濾波理論發(fā)展的比較早、比較成熟。這里只重點(diǎn)介紹基本的最小均方（LMS）年tl最小二乘（LS）自適應(yīng)濾波器。2.1最小均方自適應(yīng)濾波器本節(jié)所討論的LMSf法是應(yīng)用最廣泛的一類算法，從理論體系上來(lái)看，最優(yōu)化方法中的最速下降法是隨機(jī)梯度信息處理的一種遞歸算法，在誤差性能未知的情況下，它可以尋求誤差曲面的最小點(diǎn)，可為平穩(wěn)隨機(jī)條件下的 LMSf法提供若干啟發(fā)性思路，并且是分析算法性能的重要基礎(chǔ)。2.1.1最速下降算法最速下降法是一種不用求矩陣逆來(lái)解正規(guī)方程組的方法。它通過(guò)遞推方式尋求加權(quán)矢量的最佳值。雖然在自適應(yīng)濾波中很少直接使用最速下澤算法，但它構(gòu)成了其它自適應(yīng)算法、特別是LMSf法的基礎(chǔ)。圖2.1表示一個(gè)橫向?yàn)V波器。

字自適應(yīng)控制算法M4I）鼻(川一M字自適應(yīng)控制算法M4I）鼻(川一M*2)2?1橫向?yàn)V波器輸入矢量為x(n)二儀(n,x(n—1),…,x(n—M1)『(2—1)加權(quán)矢量(即濾波器參數(shù)矢量)為w(n)二〔w(n),w(n)仆..川皿」(n)t(2一2)濾波器輸出為myn八Wjnxn-i1=wTnxn（2一3）i=±利用圖2-1中輸出信號(hào)y(n)與期望信號(hào)的d(n)的關(guān)系，誤差序列e(n)可以寫(xiě)成:e(n)=d(n)-y(n)(2—4)自適應(yīng)濾波器就是根據(jù)誤差序列8(行)按照某種準(zhǔn)則和算法對(duì)其系數(shù)w(n)進(jìn)行調(diào)整，最終使自適應(yīng)濾波器的目標(biāo)(代價(jià))函數(shù)達(dá)到最小，即最佳濾波狀態(tài)。按照均方誤差(MSE)準(zhǔn)則所定義的目標(biāo)函數(shù)是TOC\o"1-5"\h\zF(e(n))=E(n)=E[e(n2)=22E[d(n)-2d(n)y(n)+y (n)] (2-5)將式(2—3)代入上式，得到E(n)=E[d2(n)-2E[d(n)wT(n)x(n)]+E[wT(n)x(n)xT(n)w(n)] (2-6)固定濾波器系數(shù)，貝U目標(biāo)函數(shù)(2.6)可寫(xiě)為E(n)=E=E[d(n2)]-2wp+wTwT (2 .7)式中，R=E[x(n)xT(n)是輸入信號(hào)的自相關(guān)矩陣；P=E[d(n)x(n)]是期望信號(hào)與輸入信號(hào)的互相關(guān)矢量。假設(shè)輸入自相關(guān)矩陣R為非奇異的，當(dāng)R與P均已知時(shí)，將式(2.7)對(duì)W求導(dǎo)數(shù)，并令其等于零，可得到使目標(biāo)函數(shù)最小的最佳濾波參數(shù)W為W=F-1P (2-8)這個(gè)解稱為維納解，即最佳濾波參數(shù)值。從式(2.7)可以看出，自適應(yīng)濾波器的目標(biāo)函數(shù)是濾波參數(shù)W勺二次函數(shù)，因此形成了一個(gè)多維的超拋物曲面，二維時(shí)好像是一個(gè)碗狀的曲面且具有唯一的碗底最小點(diǎn)。 這個(gè)多維的超拋物曲面通常稱之為自適應(yīng)濾波器的誤差性能曲面。位于該曲面上的某一點(diǎn)，經(jīng)過(guò)自適應(yīng)調(diào)節(jié)過(guò)程，可以朝碗底最小方向移動(dòng)，最終到達(dá)最小點(diǎn)。最速下降法就是實(shí)現(xiàn)這種從初始值到最佳值搜索的一種優(yōu)化技術(shù)，它利用梯度信息分析白適應(yīng)濾波性能和最佳濾波狀態(tài)，避免了對(duì)輸入信號(hào)自相關(guān)矩陣 R直接求逆?？梢韵胂?，沿著E減小的方向調(diào)整權(quán)值應(yīng)該可以找到最佳值W，因?yàn)樘荻鹊姆较蚴牵鲩L(zhǎng)最快的方向，所以負(fù)的梯度方向就是E減少最快的方向，這樣，就可以采用如下的遞推公式來(lái)調(diào)整W以尋找W:(2-9)W(H+1)=w(n)+(2-9)式中，▽(n)代表珂時(shí)刻孝的梯度，是一個(gè)MX1維的矢量，這里M為濾波器濾波權(quán)系數(shù)的數(shù)目；u是一個(gè)正實(shí)常數(shù)，通常被稱為步長(zhǎng)或步長(zhǎng)因子。根據(jù)梯度定義，▽(n)可以寫(xiě)成:=-￡[2e(n)x(H)J(241)(MO)將式(2.7)對(duì)W取偏導(dǎo)，可以得到:(241)(MO)V(n)=-2P+2Rw(n)將式(2—11)代入式(2-9)可得到最速下降法的遞推公式w(?+1)=w(n)+2“[-Rw(n)]有關(guān)最速下降法的收斂性，這里只給出其結(jié)果。當(dāng)最速下降法滿足下面條件時(shí)是收斂的：Ov卩<入式中，入是 (2J2)max ma自相關(guān)矩陣R的最大特征根2.1.2最小均方算法如上節(jié)所述，要使用最速下降法，就要知道均方誤差性能函數(shù)的梯度的精確值，見(jiàn)式(2—11),這就要求輸入信號(hào)x(n)和期望信號(hào)d(n)平穩(wěn)，并且要求它們的二階統(tǒng)計(jì)特性已知。而這是相當(dāng)復(fù)雜的，很多情況下它們是未知的或不完全知道的，因此一般采用梯度的估計(jì)值▽(n)來(lái)代替梯度▽(n)，即w(w+1)=w(w)“訴⑷(2-14)最小均方(LMS)算法就是使用瞬時(shí)輸出誤差功率的梯度▽E[e2(n)]作為均方誤差梯度▽E[e2(n)]的估計(jì)值，也就是令(2-15)將式(2—15)代入式(2-14)，有w(w+1)=w(n)一=w(rt)-口V05) wr(n)x(w)p=vv(n)+2Ae(w)x(n)(2-16)式(2.16)就是LMSf法的遞推公式。自適應(yīng)LMSf法簡(jiǎn)單，既不需要計(jì)算輸入信號(hào)的相關(guān)函數(shù)，又不需要求矩陣的逆，因而得到了廣泛應(yīng)用。但是，由于LMSf法采用梯度矢量的瞬時(shí)估計(jì)，它有很大的方差，以至不能獲得最優(yōu)濾波性能。下面給出完整的算法步驟：有關(guān)參量：M濾波器抽頭數(shù)；卩---步長(zhǎng)；0<卩V(MR)：Rn=E[xi(n)]初始條件：w(O)=0或者由先驗(yàn)知識(shí)確定計(jì)算步驟：對(duì)于H=1,2,?(1)取x(n)，d(n)⑵濾波y(n)=WT(n)x(n)⑶估計(jì)誤差e(n)=d(n)-y(n)⑷更新權(quán)向量w(H+1)=w(n)+卩e(n)x(n)當(dāng)濾波器的輸入信號(hào)為有色隨機(jī)過(guò)程時(shí)，特別是輸入信號(hào)為高度相關(guān)的情況，大多數(shù)自適應(yīng)濾波算法的收斂速度都要下降，對(duì)于上述典型LM算法。此問(wèn)題更加突出。為了提高收斂速度，相繼提出了多種改進(jìn)的算法。下面給出幾種改進(jìn)的權(quán)值遞推公式：(1)歸一化LM算法：B扇(艸)(2-17)式中，0V卩<1為控制失調(diào)的固定收斂因子；丫是為了避免XT(n)x(n)過(guò)小而導(dǎo)致步長(zhǎng)值太大而設(shè)置的正常數(shù)。

⑵簡(jiǎn)化的LM算法:(厶⑻(2J9)(2-20)w(w*1)=W(/7)■￥2人5-/gK[x{n)]e(M)或W(厶⑻(2J9)(2-20)(-])=1￥(用)+2俘何念如[肌町I或W(JI+1)=w(/t)+2PAigw[X(M)]Sig廠e(n)]F式中,(3)MLM畀法:1Q0 或八gn(x)=-IM"式中,(3)MLM畀法:-I0 0,工=0w(w+J)=w(n)+A(w+l)e(界+l)x(n+1)u式中，=A/l+Axr(w+lX?+l)i切(”1)-rf(?+1)-wr(n)x(nd-1)以上這幾種改進(jìn)LM算法中，前兩種都是交步長(zhǎng)方法，后一種采用的是改變梯度估值的方法。除了這幾種方法以外，還有很多改進(jìn)的算法，比如變換域LM算法，該算法適用于輸入信號(hào)具有高度相關(guān)性的情況下；頻域LM算法，該算法與經(jīng)典梯度下降法相比較有著更好的收斂性；分塊LMST法，與其它方法相比該算法計(jì)算量大為減少；最小高階均方(LMK)算法，該算法是LM算法的擴(kuò)展，或者說(shuō)LMS算法是該算法的特例，當(dāng)系統(tǒng)噪聲為非高斯分布時(shí)，LM!算法要比LM算法收斂精度高；QR分解LM算法，該算法適用于橫向延遲線抽頭數(shù)目比較小的情況。其它方法這里不再列舉。2.2遞歸最小二乘自適應(yīng)濾波器最小二乘(LS)法是一種典型的有效的數(shù)據(jù)處理方法， 既可用于靜態(tài)系統(tǒng)，又可用于動(dòng)態(tài)系統(tǒng)：既可用于線性系統(tǒng)，又可用于非線性系統(tǒng)；既可用于離線估計(jì)，又可用于在線估計(jì)。遞歸最小二乘(RecursiveLeastSquare簡(jiǎn)寫(xiě)RLS)是最小乘法的一種快速算法，它包含時(shí)間遞歸最小二乘(TRLS)算法和階數(shù)遞歸最小二乘(ORES算法兩方面內(nèi)容，一般前者適用于動(dòng)態(tài)系統(tǒng)辨識(shí)和在線估計(jì)， 后者適用于靜態(tài)系統(tǒng)辨識(shí)和離線估計(jì)。與LMSf法相比，RLSS法有著非常快的收斂速度。

it小二琪算法圖2-2自適應(yīng)RLS算法采用RLS算法的自適應(yīng)濾波器如圖2-2所示。輸入信號(hào){x(n)},含有N個(gè)已知樣本{x(1),x(2),x(3) …x(N)}，期望輸出為{d(n)}={d(1),d(2),…，d(N))。濾波器輸出為M丁何之》Wjt(rt)x(n-A+J)(n=\工^>N (2-22)M為濾波器長(zhǎng)度，且MNo誤差信號(hào)為e(n)=d(n)-y(n)(2-23)百何=￡e2(i)百何=￡e2(i)=J—l￡[丹)-MOJ2Jnl(2-24)g(町二g(町二藝⑴⑴一2工h；/=i-七+1)]■■i=i將式(2-22)代入式(2—24)得到MM JV+工￡W女(n)wr。S)》x(i-左+1)x(;-個(gè)+1) (2-25)定義如下參量：N二工天(j一上)不(：-m)： =0,1，…、M-1 (2-26)為確定性自相關(guān)函數(shù)，表示輸入信號(hào)在抽頭k與抽頭n之間兩信號(hào)的相關(guān)性:

2-27)e(N;納一￡/(講am20丄…,M2-27)f?】為確定性互相關(guān)函數(shù)，表示期望響應(yīng)與在抽頭K1入信號(hào)之間的互相關(guān)性：(2-28)1*1為期望響應(yīng)序列的能量。將式(2-26)?(2-28)代入式(2.25)，目標(biāo)函數(shù)可寫(xiě)為()=E*00-2 玄叫(/的T(2?29)(2-30)十》￡叫5)略(聊(M血-1N-1)*(2?29)(2-30)因此有-20{N;11)+2亡％債)0(N;—1,骯-1)嘰(町令式(2-30)等于零，得到X%(并妙(N;代一1,折-D二G(N;*-1)；左=(2八31)m=]把它簡(jiǎn)化成矩陣形式，有(2-32)O(n)w(n)=e(7J)(2-32)式中，w(n)為MX1維最小平方估計(jì)的濾波器系數(shù)矢量，即w(n)=[州(心w2(心??，w財(cái)(w)f (2-33)①(n)為延遲線抽頭輸入信號(hào)的確定性自相關(guān)函數(shù)，是一個(gè)MXM隹矩陣即<0(打;04) 八(n:0,l) ?… 0(n;O,M-1)(2-34)肌歇1力) @(丹；1,1)… 侃科;1」『一1)(2-34)0(/1)=..■?少(隔財(cái)一1,0)妙(用；附-1J)…少(隔財(cái)一9(n)為脈沖響應(yīng)序列與輸入信號(hào)之間的確定性互相關(guān)函數(shù) MX1維矢量，即0(?)=舊(”0)衛(wèi)5 …-l)r (2-35)

假定矩陣①(n)是非奇異的，其逆矩陣存在，則由(2-32)可求得w(w)=G>_1(rt)0(?7) (2-36)式f2,36)就是最+--乘法自適應(yīng)濾波算法的正規(guī)方程。從式中可以看出，它要求①(n)是可逆的矩陣，雖然如此，但是對(duì)大多數(shù)應(yīng)用來(lái)說(shuō)這都是成立的。若對(duì)于某應(yīng)用①(n)為降秩，即為不可逆矩陣，則式(2-36可理解為采用了偽逆矩陣。下面推導(dǎo)RLS算法由式(2，36)有(2刁7)w(n-1)二①“n-&(n-1)(2刁7)根據(jù)式(2.26)可得到(2-38)(2-39)(2-40)041)(2-39)(2-40)041)(ji)=Q>(n-t)+x(w)xr(n)利用矩陣求逆定理DA~}{A十BCD)'1=DA~}①一(用一l)x(n)xT色)?t

5_9再由式(2-39)可求得 ——)引入MXM隹矩陣(242)和N維矢量(2-43)l+xr(tt)P(o-l)x(n)K(n)被稱為增益系數(shù)。將式(2.42)和式(2-43)代入(2-41)得到P(w)=P(tt-])-K(w)X7(r)P(zj一1) (2-44)上式兩邊右乘x(n)P(n)x(z?)=r(n1)x(/?)-K(w)xJ-1)x(n) (2-45)用式(2.43)中分母多項(xiàng)式右乘上式兩邊，整理得到K(?)x;(n)P(rt-l)x(w)=P(?-l)x(rt)-K(?) (2-46)把上式帶入式(2.45)中，可化簡(jiǎn)成下式

K何二P(w>(w)另外，根據(jù)式(2.27)有如下遞推關(guān)系式0(料;k)二昕一1;*)+d(n)x(n-k) (2-48)寫(xiě)成矩陣形式Q(n)=Q(n-1)+d(n)x(n) (2-49)式中MX1維矢量d(n)x(n)代表遞歸計(jì)算的更新校正項(xiàng)，把式(2—42)代入式(2-36)得到：w(n)=P(n)e(n) (2-50)再將式(2-49)代入上式，并由式(2-47)可得到w(w)=P(n)0(M—1)+P(w)d(?)x(n)■P(n)6(n一1)4K(n)d(n) (2-51)將式(2-44)代入式(2-51)中，且根據(jù)式(2-50)有w(n)=P(n-l)0(w-1)-K(n)xr(n)P(n-1)0(H-1)+K(nX(n)(2-52)=w(w-l)+KgM(n)一xr(n)A(n-1)](2-52)上式就是RLS算法的遞推公式。與LMST法相比較，兩者的主要差別在于增益系數(shù)，LMS算法簡(jiǎn)單的利用輸入矢量乘上常數(shù)，而RLS算法則用較復(fù)雜的K(n)。下面給出RLS算法的初始條件以及運(yùn)算步驟：初始條件：w(O)=0;P(O)=①-1(0)=S-11為小的正實(shí)數(shù)運(yùn)算步驟：對(duì)于n=1,2，?(1)取d(n)，x(n)更新增益矢雖K(n)更新增益矢雖K(n)-fmoo_(2)w(n)=w(w-1)+K(n)[J(ft)-xj(n)w(挖一1)]更新濾波器參數(shù)⑷更新逆矩陣叩72，卜「上'■

第3章仿真3.1基于LMS算法的MATLA仿真在matlab中輸入以下程序，可得出仿真結(jié)果g=100;%統(tǒng)計(jì)仿真次數(shù)為gN=1024;%輸入信號(hào)抽樣點(diǎn)數(shù)k=128;pp=zeros?N-k);其平均%濾波器階數(shù)%將每次獨(dú)立循環(huán)的誤差結(jié)果存于矩陣PP中，以便后面對(duì)u=0?00026;forq=1:g%濾波器收斂因子t=1:N;a=1;s=a*sin(0.05*pi*t); %輸入單信號(hào)sfigure(1);subplot(411)Plot(s);%信號(hào)s時(shí)域波形title('信號(hào)s時(shí)域波形')；xlabel('n');axis([0,N,-a-1,a+1]);xn=awgn(s,5);%設(shè)置初值%加入均值為零的咼斯白噪聲y=zeros(1,N);%輸出信號(hào)yy(1:k)=xn(1:k);%將輸入信號(hào)xn的前k個(gè)值作為輸出y的前k個(gè)值w=zeros(1,k);e=zeros(1,N);%用LMS算法迭代濾波fori=(k+1):N%設(shè)置抽頭加權(quán)初值%誤差信號(hào)XN=xn((i-k+1):(i));y(i)=w*XN';e(i)=s(i)-y(i);w=w+u*e(i)*XN;

end pp(q,:)=(e((k+1):N))A2;end%算法收斂曲線subplot(412)plot(xn);title('信號(hào)s加噪聲后的時(shí)域波形')；%將每次循環(huán)的圖形顯示結(jié)果保存下來(lái)%將每次循環(huán)的圖形顯示結(jié)果保存下來(lái)plot(y)；title('自適應(yīng)濾波后的輸出時(shí)域波形');subplot(414)plot(e);title('估計(jì)誤差e(t)的時(shí)域波形');forb=1:N-kbi(b)=sum(pp(:,b))/g;endfigure(2);t=1:N-k;plot(t,bi,'r');title(收斂曲線')；holdon%信號(hào)s時(shí)域波形%信號(hào)s時(shí)域波形%求誤差統(tǒng)計(jì)平均

正弦信號(hào)占時(shí)域波形2o--WWVWVWWWWWVWWW