RLS和LMS自適應(yīng)算法分析資料

1、rls和lms自適應(yīng)算法分析摘要：本文主要介紹了自適應(yīng)濾波的兩種算法：最小均方(lms, leastmean squares)和遞推最小二乘(rls, recursive least squares)兩種基 本自適應(yīng)算 法。我們對(duì)這兩種基本的算法進(jìn)行了原理介紹，并進(jìn)行了 matlab仿真。通過(guò)仿真結(jié) 果，我們對(duì)兩種自適應(yīng)算法進(jìn)行了性能分析，并對(duì)其進(jìn)行了比較。用matlab求出了 lms自適應(yīng)算法的權(quán)系數(shù)，及 其學(xué)習(xí)過(guò)程曲線，和rls自適應(yīng)權(quán)系數(shù)算法的學(xué)習(xí) 過(guò)程。關(guān)鍵詞：自適應(yīng)濾波、lms、rls、matlab仿真abstract: this article mainly in troduces

2、 two kinds of adaptive filteri ng algorithms: least mean square (lms), further mean squares) and recursive least squares (rls, recursive further squares) two basic adaptive algorithm. our algorithms of these two basic principle is introduced, and matlab simulation. through the simulation results, we

3、 have two kinds of adaptive algorithm performs nee an alysis, and carries on the comparison. matlab calculate the weight coefficient of the lms adaptive algorithm, and its learning curve, and the rls adaptive weight coefficient algorithm of the learning process.keywords:, lms and rls adaptive filter

4、, the matlab simulation課題簡(jiǎn)介：零均值、單位方差的白噪聲通過(guò)一個(gè)二階自回歸模型產(chǎn)生的ar過(guò) 程。ar模型的系統(tǒng)函數(shù)為：1h(z)= 1-1,6z 0.8z,假設(shè)印=-1.6, a2=0.8將系統(tǒng)函數(shù)轉(zhuǎn)化為差分方程為：x(n)二-ax( n _ 1) _ a?( n _ 2) w(n)其中w(n)為白噪聲，參數(shù)ai =-1.6, a2 =0.8。激勵(lì)源是白噪聲w(n)。本文用matlab仿真做出了模型系數(shù)的收斂過(guò)程及平均的學(xué)習(xí)曲線分別用lms算法 和rls算法、分別做出了模型系數(shù)的收斂過(guò)程及學(xué)習(xí)曲線，還對(duì)兩種算法的特性進(jìn)行了對(duì)比引言：由于隨機(jī)信號(hào)的未知性和隨時(shí)間變化的統(tǒng)計(jì)

5、特性，需要設(shè)計(jì)參數(shù)隨時(shí)間變化的濾波器算法，即所謂的自適應(yīng)濾波。它是利用前一時(shí)刻以獲得的濾波器參數(shù)的結(jié) 果，自動(dòng)的調(diào)節(jié)現(xiàn)時(shí)刻的濾波器參數(shù)，以適應(yīng)信號(hào)和噪聲未知的或隨時(shí)間變化的統(tǒng)自適應(yīng)濾波器的特性計(jì)特性，從而實(shí)現(xiàn)最優(yōu)濾波。變化是由自適應(yīng)算法通過(guò)調(diào)整濾波器系數(shù)來(lái)實(shí)現(xiàn)的。不同的自適應(yīng)濾波器算 法，具 有不同的收斂速度、穩(wěn)態(tài)失調(diào)和算法復(fù)雜度。自適應(yīng)濾波算法中利用了輸出反饋，屬于閉環(huán)算法。其優(yōu)點(diǎn)是能在濾波器輸入變化時(shí)保持最佳的輸出，而且還能在某種程度上補(bǔ)償濾波器元件參數(shù)的變化和誤 差以及運(yùn)算誤差。但其缺點(diǎn)是存在穩(wěn)定性問(wèn)題以及收斂速度不高。所以探討如何提 高收斂速度、增強(qiáng)穩(wěn)定性以滿足信號(hào)處理的高效性、實(shí)時(shí)性

6、，一直是人們研究的重 點(diǎn)和熱點(diǎn)。本文基對(duì)比研究了兩類基本的自適應(yīng)算法lms和rls ，并對(duì)它們權(quán)系數(shù)的收斂過(guò)程及學(xué)習(xí)過(guò)程進(jìn)行了分析。lms原理分析：lms算法是自適應(yīng)濾波器中常用的一種算法與維納算法不同的是其系統(tǒng)的系 數(shù)隨輸入序列而改變。維納算法中截取輸入序列自相關(guān)函數(shù)的一段構(gòu)造系統(tǒng)的最佳 系數(shù)。而lms算法則是對(duì)初始化的濾波器系數(shù)依據(jù)最小均方誤差準(zhǔn)則進(jìn)行不斷修正 來(lái)實(shí)現(xiàn)的。因此理論上講lms算法的性能在同等條件下要優(yōu)于維納算法但是lms 算法是在一個(gè)初始化值得基礎(chǔ)上進(jìn)行逐步調(diào)整得到的因此在系統(tǒng)進(jìn)入穩(wěn)定之前有一個(gè)調(diào)整的時(shí)間這個(gè)時(shí)間受到算法步長(zhǎng)因子的控制在一定值范圍內(nèi)增大會(huì)減小調(diào)整時(shí)間但超過(guò)這個(gè)

7、值范圍時(shí)系統(tǒng)不再收斂的最大 取值為r的跡。lms采用平方誤差最小的原則代替均方誤差最小的原則，信號(hào)基本 關(guān)系如下： n j y(n)二懸 wi(n)x(n -i)e(n) =d(n) -y(n)wi(n 1) =wd n) 2 e( n)x( n i)寫成矩陣形式為：y(n) =wt( n)x( n)e(n) =d(n) -y(n)w(n 1)=w( n)2j e(n )x( n)式中w為n時(shí)刻自適應(yīng)濾波器的權(quán)矢量w(n) =wo(n), wi(n), w?(n)wn(n)tn為自適應(yīng)濾波器的階數(shù)。x(n)為n時(shí)刻自適應(yīng)濾波器的參考輸入矢量，由最近的n個(gè)信號(hào)的采樣值構(gòu)成，x(n)=x(n),x

8、(njx(n-n】t。d( n)是期望的輸出值；e( n)為自適應(yīng) 濾波器的輸出 誤差調(diào)節(jié)信號(hào)；口是控制自適應(yīng)速度與穩(wěn)定性的增益常數(shù)。lms的算法流程圖:rls算法原理分析：為遺忘因子，它是小于1的正數(shù)d(n):參考信號(hào)或期望信號(hào)w (n)第n次迭代的權(quán)值s)均方誤差按照如下準(zhǔn)則：;(n) _、上 e2(k) min越舊的數(shù)據(jù)對(duì)；c)的影響越小。對(duì)濾波器的系數(shù)w求偏導(dǎo)，并令結(jié)果 等于。知型=2、, n七(k)x(k)二0.w k衛(wèi)整理得到標(biāo)準(zhǔn)方程為：nn遲 x x(k)xt (k)w 二遲 xnjsd (k)x(k) k =0k=0定義： n n _k r(n)八，d(k)x(k) kt n

9、p(n )= nad(k)x(k) kt標(biāo)準(zhǔn)方程可以簡(jiǎn)化為：r(n )w = p(n)經(jīng)求解可以得到迭代形式：r(n 1) = r( n) x(n 1)xt (n 1)p(n 1)p(n) d(n 1)x(n 1)定義：t(n)=r(n)，則可知t的迭代方程為：t(n) 4(n-1)x(n)xt(n)r系數(shù)的迭代方程為w(n) = w( n-1) k( n)e( n|n-1)其中增益k和誤差以川叫的定義分別為：e(n | n-1) = d(n) - wt (n -1) x( n)k(n)=t(n-1)x(n) xt (n)t(n- 1)x(n)參數(shù)遞推估計(jì)，每取得一次新的觀測(cè)數(shù)據(jù)后，就在前次估

10、計(jì)結(jié)果 的基礎(chǔ)上，利 用新引入的觀測(cè)數(shù)據(jù)對(duì)前次估計(jì)的結(jié)果，根據(jù)遞推算法進(jìn)行修正，減少估計(jì)誤差，從 而遞推地得出新的參數(shù)估計(jì)值。這樣，隨著新觀測(cè)數(shù)據(jù)的逐次引入，一次接一次地進(jìn) 行參數(shù)估計(jì)，直到參數(shù)估計(jì)值達(dá)到滿意的精確程度為止。rls算法流程圖：rls算法是用一集方的時(shí)間平均的尬小計(jì)畀.化準(zhǔn)則取代最小肉方準(zhǔn)喇.井按時(shí)閭進(jìn)行迭代 瓦堪術(shù)原理如下所示】s計(jì)算 t(n),w(n),k(n),e(n|n-1):rls算法是用:乘方的時(shí)間平均檢址小化華則驅(qū)代最小均方準(zhǔn)則，井按時(shí)閭進(jìn)行送代ht*直羊木必理奶下所示：i乂禰為躺忘豺子，它址小j遴f i的正數(shù)紳)4佶蹴期由由訃y (n) l(n)x(n j)0w他

11、):第1)戰(zhàn)達(dá)代的權(quán)進(jìn)：， 鞏對(duì)；均方鍛打計(jì)算誤差 e(n)=d(n)-y(n)搔激如下淮則：/; 5) = 嚴(yán)*(斤)- minia0w(n) = w(n -1) k(n )e(n | n-1)min的散據(jù)對(duì)鞏町的周鄉(xiāng)i麋波聆紊欺賈求館導(dǎo)數(shù)，片令貂杲爭(zhēng)尸零知整理得到標(biāo)準(zhǔn)方程_w八a八式的化)軒二叭&岡ji)lms算法程序：clear close all cic a1=-1.6; a2=0.8; n=1000; p=50;e=zeros(1, n);ep=zeros(1, n);ee=zeros(1, n);x=zeros(1, n),;w=ra ndn(1 ,n),;%算法for p=1 :

12、px(1)=w(1)；x(2)=-a1*x(1)+w(2);for i=3: nx(i)=-a1 *x(i-1 )-a2*x(i-2)+w(i);endl=2;u=0.0005;wl=zeros(l ,n);for i=(l+1): nx=x(i-l:1:(i-1);y=xwl(:,i);%i時(shí)刻輸出信號(hào)e(i)=x(i)-y(i);%i時(shí)刻誤差信號(hào)wl(:,(i+1 )=wl(:,i)+2*u七 %i時(shí)刻濾波器的權(quán)值ee(i)=e(i)a2;endep=ep+ee;endeq=ep/p;a1 l=-wl(2,1:n);% al在lms算法下值的變化，wl矩陣中第一行的1到n個(gè)數(shù)a2l=-wl

13、(1,1:n);% a2在lms算法下值的變化,wl矩陣中第二行的1到n個(gè)數(shù)%畫(huà)圖subplot(2,2,1);plot(1: n, x);title。高斯白噪聲w);subplot(2,2,2);plot(1: n, a1 l/r-j: n,a1 /kj)；titlecal的學(xué)習(xí)過(guò)程)；subplot(2,2,3);plot(1: n,a2l5rj,1: n,a2,k-);title(,a2的學(xué)習(xí)過(guò)程);subplot(2,2,4);plot(1: n,eq);title(5o次平均后的學(xué)習(xí)過(guò)程，);bl figure 1ld 叵i fa3l|圖1 :步長(zhǎng)因子r=0.0005時(shí)lms仿真圖形

14、63 figure 1圖2：步長(zhǎng)因子p =0.001時(shí)lms仿真圖形圖3 ：步長(zhǎng)因子p =0.005時(shí)lms仿真圖形結(jié)果分析：1 .在仿真過(guò)程中可以看到，圖形的收斂時(shí)間隨著步長(zhǎng)因子口的增大而減小。說(shuō)明步 長(zhǎng)因子口與收斂時(shí)間成反比，其決定了 lms算法學(xué)習(xí)過(guò)程的快慢。2 .由上圖對(duì)比可知，當(dāng)步長(zhǎng)因子口增大時(shí)，收斂時(shí)間減少，但會(huì)使 失調(diào)增大，當(dāng)p 等于0.0005與0.001時(shí)圖形沒(méi)有失調(diào)，但當(dāng)口等于0.005時(shí)，就會(huì)發(fā)現(xiàn)圖形失 調(diào)嚴(yán)重。3 .綜上所述可得出結(jié)論：控制失調(diào)與加快收斂速度矛盾。lms與rls對(duì)比程序：程序：clear;close all;cic;a1=-1.6;a2=0.8;n=10

15、00;x=zeros(1, n);w=ra ndn(1 ,n);x(1)=w(1);x(2)=-a1*x(1)+w(2);for i=3: nx(i)=-a1 *x(i-1)-a2*x(i-2)+w(i);end;%lms濾波l=2;u=0.001;wl=zeros(l ,n);for i=(l+1): nx=x(i-1:1:(il);y(i)=x*wl(:,i);e(i)=x(i)-y(i);wl(:,(i+1)=wl(:,i)+2*u*e(i)*x;end;a1 l=-wl(1,1: n);a2l=-wl(2,1: n);%rls濾波l=2;n amuta=0.98;wr=zeros(l,

16、 n);t=eye(l,l)*10;% %rls 算法下t參數(shù)的初始化,t初始值為10for i=(l+1): nx=x(i1:-1:(il);k=(t*x)/(namuta+x,*t*x);%i時(shí)刻增益值e1=x(i)-wr(:j-irx;wr(:,i)=wr(:,i-1)+k*e1; %i時(shí)刻權(quán)值y(i)=wr(:,i),*x;e(i)=x(i)-y(i);t=(t-k*x*t)/namuta; %i 時(shí)刻的維納解end;a1 r=-wr(1,1: n);a2r=-wr(2,1: n);%畫(huà)圖subplot(2,1,1);plot(1: n, a1 l/r-1: n,a1 r/g-j: n

17、,a1 ,kj)；titleflms與rls算法a1權(quán)系數(shù)收斂過(guò)程對(duì)比)；subplot(2,1,2);plot(1: n,a2l,k,1: n,a2r/gj,1: n,a2/k-);titleflms與rls算法a2權(quán)系數(shù)收斂過(guò)程對(duì)比)；圖4： lms與rls仿真圖形對(duì)比結(jié)果分析：1. rls算法在算法的穩(wěn)態(tài)階段即算法的后期收斂階段其性能和lms算法相差不明顯但在算法的前期收斂段rls算法的收斂速度要明顯高于lms算法。但是rls算法復(fù)雜度高 計(jì)算量比較rls算法與lms對(duì)比：由于lms算法只是用以前各時(shí)刻的抽頭參量等作該時(shí)刻數(shù)據(jù)塊估計(jì)時(shí)的平方誤差均 方最小的準(zhǔn)則，而未用現(xiàn)時(shí)刻的抽頭參量等來(lái)

18、對(duì)以往各時(shí)刻的數(shù)據(jù)塊作重新估計(jì)后 的累計(jì)平方誤差最小的準(zhǔn)則，所以lms算法對(duì)非平穩(wěn)信號(hào)的適應(yīng)性差。rls算法的 基本思想是力圖使在每個(gè)時(shí)刻對(duì)所有已輸入信號(hào)而言重估的平方誤差的加權(quán)和最 小，這使得rls算法對(duì)非平穩(wěn)信號(hào)的適應(yīng)性要好。與lms算法相比，rls算法采 用時(shí)間平均，因此，所得出的最優(yōu)濾波器依賴于用于計(jì)算平均值的樣本數(shù)，而lms 算法是基于集平均而設(shè)計(jì)的，因此穩(wěn)定環(huán)境下lms算法在不同計(jì)算條件下的結(jié)果是 一致的。在性能方面，rls的收斂速率比lms要快得多，因此，rls在收斂速率 方面有很大優(yōu)勢(shì)。圖6分別為rls算法和lms算法在處理過(guò)程中的誤差曲線，它 指出了在迭代過(guò)程中的誤差減少過(guò)程。由圖可見(jiàn)，rls算法在迭代過(guò)程中產(chǎn) 生的誤 差明顯小于lms算法。由此可見(jiàn)，rls在提取