不需矩陣求逆的最小二乘法

1、一種不需矩陣求逆的最小二乘法本文著重介紹了一種新的不需要矩陣求逆的最小二乘法。在 LSLS 估計(jì)中，需要計(jì)算矩陣( (T) )的逆，由于矩陣，求逆比較影響辨識(shí)速度。能否在 LSLS 中避免( (T) )的求逆運(yùn)算？從而提高 LSLS 的辨識(shí)速度。關(guān)鍵字：LSLS 估計(jì)求逆運(yùn)算辨識(shí)速度最小二乘法1 問題提出在LS估計(jì)中，需要計(jì)算矩陣()的逆，由于矩陣，求逆比較影響辨識(shí)速度。能否在LS中避免()的求逆運(yùn)算？從而提高LS的辨識(shí)速度。(1)不需矩陣求逆的LS算法特點(diǎn)不需計(jì)算矩陣的逆；辨識(shí)精度與基本LS相同；辨識(shí)速度比基本LS有較大提高；適合模型階次n未知的情況下應(yīng)用；是一種按模型階次n遞推的算法。(2

2、)算法推導(dǎo)系統(tǒng)的差分方程為：y(k)a1y(k-1)any(k-n)=t0u(k)tu(k-1)0u(k-n)(k)二y(k尸u(k)-31y(k-1)tu(k-1)-any(k-n)bnu(k-n)(k)上式寫成矩陣形式有：y(k)=(k)M(k)式中：(k)=u(k)y(k-1)u(k-1)y(k-n)u(k-n)】b=bo-31b1-anbnT令k分別等于1,2n,有n個(gè)方程，則有：Y=8+E式中：丫=勺(1)y(2)y(N)1T底1-(1)(2)(N)1T瓏(1)1u(1)|6T(2)u(2)：一：.3T(N)jMN)y(0)u(0)y(i)u(i)a+y(N-1)u(N-1)y(1-

3、n)u(1-n)y(2-n)u(2-n)aay(N-n)u(N-n)-0。1。22nJ62n2 任務(wù)提出由u(k)及y(k)辨識(shí)ai、bi及n3 采用方法采用模型階次n的遞推方法。即從n=0開始辨識(shí)一n=1一n=2一由Y=什己可得其LS估計(jì)值為：鼻文飛尸Y下面推導(dǎo)按模型階次n的遞推算法。模型階次n=0的辨識(shí)o=L(1)u(2)u(N)1T=乳N-N=?o=gT0)T丫=Eu(i)y(i)/Zu2(i)i=1.i工引入中間變量X:T1X=(獷)記n=0時(shí)的X為X:*0=(中人0)=1u2(i)(2)求X(:J，假設(shè)模型階次為n-1時(shí)的參數(shù)辨識(shí)結(jié)果已知，也就是？n，Xn已知，現(xiàn)欲求模型階次為n時(shí)的

4、辨識(shí)結(jié)果。即求：?。?：Y這里，我們先求Xn。由可知:(=卬0巾1巾2巾2nd.巾2nn-n1巾2n1巾2nl式中：巾2n-y(1-n)y(2-n)y(N-n)1T巾2n=U(1-n)u(2-n)u(N-n)T令n=Ln_L巾2n_J,則：式中：A22=1/(巾2n巾2n一巾2nnXnn巾2n)A12=A。=xnnT巾2nA22A11=X；-A124n:XnT至此，Xn=(nTn)(nig=j/匕n-2nJ.-一二d士n 士niiT不2nd.T2nJ2nd根據(jù)分塊矩陣求逆可得:Xn=(；)尸=B1121B12B22式中:B22=1/（巾2nJ巾2n一巾2nn1Xnn巾2n）B12=B21=Xn

5、J.n巾2n4B22B11-B12巾同理，令n=1n巾2nL則可推得:已求得。求解步驟：；=In,LX；=(；)T；產(chǎn) Tn=；W2nLX0Q；口充求丫：丫=jnJ“Tn丫求?n2n=(Tnn)TnY=XnTnY4 總結(jié)。,X,2T1,XI，T2,X2，221通過與矩P$求逆的LS算法對(duì)比可得出： 不需矩陣求逆的LS算法優(yōu)勢(shì)是不需計(jì)算矩陣的逆，簡化計(jì)算，減少計(jì)算量，并且辨識(shí)精度與基本LS相同，且辨識(shí)速度比基本LS有較大提高和適合模型階次n未知的情況下應(yīng)用， 是一種按模型階次n遞推的算法。:丫N工y(i-n)y(i)i=1N工u(i-n)y(i)i4動(dòng)態(tài)模型參數(shù)極大似然辨識(shí)及其MTLAER現(xiàn)極大

6、似然法辨識(shí)方法特點(diǎn)：(1)無偏估計(jì)方法；(2)適用于己(k)相關(guān)情況；(3)當(dāng)系統(tǒng)信噪比較小時(shí)有較好的估計(jì)效果；(4)算法穩(wěn)定度好；(5)是一種遞推算法；(6)實(shí)際工程中廣泛使用。設(shè)動(dòng)態(tài)系統(tǒng)的模型表示為11A(z)z(k)=B(z)u(k)+e(k)-e(k)=D(z)v(k)式中，v(k)是均值為0,方差為仃2,服從正態(tài)分布的不相關(guān)隨機(jī)噪聲；u(k)和z(k)表示系統(tǒng)的輸入輸出變量?，F(xiàn)給出一系統(tǒng)模型為z(k)-1.2z(k-1)+0.6z(k-2)=u(k-1)+0.5(k-2)+e(k)e(k)=v(k)-v(k-1)+0.2v(k-2)其中v(k)為隨機(jī)信號(hào)，輸入信號(hào)是幅值為1的M系列或

7、隨機(jī)信號(hào)，試用遞推的極大似然法求系統(tǒng)辨識(shí)的參數(shù)仃0程序如下：cleara(1)=1;b(1)=0;d(1)=0;u(1)=d(1);z(1)=0;z(2)=0;%初始化fori=2:1200%產(chǎn)生m序歹Uu(i)a(i)=xor(c(i-1),d(i-1);b(i)=a(i-i);c(i)=b(i-1);d(i)=c(i-1);u(i)=d(i);Endu；v=randn(1200,1);%產(chǎn)生正態(tài)分布隨機(jī)數(shù)V=0;%計(jì)算噪聲方差fori=1:1200V=V+v(i)*v(i);endV1=V/1200;fork=3:1200%根據(jù)v和u計(jì)算zz(k)=1.2*z(k-1)-0.6*z(k-2

8、)+u(k-1)+0.5*u(k-2)+v(k)-v(k-1)+0.2*v(k-2);endo1=0.001*ones(6,1);p0=eye(6,6);%幅初值z(mì)f(1)=0.1;zf(2)=0.1;vf(2)=0.1;vf(1)=0.1;uf(2)=0.1;uf(1)=0.1;%迭代計(jì)算參數(shù)值和誤差值fork=3:1200h=-z(k-1);-z(k-2);u(k-1);u(k-2);v(k-1);v(k-2);hf=h;K=p0*hf*inv(hf*p0*hf+1);p=eye(6,6)-K*hf*p0;v(k)=z(k)-h*o1;o=o1+K*v(k);p0=p;o1=o;a2(k)

9、=o(2);b1(k)=o(3);b2(k)=o(4);d1(k)=o(5);d2(k)=o(6);e1(k)=abs(a1(k)+1.2);e2(k)=abs(a2(k)-0.6);e3(k)=abs(b1(k)-1.0);e4(k)=abs(b2(k)-0.5);e5(k)=abs(d1(k)+1.0);e6(k)=abs(d2(k)-0.2);zf(k)=z(k)-d1(k)*zf(k-1)-d2(k)*zf(k-2);uf(k)=u(k)-d1(k)*uf(k-1)-d2(k)*uf(k-2);vf(k)=v(k)-d1(k)*vf(k-1)-d2(k)*vf(k-2);hf=-zf(k-1);-zf(k-2);uf(k-1);uf(k-2);vf(k-1);vf(k-2);endo1V1運(yùn)行幾次選擇了一組比較接近真值的結(jié)果，如下所示。o1=-1.18920.56390.95480.4505-0.95000.1873V1=0.9849可知，估計(jì)值a1=