平穩(wěn)時(shí)間序列的ARMA模型

1、1平穩(wěn)性第五講（續(xù)）平穩(wěn)時(shí)間序列的ARMA模型有一類描述時(shí)間序列的重要隨機(jī)模型受到了人們的廣泛關(guān)注，這就是所謂的平穩(wěn)模型。這類模型假設(shè)隨機(jī)過程在一個(gè)不變的均值附近保持平衡。其統(tǒng)計(jì)規(guī)律不會(huì)隨著時(shí)間的推移發(fā)生變化。平穩(wěn)的定義分為嚴(yán)平穩(wěn)和寬平穩(wěn)。定義1（嚴(yán)平穩(wěn)）設(shè)xt,tT是一個(gè)隨機(jī)過程,xt是在不同的時(shí)刻t的隨機(jī)變量，在不同白時(shí)刻t是不同的隨機(jī)變量，任取n個(gè)值t1,K,tn和任意的實(shí)數(shù)h,則Xi,K,%分布函數(shù)滿足關(guān)系式Fn(x1,L,xn;t1,Ltn)Fn(x1,L,xn;t1h,Ltnh)則稱xt,tT為嚴(yán)平穩(wěn)過程。在實(shí)際中，這幾乎是不可能的。由此考慮到是否可以把條件放寬，僅僅要求其數(shù)字特征

2、(數(shù)學(xué)期望和協(xié)方差)相等。定義2(寬平穩(wěn))若隨機(jī)變量xt,tT的均值(一階矩)和協(xié)方差(二階矩)存在，且滿足：(1)任取tT，有E(xt)c；(2)任取tT，tT，有E(X(t)a)(X(t)a)R()協(xié)方差是時(shí)間間隔的函數(shù)。則稱Xt，tT為寬平穩(wěn)過程,其中R()為協(xié)方差函數(shù)。2各種隨機(jī)時(shí)間序列的表現(xiàn)形式白噪聲過程(whitenoise,如圖1)。屬于平穩(wěn)過程。yt=ut,utIID(0,2)圖1白噪聲序列（2=1）隨機(jī)游走過程（randomwalk,如圖11）。屬于非平穩(wěn)過程。yt=yt-1+ut,utIID（0,2）圖2隨機(jī)游走序列（2=1）圖3日元兌美元差分序列圖4深圳股票綜合指數(shù)圖5隨

3、機(jī)趨勢(shì)非平穩(wěn)序列（=）圖6隨機(jī)趨勢(shì)非平穩(wěn)序列（=）圖7對(duì)數(shù)的中國(guó)國(guó)民收入序列圖8中國(guó)人口序列3延遲算子延遲算子類似于一個(gè)時(shí)間指針，當(dāng)前序列值乘以一個(gè)延遲算子，就相當(dāng)于把當(dāng)前序列值的時(shí)間向過去撥了一個(gè)時(shí)刻，記B為延遲算子，有xtpBpxt,p1。特別（1B）是差分算子。4.ARMA（p,q腰型及其平穩(wěn)性和可逆性模型類型及其表示在平穩(wěn)時(shí)間序列的分析中，應(yīng)用最廣泛的是有限參數(shù)模型。p階自回歸模型：用自己的過去和現(xiàn)在的隨機(jī)干擾表Xt。Xt1Xt12Xt2LpXtpatat是白噪聲。q階移動(dòng)平均模型：用現(xiàn)在和過去的隨機(jī)干擾表Xt。Xtat1at12at2Lqatqp階自回歸和q階移動(dòng)平均模型：自己的過去

4、及過去和Xt 1Xt 12Xt 2 L現(xiàn)在的隨機(jī)干擾表Xt。pXtpat1at12at2Lqatq其中at是白噪聲序列。平穩(wěn)性XtiXti2Xt2LpXtpat是平穩(wěn)時(shí)間序列的反映嗎？如果它是平穩(wěn)時(shí)間序列的模型，回歸系數(shù)應(yīng)該滿足何種條件呢？例設(shè)Xt是一階自回歸模型，即XtiXti0或(B)Xtat,其中(B)1國(guó)則Xt1at(利用等比級(jí)數(shù)的通項(xiàng)和公式)(1iB)=ijBjatj0=ijatj如果|1|1，Xt1jatj，atj的系數(shù)隨著j的增加而j0趨于無窮大，這顯然違背了“遠(yuǎn)小近大”的原則，由此可見，平穩(wěn)的充分必要條件是|1|1，|1|1的充分必要條件方程11z0的根在單位圓外。設(shè)xt是一個(gè)

5、p階自回歸模型Xt1Xt12Xt23Xt3pXtpat或(B)Xtat其中：(B)11B2B23B3LpBp。xt平穩(wěn)的充分必要條件是：1i2233Lpp。的根在單位圓外;pp。的根在單位圓內(nèi)1。p可逆性我們可以考慮到一個(gè)時(shí)間序列Xt是否可以用它的現(xiàn)在值和過去值來表示現(xiàn)在時(shí)刻的隨機(jī)干擾a呢？即atI(B)Xt這種表達(dá)式稱為“逆轉(zhuǎn)形式”。如果一個(gè)時(shí)間序列具有逆轉(zhuǎn)形式，也就是說逆轉(zhuǎn)形式存在且平穩(wěn)，通常稱該過程Xt1證明請(qǐng)參看附錄1。具有可逆性。例設(shè)Xt是一階滑動(dòng)平均模型，即Xtala或Xt(B)at,其中(B)1iB則at1Xt(利用等比級(jí)數(shù)的通項(xiàng)和公式)(1iB)=1七區(qū)jo=1jXtjjo對(duì)于

6、一階滑動(dòng)平均模型Xta1ati，無論1取何值，Xtat向1是一個(gè)名副其實(shí)的平穩(wěn)序列，但是對(duì)于Xtat1at1的“逆轉(zhuǎn)形式”是否存在，則取決于|1|是否小于1。如果|1|1，Xt1jXtjatj1Xtj的系數(shù)隨著j的增加而趨于無窮大，這顯然違背了“遠(yuǎn)小近大”的原則，由此可見，Xtat1at1的逆轉(zhuǎn)形式存在的充分必要條件為|1|1，|1|1的充分必要條件方程11z0的根在單位圓外。Xtat1at12at2Lqatq(B)at可逆的充分必要條件為，方程(z)11z2z2Lqzq0的根在單位圓外。q1q12q2Lq0的根在單位圓內(nèi)2。q由于自回歸模型Xt1Xt12Xt23Xt3LpXtpat稍微變形，

7、就是用系統(tǒng)的現(xiàn)在和過去值表示隨機(jī)干擾項(xiàng)，所以自回歸模型自然可逆。ARMA(p,q)的平穩(wěn)性和可逆性設(shè)時(shí)間序列Xt是ARMA(p,q)模型Xt1Xt12Xt2LpXtp2證明參看附錄20at1at12at2Lqatq令(B)11B2B2LpBp(8) 11B2B2LqBq則模型記為(B)Xt(B)at如果1.p0,q0；2. (B)和(B)無公共因子；3. (z)0和(z)0的根在單位圓外。則Xt是自回歸移動(dòng)平均模型，平穩(wěn)且可逆。它有傳遞形式Xt-(B)at,由此可以認(rèn)為，任何一個(gè)自回歸滑動(dòng)平均模型(B)都可以用一個(gè)足夠高階的滑動(dòng)平均模型逼近。逆轉(zhuǎn)形式at-(B)Xt,可見任何一個(gè)自回歸滑動(dòng)平均

8、模型都可以用一t(B)t個(gè)足夠高階的自回歸模型逼近。5平穩(wěn)時(shí)間序列的統(tǒng)計(jì)特征總體的自相關(guān)函數(shù)和樣本的自相關(guān)函數(shù)(看參考教材王燕，應(yīng)用時(shí)間序列分析，中國(guó)人大生版社，2005)一、AR(p)模型的自相關(guān)函數(shù)AR(p)模型，自相關(guān)函數(shù)快速收斂于零，但不等于零，“拖尾”。又因?yàn)锳RMA(p,q)模型(B)xt(B)t的可逆性，即t-(B)xt,所以任何一個(gè)ARMAp,q)模型都可以表示t(B)為一個(gè)足夠高階的AR(p)模型，所以ARMA(p,q)模型與AR(p)模型有相同的統(tǒng)計(jì)特性。下面從可以從圖18到圖25觀察時(shí)間序列圖與其自相關(guān)函數(shù)圖的特點(diǎn)。圖9白噪聲序列的自相關(guān)函數(shù)ACPACQ-SlatProb

9、3GJ-4u104411o1rtUJ.Dn口D2-£O924.1541rrrr.lEi85S5LUtfra3/15/U4Tim-.23:23SAmple:1200IncludBdDbeennalions2nliii-middI.IPBftialCrrelatiiQri4七274Flnntir-舊4-77sf4與7Bl-I日J(rèn)97B2口7J&5EIN&&a7as.Big2292345®7_bEE6G734334口a.urlrrDnnu._1Jnn-IJnDl.UJ.rliuDnou'10.6S410.7951L1I.B33FiB307A-31J

10、2499M3HH莓琴品者諼T1112.4dE-?.7.7.4.ala17.?111111111112酉420.111-a103-OSOm.QiiB.GE1-FM口-IXDM7a.0370.D7B-.057D.D1S-0.ss：-.DCJQa.02S.eg064口OCT-.SD.DIS-aCM=4-IE-0.D33-,EKS-.04J.DIZ1-L匚1L7匚th:23E-一fc匹司20二二上7匚42KEL1-4-13?1B1_H2151unASHbii471n4ulolounounoanouonoonourtlonou口町口口口口口口山0口口口口.一.一一一一一一二一一WV»12345

11、6709o123-457Da-1294-57圖10白噪聲序列的自相關(guān)函數(shù)圖圖11人工模擬序列Xt=0.65X"0.36Xt-2+at圖Q0O0O0O0OO0O0O0O0O00O0O0O0OO0O0O0O0OI II II I口口口口.口.口.口.0.口.口.口.口.76一-|石4石上口y41lc62號(hào)?？贗bQ 3-33A口后eU34 石。 237,6-1&M>5'2r中2中4J«I匹4azy&Q&efi- .1II 田7N444J -M-8 5ilJee.m24i44.67.7.dae.a07.(4.m4.4i4i.6e.KJ0.ae

12、.aa2.wa7.a4 0 1 11 1 112123461占生6日&&6151日&|51&&&曰(曰Os310za-e317 4s10o4 03-Gd2_H-1_J4 9s120A-47 7 1 &s 162620162 1&163 A 3317D16_O1H3-1&6A21 力1口?？?口0.0.1©月©.0刀門。! 60口0.口口口口0.00.口04-|.4|70。0.口0口口白口|_|.。0.口0.口口4口口oIEI7744G7"IJi5e4o5H51Je產(chǎn)了 N2N1 舊JII-石2

13、1 舊73門口24七 一：一J'rl'iQi G ”二？產(chǎn)1 Jfwb例7r211573 “£-ii ,H4K W&5J e3100000COOQ00011111_uooo_UOOOOQ011000 ddddo.dddddddo.o.ddddddddo.dddda.一 111Hlia -I - H!lil.aN34Gs7mm 口 Twmdssz 日日 口1之34&曰7日目口 123力石 11 111 111 1132222221,53333333圖12人工模擬序列Xt=0.65Xt+0.36Xt-2+at的自相關(guān)函數(shù)圖圖13模擬隨機(jī)游走序列xtXtia

14、t圖levtWM-I£EmrieMIfHTffl.KlIiI11DL4I<QtJtK、4w0，$也口口且，*上小事宣1豚44-&Vs1|Fir口y|口Ji大上.PrinAHas.|-工工<1|旦yk1_|號(hào).m|3/.dnAl_X-：口Olu03/1G/Q4Tkrnw23.31Smpln3200hILlUldlWLl(JUJLMYiIIlMI”ISBAij|-rwl«1,jaflPsttlol(口MpUghAC口人口Q-pfob口.口口口口8口IIIIIQQiiHiinCIOCa.maoo.ooc-U.ODD.CK3DilllQ.QQOiIilH.ODD

15、nnntc"oooo.NJDCJ.OOOaooc-o.iziaoUCiOC4irHFa口71口口9u門H口T3右與EraNF1口'51L需熊懿詈嗓富霄監(jiān)急裁匿w7nmn2l.4llzII五1Nn46sv巨日口nlul34LIT-sz-ffl1111111132323333333D口：口137口9E?？赟°GnInnhmlMrn-AJl口門2-1m6閂u3JGtl與3ran£>門口二Mn2口qn.o口.o_u.oInn.u口.u門.(口口口.£!n,o-y:.oIJ(o.cdo.ljQio.Qao.a.o.no.cl.a.do.ddGIo.o

16、-c.Qo.a.cl.o.*;厚韜B窯需需需ssefl郢軍需黑窯«faSW0H130日7下./7/丁后匕后石ri石rie七口巴與乃二u_HuOnooAunununnoOu_uo?m4EFZCOm口12IT4rlH尸0II112r4DBA曰二11111111113332-圖14模擬隨機(jī)游走序列xtxt1at的自相關(guān)關(guān)函數(shù)圖二、MA(q)的自相關(guān)函數(shù)結(jié)論：MA(q)模型的自相關(guān)函數(shù)q階截尾，即在q+1及以后為零。圖2-7是模擬一階移動(dòng)平均模型Xtat0.8at1趨勢(shì)圖，圖2-8是Xtat0.8at1自相關(guān)函數(shù)圖15Xtat0.8at1趨勢(shì)圖11CJ10rl"1«>

17、;口Oalq03/22411-4TlniQ口9:口1Sair-nplci胃MCOndDidr>dobis-e«nmIions:199ACFA匚：Q-StAtF=*inzilzinmllciconnoonUnnnounu-uonEonUnucl.=口II.IJCUIK口口ij口片口II口Uncnnnoonu-u-onnoo口口口口口Soouril_iuocDonDooanonDDOUnoon-n-DUDonoooM-DD51LI'llIfil./S3HEsi.G2.0OC-54.5«59S7.37iHSIH.59Booe石呂II目目5.加弟6(3.5,1GS.7

18、34，.I.>.i石日一日口23日0日非67-1336B.38Szu.3z?s71.37?7.2-lB日M-0"iiwj8B.373三呂.與n口日G.U00.20109.066413a9nID0n3QIS3目5日目了01日9|011口0n1_SG04Hzn171b43on=6口Fi口口NI5.3:¥Bnlln口口口u口口no口口；口口3111。dcl.on.o.o.tJ,icl.c.Q,da.no.o.dc,o.ma.wo.dno.a-BV-_a一.i-031BLIn-42302eMFb-lai口BzngdB口,JP3Z口21口II-01mJII1F4/1113n上F

19、lRn-12JRB巴口口口口ol-liQ口口口u口口門口口-lur-ln口o口口口口3dmo.o.o.口口o.mD.locl.cl.dmmmmdo.3dmmc,口d3d"r-r1111T0.8ati自相關(guān)函數(shù)圖MA(q)模型的工具，自相關(guān)函圖16xjXLitLj£:=Id-dIAtIiOrtF3dullAlC：Orii-'Q-Iia-ferii=ifi724石石丁HN3W三6700口1-23£石丁口|«1111111111220-m2-?三，2由此，我們已經(jīng)有了識(shí)別數(shù)q階截尾。但是對(duì)于AR(p)和ARMA(p,q)模型，則無法區(qū)別了。2.4.2偏

20、自相關(guān)函數(shù)kk由AR(p)模型本身看，只涉及到n步相關(guān)性，但序列的自相關(guān)函數(shù)k確是拖尾的。AR(P)模型的偏自相關(guān)函數(shù)p階截尾。kk0,kpo注：偏自相關(guān)函數(shù)的概率意義是在給定Xt1,L,Xtk1的條件下，Xt和Xtk的相關(guān)系數(shù)。ARMA(p,q)模型自相關(guān)和偏自相關(guān)均拖尾，但是快速收斂到零。表1自相關(guān)和偏自相關(guān)特征表模型AR(p)MA(q)ARMA(P,q)自相關(guān)函數(shù)拖尾截尾拖尾偏自相關(guān)函數(shù)截尾拖尾拖尾對(duì)一個(gè)實(shí)際時(shí)間序列，我們能掌握的是一段樣本數(shù)據(jù)，所以首先要利用樣本數(shù)據(jù)估計(jì)模型的自相關(guān)函數(shù)和偏自相關(guān)函數(shù)?！纠坷?997年1月2002年12月到北京海外旅游人數(shù)資料繪制自相關(guān)和偏自相關(guān)圖，

21、在這里去掉了2003年的數(shù)據(jù)是由于非典的流行使2003年到北京旅游的人數(shù)銳減，出現(xiàn)奇異值，不具有一般性。如圖17所示。CaseNumber圖171997年1月2002年12月到北京海外旅游人數(shù)曲線圖Autocorrelations:SARS403020100Auto-Stand.LagCorr.Err.-10.25.5.751Box-LjungProb.1.587.115.*.0002.358.115.*.0003.166.114.*.0004.074.113.*.0005.068.112.*.0006.183.111.*.0007.034.110.*.0008 .011 .110*.0009

22、.095.109.*.00010.253.108.*.*.00011.427.107.*.*.00012.660.106.*.*.00013.386.105.*.*.00014.179.104.*.00015.038.103.*.00016.103.*.000Autocorrelations:SARSPlotSymbols:Autocorrelations*TwoStandardErrorLimits.圖1897年1月到02年12月到北京海外旅游人數(shù)自相關(guān)圖圖18顯示滯后一期和滯后兩期的自相關(guān)函數(shù)分別為和，超過了兩倍標(biāo)準(zhǔn)差，顯著不為零，以后的自相關(guān)函數(shù)均顯著為零，直到滯后期為周期的長(zhǎng)度12時(shí)，

23、自相關(guān)函數(shù)出現(xiàn)了峰值，為，這是季節(jié)性時(shí)間序列的十分典型的特征，該序列從自相關(guān)函數(shù)看長(zhǎng)期趨勢(shì)并不十分顯著。而且可能建立MA模型會(huì)產(chǎn)生過多的參數(shù)，于是可能適應(yīng)的AR模型。根據(jù)偏相關(guān)系數(shù)，如圖19所示PartialAutocorrelations:SARSPr-Aut-Stand.1.587.118.*.*2.020.118.*.3.118.*.4.003.118.*.5.064.118.*.6.197.118.*.7.118*.8.036.118.*.9.223.118.*.10.248.118.*11.239.118.*12.391.118.*.*13.118*.*.14.118.*.15.11

24、8.*.16.118.*.Plot Symbols:圖19Autocorrelations*TwoStandardErrorLimits.97年1月到02年12月到北京海外旅游人數(shù)偏自相關(guān)圖偏自相關(guān)函數(shù)圖19顯示滯后期為1,7,12和13的偏自相關(guān)函數(shù)分別為、和，顯著不為零，該時(shí)間序列的偏自相關(guān)函數(shù)顯示該時(shí)間序列可能適應(yīng)的模型(1F)(1族12%馬和(1iB7B712B12熊13/1司。我們模擬模型為(11B)(112B12)Xtato表2模型(1iB)(1i2B12)Xt鞏的參數(shù)估計(jì)表參數(shù)參數(shù)估計(jì)標(biāo)準(zhǔn)差t值P值12Log likelihoodStandarderrorAICSBC表2顯示，該

25、模型為Xt22.739866a-t(10.495942B)(10.767214B12)進(jìn)一步對(duì)模型的適應(yīng)性進(jìn)行檢驗(yàn)，回歸系數(shù)均顯著外，殘差的自相關(guān)函數(shù)均落在兩倍標(biāo)準(zhǔn)差內(nèi)，可以認(rèn)為殘差序列是白噪聲序列，如圖20所示。Auto-Stand.LagCorr.Err.-10.25.5.751Box-LjungProb.1.115.*.175.6762.039.115.*.292.8643.040.114.*.416.9374.056.113.*.664.9565.112.*.668.9856.112.111.*.9477.028.110.*.9728.110.*.9839.117.109.*.9611

26、0.031.108.*.97711.107.*.986.99112.10613 .130.105.*.97514 .025.104.*.98515 .017.103.*.99116 .067.103.*.993圖20最終模型殘差的自相關(guān)函數(shù)圖最終模型殘差的白噪聲檢驗(yàn)結(jié)果表明殘差序列可以視為白噪聲序列，模型是適應(yīng)的。當(dāng)模型通過了檢驗(yàn)，我們可以用該模型進(jìn)行結(jié)構(gòu)分析和預(yù)測(cè)分析了。3時(shí)間序列建模的方法為了對(duì)時(shí)間序列建模有一個(gè)較全面的了解，下面從樣本觀測(cè)數(shù)據(jù)出發(fā)，介紹建立時(shí)間序列模型的基本步驟。Box-Jenkins方法是以序列的自相關(guān)函數(shù)和偏自相關(guān)函數(shù)的統(tǒng)計(jì)特性為依據(jù)，找出序列可能適應(yīng)的模型，然后對(duì)模

27、型進(jìn)行估計(jì)。通?？梢钥紤]的模型ARMAARIMA和乘積型季節(jié)模型。（一）模型的識(shí)別對(duì)于一組長(zhǎng)度為N的樣本觀測(cè)數(shù)據(jù)x1,x2,xN，首先要對(duì)數(shù)據(jù)進(jìn)行預(yù)處理，預(yù)處理的目的是實(shí)現(xiàn)平穩(wěn)化，處理的手段包括差分和季節(jié)差分等。經(jīng)過預(yù)處理的新序列能較好滿足平穩(wěn)性條件。模型的識(shí)別包括差分階數(shù)d、季節(jié)差分階數(shù)D、模型階數(shù)、q、k和m的識(shí)別。識(shí)別的工具是自相關(guān)函數(shù)和偏自相關(guān)函數(shù)。如果樣本的自相關(guān)函數(shù)？(s)當(dāng)sq時(shí)顯著為零，則序列適應(yīng)的模型是MAq。如果樣本的偏自相關(guān)函數(shù)？s當(dāng)sp時(shí)顯著為零，則序列適應(yīng)的模型是ARp。若樣本的自相關(guān)函數(shù)和偏自相關(guān)函數(shù)均拖尾，并且按負(fù)指數(shù)衰減，則序列是ARMA序列，這時(shí)應(yīng)該從高階到低

28、階擬合模型，從中選擇最佳的。當(dāng)自相關(guān)函數(shù)緩慢下降，或是具有季節(jié)變化，那么觀測(cè)的序列是具有趨勢(shì)變動(dòng)或季節(jié)變動(dòng)的非平穩(wěn)序列，則需要做差分或季節(jié)差分，如果差分后的序列的樣本的自相關(guān)函數(shù)和偏自相關(guān)函數(shù)既不截尾又不拖尾，而在周期s的整倍數(shù)時(shí)出現(xiàn)峰值，則序列遵從乘積型季節(jié)模型，否則遵從ARIMA莫型。（二）模型的估計(jì)當(dāng)模型的階數(shù)確定之后，利用有效的擬合方法。如最小二乘估計(jì)，極大似然估計(jì)等方法，估計(jì)模型各部分的參數(shù)。（三）診斷性檢驗(yàn)?zāi)Ｐ瓦x擇檢驗(yàn)所選擇的模型是否能較好地?cái)M合數(shù)據(jù)。它包括模型過擬合和欠擬合檢驗(yàn)。通過檢驗(yàn)的結(jié)果，修改模型。時(shí)間序列建模應(yīng)該基于簡(jiǎn)約的原則，即用盡可能少的模型參數(shù)，對(duì)模型做由盡可能精確估計(jì)。所以