FINTS第四章線性ARMA模型

1、金融時間序列模型第四章：平穩(wěn)線性ARMA模型基本概念念隨機過程程stochasticprocess設T是某個集集合，俗俗稱足標標集，對對任意固固定tT，Yt是隨機變變量，tT的全體 Yt；tT 稱為T上的隨機機函數。記為 Yt對每個固固定的t，Yt是隨機變變量。通常T取取為：1）T=-,T=0,2)T=-2,-1,0,1,2,T=1,2,3,基本概念念平穩(wěn)隨機機過程（weakly stationary, covariancestationary,second order stationary）如果隨機機序列二二階矩有有界，并并且滿足足以下條條件（1）對對任意整整數t，E(Yt)=，為常數；（2

2、）對對任意整整數t和和s，自自協(xié)方差差函數ts僅與t-s有有關，同同個別時時刻t和和s無關關。即ts=t-s=k 平穩(wěn)時間間序列幾個重要要的平穩(wěn)穩(wěn)過程和和模型白噪聲過過程MA過程程AR過程程ARMA過程平穩(wěn)過程程的參數數自協(xié)方差差和自相相關函數數偏自相關關函數白噪聲過過程whitenoiseprocess隨機過程程滿足1）E(t)=0，對對所所有t2）E(t2)=2對所有t3）E(ts)=0,對對任意ts，或Cov(t,s)=0弱白噪聲聲隨機過過程（Weaklywhitenoiseprocess），簡簡稱白噪噪聲。記記為tWN(0,2)白噪聲過過程4）不同同時刻隨隨機變量量是相互互獨立的的隨機

3、變變量，并并且同分分布稱為獨立立白噪聲聲，記為為tI.I.D(0,2)如果再增增加一個個條件5）服從從正態(tài)分分布該過程為為高斯白白噪聲（Gaussianwhitenoiseprocess）?；瑒悠骄Ｐ蚆oving AverageModel1-階滑滑動平均均模型其中1MA模型型和為參數或或系數。表達式1，是1階滑滑動平均均模型，Yt是1-階滑動動平均過過程。用用MA（1）表表示例如Yt=0.1+t0.3t1MA(1)另一種表表達方式式本質是一一個只包包括常數數項的回回歸模型型，但殘殘差存在在自相關關。容易易知道MA(1)存在在一階自自相關。q-階滑滑動平均均模型定義其中t是白噪聲聲過程2q-

4、階滑滑動平均均過程稱和i, i=1,2,q為參數或或系數。表達式2，是q階滑滑動平均均模型，Yt是q-階滑動動平均過過程。用MA（q）表表示。注：q0q-階滑滑動平均均模型和過程下面是幾幾個MA模型Yt=0.1+t0.2t10.1t2Yt=0.1+t0.3t1 0.21t20.1t3Yt=0.1+t0.3t4自回歸模模型AutoregressiveModelt=c+1t-1+2t-2+pt-p+t其中t是白噪噪聲過程程p0表達式3是P-階自回回歸模型型t為p-階自回回歸過程程 ,表表示為AR(p)C,1,p是未知參參數或系系數。3自回歸滑滑動平均均混合模模型MixedAutoregressiv

5、eMovingAverageModelt=c+1t-1+2t-2+pt-p+t+1t -1+qt q其中t是白噪噪聲過程程p0,q0表達式4是P-階自回回歸q階滑動動平均混混合模型型t為p-階自回回歸q階階滑動平平均混合合過程,表示示為ARMA(p,q)C,1,p，1，q是未知參參數或系系數。4三類模型型參數特征征MA(1)參數數特點均值函數數：E（t）=自協(xié)方差差函數：0=(1+2)21=2k= 0,k1自相關函函數：1=/(1+2)，k=0,k1MA(q)的參參數特點點E（t）=0=(1+12+q2)2k=0,kq，k=0,kqMA過程程例下面是是一個MA(2)模型型,計算算它的自自相關函

6、函數，并并畫圖t=t+0.2t10.1t21（121）/（11222）（0.2+0.2*0.1）/(1+0.12+0.22)=0.22（2）/（11222）0.1/(1+0.12+0.22)=0.095MA過程程ACF圖圖基本結論論MA(q)過程的自自相關函函數q步截尾自回歸過過程的參參數特點點均值函數數E(t)=c/(1-1-2+-p)自協(xié)方差差函數0=11+22+pp+2j=1j-1+2j-2+pj-pj=1,2,3,自相關函函數j=1j-1+2j-2+pj-pj=1,2,3,AR(1)過程程的參數數AR(1)參數數t=0.1+0.5t-1+tt=0.1-0.5t-1+t=0.1/(1-0

7、.5)=0.2=0.1/(1+0.5)j=0.5jj=(-0.5)jARMA過程參參數=c/(1-1-2+-p)j=1j-1+2j-2+pj-pjqj=1j-1+2j-2+pj-pjq偏自相關關函數一般的，偏相關關系數如如下定義義：Yt與Yt-k的偏相關關系數是是去掉Yt-1，Yt-2，。Yt-k+1的線性影影響后簡簡單相關關系數。用公式式表示如如下：*k=Corr(yt-E*(yt| yt-1，yt-2，。yt-k+1),yt-k)三種隨機機過程偏偏自相關關函數的的特點根據定義義總有*1=1三類過程程的偏自自相關函函數和自自相關函函數MA（q）AR（p）ARMA（p，q）自相關函函數q步截尾

8、尾拖拖尾拖拖尾偏自相關關函數拖拖尾p步步截尾拖拖尾滯后算子子平穩(wěn)條件件，可逆逆條件，模型間間變換滯后算子子滯后算子子(Lagoperators)或延遲遲算子（Backshift）滯后算子子，用L表示。有的書書上稱為為延遲算算子，用用B表示示LYt=Yt-1滯后算子子(1)L(LYt)=L(Yt-1)=Yt-2,記為L2Yt= Yt-2,一般的的LkYt= Yt-k(2)與與乘法可可交換L(aYt)=a(LYt)(3)加加法可分分配L(Yt+Xt)=LYt+ LXt(4)對對常數列列的運算算等于他他自身Lc=c(5)1Yt=Yt(6)(1-L)-1=1+L+2L2+kLk當|p那么估計計的偏相相

9、關系數數近似服服從正態(tài)態(tài)分布N（0，1/T）所以近似似5%顯著水平平下，如如果-2/T1/2*kp成立定階1根據樣樣本自相相關函數數和樣本本偏相關關函數定定階一般要求求樣本長長度大于于50,才能有有一定的的精確程程度。如如果某個個j之后后，所有有的樣本本自相關關系數j在95置信區(qū)區(qū)間內，則自相相關函數數截尾。適合建建立MA模型；如果某某個j后后，所有有樣本偏偏自相關關系數*j在95置信區(qū)區(qū)間內，則偏自自相關函函數截尾尾。適合合建立AR模型型；否則則都拖尾尾。適合合建立ARMA模型。AIC和和 BIC準則則評價模型型的優(yōu)劣劣準則AIC和和BIC準則對自由度度進行調調整k是模型中中未知參參數的個個

10、數,et是估計出出的誤差差Akaikesinformationcriterion赤赤池SchwartzBayesianinformationcriterion(SBC,SC,BIC)施瓦茲定階：AIC準準則和BIC準準則不同的書書對AIC和BIC使用不同同的變形形。經常常使用的的有兩種種AIC（p，q）=ln()+2(p+q)/TBIC（p，q）=ln()+(p+q)ln(T)/TT樣本長度度，如果果有常數數項p+q被p+q+1代替，ln表示自然然對數。在ARMA模型中需需要選擇擇p和q，所以用p+q代替k。是對噪聲聲項方差差的估計計定階：AIC準準則和BIC準準則AIC（p，q）=2lnL/

11、T+2(p+q)/TBIC（p，q）=-2lnL/T+(p+q)ln(T)/TLnL是模型的的對數似似然函數數值Q是與參數數無關的的量。因因為我們們只關心心使得AIC或BIC最小的值值，所以以忽略Q.帶入對數數似然函函數表達達式中，可以發(fā)發(fā)現與前前面的AIC和BIC的表達是是一致的的。 AIC和和BIC判斷步步驟（1）給給定滯后后長度的的上限P和Q，一般取取為T/10，ln（T），,或根據據樣本ACF和和樣本PACF判斷。（2）假假設樣本本區(qū)間1,T,把把樣本區(qū)區(qū)間修改改到p+1,T。（3）對對任意一一對滯后后長度p=0，1，P，q=0，1，Q，分別別估計模模型ARMA（p，q）（4）帶帶入上

12、面面的公式式，計算算出AIC(p，q)和BIC(p，q)（5）最最小值對對應的p，q值值作為ARMA模型的的階數。用AIC和BIC準則則確定階階數AIC準準則-MA(1)q0123P 0-7.415-7.455-7.426-7.3731-7.39-7.395-7.422-7.2722-7.433-7.383-7.174-7.221用AIC和BIC準則則確定階階數BIC-白噪噪聲 q0123P 0-7.415-7.411-7.338-7.2391-7.346-7.251-6.998-7.0012-7.345-7.251-6.998-7.001AIC和和BIC準則選擇滯后后長度存存在以下下缺陷：1

13、）選擇擇不同的的準則具具有主觀觀任意性性。不同同準則得得出矛盾盾的結論論。BIC準則的大大樣本性性質比AIC好，但是是有限樣樣本情況況下很難難比較AIC和BIC的優(yōu)劣。在實際確確定階數數時，不不是一定定選擇AIC,BIC最小的的，還有有考慮模模型的簡簡潔和殘殘差是否否是白噪噪聲。2）選擇擇方法是是確定一一個滯后后長度的的上限P和Q，如果實實際的滯滯后長度度大于P或Q，那我們們就得不不到正確確的滯后后長度。極大似然然估計:以AR(1)為例t=c+t-1+t假設i.i.d.N(0,2)估計:=(c,2)已知: y1,y2,yTE(1)=c/(1-)E(1-)2=2/(1-2)極大似然然估計當1的觀

14、測已已知時，2的條件分分布2=c+1+2（2|1= y1） N(c+y1,2)極大似然然估計Y1,Y2的聯合分分布密度度函數，是條件件密度和和邊際密密度相乘乘f2，Y1(y2，y1;)=f2|Y1(y2|y1;) f1(y1;)類似的，已知y1,y2，3的條件分分布極大似然然估計三者的聯聯合分布布f3，2，Y1(y3，y2，y1;)=f3|Y2，Y1(y3|y2，y1;) f2|Y1(y2|y1;) f1(y1;)一般給定定y1,y2,yt-1，t的條件分分布只和和yt-1有關極大似然然估計ft,Yt-1，,Y1(yt,yt-1，,y1;)= f1(y1;)ft|Yt-1(yt|yt-1;)極

15、大似然然估計估計：滿滿足下面面的條件件的解求解未知知參數的的方程是是非線性性的，如如果只關關心（2，T）的條件聯聯合分布布，得到到條件極極大似然然函數。極大似然然估計假設觀測測值是y0, y-1,y-P+1, y1,yT假設01=q+1=0以初始值值y0, y-1,y-P+1和0，1，q+1為條件，對t1，2，T，對數條條件似然然函數是是使用對數數條件似似然函數數對每個個未知參參數求一一階導數數，令其其等于0，這時時方程組組是線性性方程組組，易于于求解。模型的檢檢驗檢驗殘差差是否是是白噪聲聲過程1）畫出出殘差的的折線圖圖2）畫出出殘差的的ACF,PACF3)計算算統(tǒng)計量量QBox-Pierce

16、 Q-檢驗LjungandBox檢驗Q檢驗1）m主主觀給定定，一般般在15到30之間，可令m=T1/22）H0：t是白噪聲聲過程3)當零假設設成立時時，統(tǒng)計計量Q漸進(asymptoticallydistributed)服從2（m-p-q），如果模型型中包括括常數項項，那么么Q漸進服從從2（m-1-p-q）4）Q檢驗的缺缺陷是，經常不不能拒絕絕零假設設。把不不是白噪噪聲時，也誤認認為是白白噪聲。檢驗Q檢驗圖圖示真實臨界界值計算值卡方分布臨界界檢驗練習習例m=6，模型型中有常常數項，考慮下下面的幾幾個模型型，那個個模型是是合格的的模型？給出其其它幾個個模型Q檢驗統(tǒng)統(tǒng)計量的的自由度度。(p+q)Q

17、自自由由度P-value(1,0)15.926-1-0-10.019(2,0)11.820.249(0,1)4.120.139(0,2)6.940.21(1,1)7.940.047模型選擇擇一個好模模型滿足足的條件件每個解釋釋變量都都顯著不不等于0.殘差是白白噪聲過過程具有最小小的AIC或BIC值值練習：從從下面的的幾個模模型中選選擇一個個最優(yōu)模模型AR(1)AR(2)AR(3)ARMA(1,1)MA(2)10.170.210.30.19( 0.0000)(0.0004) (0.002)(0.0024)20.060.04(0.0005)(0.003)30.0005(0.44)10.050.48

18、(0.0007)(0.0034)20.06(0.009)AIC607.3592.5615598.4609.5BIC609.9594.3607596.6612.6Q(8) P-值0.00000.5670.660.69580.003Q(16)P-值0.0000.42410.780.89270.005預測基基本概念念事前預測測，事后后預測，模擬預預測假設收集集到N個個數據，使用1到T來來估計模模型.對對N時刻刻以后預預測事前前預測；對T到到N預測測事后預預測或樣樣本外預預測；對對1到T之間的的預測是是模擬，或擬和和。1TN預測基基本概念念h步預測測：預測測變量YT+h的取值，h0，稱為為h-步步預測

19、假設時刻刻T之前前的所有有數值YT,YT-1,Y1預測估計計量：用用表表示基基于T時時刻之前前的觀測測對YT+h的預測預測誤差差估計量量：預測均方方誤差，記為為MSE()預測最優(yōu)預測測：選擇擇合適的的函數形形式，使使得預測測均方誤誤差最小小的預測測是最優(yōu)優(yōu)預測。可以證明明求YT+h基于YT,YT-1,，Y1，的條件期期望是使使均方誤誤差最小小的預測測，條件件期望表表示為：E（YT+h| YT,YT-1,，Y1）=預測值的的計算t=c+1t-1+2t-2+pt-p+不可能知知道T時時刻前的的所有觀觀測，觀觀測值是是YT,YT-1,Y1，所以是是近似預預測。假設參數數已知，實際只只能用估估計的參參

20、數代替替真實參參數。預測是遞遞推進行行預測值的的計算1步預預測2步預預測預測值的的計算一般預測測公式預測值的的計算AR（1）模型的h步預測t=c+t-1+t預測值的的計算MA(q)模型的h步預測預測值的的計算計算殘差差的估計計值，假假設0,1,-q+1=0根根據下面面的公式式遞推計計算：預測值的的計算ARMA（1，1）模模型的預預測t=c+1Yt-1+t+1t-1預測值的的計算殘差的計計算與MA模型型類似，以ARMA(1,1)為例例。1=1-c-1Y0-10假設0=0，0已知。所所以實際際用的數數據個數數為T+1個；如果0未知，用用樣本均均值代替替。2=2-c-1Y1-11T=T-c-1YT -1-1T -1ARIMA模型型預測ARIMA(0,1,1)預測置信信區(qū)間ARMA模型表表示成MA（）模型t-=t+1t-1+2t-2+h步預測是是在基于T時時刻前的的信息求條件期期望，結結果如下下：預測誤差差： 預測方差差一步預測測方差等等于殘