隨機(jī)時(shí)間序列分析模型PPT課件

1、一、時(shí)間序列模型的基本概念及其適用一、時(shí)間序列模型的基本概念及其適用性性第1頁(yè)/共68頁(yè)1 1、時(shí)間序列模型的基本概念、時(shí)間序列模型的基本概念 隨機(jī)時(shí)間序列模型（time series modeling）是指僅用它的過(guò)去值及隨機(jī)擾動(dòng)項(xiàng)所建立起來(lái)的模型，其一般形式為 Xt=F(Xt-1, Xt-2, , t) 建立具體的時(shí)間序列模型，需解決如下三個(gè)問(wèn)題： (1)模型的具體形式 (2)時(shí)序變量的滯后期 (3)隨機(jī)擾動(dòng)項(xiàng)的結(jié)構(gòu) 例如，取線(xiàn)性方程、一期滯后以及白噪聲隨機(jī)擾動(dòng)項(xiàng)（ t =t），模型將是一個(gè)1階自回歸過(guò)程AR(1)： Xt=Xt-1+ t這里， t特指一白噪聲。 第2頁(yè)/共68頁(yè) 一般的p

2、階自回歸過(guò)程AR(p)是 Xt=1Xt-1+ 2Xt-2 + + pXt-p + t (*) (1)如果隨機(jī)擾動(dòng)項(xiàng)是一個(gè)白噪聲(t=t)，則稱(chēng)(*)式為一純AR(p)過(guò)程（pure AR(p) process），記為 Xt=1Xt-1+ 2Xt-2 + + pXt-p +t (2)如果t不是一個(gè)白噪聲，通常認(rèn)為它是一個(gè)q階的移動(dòng)平均（moving average）過(guò)程MA(q)： t=t - 1t-1 - 2t-2 - - qt-q 該式給出了一個(gè)純MA(q)過(guò)程（pure MA(p) process）。 第3頁(yè)/共68頁(yè) 將純AR(p)與純MA(q)結(jié)合，得到一個(gè)一般的自回歸移動(dòng)平均（aut

3、oregressive moving average）過(guò)程ARMA（p,q）： Xt=1Xt-1+ 2Xt-2 + + pXt-p + t - 1t-1 - 2t-2 - - qt-q 該式表明：（1）一個(gè)隨機(jī)時(shí)間序列可以通過(guò)一個(gè)自回歸移動(dòng)平均過(guò)程生成，即該序列可以由其自身的過(guò)去或滯后值以及隨機(jī)擾動(dòng)項(xiàng)來(lái)解釋。（2）如果該序列是平穩(wěn)的，即它的行為并不會(huì)隨著時(shí)間的推移而變化，那么我們就可以通過(guò)該序列過(guò)去的行為來(lái)預(yù)測(cè)未來(lái)。 這也正是隨機(jī)時(shí)間序列分析模型的優(yōu)勢(shì)所在。第4頁(yè)/共68頁(yè) 經(jīng)典回歸模型的問(wèn)題： 迄今為止，對(duì)一個(gè)時(shí)間序列Xt的變動(dòng)進(jìn)行解釋或預(yù)測(cè)，是通過(guò)某個(gè)單方程回歸模型或聯(lián)立方程回歸模型進(jìn)行的

4、，由于它們以因果關(guān)系為基礎(chǔ)，且具有一定的模型結(jié) 構(gòu) ， 因 此 也 常 稱(chēng) 為 結(jié) 構(gòu) 式 模 型 （ s t r u c t u r a l model）。 然而，如果Xt波動(dòng)的主要原因可能是我們無(wú)法解釋的因素，如氣候、消費(fèi)者偏好的變化等，則利用結(jié)構(gòu)式模型來(lái)解釋Xt的變動(dòng)就比較困難或不可能，因?yàn)橐〉孟鄳?yīng)的量化數(shù)據(jù)，并建立令人滿(mǎn)意的回歸模型是很困難的。 有時(shí)，即使能估計(jì)出一個(gè)較為滿(mǎn)意的因果關(guān)系回歸方程，但由于對(duì)某些解釋變量未來(lái)值的預(yù)測(cè)本身就非常困難，甚至比預(yù)測(cè)被解釋變量的未來(lái)值更困難，這時(shí)因果關(guān)系的回歸模型及其預(yù)測(cè)技術(shù)就不適用了。2 2、時(shí)間序列分析模型的適用性、時(shí)間序列分析模型的適用性第5

5、頁(yè)/共68頁(yè) 例如，時(shí)間序列過(guò)去是否有明顯的增長(zhǎng)趨勢(shì)，如果增長(zhǎng)趨勢(shì)在過(guò)去的行為中占主導(dǎo)地位，能否認(rèn)為它也會(huì)在未來(lái)的行為里占主導(dǎo)地位呢？ 或者時(shí)間序列顯示出循環(huán)周期性行為，我們能否利用過(guò)去的這種行為來(lái)外推它的未來(lái)走向？ 隨機(jī)時(shí)間序列分析模型，就是要通過(guò)序列過(guò)去的變化特征來(lái)預(yù)測(cè)未來(lái)的變化趨勢(shì)。 使用時(shí)間序列分析模型的另一個(gè)原因在于： 如果經(jīng)濟(jì)理論正確地闡釋了現(xiàn)實(shí)經(jīng)濟(jì)結(jié)構(gòu)，則這一結(jié)構(gòu)可以寫(xiě)成類(lèi)似于ARMA(p,q)式的時(shí)間序列分析模型的形式。 在這些情況下，我們采用另一條預(yù)測(cè)途徑：通過(guò)時(shí)間序列的歷史數(shù)據(jù)，得出關(guān)于其過(guò)去行為的有關(guān)結(jié)論，進(jìn)而對(duì)時(shí)間序列未來(lái)行為進(jìn)行推斷。第6頁(yè)/共68頁(yè) 例如，對(duì)于如下最

6、簡(jiǎn)單的宏觀經(jīng)濟(jì)模型： 這里，Ct、It、Yt分別表示消費(fèi)、投資與國(guó)民收入。 Ct與Yt作為內(nèi)生變量，它們的運(yùn)動(dòng)是由作為外生變量的投資It的運(yùn)動(dòng)及隨機(jī)擾動(dòng)項(xiàng) t的變化決定的。tttCYC12110tttICY第7頁(yè)/共68頁(yè)上述模型可作變形如下： 兩個(gè)方程等式右邊除去第一項(xiàng)外的剩余部分可看成一個(gè)綜合性的隨機(jī)擾動(dòng)項(xiàng)，其特征依賴(lài)于投資項(xiàng)It的行為。 如果It是一個(gè)白噪聲，則消費(fèi)序列Ct就成為一個(gè)1階自回歸過(guò)程AR(1)，而收入序列Yt就成 為 一 個(gè) ( 1 , 1 ) 階 的 自 回 歸 移 動(dòng) 平 均 過(guò) 程ARMA(1,1)。ttttICC1111011211111tttttIIYY11121

7、101121111111第8頁(yè)/共68頁(yè)二、隨機(jī)時(shí)間序列模型的平穩(wěn)性條件二、隨機(jī)時(shí)間序列模型的平穩(wěn)性條件第9頁(yè)/共68頁(yè) 自回歸移動(dòng)平均模型（ARMA）是隨機(jī)時(shí)間序列分析模型的普遍形式，自回歸模型（AR）和移動(dòng)平均模型（MA）是它的特殊情況。 關(guān)于這幾類(lèi)模型的研究，是時(shí)間序列分析的重點(diǎn)內(nèi)容：主要包括模型的平穩(wěn)性分析、模型的識(shí)別和模型的估計(jì)。 1 1、AR(p)AR(p)模型的平穩(wěn)性條件模型的平穩(wěn)性條件 隨機(jī)時(shí)間序列模型的平穩(wěn)性，可通過(guò)它所生成的隨機(jī)時(shí)間序列的平穩(wěn)性來(lái)判斷。 如果一個(gè)p階自回歸模型AR(p)生成的時(shí)間序列是平穩(wěn)的，就說(shuō)該AR(p)模型是平穩(wěn)的， 否則，就說(shuō)該AR(p)模型是非平穩(wěn)

8、的。第10頁(yè)/共68頁(yè)考慮p階自回歸模型AR(p) Xt= 1Xt-1+ 2Xt-2 + + pXt-p + t ( (* *) ) 引入滯后算子（lag operator ）L： LXt=Xt-1, L2Xt=Xt-2, , LpXt=Xt-p(*)式變換為 (1-1L- 2L2-pLp)Xt=t 記(L)= (1-1L- 2L2-pLp),則稱(chēng)多項(xiàng)式方程 (z)= (1-1z- 2z2-pzp)=0為AR(p)的特征方程(characteristic equation)(characteristic equation)。 可以證明，如果該特征方程的所有根在單位圓外（根的模大于1 1），則A

9、R(p)AR(p)模型是平穩(wěn)的。 第11頁(yè)/共68頁(yè) 例9.2.1 AR(1)模型的平穩(wěn)性條件。對(duì)1階自回歸模型AR(1)tttXX1方程兩邊平方再求數(shù)學(xué)期望，得到Xt的方差)(2)()()(122122tttttXEEXEXE由于Xt僅與t相關(guān)，因此，E(Xt-1t)=0。如果該模型穩(wěn)定，則有E(Xt2)=E(Xt-12)，從而上式可變換為：22201X在穩(wěn)定條件下，該方差是一非負(fù)的常數(shù)，從而有 |1。 第12頁(yè)/共68頁(yè) 而AR(1)的特征方程01)(zz的根為 z=1/ AR(1)穩(wěn)定，即 | 1，意味著特征根大于1。例9.2.2 AR(2)模型的平穩(wěn)性。 對(duì)AR(2)模型 ttttXX

10、X2211方程兩邊同乘以Xt，再取期望得： )(22110ttXE第13頁(yè)/共68頁(yè)又由于222211)()()()(tttttttEXEXEXE于是 222110同樣地，由原式還可得到0211212011于是方差為 )1)(1)(1 ()1 (21212220第14頁(yè)/共68頁(yè)由平穩(wěn)性的定義，該方差必須是一不變的正數(shù)，于是有 1+21, 2-11, |2|1這就是AR(2)的平穩(wěn)性條件，或稱(chēng)為平穩(wěn)域。它是一頂點(diǎn)分別為（-2,-1），（2,-1），（0,1）的三角形。 2 (0,1) 1 (-2, -1) (2, -1) 圖圖 9.2.1 AR(2)模模型型的的平平穩(wěn)穩(wěn)域域 第15頁(yè)/共68頁(yè)

11、對(duì)應(yīng)的特征方程1-1z-2z2=0 的兩個(gè)根z1、z2滿(mǎn)足： z1z2=-1/2 , z1+z2 =-1/2 ttttXXX2211AR(2)模型解出1，22121zz21211zzzz 由AR(2)的平穩(wěn)性，|2|=1/|z1|z2|1，有1)11)(11 (112121212121zzzzzzzz0)11)(11 (21zz于是| z2 |1。由 2 - 1 1可推出同樣的結(jié)果。第16頁(yè)/共68頁(yè) 對(duì)高階自回模型AR(p)來(lái)說(shuō)，多數(shù)情況下沒(méi)有必要直接計(jì)算其特征方程的特征根，但有一些有用的規(guī)則可用來(lái)檢驗(yàn)高階自回歸模型的穩(wěn)定性： (1)AR(p)模型穩(wěn)定的必要條件是： 1+2+p1 (2)(2

12、)由于i(i=1,2,p)可正可負(fù)，AR(p)模型穩(wěn)定的充分條件是： |1|+|2|+|p|1 第17頁(yè)/共68頁(yè) 對(duì)于移動(dòng)平均模型MR(q)： Xt=t - 1t-1 - 2t-2 - - qt-q 其中t是一個(gè)白噪聲，于是 2、MA(q)模型的平穩(wěn)性 0)()()()(11qqtttEEEXE22111121322111122210),cov()(),cov()(),cov()1 (varqqttqqqqttqqqttqtXXXXXXX 當(dāng)滯后期大于q時(shí)，Xt的自協(xié)方差系數(shù)為0。因此:有限階移動(dòng)平均模型總是平穩(wěn)的。 第18頁(yè)/共68頁(yè) 由于ARMA (p,q)模型是AR(p)模型與MA(q

13、)模型的組合：Xt=1Xt-1+ 2Xt-2 + + pXt-p + t - 1t-1 - 2t-2 - - qt-q 3、ARMA(p,q)模型的平穩(wěn)性 而MA(q)模型總是平穩(wěn)的，因此ARMA (p,q)模型的平穩(wěn)性取決于AR(p)部分的平穩(wěn)性。 當(dāng)AR(p)部分平穩(wěn)時(shí)，則該ARMA(p,q)模型是平穩(wěn)的，否則，不是平穩(wěn)的。第19頁(yè)/共68頁(yè) 最后 （1 1）一個(gè)平穩(wěn)的時(shí)間序列總可以找到生成它的平穩(wěn)的隨機(jī)過(guò)程或模型； （2 2）一個(gè)非平穩(wěn)的隨機(jī)時(shí)間序列通常可以通過(guò)差分的方法將它變換為平穩(wěn)的，對(duì)差分后平穩(wěn)的時(shí)間序列也可找出對(duì)應(yīng)的平穩(wěn)隨機(jī)過(guò)程或模型。 因此，如果我們將一個(gè)非平穩(wěn)時(shí)間序列通過(guò)d

14、d次差分，將它變?yōu)槠椒€(wěn)的，然后用一個(gè)平穩(wěn)的ARMA(p,q)ARMA(p,q)模型作為它的生成模型，則我們就說(shuō)該原始時(shí)間序列是一個(gè)自回歸單整移動(dòng)平均（autoregressive integrated autoregressive integrated moving averagemoving average）時(shí)間序列，記為ARIMA(p,d,q)ARIMA(p,d,q)。 例如，一個(gè)ARIMA(2,1,2)ARIMA(2,1,2)時(shí)間序列在它成為平穩(wěn)序列之前先得差分一次，然后用一個(gè)ARMA(2,2)ARMA(2,2)模型作為它的生成模型的。 當(dāng)然，一個(gè)ARIMA(p,0,0)ARIMA(p,

15、0,0)過(guò)程表示了一個(gè)純AR(p)AR(p)平穩(wěn)過(guò)程；一個(gè)ARIMA(0,0,q)ARIMA(0,0,q)表示一個(gè)純MA(q)MA(q)平穩(wěn)過(guò)程。第20頁(yè)/共68頁(yè)三、隨機(jī)時(shí)間序列模型的識(shí)別三、隨機(jī)時(shí)間序列模型的識(shí)別第21頁(yè)/共68頁(yè) 所謂隨機(jī)時(shí)間序列模型的識(shí)別，就是對(duì)于一個(gè)平穩(wěn)的隨機(jī)時(shí)間序列，找出生成它的合適的隨機(jī)過(guò)程或模型，即判斷該時(shí)間序列是遵循一純AR過(guò)程、還是遵循一純MA過(guò)程或ARMA過(guò)程。 所使用的工具主要是時(shí)間序列的自相關(guān)函數(shù)（autocorrelation function，ACF）及偏自相關(guān)函數(shù)（partial autocorrelation function， PACF ）。

16、第22頁(yè)/共68頁(yè) 1 1、AR(p)AR(p)過(guò)程過(guò)程 (1)(1)自相關(guān)函數(shù)自相關(guān)函數(shù)ACFACF 1階自回歸模型AR(1) Xt=Xt-1+ t 的k階滯后自協(xié)方差為：011)(kkttktkXXE=1,2,因此，AR(1)模型的自相關(guān)函數(shù)為 kkk0=1,2, 由AR(1)的穩(wěn)定性知| | |1，因此，k k時(shí)，呈指數(shù)形衰減，直到零。這種現(xiàn)象稱(chēng)為拖尾或稱(chēng)AR(1)有無(wú)窮記憶（infinite memory）。 注意， 0時(shí)，呈振蕩衰減狀。 第23頁(yè)/共68頁(yè) Xt=1Xt-1+ 2Xt-2 + t該模型的方差0以及滯后1期與2期的自協(xié)方差1, 2分別為階自回歸模型AR(2) 22211

17、00211212011類(lèi)似地,可寫(xiě)出一般的k期滯后自協(xié)方差： 22112211)(kktttktkrXXXE(K=2,3,)于是,AR(2)的k 階自相關(guān)函數(shù)為： 2211kkk(K=2,3,)其中 :1=1/(1-2), 0=1如果如果AR(2)AR(2)穩(wěn)定，則由穩(wěn)定，則由 1 1+ + 2 211知知| | k k| |衰減趨于零，呈拖尾狀。衰減趨于零，呈拖尾狀。至于衰減的形式，要看至于衰減的形式，要看AR(2)AR(2)特征根的實(shí)虛性，特征根的實(shí)虛性，若為實(shí)根，則呈單調(diào)或振蕩型衰若為實(shí)根，則呈單調(diào)或振蕩型衰減，若為虛根，則呈正弦波型衰減。減，若為虛根，則呈正弦波型衰減。 第24頁(yè)/共6

18、8頁(yè)一般地，p階自回歸模型AR(p) Xt=1Xt-1+ 2Xt-2 + pXt-p + tk期滯后協(xié)方差為: pkpkktptpttKtkXXXXE22112211)(從而有自相關(guān)函數(shù) :pkpkkk2211 可見(jiàn)，無(wú)論無(wú)論k k有多大，有多大， k k的計(jì)算均與其到的計(jì)算均與其到p p階滯后的自相關(guān)函數(shù)有關(guān)階滯后的自相關(guān)函數(shù)有關(guān)，因此呈拖尾狀呈拖尾狀。 如果如果AR(p)AR(p)是穩(wěn)定的，則是穩(wěn)定的，則| | k k| |遞減且趨于零遞減且趨于零。 第25頁(yè)/共68頁(yè) 其中：1/zi是AR(p)特征方程(z)=0的特征根，由AR(p)平穩(wěn)的條件知，|zi|p，Xt與Xt-k間的偏自相關(guān)系

19、數(shù)為零。 AR(p)的一個(gè)主要特征是:kp時(shí)， k*=Corr(Xt,Xt-k)=0 即 k*在p以后是截尾的。一隨機(jī)時(shí)間序列的識(shí)別原則：一隨機(jī)時(shí)間序列的識(shí)別原則：若若XtXt的偏自相關(guān)函數(shù)在的偏自相關(guān)函數(shù)在p p以后截尾，即以后截尾，即kp時(shí)，時(shí)， k*=0=0，而它的自相關(guān)函數(shù)，而它的自相關(guān)函數(shù) k是拖尾的，則此序列是自回歸是拖尾的，則此序列是自回歸AR(p)AR(p)序列。序列。第28頁(yè)/共68頁(yè) 在實(shí)際識(shí)別時(shí)，由于樣本偏自相關(guān)函數(shù)rk*是總體偏自相關(guān)函數(shù)k*的一個(gè)估計(jì)，由于樣本的隨機(jī)性，當(dāng)kp時(shí)，rk*不會(huì)全為0，而是在0的上下波動(dòng)。但可以證明，當(dāng)kp時(shí)，rk*服從如下漸近正態(tài)分布:

20、rk*N(0,1/n)式中n表示樣本容量。 因此，如果計(jì)算的rk*滿(mǎn)足 需指出的是，我們就有95.5%的把握判斷原時(shí)間序列在p之后截尾。nrk2|*第29頁(yè)/共68頁(yè) 對(duì)MA(1)過(guò)程 2、MA(q)MA(q)過(guò)程過(guò)程 1tttX可容易地寫(xiě)出它的自協(xié)方差系數(shù)： 0)1 (3221220于是，MA(1)過(guò)程的自相關(guān)函數(shù)為：0)1 (3221可見(jiàn)，當(dāng)k1時(shí)， k k0，即Xt與Xt-k不相關(guān)，MA(1)MA(1)自相關(guān)函數(shù)是截尾自相關(guān)函數(shù)是截尾的。的。 第30頁(yè)/共68頁(yè) MA(1)過(guò)程可以等價(jià)地寫(xiě)成 t t關(guān)于無(wú)窮序列X Xt t，X Xt-t-1 1，的線(xiàn)性組合的形式：221ttttXXX或t

21、tttXXX221（*） (*)是一個(gè)AR()過(guò)程，它的偏自相關(guān)函數(shù)非截尾但卻趨于零，因此MA(1)MA(1)的偏自相關(guān)函數(shù)是非截尾但卻趨于零的。的偏自相關(guān)函數(shù)是非截尾但卻趨于零的。 注意: : (*)式只有當(dāng)|1時(shí)才有意義，否則意味著距Xt越遠(yuǎn)的X值，對(duì)Xt的影響越大，顯然不符合常理。 因此，我們把把| | |1|q時(shí)， Xt與Xt-k不相關(guān)，即存在截尾現(xiàn)象，因此，當(dāng)kq時(shí)， k k=0是MA(q)的一個(gè)特征。 于是：可以根據(jù)自相關(guān)系數(shù)是否從某一點(diǎn)開(kāi)始一直為可以根據(jù)自相關(guān)系數(shù)是否從某一點(diǎn)開(kāi)始一直為0 0來(lái)判斷來(lái)判斷MA(q)MA(q)模型的模型的階。階。第32頁(yè)/共68頁(yè) 與MA(1)相仿，

22、可以驗(yàn)證MA(q)過(guò)程的偏自相關(guān)函數(shù)是非截尾但趨于零的。 MA(q)模型的識(shí)別規(guī)則：若隨機(jī)序列的自相關(guān)函數(shù)截尾，即自若隨機(jī)序列的自相關(guān)函數(shù)截尾，即自q q以后，以后， k k=0=0（ kqkq）；而它的偏自相關(guān)函數(shù)是拖尾的，則此序列是滑動(dòng)平均）；而它的偏自相關(guān)函數(shù)是拖尾的，則此序列是滑動(dòng)平均MA(q)MA(q)序序列。列。 同樣需要注意的是：在實(shí)際識(shí)別時(shí)，由于樣本自相關(guān)函數(shù)rk是總體自相關(guān)函數(shù)k的一個(gè)估計(jì)，由于樣本的隨機(jī)性，當(dāng)kq時(shí)，rk不會(huì)全為0，而是在0的上下波動(dòng)。但可以證明，當(dāng)kq時(shí)，rk服從如下漸近正態(tài)分布: rkN(0,1/n)式中n表示樣本容量。 因此，如果計(jì)算的如果計(jì)算的r r

23、k k滿(mǎn)足：滿(mǎn)足：nrk2|我們就有就有95.5%95.5%的把握判斷原時(shí)間序列在的把握判斷原時(shí)間序列在q q之后截尾之后截尾。第33頁(yè)/共68頁(yè) ARMA(p,q)的自相關(guān)函數(shù)，可以看作MA(q)的自相關(guān)函數(shù)和AR(p)的自相關(guān)函數(shù)的混合物。 當(dāng)p=0時(shí)，它具有截尾性質(zhì)； 當(dāng)q=0時(shí)，它具有拖尾性質(zhì)； 當(dāng)p、q都不為0時(shí)，它具有拖尾性質(zhì) 從識(shí)別上看，通常： ARMA(p，q)過(guò)程的偏自相關(guān)函數(shù)（PACF）可能在p階滯后前有幾項(xiàng)明顯的尖柱（spikes），但從p階滯后項(xiàng)開(kāi)始逐漸趨向于零； 而它的自相關(guān)函數(shù)（ACF）則是在q階滯后前有幾項(xiàng)明顯的尖柱，從q階滯后項(xiàng)開(kāi)始逐漸趨向于零。 3 3、ARM

24、A(p, q)ARMA(p, q)過(guò)程過(guò)程 第34頁(yè)/共68頁(yè) 表表 9.2.1 ARMA(p,q)模模型型的的 ACF 與與 PACF 理理論論模模式式 模型 ACF PACF 白噪聲 0k 0*k AR(p) 衰減趨于零（幾何型或振蕩型） P 階后截尾：0*k，kp MA(q) q階后截尾： ，0k，kq 衰減趨于零（幾何型或振蕩型） ARMA(p,q) q階后衰減趨于零（幾何型或振蕩型） p階后衰減趨于零 （幾何型或振蕩型） 第35頁(yè)/共68頁(yè) 圖圖 9.2.2 ARMA(p,q)模型的模型的 ACF與與 PACF理論模式理論模式 ACF PACF 模型模型 1： tttXX17 . 0

25、0.00.20.40.60.812345678ACF10.00.20.40.60.812345678PACF1第36頁(yè)/共68頁(yè) 模型 2： tttXX17 . 0 模型 3： 17 . 0tttX-0.8-0.6-0.4-0.20.00.20.40.612345678ACF2-0.8-0.6-0.4-0.20.012345678PACF2-0.5-0.4-0.3-0.2-0.10.012345678ACF3-0.5-0.4-0.3-0.2-0.10.012345678PACF3第37頁(yè)/共68頁(yè) 模型 4：ttttXXX2149. 07 . 0 模型 5：117 . 07 . 0ttttXX

26、-0.4-0.20.00.20.40.612345678ACF4-0.4-0.20.00.20.40.612345678PACF4-1.2-0.8-0.40.00.40.812345678ACF5-1.0-0.8-0.6-0.4-0.20.012345678PACF5第38頁(yè)/共68頁(yè)四、隨機(jī)時(shí)間序列模型的估計(jì)四、隨機(jī)時(shí)間序列模型的估計(jì)第39頁(yè)/共68頁(yè) AR(p)、MA(q)、ARMA(p,q)模型的估計(jì)方法較多，大體上分為3類(lèi)： （1）最小二乘估計(jì)； （2）矩估計(jì)； （3）利用自相關(guān)函數(shù)的直接估計(jì)。 下面有選擇地加以介紹。結(jié)構(gòu)階數(shù)模型識(shí)別確定估計(jì)參數(shù)第40頁(yè)/共68頁(yè) AR(p) AR(p

27、)模型的模型的Yule WalkerYule Walker方程估計(jì)方程估計(jì) 在AR(p)模型的識(shí)別中，曾得到 pkpkkk2211利用k=-k，得到如下方程組： kppppppppp12112211211211 此方程組被稱(chēng)為Yule Walker方程組。該方程組建立了該方程組建立了AR(p)AR(p)模型的模型的模型參數(shù)模型參數(shù) 1 1, , 2 2, , , p p與自相關(guān)函數(shù)與自相關(guān)函數(shù) 1 1, , 2 2, , , p p的關(guān)系，的關(guān)系， 第41頁(yè)/共68頁(yè) 利用實(shí)際時(shí)間序列提供的信息，首先求得自相關(guān)函數(shù)的估計(jì)值 然后利用Yule Walker方程組，求解模型參數(shù)的估計(jì)值, 12p,

28、 12p12011102120112pppppp由于 ptptttXXX11于是 pjiijjitE1,022從而可得 2 2的估計(jì)值 pjiijji1,02在具體計(jì)算時(shí)，k可用樣本自相關(guān)函數(shù)rk替代。第42頁(yè)/共68頁(yè) MA(q) MA(q)模型的矩估計(jì)模型的矩估計(jì) 將MA(q)模型的自協(xié)方差函數(shù)中的各個(gè)量用估計(jì)量代替，得到： qkqkkqkqkkqk當(dāng)當(dāng)當(dāng)01)(0)1 (112222212 首先求得自協(xié)方差函數(shù)的估計(jì)值，(*)是一個(gè)包含(q+1)個(gè)待估參數(shù) (*)221,q的非線(xiàn)性方程組，可以用直接法或迭代法求解。 常用的迭代方法有線(xiàn)性迭代法和Newton-Raphsan迭代法。第43頁(yè)

29、/共68頁(yè) （1 1）MA(1)MA(1)模型的直接算法模型的直接算法 對(duì)于MA(1)模型，（*）式相應(yīng)地寫(xiě)成1212120)1 (于是 211021204或0212410有于是有解 )411 (22102)411 (2211211 由于參數(shù)估計(jì)有兩組解，可根據(jù)可逆性條件|1|1的MA(q)模型，一般用迭代算法估計(jì)參數(shù)： 由（*）式得 qkqkkkkq12211222102第一步，給出的一組初值，比如k,21202)0(0)0()0()0(21k代入（*）式，計(jì)算出第一次迭代值 02) 1 (0) 1 (kk（*）第45頁(yè)/共68頁(yè) 第二步，將第一次迭代值代入（*）式，計(jì)算出第二次迭代值 )1

30、 () 1 () 1 () 1 ()2()1 () 1 (1/()2(11022102qkqkkkq 按此反復(fù)迭代下去，直到第m步的迭代值與第m-1步的迭代值相差不大時(shí)（滿(mǎn)足一定的精度），便停止迭代，并用第m步的迭代結(jié)果作為（*）的近似解。 第46頁(yè)/共68頁(yè) ARMA(p,q) ARMA(p,q)模型的矩估計(jì)模型的矩估計(jì) 在ARMA(p,q)中共有(p+q+1)個(gè)待估參數(shù)1,2,p與1,2,q以及2，其估計(jì)量計(jì)算步驟及公式如下： 第一步，估計(jì)1,2,p 1211112112pqqqpqqqpqpqpqqqqp k是總體自相關(guān)函數(shù)的估計(jì)值，可用樣本自相關(guān)函數(shù)rk代替。 第47頁(yè)/共68頁(yè) 第二

31、步，改寫(xiě)模型，求1,2,q以及2的估計(jì)值 將模型 tptptttXXXX2211qtqtt2211 改寫(xiě)為： tptptttXXXX2211qtqtt2211令 ptpttttXXXXX2211于是(*)可以寫(xiě)成： (*)qtqttttX2211 構(gòu)成一個(gè)MA模型。按照估計(jì)MA模型參數(shù)的方法，可以得到1,2,q以及2的估計(jì)值。 第48頁(yè)/共68頁(yè) AR(p) AR(p)的最小二乘估計(jì)的最小二乘估計(jì) 假設(shè)模型AR(p)的參數(shù)估計(jì)值已經(jīng)得到，即有 tptptttXXXX2211 殘差的平方和為： 21221112)() (nptptptttnpttXXXXS(*) 根據(jù)最小二乘原理，所要求的參數(shù)估

32、計(jì)值是下列方程組的解： Sj 0即 0)(12211jtnptptptttXXXXXj=1,2,p (*) 解該方程組，就可得到待估參數(shù)的估計(jì)值。 第49頁(yè)/共68頁(yè) 為了與AR(p)模型的Yule Walker方程估計(jì)進(jìn)行比較，將(*)改寫(xiě)成： nptjttnptjtptpnptjttnptjttXXnXXnXXnXXn111221111j=1,2,p由自協(xié)方差函數(shù)的定義，并用自協(xié)方差函數(shù)的估計(jì)值 knpttktkXXn11代入，上式表示的方程組即為： jpjpjj2211或 jpjpjjrrrr2211j=1,2,pj=1,2,p第50頁(yè)/共68頁(yè)解該方程組，得到： pppppprrrrr

33、rrrrrrr21102120111021即為參數(shù)的最小二乘估計(jì)。 Yule Walker方程組的解12011102120112pppppp比較發(fā)現(xiàn)，當(dāng)n足夠大時(shí)，二者是相似的。 2的估計(jì)值為： pnSpnnptt1221第51頁(yè)/共68頁(yè) 需要說(shuō)明的是，在上述模型的平穩(wěn)性、識(shí)別與估計(jì)的討論中，ARMA(p,q)模型中均未包含常數(shù)項(xiàng)。 如果包含常數(shù)項(xiàng)，該常數(shù)項(xiàng)并不影響模型的原有性質(zhì)，因?yàn)橥ㄟ^(guò)適當(dāng)?shù)淖冃危蓪?shù)項(xiàng)的模型轉(zhuǎn)換為不含常數(shù)項(xiàng)的模型。 下面以一般的ARMA(p,q)模型為例說(shuō)明。 對(duì)含有常數(shù)項(xiàng)的模型 qtqttptpttXXX1111方程兩邊同減/(1-1-p)，則可得到 qtqt

34、tptpttxxx1111其中piiXx11pttti, 1,第52頁(yè)/共68頁(yè)五、模型的檢驗(yàn)五、模型的檢驗(yàn)第53頁(yè)/共68頁(yè) 由于ARMA(p,q)模型的識(shí)別與估計(jì)是在假設(shè)隨機(jī)擾動(dòng)項(xiàng)是一白噪聲的基礎(chǔ)上進(jìn)行的，因此，如果估計(jì)的模型確認(rèn)正確的話(huà)，殘差應(yīng)代表一白噪聲序列。 如果通過(guò)所估計(jì)的模型計(jì)算的樣本殘差不代表一如果通過(guò)所估計(jì)的模型計(jì)算的樣本殘差不代表一白噪聲，則說(shuō)明模型的識(shí)別與估計(jì)有誤，需重新識(shí)別白噪聲，則說(shuō)明模型的識(shí)別與估計(jì)有誤，需重新識(shí)別與估計(jì)。與估計(jì)。 在實(shí)際檢驗(yàn)時(shí)，主要檢驗(yàn)殘差序列是否存在自相關(guān)。1 1、殘差項(xiàng)的白噪聲檢驗(yàn)、殘差項(xiàng)的白噪聲檢驗(yàn) 可用QLB的統(tǒng)計(jì)量進(jìn)行 2檢驗(yàn)：在給定顯著

35、性水平下，可計(jì)算不同滯后期的QLB值，通過(guò)與 2分布表中的相應(yīng)臨界值比較，來(lái)檢驗(yàn)是否拒絕殘差序列為白噪聲的假設(shè)。 若大于相應(yīng)臨界值，則應(yīng)拒絕所估計(jì)的模型，需重新識(shí)別與估計(jì)。 第54頁(yè)/共68頁(yè)2 2、AICAIC與與SBCSBC模型選擇標(biāo)準(zhǔn)模型選擇標(biāo)準(zhǔn) 另外一個(gè)遇到的問(wèn)題是，在實(shí)際識(shí)別ARMA(p,q)模型時(shí)，需多次反復(fù)償試，有可能存在不止一組（p,q）值都能通過(guò)識(shí)別檢驗(yàn)。 顯然，增加p與q的階數(shù)，可增加擬合優(yōu)度，但卻同時(shí)降低了自由度。 因此，對(duì)可能的適當(dāng)?shù)哪Ｐ?，存在著模型的“?jiǎn)潔性”與模型的擬合優(yōu)度的權(quán)衡選擇問(wèn)題。第55頁(yè)/共68頁(yè) 其中，n為待估參數(shù)個(gè)數(shù)（p+q+可能存在的常數(shù)項(xiàng)），T為可

36、使用的觀測(cè)值，RSS為殘差平方和（Residual sum of squares）。 在選擇可能的模型時(shí)，AIC與SBC越小越好 顯然，如果添加的滯后項(xiàng)沒(méi)有解釋能力，則對(duì)顯然，如果添加的滯后項(xiàng)沒(méi)有解釋能力，則對(duì)RSSRSS值的減小沒(méi)有多大幫助，卻增加待估參數(shù)的個(gè)數(shù)，值的減小沒(méi)有多大幫助，卻增加待估參數(shù)的個(gè)數(shù)，因此使得因此使得AICAIC或或SBCSBC的值增加。的值增加。 需注意的是：在不同模型間進(jìn)行比較時(shí)，必須選取相同的時(shí)間段。 常用的模型選擇的判別標(biāo)準(zhǔn)有：赤池信息法（Akaike information criterion，簡(jiǎn)記為AIC）與施瓦茲貝葉斯法（Schwartz Bayesian

37、 criterion，簡(jiǎn)記為SBC）：)ln()ln(2)ln(TnRSSTSBCnRSSTAIC第56頁(yè)/共68頁(yè) 由第一節(jié)知：中國(guó)支出法GDP是非平穩(wěn)的，但它的一階差分是平穩(wěn)的，即支出法GDP是I(1)時(shí)間序列。 可 以 對(duì) 經(jīng) 過(guò) 一 階 差 分 后 的 G D P 建 立 適 當(dāng) 的ARMA(p,q)模型。 記GDP經(jīng)一階差分后的新序列為GDPD1，該新序列的樣本自相關(guān)函數(shù)圖與偏自相關(guān)函數(shù)圖如下：-0.4-0.20.00.20.40.60.81.024681012141618GDPD1AC-0.6-0.4-0.20.00.20.40.60.81.024681012141618GDPD1

38、PAC 例9.2.3 中國(guó)支出法GDP的ARMA(p,q)模型估計(jì)。第57頁(yè)/共68頁(yè) 圖形：樣本自相關(guān)函數(shù)圖形呈正弦線(xiàn)型衰減波，而偏自相關(guān)函數(shù)圖形則在滯后兩期后迅速趨于0。因此可初步判可初步判斷該序列滿(mǎn)足斷該序列滿(mǎn)足2 2階自回歸過(guò)程階自回歸過(guò)程AR(2)AR(2)。表表 9.2.2 中國(guó)中國(guó) GDP一階差分序列的樣本自相關(guān)函數(shù)與偏自相關(guān)函數(shù)一階差分序列的樣本自相關(guān)函數(shù)與偏自相關(guān)函數(shù)kkr*krkkr*krkkr*kr10.8590.8597-0.034-0.25213-0.361-0.08620.622-0.4418-0.1120.01214-0.3630.07630.378-0.0659

39、-0.1750.0415-0.3080.04340.1910.06610-0.228-0.11716-0.216-0.02250.0870.07711-0.282-0.19217-0.128-0.04860.036-0.05112-0.32-0.0218-0.059-0.002426. 0222|*kr 自相關(guān)函數(shù)與偏自相關(guān)函數(shù)的函數(shù)值： 相關(guān)函數(shù)具有明顯的拖尾性； 偏自相關(guān)函數(shù)值在k2以后，可認(rèn)為：偏自相關(guān)函數(shù)是截尾的。再次驗(yàn)證了一階差分后的偏自相關(guān)函數(shù)是截尾的。再次驗(yàn)證了一階差分后的GDPGDP滿(mǎn)足滿(mǎn)足AR(2)AR(2)隨機(jī)過(guò)程。隨機(jī)過(guò)程。第58頁(yè)/共68頁(yè)設(shè)序列GDPD1的模型形式為

40、ttttGDPDGDPDGDPD2211111有如下Yule Walker 方程： 622. 0859. 01859. 0859. 01121解為： 442. 0,239. 121用OLSOLS法回歸的結(jié)果為： ttttGDPDGDPDGDPD211653. 01593. 11 （7.91) (-3.60) r2=0.8469 R2=0.8385 DW=1.15第59頁(yè)/共68頁(yè) 有時(shí)，在用回歸法時(shí)，也可加入常數(shù)項(xiàng)。 本例中加入常數(shù)項(xiàng)的回歸為： ttttGDPDGDPDGDPD211678. 01495. 159.9091 （1.99） （7.74） （-3.58） r2 =0.8758 R2

41、 =0.8612 DW.=1.22 第60頁(yè)/共68頁(yè) 模型檢驗(yàn) 下表列出三模型的殘差項(xiàng)的自相關(guān)系數(shù)及QLB檢驗(yàn)值。 模型1與模型3的殘差項(xiàng)接近于一白噪聲，但模型2存在4階滯后相關(guān)問(wèn)題，Q統(tǒng)計(jì)量的檢驗(yàn)也得出模型2拒絕所有自相關(guān)系數(shù)為零的假設(shè)。因此: 模型模型1 1與與3 3可作為描述中國(guó)支出法可作為描述中國(guó)支出法GDPGDP一階差分序列的隨機(jī)生成過(guò)程。一階差分序列的隨機(jī)生成過(guò)程。表表 9.2.3 模模型型殘殘差差項(xiàng)項(xiàng)的的自自相相關(guān)關(guān)系系數(shù)數(shù)及及 Q檢檢驗(yàn)驗(yàn)值值 模型1 模型2 模型3 K Resid-ACF Q Resid-ACF Q Resid-ACF Q 1 0.382 3.3846 0.

42、258 1.5377 0.257 1.5263 2 0.014 3.3893 -0.139 2.0077 -0.040 1.5646 3 -0.132 3.8427 -0.246 3.5677 -0.059 1.6554 4 -0.341 7.0391 -0.529 11.267 -0.328 4.6210 5 -0.170 7.8910 -0.300 13.908 -0.151 5.2864 6 0.253 9.9097 0.271 16.207 0.345 9.0331 7 0.144 10.613 0.158 17.051 0.155 9.8458 8 0.057 10.730 0.11

43、6 17.541 0.076 10.059 9 -0.019 10.745 0.097 17.914 0.011 10.064 10 -0.146 11.685 -0.036 17.969 -0.123 10.728 11 -0.233 14.329 -0.136 18.878 -0.230 13.319 12 -0.049 14.461 0.064 19.104 -0.012 13.328 第61頁(yè)/共68頁(yè) 用建立的AR(2)模型對(duì)中國(guó)支出法GDP進(jìn)行外推預(yù)測(cè)。 模型1可作如下展開(kāi)： )()(3222111ttttttGDPGDPGDPGDPGDPGDP3221211)()1 (ttttG

44、DPGDPGDPGDP 于是，當(dāng)已知t-1、t-2、t-3期的GDP時(shí)，就可對(duì)第t期的GDP作出外推預(yù)測(cè)。 模型3的預(yù)測(cè)式與此相類(lèi)似，只不過(guò)多出一項(xiàng)常數(shù)項(xiàng)。 對(duì)對(duì)20012001年中國(guó)支出法年中國(guó)支出法GDPGDP的預(yù)測(cè)結(jié)果（億元）的預(yù)測(cè)結(jié)果（億元） 預(yù)測(cè)值預(yù)測(cè)值 實(shí)際值實(shí)際值 誤差誤差 模型模型1 95469 95933 -0.48%1 95469 95933 -0.48% 模型模型3 97160 95933 1.28%3 97160 95933 1.28% 第62頁(yè)/共68頁(yè) 由于中國(guó)人均居民消費(fèi)（CPC）與人均國(guó)內(nèi)生產(chǎn)總值（GDPPC）這兩時(shí)間序列是非平穩(wěn)的，因此不宜直接建立它們的因果關(guān)

45、系回歸方程。 但它們都是I(2)I(2)時(shí)間序列，因此可以建立它們的ARIMA(p,d,q)模型。 下面只建立下面只建立中國(guó)人均居民消費(fèi)（中國(guó)人均居民消費(fèi)（CPCCPC）的隨機(jī)時(shí)間序的隨機(jī)時(shí)間序列模型。列模型。 中國(guó)人均居民消費(fèi)（CPC）經(jīng)過(guò)二次差分后的新序列記為CPCD2，其自相關(guān)函數(shù)、偏自相關(guān)函數(shù)及Q統(tǒng)計(jì)量的值列于下表： 例9.2.4 中國(guó)人均居民消費(fèi)的ARMA(p,q)ARMA(p,q)模型第63頁(yè)/共68頁(yè) 在5%的顯著性水平下，通過(guò)Q統(tǒng)計(jì)量容易驗(yàn)證該序列本身就接近于一白噪聲，因此可考慮采用零階MA(0)MA(0)模型: 表表 9 9. .2 2. .4 4 C CP PC CD D2 2 序序列列的的自自相相關(guān)關(guān)函函數(shù)數(shù)、偏偏自自相相關(guān)關(guān)函函數(shù)數(shù)與與 Q Q 統(tǒng)統(tǒng)計(jì)計(jì)量量值值 k ACF PACF Q k ACF PACF Q 1 0.125 0.125 0.269 7 0.196 0.014 6.286 2 -0.294 -0.314 1.882 8 -0.218