隨機(jī)時間序列分析課件

1、隨機(jī)時間序列分析9.2 9.2 隨機(jī)時間序列分析模型隨機(jī)時間序列分析模型一、時間序列模型的基本概念及其適用性一、時間序列模型的基本概念及其適用性二、隨機(jī)時間序列模型的平穩(wěn)性條件二、隨機(jī)時間序列模型的平穩(wěn)性條件三、隨機(jī)時間序列模型的識別三、隨機(jī)時間序列模型的識別四、隨機(jī)時間序列模型的估計(jì)四、隨機(jī)時間序列模型的估計(jì)五、隨機(jī)時間序列模型的檢驗(yàn)五、隨機(jī)時間序列模型的檢驗(yàn)隨機(jī)時間序列分析 經(jīng)典計(jì)量經(jīng)濟(jì)學(xué)模型與時間序列模型經(jīng)典計(jì)量經(jīng)濟(jì)學(xué)模型與時間序列模型 確定性時間序列模型與隨機(jī)性時間序列確定性時間序列模型與隨機(jī)性時間序列模型模型隨機(jī)時間序列分析一、時間序列模型的基本概念及其適用性一、時間序列模型的基本概

2、念及其適用性隨機(jī)時間序列分析1 1、時間序列模型的基本概念、時間序列模型的基本概念 隨機(jī)時間序列模型（隨機(jī)時間序列模型（time series modeling）是指僅用它的過去值及隨機(jī)擾動項(xiàng)所建立起來的模型，其一般形式為 Xt=F(Xt-1, Xt-2, , t) 建立具體的時間序列模型，需解決如下三個問題建立具體的時間序列模型，需解決如下三個問題： (1)模型的具體形式模型的具體形式 (2)時序變量的滯后期時序變量的滯后期 (3)隨機(jī)擾動項(xiàng)的結(jié)構(gòu)隨機(jī)擾動項(xiàng)的結(jié)構(gòu) 例如，取線性方程、一期滯后以及白噪聲隨機(jī)擾動項(xiàng)（ t =t），模型將是一個1階自回歸過程階自回歸過程AR(1)： Xt=Xt-1

3、+ t這里， t特指一白噪聲一白噪聲。 隨機(jī)時間序列分析 一般的p階自回歸過程階自回歸過程AR(p)是 Xt=1Xt-1+ 2Xt-2 + + pXt-p + t (*) (1)如果隨機(jī)擾動項(xiàng)是一個白噪聲(t=t)，則稱(*)式為一純純AR(p)過程（過程（pure AR(p) process），記為 Xt=1Xt-1+ 2Xt-2 + + pXt-p +t (2)如果t不是一個白噪聲，通常認(rèn)為它是一個q階的移動平均（移動平均（moving average）過程）過程MA(q)： t=t - 1t-1 - 2t-2 - - qt-q 該式給出了一個純純MA(q)過程（過程（pure MA(p)

4、 process）。 隨機(jī)時間序列分析 將純AR(p)與純MA(q)結(jié)合，得到一個一般的自回歸移動自回歸移動平均（平均（autoregressive moving average）過程）過程ARMA（p,q）： Xt=1Xt-1+ 2Xt-2 + + pXt-p + t - 1t-1 - 2t-2 - - qt-q 該式表明：該式表明：（1）一個隨機(jī)時間序列可以通過一個自回歸移動平均過）一個隨機(jī)時間序列可以通過一個自回歸移動平均過程生成，程生成，即該序列可以由其自身的過去或滯后值以及隨機(jī)擾動項(xiàng)來解釋。（2）如果該序列是平穩(wěn)的）如果該序列是平穩(wěn)的，即它的行為并不會隨著時間的推移而變化，那么我們就

5、可以通過該序列過去的行為那么我們就可以通過該序列過去的行為來預(yù)測未來。來預(yù)測未來。 這也正是隨機(jī)時間序列分析模型的優(yōu)勢所在。隨機(jī)時間序列分析 經(jīng)典回歸模型的問題：經(jīng)典回歸模型的問題： 迄今為止，迄今為止，對一個時間序列Xt的變動進(jìn)行解釋或預(yù)測，是通過某個單方程回歸模型或聯(lián)立方程回歸模型進(jìn)行的，由于它們以因果關(guān)系為基礎(chǔ)，且具有一定的模型結(jié)構(gòu)，因此也常稱為結(jié)構(gòu)式模型（結(jié)構(gòu)式模型（structural model）。 然而，然而，如果Xt波動的主要原因可能是我們無法解釋的因素，如氣候、消費(fèi)者偏好的變化等，則利用結(jié)構(gòu)式模型來解釋Xt的變動就比較困難或不可能，因?yàn)橐〉孟鄳?yīng)的量化數(shù)據(jù)，并建立令人滿意的回

6、歸模型是很困難的。 有時，有時，即使能估計(jì)出一個較為滿意的因果關(guān)系回歸方程，但由于對某些解釋變量未來值的預(yù)測本身就非常困難，甚至比預(yù)測被解釋變量的未來值更困難，這時因果關(guān)系的回歸模型及其預(yù)測技術(shù)就不適用了。2 2、時間序列分析模型的適用性、時間序列分析模型的適用性隨機(jī)時間序列分析 例如例如，時間序列過去是否有明顯的增長趨勢時間序列過去是否有明顯的增長趨勢，如果增長趨勢在過去的行為中占主導(dǎo)地位，能否認(rèn)為它也會在未來的行為里占主導(dǎo)地位呢？ 或者時間序列顯示出循環(huán)周期性行為時間序列顯示出循環(huán)周期性行為，我們能否利用過去的這種行為來外推它的未來走向？ 隨機(jī)時間序列分析模型，就是要通過序列過去的變隨機(jī)時

7、間序列分析模型，就是要通過序列過去的變化特征來預(yù)測未來的變化趨勢化特征來預(yù)測未來的變化趨勢。 使用時間序列分析模型的另一個原因在于使用時間序列分析模型的另一個原因在于： 如果經(jīng)濟(jì)理論正確地闡釋了現(xiàn)實(shí)經(jīng)濟(jì)結(jié)構(gòu)，則這一結(jié)構(gòu)可以寫成類似于ARMA(p,q)式的時間序列分析模型的形式。 在這些情況下，我們采用另一條預(yù)測途徑在這些情況下，我們采用另一條預(yù)測途徑：通過時間序列的歷史數(shù)據(jù)，得出關(guān)于其過去行為的有關(guān)結(jié)論，進(jìn)而對時間序列未來行為進(jìn)行推斷。隨機(jī)時間序列分析 例如，例如，對于如下最簡單的宏觀經(jīng)濟(jì)模型： 這里，Ct、It、Yt分別表示消費(fèi)、投資與國民收入。 Ct與與Yt作為內(nèi)生變量，它們的運(yùn)動是由作為

8、外作為內(nèi)生變量，它們的運(yùn)動是由作為外生變量的投資生變量的投資It的運(yùn)動及隨機(jī)擾動項(xiàng)的運(yùn)動及隨機(jī)擾動項(xiàng) t的變化決定的變化決定的。的。tttCYC12110tttICY隨機(jī)時間序列分析上述模型可作變形如下： 兩個方程等式右邊除去第一項(xiàng)外的剩余部分可看成一個綜合性的隨機(jī)擾動項(xiàng)，其特征依賴于投資項(xiàng)It的行為。 如果如果It是一個白噪聲是一個白噪聲，則消費(fèi)序列Ct就成為一個1階自回歸過程階自回歸過程AR(1)，而收入序列Yt就成為一個(1,1)階的自回歸移動平均過程階的自回歸移動平均過程ARMA(1,1)。ttttICC1111011211111tttttIIYY11121101121111111隨機(jī)

9、時間序列分析二、隨機(jī)時間序列模型的平穩(wěn)性條件二、隨機(jī)時間序列模型的平穩(wěn)性條件隨機(jī)時間序列分析 自回歸移動平均模型（ARMA）是隨機(jī)時間序列分析模型的普遍形式，自回歸模型（AR）和移動平均模型（MA）是它的特殊情況。 關(guān)于這幾類模型的研究，是時間序列分析的重點(diǎn)內(nèi)容時間序列分析的重點(diǎn)內(nèi)容：主要包括主要包括模型的平穩(wěn)性分析模型的平穩(wěn)性分析、模型的識別模型的識別和和模型的估計(jì)模型的估計(jì)。 1 1、AR(p)AR(p)模型的平穩(wěn)性條件模型的平穩(wěn)性條件 隨機(jī)時間序列模型的平穩(wěn)性隨機(jī)時間序列模型的平穩(wěn)性，可通過它所生成的隨機(jī)時間可通過它所生成的隨機(jī)時間序列的平穩(wěn)性來判斷序列的平穩(wěn)性來判斷。 如果如果一個p階

10、自回歸模型AR(p)生成的時間序列是平穩(wěn)的，就說該AR(p)模型是平穩(wěn)的， 否則否則，就說該AR(p)模型是非平穩(wěn)的。隨機(jī)時間序列分析考慮p階自回歸模型AR(p) Xt=1Xt-1+ 2Xt-2 + + pXt-p +t (*) 引入滯后算子（滯后算子（lag operator ）L： LXt=Xt-1, L2Xt=Xt-2, , LpXt=Xt-p(*)式變換為 (1-1L- 2L2-pLp)Xt=t 記(L)= (1-1L- 2L2-pLp),則稱多項(xiàng)式方程 (z)= (1-1z- 2z2-pzp)=0為AR(p)的特征方程特征方程(characteristic equation)(cha

11、racteristic equation)。 可以證明，可以證明，如果該特征方程的所有根在單位圓外如果該特征方程的所有根在單位圓外（根的模大于（根的模大于1 1），則），則AR(p)AR(p)模型是平穩(wěn)的。模型是平穩(wěn)的。 隨機(jī)時間序列分析 例例9.2.1 AR(1)模型的平穩(wěn)性條件。對1階自回歸模型AR(1)tttXX1方程兩邊平方再求數(shù)學(xué)期望，得到Xt的方差)(2)()()(122122tttttXEEXEXE由于Xt僅與t相關(guān)，因此，E(Xt-1t)=0。如果該模型穩(wěn)定，則有E(Xt2)=E(Xt-12)，從而上式可變換為：22201X在穩(wěn)定條件下，該方差是一非負(fù)的常數(shù)，從而有 |1。 隨

12、機(jī)時間序列分析 而AR(1)的特征方程01)(zz的根為 z=1/ AR(1)穩(wěn)定，即 | 1，意味著特征根大于1。例例9.2.2 AR(2)模型的平穩(wěn)性。 對AR(2)模型 ttttXXX2211方程兩邊同乘以Xt，再取期望得： )(22110ttXE隨機(jī)時間序列分析又由于222211)()()()(tttttttEXEXEXE于是 222110同樣地，由原式還可得到0211212011于是方差為 )1)(1)(1 ()1 (21212220隨機(jī)時間序列分析由平穩(wěn)性的定義，該方差必須是一不變的正數(shù)，于是有 1+21, 2-11, |2|1這就是AR(2)的平穩(wěn)性條件的平穩(wěn)性條件，或稱為平穩(wěn)域

13、平穩(wěn)域。它是一頂點(diǎn)分別為（-2,-1），（2,-1），（0,1）的三角形。 2 (0,1) 1 (-2, -1) (2, -1) 圖圖 9.2.1 AR(2)模模型型的的平平穩(wěn)穩(wěn)域域 隨機(jī)時間序列分析對應(yīng)的特征方程1-1z-2z2=0 的兩個根z1、z2滿足： z1z2=-1/2 , z1+z2 =-1/2 ttttXXX2211AR(2)模型解出1，22121zz21211zzzz 由AR(2)的平穩(wěn)性，|2|=1/|z1|z2|1，有1)11)(11 (112121212121zzzzzzzz0)11)(11 (21zz于是| z2 |1。由 2 - 1 1可推出同樣的結(jié)果。隨機(jī)時間序列分

14、析 對高階自回模型對高階自回模型AR(p)來說來說，多數(shù)情況下沒有必要直接計(jì)算其特征方程的特征根，但有一些有一些有用的規(guī)則可用來檢驗(yàn)高階自回歸模型的穩(wěn)定性用的規(guī)則可用來檢驗(yàn)高階自回歸模型的穩(wěn)定性： (1)AR(p)模型穩(wěn)定的必要條件是模型穩(wěn)定的必要條件是： 1+2+p1 (2)(2)由于i(i=1,2,p)可正可負(fù)，AR(p)模模型穩(wěn)定的充分條件是：型穩(wěn)定的充分條件是： |1|+|2|+|p|1 隨機(jī)時間序列分析 對于移動平均模型MR(q)： Xt=t - 1t-1 - 2t-2 - - qt-q 其中t是一個白噪聲，于是 2、MA(q)模型的平穩(wěn)性模型的平穩(wěn)性 0)()()()(11qqtt

15、tEEEXE22111121322111122210),cov()(),cov()(),cov()1 (varqqttqqqqttqqqttqtXXXXXXX 當(dāng)滯后期大于q時，Xt的自協(xié)方差系數(shù)為0。因此:有限階移動平均模型總是平穩(wěn)的有限階移動平均模型總是平穩(wěn)的。 隨機(jī)時間序列分析 由于ARMA (p,q)模型是AR(p)模型與MA(q)模型的組合：Xt=1Xt-1+ 2Xt-2 + + pXt-p + t - 1t-1 - 2t-2 - - qt-q 3、ARMA(p,q)模型的平穩(wěn)性模型的平穩(wěn)性 而而MA(q)模型總是平穩(wěn)的，因此模型總是平穩(wěn)的，因此ARMA (p,q)模型的平模型的平穩(wěn)

16、性取決于穩(wěn)性取決于AR(p)部分的平穩(wěn)性。部分的平穩(wěn)性。 當(dāng)當(dāng)AR(p)部分平穩(wěn)時，則該部分平穩(wěn)時，則該ARMA(p,q)模型是平穩(wěn)的，模型是平穩(wěn)的，否則，不是平穩(wěn)的。否則，不是平穩(wěn)的。隨機(jī)時間序列分析 最后最后 （1 1）一個平穩(wěn)的時間序列總可以找到生成它的平穩(wěn)的隨）一個平穩(wěn)的時間序列總可以找到生成它的平穩(wěn)的隨機(jī)過程或模型；機(jī)過程或模型； （2 2）一個非平穩(wěn)的隨機(jī)時間序列通常可以通過差分的方）一個非平穩(wěn)的隨機(jī)時間序列通?？梢酝ㄟ^差分的方法將它變換為平穩(wěn)的，對差分后平穩(wěn)的時間序列也可找出對法將它變換為平穩(wěn)的，對差分后平穩(wěn)的時間序列也可找出對應(yīng)的平穩(wěn)隨機(jī)過程或模型。應(yīng)的平穩(wěn)隨機(jī)過程或模型。 因

17、此，因此，如果我們將一個非平穩(wěn)時間序列通過如果我們將一個非平穩(wěn)時間序列通過d d次差分，將次差分，將它變?yōu)槠椒€(wěn)的，然后用一個平穩(wěn)的它變?yōu)槠椒€(wěn)的，然后用一個平穩(wěn)的ARMA(p,q)ARMA(p,q)模型作為它的模型作為它的生成模型，則我們就說該原始時間序列是一個生成模型，則我們就說該原始時間序列是一個自回歸單整移自回歸單整移動平均（動平均（autoregressive integrated moving averageautoregressive integrated moving average）時）時間序列，記為間序列，記為ARIMA(p,d,q)ARIMA(p,d,q)。 例如，例如，一個

18、一個ARIMA(2,1,2)ARIMA(2,1,2)時間序列在它成為平穩(wěn)序列之前時間序列在它成為平穩(wěn)序列之前先得差分一次，然后用一個先得差分一次，然后用一個ARMA(2,2)ARMA(2,2)模型作為它的生成模模型作為它的生成模型的。型的。 當(dāng)然，當(dāng)然，一個一個ARIMA(p,0,0)ARIMA(p,0,0)過程表示了一個純過程表示了一個純AR(p)AR(p)平穩(wěn)過平穩(wěn)過程；一個程；一個ARIMA(0,0,q)ARIMA(0,0,q)表示一個純表示一個純MA(q)MA(q)平穩(wěn)過程。平穩(wěn)過程。隨機(jī)時間序列分析三、隨機(jī)時間序列模型的識別三、隨機(jī)時間序列模型的識別隨機(jī)時間序列分析 所謂隨機(jī)時間序列

19、模型的識別所謂隨機(jī)時間序列模型的識別，就是對于一個平穩(wěn)的隨機(jī)時間序列，找出生成它的合適的隨機(jī)過程或模型，即判斷該時間序列是遵循一純AR過程、還是遵循一純MA過程或ARMA過程。 所使用的工具所使用的工具主要是時間序列的自相關(guān)函數(shù)自相關(guān)函數(shù)（autocorrelation function，ACF）及偏自相關(guān)函偏自相關(guān)函數(shù)數(shù)（partial autocorrelation function， PACF ）。隨機(jī)時間序列分析 1 1、AR(p)AR(p)過程過程 (1)(1)自相關(guān)函數(shù)自相關(guān)函數(shù)ACFACF 1階自回歸模型階自回歸模型AR(1) Xt=Xt-1+ t 的k階滯后自協(xié)方差自協(xié)方差為：

20、011)(kkttktkXXE=1,2,因此，AR(1)模型的自相關(guān)函數(shù)自相關(guān)函數(shù)為 kkk0=1,2, 由由AR(1)的穩(wěn)定性知的穩(wěn)定性知| | |1，因此，因此，k k時，呈指數(shù)形時，呈指數(shù)形衰減，直到零衰減，直到零。這種現(xiàn)象稱為拖尾拖尾或稱AR(1)有無窮記憶有無窮記憶（infinite memory）。 注意注意， 0時，呈振蕩衰減狀。 隨機(jī)時間序列分析 Xt=1Xt-1+ 2Xt-2 + t該模型的方差0以及滯后1期與2期的自協(xié)方差1, 2分別為階自回歸模型階自回歸模型AR(2) 2221100211212011類似地,可寫出一般的一般的k期滯后自協(xié)方差期滯后自協(xié)方差： 221122

21、11)(kktttktkrXXXE(K=2,3,)于是,AR(2)的k 階自相關(guān)函數(shù)階自相關(guān)函數(shù)為： 2211kkk(K=2,3,)其中 :1=1/(1-2), 0=1如果如果AR(2)AR(2)穩(wěn)定，則由穩(wěn)定，則由 1 1+ + 2 211知知| | k k| |衰減趨于零，呈拖尾狀。衰減趨于零，呈拖尾狀。至于衰減的形式，要看至于衰減的形式，要看AR(2)AR(2)特征根的實(shí)虛性，特征根的實(shí)虛性，若為實(shí)根，若為實(shí)根，則呈單調(diào)或振蕩型衰減，若為虛根，則呈正弦波型衰減。則呈單調(diào)或振蕩型衰減，若為虛根，則呈正弦波型衰減。 隨機(jī)時間序列分析一般地，p階自回歸模型階自回歸模型AR(p) Xt=1Xt-

22、1+ 2Xt-2 + pXt-p + tk期滯后協(xié)方差為: pkpkktptpttKtkXXXXE22112211)(從而有自相關(guān)函數(shù) :pkpkkk2211 可見，無論無論k k有多大，有多大， k k的計(jì)算均與其到的計(jì)算均與其到p p階滯后階滯后的自相關(guān)函數(shù)有關(guān)的自相關(guān)函數(shù)有關(guān)，因此呈拖尾狀呈拖尾狀。 如果如果AR(p)AR(p)是穩(wěn)定的，則是穩(wěn)定的，則| | k k| |遞減且趨于零遞減且趨于零。 隨機(jī)時間序列分析 其中：1/zi是AR(p)特征方程(z)=0的特征根，由AR(p)平穩(wěn)的條件知，|zi|p，Xt與Xt-k間的偏自相關(guān)系數(shù)偏自相關(guān)系數(shù)為零。 AR(p)的一個主要特征是的一個

23、主要特征是:kp時，時， k*=Corr(Xt,Xt-k)=0 即即 k*在在p以后是截尾的。以后是截尾的。一隨機(jī)時間序列的識別原則：一隨機(jī)時間序列的識別原則：若若XtXt的偏自相關(guān)函數(shù)在的偏自相關(guān)函數(shù)在p p以后截尾，即以后截尾，即kp時，時， k*=0=0，而，而它的自相關(guān)函數(shù)它的自相關(guān)函數(shù) k是拖尾的，則此序列是自回歸是拖尾的，則此序列是自回歸AR(p)AR(p)序序列。列。隨機(jī)時間序列分析 在實(shí)際識別時，由于樣本偏自相關(guān)函數(shù)rk*是總體偏自相關(guān)函數(shù)k*的一個估計(jì)，由于樣本的隨機(jī)性，當(dāng)kp時，rk*不會全為0，而是在0的上下波動。但可以證明，當(dāng)kp時，rk*服從如下漸近正態(tài)分布: rk*

24、N(0,1/n)式中n表示樣本容量。 因此，如果計(jì)算的rk*滿足 需指出的是需指出的是，我們就有95.5%的把握判斷原時間序列在p之后截尾。nrk2|*隨機(jī)時間序列分析 對MA(1)過程 2、MA(q)MA(q)過程過程 1tttX可容易地寫出它的自協(xié)方差系數(shù)自協(xié)方差系數(shù)： 0)1 (3221220于是，MA(1)過程的自相關(guān)函數(shù)自相關(guān)函數(shù)為：0)1 (3221可見，當(dāng)當(dāng)k1時，時， k k0，即，即Xt與與Xt-k不相關(guān)，不相關(guān)，MA(1)MA(1)自自相關(guān)函數(shù)是截尾的。相關(guān)函數(shù)是截尾的。 隨機(jī)時間序列分析 MA(1)過程可以等價地寫成過程可以等價地寫成 t t關(guān)于無窮序列關(guān)于無窮序列X X

25、t t，X Xt-1t-1，的線性組合的形式：的線性組合的形式：221ttttXXX或ttttXXX221（*） (*)是一個AR()過程，它的偏自相關(guān)函數(shù)非截尾但卻趨于零，因此MA(1)MA(1)的偏自相關(guān)函數(shù)是非截尾但卻趨于零的偏自相關(guān)函數(shù)是非截尾但卻趨于零的。的。 注意注意: : (*)式只有當(dāng)|1時才有意義，否則意味著距Xt越遠(yuǎn)的X值，對Xt的影響越大，顯然不符合常理。 因此，我們把把| | |1|q時， Xt與與Xt-k不相關(guān)，即存在截尾現(xiàn)象，因此，當(dāng)當(dāng)kq時，時， k k=0是是MA(q)的一個特征的一個特征。 于是：可以根據(jù)自相關(guān)系數(shù)是否從某一點(diǎn)開始一直為可以根據(jù)自相關(guān)系數(shù)是否從

26、某一點(diǎn)開始一直為0 0來判斷來判斷MA(q)MA(q)模型的階。模型的階。隨機(jī)時間序列分析 與MA(1)相仿，可以驗(yàn)證MA(q)過程的偏自相關(guān)函數(shù)是非截尾但趨于零的。 MA(q)模型的識別規(guī)則：模型的識別規(guī)則：若隨機(jī)序列的自相關(guān)函數(shù)截若隨機(jī)序列的自相關(guān)函數(shù)截尾，即自尾，即自q q以后，以后， k k=0=0（ kqkq）；而它的偏自相關(guān)函數(shù)是拖）；而它的偏自相關(guān)函數(shù)是拖尾的，則此序列是滑動平均尾的，則此序列是滑動平均MA(q)MA(q)序列。序列。 同樣需要注意的是同樣需要注意的是：在實(shí)際識別時，由于樣本自相關(guān)函數(shù)rk是總體自相關(guān)函數(shù)k的一個估計(jì)，由于樣本的隨機(jī)性，當(dāng)kq時，rk不會全為0，而

27、是在0的上下波動。但可以證明，當(dāng)kq時，rk服從如下漸近正態(tài)分布: rkN(0,1/n)式中n表示樣本容量。 因此，如果計(jì)算的如果計(jì)算的r rk k滿足：滿足：nrk2|我們就有就有95.5%95.5%的把握判斷原時間序列在的把握判斷原時間序列在q q之后截尾之后截尾。隨機(jī)時間序列分析 ARMA(p,q)的自相關(guān)函數(shù)的自相關(guān)函數(shù)，可以看作MA(q)的自相關(guān)函數(shù)和AR(p)的自相關(guān)函數(shù)的混合物。 當(dāng)當(dāng)p=0時，它具有截尾性質(zhì)時，它具有截尾性質(zhì)； 當(dāng)當(dāng)q=0時，它具有拖尾性質(zhì)；時，它具有拖尾性質(zhì)； 當(dāng)當(dāng)p、q都不為都不為0時，它具有拖尾性質(zhì)時，它具有拖尾性質(zhì) 從識別上看，通常：從識別上看，通常：

28、ARMA(p，q)過程的偏自相關(guān)函數(shù)（過程的偏自相關(guān)函數(shù)（PACF）可能在可能在p階滯階滯后前有幾項(xiàng)明顯的尖柱（后前有幾項(xiàng)明顯的尖柱（spikes），但從），但從p階滯后項(xiàng)開始逐漸階滯后項(xiàng)開始逐漸趨向于零；趨向于零； 而而它的自相關(guān)函數(shù)（它的自相關(guān)函數(shù)（ACF）則是在則是在q階滯后前有幾項(xiàng)明顯階滯后前有幾項(xiàng)明顯的尖柱，從的尖柱，從q階滯后項(xiàng)開始逐漸趨向于零。階滯后項(xiàng)開始逐漸趨向于零。 3 3、ARMA(p, q)ARMA(p, q)過程過程 隨機(jī)時間序列分析 表表 9.2.1 ARMA(p,q)模模型型的的 ACF 與與 PACF 理理論論模模式式 模型 ACF PACF 白噪聲 0k 0*k

29、 AR(p) 衰減趨于零（幾何型或振蕩型） P 階后截尾：0*k，kp MA(q) q階后截尾： ，0k，kq 衰減趨于零（幾何型或振蕩型） ARMA(p,q) q階后衰減趨于零（幾何型或振蕩型） p階后衰減趨于零 （幾何型或振蕩型） 隨機(jī)時間序列分析 圖圖 9.2.2 ARMA(p,q)模型的模型的 ACF與與 PACF理論模式理論模式 ACF PACF 模型模型 1： tttXX17 . 00.00.20.40.60.812345678ACF10.00.20.40.60.812345678PACF1隨機(jī)時間序列分析 模型 2： tttXX17 . 0 模型 3： 17 . 0tttX-0.

30、8-0.6-0.4-0.20.00.20.40.612345678ACF2-0.8-0.6-0.4-0.20.012345678PACF2-0.5-0.4-0.3-0.2-0.10.012345678ACF3-0.5-0.4-0.3-0.2-0.10.012345678PACF3隨機(jī)時間序列分析 模型 4：ttttXXX2149. 07 . 0 模型 5：117 . 07 . 0ttttXX-0.4-0.20.00.20.40.612345678ACF4-0.4-0.20.00.20.40.612345678PACF4-1.2-0.8-0.40.00.40.812345678ACF5-1.0-

31、0.8-0.6-0.4-0.20.012345678PACF5隨機(jī)時間序列分析四、隨機(jī)時間序列模型的估計(jì)四、隨機(jī)時間序列模型的估計(jì)隨機(jī)時間序列分析 AR(p)、MA(q)、ARMA(p,q)模型的估計(jì)方法較多，大大體上分為體上分為3類：類： （1）最小二乘估計(jì)；）最小二乘估計(jì)； （2）矩估計(jì)；）矩估計(jì)； （3）利用自相關(guān)函數(shù)的直接估計(jì)）利用自相關(guān)函數(shù)的直接估計(jì)。 下面有選擇地加以介紹。結(jié)構(gòu)階數(shù)模型識別確定估計(jì)參數(shù)隨機(jī)時間序列分析 AR(p) AR(p)模型的模型的Yule WalkerYule Walker方程估計(jì)方程估計(jì) 在AR(p)模型的識別中，曾得到 pkpkkk2211利用k=-k，得

32、到如下方程組： kppppppppp12112211211211 此方程組被稱為此方程組被稱為Yule Walker方程組方程組。該方程組建該方程組建立了立了AR(p)AR(p)模型的模型參數(shù)模型的模型參數(shù) 1 1, , 2 2, , , p p與自相關(guān)函數(shù)與自相關(guān)函數(shù) 1 1, , 2 2, , , p p的關(guān)系，的關(guān)系， 隨機(jī)時間序列分析 利用實(shí)際時間序列提供的信息，利用實(shí)際時間序列提供的信息，首先首先求得自相關(guān)函數(shù)的求得自相關(guān)函數(shù)的估計(jì)值估計(jì)值 然后然后利用利用Yule Walker方程組，求解模型參數(shù)的估計(jì)方程組，求解模型參數(shù)的估計(jì)值值, 12p, 12p12011102120112p

33、ppppp由于 ptptttXXX11于是 pjiijjitE1,022從而可得 2 2的估計(jì)值的估計(jì)值 pjiijji1,02在具體計(jì)算時，k可用樣本自相關(guān)函數(shù)rk替代。隨機(jī)時間序列分析 MA(q) MA(q)模型的矩估計(jì)模型的矩估計(jì) 將MA(q)模型的自協(xié)方差函數(shù)中的各個量用估計(jì)量代替，得到： qkqkkqkqkkqk當(dāng)當(dāng)當(dāng)01)(0)1 (112222212 首先首先求得自協(xié)方差函數(shù)的估計(jì)值，(*)是一個包含(q+1)個待估參數(shù) (*)221,q的非線性方程組，可以用直接法直接法或迭代法迭代法求解。 常用的迭代方法有常用的迭代方法有線性迭代法線性迭代法和和Newton-Raphsan迭代

34、法迭代法。隨機(jī)時間序列分析 （1 1）MA(1)MA(1)模型的直接算法模型的直接算法 對于MA(1)模型，（*）式相應(yīng)地寫成1212120)1 (于是 211021204或0212410有于是有解 )411 (22102)411 (2211211 由于參數(shù)估計(jì)有兩組解，可根據(jù)可逆性條件|1|1的MA(q)模型，一般用迭代算法估計(jì)參數(shù)： 由（*）式得 qkqkkkkq12211222102第一步第一步，給出的一組初值，比如k,21202)0(0)0()0()0(21k代入（*）式，計(jì)算出第一次迭代值 02) 1 (0) 1 (kk（*）隨機(jī)時間序列分析 第二步第二步，將第一次迭代值代入（*）式

35、，計(jì)算出第二次迭代值 )1 () 1 () 1 () 1 ()2()1 () 1 (1/()2(11022102qkqkkkq 按此反復(fù)迭代下去，直到第m步的迭代值與第m-1步的迭代值相差不大時（滿足一定的精度），便停止迭代，并用第m步的迭代結(jié)果作為（*）的近似解。 隨機(jī)時間序列分析 ARMA(p,q) ARMA(p,q)模型的矩估計(jì)模型的矩估計(jì) 在ARMA(p,q)中共有(p+q+1)個待估參數(shù)1,2,p與1,2,q以及2，其估計(jì)量計(jì)算步驟及公式如下： 第一步第一步，估計(jì)1,2,p 1211112112pqqqpqqqpqpqpqqqqp k是總體自相關(guān)函數(shù)的估計(jì)值，可用樣本自相關(guān)函數(shù)rk代

36、替。 隨機(jī)時間序列分析 第二步，第二步，改寫模型，求1,2,q以及2的估計(jì)值 將模型 tptptttXXXX2211qtqtt2211 改寫為： tptptttXXXX2211qtqtt2211令 ptpttttXXXXX2211于是(*)可以寫成： (*)qtqttttX2211 構(gòu)成一個MA模型。按照估計(jì)MA模型參數(shù)的方法，可以得到1,2,q以及2的估計(jì)值。 隨機(jī)時間序列分析 AR(p) AR(p)的最小二乘估計(jì)的最小二乘估計(jì) 假設(shè)模型AR(p)的參數(shù)估計(jì)值已經(jīng)得到，即有 tptptttXXXX2211 殘差的平方和為： 21221112)() (nptptptttnpttXXXXS(*)

37、 根據(jù)最小二乘原理，所要求的參數(shù)估計(jì)值是下列方程組的解： Sj 0即 0)(12211jtnptptptttXXXXXj=1,2,p (*) 解該方程組，就可得到待估參數(shù)的估計(jì)值。 隨機(jī)時間序列分析 為了與AR(p)模型的Yule Walker方程估計(jì)進(jìn)行比較，將(*)改寫成： nptjttnptjtptpnptjttnptjttXXnXXnXXnXXn111221111j=1,2,p由自協(xié)方差函數(shù)的定義，并用自協(xié)方差函數(shù)的估計(jì)值 knpttktkXXn11代入，上式表示的方程組即為： jpjpjj2211或 jpjpjjrrrr2211j=1,2,pj=1,2,p隨機(jī)時間序列分析解該方程組，

38、得到： pppppprrrrrrrrrrrr21102120111021即為參數(shù)的最小二乘估計(jì)。 Yule Walker方程組的解12011102120112pppppp比較發(fā)現(xiàn)，當(dāng)n足夠大時，二者是相似的。 2的估計(jì)值為： pnSpnnptt1221隨機(jī)時間序列分析 需要說明的是，需要說明的是，在上述模型的平穩(wěn)性、識別與估計(jì)的討在上述模型的平穩(wěn)性、識別與估計(jì)的討論中，論中，ARMA(p,q)模型中均未包含常數(shù)項(xiàng)。模型中均未包含常數(shù)項(xiàng)。 如果包含常數(shù)項(xiàng)，該常數(shù)項(xiàng)并不影響模型的原有性質(zhì)如果包含常數(shù)項(xiàng)，該常數(shù)項(xiàng)并不影響模型的原有性質(zhì)，因?yàn)橥ㄟ^適當(dāng)?shù)淖冃?，可將包含常?shù)項(xiàng)的模型轉(zhuǎn)換為不含常數(shù)項(xiàng)的模型。

39、 下面以一般的ARMA(p,q)模型為例說明。 對含有常數(shù)項(xiàng)的模型 qtqttptpttXXX1111方程兩邊同減/(1-1-p)，則可得到 qtqttptpttxxx1111其中piiXx11pttti, 1,隨機(jī)時間序列分析五、模型的檢驗(yàn)五、模型的檢驗(yàn)隨機(jī)時間序列分析 由于ARMA(p,q)模型的識別與估計(jì)是在假設(shè)隨機(jī)擾動項(xiàng)是一白噪聲的基礎(chǔ)上進(jìn)行的，因此，如果估計(jì)的模如果估計(jì)的模型確認(rèn)正確的話，殘差應(yīng)代表一白噪聲序列型確認(rèn)正確的話，殘差應(yīng)代表一白噪聲序列。 如果通過所估計(jì)的模型計(jì)算的樣本殘差不代表一白噪如果通過所估計(jì)的模型計(jì)算的樣本殘差不代表一白噪聲，則說明模型的識別與估計(jì)有誤，需重新識別

40、與估計(jì)。聲，則說明模型的識別與估計(jì)有誤，需重新識別與估計(jì)。 在實(shí)際檢驗(yàn)時，主要檢驗(yàn)殘差序列是否存在自相關(guān)在實(shí)際檢驗(yàn)時，主要檢驗(yàn)殘差序列是否存在自相關(guān)。1 1、殘差項(xiàng)的白噪聲檢驗(yàn)、殘差項(xiàng)的白噪聲檢驗(yàn) 可用可用QLB的統(tǒng)計(jì)量進(jìn)行的統(tǒng)計(jì)量進(jìn)行 2檢驗(yàn)檢驗(yàn)：在給定顯著性水平下，可計(jì)算不同滯后期的QLB值，通過與 2分布表中的相應(yīng)臨界值比較，來檢驗(yàn)是否拒絕殘差序列為白噪聲的假設(shè)。 若大于相應(yīng)臨界值，則應(yīng)拒絕所估計(jì)的模型，需重新識別與估計(jì)。 隨機(jī)時間序列分析2 2、AICAIC與與SBCSBC模型選擇標(biāo)準(zhǔn)模型選擇標(biāo)準(zhǔn) 另外一個遇到的問題是，在實(shí)際識別ARMA(p,q)模型時，需多次反復(fù)償試，有可能存在不止

41、一組（p,q）值都能通過識別檢驗(yàn)。 顯然，增加增加p與與q的階數(shù)，可增加擬合優(yōu)度的階數(shù)，可增加擬合優(yōu)度，但卻同時降低但卻同時降低了自由度了自由度。 因此，對可能的適當(dāng)?shù)哪Ｐ?，存在著模型的對可能的適當(dāng)?shù)哪Ｐ停嬖谥Ｐ偷摹昂啙嵭院啙嵭浴迸c模與模型的擬合優(yōu)度的權(quán)衡選擇問題。型的擬合優(yōu)度的權(quán)衡選擇問題。隨機(jī)時間序列分析 其中，n為待估參數(shù)個數(shù)（p+q+可能存在的常數(shù)項(xiàng)），T為可使用的觀測值，RSS為殘差平方和（Residual sum of squares）。 在選擇可能的模型時，在選擇可能的模型時，AIC與與SBC越小越好越小越好 顯然，如果添加的滯后項(xiàng)沒有解釋能力，則對顯然，如果添加的滯后項(xiàng)沒有

42、解釋能力，則對RSSRSS值值的減小沒有多大幫助，卻增加待估參數(shù)的個數(shù)，因此使的減小沒有多大幫助，卻增加待估參數(shù)的個數(shù)，因此使得得AICAIC或或SBCSBC的值增加。的值增加。 需注意的是：需注意的是：在不同模型間進(jìn)行比較時，必須選取相同的時間段。 常用的模型選擇的判別標(biāo)準(zhǔn)有：常用的模型選擇的判別標(biāo)準(zhǔn)有：赤池信息法赤池信息法（Akaike information criterion，簡記為簡記為AIC）與施瓦茲貝葉斯法施瓦茲貝葉斯法（Schwartz Bayesian criterion，簡記為簡記為SBC）：)ln()ln(2)ln(TnRSSTSBCnRSSTAIC隨機(jī)時間序列分析 由第

43、一節(jié)知：中國支出法GDP是非平穩(wěn)的，但它的一階差分是平穩(wěn)的，即支出法GDP是I(1)時間序列。 可以對經(jīng)過一階差分后的GDP建立適當(dāng)?shù)腁RMA(p,q)模型。 記GDP經(jīng)一階差分后的新序列為GDPD1，該新序列的樣本自相關(guān)函數(shù)圖與偏自相關(guān)函數(shù)圖如下：-0.4-0.20.00.20.40.60.81.024681012141618GDPD1AC-0.6-0.4-0.20.00.20.40.60.81.024681012141618GDPD1PAC 例例9.2.3 中國支出法中國支出法GDP的的ARMA(p,q)模型估計(jì)。模型估計(jì)。隨機(jī)時間序列分析 圖形：圖形：樣本自相關(guān)函數(shù)圖形呈正弦線型衰減波，

44、而偏自相關(guān)函數(shù)圖形則在滯后兩期后迅速趨于0。因此可初步判斷該序列可初步判斷該序列滿足滿足2 2階自回歸過程階自回歸過程AR(2)AR(2)。表表 9.2.2 中國中國 GDP一階差分序列的樣本自相關(guān)函數(shù)與偏自相關(guān)函數(shù)一階差分序列的樣本自相關(guān)函數(shù)與偏自相關(guān)函數(shù)kkr*krkkr*krkkr*kr10.8590.8597-0.034-0.25213-0.361-0.08620.622-0.4418-0.1120.01214-0.3630.07630.378-0.0659-0.1750.0415-0.3080.04340.1910.06610-0.228-0.11716-0.216-0.02250.

45、0870.07711-0.282-0.19217-0.128-0.04860.036-0.05112-0.32-0.0218-0.059-0.002426. 0222|*kr 自相關(guān)函數(shù)自相關(guān)函數(shù)與偏自相關(guān)函數(shù)偏自相關(guān)函數(shù)的函數(shù)值：函數(shù)值： 相關(guān)函數(shù)具有明顯的拖尾性； 偏自相關(guān)函數(shù)值在k2以后，可認(rèn)為：可認(rèn)為：偏自相關(guān)函數(shù)是截尾的。再次驗(yàn)證了一階差分后的偏自相關(guān)函數(shù)是截尾的。再次驗(yàn)證了一階差分后的GDPGDP滿足滿足AR(2)AR(2)隨機(jī)過程。隨機(jī)過程。隨機(jī)時間序列分析設(shè)序列GDPD1的模型形式為 ttttGDPDGDPDGDPD2211111有如下Yule Walker 方程： 622.

46、0859. 01859. 0859. 01121解為： 442. 0,239. 121用用OLSOLS法回歸的結(jié)果為：法回歸的結(jié)果為： ttttGDPDGDPDGDPD211653. 01593. 11 （7.91) (-3.60) r2=0.8469 R2=0.8385 DW=1.15隨機(jī)時間序列分析 有時，在用回歸法時，也可加入常數(shù)項(xiàng)有時，在用回歸法時，也可加入常數(shù)項(xiàng)。 本例中加入常數(shù)項(xiàng)的回歸為： ttttGDPDGDPDGDPD211678. 01495. 159.9091 （1.99） （7.74） （-3.58） r2 =0.8758 R2 =0.8612 DW.=1.22 隨機(jī)時間

47、序列分析 模型檢驗(yàn)?zāi)Ｐ蜋z驗(yàn) 下表列出三模型的殘差項(xiàng)的自相關(guān)系數(shù)及QLB檢驗(yàn)值。 模型1與模型3的殘差項(xiàng)接近于一白噪聲，但模型2存在4階滯后相關(guān)問題，Q統(tǒng)計(jì)量的檢驗(yàn)也得出模型2拒絕所有自相關(guān)系數(shù)為零的假設(shè)。因此: 模型模型1 1與與3 3可作為描述中國支出法可作為描述中國支出法GDPGDP一階差分序列的隨機(jī)生成過程。一階差分序列的隨機(jī)生成過程。表表 9.2.3 模模型型殘殘差差項(xiàng)項(xiàng)的的自自相相關(guān)關(guān)系系數(shù)數(shù)及及 Q檢檢驗(yàn)驗(yàn)值值 模型1 模型2 模型3 K Resid-ACF Q Resid-ACF Q Resid-ACF Q 1 0.382 3.3846 0.258 1.5377 0.257 1.

48、5263 2 0.014 3.3893 -0.139 2.0077 -0.040 1.5646 3 -0.132 3.8427 -0.246 3.5677 -0.059 1.6554 4 -0.341 7.0391 -0.529 11.267 -0.328 4.6210 5 -0.170 7.8910 -0.300 13.908 -0.151 5.2864 6 0.253 9.9097 0.271 16.207 0.345 9.0331 7 0.144 10.613 0.158 17.051 0.155 9.8458 8 0.057 10.730 0.116 17.541 0.076 10.0

49、59 9 -0.019 10.745 0.097 17.914 0.011 10.064 10 -0.146 11.685 -0.036 17.969 -0.123 10.728 11 -0.233 14.329 -0.136 18.878 -0.230 13.319 12 -0.049 14.461 0.064 19.104 -0.012 13.328 隨機(jī)時間序列分析 用建立的用建立的AR(2)模型對中國支出法模型對中國支出法GDP進(jìn)行外推預(yù)測。進(jìn)行外推預(yù)測。 模型模型1可作如下展開： )()(3222111ttttttGDPGDPGDPGDPGDPGDP3221211)()1 (tttt

50、GDPGDPGDPGDP 于是，當(dāng)已知t-1、t-2、t-3期的GDP時，就可對第t期的GDP作出外推預(yù)測。 模型模型3的預(yù)測式與此相類似，只不過多出一項(xiàng)常數(shù)項(xiàng)。 對對20012001年中國支出法年中國支出法GDPGDP的預(yù)測結(jié)果（億元）的預(yù)測結(jié)果（億元） 預(yù)測值預(yù)測值 實(shí)際值實(shí)際值 誤差誤差 模型模型1 95469 95933 -0.48%1 95469 95933 -0.48% 模型模型3 97160 95933 1.28%3 97160 95933 1.28% 隨機(jī)時間序列分析 由于由于中國人均居民消費(fèi)（CPC）與人均國內(nèi)生產(chǎn)總值（GDPPC）這兩時間序列是非平穩(wěn)的，因此不宜直接建立它們的因果關(guān)系回歸方程。 但它們都是但它們都是I(2)I(2)時間序列時間序列，因此可以建立它們的ARIMA(p,d,q)模型。 下面只建立下面只建立中國人均居民消費(fèi)（中國人均居民消費(fèi)（CPCCPC）的隨機(jī)時間序列模的隨機(jī)時間序列模型。型。 中國人均居民消費(fèi)（CPC）經(jīng)過二次差分后的新序列記為CPCD2，其自相關(guān)函數(shù)、偏自相關(guān)函數(shù)及Q統(tǒng)計(jì)量的值列于下表： 例例9.2.4 中國人均居民消費(fèi)的中國人均居民消費(fèi)的ARMA(p,q)ARMA(p,q)模型模型隨機(jī)時間序列分析 在5%的顯著性水平下，通過Q統(tǒng)計(jì)量容易驗(yàn)證該序列本身就接近于一白噪聲，因此可考慮采用零階考慮采用零階MA(0)MA(0)模型