隨機時間序列分析課件

1、隨機時間序列分析9.2 9.2 隨機時間序列分析模型隨機時間序列分析模型一、時間序列模型的基本概念及其適用性一、時間序列模型的基本概念及其適用性二、隨機時間序列模型的平穩(wěn)性條件二、隨機時間序列模型的平穩(wěn)性條件三、隨機時間序列模型的識別三、隨機時間序列模型的識別四、隨機時間序列模型的估計四、隨機時間序列模型的估計五、隨機時間序列模型的檢驗五、隨機時間序列模型的檢驗隨機時間序列分析 經(jīng)典計量經(jīng)濟學模型與時間序列模型經(jīng)典計量經(jīng)濟學模型與時間序列模型 確定性時間序列模型與隨機性時間序列確定性時間序列模型與隨機性時間序列模型模型隨機時間序列分析一、時間序列模型的基本概念及其適用性一、時間序列模型的基本概

2、念及其適用性隨機時間序列分析1 1、時間序列模型的基本概念、時間序列模型的基本概念 隨機時間序列模型（隨機時間序列模型（time series modeling）是指僅用它的過去值及隨機擾動項所建立起來的模型，其一般形式為 Xt=F(Xt-1, Xt-2, , t) 建立具體的時間序列模型，需解決如下三個問題建立具體的時間序列模型，需解決如下三個問題： (1)模型的具體形式模型的具體形式 (2)時序變量的滯后期時序變量的滯后期 (3)隨機擾動項的結構隨機擾動項的結構 例如，取線性方程、一期滯后以及白噪聲隨機擾動項（ t =t），模型將是一個1階自回歸過程階自回歸過程AR(1)： Xt=Xt-1

3、+ t這里， t特指一白噪聲一白噪聲。 隨機時間序列分析 一般的p階自回歸過程階自回歸過程AR(p)是 Xt=1Xt-1+ 2Xt-2 + + pXt-p + t (*) (1)如果隨機擾動項是一個白噪聲(t=t)，則稱(*)式為一純純AR(p)過程（過程（pure AR(p) process），記為 Xt=1Xt-1+ 2Xt-2 + + pXt-p +t (2)如果t不是一個白噪聲，通常認為它是一個q階的移動平均（移動平均（moving average）過程）過程MA(q)： t=t - 1t-1 - 2t-2 - - qt-q 該式給出了一個純純MA(q)過程（過程（pure MA(p)

4、 process）。 隨機時間序列分析 將純AR(p)與純MA(q)結合，得到一個一般的自回歸移動自回歸移動平均（平均（autoregressive moving average）過程）過程ARMA（p,q）： Xt=1Xt-1+ 2Xt-2 + + pXt-p + t - 1t-1 - 2t-2 - - qt-q 該式表明：該式表明：（1）一個隨機時間序列可以通過一個自回歸移動平均過）一個隨機時間序列可以通過一個自回歸移動平均過程生成，程生成，即該序列可以由其自身的過去或滯后值以及隨機擾動項來解釋。（2）如果該序列是平穩(wěn)的）如果該序列是平穩(wěn)的，即它的行為并不會隨著時間的推移而變化，那么我們就

5、可以通過該序列過去的行為那么我們就可以通過該序列過去的行為來預測未來。來預測未來。 這也正是隨機時間序列分析模型的優(yōu)勢所在。隨機時間序列分析 經(jīng)典回歸模型的問題：經(jīng)典回歸模型的問題： 迄今為止，迄今為止，對一個時間序列Xt的變動進行解釋或預測，是通過某個單方程回歸模型或聯(lián)立方程回歸模型進行的，由于它們以因果關系為基礎，且具有一定的模型結構，因此也常稱為結構式模型（結構式模型（structural model）。 然而，然而，如果Xt波動的主要原因可能是我們無法解釋的因素，如氣候、消費者偏好的變化等，則利用結構式模型來解釋Xt的變動就比較困難或不可能，因為要取得相應的量化數(shù)據(jù)，并建立令人滿意的回

6、歸模型是很困難的。 有時，有時，即使能估計出一個較為滿意的因果關系回歸方程，但由于對某些解釋變量未來值的預測本身就非常困難，甚至比預測被解釋變量的未來值更困難，這時因果關系的回歸模型及其預測技術就不適用了。2 2、時間序列分析模型的適用性、時間序列分析模型的適用性隨機時間序列分析 例如例如，時間序列過去是否有明顯的增長趨勢時間序列過去是否有明顯的增長趨勢，如果增長趨勢在過去的行為中占主導地位，能否認為它也會在未來的行為里占主導地位呢？ 或者時間序列顯示出循環(huán)周期性行為時間序列顯示出循環(huán)周期性行為，我們能否利用過去的這種行為來外推它的未來走向？ 隨機時間序列分析模型，就是要通過序列過去的變隨機時

7、間序列分析模型，就是要通過序列過去的變化特征來預測未來的變化趨勢化特征來預測未來的變化趨勢。 使用時間序列分析模型的另一個原因在于使用時間序列分析模型的另一個原因在于： 如果經(jīng)濟理論正確地闡釋了現(xiàn)實經(jīng)濟結構，則這一結構可以寫成類似于ARMA(p,q)式的時間序列分析模型的形式。 在這些情況下，我們采用另一條預測途徑在這些情況下，我們采用另一條預測途徑：通過時間序列的歷史數(shù)據(jù)，得出關于其過去行為的有關結論，進而對時間序列未來行為進行推斷。隨機時間序列分析 例如，例如，對于如下最簡單的宏觀經(jīng)濟模型： 這里，Ct、It、Yt分別表示消費、投資與國民收入。 Ct與與Yt作為內生變量，它們的運動是由作為

8、外作為內生變量，它們的運動是由作為外生變量的投資生變量的投資It的運動及隨機擾動項的運動及隨機擾動項 t的變化決定的變化決定的。的。tttCYC12110tttICY隨機時間序列分析上述模型可作變形如下： 兩個方程等式右邊除去第一項外的剩余部分可看成一個綜合性的隨機擾動項，其特征依賴于投資項It的行為。 如果如果It是一個白噪聲是一個白噪聲，則消費序列Ct就成為一個1階自回歸過程階自回歸過程AR(1)，而收入序列Yt就成為一個(1,1)階的自回歸移動平均過程階的自回歸移動平均過程ARMA(1,1)。ttttICC1111011211111tttttIIYY11121101121111111隨機

9、時間序列分析二、隨機時間序列模型的平穩(wěn)性條件二、隨機時間序列模型的平穩(wěn)性條件隨機時間序列分析 自回歸移動平均模型（ARMA）是隨機時間序列分析模型的普遍形式，自回歸模型（AR）和移動平均模型（MA）是它的特殊情況。 關于這幾類模型的研究，是時間序列分析的重點內容時間序列分析的重點內容：主要包括主要包括模型的平穩(wěn)性分析模型的平穩(wěn)性分析、模型的識別模型的識別和和模型的估計模型的估計。 1 1、AR(p)AR(p)模型的平穩(wěn)性條件模型的平穩(wěn)性條件 隨機時間序列模型的平穩(wěn)性隨機時間序列模型的平穩(wěn)性，可通過它所生成的隨機時間可通過它所生成的隨機時間序列的平穩(wěn)性來判斷序列的平穩(wěn)性來判斷。 如果如果一個p階

10、自回歸模型AR(p)生成的時間序列是平穩(wěn)的，就說該AR(p)模型是平穩(wěn)的， 否則否則，就說該AR(p)模型是非平穩(wěn)的。隨機時間序列分析考慮p階自回歸模型AR(p) Xt=1Xt-1+ 2Xt-2 + + pXt-p +t (*) 引入滯后算子（滯后算子（lag operator ）L： LXt=Xt-1, L2Xt=Xt-2, , LpXt=Xt-p(*)式變換為 (1-1L- 2L2-pLp)Xt=t 記(L)= (1-1L- 2L2-pLp),則稱多項式方程 (z)= (1-1z- 2z2-pzp)=0為AR(p)的特征方程特征方程(characteristic equation)(cha

11、racteristic equation)。 可以證明，可以證明，如果該特征方程的所有根在單位圓外如果該特征方程的所有根在單位圓外（根的模大于（根的模大于1 1），則），則AR(p)AR(p)模型是平穩(wěn)的。模型是平穩(wěn)的。 隨機時間序列分析 例例9.2.1 AR(1)模型的平穩(wěn)性條件。對1階自回歸模型AR(1)tttXX1方程兩邊平方再求數(shù)學期望，得到Xt的方差)(2)()()(122122tttttXEEXEXE由于Xt僅與t相關，因此，E(Xt-1t)=0。如果該模型穩(wěn)定，則有E(Xt2)=E(Xt-12)，從而上式可變換為：22201X在穩(wěn)定條件下，該方差是一非負的常數(shù)，從而有 |1。 隨

12、機時間序列分析 而AR(1)的特征方程01)(zz的根為 z=1/ AR(1)穩(wěn)定，即 | 1，意味著特征根大于1。例例9.2.2 AR(2)模型的平穩(wěn)性。 對AR(2)模型 ttttXXX2211方程兩邊同乘以Xt，再取期望得： )(22110ttXE隨機時間序列分析又由于222211)()()()(tttttttEXEXEXE于是 222110同樣地，由原式還可得到0211212011于是方差為 )1)(1)(1 ()1 (21212220隨機時間序列分析由平穩(wěn)性的定義，該方差必須是一不變的正數(shù)，于是有 1+21, 2-11, |2|1這就是AR(2)的平穩(wěn)性條件的平穩(wěn)性條件，或稱為平穩(wěn)域

13、平穩(wěn)域。它是一頂點分別為（-2,-1），（2,-1），（0,1）的三角形。 2 (0,1) 1 (-2, -1) (2, -1) 圖圖 9.2.1 AR(2)模模型型的的平平穩(wěn)穩(wěn)域域 隨機時間序列分析對應的特征方程1-1z-2z2=0 的兩個根z1、z2滿足： z1z2=-1/2 , z1+z2 =-1/2 ttttXXX2211AR(2)模型解出1，22121zz21211zzzz 由AR(2)的平穩(wěn)性，|2|=1/|z1|z2|1，有1)11)(11 (112121212121zzzzzzzz0)11)(11 (21zz于是| z2 |1。由 2 - 1 1可推出同樣的結果。隨機時間序列分

14、析 對高階自回模型對高階自回模型AR(p)來說來說，多數(shù)情況下沒有必要直接計算其特征方程的特征根，但有一些有一些有用的規(guī)則可用來檢驗高階自回歸模型的穩(wěn)定性用的規(guī)則可用來檢驗高階自回歸模型的穩(wěn)定性： (1)AR(p)模型穩(wěn)定的必要條件是模型穩(wěn)定的必要條件是： 1+2+p1 (2)(2)由于i(i=1,2,p)可正可負，AR(p)模模型穩(wěn)定的充分條件是：型穩(wěn)定的充分條件是： |1|+|2|+|p|1 隨機時間序列分析 對于移動平均模型MR(q)： Xt=t - 1t-1 - 2t-2 - - qt-q 其中t是一個白噪聲，于是 2、MA(q)模型的平穩(wěn)性模型的平穩(wěn)性 0)()()()(11qqtt

15、tEEEXE22111121322111122210),cov()(),cov()(),cov()1 (varqqttqqqqttqqqttqtXXXXXXX 當滯后期大于q時，Xt的自協(xié)方差系數(shù)為0。因此:有限階移動平均模型總是平穩(wěn)的有限階移動平均模型總是平穩(wěn)的。 隨機時間序列分析 由于ARMA (p,q)模型是AR(p)模型與MA(q)模型的組合：Xt=1Xt-1+ 2Xt-2 + + pXt-p + t - 1t-1 - 2t-2 - - qt-q 3、ARMA(p,q)模型的平穩(wěn)性模型的平穩(wěn)性 而而MA(q)模型總是平穩(wěn)的，因此模型總是平穩(wěn)的，因此ARMA (p,q)模型的平模型的平穩(wěn)

16、性取決于穩(wěn)性取決于AR(p)部分的平穩(wěn)性。部分的平穩(wěn)性。 當當AR(p)部分平穩(wěn)時，則該部分平穩(wěn)時，則該ARMA(p,q)模型是平穩(wěn)的，模型是平穩(wěn)的，否則，不是平穩(wěn)的。否則，不是平穩(wěn)的。隨機時間序列分析 最后最后 （1 1）一個平穩(wěn)的時間序列總可以找到生成它的平穩(wěn)的隨）一個平穩(wěn)的時間序列總可以找到生成它的平穩(wěn)的隨機過程或模型；機過程或模型； （2 2）一個非平穩(wěn)的隨機時間序列通常可以通過差分的方）一個非平穩(wěn)的隨機時間序列通?？梢酝ㄟ^差分的方法將它變換為平穩(wěn)的，對差分后平穩(wěn)的時間序列也可找出對法將它變換為平穩(wěn)的，對差分后平穩(wěn)的時間序列也可找出對應的平穩(wěn)隨機過程或模型。應的平穩(wěn)隨機過程或模型。 因

17、此，因此，如果我們將一個非平穩(wěn)時間序列通過如果我們將一個非平穩(wěn)時間序列通過d d次差分，將次差分，將它變?yōu)槠椒€(wěn)的，然后用一個平穩(wěn)的它變?yōu)槠椒€(wěn)的，然后用一個平穩(wěn)的ARMA(p,q)ARMA(p,q)模型作為它的模型作為它的生成模型，則我們就說該原始時間序列是一個生成模型，則我們就說該原始時間序列是一個自回歸單整移自回歸單整移動平均（動平均（autoregressive integrated moving averageautoregressive integrated moving average）時）時間序列，記為間序列，記為ARIMA(p,d,q)ARIMA(p,d,q)。 例如，例如，一個

18、一個ARIMA(2,1,2)ARIMA(2,1,2)時間序列在它成為平穩(wěn)序列之前時間序列在它成為平穩(wěn)序列之前先得差分一次，然后用一個先得差分一次，然后用一個ARMA(2,2)ARMA(2,2)模型作為它的生成模模型作為它的生成模型的。型的。 當然，當然，一個一個ARIMA(p,0,0)ARIMA(p,0,0)過程表示了一個純過程表示了一個純AR(p)AR(p)平穩(wěn)過平穩(wěn)過程；一個程；一個ARIMA(0,0,q)ARIMA(0,0,q)表示一個純表示一個純MA(q)MA(q)平穩(wěn)過程。平穩(wěn)過程。隨機時間序列分析三、隨機時間序列模型的識別三、隨機時間序列模型的識別隨機時間序列分析 所謂隨機時間序列

19、模型的識別所謂隨機時間序列模型的識別，就是對于一個平穩(wěn)的隨機時間序列，找出生成它的合適的隨機過程或模型，即判斷該時間序列是遵循一純AR過程、還是遵循一純MA過程或ARMA過程。 所使用的工具所使用的工具主要是時間序列的自相關函數(shù)自相關函數(shù)（autocorrelation function，ACF）及偏自相關函偏自相關函數(shù)數(shù)（partial autocorrelation function， PACF ）。隨機時間序列分析 1 1、AR(p)AR(p)過程過程 (1)(1)自相關函數(shù)自相關函數(shù)ACFACF 1階自回歸模型階自回歸模型AR(1) Xt=Xt-1+ t 的k階滯后自協(xié)方差自協(xié)方差為：

20、011)(kkttktkXXE=1,2,因此，AR(1)模型的自相關函數(shù)自相關函數(shù)為 kkk0=1,2, 由由AR(1)的穩(wěn)定性知的穩(wěn)定性知| | |1，因此，因此，k k時，呈指數(shù)形時，呈指數(shù)形衰減，直到零衰減，直到零。這種現(xiàn)象稱為拖尾拖尾或稱AR(1)有無窮記憶有無窮記憶（infinite memory）。 注意注意， 0時，呈振蕩衰減狀。 隨機時間序列分析 Xt=1Xt-1+ 2Xt-2 + t該模型的方差0以及滯后1期與2期的自協(xié)方差1, 2分別為階自回歸模型階自回歸模型AR(2) 2221100211212011類似地,可寫出一般的一般的k期滯后自協(xié)方差期滯后自協(xié)方差： 221122

21、11)(kktttktkrXXXE(K=2,3,)于是,AR(2)的k 階自相關函數(shù)階自相關函數(shù)為： 2211kkk(K=2,3,)其中 :1=1/(1-2), 0=1如果如果AR(2)AR(2)穩(wěn)定，則由穩(wěn)定，則由 1 1+ + 2 211知知| | k k| |衰減趨于零，呈拖尾狀。衰減趨于零，呈拖尾狀。至于衰減的形式，要看至于衰減的形式，要看AR(2)AR(2)特征根的實虛性，特征根的實虛性，若為實根，若為實根，則呈單調或振蕩型衰減，若為虛根，則呈正弦波型衰減。則呈單調或振蕩型衰減，若為虛根，則呈正弦波型衰減。 隨機時間序列分析一般地，p階自回歸模型階自回歸模型AR(p) Xt=1Xt-

22、1+ 2Xt-2 + pXt-p + tk期滯后協(xié)方差為: pkpkktptpttKtkXXXXE22112211)(從而有自相關函數(shù) :pkpkkk2211 可見，無論無論k k有多大，有多大， k k的計算均與其到的計算均與其到p p階滯后階滯后的自相關函數(shù)有關的自相關函數(shù)有關，因此呈拖尾狀呈拖尾狀。 如果如果AR(p)AR(p)是穩(wěn)定的，則是穩(wěn)定的，則| | k k| |遞減且趨于零遞減且趨于零。 隨機時間序列分析 其中：1/zi是AR(p)特征方程(z)=0的特征根，由AR(p)平穩(wěn)的條件知，|zi|p，Xt與Xt-k間的偏自相關系數(shù)偏自相關系數(shù)為零。 AR(p)的一個主要特征是的一個

23、主要特征是:kp時，時， k*=Corr(Xt,Xt-k)=0 即即 k*在在p以后是截尾的。以后是截尾的。一隨機時間序列的識別原則：一隨機時間序列的識別原則：若若XtXt的偏自相關函數(shù)在的偏自相關函數(shù)在p p以后截尾，即以后截尾，即kp時，時， k*=0=0，而，而它的自相關函數(shù)它的自相關函數(shù) k是拖尾的，則此序列是自回歸是拖尾的，則此序列是自回歸AR(p)AR(p)序序列。列。隨機時間序列分析 在實際識別時，由于樣本偏自相關函數(shù)rk*是總體偏自相關函數(shù)k*的一個估計，由于樣本的隨機性，當kp時，rk*不會全為0，而是在0的上下波動。但可以證明，當kp時，rk*服從如下漸近正態(tài)分布: rk*

24、N(0,1/n)式中n表示樣本容量。 因此，如果計算的rk*滿足 需指出的是需指出的是，我們就有95.5%的把握判斷原時間序列在p之后截尾。nrk2|*隨機時間序列分析 對MA(1)過程 2、MA(q)MA(q)過程過程 1tttX可容易地寫出它的自協(xié)方差系數(shù)自協(xié)方差系數(shù)： 0)1 (3221220于是，MA(1)過程的自相關函數(shù)自相關函數(shù)為：0)1 (3221可見，當當k1時，時， k k0，即，即Xt與與Xt-k不相關，不相關，MA(1)MA(1)自自相關函數(shù)是截尾的。相關函數(shù)是截尾的。 隨機時間序列分析 MA(1)過程可以等價地寫成過程可以等價地寫成 t t關于無窮序列關于無窮序列X X

25、t t，X Xt-1t-1，的線性組合的形式：的線性組合的形式：221ttttXXX或ttttXXX221（*） (*)是一個AR()過程，它的偏自相關函數(shù)非截尾但卻趨于零，因此MA(1)MA(1)的偏自相關函數(shù)是非截尾但卻趨于零的偏自相關函數(shù)是非截尾但卻趨于零的。的。 注意注意: : (*)式只有當|1時才有意義，否則意味著距Xt越遠的X值，對Xt的影響越大，顯然不符合常理。 因此，我們把把| | |1|q時， Xt與與Xt-k不相關，即存在截尾現(xiàn)象，因此，當當kq時，時， k k=0是是MA(q)的一個特征的一個特征。 于是：可以根據(jù)自相關系數(shù)是否從某一點開始一直為可以根據(jù)自相關系數(shù)是否從

26、某一點開始一直為0 0來判斷來判斷MA(q)MA(q)模型的階。模型的階。隨機時間序列分析 與MA(1)相仿，可以驗證MA(q)過程的偏自相關函數(shù)是非截尾但趨于零的。 MA(q)模型的識別規(guī)則：模型的識別規(guī)則：若隨機序列的自相關函數(shù)截若隨機序列的自相關函數(shù)截尾，即自尾，即自q q以后，以后， k k=0=0（ kqkq）；而它的偏自相關函數(shù)是拖）；而它的偏自相關函數(shù)是拖尾的，則此序列是滑動平均尾的，則此序列是滑動平均MA(q)MA(q)序列。序列。 同樣需要注意的是同樣需要注意的是：在實際識別時，由于樣本自相關函數(shù)rk是總體自相關函數(shù)k的一個估計，由于樣本的隨機性，當kq時，rk不會全為0，而

27、是在0的上下波動。但可以證明，當kq時，rk服從如下漸近正態(tài)分布: rkN(0,1/n)式中n表示樣本容量。 因此，如果計算的如果計算的r rk k滿足：滿足：nrk2|我們就有就有95.5%95.5%的把握判斷原時間序列在的把握判斷原時間序列在q q之后截尾之后截尾。隨機時間序列分析 ARMA(p,q)的自相關函數(shù)的自相關函數(shù)，可以看作MA(q)的自相關函數(shù)和AR(p)的自相關函數(shù)的混合物。 當當p=0時，它具有截尾性質時，它具有截尾性質； 當當q=0時，它具有拖尾性質；時，它具有拖尾性質； 當當p、q都不為都不為0時，它具有拖尾性質時，它具有拖尾性質 從識別上看，通常：從識別上看，通常：

28、ARMA(p，q)過程的偏自相關函數(shù)（過程的偏自相關函數(shù)（PACF）可能在可能在p階滯階滯后前有幾項明顯的尖柱（后前有幾項明顯的尖柱（spikes），但從），但從p階滯后項開始逐漸階滯后項開始逐漸趨向于零；趨向于零； 而而它的自相關函數(shù)（它的自相關函數(shù)（ACF）則是在則是在q階滯后前有幾項明顯階滯后前有幾項明顯的尖柱，從的尖柱，從q階滯后項開始逐漸趨向于零。階滯后項開始逐漸趨向于零。 3 3、ARMA(p, q)ARMA(p, q)過程過程 隨機時間序列分析 表表 9.2.1 ARMA(p,q)模模型型的的 ACF 與與 PACF 理理論論模模式式 模型 ACF PACF 白噪聲 0k 0*k

29、 AR(p) 衰減趨于零（幾何型或振蕩型） P 階后截尾：0*k，kp MA(q) q階后截尾： ，0k，kq 衰減趨于零（幾何型或振蕩型） ARMA(p,q) q階后衰減趨于零（幾何型或振蕩型） p階后衰減趨于零 （幾何型或振蕩型） 隨機時間序列分析 圖圖 9.2.2 ARMA(p,q)模型的模型的 ACF與與 PACF理論模式理論模式 ACF PACF 模型模型 1： tttXX17 . 00.00.20.40.60.812345678ACF10.00.20.40.60.812345678PACF1隨機時間序列分析 模型 2： tttXX17 . 0 模型 3： 17 . 0tttX-0.

30、8-0.6-0.4-0.20.00.20.40.612345678ACF2-0.8-0.6-0.4-0.20.012345678PACF2-0.5-0.4-0.3-0.2-0.10.012345678ACF3-0.5-0.4-0.3-0.2-0.10.012345678PACF3隨機時間序列分析 模型 4：ttttXXX2149. 07 . 0 模型 5：117 . 07 . 0ttttXX-0.4-0.20.00.20.40.612345678ACF4-0.4-0.20.00.20.40.612345678PACF4-1.2-0.8-0.40.00.40.812345678ACF5-1.0-

31、0.8-0.6-0.4-0.20.012345678PACF5隨機時間序列分析四、隨機時間序列模型的估計四、隨機時間序列模型的估計隨機時間序列分析 AR(p)、MA(q)、ARMA(p,q)模型的估計方法較多，大大體上分為體上分為3類：類： （1）最小二乘估計；）最小二乘估計； （2）矩估計；）矩估計； （3）利用自相關函數(shù)的直接估計）利用自相關函數(shù)的直接估計。 下面有選擇地加以介紹。結構階數(shù)模型識別確定估計參數(shù)隨機時間序列分析 AR(p) AR(p)模型的模型的Yule WalkerYule Walker方程估計方程估計 在AR(p)模型的識別中，曾得到 pkpkkk2211利用k=-k，得

32、到如下方程組： kppppppppp12112211211211 此方程組被稱為此方程組被稱為Yule Walker方程組方程組。該方程組建該方程組建立了立了AR(p)AR(p)模型的模型參數(shù)模型的模型參數(shù) 1 1, , 2 2, , , p p與自相關函數(shù)與自相關函數(shù) 1 1, , 2 2, , , p p的關系，的關系， 隨機時間序列分析 利用實際時間序列提供的信息，利用實際時間序列提供的信息，首先首先求得自相關函數(shù)的求得自相關函數(shù)的估計值估計值 然后然后利用利用Yule Walker方程組，求解模型參數(shù)的估計方程組，求解模型參數(shù)的估計值值, 12p, 12p12011102120112p

33、ppppp由于 ptptttXXX11于是 pjiijjitE1,022從而可得 2 2的估計值的估計值 pjiijji1,02在具體計算時，k可用樣本自相關函數(shù)rk替代。隨機時間序列分析 MA(q) MA(q)模型的矩估計模型的矩估計 將MA(q)模型的自協(xié)方差函數(shù)中的各個量用估計量代替，得到： qkqkkqkqkkqk當當當01)(0)1 (112222212 首先首先求得自協(xié)方差函數(shù)的估計值，(*)是一個包含(q+1)個待估參數(shù) (*)221,q的非線性方程組，可以用直接法直接法或迭代法迭代法求解。 常用的迭代方法有常用的迭代方法有線性迭代法線性迭代法和和Newton-Raphsan迭代

34、法迭代法。隨機時間序列分析 （1 1）MA(1)MA(1)模型的直接算法模型的直接算法 對于MA(1)模型，（*）式相應地寫成1212120)1 (于是 211021204或0212410有于是有解 )411 (22102)411 (2211211 由于參數(shù)估計有兩組解，可根據(jù)可逆性條件|1|1的MA(q)模型，一般用迭代算法估計參數(shù)： 由（*）式得 qkqkkkkq12211222102第一步第一步，給出的一組初值，比如k,21202)0(0)0()0()0(21k代入（*）式，計算出第一次迭代值 02) 1 (0) 1 (kk（*）隨機時間序列分析 第二步第二步，將第一次迭代值代入（*）式

35、，計算出第二次迭代值 )1 () 1 () 1 () 1 ()2()1 () 1 (1/()2(11022102qkqkkkq 按此反復迭代下去，直到第m步的迭代值與第m-1步的迭代值相差不大時（滿足一定的精度），便停止迭代，并用第m步的迭代結果作為（*）的近似解。 隨機時間序列分析 ARMA(p,q) ARMA(p,q)模型的矩估計模型的矩估計 在ARMA(p,q)中共有(p+q+1)個待估參數(shù)1,2,p與1,2,q以及2，其估計量計算步驟及公式如下： 第一步第一步，估計1,2,p 1211112112pqqqpqqqpqpqpqqqqp k是總體自相關函數(shù)的估計值，可用樣本自相關函數(shù)rk代

36、替。 隨機時間序列分析 第二步，第二步，改寫模型，求1,2,q以及2的估計值 將模型 tptptttXXXX2211qtqtt2211 改寫為： tptptttXXXX2211qtqtt2211令 ptpttttXXXXX2211于是(*)可以寫成： (*)qtqttttX2211 構成一個MA模型。按照估計MA模型參數(shù)的方法，可以得到1,2,q以及2的估計值。 隨機時間序列分析 AR(p) AR(p)的最小二乘估計的最小二乘估計 假設模型AR(p)的參數(shù)估計值已經(jīng)得到，即有 tptptttXXXX2211 殘差的平方和為： 21221112)() (nptptptttnpttXXXXS(*)

37、 根據(jù)最小二乘原理，所要求的參數(shù)估計值是下列方程組的解： Sj 0即 0)(12211jtnptptptttXXXXXj=1,2,p (*) 解該方程組，就可得到待估參數(shù)的估計值。 隨機時間序列分析 為了與AR(p)模型的Yule Walker方程估計進行比較，將(*)改寫成： nptjttnptjtptpnptjttnptjttXXnXXnXXnXXn111221111j=1,2,p由自協(xié)方差函數(shù)的定義，并用自協(xié)方差函數(shù)的估計值 knpttktkXXn11代入，上式表示的方程組即為： jpjpjj2211或 jpjpjjrrrr2211j=1,2,pj=1,2,p隨機時間序列分析解該方程組，

38、得到： pppppprrrrrrrrrrrr21102120111021即為參數(shù)的最小二乘估計。 Yule Walker方程組的解12011102120112pppppp比較發(fā)現(xiàn)，當n足夠大時，二者是相似的。 2的估計值為： pnSpnnptt1221隨機時間序列分析 需要說明的是，需要說明的是，在上述模型的平穩(wěn)性、識別與估計的討在上述模型的平穩(wěn)性、識別與估計的討論中，論中，ARMA(p,q)模型中均未包含常數(shù)項。模型中均未包含常數(shù)項。 如果包含常數(shù)項，該常數(shù)項并不影響模型的原有性質如果包含常數(shù)項，該常數(shù)項并不影響模型的原有性質，因為通過適當?shù)淖冃?，可將包含常?shù)項的模型轉換為不含常數(shù)項的模型。

39、 下面以一般的ARMA(p,q)模型為例說明。 對含有常數(shù)項的模型 qtqttptpttXXX1111方程兩邊同減/(1-1-p)，則可得到 qtqttptpttxxx1111其中piiXx11pttti, 1,隨機時間序列分析五、模型的檢驗五、模型的檢驗隨機時間序列分析 由于ARMA(p,q)模型的識別與估計是在假設隨機擾動項是一白噪聲的基礎上進行的，因此，如果估計的模如果估計的模型確認正確的話，殘差應代表一白噪聲序列型確認正確的話，殘差應代表一白噪聲序列。 如果通過所估計的模型計算的樣本殘差不代表一白噪如果通過所估計的模型計算的樣本殘差不代表一白噪聲，則說明模型的識別與估計有誤，需重新識別

40、與估計。聲，則說明模型的識別與估計有誤，需重新識別與估計。 在實際檢驗時，主要檢驗殘差序列是否存在自相關在實際檢驗時，主要檢驗殘差序列是否存在自相關。1 1、殘差項的白噪聲檢驗、殘差項的白噪聲檢驗 可用可用QLB的統(tǒng)計量進行的統(tǒng)計量進行 2檢驗檢驗：在給定顯著性水平下，可計算不同滯后期的QLB值，通過與 2分布表中的相應臨界值比較，來檢驗是否拒絕殘差序列為白噪聲的假設。 若大于相應臨界值，則應拒絕所估計的模型，需重新識別與估計。 隨機時間序列分析2 2、AICAIC與與SBCSBC模型選擇標準模型選擇標準 另外一個遇到的問題是，在實際識別ARMA(p,q)模型時，需多次反復償試，有可能存在不止

41、一組（p,q）值都能通過識別檢驗。 顯然，增加增加p與與q的階數(shù)，可增加擬合優(yōu)度的階數(shù)，可增加擬合優(yōu)度，但卻同時降低但卻同時降低了自由度了自由度。 因此，對可能的適當?shù)哪Ｐ?，存在著模型的對可能的適當?shù)哪Ｐ停嬖谥Ｐ偷摹昂啙嵭院啙嵭浴迸c模與模型的擬合優(yōu)度的權衡選擇問題。型的擬合優(yōu)度的權衡選擇問題。隨機時間序列分析 其中，n為待估參數(shù)個數(shù)（p+q+可能存在的常數(shù)項），T為可使用的觀測值，RSS為殘差平方和（Residual sum of squares）。 在選擇可能的模型時，在選擇可能的模型時，AIC與與SBC越小越好越小越好 顯然，如果添加的滯后項沒有解釋能力，則對顯然，如果添加的滯后項沒有

42、解釋能力，則對RSSRSS值值的減小沒有多大幫助，卻增加待估參數(shù)的個數(shù)，因此使的減小沒有多大幫助，卻增加待估參數(shù)的個數(shù)，因此使得得AICAIC或或SBCSBC的值增加。的值增加。 需注意的是：需注意的是：在不同模型間進行比較時，必須選取相同的時間段。 常用的模型選擇的判別標準有：常用的模型選擇的判別標準有：赤池信息法赤池信息法（Akaike information criterion，簡記為簡記為AIC）與施瓦茲貝葉斯法施瓦茲貝葉斯法（Schwartz Bayesian criterion，簡記為簡記為SBC）：)ln()ln(2)ln(TnRSSTSBCnRSSTAIC隨機時間序列分析 由第

43、一節(jié)知：中國支出法GDP是非平穩(wěn)的，但它的一階差分是平穩(wěn)的，即支出法GDP是I(1)時間序列。 可以對經(jīng)過一階差分后的GDP建立適當?shù)腁RMA(p,q)模型。 記GDP經(jīng)一階差分后的新序列為GDPD1，該新序列的樣本自相關函數(shù)圖與偏自相關函數(shù)圖如下：-0.4-0.20.00.20.40.60.81.024681012141618GDPD1AC-0.6-0.4-0.20.00.20.40.60.81.024681012141618GDPD1PAC 例例9.2.3 中國支出法中國支出法GDP的的ARMA(p,q)模型估計。模型估計。隨機時間序列分析 圖形：圖形：樣本自相關函數(shù)圖形呈正弦線型衰減波，

44、而偏自相關函數(shù)圖形則在滯后兩期后迅速趨于0。因此可初步判斷該序列可初步判斷該序列滿足滿足2 2階自回歸過程階自回歸過程AR(2)AR(2)。表表 9.2.2 中國中國 GDP一階差分序列的樣本自相關函數(shù)與偏自相關函數(shù)一階差分序列的樣本自相關函數(shù)與偏自相關函數(shù)kkr*krkkr*krkkr*kr10.8590.8597-0.034-0.25213-0.361-0.08620.622-0.4418-0.1120.01214-0.3630.07630.378-0.0659-0.1750.0415-0.3080.04340.1910.06610-0.228-0.11716-0.216-0.02250.

45、0870.07711-0.282-0.19217-0.128-0.04860.036-0.05112-0.32-0.0218-0.059-0.002426. 0222|*kr 自相關函數(shù)自相關函數(shù)與偏自相關函數(shù)偏自相關函數(shù)的函數(shù)值：函數(shù)值： 相關函數(shù)具有明顯的拖尾性； 偏自相關函數(shù)值在k2以后，可認為：可認為：偏自相關函數(shù)是截尾的。再次驗證了一階差分后的偏自相關函數(shù)是截尾的。再次驗證了一階差分后的GDPGDP滿足滿足AR(2)AR(2)隨機過程。隨機過程。隨機時間序列分析設序列GDPD1的模型形式為 ttttGDPDGDPDGDPD2211111有如下Yule Walker 方程： 622.

46、0859. 01859. 0859. 01121解為： 442. 0,239. 121用用OLSOLS法回歸的結果為：法回歸的結果為： ttttGDPDGDPDGDPD211653. 01593. 11 （7.91) (-3.60) r2=0.8469 R2=0.8385 DW=1.15隨機時間序列分析 有時，在用回歸法時，也可加入常數(shù)項有時，在用回歸法時，也可加入常數(shù)項。 本例中加入常數(shù)項的回歸為： ttttGDPDGDPDGDPD211678. 01495. 159.9091 （1.99） （7.74） （-3.58） r2 =0.8758 R2 =0.8612 DW.=1.22 隨機時間

47、序列分析 模型檢驗模型檢驗 下表列出三模型的殘差項的自相關系數(shù)及QLB檢驗值。 模型1與模型3的殘差項接近于一白噪聲，但模型2存在4階滯后相關問題，Q統(tǒng)計量的檢驗也得出模型2拒絕所有自相關系數(shù)為零的假設。因此: 模型模型1 1與與3 3可作為描述中國支出法可作為描述中國支出法GDPGDP一階差分序列的隨機生成過程。一階差分序列的隨機生成過程。表表 9.2.3 模模型型殘殘差差項項的的自自相相關關系系數(shù)數(shù)及及 Q檢檢驗驗值值 模型1 模型2 模型3 K Resid-ACF Q Resid-ACF Q Resid-ACF Q 1 0.382 3.3846 0.258 1.5377 0.257 1.

48、5263 2 0.014 3.3893 -0.139 2.0077 -0.040 1.5646 3 -0.132 3.8427 -0.246 3.5677 -0.059 1.6554 4 -0.341 7.0391 -0.529 11.267 -0.328 4.6210 5 -0.170 7.8910 -0.300 13.908 -0.151 5.2864 6 0.253 9.9097 0.271 16.207 0.345 9.0331 7 0.144 10.613 0.158 17.051 0.155 9.8458 8 0.057 10.730 0.116 17.541 0.076 10.0

49、59 9 -0.019 10.745 0.097 17.914 0.011 10.064 10 -0.146 11.685 -0.036 17.969 -0.123 10.728 11 -0.233 14.329 -0.136 18.878 -0.230 13.319 12 -0.049 14.461 0.064 19.104 -0.012 13.328 隨機時間序列分析 用建立的用建立的AR(2)模型對中國支出法模型對中國支出法GDP進行外推預測。進行外推預測。 模型模型1可作如下展開： )()(3222111ttttttGDPGDPGDPGDPGDPGDP3221211)()1 (tttt

50、GDPGDPGDPGDP 于是，當已知t-1、t-2、t-3期的GDP時，就可對第t期的GDP作出外推預測。 模型模型3的預測式與此相類似，只不過多出一項常數(shù)項。 對對20012001年中國支出法年中國支出法GDPGDP的預測結果（億元）的預測結果（億元） 預測值預測值 實際值實際值 誤差誤差 模型模型1 95469 95933 -0.48%1 95469 95933 -0.48% 模型模型3 97160 95933 1.28%3 97160 95933 1.28% 隨機時間序列分析 由于由于中國人均居民消費（CPC）與人均國內生產(chǎn)總值（GDPPC）這兩時間序列是非平穩(wěn)的，因此不宜直接建立它們的因果關系回歸方程。 但它們都是但它們都是I(2)I(2)時間序列時間序列，因此可以建立它們的ARIMA(p,d,q)模型。 下面只建立下面只建立中國人均居民消費（中國人均居民消費（CPCCPC）的隨機時間序列模的隨機時間序列模型。型。 中國人均居民消費（CPC）經(jīng)過二次差分后的新序列記為CPCD2，其自相關函數(shù)、偏自相關函數(shù)及Q統(tǒng)計量的值列于下表： 例例9.2.4 中國人均居民消費的中國人均居民消費的ARMA(p,q)ARMA(p,q)模型模型隨機時間序列分析 在5%的顯著性水平下，通過Q統(tǒng)計量容易驗證該序列本身就接近于一白噪聲，因此可考慮采用零階考慮采用零階MA(0)MA(0)模型