平穩(wěn)時序模型ARMA

1、2.32.3 時間序列模型時間序列模型Stochastic Time Serial ModelStochastic Time Serial Model一、一、時間序列模型概述時間序列模型概述 二、二、平穩(wěn)時間序列模型的平穩(wěn)性條件模型的平穩(wěn)性條件三、三、平穩(wěn)時間序列模型的識別時間序列模型的識別四、四、平穩(wěn)時間序列模型的估計時間序列模型的估計五、五、平穩(wěn)時間序列模型的檢驗時間序列模型的檢驗六、六、ARIMA模型案例案例說明說明 嚴格從理論體系講，本節(jié)內(nèi)容屬于時間序列分嚴格從理論體系講，本節(jié)內(nèi)容屬于時間序列分析，但不屬于我們所定義的狹義的計量經(jīng)濟學。析，但不屬于我們所定義的狹義的計量經(jīng)濟學。 本節(jié)內(nèi)

2、容一般不納入計量經(jīng)濟學的課堂教學內(nèi)本節(jié)內(nèi)容一般不納入計量經(jīng)濟學的課堂教學內(nèi)容，供沒有學習過應用數(shù)理統(tǒng)計或者經(jīng)濟預測容，供沒有學習過應用數(shù)理統(tǒng)計或者經(jīng)濟預測課程的同學自學。課程的同學自學。 課件只提供一個簡單的思路。課件只提供一個簡單的思路。一、一、時間序列模型概述時間序列模型概述1、時間序列模型、時間序列模型 兩類時間序列模型兩類時間序列模型 時間序列結(jié)構模型：時間序列結(jié)構模型：通過協(xié)整分析，建立反映不同時間通過協(xié)整分析，建立反映不同時間序列之間結(jié)構關系的模型，揭示了不同時間序列在每個序列之間結(jié)構關系的模型，揭示了不同時間序列在每個時點上都存在的結(jié)構關系。時點上都存在的結(jié)構關系。 隨機時間序列

3、模型：隨機時間序列模型：揭示時間序列不同時點觀測值之間揭示時間序列不同時點觀測值之間的關系，也稱為的關系，也稱為無條件預測模型。無條件預測模型。 平穩(wěn)時間序列模型包括：平穩(wěn)時間序列模型包括：AR(p)、MA(q)、ARMA(p,q)。 平穩(wěn)時間序列模型并不屬于現(xiàn)代計量經(jīng)濟學。平穩(wěn)時間序列模型并不屬于現(xiàn)代計量經(jīng)濟學。2、隨機時間序列模型的適用性、隨機時間序列模型的適用性 用于無條件預測用于無條件預測 結(jié)構模型用于預測的條件：建立正確的結(jié)構模型，給定結(jié)構模型用于預測的條件：建立正確的結(jié)構模型，給定外生變量的預測值。外生變量的預測值。 無條件預測模型的優(yōu)點。無條件預測模型的優(yōu)點。 結(jié)構模型的簡化形式

4、結(jié)構模型的簡化形式 結(jié)構模型經(jīng)?？梢酝ㄟ^約化和簡化，變換為隨及時間序結(jié)構模型經(jīng)?？梢酝ㄟ^約化和簡化，變換為隨及時間序列模型。列模型。二、隨機時間序列模型的平穩(wěn)性條件二、隨機時間序列模型的平穩(wěn)性條件1 1、AR(p)AR(p)模型的平穩(wěn)性條件模型的平穩(wěn)性條件 隨機時間序列模型的平穩(wěn)性，可通過它所生成隨機時間序列模型的平穩(wěn)性，可通過它所生成的隨機時間序列的平穩(wěn)性來判斷。的隨機時間序列的平穩(wěn)性來判斷。 如果一個如果一個p p階自回歸模型階自回歸模型AR(p)AR(p)生成的時間序列生成的時間序列是平穩(wěn)的，就說該是平穩(wěn)的，就說該AR(p)AR(p)模型是平穩(wěn)的；模型是平穩(wěn)的； 否則，就說該否則，就說該

5、AR(p)AR(p)模型是非平穩(wěn)的。模型是非平穩(wěn)的。 考慮考慮p p階自回歸模型階自回歸模型AR(p)AR(p)tptptttXXXX2211pttpttttXXLXXLXLX,221ttppXLLL)1 (221)1 ()(221ppLLLL0)1 ()(221ppzzzzAR(AR(p p) )的特征方程的特征方程 可以證明，如果該特征方程的可以證明，如果該特征方程的所有根在單位圓所有根在單位圓外外（根的模大于（根的模大于1），則），則AR(p)模型是平穩(wěn)的。模型是平穩(wěn)的。容易得到如下平穩(wěn)性條件容易得到如下平穩(wěn)性條件tttXX11ttttXXX22111, 1, 122121121p1|2

6、1ptptptttXXXX2211必要條件 充分條件 2 2、MA(q)MA(q)模型的平穩(wěn)性模型的平穩(wěn)性 有限階移動平均模型總是平穩(wěn)的。有限階移動平均模型總是平穩(wěn)的。 qtqtttX110)()()()(11qtqtttEEEXE22111121322111122210),()(),()(),()1 (qqttqqqqttqqqttqtXXCovXXCovXXCovXVar當滯后期大于q時，X的自協(xié)方差系數(shù)為0。 3、ARMA(p,q)模型的平穩(wěn)性模型的平穩(wěn)性 ARMA(p,q)平穩(wěn)性取決于平穩(wěn)性取決于AR(p)的平穩(wěn)性。的平穩(wěn)性。 當當AR(p)AR(p)部分平穩(wěn)時，則該部分平穩(wěn)時，則該A

7、RMA(p,q)ARMA(p,q)模型是平模型是平穩(wěn)的，否則，不是平穩(wěn)的。穩(wěn)的，否則，不是平穩(wěn)的。qtqttptpttXXX11114 4、總結(jié)、總結(jié) 一個平穩(wěn)的時間序列總可以找到生成它的平穩(wěn)一個平穩(wěn)的時間序列總可以找到生成它的平穩(wěn)的隨機過程或模型。的隨機過程或模型。 一個非平穩(wěn)的隨機時間序列通?？梢酝ㄟ^差分一個非平穩(wěn)的隨機時間序列通?？梢酝ㄟ^差分的方法將它變換為平穩(wěn)的，對差分后平穩(wěn)的時的方法將它變換為平穩(wěn)的，對差分后平穩(wěn)的時間序列也可找出對應的平穩(wěn)隨機過程或模型。間序列也可找出對應的平穩(wěn)隨機過程或模型。 如果將一個非平穩(wěn)時間序列通過如果將一個非平穩(wěn)時間序列通過d d次差分，將次差分，將它變?yōu)?/p>

8、平穩(wěn)的，然后用一個平穩(wěn)的它變?yōu)槠椒€(wěn)的，然后用一個平穩(wěn)的ARMA(p,q)ARMA(p,q)模型作為它的生成模型，則該原始時間序列是模型作為它的生成模型，則該原始時間序列是一個一個自回歸單整移動平均（自回歸單整移動平均（autoregressive autoregressive integrated moving averageintegrated moving average）時間序列，記）時間序列，記為為ARIMA(p,d,q)ARIMA(p,d,q)。三、隨機時間序列模型的識別三、隨機時間序列模型的識別 所謂所謂隨機時間序列模型的識別隨機時間序列模型的識別，就是對于一個，就是對于一個平穩(wěn)的

9、隨機時間序列，找出生成它的合適的隨平穩(wěn)的隨機時間序列，找出生成它的合適的隨機過程或模型，即判斷該時間序列是遵循一純機過程或模型，即判斷該時間序列是遵循一純ARAR過程、還是遵循一純過程、還是遵循一純MAMA過程或過程或ARMAARMA過程。過程。 所使用的工具主要是時間序列的所使用的工具主要是時間序列的自相關函數(shù)自相關函數(shù)（autocorrelation functionautocorrelation function，ACFACF）及）及偏自偏自相關函數(shù)相關函數(shù)（partial autocorrelation partial autocorrelation functionfunction，

10、 PACF PACF ）。）。1 1、AR(p)AR(p)過程過程 自相關函數(shù)自相關函數(shù)ACFACFtptptttXXXX2211pkpkktptpttktkXXXXE22112211)(pkpkkkk22110k期滯后自協(xié)方差 k階自相關函數(shù) 可見，無論可見，無論k k有多大，有多大， k k的計算均與其到的計算均與其到p p階滯后的自階滯后的自相關函數(shù)有關，因此呈拖尾狀。相關函數(shù)有關，因此呈拖尾狀。如果如果AR(p)AR(p)是平穩(wěn)的，則是平穩(wěn)的，則| | k k| |遞減且趨于零遞減且趨于零（可作為平穩(wěn)性判斷方法）（可作為平穩(wěn)性判斷方法）。 偏自相關函數(shù)偏自相關函數(shù) 自相關函數(shù)自相關函數(shù)

11、ACF(k)ACF(k)給出了給出了X Xt t與與X Xt-1t-1的總體相關性，的總體相關性，但總體相關性可能掩蓋了變量間完全不同的隱但總體相關性可能掩蓋了變量間完全不同的隱含關系。含關系。 與之相反，與之相反，X Xt t與與X Xt-kt-k間的間的偏自相關函數(shù)偏自相關函數(shù)(partial (partial autocorrelationautocorrelation，簡記為，簡記為PACF)PACF)則是消除了中則是消除了中間變量間變量X Xt-1t-1，X Xt-k+1t-k+1 帶來的間接相關后的直帶來的間接相關后的直接相關性，它是在已知序列值接相關性，它是在已知序列值X Xt-

12、1t-1，X Xt-k+1t-k+1的的條件下，條件下，X Xt t與與X Xt-kt-k間關系的度量。間關系的度量。 AR(p)AR(p)的一個主要特征是的一個主要特征是:kp:kp時，時， k k* *=Corr(=Corr(X Xt t,X,Xt-kt-k)=0)=0 ，即即 k k* *在在p p以后是截尾的。以后是截尾的。 隨機時間序列隨機時間序列AR(p)AR(p)的識別原則：的識別原則： 若若XtXt的偏自相關函數(shù)在的偏自相關函數(shù)在p p以后截尾，即以后截尾，即kp時，時， k*=0=0，而它的自相關函數(shù)，而它的自相關函數(shù) k是拖尾的，則此是拖尾的，則此序列是自回歸序列是自回歸A

13、R(p)AR(p)序列。序列。18 AR(p)模型的自相關函數(shù)和偏自相關函數(shù)的計算看起來較為復雜，但是計量經(jīng)濟學軟件都有自相關和偏相關函數(shù)的菜單，使用起來非常方便。 以Eviews軟件為例，我們來看AR(p)模型的自相關函數(shù)和偏自相關函數(shù)。 19AR(1)模型模型xt=0.7xt-1+ut的自相關圖和偏自相關圖的自相關圖和偏自相關圖自相關圖呈現(xiàn)出拖尾特征拖尾特征 偏自相關圖在1階以后呈現(xiàn)出截尾特征截尾特征2 2、MA(q)MA(q)過程過程 MA(q)模型的識別規(guī)則：模型的識別規(guī)則：若隨機序列的自相關若隨機序列的自相關函數(shù)截尾，即自函數(shù)截尾，即自q q以后，以后， k k=0=0（ kqkq）

14、；而它）；而它的偏自相關函數(shù)是拖尾的，則此序列是滑動平的偏自相關函數(shù)是拖尾的，則此序列是滑動平均均MA(q)MA(q)序列。序列。21MA(1)模型模型xt=ut+0.8ut-1的自相關圖和偏自相關圖的自相關圖和偏自相關圖偏自相關圖呈現(xiàn)出拖尾特征拖尾特征 自相關圖在1階以后呈現(xiàn)出截尾特征截尾特征3 3、ARMA(p, q)ARMA(p, q)過程過程 ARMA(p,q)ARMA(p,q)模型的識別規(guī)則：模型的識別規(guī)則：若隨機序列的自若隨機序列的自相關函數(shù)和偏自相關函數(shù)都是拖尾的，則此序相關函數(shù)和偏自相關函數(shù)都是拖尾的，則此序列是列是ARMA(p,q)ARMA(p,q)序列。序列。 實際上，實際

15、上，ARMA(p,q)ARMA(p,q)過程的偏自相關函數(shù)，可過程的偏自相關函數(shù)，可能在能在p p階滯后前有幾項明顯的尖柱（階滯后前有幾項明顯的尖柱（spikesspikes），），但從但從p p階滯后項開始逐漸趨向于零；而它的自階滯后項開始逐漸趨向于零；而它的自相關函數(shù)則是在相關函數(shù)則是在q q階滯后前有幾項明顯的尖柱，階滯后前有幾項明顯的尖柱，從從q q階滯后項開始逐漸趨向于零。階滯后項開始逐漸趨向于零。23ARMA(1,1)模型模型xt=0.8xt-1+ut-0.3ut-1的自相關圖和偏自相關圖的自相關圖和偏自相關圖可以看出，可以看出，ARMA(1,1)模型的自相關圖和偏自相關圖均是模型

16、的自相關圖和偏自相關圖均是在在k=1達到峰值后呈現(xiàn)出按指數(shù)衰減的拖尾特征達到峰值后呈現(xiàn)出按指數(shù)衰減的拖尾特征。24ARMA(2,2)模型模型xt=0.8xt-1-0.3xt-2+ut-0.5ut-1+0.7ut-2的自相關圖和偏自相關圖的自相關圖和偏自相關圖可以看出，可以看出，ARMA(2,2)模型的自相關圖和偏自相關圖在模型的自相關圖和偏自相關圖在k=1、2達到兩個峰值后達到兩個峰值后按指數(shù)或正弦衰減按指數(shù)或正弦衰減。ARMA模型的識別原則的識別原則ARMAARMAACF拖尾q階截尾拖尾PACFp階截尾拖尾拖尾至于模型中的p和q階具體取什么值，則要從低階開始逐步試探，直到合適的模型為止。四、

17、隨機時間序列模型的估計四、隨機時間序列模型的估計 AR(p)AR(p)、MA(q)MA(q)、ARMA(p,q)ARMA(p,q)模型的估計方法較模型的估計方法較多，多，大體上分為大體上分為3 3類：類：最小二乘估計；最小二乘估計；矩估計；矩估計；利用自相關函數(shù)的直接估計利用自相關函數(shù)的直接估計。 下面有選擇地加以介紹。下面有選擇地加以介紹。 AR(p) AR(p)模型的模型的Yule WalkerYule Walker方程估計方程估計pkpkkk2211k=-kkppppppppp12112211211211此方程組被稱為此方程組被稱為Yule WalkerYule Walker方程組。該方

18、程方程組。該方程組建立了組建立了AR(p)AR(p)模型的模型參數(shù)模型的模型參數(shù) 1 1, , 2 2, , , p p與與自相關函數(shù)自相關函數(shù) 1 1, , 2 2, , , p p的關系。的關系。 12011102120112ppppppptptttXXX11pjiijjitE1,022pjiijji1,02 MA(q) MA(q)模型的矩估計模型的矩估計將將MA(q)模型的自協(xié)方差函數(shù)中的各個量用估計模型的自協(xié)方差函數(shù)中的各個量用估計量代替，得到：量代替，得到： qkqkkqkqkkqk當當當01)(0)1 (112222212221,q非線性方程組，用直接法非線性方程組，用直接法或迭代

19、法求解。常用的迭或迭代法求解。常用的迭代方法有線性迭代法和代方法有線性迭代法和Newton-RaphsanNewton-Raphsan迭代法。迭代法。 ARMA(p,q) ARMA(p,q)模型的矩估計模型的矩估計 在在ARMA(p,q)中共有中共有(p+q+1)個待估參數(shù)個待估參數(shù) 1, 2, p與與 1, 2, q以及以及 2，其估計量計算步，其估計量計算步驟及公式如下：驟及公式如下： 第一步第一步，估計，估計 1, 2, p 1211112112pqqq pqqq pq pq pqqqq p 第二步，第二步，改寫模型，求改寫模型，求 1, 2, q以及以及 2的估計值的估計值 tptpt

20、ttXXXX2211qtqtt2211ptpttttXXXXX2211qtqttttX2211構成一個構成一個MAMA模型。按照估計模型。按照估計MAMA模型參數(shù)的方法，模型參數(shù)的方法，可以得到可以得到 1 1, , 2 2, , , q q以及以及 2 2的估計值。的估計值。 qtqttptpttXXX1111 AR(p) AR(p)的最小二乘估計的最小二乘估計tptptttXXXX221121221112)() (nptptptttnpttXXXXSSj 00)(12211jtnptptptttXXXXX解該方程組，就可得到待估參數(shù)的估計值。解該方程組，就可得到待估參數(shù)的估計值。 五、模型

21、的檢驗五、模型的檢驗1 1、殘差項的白噪聲檢驗、殘差項的白噪聲檢驗 由于由于ARMA(p,q)ARMA(p,q)模型的識別與估計是在假設隨模型的識別與估計是在假設隨機擾動項是一白噪聲的基礎上進行的，因此，機擾動項是一白噪聲的基礎上進行的，因此，如果估計的模型確認正確的話，殘差應代表一如果估計的模型確認正確的話，殘差應代表一白噪聲序列。白噪聲序列。 如果通過所估計的模型計算的樣本殘差不代表如果通過所估計的模型計算的樣本殘差不代表一白噪聲，則說明模型的識別與估計有誤，需一白噪聲，則說明模型的識別與估計有誤，需重新識別與估計。重新識別與估計。 在實際檢驗時，主要檢驗殘差序列是否存在自在實際檢驗時，主

22、要檢驗殘差序列是否存在自相關。相關。 可用可用Q QLBLB統(tǒng)計量進行統(tǒng)計量進行 2 2檢驗：在給定顯著性水平檢驗：在給定顯著性水平下，可計算不同滯后期的下，可計算不同滯后期的Q QLBLB值，通過與值，通過與 2 2分布分布表中的相應臨界值比較，來檢驗是否拒絕殘差表中的相應臨界值比較，來檢驗是否拒絕殘差序列為白噪聲的假設。若大于相應臨界值，則序列為白噪聲的假設。若大于相應臨界值，則應拒絕所估計的模型，需重新識別與估計。應拒絕所估計的模型，需重新識別與估計。 2 2、AICAIC與與SBCSBC模型選擇標準模型選擇標準 在多組通過識別檢驗的（在多組通過識別檢驗的（p,qp,q）值選擇最適當）值選擇最適當?shù)哪Ｐ?。的模型?常用的模型選擇的判別標準有：常用的模型選擇的判別標準有：赤池信息法赤池信息法（Akaike information criterion，簡記為，簡記為AICAIC）與施瓦茲貝葉斯法（與施瓦茲貝葉斯法（Schwartz Bayesian criterion，簡記為，簡記為SBCSBC）：）：)ln()ln(2