自回歸移動平均模型課件

第四章時間序列計量經(jīng)濟學模型的理論與方法第一節(jié)隨機時間序列的特征第二節(jié)隨機時間序列分析模型第三節(jié)協(xié)整分析與誤差修正模型第四節(jié)向量自回歸模型自回歸移動平均模型§4.1隨機時間序列的特征一、隨機時間序列模型簡介二、趨勢平穩(wěn)與差分平穩(wěn)三、時間序列平穩(wěn)性的檢驗自回歸移動平均模型一、隨機時間序列模型簡介一個標有時間腳標的隨機變量序列被稱為時間序列(timeseries)。前提假設：時間序列是由某個隨機過程(Stochasticprocess)生成的。即，假定序列X1,X2,…,XT的每一個數(shù)值都是從一個概率分布中隨機得到。當收集到一個時間序列數(shù)據(jù)集時，就得到該隨機過程的一個可能結(jié)果或?qū)崿F(xiàn)(realization)。

自回歸移動平均模型

假定某個時間序列是由某一隨機過程生成，即假定時間序列Xt的每一個數(shù)值都是從一個概率分布中隨機得到，如果時間序列Xt滿足：

1）均值E(Xt)=

是與時間t

無關(guān)的常數(shù)；

2）方差Var(Xt)=

2是與時間t

無關(guān)的常數(shù)；

3）協(xié)方差Cov(Xt,Xt+k)=

k

是只與時期間隔k有關(guān)，與時間t無關(guān)的常數(shù)；則稱該隨機時間序列是平穩(wěn)的（stationary)，而該隨機過程是一平穩(wěn)隨機過程（stationarystochasticprocess）。1.時間序列的平穩(wěn)性自回歸移動平均模型經(jīng)典計量模型的數(shù)學基礎是極限法則，以獨立隨機抽樣為樣本，如果模型設定正確，模型隨機誤差項滿足極限法則和由極限法則導出的基本假設，繼而進行的參數(shù)估計和統(tǒng)計推斷是可靠的。以時間序列數(shù)據(jù)為樣本，破壞了隨機抽樣的假定，則經(jīng)典計量模型的數(shù)學基礎能否被滿足成為一個重要問題。對照極限法則和時間序列的平穩(wěn)性條件研究發(fā)現(xiàn)，如果模型設定正確，并且所有時間序列是平穩(wěn)的，時間序列的平穩(wěn)性可以替代隨機抽樣假定，模型隨機誤差項仍然滿足極限法則。2.平穩(wěn)性與經(jīng)典回歸自回歸移動平均模型3.白噪聲和隨機游走由定義知：白噪聲序列是平穩(wěn)的。

一個最簡單的隨機時間序列是一具有零均值同方差的獨立同分布序列：Xt=

t

，

t~N(0,

2)

該序列常被稱為是一個白噪聲(whitenoise)。自回歸移動平均模型

另一個簡單的隨機時間列序被稱為隨機游走(randomwalk)，該序列由如下隨機過程生成：Xt=Xt-1+

t

這里，

t是一個白噪聲,

t~N(0,

2)。

該序列同均值，但方差不同：E(Xt

)=E(Xt-1)X1=X0

+

1X2=X1

+

2

=X0

+

1+

2

……Xt

=X0

+

1+

2

+…+

t

var(Xt

)=t

2，Xt的方差與時間t有關(guān)，而非常數(shù)，因此隨機游走是非平穩(wěn)序列。自回歸移動平均模型4.齊次非平穩(wěn)過程

如果一個時間序列是非平穩(wěn)的，經(jīng)過一次或多次差分后成為平穩(wěn)序列，產(chǎn)生這樣的非平穩(wěn)序列的隨機過程稱為齊次隨機過程。原序列轉(zhuǎn)化為平穩(wěn)序列所需的差分次數(shù)稱為齊次的階數(shù)。對隨機游走序列Xt取一階差分(firstdifference)：由于

t是一個白噪聲，則序列{ΔXt

}是平穩(wěn)的。這提示我們?nèi)绻粋€時間序列是非平穩(wěn)的，常?？梢酝ㄟ^取差分的方法形成平穩(wěn)序列。自回歸移動平均模型

如果Yt是一階齊次非平穩(wěn)過程，則序列：Wt=Yt

?Yt-1=Yt

就是平穩(wěn)的。如果Yt是二階齊次非平穩(wěn)過程，則序列：Wt=Yt

?Yt-1=2Yt

就是平穩(wěn)的。自回歸移動平均模型5.單整與非單整

如果一個時間序列經(jīng)過一次差分變成平穩(wěn)序列，也稱原序列是1階單整(integratedof1)序列,記為I(1)過程。如果經(jīng)過d次差分后變成平穩(wěn)序列,則稱原序列是d階單整(integratedofd),記為I(d)。

I(0)代表平穩(wěn)時間序列。多次差分無法變?yōu)槠椒€(wěn)的時間序列稱為非單整的(non-integrated)。自回歸移動平均模型

隨機時間序列Yt的自相關(guān)函數(shù)(autocorrelationfunction,ACF)：

k=

k

/

0

自相關(guān)函數(shù)是關(guān)于滯后期k的遞減函數(shù)。對一個隨機過程只有一個實現(xiàn)(樣本),因此，只能計算樣本自相關(guān)函數(shù)(Sampleautocorrelationfunction)：6.自相關(guān)函數(shù)、Q統(tǒng)計量自回歸移動平均模型

為了檢驗自相關(guān)函數(shù)的某個數(shù)值

ρk

是否為0，可以用Bartlett的研究結(jié)果：如果時間序列由白噪聲生成，則對所有k>0，

k~N(0,1/T

)

為了檢驗所有k>0的自相關(guān)函數(shù)ρk

都為0的聯(lián)合假設，可以采用Box-Pierce的Q統(tǒng)計量：

Q統(tǒng)計量近似地服從自由度為k的

分布。如果計算出Q值大于顯著性水平

α下的臨界值，就有1-α的把握拒絕所有

k(k>0)同時為0的原假設。自回歸移動平均模型1.確定性時間趨勢

描述非平穩(wěn)經(jīng)濟時間序列一般有兩種方法，一種方法是包含一個確定性時間趨勢：

(*)

其中ut是平穩(wěn)序列；a+

t是線性趨勢函數(shù)。這種過程也稱為趨勢平穩(wěn)的，因為如果從式(*)中減去

a+

t，結(jié)果是一個平穩(wěn)過程。二、趨勢平穩(wěn)與差分平穩(wěn)隨機過程自回歸移動平均模型

一般時間序列可能存在一個非線性函數(shù)形式的確定性時間趨勢，例如可能存在多項式趨勢：

(**)t=1,2,

,T

同樣可以除去這種確定性趨勢，然后分析和預測去勢后的時間序列。對于中長期預測而言，能準確地給出確定性時間趨勢的形式很重要。如果Yt能夠通過去勢方法排除確定性趨勢，轉(zhuǎn)化為平穩(wěn)序列，稱為退勢平穩(wěn)過程。自回歸移動平均模型2.差分平穩(wěn)過程

非平穩(wěn)序列中有一類序列可以通過差分運算，得到具有平穩(wěn)性的序列，考慮下式

(*)

也可寫成：

(**)

其中a是常數(shù),ut是一個白噪聲序列。式(*)的差分序列是含漂移

a的隨機游走，說明yt的差分序列

yt是平穩(wěn)序列。（**）式中L表示滯后算子。自回歸移動平均模型

實際上，以往討論的回歸方程的序列自相關(guān)問題暗含著殘差序列是一個平穩(wěn)序列。因為如果殘差序列是一個非平穩(wěn)序列，則說明因變量除了能被解釋變量解釋的部分以外，其余的部分變化仍然不規(guī)則，隨著時間的變化有越來越大的偏離因變量均值的趨勢，這樣的模型是不能夠用來預測未來信息的。自回歸移動平均模型

殘差序列是一個非平穩(wěn)序列的回歸被稱為偽回歸，這樣的一種回歸有可能擬合優(yōu)度、顯著性水平等指標都很好，但是由于殘差序列是一個非平穩(wěn)序列，說明了這種回歸關(guān)系不能夠真實的反映因變量和解釋變量之間存在的均衡關(guān)系，而僅僅是一種數(shù)字上的巧合而已。偽回歸的出現(xiàn)說明模型的設定出現(xiàn)了問題，有可能需要增加解釋變量或者減少解釋變量，抑或是把原方程進行差分，以使殘差序列達到平穩(wěn)。一個可行的辦法是先把一個非平穩(wěn)時間序列通過某種變換化成一個平穩(wěn)序列。自回歸移動平均模型一個平穩(wěn)的時間序列在圖形上往往表現(xiàn)出一種圍繞其均值不斷波動的過程；而非平穩(wěn)序列則往往表現(xiàn)出在不同的時間段具有不同的均值（如持續(xù)上升或持續(xù)下降）。1.平穩(wěn)性檢驗的圖示判斷三、時間序列的平穩(wěn)性檢驗平穩(wěn)時間序列與非平穩(wěn)時間序列圖自回歸移動平均模型

單位根檢驗（unitroottest）是普遍應用的一類檢驗時間序列平穩(wěn)性的方法，以ADF檢驗最為常用。(1)DF檢驗我們已知道，隨機游走序列Yt=Yt-1+

t

是非平穩(wěn)的，其中

t是白噪聲。序列可看成是隨機模型Yt=

Yt-1+

t

中參數(shù)

=1時的情形。2.平穩(wěn)性的單位根檢驗自回歸移動平均模型

也就是說，對式

Yt=

Yt-1+

t

（*）

回歸，如果確實發(fā)現(xiàn)

=1，就說隨機變量Yt有一個單位根。

（*）式可變成差分形式：

Yt=(

-1)Yt-1+

t=

Yt-1+

t

(**)

檢驗（*）式是否存在單位根

=1，也可通過（**）式判斷是否有

=0。自回歸移動平均模型一般地:

檢驗一個時間序列Yt的平穩(wěn)性，可通過檢驗帶有截距項的一階自回歸模型

Yt=

+

Yt-1+

t

（*）中的參數(shù)

是否小于1。

或者：檢驗其等價變形式

Yt=

+

Yt-1+

t

（**）中的參數(shù)

是否小于0。

（*）式中的參數(shù)

>1或

=1時，時間序列是非平穩(wěn)的；對應于（**）式，則是

>0或

=0。自回歸移動平均模型針對（**）式

Yt=

+Yt-1+

t

零假設

H0：

=0，即原序列存在單位根；備擇假設

H1：

<0，即原序列是平穩(wěn)的；

上述檢驗可通過OLS法下的t

檢驗完成。Dicky和Fuller于1976年提出了這一情形下t統(tǒng)計量服從的分布（這時的t統(tǒng)計量稱為

統(tǒng)計量），即DF分布（見下表）。DF分布臨界值表自回歸移動平均模型

通過OLS法估計

Yt=

+Yt-1+

t

計算t統(tǒng)計量的值，與DF分布表中給定顯著性水平下的臨界值比較：如果：t<臨界值（左尾單側(cè)檢驗），則拒絕原假設H0：

=0，認為時間序列不存在單位根，是平穩(wěn)的。自回歸移動平均模型

DF檢驗的問題：在上述使用

Yt=

+Yt-1+

t

對時間序列進行平穩(wěn)性檢驗中，實際上假定時間序列是由一階自回歸過程AR(1)生成的，并且隨機誤差項是白噪聲。

為了保證DF檢驗中隨機誤差項的白噪聲特性，Dicky和Fuller對DF檢驗進行了擴充，形成了ADF（AugmentDickey-Fuller）檢驗。(2)ADF檢驗自回歸移動平均模型ADF檢驗是通過以下3個模型完成的：3個模型檢驗的原假設都是：H0：

=0，即存在一單位根，備擇假設：H1:

<0。模型1：模型2：模型3：自回歸移動平均模型

同時估計出上述3個模型的適當形式，然后通過ADF臨界值表檢驗零假設H0：

=0。

1）只要其中有一個模型的檢驗結(jié)果拒絕了零假設，就可以認為時間序列是平穩(wěn)的；

2）當3個模型的檢驗結(jié)果都不能拒絕零假設時，則認為時間序列是非平穩(wěn)的。檢驗原理與DF檢驗相同。Dicky和Fuller推導了3個模型所使用的ADF分布臨界值表。ADF檢驗也可判斷時間序列的單整階數(shù)。ADF檢驗過程：自回歸移動平均模型

例1：檢驗1978~2000年間中國支出法GDP時間序列的平穩(wěn)性及單整性。1）經(jīng)過償試，模型3取了2階滯后：

通過拉格朗日乘數(shù)檢驗對隨機誤差項的自相關(guān)性進行檢驗：LM(1)=0.92，LM(2)=4.16，小于5%顯著性水平下自由度分別為1與2的

2分布的臨界值，可見不存在自相關(guān)性。

從

看，t>臨界值(查ADF分布表)，不能拒絕存在單位根的零假設。自回歸移動平均模型2）經(jīng)試驗，模型2中滯后項取2階：

LM檢驗表明模型殘差不存在自相關(guān)性。從GDPt-1的參數(shù)值看，其t統(tǒng)計量為正值，大于臨界值(查ADF分布表)，不能拒絕存在單位根的零假設。自回歸移動平均模型3）經(jīng)試驗，模型1中滯后項取2階：

LM檢驗表明模型殘差項不存在自相關(guān)性，因此模型的設定是正確的。從GDPt-1的參數(shù)值看，其t統(tǒng)計量為正值，大于臨界值(查ADF分布表)，不能拒絕存在單位根的零假設。結(jié)論：根據(jù)ADF檢驗結(jié)果，可斷定中國支出法核算的GDP時間序列是非平穩(wěn)的。自回歸移動平均模型DependentVariable:D(GDP)

Method:LeastSquares

Sample(adjusted):19812000

Includedobservations:20afteradjustments

CoefficientStd.Errort-StatisticProb.

C-1011.330805.7016-1.2552170.2286@TREND(1978)229.2673120.17971.9077040.0758GDP(-1)0.0092720.0295610.3136550.7581D(GDP(-1))1.4990940.1676208.9433900.0000D(GDP(-2))-1.0069410.203447-4.9494020.0002R-squared0.941735

Meandependentvar4228.060AdjustedR-squared0.926198

S.D.dependentvar3774.675S.E.ofregression1025.448

Akaikeinfocriterion16.91597Sumsquaredresid

Schwarzcriterion17.16490Loglikelihood-164.1597

Hannan-Quinncriter.16.96456F-statistic60.61136

Durbin-Watsonstat2.306026Prob(F-statistic)0.000000

支出法GDP時間序列的平穩(wěn)性ADF檢驗模型3結(jié)果：自回歸移動平均模型Eviews中，GDP平穩(wěn)性ADF檢驗結(jié)果：NullHypothesis:GDPhasaunitroot

Exogenous:Constant,LinearTrend

LagLength:2(AutomaticbasedonSIC,MAXLAG=4)

t-Statistic

Prob.*AugmentedDickey-Fullerteststatistic

0.313655

0.9972Testcriticalvalues:1%level

-4.498307

5%level

-3.658446

10%level

-3.268973

*MacKinnon(1996)one-sidedp-values.

自回歸移動平均模型Eviews中，GDP平穩(wěn)性ADF檢驗結(jié)果（續(xù)）：AugmentedDickey-FullerTestEquation

DependentVariable:D(GDP)

Method:LeastSquares

Sample(adjusted):19812000

Includedobservations:20afteradjustments

CoefficientStd.Errort-StatisticProb.

GDP(-1)0.0092720.0295610.3136550.7581D(GDP(-1))1.4990940.1676208.9433900.0000D(GDP(-2))-1.0069410.203447-4.9494020.0002C-1011.330805.7016-1.2552170.2286@TREND(1978)229.2673120.17971.9077040.0758R-squared0.941735

Meandependentvar4228.060AdjustedR-squared0.926198

S.D.dependentvar3774.675S.E.ofregression1025.448

Akaikeinfocriterion16.91597Sumsquaredresid

Schwarzcriterion17.16490Loglikelihood-164.1597

Hannan-Quinncriter.16.96456F-statistic60.61136

Durbin-Watsonstat2.306026Prob(F-statistic)0.000000

自回歸移動平均模型4）中國支出法GDP的單整性。

經(jīng)過試算，發(fā)現(xiàn)中國支出法GDP是1階單整的，適當?shù)臋z驗模型為：自回歸移動平均模型DependentVariable:D(GDP,2)

Method:LeastSquares

Sample(adjusted):19812000

Includedobservations:20afteradjustments

CoefficientStd.Errort-StatisticProb.

C-1177.177590.5488-1.9933610.0636@TREND(1978)261.250761.784554.2284150.0006D(GDP(-1))-0.4948930.095513-5.1814240.0001D(GDP(-1),2)0.9655080.1503086.4235400.0000R-squared0.750052

Meandependentvar298.1000AdjustedR-squared0.703187

S.D.dependentvar1828.426S.E.ofregression996.1368

Akaikeinfocriterion16.82250Sumsquaredresid

Schwarzcriterion17.02165Loglikelihood-164.2250

Hannan-Quinncriter.16.86138F-statistic16.00445

Durbin-Watsonstat2.213135Prob(F-statistic)0.000045

支出法GDP時序一階差分后的平穩(wěn)性ADF檢驗模型3結(jié)果：自回歸移動平均模型NullHypothesis:D(GDP)hasaunitrootExogenous:Constant,LinearTrend

LagLength:1(AutomaticbasedonSIC,MAXLAG=5)

t-Statistic

Prob.*AugmentedDickey-Fullerteststatistic-5.181424

0.0026Testcriticalvalues:1%level

-4.498307

5%level

-3.658446

10%level

-3.268973

結(jié)論：根據(jù)ADF檢驗結(jié)果，可斷定中國支出法核算的GDP的一階差分序列是平穩(wěn)的，即I(1)。Eviews中，ΔGDP序列ADF檢驗模型3的檢驗結(jié)果：自回歸移動平均模型

例2：檢驗關(guān)于人均居民消費與人均國內(nèi)生產(chǎn)總值這兩時間序列的平穩(wěn)性及單整性。自回歸移動平均模型1)對中國人均國內(nèi)生產(chǎn)總值GDPP來說，經(jīng)過償試，三個模型的適當形式分別為：模型3：ADF檢驗過程：自回歸移動平均模型模型2：模型1：自回歸移動平均模型3個模型中參數(shù)的估計值的t統(tǒng)計量均大于各自的臨界值，因此不能拒絕存在單位根的零假設。

結(jié)論:人均國內(nèi)生產(chǎn)總值(GDPP)是非平穩(wěn)的。

經(jīng)過進一步檢驗發(fā)現(xiàn)，人均國內(nèi)生產(chǎn)總值(GDPP)和人均居民消費(CONSPP)都是二階單整序列，I(2)自回歸移動平均模型Eviews中GDPP序列ADF檢驗給出的模型3的檢驗結(jié)果：NullHypothesis:GDPPhasaunitroot

Exogenous:Constant,LinearTrend

LagLength:2(AutomaticbasedonSIC,MAXLAG=6)

t-Statistic

Prob.*AugmentedDickey-Fullerteststatistic-0.038831

0.9922Testcriticalvalues:1%level

-4.498307

5%level

-3.658446

10%level

-3.268973

AugmentedDickey-FullerTestEquation

DependentVariable:D(GDPP)

Method:LeastSquares

Sample(adjusted):19812000

CoefficientStd.Errort-StatisticProb.

GDPP(-1)-0.0017940.046202-0.0388310.9695D(GDPP(-1))0.8802580.2187184.0246320.0011D(GDPP(-2))-0.5748490.239245-2.4027610.0297C5.27130419.117900.2757260.7865@TREND(1978)8.1323406.5271171.2459310.2319R-squared0.841967

Meandependentvar151.3000AdjustedR-squared0.799825

S.D.dependentvar79.09023S.E.ofregression35.38567

Akaikeinfocriterion10.18281Sumsquaredresid18782.19

Schwarzcriterion10.43174Loglikelihood-96.82809

Hannan-Quinncriter.10.23140F-statistic19.97927

Durbin-Watsonstat1.840754Prob(F-statistic)0.000007

自回歸移動平均模型2）對于人均居民消費CONSP時間序列來說，3個模型的適當形式為：模型3：模型2：自回歸移動平均模型3個模型中參數(shù)CONSPt-1的t統(tǒng)計量的值均比ADF臨界值表中各自的臨界值大，不能拒絕該時間序列存在單位根的假設。

結(jié)論：可判斷人均居民消費序列CONSP是非平穩(wěn)的。模型1：自回歸移動平均模型Eviews中CONSP序列ADF檢驗給出的模型3的檢驗結(jié)果：NullHypothesis:CONSPhasaunitroot

Exogenous:Constant,LinearTrend

LagLength:0(AutomaticbasedonSIC,MAXLAG=7)

t-Statistic

Prob.*AugmentedDickey-Fullerteststatistic

0.317837

0.9974Testcriticalvalues:1%level

-4.440739

5%level

-3.632896

10%level

-3.254671

AugmentedDickey-FullerTestEquation

DependentVariable:D(CONSP)

Method:LeastSquares

Sample(adjusted):19792000

CoefficientStd.Errort-StatisticProb.

CONSP(-1)0.0316390.0995440.3178370.7541C9.16919630.716620.2985090.7686@TREND(1978)1.9287435.3338630.3616030.7216R-squared0.337576

Meandependentvar58.86364AdjustedR-squared0.267847

S.D.dependentvar40.26234S.E.ofregression34.45085

Akaikeinfocriterion10.04307Sumsquaredresid22550.36

Schwarzcriterion10.19185Loglikelihood-107.4737

Hannan-Quinncriter.10.07812F-statistic4.841264

Durbin-Watsonstat1.420701Prob(F-statistic)0.019989

自回歸移動平均模型Eviews中CONSP序列ADF檢驗給出的模型2的檢驗結(jié)果：NullHypothesis:CONSPhasaunitroot

Exogenous:Constant

LagLength:0(AutomaticbasedonSIC,MAXLAG=7)

t-Statistic

Prob.*AugmentedDickey-Fullerteststatistic

3.160028

1.0000Testcriticalvalues:1%level

-3.769597

5%level

-3.004861

10%level

-2.642242

AugmentedDickey-FullerTestEquation

DependentVariable:D(CONSP)

Method:LeastSquares

Sample(adjusted):19792000

CoefficientStd.Errort-StatisticProb.

CONSP(-1)0.0667760.0211313.1600280.0049C0.79339119.730670.0402110.9683R-squared0.333017

Meandependentvar58.86364AdjustedR-squared0.299668

S.D.dependentvar40.26234S.E.ofregression33.69388

Akaikeinfocriterion9.959017Sumsquaredresid22705.55

Schwarzcriterion10.05820Loglikelihood-107.5492

Hannan-Quinncriter.9.982382F-statistic9.985775

Durbin-Watsonstat1.456762Prob(F-statistic)0.004925

自回歸移動平均模型Eviews中CONSP序列ADF檢驗給出的模型1的檢驗結(jié)果：NullHypothesis:CONSPhasaunitroot

Exogenous:None

LagLength:0(AutomaticbasedonSIC,MAXLAG=7)

t-Statistic

Prob.*AugmentedDickey-Fullerteststatistic

8.998848

1.0000Testcriticalvalues:1%level

-2.674290

5%level

-1.957204

10%level

-1.608175

AugmentedDickey-FullerTestEquation

DependentVariable:D(CONSP)

Method:LeastSquares

Sample(adjusted):19792000

CoefficientStd.Errort-StatisticProb.

CONSP(-1)0.0675670.0075088.9988480.0000R-squared0.332963

Meandependentvar58.86364AdjustedR-squared0.332963

S.D.dependentvar40.26234S.E.ofregression32.88319

Akaikeinfocriterion9.868189Sumsquaredresid22707.38

Schwarzcriterion9.917782Loglikelihood-107.5501

Hannan-Quinncriter.9.879872Durbin-Watsonstat1.457686

自回歸移動平均模型中國人均居民消費與人均國內(nèi)生產(chǎn)總值的單整性：

經(jīng)過試算，發(fā)現(xiàn)中國人均國內(nèi)生產(chǎn)總值GDPP是2階單整的，適當?shù)臋z驗模型為：

CONSP也是2階單整的，適當?shù)臋z驗模型為：自回歸移動平均模型§4.2隨機時間序列分析模型一、模型的一般形式及其適用性二、模型的平穩(wěn)性條件三、模型的識別四、模型的參數(shù)估計五、模型的檢驗自回歸移動平均模型

隨機時間序列模型（TimeSeriesModeling）一般形式為：

Xt=F(Xt-1,Xt-2,…,

t)

建立具體的時間序列模型的三個問題：

(1)模型的具體形式

(2)時序變量的滯后期

(3)隨機擾動項的結(jié)構(gòu)一、隨機時間序列模型的一般形式及適用性自回歸移動平均模型

例如，取線性方程、一期滯后以及白噪聲隨機擾動項（

t=

t），模型將是一個1階自回歸過程AR(1)：

Xt=Xt-1+

t

(

t特指白噪聲)

一般的，p階自回歸過程AR(p)為：

Xt=

1Xt-1+

2Xt-2+…+

pXt-p+

t(*)(1)如果隨機擾動項是一個白噪聲(

t=

t)，則稱(*)式為一純AR(p)過程(pureAR(p)process)。自回歸移動平均模型

(2)如果

t不是一個白噪聲，通常認為它是一個q階的移動平均(movingaverage)過程MA(q)：

t=

t

?

1

t-1?

2

t-2?

?

q

t-q

該式給出了一個純MA(q)過程(pureMA(q)process)。

一般的p階自回歸過程AR(p)是：

Xt=

1Xt-1+

2Xt-2+…+

pXt-p+

t(*)

將純AR(p)與純MA(q)結(jié)合，得到一個一般的自回歸移動平均(autoregressivemovingaverage)過程ARMA(p,q)：

Xt=

1Xt-1+

2Xt-2+…+

pXt-p

+

t

-

1

t-1-

2

t-2-

-

q

t-q自回歸移動平均模型ARMA(p,q)：

該式表明：（1）一個隨機時間序列可以通過一個自回歸移動平均過程生成，即該序列可以由其自身的過去或滯后值以及隨機擾動項來解釋。（2）如果該序列是平穩(wěn)的，即它的行為并不會隨著時間的推移而變化，那么我們就可以通過該序列過去的行為來預測未來。

Xt=

1Xt-1+

2Xt-2+…+

pXt-p

+

t

-

1

t-1-

2

t-2-

-

q

t-q自回歸移動平均模型經(jīng)典回歸模型的問題：（1）經(jīng)典的計量經(jīng)濟學模型是以因果關(guān)系為基礎，且具有一定的模型結(jié)構(gòu)，因此也常稱為結(jié)構(gòu)式模型（structuralmodel）。（2）然而，如果Xt波動的主要原因可能是我們無法解釋的因素，則利用結(jié)構(gòu)式模型來解釋Xt的變動就比較困難或不可能。

時間序列分析模型的適用性

在這些情況下，采用另一條預測途徑：通過時間序列的歷史數(shù)據(jù),得出關(guān)于其過去行為的有關(guān)結(jié)論，進而對時間序列未來行為進行推斷。

隨機時間序列分析模型，就是要通過序列過去的變化特征來預測未來的變化趨勢。自回歸移動平均模型1.AR(p)模型的平穩(wěn)性條件

如果一個p階自回歸模型AR(p)生成的時間序列是平穩(wěn)的，就說該AR(p)模型是平穩(wěn)的，否則，就說該AR(p)模型是非平穩(wěn)的。二、隨機時間序列模型的平穩(wěn)性條件自回歸移動平均模型考慮p階自回歸模型AR(p)

Xt=

1Xt-1+

2Xt-2+…+

pXt-p+

t

(*)引入滯后算子（lagoperator）L：

LXt=Xt-1,L2Xt=Xt-2,…,LpXt=Xt-p(*)式變換為(1-

1L-

2L2-…-

pLp)Xt=

t

記

(L)=(1-

1L-

2L2-…-

pLp)，稱多項式方程

(z)=(1-

1z-

2z2-…-

pzp)=0，為AR(p)的特征方程(characteristicequation)?？梢宰C明，如果該特征方程的所有根在單位圓外（根的模大于1），則AR(p)模型是平穩(wěn)的。

自回歸移動平均模型例，AR(1)模型的平穩(wěn)性條件對1階自回歸模型AR(1):

由于Xt僅與

t相關(guān),因此,E(Xt-1

t)=0。如果該模型平穩(wěn),則有E(Xt2)=E(Xt-12),從而上式可變換為：在平穩(wěn)條件下,該方差是一非負的常數(shù),從而有|

|<1

自回歸移動平均模型AR(1)的特征方程：的根為z=1/

AR(1)穩(wěn)定,即

|

|<1,意味著特征根大于1,根的模大于1。

對高階自回歸模型AR(p)：

(1)AR(p)模型穩(wěn)定的必要條件是：

1+

2++

p<1

(2)由于

i(i=1,2,p)可正可負,AR(p)模型穩(wěn)定的充分條件是：

|

1|+|

2|++|

p|<1

自回歸移動平均模型對于移動平均模型MA(q)：

Xt=

t

-

1

t-1-

2

t-2-

-

q

t-q

其中，

t是一個白噪聲，于是2.MA(q)模型的平穩(wěn)性

當滯后期大于q時，Xt的自協(xié)方差系數(shù)為0。因此：有限階移動平均模型總是平穩(wěn)的。γq+1=cov(Xt,Xt-q-1)=E(XtXt-q-1)=E[(

t

-

1

t-1-

2

t-2-

-

q

t-q

)*(

t-q-1

-

1

t-q-2

-

2

t-q-3

-

-

q

t-2q-1)]=0自回歸移動平均模型

由于ARMA(p,q)模型是AR(p)模型與MA(q)模型的組合：

Xt=

1Xt-1+

2Xt-2+…+

pXt-p

+

t

-

1

t-1-

2

t-2-

-

q

t-q3.ARMA(p,q)模型的平穩(wěn)性

而MA(q)模型總是平穩(wěn)的，因此ARMA(p,q)模型的平穩(wěn)性取決于AR(p)部分的平穩(wěn)性。

當AR(p)部分平穩(wěn)時，則該ARMA(p,q)模型是平穩(wěn)的，否則，不是平穩(wěn)的。自回歸移動平均模型

（1）一個平穩(wěn)的時間序列總可以找到生成它的平穩(wěn)的隨機過程或模型；（2）一個非平穩(wěn)的隨機時間序列通常可以通過差分的方法將它變換為平穩(wěn)的，對差分后平穩(wěn)的時間序列也可找出對應的平穩(wěn)隨機過程或模型。如果將一個非平穩(wěn)時間序列通過d次差分,將它變?yōu)槠椒€(wěn)的，然后用一個平穩(wěn)的ARMA(p,q)模型作為它的生成模型，則我們就說該原始時間序列是一個自回歸單整移動平均（autoregressiveintegratedmovingaverage）時間序列，記為ARIMA(p,d,q)。

4.ARIMA(p,d,q)模型自回歸移動平均模型

隨機時間序列模型的識別，就是對于一個平穩(wěn)的隨機時間序列，找出生成它的合適的隨機過程或模型，即判斷該時間序列是遵循一純AR過程、還是遵循一純MA過程或ARMA過程。

所使用的工具主要是時間序列的自相關(guān)函數(shù)（autocorrelationfunction，ACF）及偏自相關(guān)函數(shù)（partialautocorrelationfunction，

PACF

）。三、隨機時間序列模型的識別自回歸移動平均模型1.AR(p)過程(1)自相關(guān)函數(shù)ACF1階自回歸模型AR(1)：Xt=Xt-1+

t

的k階滯后自協(xié)方差為：k=1,2,…AR(1)模型的自相關(guān)函數(shù)為：k=1,2,…

由AR(1)的穩(wěn)定性知|

|<1,因此,k

時,ACF呈指數(shù)形衰減,直到零。這種現(xiàn)象稱為拖尾或稱AR(1)有無窮記憶（infinitememory）。

注意，

<0時，呈振蕩衰減狀。自回歸移動平均模型一般地，p階自回歸模型AR(p):Xt=

1Xt-1+

2Xt-2+…

pXt-p

+

tk期滯后協(xié)方差為:從而有自相關(guān)函數(shù)

:

無論k有多大，

k的計算均與其1到p階滯后的自相關(guān)函數(shù)有關(guān)，因此呈拖尾狀。如果AR(p)是穩(wěn)定的,則|

k|遞減且趨于零。自回歸移動平均模型

其中：zi=1/λi是AR(p)特征方程

(z)=0的特征根，由AR(p)平穩(wěn)的條件知，|λi|<1或|zi|>1;

因此，當zi均為實數(shù)根時，

k呈幾何型衰減（單調(diào)或振蕩）；當存在虛數(shù)根時，則一對共扼復根構(gòu)成通解中的一個阻尼正弦波項，

k呈正弦波衰減。事實上，自相關(guān)函數(shù)是一p階差分方程，其通解為自回歸移動平均模型(2)偏自相關(guān)函數(shù)

Xt與Xt-k間的偏自相關(guān)函數(shù)(partialautocorrelation,簡記為PACF)是消除了中間變量Xt-1，…，Xt-k+1

帶來的間接相關(guān)后的直接相關(guān)性，它是在已知序列值Xt-1，…，Xt-k+1的條件下，Xt與Xt-k間關(guān)系的度量。自回歸移動平均模型

Xt與Xt-k之間的條件相關(guān)性。其相關(guān)程度用偏自相關(guān)系數(shù)

k,k度量。在k階滯后下估計偏自相關(guān)系數(shù)的計算公式如下（*）其中：rk是在k階滯后時的自相關(guān)系數(shù)估計值。（**）這是偏自相關(guān)系數(shù)的一致估計。自回歸移動平均模型

要得到

k,k的更確切的估計，需要進行回歸

t

=

1,2,

,T

（*）因此滯后k階的偏自相關(guān)系數(shù)是當Xt

對Xt-1，…，Xt-k作回歸時Xt-k的系數(shù)。稱之為偏相關(guān)是因為它度量了k期間距的相關(guān)而不考慮k-1期的相關(guān)。66自回歸移動平均模型

從Xt中去掉Xt-1的影響，則只剩下隨機擾動項

t，顯然它與Xt-2無關(guān)，因此Xt與Xt-2的偏自相關(guān)系數(shù)為零，記為

在AR(1)中，

同樣，在AR(p)過程中，對所有的k>p，Xt與Xt-k間的偏自相關(guān)系數(shù)為零。

AR(p)的一個主要特征是：k>p時，

k*=Corr(Xt,Xt-k)=0

即

k*在p以后截尾。自回歸移動平均模型AR(p)隨機時間序列的識別原則：若Xt的偏自相關(guān)函數(shù)在p以后截尾,即k>p時，

k*=0，而它的自相關(guān)函數(shù)

k是拖尾的，則此序列是自回歸AR(p)序列。自回歸移動平均模型AR(1)過程，時序圖

=1自回歸移動平均模型AR(1)過程，樣本自相關(guān)函數(shù)和偏自相關(guān)函數(shù)圖

=1自回歸移動平均模型AR(1)過程，時序圖

=0.8自回歸移動平均模型AR(1)過程，樣本自相關(guān)函數(shù)和偏自相關(guān)函數(shù)圖

=0.8自回歸移動平均模型AR(1)過程，時序圖

=-0.8自回歸移動平均模型AR(1)過程，樣本自相關(guān)函數(shù)和偏自相關(guān)函數(shù)圖

=-0.8自回歸移動平均模型AR(1)過程，時序圖

=0.2自回歸移動平均模型AR(1)過程，樣本自相關(guān)函數(shù)和偏自相關(guān)函數(shù)圖

=0.2自回歸移動平均模型AR(1)過程，時序圖

=-0.2自回歸移動平均模型AR(1)過程，樣本自相關(guān)函數(shù)和偏自相關(guān)函數(shù)圖

=-0.2自回歸移動平均模型AR(1)過程，時序圖

=1.02自回歸移動平均模型AR(1)過程，樣本自相關(guān)函數(shù)和偏自相關(guān)函數(shù)圖

=1.02自回歸移動平均模型對MA(1)過程2.MA(q)過程它的自協(xié)方差系數(shù)：

于是，MA(1)過程的自相關(guān)函數(shù)為：可見，當k>1時，

k>0，即Xt與Xt-k不相關(guān)，MA(1)自相關(guān)函數(shù)是截尾的。自回歸移動平均模型MA(1)過程可以等價地寫成

t關(guān)于無窮序列Xt，Xt-1，…的線性組合的形式：或（*）(*)是一個AR()過程，它的偏自相關(guān)函數(shù)非截尾但卻趨于零，因此MA(1)的偏自相關(guān)函數(shù)是非截尾但卻趨于零的。

自回歸移動平均模型其自協(xié)方差系數(shù)為:

一般地，q階移動平均過程MA(q)相應的自相關(guān)函數(shù)為:當k>q時，Xt與Xt-k不相關(guān),

k=0,即存在截尾現(xiàn)象,這是MA(q)的一個特征?？梢愿鶕?jù)自相關(guān)系數(shù)是否從某一點開始一直為0來判斷MA(q)模型的階數(shù)。MA(q)過程的偏自相關(guān)函數(shù)是非截尾但趨于零的。自回歸移動平均模型

在實際識別時，由于樣本自相關(guān)函數(shù)rk是總體自相關(guān)函數(shù)

k的一個估計，由于樣本的隨機性，當k>q時，rk不會全為0，而是在0的上下波動。但可以證明,當k>q時,rk服從如下漸近正態(tài)分布:

rk~N(0,1/n)式中n表示樣本容量。則有95.5%的把握判斷原時間序列在q之后截尾。因此，如果計算的rk滿足

MA(q)模型的識別規(guī)則：若隨機序列的自相關(guān)函數(shù)截尾，即自q以后,

k=0(k>q)：而它的偏自相關(guān)函數(shù)拖尾,則此序列是移動平均MA(q)序列。自回歸移動平均模型

ARMA(p,q)的自相關(guān)函數(shù)，可以看作MA(q)的自相關(guān)函數(shù)和AR(p)的自相關(guān)函數(shù)的混合。當p=0時，它具有截尾性質(zhì)；當q=0時，它具有拖尾性質(zhì)；當p、q都不為0時，它具有拖尾性質(zhì);

從識別上看，通常：

ARMA(p,q)過程的偏自相關(guān)函數(shù)(PACF)可能在p階滯后前有幾項明顯的尖柱(spikes)，但從p階滯后項開始逐漸趨向于零；而它的自相關(guān)函數(shù)(ACF)則是在q階滯后前有幾項明顯的尖柱,從q階滯后項開始逐漸趨向于零。

3.ARMA(p,q)過程自回歸移動平均模型ARMA(p,q)模型的ACF與PACF理論模式模型ACFPACF

k

k*AR(p)衰減趨于零(幾何型或震蕩型)p階后截尾：

k*=0，k>pMA(q)q階后截尾：

k=0，k>p衰減趨于零(幾何型或震蕩型)ARMA(p,q)q階后衰減趨于零(幾何型或震蕩型)p階后衰減趨于零(幾何型或震蕩型)自回歸移動平均模型ARMA(p,q)模型的ACF與PACF理論模式ACFPACF自回歸移動平均模型模型2:Xt=-0.7Xt-1

+

t模型3:Xt=

t

?0.7

t自回歸移動平均模型模型5:Xt=-0.7Xt-1+

t?0.7

t-1模型4:Xt=0.7Xt-1?0.49Xt-2+

t自回歸移動平均模型例1中GDP是一階單整的，ΔGDP是平穩(wěn)序列：自回歸移動平均模型AR(p)、MA(q)、ARMA(p,q)模型的估計方法較多，大體上分為3類：利用自相關(guān)函數(shù)的直接估計矩估計最小二乘估計結(jié)構(gòu)階數(shù)模型識別確定估計參數(shù)四、隨機時間序列模型的估計自回歸移動平均模型1.AR(p)模型的YuleWalker方程估計

在AR(p)模型的識別中，曾得到利用

k=

-k，得到如下方程組：

此方程組稱為YuleWalker方程組。該方程組建立了AR(p)模型的模型參數(shù)

1,

2,,

p與自相關(guān)函數(shù)

1,

2,,

p的關(guān)系。自回歸移動平均模型一般地，p階自回歸模型AR(p):Xt=

1Xt-1+

2Xt-2+…

pXt-p

+

tk期滯后協(xié)方差為:從而有自相關(guān)函數(shù)

:自回歸移動平均模型

利用實際時間序列提供的信息，首先求得自相關(guān)函數(shù)的估計值

然后利用YuleWalker方程組，求解模型參數(shù)的估計值自回歸移動平均模型由于于是從而可得

2的估計值

在具體計算時,可用樣本自相關(guān)函數(shù)rk替代。自回歸移動平均模型2.MA(q)模型的矩估計

將MA(q)模型的自協(xié)方差函數(shù)中的各個量用估計量代替，得到：(*)

首先求得自協(xié)方差函數(shù)的估計值，(*)是一個包含(q+1)個待估參數(shù)的非線性方程組,可以用直接法或迭代法求解。

常用的迭代方法有線性迭代法和Newton-Raphsan迭代法。自回歸移動平均模型（1）MA(1)模型的直接算法

對于MA(1)模型，（*）式相應地寫成或有于是有解

由于參數(shù)估計有兩組解，可根據(jù)可逆性條件|

1|<1來判斷選取一組。于是自回歸移動平均模型（2）MA(q)模型的迭代算法

對于q>1的MA(q)模型，一般用迭代算法估計參數(shù)。由（*）式得第一步，給出的一組初值，比如代入（**）式，計算出第一次迭代值（**）自回歸移動平均模型

第二步，將第一次迭代值代入（**）式，計算出第二次迭代值

按此反復迭代下去，直到第m步的迭代值與第m-1步的迭代值相差不大時（滿足一定的精度），便停止迭代，并用第m步的迭代結(jié)果作為（**）的近似解。自回歸移動平均模型3.ARMA(p,q)模型的矩估計

在ARMA(p,q)中共有(p+q+1)個待估參數(shù)

1,

2,,

p與

1,

2,,

q以及

2，其估計量計算步驟及公式如下：

第一步，估計

1,

2,,

p

是總體自相關(guān)函數(shù)的估計值，可用樣本自相關(guān)函數(shù)rk代替。自回歸移動平均模型

第二步，改寫模型,求

1,

2,,

q以及

2的估計值.將模型:改寫為：令于是(*)可以寫成：

構(gòu)成一個MA模型。按照估計MA模型參數(shù)的方法,可以得到

1,

2,,

q以及

2的估計值。自回歸移動平均模型4.AR(p)的最小二乘估計

假設模型AR(p)的參數(shù)估計值已經(jīng)得到，即有殘差的平方和為：(*)

根據(jù)最小二乘原理，所要求的參數(shù)估計值是下列方程組的解：即j=1,2,…,p

(**)解該方程組，就可得到待估參數(shù)的估計值。自回歸移動平均模型

注意，在上述模型的平穩(wěn)性、識別與估計的討論中，ARMA(p,q)模型中均未包含常數(shù)項。

如果包含常數(shù)項，該常數(shù)項并不影響模型的原有性質(zhì)，因為通過適當?shù)淖冃?，可將包含常?shù)項的模型轉(zhuǎn)換為不含常數(shù)項的模型。以一般的ARMA(p,q)模型為例，對含有常數(shù)項的模型：方程兩邊同減

/(1-

1--

p)，則可得到其中(*)自回歸移動平均模型如果估計的ARMA(p,q)模型正確，殘差應代表一白噪聲序列，否則說明模型的識別與估計有誤，需重新識別與估計。1.殘差項的白噪聲檢驗五、模型的檢驗實際檢驗時，主要檢驗殘差序列是否存在自相關(guān)?？捎肣統(tǒng)計量進行

2檢驗來檢驗是否拒絕殘差序列為白噪聲的零假設。自回歸移動平均模型2.AIC與SBC模型選擇標準有可能存在不止一組(p,q)值都能通過識別檢驗。對可能的適當?shù)哪Ｐ?，存在著模型的“簡潔”與模型的擬合優(yōu)度的權(quán)衡選擇問題。

常用的模型選擇的判別標準有：AIC與SBC注意