第4章時(shí)間序列分析

會(huì)計(jì)學(xué)1第4章時(shí)間序列分析2時(shí)間序列的定義：當(dāng)時(shí)，即時(shí)刻t只取整數(shù)時(shí)，隨機(jī)過(guò)程可寫(xiě)成此類隨機(jī)過(guò)程稱為隨機(jī)序列，也成時(shí)間序列。特點(diǎn)（1）隨機(jī)序列是隨機(jī)過(guò)程的一種，是將連續(xù)時(shí)間的隨機(jī)過(guò)程等間隔采樣后得到的序列；（2）隨機(jī)序列也是隨機(jī)變量的集合，只是與這些隨機(jī)變量聯(lián)系的時(shí)間不是連續(xù)的、而是離散的。第1頁(yè)/共64頁(yè)3第2頁(yè)/共64頁(yè)4二、隨機(jī)過(guò)程的數(shù)字特征第3頁(yè)/共64頁(yè)5第4頁(yè)/共64頁(yè)6第5頁(yè)/共64頁(yè)7第6頁(yè)/共64頁(yè)第7頁(yè)/共64頁(yè)9三、平穩(wěn)隨機(jī)過(guò)程和平穩(wěn)時(shí)間序列第8頁(yè)/共64頁(yè)10換句話說(shuō)：時(shí)間序列{xt}是平穩(wěn)的。如果{xt}有有窮的二階中心矩，而且滿足：（1）ut=E（xt）=c;（2）r(t,s)=E[(xt-c)(xs-c)]=r(t-s,0)則稱{xt}是平穩(wěn)的。含義：a有窮二階矩意味著期望和自協(xié)方差存在；b平穩(wěn)時(shí)間序列任意時(shí)刻所對(duì)應(yīng)的隨機(jī)變量的均值相等；

c自協(xié)方差函數(shù)只與時(shí)間間隔有關(guān)，而與時(shí)間起點(diǎn)無(wú)關(guān)。第9頁(yè)/共64頁(yè)11第10頁(yè)/共64頁(yè)12第11頁(yè)/共64頁(yè)13第12頁(yè)/共64頁(yè)14第13頁(yè)/共64頁(yè)15第14頁(yè)/共64頁(yè)16第15頁(yè)/共64頁(yè)17第16頁(yè)/共64頁(yè)18第二節(jié)、時(shí)間序列的隨機(jī)線性模型

一、平穩(wěn)自回歸模型（AR模型）第17頁(yè)/共64頁(yè)19第18頁(yè)/共64頁(yè)20第19頁(yè)/共64頁(yè)21二、可逆滑動(dòng)平均模型（MA模型）第20頁(yè)/共64頁(yè)22第21頁(yè)/共64頁(yè)23三、平穩(wěn)自回歸-可逆滑動(dòng)平均混合模型第22頁(yè)/共64頁(yè)24第23頁(yè)/共64頁(yè)25第24頁(yè)/共64頁(yè)26第三節(jié)線性模型的自相關(guān)函數(shù)和偏相關(guān)函數(shù)一、偏相關(guān)函數(shù)第25頁(yè)/共64頁(yè)27第26頁(yè)/共64頁(yè)28第27頁(yè)/共64頁(yè)29第28頁(yè)/共64頁(yè)30第29頁(yè)/共64頁(yè)31二、自相關(guān)函數(shù)自相關(guān)函數(shù)定義為：三、自相關(guān)函數(shù)和偏自相關(guān)函數(shù)的性質(zhì)

模型函數(shù)

AR(p)MA(q)ARMA(p,q)(p?0,q?0)拖尾截尾k=q處拖尾截尾k=p處拖尾拖尾第30頁(yè)/共64頁(yè)32第31頁(yè)/共64頁(yè)33例：k12345678910k0.880.760.670.570.480.40.340.280.210.17kk0.880.01-0.010.110.02-0.010.01-0.02-0.060.05第32頁(yè)/共64頁(yè)34計(jì)算結(jié)果表明，自相關(guān)函數(shù)逐漸衰減，但不等于零；偏自相關(guān)函數(shù)在k=1后，與零接近，是截尾的。結(jié)論：自相關(guān)函數(shù)呈指數(shù)衰減，是拖尾的；偏自相關(guān)函數(shù)在一步后為零，是截尾的。第33頁(yè)/共64頁(yè)35例：用zt=(1-0.5B)at模擬產(chǎn)生250個(gè)觀察值，at為白噪聲序列，得到序列自相關(guān)和偏自相關(guān)函數(shù)如下：可見(jiàn)，ACF在一步后截尾，PACF是拖尾的。結(jié)論：MA(q)的ACF是截尾的，PACF是拖尾的。k12345678910ACF-0.4400.02-0.03-0.01-0.050.04-0.03-0.030.02PACF-0.44-0.24-0.11-0.08-0.07-0.12-0.06-0.07-0.1-0.08第34頁(yè)/共64頁(yè)36這兩節(jié)介紹了三類模型的形式、特性及自相關(guān)和偏自相關(guān)函數(shù)的特征，現(xiàn)繪表如下：AR(p)MA(q)ARMA(p,q)模型方程(B)xt=atxt=(B)at(B）xt=(B)at平穩(wěn)性條件(B)=0的根在單位圓外無(wú)(B)=0的根在單位圓外可逆性條件無(wú)(B)=0的根在單位圓外(B)=0的根在單位圓外自相關(guān)函數(shù)拖尾Q步截尾拖尾偏自相關(guān)函數(shù)P步截尾拖尾拖尾第35頁(yè)/共64頁(yè)37第四節(jié)模型的識(shí)別一、模型識(shí)別定義由平穩(wěn)序列的一個(gè)樣本函數(shù)確定它的線性模型的類別、階數(shù)，稱為模型識(shí)別。即判斷該時(shí)間序列是遵循一純AR過(guò)程、還是遵循一純MA過(guò)程或ARMA過(guò)程。所使用的工具主要是時(shí)間序列的自相關(guān)函數(shù)（autocorrelationfunction，ACF）及偏自相關(guān)函數(shù)（partialautocorrelationfunction，PACF

）。二、樣本自相關(guān)函數(shù)和樣本偏相關(guān)函數(shù)1．樣本自相關(guān)函數(shù)第36頁(yè)/共64頁(yè)38第37頁(yè)/共64頁(yè)392．樣本偏相關(guān)函數(shù)

樣本偏相關(guān)函數(shù)可用下式定義

第38頁(yè)/共64頁(yè)40三、確定模型的類別和階數(shù)第39頁(yè)/共64頁(yè)41第40頁(yè)/共64頁(yè)42

AR(p)、MA(q)、ARMA(p,q)模型的估計(jì)方法較多，大體上分為3類：

（1）最小二乘估計(jì)；（2）矩估計(jì)；（3）利用自相關(guān)函數(shù)的直接估計(jì)。下面有選擇地加以介紹。結(jié)構(gòu)階數(shù)模型識(shí)別確定估計(jì)參數(shù)第五節(jié)模型參數(shù)估計(jì)第41頁(yè)/共64頁(yè)43⒈AR(p)模型的YuleWalker方程估計(jì)

在AR(p)模型的識(shí)別中，曾得到

利用k=-k，得到如下方程組：

此方程組被稱為YuleWalker方程組。該方程組建立了AR(p)模型的模型參數(shù)1,2,,p與自相關(guān)函數(shù)1,2,,p的關(guān)系，(195）第42頁(yè)/共64頁(yè)44

利用實(shí)際時(shí)間序列提供的信息，首先求得自相關(guān)函數(shù)的估計(jì)值

然后利用YuleWalker方程組，求解模型參數(shù)的估計(jì)值由于

于是

從而可得2的估計(jì)值

在具體計(jì)算時(shí)，可用樣本自相關(guān)函數(shù)rk替代。(196)第43頁(yè)/共64頁(yè)45⒉MA(q)模型的矩估計(jì)

將MA(q)模型的自協(xié)方差函數(shù)中的各個(gè)量用估計(jì)量代替，得到：

首先求得自協(xié)方差函數(shù)的估計(jì)值，(197)是一個(gè)包含(q+1)個(gè)待估參數(shù)

(197)的非線性方程組，可以用直接法或迭代法求解。

常用的迭代方法有線性迭代法和Newton-Raphsan迭代法。第44頁(yè)/共64頁(yè)46

（1）MA(1)模型的直接算法

對(duì)于MA(1)模型，（197）式相應(yīng)地寫(xiě)成于是

或有于是有解

由于參數(shù)估計(jì)有兩組解，可根據(jù)可逆性條件|1|<1來(lái)判斷選取一組。

(198)(199)(200)第45頁(yè)/共64頁(yè)47

（2）MA(q)模型的迭代算法

對(duì)于q>1的MA(q)模型，一般用迭代算法估計(jì)參數(shù)：由（197）式得第一步，給出的一組初值，比如代入（201）式，計(jì)算出第一次迭代值

（201）第46頁(yè)/共64頁(yè)48

第二步，將第一次迭代值代入（201）式，計(jì)算出第二次迭代值

按此反復(fù)迭代下去，直到第m步的迭代值與第m-1步的迭代值相差不大時(shí)（滿足一定的精度），便停止迭代，并用第m步的迭代結(jié)果作為（201）的近似解。

第47頁(yè)/共64頁(yè)49⒊ARMA(p,q)模型的矩估計(jì)

在ARMA(p,q)中共有(p+q+1)個(gè)待估參數(shù)1,2,,p與1,2,,q以及2，其估計(jì)量計(jì)算步驟及公式如下：

第一步，估計(jì)1,2,,p

是總體自相關(guān)函數(shù)的估計(jì)值，可用樣本自相關(guān)函數(shù)rk代替。

(202)第48頁(yè)/共64頁(yè)50

第二步，改寫(xiě)模型，求1,2,,q以及2的估計(jì)值

將模型

改寫(xiě)為：

令

于是(203)可以寫(xiě)成：

(203)

構(gòu)成一個(gè)MA模型。按照估計(jì)MA模型參數(shù)的方法，可以得到1,2,,q以及2的估計(jì)值。

(204)第49頁(yè)/共64頁(yè)51⒋AR(p)的最小二乘估計(jì)

假設(shè)模型AR(p)的參數(shù)估計(jì)值已經(jīng)得到，即有

殘差的平方和為：

(205)

根據(jù)最小二乘原理，所要求的參數(shù)估計(jì)值是下列方程組的解：

即

j=1,2,…,p(206)解該方程組，就可得到待估參數(shù)的估計(jì)值。

第50頁(yè)/共64頁(yè)52

為了與AR(p)模型的YuleWalker方程估計(jì)進(jìn)行比較，將(206)改寫(xiě)成：

j=1,2,…,p由自協(xié)方差函數(shù)的定義，并用自協(xié)方差函數(shù)的估計(jì)值

代入，上式表示的方程組即為：

或

j=1,2,…,pj=1,2,…,p第51頁(yè)/共64頁(yè)53解該方程組，得到：

即為參數(shù)的最小二乘估計(jì)。

YuleWalker方程組的解比較發(fā)現(xiàn)，當(dāng)n足夠大時(shí)，二者是相似的。2的估計(jì)值為：

第52頁(yè)/共64頁(yè)54

需要說(shuō)明的是，在上述模型的平穩(wěn)性、識(shí)別與估計(jì)的討論中，ARMA(p,q)模型中均未包含常數(shù)項(xiàng)。

如果包含常數(shù)項(xiàng)，該常數(shù)項(xiàng)并不影響模型的原有性質(zhì)，因?yàn)橥ㄟ^(guò)適當(dāng)?shù)淖冃?，可將包含常?shù)項(xiàng)的模型轉(zhuǎn)換為不含常數(shù)項(xiàng)的模型。下面以一般的ARMA(p,q)模型為例說(shuō)明。對(duì)含有常數(shù)項(xiàng)的模型

方程兩邊同減/(1-1--p)，則可得到

其中第53頁(yè)/共64頁(yè)55第54頁(yè)/共64頁(yè)56

由于ARMA(p,q)模型的識(shí)別與估計(jì)是在假設(shè)隨機(jī)擾動(dòng)項(xiàng)是一白噪聲的基礎(chǔ)上進(jìn)行的，因此，如果估計(jì)的模型確認(rèn)正確的話，殘差應(yīng)代表一白噪聲序列。

如果通過(guò)所估計(jì)的模型計(jì)算的樣本殘差不代表一白噪聲，則說(shuō)明模型的識(shí)別與估計(jì)有誤，需重新識(shí)別與估計(jì)。

在實(shí)際檢驗(yàn)時(shí)，主要檢驗(yàn)殘差序列是否存在自相關(guān)。1、殘差項(xiàng)的白噪聲檢驗(yàn)

可用統(tǒng)計(jì)量進(jìn)行2檢驗(yàn)：在給定顯著性水平下，可計(jì)算不同延遲期的值，通過(guò)與2分布表中的相應(yīng)臨界值比較，來(lái)檢驗(yàn)是否拒絕殘差序列為白噪聲的假設(shè)。若大于相應(yīng)臨界值，則應(yīng)拒絕所估計(jì)的模型，需重新識(shí)別與估計(jì)。第六節(jié)模型的檢驗(yàn)第55頁(yè)/共64頁(yè)572、AIC與SBC模型選擇標(biāo)準(zhǔn)

另外一個(gè)遇到的問(wèn)題是，在實(shí)際識(shí)別ARMA(p,q)模型時(shí)，需多次反復(fù)償試，有可能存在不止一組（p,q）值都能通過(guò)識(shí)別檢驗(yàn)。顯然，增加p與q的階數(shù)，可增加擬合優(yōu)度，但卻同時(shí)降低了自由度。因此，對(duì)可能的適當(dāng)?shù)哪Ｐ?，存在著模型的“?jiǎn)潔性”與模型的擬合優(yōu)度的權(quán)衡選擇問(wèn)題。第56頁(yè)/共64頁(yè)58

其中，n為待估參數(shù)個(gè)數(shù)（p+q+可能存在的常數(shù)項(xiàng)），T為可使用的觀測(cè)值，RSS為殘差平方和（Residualsumofsquares）。

在選擇可能的模型時(shí)，AIC與SBC越小越好

顯然，如果添加的滯后項(xiàng)沒(méi)有解釋能力，則對(duì)RSS值的減小沒(méi)有多大幫助，卻增加待估參數(shù)的個(gè)數(shù)，因此使得AIC或SBC的值增加。

需注意的是：在不同模型間進(jìn)行比較時(shí)，必須選取相同的時(shí)間段。