自回歸過(guò)程ARp

1、13.2 自回歸過(guò)程 AR( p )如果預(yù)測(cè)是分析的目的，那么，隨機(jī)過(guò)程的元素 對(duì)它的過(guò)去的依賴性就很重要。這使我們能夠利用已經(jīng)收集的樣本觀測(cè)值的過(guò)去信息預(yù)測(cè)變量的未來(lái)值。存在這種依賴性的簡(jiǎn)單例子是自回歸過(guò)程： yt = yt-1+ ut (13.2.1)便是這樣一種過(guò)程，其中ut為白噪聲。1時(shí)間序列y1，y2 ，yn生成過(guò)程通常是未知的，它可能比簡(jiǎn)單自回歸過(guò)程(13.2.1)更復(fù)雜，例如, yt不僅依賴yt-1，而且還依賴于yt-2等。更一般地，這個(gè)過(guò)程有以下形式： (13.2.2)其中ut為白噪聲，(13.2.2)稱為p階自回歸(Autoregressive)過(guò)程，記作AR( p )。據(jù)此

2、，(13.2.1)便是一階自回歸過(guò)程AR(1)。 2一、自回歸過(guò)程的平穩(wěn)條件只有產(chǎn)生時(shí)間序列的隨機(jī)過(guò)程是平穩(wěn)的，用自回歸模型進(jìn)行預(yù)測(cè)才有意義。因此，我們首先應(yīng)研究自回歸過(guò)程的平穩(wěn)條件。(一) 一階自回歸過(guò)程對(duì)于一階自回歸過(guò)程(13.2.1)yt = yt-1 +ut = ut +(yt-2 +ut-1) = ut +ut-1 +2(yt-3 +ut-2) = ut +ut-1 +2 ut-2 +3 yt-3 = ut +ut-1 +2 ut-2 +3 ut-3 + (13.2.3)3可以看到，一階自回歸過(guò)程(13.2.1)可以表示成白噪聲序列的線性組合。由于E(ut) = 0，所以E(yt)

3、= 0，平穩(wěn)條件1顯然滿足。對(duì)(13.2.3)兩端取方差： V(yt) = (13.2.4)僅當(dāng)|1時(shí)，(13.2.4)才有 (13.2.5)表明，只有當(dāng)|1時(shí)，平穩(wěn)條件2才成立。4由(13.2.3)有 (13.2.3) (13.2.6) 當(dāng)|1時(shí)，(10.2.6)便有 (10.2.7)其中 。5(10.2.7)式表明， 僅與間隔時(shí)期數(shù)k有關(guān)，而與時(shí)間點(diǎn)t無(wú)關(guān)，平穩(wěn)條件3成立。綜上所述，對(duì)于一階自回歸過(guò)程(10.2.1)，只要系數(shù)的絕對(duì)值1，便是平穩(wěn)過(guò)程。(二) p階自回歸過(guò)程將(13.2.2)改寫成 (13.2.8)引進(jìn)算符多項(xiàng)式： (13.2.9)6則(13.2.8)可改寫成： 或 (13

4、.2.10)若(13.2.2)是平穩(wěn)隨機(jī)過(guò)程，則必定收斂，即yt可表示為白噪聲的無(wú)窮加權(quán)和?？梢宰C明 ，收斂的充要條件是算符多項(xiàng)式 的特征方程 (13.2.11)的根全部在復(fù)平面上單位圓周之外，或所有根的模z1。7即p階自回歸過(guò)程的平穩(wěn)條件為 (13.2.12)z1和z2分別為實(shí)部和虛部。當(dāng) p = 1時(shí)，(13.2.11)寫成 1- z = 0解方程得 ，則平穩(wěn)條件： 即1同前面的結(jié)論相同。8為了研究方便，如果不作特殊說(shuō)明，本章總是假定：1.所有自回歸過(guò)程都是平穩(wěn)過(guò)程。當(dāng)發(fā)現(xiàn)時(shí)間序列是非平穩(wěn)的，要清除非平穩(wěn)性，一般采用差分法。只要對(duì)原始數(shù)據(jù)進(jìn)行適當(dāng)階數(shù)的差分處理，便可消除非平穩(wěn)性。2.自回歸

5、過(guò)程中每個(gè)元素的期望值都為0即E(yt)= 0。如果實(shí)際的時(shí)間序列的均值 ,則可對(duì)它進(jìn)行中心化 ，中心化后的時(shí)間序列必然有零期望值。9二、自回歸過(guò)程的自相關(guān)函數(shù)一階自回歸過(guò)程AR(1)的自相關(guān)函數(shù)，利用(13.2.7)可直接寫出 (13.2.13)AR(p)的自相關(guān)函數(shù)由于 (13.2.14) 將(10.2.2)代入(10.2.14)得 (10.2.15)10當(dāng)k = 0時(shí)， (13.2.16) 對(duì)AR(1)便有 (13.2.17)再由(10.2.15)有 (13.2.18) 11把(10.2.18)代入(10.2.17)整理得 (13.2.19)此結(jié)果與(10.2.5)相同。用 除(10.2

6、.15)式兩端，得 (13.2.20) (10.2.20)便是自回歸過(guò)程AR(p)自相關(guān)函數(shù)的表達(dá)式(也稱遞推公式)。12在自相關(guān)函數(shù)表達(dá)式(10.2.20)中，令k = 1,2,3,，p,則得一組方程式，稱之為尤拉-沃克（Yule-Walker）方程： 1 =1+ 2 1 +3 2 + +p p-1 2 =1 1 + 2 +3 1 + +p p-2 3 =1 2 + 2 1+3 + +p p-3 p =1 p-1 + 2p-2+3 p-3 + +p (13.2.21) 其矩陣表達(dá)式為：13(13.2.22) 簡(jiǎn)記為 或 (13.2.23)p中最后一個(gè)參數(shù)p稱為偏自相關(guān)系數(shù)，序列p (p =1

7、,2，3，)稱為偏自相關(guān)函數(shù)。 14(10.2.20)式表示，當(dāng)自回歸模型的階為p時(shí)，則偏自相關(guān)函數(shù)p+1及其后的值皆為零。例如，當(dāng)自回歸模型的階數(shù)為2時(shí)，則3及其后的值皆為零。三、自回歸過(guò)程AR(p)的識(shí)別與估計(jì)對(duì)于自回歸模型(13.2.2) (13.2.2) t = p +1 , p +2 , , n矩陣形式為 (13.2.2)15其中 16(一)自回歸階數(shù) p已知的情況我們可以將(13.2.2)看成因變量為yt，自變量為yt-1, yt-2, yt-p的線性回歸模型，并可用OLS法得出參數(shù)估計(jì)值。對(duì)(13.2.2)應(yīng)用最小二乘法，得參數(shù)估計(jì)應(yīng)該指出，此時(shí)估計(jì)量雖然不是無(wú)偏的，卻是一致估計(jì)

8、量，還是可以接受的。17(二)自回歸階數(shù) p未知的情況自回歸階數(shù)p未知的情況，關(guān)鍵是模型的識(shí)別，即如何確定階數(shù)p，一旦p值確定下來(lái)就轉(zhuǎn)化為自回歸階數(shù)p已知的情況,問(wèn)題就解決了。我們這里只介紹偏自相關(guān)系數(shù)定階法。這種方法是在自回歸階數(shù)k逐步增加的過(guò)程中，通過(guò)對(duì)偏自相關(guān)系數(shù) 的顯著性檢驗(yàn)來(lái)確定適當(dāng)階數(shù)p的方法。偏自相關(guān)系數(shù)中的第k個(gè)系數(shù) 我們用 表示。18為了對(duì) 進(jìn)行檢驗(yàn)，必須知道OLS估計(jì)量 的抽樣分布?？梢宰C明，對(duì)于大樣本來(lái)講，如果自回歸過(guò)程(AR)的階數(shù)為p，那么，在kp時(shí)，偏自相關(guān)系數(shù)估計(jì)量 近似服從期望值為0，方差為 的正態(tài)分布,這里的n為樣本容量。要判斷在0.05顯著性水平下 是否為0

9、，只要考察 的數(shù)值是否落在下面的區(qū)間內(nèi)： (13.2.25) 19如果 落在這個(gè)區(qū)間內(nèi)，則 不顯著，即確認(rèn) =0，如果 落在此區(qū)間之外，則 顯著，即確認(rèn) 0。具體步驟如下：(1)先構(gòu)造一個(gè)95%的置信區(qū)間 。(2)進(jìn)行逐步回歸第一步，考慮AR(1)，計(jì)算出 ；第二步，考慮AR(2)，計(jì)算出 ；第三步，考慮AR(3)，計(jì)算出 ；20這樣一步步作下去。如果只有 落在置信區(qū)間之外，其余皆落在區(qū)間內(nèi)，則表明只有 0，因而p=1，產(chǎn)生樣本隨機(jī)過(guò)程AR(1)。如果 和 落在置信區(qū)間之外，其余皆落在區(qū)間之內(nèi)，則表明 0， 0，所以p = 2，產(chǎn)生樣本隨機(jī)過(guò)程AR(2)。其余依此類推。例13.2.1 （見(jiàn)課本337頁(yè)）95%的偏相關(guān)系數(shù)置信區(qū)間21樣本偏相關(guān)系數(shù)表 表13.2.2從表13.22可以看出，只有 和 落在區(qū)域以外 ，所以，產(chǎn)生二階自回歸過(guò)程AR(2)。在EVeiws中，可以直接給出結(jié)果，如