時(shí)間序列模型歸納總結(jié)復(fù)習(xí)

1、時(shí)間序列模型歸納總結(jié)復(fù)習(xí)隨機(jī)時(shí)間序列分析的幾個(gè)基本概念一、隨機(jī)過程(Stochastic Process)定義 設(shè)(Q ,F,P)是概率空間，T是給定的參數(shù)集，如果對于任意 t T,都有一定義在(Q ,F ,P)上 的隨機(jī)變量 X(t, 3 )與之對應(yīng)，則稱隨機(jī)變量 族X(t, 3 ),t T為隨機(jī)過程。簡記為X(t,),t T或X t,t T 或Xt離散參數(shù)的隨機(jī)過程也稱為隨機(jī)序列或(隨機(jī))時(shí)間序列。上述定義可簡單理解成：隨機(jī)過程是一簇隨機(jī)變量 X t,t T，其中T表示時(shí)間t的變動(dòng)范圍，對每個(gè)固定的時(shí)刻t而言，Xt是一普通的隨機(jī)變量，這些隨機(jī)變量的全體就構(gòu)成一個(gè)隨機(jī)過程。當(dāng)t=0, 1,

2、2,時(shí)，即時(shí)刻t只取整數(shù)時(shí)，隨機(jī)過程X t,t T可寫成如下形式，X t,t=0, 1, 2,。 此類隨機(jī)過程Xt是離散時(shí)間t的隨機(jī)函數(shù)，稱它為隨機(jī)序列或時(shí)間序列。對于一個(gè)連續(xù)時(shí)間的隨機(jī)過程的等間隔采樣序列，即X t,t=0, 1, 2,就是一個(gè)離散隨機(jī)序列。二、時(shí)間序列的概率分布和數(shù)值特征1、時(shí)間序列的概率分布一個(gè)時(shí)間序列便是一個(gè)無限維的隨機(jī)向量。一個(gè)無限維隨機(jī)向量X=(,X-1,X0,X1,)/的概率分布應(yīng)當(dāng)用一個(gè)無限維概率分布描述。根據(jù)柯爾莫哥夫定理，一個(gè)時(shí)間序列的概率分布可以用它有限維分布簇來描 述。時(shí)間序列所有的一維分布是：，F(xiàn)-1( ), F0( ), F1( )，-所有二維分布是

3、：Fij( , ), i, j=0, 1, 2,(i 豐 j)一個(gè)時(shí)間序列的所有有限維分布簇的全體，稱為該序列的有限維分布簇。2、時(shí)間序列的均值函數(shù)一個(gè)時(shí)間序列的均值函數(shù)是指：EXt 二；XdFt(X)其中EXt表示在t固定時(shí)對隨機(jī)變量 Xt的求均值，它只一維分布簇中的分布函數(shù)Ft( )有關(guān)。3、時(shí)間序列的協(xié)方差函數(shù)與自相關(guān)函數(shù)與隨機(jī)變量之間的協(xié)方差相似，時(shí)間序列的協(xié)方差函數(shù) 定義為：(t,s) =E(Xt - 叫)Xss：(XB)(Ys人2耳以,丫)其中Ft,s(X,Y)為(Xt, Xs)的二維聯(lián)合分布。類似可以定義時(shí)間序列的自相關(guān)函數(shù)，即：、(t,S)二(t,S)/、. (t,t) (S,

4、S)時(shí)間序列的自協(xié)方差函數(shù)有以下性質(zhì):(1) 對稱性：(t,s)=4s,t)(2) 非負(fù)定性：對任意正整數(shù)m和任意m個(gè)整數(shù)ki, k2,km,方陣-了（ki，ki）Y（ki，k2 ）川 Y（ki，km ）/（k2,ki ） /（k2,k2 ）川，（k2,km ）IIIIIIIIIkm,k2 |l|km,kmIII|y（km,ki為對稱非負(fù)定矩陣。時(shí)間序列的自相關(guān)函數(shù)同樣也具有上述性質(zhì)且有p (t,t)=1。三、平穩(wěn)隨機(jī)過程平穩(wěn)時(shí)間序列是時(shí)間序列分析中一類重要而特殊的隨機(jī)序列，時(shí)間序列分析的主要內(nèi)容是關(guān)于平穩(wěn)時(shí) 間序列的統(tǒng)計(jì)分析。(一) 兩種不同的平穩(wěn)性定義：i、嚴(yán)平穩(wěn)：如果對于時(shí)間 t的任意n

5、個(gè)值ti,t2l(,tn和任意實(shí)數(shù)；，隨機(jī)過程Xt的n維分布滿足關(guān)系式：Fn Xi,X2, |啟冶我2川爲(wèi)=Fn為兀,“儀壯 ；I ； ,H 11.；則稱Xt為嚴(yán)平穩(wěn)過程。2、寬平穩(wěn)：若隨機(jī)過程 1Xt,tT，的均值(一階矩)和協(xié)方差存在，且滿足(1) E l-X J - a-t T(2) E X k -a -ai：k t,t k T則稱Xt,t T 為寬平穩(wěn)隨機(jī)過程。通常說的平穩(wěn)是指寬平穩(wěn)。二者的聯(lián)系:(I) 嚴(yán)寬：因?yàn)閷捚椒€(wěn)要求期望和協(xié)方差存在，而嚴(yán)平穩(wěn)要求概率分布存在，而不能斷言 二階矩存在。(n)寬嚴(yán)，這是不言而喻的。(川)嚴(yán)平穩(wěn)+二階矩存在 =寬平穩(wěn)。但反過來一般不成立。(W)對于正

6、態(tài)過程來說，有：嚴(yán)平穩(wěn)寬平穩(wěn)(二) 平穩(wěn)時(shí)間序列自協(xié)方差函數(shù)和自相關(guān)函數(shù)為了敘述方便，常假定平穩(wěn)時(shí)間序列Xt的均值為零，即 E IXJ - 0。用以下記號(hào)表示平穩(wěn)序列Xt的自協(xié)方差函數(shù)，即k=EXt.k-EXtXt-EXtl 當(dāng)EX 二 0時(shí) 二 EXtXt k相應(yīng)地，Xt的自相關(guān)函數(shù)用以下記號(hào)0平穩(wěn)序列Xt的自協(xié)方差函數(shù)列和自相關(guān)函數(shù)列具有以下性質(zhì):(1) 對稱性：k二一幾;(2) 非負(fù)定性：對于任意正整數(shù) m,飛71川h %川IIIIIIIHm-2 山 丫0III1 Pl 川 Pm-J |Pl 1 川 Pm-2 pllllllll III L%iPm-2川 1 .為非負(fù)定對稱方陣;(3)(

7、三) 平穩(wěn)序列的樣本統(tǒng)計(jì)量(1 ) 樣本均值時(shí)間序列無法獲得多重實(shí)現(xiàn)，多數(shù)時(shí)間序列僅包含一次實(shí)現(xiàn)，對于一個(gè)平穩(wěn)序列用時(shí)間均值代替總體均值。即1 nXtn t =i上式的估計(jì)是無偏的。(2) 樣本自協(xié)方差函數(shù)1 nJs_彳二一 Xt X Xt k Xn t j一 n _ - ?Xt-X Xtk-Xn -k tj第一式是有偏估計(jì)，第二式是無偏估計(jì)，但有效性不如第一式。其它概率性質(zhì)和偏自相關(guān)函數(shù)的定義將在以后章節(jié)介紹。四、幾類特殊的隨機(jī)過程(序列)：1、純隨機(jī)過程：隨機(jī)過程如果是由一個(gè)不相關(guān)的隨機(jī)變量的序列構(gòu)成的，則稱其為純隨機(jī)過程。2、白噪聲序列(White noise ):如果時(shí)間序列 Xt滿足

8、以下性質(zhì)：(1) E LX J - 0(2) eXXsIy2、式中，當(dāng)tMs時(shí)，6t,s =OPt,t =1。稱此序列為白噪聲序列，簡稱白噪聲。白噪聲是一種最簡單的平穩(wěn)序列。(3) 獨(dú)立同分布序列： 如果時(shí)間序列Cxt,tT?中的隨機(jī)變量 Xt,t=o, 1, 2,，為相互獨(dú)立的隨機(jī)變 量，而且Xt具有相同的分布，稱這樣的時(shí)間序列:Xt,L T?為獨(dú)立同分布序列。獨(dú)立同分布序列是一種最簡單的嚴(yán)平穩(wěn)序列。一般說，白噪聲序列與獨(dú)立同分布序列是不同的兩種序列，當(dāng)白噪聲序列為正態(tài)序列時(shí)，它也是獨(dú)立 同分布序列，此時(shí)稱之為正態(tài)白噪聲序列。(4) 獨(dú)立增量隨機(jī)過程：對于任意正整數(shù)n,任意ti T i =1

9、,2,川,n,t, ：t2汕1 : tn，隨機(jī)變量 Xt2 -Xt一，Xt3 -Xt2IIXtn -Xt相互獨(dú)立。簡單地講，就是任意兩相鄰時(shí)刻上的隨機(jī)變量之差(增量)是相互獨(dú)立的。(5) 二階矩過程：若隨機(jī)過程 :Xt,r t?對每個(gè)r t, Xt的均值和方差存在，則稱之為二階矩過程。(6)正態(tài)過程：若，Xt,tT的有限維分布都是正態(tài)分布，則稱 Xt ,r Tf為正態(tài)隨機(jī)過程。ARMA )Xt-1 ；主要介紹三種單變量模型：自回歸( AR )模型、移動(dòng)平均(MA )模型和自回歸移動(dòng)平均( 模型。第一節(jié)自回歸模型一、一階自回歸模型 AR(1)如果時(shí)間序列獨(dú)立，就是說事物的后一時(shí)刻的行為主要與其前

10、一時(shí)刻的行為毫無關(guān)系。這樣的資料所 揭示甲統(tǒng)計(jì)規(guī)律就是事物獨(dú)立地隨機(jī)變動(dòng)，系統(tǒng)無記憶能力。如果情況不是這樣，資料之間有一定的依存 性。后一時(shí)刻的行為主要與前一時(shí)刻的行為有關(guān)，而與其前一時(shí)刻以前的行為無直接關(guān)系，即已知Xt主要與Xt-i相關(guān)。用記憶性來說，就是最短的記憶，即一期記憶，也就是一階動(dòng)態(tài)性。描述這種關(guān)系的 數(shù)學(xué)模型就是一階自回歸模型。即Xt = 1X2 a記作AR (1)。其中Xt零均值平穩(wěn)序列，a t為隨機(jī)擾動(dòng)。1、一階自回歸模型的特點(diǎn)Xt對Xt-i有線性相關(guān)關(guān)系a t為獨(dú)立正態(tài)同分布序列E(atXt4) =0, j =1,2,2、AR (1)與普通一元線性回歸的關(guān)系一兀線性回歸Y

11、= + PXj +勺一階自回歸Xt兩個(gè)變量，Y為隨機(jī)變量，X為確定性變量；一個(gè)變量，Xt為隨機(jī)變量；E(勺)=0 ;at為白噪聲序列，E(aJ = 0 ;cov(嚇)=0 i j ；1 CT 2 t = Sa ；0 t s2var(遇)=；cov(X)=0 ;E(atXt_j)=0, j =1,2,；勺 U N(0F2 )還可假定at為正態(tài)分布。主要區(qū)別:(1) 普通線性回歸模型需要一組確定性變量值和相應(yīng)的觀測值；AR( 1)模型只需要一組隨機(jī) 變量的觀測值。(2) 普通一無線性回歸表示的是一隨機(jī)變量對另一個(gè)確定性變量的依存關(guān)系；而AR (1)表示的是一個(gè)隨機(jī)變量對其自身過去值的依存關(guān)系。(3

12、) 普通線性回歸是在靜態(tài)的條件下研究的；AR (1)是在動(dòng)態(tài)的條件下研究的。(4) 二者的假定不同。(5) 普通回歸模型實(shí)質(zhì)是一種條件回歸，而AR (1)是無條件回歸。主要聯(lián)系：固定時(shí)刻t-1，且觀察值Xt-1已知時(shí)，AR (1)就是一個(gè)普通的一元線性回歸。二、AR (1)模型的特例一隨機(jī)游動(dòng)1、隨機(jī)游動(dòng)模型Xtat2、模型的特性(1) 系統(tǒng)具有極強(qiáng)的一期記憶性，系統(tǒng)在t-1和t時(shí)刻的響應(yīng)，除隨機(jī)擾動(dòng)外，完全一致，差異完全是由擾動(dòng)引起的。(2) 在時(shí)刻t-1時(shí)，系統(tǒng)的一步超前預(yù)測就是系統(tǒng)在t-1時(shí)的響應(yīng)Xt-1,即Xt二XtJ。(3) 系統(tǒng)行為是一系列獨(dú)立隨機(jī)變量的和，即Q0Xt = at -

13、jj 三、一般自回歸模型 AR(n)Xt 二 Xt42X2 . ;：nXt at 其中：at 為白噪聲，E( atXJ =0, j =1,2,。第二節(jié)移動(dòng)平均模型一、一階移動(dòng)平均模型 MA (1)如果系統(tǒng)的響應(yīng) Xt僅與其前一時(shí)刻進(jìn)入系統(tǒng)的擾動(dòng)a t存在一定的相關(guān)關(guān)系，則有MA (1)模型：Xt y -響4其中：at為白噪聲。MA (1)模型的基本假設(shè)為：(1)系統(tǒng)的響應(yīng)Xt僅與其前一時(shí)刻進(jìn)入系統(tǒng)的擾動(dòng)a t有一定的依存關(guān)系；(2) at為白噪聲。二、一般移動(dòng)模型MA (m)模型的形式：X t = at - Viat 二-R3t _2-Vmat _m自回歸移動(dòng)平均(ARMA)模型其中：(1)

14、Xt僅與:td，:.t/，t m有關(guān)，而與:t_j (j=m+1,m+2,)無關(guān)；(2) :. t為白噪聲。第三節(jié)、 ARMA (2, 1)模型1、ARMA ( 2, 1)模型的形式：Xt -1Xt 二 2Xt_2 = ： t其中：Xt與Xt、XtN和:t J有相關(guān)關(guān)系，：t白噪聲。2、ARMA (2, 1)模型的結(jié)構(gòu)：ARMA (2, 1)模型是由一個(gè) AR ( 2)和一個(gè)MA (1)兩部分構(gòu)成。3、ARMA (2, 1)與 AR ( 1)的區(qū)別從模型形式看，ARMA (2, 1 )比AR (1)的項(xiàng)數(shù)多；從模型的動(dòng)態(tài)性看，ARMA (2, 1)比AR (1 )具有更長的記憶；從計(jì)算 ：t所

15、需的資料看，ARMA (2, 1)需要用t期以前的:-t j ,:-心,，這需要從初 期開始遞歸地計(jì)算出來，：o通常取零；從參數(shù)估計(jì)來看，ARMA (2, 1)比AR (1)困難。二、ARMA (n, n-1)模型Xt - :XtnXt=-斗1ARMA (n, n-1)模型的基本假設(shè)為：t獨(dú)立于:t j(j=n,n+1,，從而：t獨(dú)立于(j=n+1,n+2,).三、ARMA(n , n-1)模型的合理性為什么我們以ARMA(n , n-1)模型為一般形式來建立時(shí)序模型呢？難道一個(gè)ARMA(n , n-1)模型總可以描述一個(gè)時(shí)間序列嗎？對于平穩(wěn)系統(tǒng)來說，這是毫無疑問的。之所以以ARMA(n ,

16、n-1)為基本模型是因?yàn)橄率隼碛桑旱谝?，AR、MA、ARMA(n , m)模型都是 ARMA(n , n-1)模型的特殊情形。第二，理論依據(jù)：用Hilbert空間線性算子的基本理論可以證明，對于任何平穩(wěn)隨機(jī)系統(tǒng)，我們都可以用一個(gè)ARMA(n , n-1)模型近似到我們想要達(dá)到的程度；用差分方程的理論也可以證明，對于n階自回歸，MA模型的階數(shù)應(yīng)該是 n-1。第三，從連續(xù)系統(tǒng)的離散化過程來看， ARMA(n , n 1)也是合理的。在一個(gè) n階自回歸線性微分方程和任意階的移動(dòng)平均數(shù)的形式下，如果一個(gè)連續(xù)自回歸移動(dòng)平均過程在一致區(qū)間上抽樣，那么，這個(gè)抽樣 過程的結(jié)果是 ARMA(n , n-1)?！?/p>

17、章節(jié)實(shí)驗(yàn)】利用 Eviews軟件生成AR序列、MA序列和ARMA序列。第三章 ARMA模型的特性本章為本書重點(diǎn)之一，主要掌握三類模型的格林函數(shù)形式、平穩(wěn)性和可逆性條件、AFC和PAFC的形式和特點(diǎn)。第一節(jié)線性差分方程一、后移(Backshift)算子:1. 定義：后移算子B定義為BXt，從而BmXt =Xtq。2. 后移算子的性質(zhì)：(1) 常數(shù)的后移算子為常數(shù)：Be二c(2) 分配律：(Bm Bn)Xt 二 BmXt BnXt 二 XtX(3) 結(jié)合律：BmBnXt =Bm(BnX二BmXt=Xtq(4) 后移算子B的逆為前移算子B Xt = Xt 1(5) 對于1，無限求和得(1+他2筆22

18、乜3+.產(chǎn)一1-B前面的MA(m)模型、AR(n)模型和ARMA(n,m)模型可分別表示為：Xt (B)at(B)Xat(B)Xt 7(B)at其中：(B) =1 - JB-訃2-山-;；Bn丁(B) =1 _B_| 寸mBm二、線性差分方程Xt - 1 Xt_1 - 2Xt_ 21(- nXtn = aL1n 2乳川- 二 a t m可將寫成：(B)Xt - J(B)a這里(B) =1 仝iB _ IB2(一 nBn71(B) =1 _ B _ B2 _| -7imBm差分方程通解為：Xt 二C(t) l(t)這里，C (t)是齊次方程解，I是特解。三、齊次方程解的計(jì)算無重根考慮齊次差分方程

19、(B)Xt =0其中(B) =(1-G!B)(1-G2B)川(1-GB)假定Gi, G2,，Gn是互不相同，則在時(shí)刻 t的通解：Xt =AiG； A2G2 111 AGn其中Ai為常數(shù)(可由初始條件確定)。重根 設(shè)(BH0有d個(gè)相等的根G。，可驗(yàn)證通解為Xt =(Ao At -A2tMl| AddtdJ)G0對一般情形，當(dāng)：(B)的因式分解為(1-GB)(1-G2B)IH(1-Gn/B)(1-GoB)dd 4n/齊次方程解便是Ck(t)二GO. AjtjDjG；j =0i=i因此，齊次方程解是由衰減指數(shù)項(xiàng)Gt、多項(xiàng)式tj、衰減正弦項(xiàng)Dtsin(2 n ft+F)，以及這些函數(shù)的組合混合生成的。

20、上述過程中計(jì)算Gi并不方便，通常通過解方程 ，n - / n J - 21 n - =0得到其根為：i,i=1,2,，n。由于， 1 2 -.-n=0的根與1-初-，沙2-川- n B = 0的根互為倒數(shù)，因此j二Gj。非齊次方程的特解通常情況下不容易得到，沒有一個(gè)“萬能鑰匙”，需要具體問題具體分析，只能對一些具有特殊形式非齊次項(xiàng)的方程進(jìn)行討論。此處叢略。第二節(jié) 格林函數(shù)（Green function）和平穩(wěn)性（Stationarity）一、格林函數(shù)（Green function）1、定義：設(shè)零均值平穩(wěn)序列Xt,t =0, 一1,_2,.能夠表示為0(1)Xt 八 Gjatj=0則稱上式為平穩(wěn)

21、序列 Xt的傳遞形式，式中的加權(quán)系數(shù)Gj稱為格林（Green）函數(shù)，其中G。= 1。2、格林函數(shù)的含義：格林函數(shù)是描述系統(tǒng)記憶擾動(dòng)程度的函數(shù)。式（1）可以記為Xt 二 G B at（ 2）cd其中G B八GjBj。j=0Q0式（1）表明具有傳遞形式的平穩(wěn)序列Xt可以由現(xiàn)在時(shí)刻以前的白噪聲通過系統(tǒng)“ G B =x GjBjj=0的作用而生成,Gj是j個(gè)單位時(shí)間以前加入系統(tǒng)的干擾項(xiàng)at_j對現(xiàn)實(shí)響應(yīng)Xt的權(quán)，亦即系統(tǒng)對at_j的“記憶”。AR（1）系統(tǒng)的格林函數(shù)由 AR（ 1）模型t -2+ 1，則Gj隨著j的增大而緩慢減小，表明系統(tǒng)的記憶較 強(qiáng)；相反，若-10,則Gj隨著j的增大而急劇減小，表明

22、系統(tǒng)的記憶較弱.例：下面是參數(shù)分別為0.9、0.1和-0.9的AR( 1)系統(tǒng)對擾動(dòng):.t的記憶情況(三個(gè)序列由同一正態(tài)白噪聲序列模擬生成)6Xt 二 0.1Xt_i atXt 二 0.9Xt j atXt - -0.9Xt4 at比較前后三個(gè)不同參數(shù)的圖，可以看出：(1) ：1取正值時(shí)，響應(yīng)波動(dòng)較平坦。(2) ;：1取負(fù)值時(shí)，響應(yīng)波動(dòng)較大。(3) ：1越大，系統(tǒng)響應(yīng)回到均衡位置的速度越慢，時(shí)間越長。由于Xt Ujat_j =at 工內(nèi)匕印/ 其中：T 一片，因此 AR (1) j 模型可用一個(gè)無限階 MA來逼近，這說明 AR模型是一種長效記憶模型。三、AR系統(tǒng)的平穩(wěn)性1、由平穩(wěn)性的定義求 A

23、R（1）系統(tǒng)的平穩(wěn)性條件將AR（ 1）模型Xt =iXt-at兩邊平方再取數(shù)學(xué)期望，得到E(Xt2) =E( 1X- at)22 2 2=1 E(XJ E(at ) 2 ；E(X2at) 八jE(X：丿匚;如果序列Xt是平穩(wěn)的，則有E(Xt2)= E(X：)，由上式可得(1 -12E Xt2 *a2E(Xt2)2(1 -12)由于E（Xt2）是非負(fù)的，所以_0，從而% 1時(shí)，j, Gj is,任意小的擾動(dòng)只要給定足夠的時(shí)間，就會(huì)使系統(tǒng)響應(yīng)正負(fù)趨于無窮，永遠(yuǎn)不會(huì)回到其均衡位置，這時(shí)系統(tǒng)便是不穩(wěn)定的，當(dāng)然是非平穩(wěn)的。例：求AR (2)模型的平穩(wěn)域2解：特征方程 (，)=- V - 2 = 0的根

24、：2一4打4 21, 2 :2 2i 2 = - 2 ,2=1根據(jù)AR模型的平穩(wěn)性的條件 g|c1(i=1,2)2 =|入入2| 1：2 J = h 2 - T2 =1 - 1 一 j 1- 22- -12-(1 2)=1- 1 1 1 2由于陣黃是實(shí)數(shù)，入，入2必同為實(shí)數(shù)或共軛復(fù)數(shù)，由于人人10因此齢十嘰=1it- hr ii z篤科1=1 -(1 土扎)1土爲(wèi)河為/尼故AR (2)模型的平穩(wěn)域?yàn)槠? 191 )-2丿.j2ARMA (2, 1)模型的格林函數(shù)也可以通過下面的過程求得。根據(jù)Wold分解，平穩(wěn)ARMA (2，1)模型(1- B- 2B2)Xt =(VB)at可以寫成Xt1 -

25、“B1- IB - 2B1 - 1B 1 - 2Bat1- j1 -d丄1 .1 -B 彳 11 1-1 11 九2batIL/S -人2 1 -1B 2 -、1 11 -?BatBjat j2 一 1at_j入7、7 j +1 才11叫一丿1扎2 -仙丿即：G j八：上j I H 2AR(2)為ARMA (2，1)模型的特殊形式，同樣具有上述關(guān)系。例：ARMA (n, n-1)系統(tǒng)的格林函數(shù)與上面方法相同，ARMA (n，n-1)系統(tǒng)的格林函數(shù)的隱式的遞推式為:(1 一 淚一 2B2nBn)Gj =0, j 一 n其中 Go,G1,G 2, Gn_ Gn,由下列式子導(dǎo)出Gn 1 - ，Gn_

26、2- Gn _ 3- ，n_Gi =0-VnGn -iGn _1 - Gn _ R-nG=0 0即（i_ _ B2 -川一 nBn）Gj =0, j _ n其最終解為:Gj =gi 襯 +g2 扎2 +. + gn 爲(wèi)g.=ii -i .（人心 翠嚴(yán).氏4其中：gi g2例：ARMA （ 2, i）系統(tǒng)的平穩(wěn)性條件ARMA （ 2，i）的平穩(wěn)性條件要求：H 匚時(shí),Gj 0 。由Gj=1 + g22得：丸i v i,卷v i，即（人）=九2 一半t丸一半2 = o的根在單位圓內(nèi)。由于ARMA （2, i）的特征方程（ ）=舟.2 _ S 一篤=0和AR（2）和形式一樣（或者說和其移動(dòng)平均項(xiàng)系數(shù)無

27、關(guān)），因此其平穩(wěn)域與 AR（2）系統(tǒng)的平穩(wěn)域相同，都是:.-：- - ii2思考：MA模型的平穩(wěn)性條件。第三節(jié)逆函數(shù)和可逆性（Invertibility ）所謂可逆性（Invertibility）是指移動(dòng)平均模型可以用AR模型表示。一、逆函數(shù)的定義設(shè)Xt是零均值平穩(wěn)序列，如果白噪聲序列at能夠表示為odat - Xt I jXt_jj勻則稱上式為平穩(wěn)序列Xt的逆轉(zhuǎn)形式，式中的加權(quán)系數(shù)lj j =1,2,.稱為逆函數(shù)。二、ARMA模型的逆函數(shù)1、ARMA (n,m)模型逆函數(shù)通用解法對于ARMA (n,m)模型的逆函數(shù)求解模型格林函數(shù)求解方法相同。Q0令 1(B) =1IjXtjl。1，j 1q

28、Q則平穩(wěn)序列Xt的逆轉(zhuǎn)形式at =XtIjXy可表示為jat =I(B)Xt由 ARMA(n,m)模型(B)Xt (B) 可得(B) - v(B)l (B)仍由先前定義的;:*和刁，則上式可化為廣 cd( od!：*Bjr丿比較上式兩邊B的同次幕的系數(shù)，得到j(luò).* _ 4 kjk I -kk=0j即1 j = j 亠二 U 1 j _k , j = 1,2,k#由此I j可從j開始推算出。2、AR模型的逆函數(shù)對于AR( 1)模型 Xt -梯2二at有x 廠 Xtat則其逆函數(shù)h二i, I j 0 , j - 2類似對于 AR ( n)模型 Xt _iXt 4 _2Xt 衛(wèi) _nXt t = a

29、t 有Xt =梯行2X2nXt*t其逆函數(shù)為：丨2八2.InI 0 , j - n 13、MA模型的逆函數(shù)對于MA (1)模型 X(1B)at，則(B) =1， 班B) =1 -弓B，1 一千B I B =1，即1 一可B 1 hB l2B2 =1比較上式兩邊B的同次幕的系數(shù)得I。一1,11 - flj Tlj,j 一2從而有I j _ -1j, j =1,2,.也可以用以下方法求 MA( 1)模型的逆函數(shù)由 Xt = (1 - yB)at 得aXt3t(1-祁)h1 B #B2 . Xt=Xt，jXt_jj呂即 Xt 二 at Y(“1jXt Jj m可見 Ij與AR( 1)討論相類似，上面

30、推導(dǎo)所隱含的可逆性條件為1對于MA (m)模型的可逆性討論與 AR (n)模型平穩(wěn)性的討論是類似的，即：MA( m)模型的可逆性條件為其特征方程Vm-二0Vk ： 1的特征根 V滿足Vk 1F面所講的逆函數(shù)與格林函數(shù)的關(guān)系也作為求逆函數(shù)的一種選擇。三、Gj和lj之間的關(guān)系對于AR（ 1）模型和MA（ 1）模型， 注意到逆函數(shù)l1 二 1lj -Q,j 1I j - 格林函數(shù)AR（ 1）： Gj =叫GoMA （ 1）G1可以看出，AR（ 1）的Gj和MA（ 1）的lj形式一致，只是符號(hào)相反，參數(shù)互換。此對偶性對其它模型仍然存在，如:ARMA （ 2，1）的格林函數(shù)為Gq = 1G =% -日1

31、G2 =G% +巴G =Gj屮 1 +Gj,2, jH3ARMA （ 1，2）的逆函數(shù)為h = 1 -已= * = e -為Jj =lj1 +lj,2,23綜上可知，在格林函數(shù)的表達(dá)式中，用-1 j代替Gj， 代替二，二代替:，即可得到相對應(yīng)的逆函數(shù)。四、關(guān)于ARMA模型平穩(wěn)性與可逆性的說明通過上面的討論可知，AR模型不存在可逆性性條件， MA模型不存在平穩(wěn)性條件。 因此，對于ARMA 模型的平穩(wěn)性條件是針對其 AR系數(shù)而言，可逆性條件是針對其 MA系數(shù)而言。只有同時(shí)滿足平穩(wěn)性可可逆性條件，ARMA模型才是有意義的。第四節(jié)自協(xié)方差函數(shù)、理論自協(xié)方差函數(shù)和自相關(guān)函數(shù)對于ARMA系統(tǒng)來說，設(shè)序列的

32、均值為零，則自協(xié)方差函數(shù)自相關(guān)函數(shù)二、樣本自相關(guān)函數(shù)的計(jì)算在擬合模型之前，我們所有的只是序列的一個(gè)有限樣本數(shù)據(jù)，無法求得理論自相關(guān)函數(shù)，只能求樣本 的自協(xié)方差函數(shù)和自相關(guān)函數(shù)。樣本自協(xié)方差有兩種形式:1彳XtX* k =0,1,2,，N -1N tk + XtXth k =0,1,2,N -1 N -kt土1則相應(yīng)的自相關(guān)函數(shù)為、XtXy?k1 N禮Xi2t dk 1N、Xt2t=1NN -k v Xt2t壬在通常的情況下，我們常采用第一種的計(jì)算方法。三、AR模型的自協(xié)方差函數(shù)和自相關(guān)函數(shù)（1）AR（ 1）模型的自協(xié)方差函數(shù)和自相關(guān)函數(shù)AR（ 1 ）模型為:Xt 二 1X2 at假設(shè)Xt為零均

33、值序列。將上式兩端乘以xt，并取期望，得E XtXz iE XtXgE atXy即：。二 i i 2當(dāng)k=1時(shí)，有E X 兀=1 E 崔1 崔 1E ta X即：1八1 0當(dāng)k=2時(shí)，有E XtXt, -IE X2X2 E atXt,21 1依此類推，便有一般式：1 kJ k 020J相應(yīng)的自相關(guān)函數(shù)為k / 0，即口0 =%/ 0= kl 0=1 k1/ 0、AR (n)模型的自協(xié)方差函數(shù)和自相關(guān)函數(shù)自相關(guān)函數(shù)Xt 二 iXt2X2 IIIpXtat兩邊同乘以 Xt*得到XtXt 二 iXtXt2X2X2川 nXyXtXx取期望，得：(k 0)k 1 k -12 k -2n k n上式兩邊除

34、以0 ，可得差分方程：(k 0)k 1 k -A2 k -2nk-n我們注意到，上式類似于過程Xt自身所滿足的差分方程。假定將上式記為(B) J =0記則差分方程通解:幾二 AG； AzG；AnG：這里，Gi,G2，Gn是特征方程:(B) =1 _ 1B _川-nBn=0的根。為了保證平穩(wěn)性，則要求g 1。在實(shí)際應(yīng)用中，如果假定根是互異的，會(huì)出現(xiàn)兩種情況:1.Gi是實(shí)根，這時(shí)在通解 p k中AiGik隨k增大等比例地衰減到零，我們常稱之為指數(shù)衰減。2. Gi和Gj是一對共軛復(fù)根，導(dǎo)致在通解出現(xiàn):kD sin(2二 fk F)使得自相關(guān)函數(shù)呈衰減的正弦振蕩，衰減系數(shù)D = Gj=Gj，頻率f滿足

35、:2 f 二 cosRe(GJ/D方差：當(dāng)k=0時(shí),021 nV上式兩邊除以 ,-X，并有 k二丄，故方差 匚X可以寫成=111 -；2-111仁四、MA模型的自協(xié)方差函數(shù)和自相關(guān)函數(shù)(1) MA ( 1)模型的自協(xié)方差函數(shù)和自相關(guān)函數(shù)：將MA (1)模型Xt二at -弓色 兩端同乘以Xt*取期望，得E XtXt _k- E atXt_k- -1Eat jXt _kr oo、1=Ea為G j at _k1Ij丿o = i V Wi-平；=k =o, k 一2o -i:?i 二i V2o, k2=送GjE（耳可上）一日i匡GjE（at/at_k）j=0J=0一-G0E atat _k G1E a

36、 t_kat - 二1 GoE （_k ） + GiE （耳at_k/ ）2二E atQ上一 “E印印 心一 ijiat當(dāng)k=0時(shí)，有o = E XtXt=E稠 jE謂jE ag ,2E色孔 七十a(chǎn)當(dāng)k=1時(shí)，有i 二 E XtXtJ2=E atatj -E ata -E 印_冋_1 E atJat=-Q當(dāng)k=2時(shí)，有2 二 E XtXt/2=E atat_ -iE atat； -tE atatn應(yīng)該有kk=O。(1) 偏自相關(guān)性是條件相關(guān)，是在給定Xj，Xj2.,XjJS1的條件下，Xj和Xj上的條件相關(guān)。換名話說，偏自相關(guān)函數(shù)是對 Xj和Xj丄之間未被XjXj/,，Xj 所解釋的相關(guān)的度量

37、。(2) 由最小二乘原理易得， 現(xiàn)嚴(yán)賂,kk是作為Xj關(guān)于Xj，Xj.，Xj線性回歸的回歸系數(shù)。(3) 由(2)可得，對于AR (n)模型，當(dāng)kn時(shí)，=0。(此性質(zhì)用來在 B-J建模過程中，識(shí) 別AR特征)(4) 對于任何平穩(wěn)過程，都可以由Yule-Walker方程定義偏自相關(guān)函數(shù)，當(dāng)然也都是作為自相關(guān)函數(shù)的函數(shù)。六、自回歸和滑動(dòng)平均過程之間的對偶性自回歸和有限滑動(dòng)平均過程之間存在對偶關(guān)系的特征：1. 在一個(gè)n階平穩(wěn)自回歸模型中，at可表示為既往 X的有限加權(quán)和，換言之，Xt可表為既往a的無限加權(quán)和：Xt 二(B)at同樣，在一個(gè) m階滑動(dòng)平均模型中，Xt可表示為既往a的有限加權(quán)和，換言之，a

38、t可表為既往X的無限加 權(quán)和：(B)Xt 二at2. .有限的MA過程具有在某點(diǎn)之外全為零的自相關(guān)函數(shù)，但由于它等價(jià)于一個(gè)無限階的AR過程,因此其偏自相關(guān)函數(shù)無限伸延，且被衰減指數(shù)和(或)衰減正弦波所控制。與此相反，AR過程具有在某點(diǎn)之外全為零的偏自相關(guān)函數(shù)，但是它的自相關(guān)函數(shù)無限伸延，且有衰減指數(shù)和(或)衰減正弦波混合生成。3. 對于一個(gè)有限m階自回歸過程，其參數(shù)不必滿足任何條件就能保證可逆性，然而，為滿足平穩(wěn)性，0 (B)=0的根必須都在單位圓外。與此相反，MA過程的參數(shù)不需要滿足任何條件就能保證平穩(wěn)性，然而，為滿足可逆性，0 (B)=0的根必須都在單位圓外。4. 滑動(dòng)平均過程的譜與對應(yīng)的自回歸過程的譜存在互逆關(guān)系。七、本章小結(jié)零均值時(shí)間序列統(tǒng)計(jì)分析結(jié)果類別模型AR(n)MA(m)ARMA (n ,m)模型方程at =(B)XtXt=8(B)at申(B)Xt=8(B)at平穩(wěn)性條件特征根全在單位圓內(nèi)無條件平穩(wěn)特征根全在單位圓內(nèi)可逆性條件無條件可逆特征根全在單位圓內(nèi)特征根全在單位圓內(nèi)傳遞形式Xt =(B)atXt =8(B)atXt =k(B)e(B)at逆轉(zhuǎn)形式at =(B)Xtat =T(B)Xtat=8(B)砕(B)XtGreen函數(shù)拖尾截尾拖尾逆函數(shù)截尾拖尾拖尾自相關(guān)函數(shù)拖尾截尾拖尾偏相關(guān)函數(shù)截尾（截尾應(yīng)該是快速趨于0）拖尾拖尾自相關(guān)系數(shù)拖