時間序列分析-付PPT精選文檔

1、1時間序列分析時間序列分析 付連艷 遼寧大學經濟學院 Email：2教材:應用計量經濟學：時間序列分析 第三版作者：沃爾特恩德斯 出版社：機械工業(yè)出版社3 第一章 差分方程 第二章 平穩(wěn)時間序列模型 第三章 波動性建模 第四章 包含趨勢的模型 第五章 多方程時間序列模型 第六章 協(xié)整與誤差修正模型 第七章 非線性時間序列模型4第一章差分方程5一、時間序列模型 1、時間序列及其特點 時間序列按時間順序的系列觀測值 特點：前后相關，過去的數值影響和 決定著現在和未來。 任務：預測、解釋和假設檢驗 時序分解：趨勢性、季節(jié)性和無規(guī)則性67一、時間序列模型 2、時間序列模型差分方程 A differen

2、ce equation expresses the value of a variable as a function of its own lagged values, time, and other variables. 時間序列研究的是含隨即成分的差分方程的估計 3、幾個例子 (1) 市場有效性假說random walk model yt+1=yt+t+1 要檢驗市場有效性假說，可根據股票價格觀測序列，構建模型： yt+1=0+1yt+t+1 并檢驗假設：H0: 0=1=0. 8一、時間序列模型(2) Samuelson 乘數加速數模型-誘導方程和結構方程模型的結構方程： yt=ct+i

3、t （1-1） ct= yt-1+ct （1-2） it=(ct-ct-1)+it （1-3）模型的誘導方程： ct= yt-1+ct it= (yt-1-yt-2)+(ct- ct-1)+it yt= (1+)yt-1-yt-2+(1+)ct +it-ct-1 9一、時間序列模型(3) 誤差修正：期價與現價關系the unbiased forward rate hypothesis假說：由于投機，期貨交易的期望利潤為0。模型： st+1=ft+t+1假說檢驗方法：建立模型： st+1= 0+1ft+t+1 并檢驗假設： H0: 0=0, 1=1.誤差修正模型（ECM）： st+2= st+1

4、-(st+1-ft)+st+2 10二、差分方程及求解方法 1、差分 yt+h=yt+h-yt 一階差分：yt=yt-yt-1 二階差分：2yt=(yt)=yt-2yt-1+yt-2 n階差分： nyt=(n-1yt) 差分算子： difference operator 11二、差分方程及求解方法 2、線性差分方程 yt=a0+a1yt-1+a2yt-2+anyt-n+xt 或：yt= a0+(a1-1)yt-1+a2yt-2+anyt-n+xt 其中：nthe order of the difference equation; xtforcing process 如： xt= t+ t-1+

5、2 t-2 + 12二、差分方程及求解方法 3、差分方程的解 A solution to a difference equation expresses the value of yt as a function of the elements of the xt sequence and t (and possibly some given values of the yt sequence called initial conditions) . 例如：差分方程： yt=yt-1+2 或： yt=2 其解為： yt=2t+c 驗證：2t+c=2(t-1)+c+213三、差分方程的遞歸解法

6、1、遞歸解法的原理 If the value of y in some specific period is known, a direct method of solution is to iterate forward from that period to obtain the subsequent time path of the entire y sequence. Refer to this known value of y as the initial condition.14三、差分方程的遞歸解法 2、一階差分方程的解 yt=a0+a1yt-1+t 向前迭代：對于給定的初值y0

7、，向前迭代可得： y1=a0+a1y0+1 y2=a0+a1y1+2 =a0+a1(a0+a1y0+1)+2 =a0+a1a0+a12y0+a11+2 101011010tiitittiitayaaay15三、差分方程的遞歸解法 2、一階差分方程的解 yt=a0+a1yt-1+t 向后迭代： yt=a0+a1yt-1+t =a0+a1 (a0+a1yt-2+t-1 )+t =a0(1+a1)+a1t-1+ t+a12(a0+a1yt-3+t-2) = 101011010tiitittiitayaaay16三、差分方程的遞歸解法 3、無初值時的遞歸解 如果沒有初值y0，則可一直持續(xù)向后迭代：11

8、101010101011011010101011010yaaaaayaaaaaayaaayttiititiitiitittiitiitittiit17三、差分方程的遞歸解法 持續(xù)向后迭代m期，得： 若|a1|1，則當m, at+m+10，可得： 這是差分方程的一個解，但不是唯一解。對于任意常數A，一階差分方程的解為：11101010mmtmtiitimtiityaaaay01101iititaaay011011iitittaaaAay18三、差分方程的遞歸解法 4、兩種遞歸解的一致性 如果已知初值y0，代入無初值的遞歸解，得: 解出A，然后代入無初值的遞歸解中，可得： 與向后迭代到初值y0時所

9、得結果相同。011001iiiaaaAy101101010tiititiittaaaayy19三、差分方程的遞歸解法 5、非收斂序列 如果|a1|1，要求解，則必須已知初值y0，有: 此式表明，過去的事件對yt有持久性的影響，而且其影響是越來越大。這一般不太符合現實。101101010tiititiittaaaayy2021四、差分方程解的結構 1、一階差分方程解的結構 一階差分方程：yt=a0+a1yt-1+t 齊次方程(homogeneous equation): yt=a1yt-1 齊次解(homogeneous solution): yth=Aa1t 特解(particular sol

10、ution)通過迭代得到的解稱為特解： 通解(general solution)完整解是齊次解與特解之和：01101iititaaay011011iitittaaaAay22四、差分方程解的結構 2、高階差分方程的推廣 n階差分方程：yt=a0+a1yt-1+anyt-n+t 齊次方程: yt=a1yt-1+anyt-n 齊次解: yth 特解：ytp 通解：yt=yth+ytp23四、差分方程解的結構 3、差分方程求解的步驟 Step1: Form the homogeneous equation and find all n homogeneous solutions; Step 2: F

11、ind a particular solution; Step 3: Obtain the general solution as the sum of the particular solution and a linear combination of all homogeneous solutions; Step 4: Eliminate the arbitrary constant(s) by imposing the initial conditions on the general solution.24四、差分方程解的結構 4、差分方程解的性質 (1) If yth is a h

12、omogeneous solution to a difference equation then Ayth is also a solution for any arbitrary constant A. (2) If y1th and y2th are homogeneous solutions to a difference equation, then for any two constants A1 and A2, the linear combination A1y1th+A2y2th is also a solution to the homogeneous equation.

13、(3) The sum of any particular solution and any linear combination of all homogeneous solutions is also a solution.25五、蛛網模型 1、蛛網模型的結構式 dt=a-pt st=b+pt*+t st=dt 其中pt*為預期價格。假設農民的預期是樸素預期，有： pt*=pt-12627五、蛛網模型 2、長期均衡價格與供給 令t=0，且pt=pt-1=p，則由均衡條件可得： p=(a-b)/(+) , s=(a+b)/(+) 3、模型的簡化式 pt=(-/)pt-1+(a-b)/-t/

14、st=b+pt-1+t28五、蛛網模型 4、價格差分方程的解 (1) 齊次解 齊次方程：pt=(-/)pt-1 齊次解：pth=A(-/)t (2) 特解 如果/1，則需要有初始條件。01iitiptbap29五、蛛網模型 4、價格差分方程的解 (3) 通解 (4) 任意常數的確定 如果給出了初值p0，則代入通解，得： 解出A： tiititAbap010001Abapiii001iiibapA30五、蛛網模型 4、價格差分方程的解 將求出的常數A代入通解，得： 化簡可得： 00011iiitiititbapbapbapbapttiitit010131五、蛛網模型 5、穩(wěn)定性分析 穩(wěn)定性條件：

15、/1/ 6、供給沖擊影響分析 短期影響乘子 即期影響乘子：pt/t=-1/; 一期影響乘子：pt+1/t=(-1/)(-/)= /2; 二期影響乘子： pt+2/t=(-1/)(-/)2= -/3; 長期影響乘子全部短期影響乘子的總和 脈沖響應函數：The time path of all multipliers is called the impulse response function.32六、齊次差分方程的解法(一) 二階齊次差分方程的解二階齊次差分方程：yt-a1yt-1-a2yt-2=0解的形式：yth=At特征方程：2-a1-a2=0特征根：其中：d=a12+4a2，為判別式(d

16、iscriminant)224,1221121daaaa33六、齊次差分方程的解法(一) 二階齊次差分方程的解完整齊次解：1、兩不等實根情形：若d0，則12， yth=A1(1)t+A2(2)t2、重根情形：若d=0，則1=2=a1/2， yth=A1(a1/2)t+A2t(a1/2)t3、復根情形：若d0，則兩特征根為共軛復數： 1,2=a1i(-d)1/2/2，記r=(-a2)1/2, cos=a1/2(-a2)1/2, yth=1rtcos(t+2)3435六、齊次差分方程的解法(二) 二階齊次差分方程的穩(wěn)定性條件穩(wěn)定(stability)收斂(convergence) |1|1, |2

17、|0; 由a1+(a12+4a2)1/2/21可得：a1+a21; 由-1a1-(a12+4a2)1/2/2可得：a2-a11; 因此，在兩不等實根的情形，穩(wěn)定域是(a1,a2)平面中由三條線a12+4a2=0和a1+a2=1及a2-a1=1所圍成的區(qū)域。36六、齊次差分方程的解法(二) 二階齊次差分方程的穩(wěn)定性條件2、重根情形（1=2=a1/2） d=a12+4a2=0； 由|1|=|2| =|a1/2|1, 可得： -2a12; 因此，在重根的情形，穩(wěn)定域是 (a1,a2)平面中曲線a12+4a2=0上-2a12的一段。37六、齊次差分方程的解法 (二) 二階齊次差分方程的穩(wěn)定性條件 3、

18、復根情形： d=a12+4a20; 系統(tǒng)穩(wěn)定要求特征根的模小于1，即： r=(-a2)1/21 由此得：-a2-1 因此，在復根情形，穩(wěn)定域為(a1,a2)平面中曲線a12+4a2=0與直線a2=-1所組成的區(qū)域。383940六、齊次差分方程的解法 (二) 二階齊次差分方程的穩(wěn)定性條件 穩(wěn)定條件的簡潔表示：所有的特征根都在單位圓內。41六、齊次差分方程的解法(三) 高階齊次方程的解及穩(wěn)定性條件1、高階齊次差分方程的解高階齊次差分方程：yt-a1yt-1-anyt-n=0特征方程： n-a1n-1-a2n-2- an=0若n個特征根1,2,n互異，則方程解為： yth=A11t+A22t+Ann

19、t若有mn個根為重根1=m=，則齊次解為： yth=A1t+A2tt+A3t2t+ +Amtm-1t +Am+1tm+1+Annt42六、齊次差分方程的解法(三) 高階齊次方程的解及穩(wěn)定性條件2、穩(wěn)定性條件穩(wěn)定條件的簡明表示：A succinct way to characterize the stability conditions is to state that characteristic roots must lie within the unit circle.必要條件：a1+a2+an1充分條件： |a1|+|a2|+ |an|1如果a1+a2+an=1，則至少有一個單位根。43

20、七推進過程為確定過程的特解 1、xt=0的情形 若推進過程xt=0。則差分方程為： yt=a0+a1yt-1+anyt-n 由于a0是一個常數，所以其特解也應為常數，將嘗試解(trail solution或challenge solution): ytp=c 代入差分方程得： c=a0+a1c+anc，解出c得： c= a0/(1-a1-an) (1) 若a1+a2+an1，則差分方程的特解為： ytp= a0/(1-a1-an)44七、強制過程為確定過程的特解 (2) 若a1+a2+an=1，則yt是一個單位根過程，嘗試解為： ytp=ct 代入差分方程，解出c得： c=a0/(a1+2a2

21、+3a3+nan) 差分方程的特解為: ytp=a0/(a1+2a2+3a3+nan)t 若解ct不合適，即(a1+2a2+3a3+nan)=0，則依次用嘗試解： ytp=ct2，ytp=ct3，45七、強制過程為確定過程的特解 2、xt為指數函數的情形以一階差分方程為例 yt=a0+a1yt-1+bdrt 在此差分方程中，drt的存在，表明yt以r的速度增長，所以其特解的嘗試形式為： ytp=c0+c1drt 將此嘗試解代入差方方程，得： c0+c1drt=a0+a1c0+c1dr(t-1)+bdrt=(a0+a1c0)+(a1c1/dr+b)drt 令等式兩邊對應項相等，解出c0和c1代入

22、嘗試解得： ytp=a0/(1-a1)+bdr/(dr-a1)drt 若a1=1，則嘗試用c0=ct；若a1=dr，則嘗試用c1=bt。 高階差分方程，解法相同。46七、強制過程為確定過程的特解 3、確定性時間趨勢的情形（xt=btd) 差分方程：yt=a0+a1yt-1+anyt-n+btd 由于yt依賴于td, yt-1依賴于(t-1)d, yt-2依賴于(t-2)d,，所以其特解形式為： ytp=c0+c1t+c2t2+cdtd 將此嘗試解代入差分方程，在等式兩邊各項相等的條件下，解出各系數ci的值，代入嘗試解即得所求的特解。47八、待定系數解法 1、解法的原理 由于線性差分方程的解必然

23、是線性的，所以對于給定的線性差分方程，其特解的確切形式通常是已知的，但解中的系數是未知的。因此，將會出現在特解中的所有各項的線性函數作為嘗試解（challenge solution)，代入線性差分方程，然后令等式兩邊各同類項的系數相等，就可解出未知的各系數值。將解出的各系數值代入嘗試解，即可求得差分方程的特解。48八、待定系數解法 2、例子 例1.求一階差分方程yt=a0+a1yt-1+t的特解。 嘗試解： yt=b0+b1t+0t+1t-1+2t-2+ 將嘗試解代入差分方程，令等式兩邊同類項的系數相等，得： b0=(a0-a1b1)/(1-a1) , b1(1-a1)=0 , i=ai, i

24、=0,1,2, (1) 若a11，則必有b1=0，b0=a0/(1-a1)，特解為： ytp=a0/(1-a1)+t+a1t-1+a12t-2+a13t-3+ (2) 若a1=1，則b0為任意常數，b1=a0，特解為： ytp=b0+a0t+t+t-1+t-2+t-3+149八、待定系數解法 3、高階差分方程的特解 （1）二階差分方程的特解 差分方程：yt=a0+a1yt-1+a2yt-2+t 嘗試解: yt=b0+b1t+b2t2+0t+1t-1+2t-2+ 代入：b0+b1t+b2t2+0t+1t-1+2t-2+ = a0+a1b0+b1(t-1)+b2(t-1)2+0t-1+1t-2+2

25、t-3+ +a2b0+b1(t-2)+b2(t-2)2+0t-2+1t-3+2t-4+t 令兩邊同類項系數相等，得： b0=a0+a1b0-a1b1+a1b2+a2b1+a2b0-2a2b1+4a2b2， b1=a1b1-2a1b2+a2b1-4a2b2， b2=a1b2+a2b2 0=1，1=a10，j=a1j-1+a2j-2，j2.50八、待定系數解法 （1）二階差分方程的特解 解這些方程式得： b1=-2b2(a1+2a2)/(1-a1-a2) b2(1-a1-a2)=0 b0=a0-a1 (b1-b2)-2a2(b1-2b2)/(1-a1-a2) 0=1，1=a1，2=a12+a2，3

26、=a13+2a1a2， 若a1+a21，則有b2=0, b1=0, b0=a0/(1-a1-a2)： yt=a0/(1-a1-a2)+t+1t-1+2t-2+51八、待定系數解法 （1）二階差分方程的特解 若a1+a2=1，則又可分兩種情況： () 若a1+2a20，則有b2=0，b1=a0/(a1+2a2)， b0為任意常數，二階差分方程的特解為： yt=b0+a0/(a1+2a2)t+t+1t-1+2t-2+ () 若a1+2a2=0，則b2=-a0/(a1+4a2)，b1和b0為任意常數，二階差分方程的特解為： yt=b0+b1t+-a0/(a1+4a2)t2+t+1t-1+2t-2+5

27、2八、待定系數法 (2) 高階差分方程特解收斂的條件 The key point is that the stability condition for the homogeneous equation is precisely the condition for convergence of the particular solution. If any characteristic root of the homogeneous equation is equal to unity, a polynomial time trend will appear in the particular

28、 solution. The order of the polynomial is the number of unitary characteristic roots.53九、滯后算子 1、滯后算子的定義及其性質 (1) 定義：Liyt=yt-i (2) 性質 常數的滯后仍是其本身，Lc=c. 分配律: (Li+Lj)yt=Liyt+Ljyt 結合律: LiLjyt=Li+jyt L的負指數為向前算子: L-iyt=yt+i 若|a|1,則無窮和: 1+(aL)-1+(aL)-2+(aL)-3+yt=-aLyt/(1-aL) 即: yt/(1-aL)=-(aL)-11+(aL)-1+(aL)

29、-2+(aL)-3+yt54九、滯后算子 2、滯后算子的作用 (1) 簡明表示差分方程 例1、對于p階差分方程 yt=a0+a1yt-1+a2yt-2+apyt-p+t 使用滯后算子，有： (1-a1L-a2L2-apLp)yt=a0+t 或更簡潔地表示為：A(L)yt=a0+t 例2、對于差分方程： yt=a0+a1yt-1+a2yt-2+apyt-p+t+1t-1+qt-q 使用滯后算子，得： A(L)yt=a0+B(L)t55九、滯后算子 (2) 用滯后算子解差分方程 例1、對于一階差分方程yt=a0+a1yt-1+t，有： (1-a1L)yt=a0+t 解出yt，得：yt=(a0+t)

30、/(1-a1L) 若|a1|1，則： yt=-(a1L)-11+(a1L)-1+(a1L)-2+(a0+t) =-a0a1-1(1+a1-1+a1-2+)-(a1L)-11+(a1L)-1+(a1L)-2+t =-(a0/a1)1/(1-a1-1)-(1/a1)1+(a1L)-1+(a1L)-2+t+1 =a0/(1-a1)-(1/a1)(t+1+a1-1t+2+a1-2t+3+a1-3t+4+)這種解稱為差分方程的前瞻解(forward-looking solution).56九、滯后算子 3、高階差分方程中滯后算子應用 使用滯后算子，不僅可以簡明地表示高階差分方程，而且也可以簡明地表示差分

31、方程的解。如對于p階差分方程： yt=a0+a1yt-1+a2yt-2+apyt-p+t 其解可以表示為： yt=(a0+t)/(1-a1L-a2L2-a3L3-apLp) 其中，1-a1L-a2L2-a3L3-apLp又稱為差分方程的逆特征多項式，方程1-a1L-a2L2-a3L3-apLp=0又稱為差分方程的逆特征方程(inverse characteristic equation)。 差分方程的穩(wěn)定性條件又可表述為：逆特征方程的根都在單位圓外。57第二章平穩(wěn)時間序列模型58一、隨機差分方程模型 1、隨機過程(stochastic process) (1) 隨機過程的定義 由隨機變量組成的

32、一個有序序列，稱為隨機過程，記為y(s,t),sS,tT.對于每一個t，tT，y(,t)是樣本空間S中的一個隨機變量；對于每一個s，sS，y(s, )是隨機過程在序數集T中的一次實現。隨機過程通常簡記為yt或yt。59一、隨機差分方程模型 (2) 隨機過程的分類 離散時間隨機過程如果T是一個可數集，特別是整數集，t只取整數t=0, 1, 2, ，也稱為隨機序列。 連續(xù)時間隨機過程如果T是一個連續(xù)統(tǒng)。60一、隨機差分方程模型 (3) 有窮維分布族 隨機過程是一族隨機變量，其概率分布可以用一族分布函數來表示，這一族分布函數就稱為分布函數族。 一維分布函數族：F1(ytr)=P(ytr). 二維分布

33、函數族：F2(yt1,yt2)=P(yt1r1,yt2r2). n維分布函數族：Fn(yt1,ytn)=P(yt1r1,ytnrn)61一、隨機差分方程模型 (4) 隨機過程的特征指標 均值函數 t=E(yt)=Et(yt|yt,yt-1,y1) 自協(xié)方差函數 (t,s)=Cov(yt,ys)=E(yt-t)(ys-s) 自相關函數 (t,s)=(t,s)/(t,t)(s,s)1/2 62一、隨機差分方程模型 2、時間序列及其模型 (1) 定義：對隨機過程的順序觀測所形成的有序觀測值序列，就稱為時間序列，記為y0,y1,y2,yt。一個時間序列可看作是隨機過程的一次實現，即一個樣本；而產生時間

34、序列的隨機過程則稱為時間序列的數據生成過程(data generating process)。 (2) 時間序列數據的特點：時間序列是來自隨機過程的一個樣本，其前后數值具有相關性，過去決定或影響著現在與未來。研究時間序列，實質上是要了解其數據生成過程的特征和變化規(guī)律。63一、隨機差分方程模型 2、時間序列及其模型 (3) 時間序列模型隨機差分方程模型 由于時間序列是一個隨機變量序列，變量的過去值影響或決定著現在，所以可以用隨機差分方程來對其進行描述。如：中央銀行的貨幣供給模型： mt=(1.03)tm0*+(1-)mt-1+t 式中t通常假設為白噪聲過程，其均值為0，方差為2，且前后各期互不相

35、關。即有： E(t)=E(t-1)=0; Var(t)=Var(t-1)=2; Cov(t,t-s)=Cov(r-j,t-j-s)=0，對于所有s與j。64二、ARMA模型 1、ARMA模型的形式 一般來說，一個變量的現在取值，不僅受其本身過去值的影響，而且也受現在和過去各種隨機因素沖擊的影響，因此可建立其數據生成模型為： yt=a0+a1yt-1+a2yt-2+apyt-p+t+1t-1+qt-q 如果該模型的特征根都在單位圓內，則該模型就稱為ARMA(p,q)模型。 如果q=0，則該模型退化為： yt=a0+a1yt-1+a2yt-2+apyt-p+t 稱為p階自回歸模型，記作AR(p)。

36、 如果p=0，則該模型退化為： yt=a0+t+1t-1+qt-q 稱為q階移動平均模型，記作MA(q)。65二、ARMA模型 2、ARIMA模型 (1) 差分與和分 對于一個變量序列yt，若記其差分(difference)為： yt=yt-yt-1 則原變量序列就可用其差分表示為： yt=yt+yt-1+yt-2+y1+y0 即原變量序列yt可用其差分之和表示，因此稱為和分(integration)。66二、ARMA模型 2、ARIMA模型 (2) ARIMA模型的形式 如果用變量yt本身的水平值建立的ARMA模型的特征方程有單位根，則需要先將yt差分后再建立ARMA模型，即： yt=a0+

37、a1 yt-1+ap yt-p+t+1t-1+qt-q 該模型就稱為ARIMA(p,1,q)模型。如果變量yt的水平值ARMA模型的特征方程中有d個特征根，則需要先將變量序列yt差分d次，然后再建立ARMA模型，即： dyt=a0+a1dyt-1+apdyt-p+t+1t-1+qt-q 則該模型稱為階數分別為(p,d,q)的自回歸和分移動平均模型，記為ARIMA(p,d,q)。 67二、ARMA模型 3、ARMA模型的移動平均表示 對于一階自回歸模型:yt=a0+a1yt-1+t，求特解得移動平均表達式為： yt=a0/(1-a1)+t+a1t-1+a12t-2+a13t-3+ 對于一般ARM

38、A(p,q)模型： yt=a0+a1yt-1+apyt-p+t+1t-1+qt-q 求特解則得移動平均表達式為： yt=(a0+t+1t-1+qt-q)/(1-a1L-a2L2-apLp)68二、ARMA模型 4、穩(wěn)定性條件 ARMA(p,q)模型的移動平均表示是一個無限階的移動平均過程MA()，該無窮序列是否收斂決定了原隨機差分方程是否穩(wěn)定。因此穩(wěn)定性條件可表示為： The stability condition is that the roots of the polynomial (1-a1L-a2L2-apLp) must lie outside of the unit circle.

39、 即：ARMA模型的逆特征方程的根都必須在單位圓外。69三、時間序列的平穩(wěn)性 1、平穩(wěn)性的定義 (1) 嚴平穩(wěn)過程：如果一個隨機過程的有窮維分布函數族不隨時間的推移而改變，即對于任意正整數n和任意的t1,t1,tnT及實數，當t1+,t2+,tn+T時，都有： Fn(yt1+,yt2+,ytn+)=Fn(yt1,yt2,ytn) 則稱此隨機過程為嚴平穩(wěn)過程或狹義平穩(wěn)過程(strongly stationary process)。70三、時間序列的平穩(wěn)性 1、平穩(wěn)性的定義 (2) 寬平穩(wěn)過程：如果隨機過程yt存在有窮的二階矩，且均值和方差為常數，自協(xié)方差函數只與兩時點的間隔長度有關，而與兩時點的

40、位置無關，即有： E(yt)= Var(yt)=E(yt-)2=2 Cov(yt,yt-s)=E(yt-)(yt-s-)=s 則稱此隨機過程為寬平穩(wěn)過程或二階矩過程或廣義平穩(wěn)過程(widesense stationary process)。71三、時間序列的平穩(wěn)性 1、平穩(wěn)性的定義 (3) 嚴平穩(wěn)過程與寬平穩(wěn)過程的關系 寬平穩(wěn)要求隨機過程的前二階矩平穩(wěn)。一般來說，分布的前二階矩不能決定整個分布函數，所以廣義平穩(wěn)不能保證狹義平穩(wěn)。 嚴平穩(wěn)要求整個分布函數平穩(wěn)，但并不要求前二階矩存在，所以是嚴平穩(wěn)也未必就是寬平穩(wěn)。只有前二階矩存在的嚴平穩(wěn)過程才一定是寬平穩(wěn)過程。 由于正態(tài)分布的分布函數完全由前二階

41、矩決定，所以正態(tài)隨機過程如果是寬平穩(wěn)的，那么必定也是嚴平穩(wěn)的。72三、時間序列的平穩(wěn)性 2、平穩(wěn)過程的自協(xié)方差與自相關函數 (1) 自協(xié)方差與自相關函數的計算 自協(xié)方差：s=Cov(yt,yt-s)=E(yt-)(yt-s-) 稱為s階自協(xié)方差函數。顯然，0階自協(xié)方差函數為yt的方差：0=E(yt-)2=y2 自相關函數：s=s/0 稱為s階自相關函數。顯然，0階自相關函數等于1，有0=1。73三、時間序列的平穩(wěn)性 2、平穩(wěn)過程的自協(xié)方差與自相關函數 (2) 自協(xié)方差與自相關函數的性質 對稱性： s= -s， s= -s ； 非負定性，即由自協(xié)方差或自相關函數組成的矩陣是非負定矩陣。 |s|

42、0，|s|1。74三、時間序列的平穩(wěn)性 3、平穩(wěn)性的意義 平穩(wěn)過程一般都具有遍歷性(ergodicity)，即可用時間平均去估計空間平均。 遍歷性：假設a為隨機過程yt的某一參數或特征指標，若由樣本函數構成的估計量，使得當t時，有： limE|-a|2=0 即有： plim=a 則稱序列yt關于a具有均方遍歷性，簡稱遍歷性。75三、時間序列的平穩(wěn)性 4、AR(1)過程平穩(wěn)性的條件 對于AR(1)過程：yt=a0+a1yt-1+t 假設過程從0時期開始，初值為y0，則其遞歸解為： 或其通解為： 取期望，得： 或： 這表明yt的均值隨時間變化，序列yt是非平穩(wěn)的。 101011010tiititt

43、iitayaaay011010yaaaEyttiit ttaAaaEy1101tiititaAaaay10110176三、時間序列的平穩(wěn)性 4、AR(1)過程平穩(wěn)性的條件 但是，如果|a1|0，則當t時，有： 其期望和方差及協(xié)方差函數分別為： Eyt=a0/(1-a1)= E(yt-)2=E(t+a1t-1+a12t-2+) =2(1+a12+a14+)=2/(1-a12) E(yt-)(yt-s-)=E(t+a1t-1+a12t-2+)(t-s+a1t-s-1 +a12t-s-2+)=2a1s/(1-a12) 由此可見，在極限的情形序列yt是平穩(wěn)的。 01101limiitittaaay77

44、三、時間序列的平穩(wěn)性 4、AR(1)過程平穩(wěn)性的條件 綜上所述，AR(1)過程平穩(wěn)性的條件可總結為： (1) The homogeneous solution must be zero. Either the sequence must have started infinitely far in the past or the process must always be in equilibrium (so that the arbitrary constant is zero). (2) The characteristic root a1 must be less than unity

45、 in absolute value. 此平穩(wěn)性條件也可簡單地概括為：AR(1)方程的齊次解必須為0。78四、ARMA(p,q)模型的平穩(wěn)性 1、ARMA(2,1)的平穩(wěn)性 對于ARMA(2,1),簡化掉不影響平穩(wěn)性的截距項,有： yt=a1yt-1+a2yt-2+t+1t-1 使用待定系數法，得其移動平均表示或特解為： yt=0t+1t-1+2t-2+3t-3+ 其中：0=1，2=a10+，3=a12+a21， i=a1i-1+a2i-2，i2. 由特解計算yt的均值和方差及協(xié)方差分別為： Eyt=0；Var(yt)=2(02+12+22+32+) Cov(yt,yt-s)=2(s+s+11

46、+s+22+s+33+) 可見，只有i序列收斂，yt才具有平穩(wěn)性，這就要求ARMA(2,1)模型的特征根都在單位圓內。79四、ARMA(p,q)模型的平穩(wěn)性 2、MA(q)的平穩(wěn)性 先考慮無限階MA()過程，MA()過程的表達式為： xt=t+1t-1+2t-2 +3t-3 +4t-4+ 計算其均值和方差及協(xié)方差分別為： Ext=E(t+1t-1+2t-2 +3t-3 + )=0； Var(xt)=2(02+ 12+ 22+32+) Cov(xt,xt-s)=2(s+s+1 1+s+22+ s+33+) 由此可見，平穩(wěn)性的充分必要條件為： (1) 02+ 12+ 22+32+ (2) s+s+

47、1 1+s+22+ s+33+ 由于0=1且s可取0,1,2等值，所以條件2包含了條件1。 由此條件可知，任何有限階MA(q)過程都是平穩(wěn)的。80四、ARMA(p,q)模型的平穩(wěn)性 3、AR(p)的平穩(wěn)性 p階自回歸模型AR(p)過程的表達式為： yt=a0+a1yt-1+a2yt-2+apyt-p+t 如果模型的特征根都在單位圓內，則其特解為： yt=a0/(1-a1-ap)+0t+1t-1+2t-2+3t-3+ 其中： i-a1i-1-a2i-2-app=0 計算其均值和方差及協(xié)方差分別為： Eyt=a0/(1-a1-a2-ap)； Var(yt)=2(02+12+22+32+ Cov(y

48、t,yt-s)=2(s+s+11+s+22+s+33+) 由此可見，只有i序列收斂，yt才具有平穩(wěn)性，這就要求AR(p)模型的特征根都在單位圓內。81四、ARMA(p,q)模型的平穩(wěn)性 4、一般ARMA(p,q)過程的平穩(wěn)性條件 一般自回歸移動平均模型ARMA(p,q)過程的表達式為： yt=a0+a1yt-1+a2yt-2+apyt-p+t+1t-1+2t-2 +qt-q 如果模型AR部分和MA部分都是平穩(wěn)的，則該過程就是平穩(wěn)的。由此可得結論為： 由于MA部分是有限階，其本身是平穩(wěn)的，所以ARMA(p,q)過程的平穩(wěn)性完全取決于AR部分的平穩(wěn)性。只要AR部分的特征根都在單位圓內，或者逆特征方

49、程1-a1L-a2L2-apLP=0的根都在單位圓外，ARMA(p,q)過程就是平穩(wěn)的。82五、自相關函數(ACF) 1、AR(1)過程的自相關函數 對于AR(1)過程：yt=a0+a1yt-1+t ，其移動平均表示： yt=a0/(1-a1)+t+a1t-1+a12t-2+ 由此可計算出其均值和方差及協(xié)方差分別為： Eyt=a0/(1-a1) 0=Var(yt)=E(t+a1t-1+a12t-2+)2=2/(1-a12) s=Cov(yt,yt-s)=E(t+a1t-1+)(t-s+ )=2a1s/(1-a12) 由方差和協(xié)方差得自相關函數：s=a1s 由于|a1|1。所以上述式子可得Yul

50、e-Walker方程： 0=a11+a22+2 1=a10+a21 s=a1s-1+a2s-2 ，s0. 將此差分方程兩邊同除以0，得自相關函數式為： s=a1s-1+a2s-2 ，s0. 記此差分方程的兩個特征根分別為1和2，則有： s=A11s+A22s，s0. 由于1和2 均小于1，所以ACF指數衰減收斂于0。85五、自相關函數(ACF) 3、MA(1)過程的自相關函數 對于MA(1)過程：yt=t+t-1，有： =Eyt=0 0=Eyt2=E(t+t-1)2=(1+2)2 1=Eytyt-1=E(t+t-1)(t-1+t-2)=2 s=Eytyt-s=E(t+t-1)(t-s+t-s-

51、1)=0 于是有： 1=/(1+2)；s=0，s1。 這表明MA(1)過程的ACF只有前兩階不為0，二階及以后各階全為0，是1階截尾的。86五、自相關函數(ACF) 4、ARMA(1,1)過程的自相關函數 對于ARMA(1,1)過程，假設Eyt=0，則a0=0，模型為： yt=a1yt-1+t+1t-1 使用Yule-Walker方法，得： Eytyt-s=a1Eytyt-s-1+Etyt-s+1Et-1yt-s , s=0,1,2, 由此得：0=a11+2+1(a1+1)2 1=a10+12 s=a1s-1 , s1. 由前兩式得： 0=(1+12+2a11)2/(1-a12) 1=(1+a

52、11)(a1+1)2/(1-a12)87五、自相關函數(ACF) 4、ARMA(1,1)過程的自相關函數 用0去除各i，得各階自相關函數 1=(1+a11)(a1+1)/(1+12+2a11) s=a1s-1，s1。 由于差分方程s=a1s-1的特征根為a1，所以其解為： s=Aa1s , s1. 這表明ARMA(1,1)過程的ACF從第2階起遵循指數函數變化模式，以指數方式衰減，是拖尾的。88五、自相關函數(ACF) 5、ARMA(p,q)過程的自相關函數 對于ARMA(p,q)過程，假設Eyt=0，則a0=0，模型為： yt=a1yt-1+a2yt-2+apyt-p+t+1t-1+qt-q

53、 使用Yule-Walker方法，得： Eytyt-s=a1Eytyt-s-1+Eyt-pyt-s +Etyt-s+1Et-1yt-s+qEt-qyt-s, s=0,1,2, 由于當sk時，Et-kyt-s=0，所以當sq時，有 ： s=a1s-1+a2s-2+aps-p , sq. 這表明在q階以后，ARMA(p,q)過程的自協(xié)方差函數完全由此p階差分方程控制。89五、自相關函數(ACF) 5、ARMA(p,q)過程的自相關函數 用0除此方程的兩邊，得自相關函數的差分方程為： s=a1s-1+a2s-2+aps-p ，sq。 若記此差分方程的p個特征根為1, 2, , p，則其解為(假設各特

54、征根互異）： s=A11s+A22s+Apps , sq. 若將q,q-1,q-p+1作為初值代入求出待定常數A1, A2, , Ap，則有： s=A11s+A22s+Apps , sq-p. 這表明，若q-pp時，所有ss=0。這表明AR(p)過程的PACF是p階截尾的。94六、偏相關函數(PACF) 3、ARMA過程的偏相關函數 (2) MA過程的PACF 對于MA(1)過程：yt=t+t-1，有： (1+L)-1yt=t 即：yt=yt-1-2yt-2+3yt-3-4yt-4+t 這表明MA(1)過程的PACF是指數衰減的，具有拖尾的性質。 對于MA(q)過程，也有類似的結論，即MA(q

55、)過程的PACF也具有拖尾的性質。 95六、偏相關函數(PACF) 3、ARMA過程的偏相關函數 (3) ARMA過程的PACF ARMA(p,q)過程的PACF在p階以后完全由MA(q)部分決定，所以其p階以后的PACF以指數方式衰減，也具有拖尾的性質。 過程 ACF PACF AR(p) 拖尾 p階截尾 MA(q) q階截尾 拖尾 ARMA(p,q) 拖尾 拖尾96七、平穩(wěn)過程的樣本自相關函數 1、樣本自相關系數與偏相關系數的計算 由于平穩(wěn)過程一般具有遍歷性，可用時間平均去估計空間平均，所以可以根據時間序列樣本估計其數據生成過程的均值、方差、協(xié)方差、自相關系數和偏相關系數。 =yt的s階樣

56、本自回歸方程中yt-s的系數TtTststtsssTststtssTttTttyyyyyyccryyyyTcyyTsyTy1210112221111ss97七、平穩(wěn)過程的樣本自相關函數 2、自相關系數的假設檢驗 假設yt是正態(tài)平穩(wěn)過程，則樣本自相關系數的方差為： 關于自相關函數，常用的假設檢驗有： (1)檢驗假設 H0: s=0 在此假設下，有： rsN0, Var(rs) 檢驗統(tǒng)計量：z=rs/Var(rs)1/2N(0,1) 若|z|z/2，則拒絕原假設，認為s階自相關系數不為0。 1,211,11211srTsTrVarsjjs98七、平穩(wěn)過程的樣本自相關函數 2、自相關系數的假設檢驗

57、(2)檢驗假設 H0: 1=2=s=0 檢驗統(tǒng)計量為： Box-Pierce統(tǒng)計量 Ljung-Pierce統(tǒng)計量 srTQskk212 skTrTTQsks212299七、平穩(wěn)過程的樣本自相關函數 3、偏相關系數的假設檢驗 假設yt是正態(tài)AR(p)平穩(wěn)過程，則樣本偏相關系數的方差為： 檢驗假設 H0: pp=0 檢驗統(tǒng)計量： .,1psTVarss1 ,01NTzss100七、平穩(wěn)過程的樣本自相關函數 4、模型選擇的準則 (1) 常用的選擇準則 AIC=Tln(sum of squared residuals)+2n SBC=Tln(sum of squared residuals)+nln

58、(T) 選擇AIC和SBC值最小的ARMA模型。 (2) 選擇準則構造的原理 每增加一階滯后，雖然會減少殘差平方和，但是也會減少自由度，并使預測增加估計參數得著誤差影響。所以是否增加滯后，需要在這二者之間進行權衡。平衡點：邊際收益=邊際成本101七、平穩(wěn)過程的樣本自相關函數 5、模型的估計方法 (1) AR模型的估計 估計AR模型可直接用OLS方法 (2) ARMA模型的估計 估計ARMA模型用極大似然估計方法 條件極大似然估計 無條件極大似然估計102八、Box-Jenkins 建模方法 1、Box-Jenkins方法步驟 (1) 模型識別(identification stage) 作時序

59、圖，判斷時間序列有無趨勢、異常點、缺失點和結構變化。如存在趨勢，則需進行差分；異常點等也需處理。 作樣本ACF相關圖和PACF偏相關圖，與理論ARMA模型的ACF和PACF圖進行比較，選擇可能合適的模型。 使用ACF和PACF的基礎是序列具有平穩(wěn)性和可逆性。 平穩(wěn)性寬平穩(wěn)，AR部分的特征根都在單位圓內。 可逆性序列可以用有限階或無限階收斂自回歸模型表示，條件：MA部分的特征根都在單位圓內。103八、Box-Jenkins建模方法 1、Box-Jenkins方法步驟 (2) 模型估計與選擇(estimation stage) 使用某種合適的方法估計所選出的各個模型。 按照吝嗇原則(princip

60、le of parsimony)在所估計出的模型中選出最終使用的模型。 模型選擇的準則：AIC和SBC 注意：公因子問題(common factor problem)模型的AR部分與MA部分不應有共同的因子。104八、Box-Jenkins建模方法 1、Box-Jenkins方法步驟 (3) 模型的診斷檢驗(diagnostic checking) 殘差序列自相關性檢驗 檢驗的原假設：模型殘差為白噪聲 檢驗統(tǒng)計量Ljung-Pierce統(tǒng)計量 結構變動檢驗 檢驗的原假設：序列無結構變化 檢驗統(tǒng)計量F統(tǒng)計量12212qpskTrTTQsks105八、Box-Jenkins建模方法 2、例子 (1