時(shí)間序列分析-第三章滑動(dòng)平均模型和自回歸滑動(dòng)平均模型

1、第三章滑動(dòng)平均模型與滑動(dòng)平均模型與自回歸滑動(dòng)平均模型自回歸滑動(dòng)平均模型本章結(jié)構(gòu)n滑動(dòng)平均模型滑動(dòng)平均模型 nARMA模型模型 3.1 滑動(dòng)平均模型 n 模型引入nMA(q)和MA(q)序列n最小序列nMA(q)系數(shù)的遞推計(jì)算nMA(q)模型舉例q步相關(guān)n平穩(wěn)序列 的自協(xié)方差函數(shù)若滿(mǎn)足 ， ，則稱(chēng) 是q步相關(guān)的。tX0q 0,kkq tX滑動(dòng)平均模型的例子n每隔兩小時(shí)記錄的化學(xué)反應(yīng)數(shù)據(jù)時(shí)間序列 。n一階差分得n 的樣本自相關(guān)系數(shù)列呈現(xiàn)截尾性。 ,1,2,197tX t 1,2,197tttyxxt tyn可以擬合 (1.1) 模型特點(diǎn)是 1步截尾 1,tttYbtZ kMA(q)模型和MA(q)

2、序列n定義1.1 設(shè) 是 ，如果實(shí)數(shù) 使得則稱(chēng) (1.2)是q階滑動(dòng)平均模型，簡(jiǎn)稱(chēng)為MA(q)模型； t2(0,)WN12,(0)qqb bb b 1( )10,| 1,qjjjB zb zz 1,qttjtjjXbtZn稱(chēng)由(1.2)決定的平均序列 是滑動(dòng)平均模型，簡(jiǎn)稱(chēng)為MA(q)序列。n如果進(jìn)一步要求多項(xiàng)式 在單位圓周上也沒(méi)有零點(diǎn)： 當(dāng) ，則稱(chēng)(1.2)是可逆的MA(q)模型，稱(chēng)相應(yīng)的平穩(wěn)時(shí)間序列是可逆的MA(q)序列。tX( )B z0,zB | 1z MA的特征n用推移算子把模型寫(xiě)為 (1.3)對(duì)于可逆MA， 有Taylor 展式所以 (1.4)( ) ,ttXBtZ1( )Bz10(

3、 ),| 1(0)jjjBzzz 10( )ttjtjjBXXMA序列的自協(xié)方差函數(shù)n記 ，則對(duì)MA(q)序列有 ， (1.5) 01b 0tEX 20,0()0,q kjj kjb bk qktt kE X Xkq MA序列的譜密度n定理1.1 MA(q)序列 的自協(xié)方差函數(shù)是q步截尾的： (1.6)并且有譜密度 (1.7)tX20,0,|.qqkbkq221( )|()|, .22qiikkkqfB ee MA(q)序列的充要條件n定理1.3 設(shè)零均值平穩(wěn)序列 有自協(xié)方差函數(shù) ，則 是MA(q)序列的充分必要是tXktX0,0,|.qkkq引理1.2n引理1.2 設(shè)實(shí)常數(shù) 使得 和n則有唯

4、一的實(shí)系數(shù)多項(xiàng)式： (1.8)使得這里 為某個(gè)正常數(shù)。(注： ) jc0qc 1( )0, .2qijjjqgc e 1( )10,| 1,0.qjjqjB zb zzb 22( )|()| .2igB e2jjcc定理1.3的證明n由自協(xié)方差絕對(duì)可和時(shí)譜密度公式得n由引理，n 單位圓內(nèi)沒(méi)有根 1( )2qikkkqfe22( )|()| .2ifB e( )B zn如果 在單位圓上都沒(méi)有根，則可定義 ，用線(xiàn)性濾波的譜密度公式可得 的譜密度是白噪聲譜密度。n單位圓上可能有根的一般情況可以用hilbert空間預(yù)測(cè)的方法證明。( )B z11( )tBX tMA(q)系數(shù)的計(jì)算nMA(q)序列的系

5、數(shù) 及 可以被數(shù) 唯一確定。n可以用文獻(xiàn) 方法計(jì)算模型參數(shù)。12( ,)qb bb201,q5MA(q)系數(shù)的計(jì)算n記 (1.11)01000001000000100000q qA 1100qc 1223111,kkkqqq k 12qqn則有： (1.12)其中 . (1.13)2021(),qTqbA CCC1limTkkkk MA(1)序列n可逆MA(1)n自協(xié)方差和自相關(guān)21,(0,),| 1ttttXbWNb22021(1)0,2kbbk1210,2kbbkn譜密度偏相關(guān)系數(shù)不截尾：逆表示 2222( )|1|(12 cos ), 22ifbebb 2,22() (1),1(1)kk

6、 kkbbakb 0()jttjjbXMA(2)序列n可逆MA(2)n可逆域：1122,ttttXbbtZ12( )10,| 1.B zb zb zz 1212212( ,):( )0,| 1( ,):1,| 1b bB zzb bbbb n自協(xié)方差n自相關(guān)系數(shù)n譜密度222201222(1),bbb2111 2(),0,2kbbbk11 221222221212,0,2.11kbbbbkbbbb22212( )|1|2iifbeb eMA(2)序列的實(shí)際例子nMA(2)的實(shí)際例子：n特征根為 。120.360.85ttttX1.3742971.084652ie2220122111 2222(

7、1)7.4084()2.6643.40,2kbbbbbbk 12(,)( 0.3596,0.4589). 3.2自回歸滑動(dòng)平均模型nARMA(p,q)模型及其平穩(wěn)解nARMA(p,q)序列的自協(xié)方差函數(shù)nARMA(p,q)模型的可識(shí)別性nARMA序列的譜密度和可逆性n例子ARMA模型n定義2.1 設(shè) 是 。實(shí)系數(shù)多項(xiàng)式 和 沒(méi)有公共根。滿(mǎn)足以及： (2.1) t2(0,)WN( )A z( )B z01,0pqba b10( )10,| 1,( )0,|1,pjjjqjjjA za zzB zb zz n就稱(chēng)差分方程： (2.2) 是一個(gè)自回歸滑動(dòng)平均模型，簡(jiǎn)稱(chēng)ARMA(p,q)模型。稱(chēng)滿(mǎn)足(

8、2.2)的平穩(wěn)序列 為平穩(wěn)解或ARMA(p,q)序列。10,.pqtjtjjtjjjXa XbtZtXARMA模型平穩(wěn)解n模型寫(xiě)成 (2.3) 在 解析( 為的所有根)，可以Taylor展開(kāi) (2.4)易見(jiàn) 是線(xiàn)性平穩(wěn)列。 ( )( ) ,ttAXBtZ1( ) ( )Az B z| z1min , jjzz( )A z10( )( ) ( ),|jjjzAz B zzz10(),( ) ( )( )jjttjtjjoAB n兩邊用 作用即 是ARMA(p,q)模型(2.2)的解。( )A 1( )( )( )( )( )tttAAAB ( )t 惟一平穩(wěn)解n反之，若 是(2.2)的一個(gè)平穩(wěn)解

9、，在(2.2)兩邊用 既得n即 (2.6)是ARMA(p,q)模型(2.2)的唯一平穩(wěn)解。 tY1( )A11( ) ( )( ) ( )( )ttttAAYYAB 1( ) ( )( )tttXAB n稱(chēng)(2.6)中的 為 的Word系數(shù)。n定理2.1 由(2.6)定義的平穩(wěn)序列 是ARMA(p,q)模型(2.2)的唯一平穩(wěn)解。jtXtXARMA模型方程的通解n模型(2.2)的任意解可寫(xiě)成 (2.7)其中 為平穩(wěn)解(2.6). 為的全體互不相同的零點(diǎn)。 有重?cái)?shù)隨機(jī)變量 由 唯一決定。( ) 1,10cos(),r jkltttl jjjl jjlYXV ttzZ tX12,kz zz( )A

10、 zjijjze( )r j,l jl jV001111,ppYX YXYXARMA序列的模擬生成n (2.8)n可以據(jù)此模擬ARMA模型：取初值 遞推的當(dāng)m較大時(shí)取后一段 作為ARMA(p,q)模型的模擬數(shù)據(jù)。當(dāng) 有靠近單位圓的根時(shí)m要取得較大( ) 1,10|,r jkltttl jjjlYXVtt (1)100,pYYY10,1,2,pqtjtjjtjjjYa Ybtmn,1,2,tY tmmmn( )A zARMA序列的自協(xié)方差函數(shù)n 可由wold系數(shù)表示： (2.10)由于 由(2.10)可得k20,0,1, 2,kjjkjk (),jjoj (),.jkoj ARMA模型Wold系

11、數(shù)的遞推公式n記 或n由參數(shù) 計(jì)算 時(shí)可以遞推 (2.11)0,0jbj0,1;0,0.jjq bj11() .()TTpppqaaabbbj11,0,1, 2pjjkjkjjbajWold遞推公式的證明n記 。注意 10( )1ppjjjjjjA za zz0000( ) ( )( )pkjkjkjpjkj kjkA zzzzzB zn比較系數(shù)得n即(2.11)成立。0,1pkjkjkbj 1,1pjjjkjjabj可識(shí)別性n我們將證明：由ARMA(p,q)模型的自協(xié)方差函數(shù) 可以決定ARMA(p,q)模型的參數(shù)k2211(,)( ,)TTpqabaa bbn引理2.2 設(shè) 是(2.2)的平

12、穩(wěn)解。如果又有白噪聲和實(shí)系數(shù)多項(xiàng)式 使得成立。則 的階數(shù) 的階數(shù) 。tX( ),( )CD( )( ),ttCXDtZ( )C z,( )p D zqARMA序列的Y-W方程nARMA模型的平穩(wěn)解為所以0tjtjjX()0,0tktEXk（1）n兩邊同乘以 求期望得即t kX10()()()pqtjtktjtkjtjtkjjEXXEXXb EX10010().pqkjkjjtjltkljjlpqjkjjjkjjab EabkZ n當(dāng) 時(shí) 上式為qk0,0,1, .jkjq1,1pkjkjjakqn總之 (2.14)對(duì) 的Y-W方程可以寫(xiě)成矩陣形式： (2.15)2max(0,)2,1,0,qj

13、jkjkpkjkjqjbkqab kqkqkq1111212212qqqqpqqqqpqpqpqpqpaaa n把系數(shù)矩陣記為 ：n只要 可逆則可解出 。,p q,|,1 , 2 ,111212()pqqijijpqqqpqqqpqpqpq,p q1,paa（2）n解出 后令n則 是一個(gè)MA(q)序列。其自協(xié)方差函數(shù)為q步截尾，且1,paa( )( ) ,tttYAXBtZ tY0000()()(), 0yttkppjltjjlppjlkljjlkE Y YEXXtlkq n可以用3.1的方法唯一解出 。n于是，只要 可逆，則ARMA(p,q)序列的自協(xié)方差函數(shù)和ARMA(p,q)模型的參數(shù)

14、相互惟一決定。21,qbb,p q2(,)TTpqabARMA模型中AR部分的參數(shù)求解n定理2.3 設(shè) 為ARMA(p,q)序列 的自協(xié)方差函數(shù)列，則 時(shí) 可逆。證明：用反證法然后由引理2.2導(dǎo)出矛盾。ktXmp,m qn設(shè) 不滿(mǎn)秩。則存在 使得 即 (2.18),()m qm m011(,)0Tm,0.m q100,0,1,1mlqkllkm n注意當(dāng) 時(shí)， 。所以這是 。所以取 有kmqklq 1pqkljqkljja km110011()011(0)pmmlq k lljq k ljlljpmjlqkjljlaakjml n遞推得上式當(dāng) 時(shí)也成立。因此km1100 ,0mqkllk n令

15、 ，則 是零均值平穩(wěn)列，利用可知 的自協(xié)方差 步截尾。 是MA(q-1)序列，存在 使得 與引理2.2矛盾。10mtlt llYX tY1110()0,0mtt q kq klE Y Xk tY1q tY2 (0,)tWNs11100qmtltjljXARMA模型的一個(gè)充分條件n定理2.4 設(shè)零均值平穩(wěn)序列 有自協(xié)方差函數(shù) 。又設(shè)實(shí)數(shù) 使得 滿(mǎn)足最小相位條件，另外 (2.9) 則 是一個(gè)ARMA 序列。其中tXk12,(0)ppa aaa 1( )1pjjjA za z 10,0,.pkjkjjckqakqtX()pq,ppqq定理2.4證明n證明：設(shè) ，則 是零均值平穩(wěn)序列。滿(mǎn)足1()ptt

16、tjtjjYAXXa XB tY10,()0,.pttkkjkjjckqE Y Xakqn所以有說(shuō)明 的自協(xié)方差函數(shù)是q后截尾的。1()()()0,0,.pyttkttkjtkjjkE Y YE YXaXckqkq tYn由定理1.3知道， 為一個(gè)MA(q)序列。即存在單位圓內(nèi)沒(méi)有根的q階實(shí)系數(shù)多項(xiàng)式 使得 和 (2.20)其中 是 tY( )B z0(0)1Bb()() ,tttAXYBtZBB t2(0,).WNn如果 和 沒(méi)有公因子，上述模型就是所需要的ARMA(p,q)模型。否則設(shè)公因子是 ，則有 這是(2.20)變成兩邊乘以 (顯然 也滿(mǎn)足最小相位條件)后得到所需要ARMA 模型：(

17、 )A z( )B z( )C z( )( )( ), ( )( )( )A zC z A z B zC z B z()()()() .ttCAXCBBBBB1()CB( )C z(,)p qn為()()ttAXBBB有理譜密度n由于ARMA序列的 絕對(duì)可和，以及平穩(wěn)解的線(xiàn)性序列表達(dá)式，可得ARMA(p,q)序列(2.6)有譜密度 (2.21)形如(2.21)的譜密度被稱(chēng)為有理譜密度。k222201()2()|22()ikkkiijjijfeBeeAe 可逆的ARMA模型n定義2.2 在ARMA(p,q)模型的定義2.1中，如果進(jìn)一步要求 在單位圓上無(wú)限： (2.22)則稱(chēng)ARMA(p,q)模型(2.2)為可逆的ARMA模型，稱(chēng)相應(yīng)的平穩(wěn)解為可逆的ARMA(p,q)序列。( )B z