chap 3 平穩(wěn)時間序列分析

1、1第三章平穩(wěn)時間序列分析2本章結(jié)構(gòu)n平穩(wěn)隨機過程與非平穩(wěn)隨機過程nAR(1)和AR(n)nMA(1)和MA(n)nARMA33.1 平穩(wěn)隨機與非平穩(wěn)隨機過程n隨機變量和隨機過程n平穩(wěn)隨機過程n非平穩(wěn)隨機過程4隨機過程（S.P）TtTtn定義1：（從時間變化角度來考慮）若對每一個特定的 （T是一個無窮集合，參數(shù)集），X(t)是一個隨機變量，則稱這一族無窮多個隨機變量X(t), 是一個隨機過程。n定義2：（從試驗結(jié)果來看）若對事物變化的全過程進(jìn)行一次觀測，得到的結(jié)果是關(guān)于時間t的一個函數(shù)。但對同一事物的變化過程獨立地重復(fù)進(jìn)行多次觀測，所得的結(jié)果是不相同的，則稱這種變化過程為隨機過程。5SeTtn定

2、義3：設(shè)E是隨機實驗，S是它的樣本空間，如果對于每一個 我們總可以依某種規(guī)則確定一時間t的函數(shù)X(e,t)， 與之對應(yīng)，因此對所有的 來說，得到一族時間t的函數(shù)，我們稱這族時間t的函數(shù)為隨機過程，每一個函數(shù)為這個隨機過程的樣本函數(shù)（一次實現(xiàn)）。Se6R.V與S.P的區(qū)別與聯(lián)系n區(qū)別： 1）單值實函數(shù) 函數(shù)簇 2）t 無關(guān) 有關(guān) 3）靜態(tài) 動態(tài)n聯(lián)系 1）包含關(guān)系 2）特例 3）t固定 R.V=S.P7平穩(wěn)S.Pn純隨機過程-白噪聲n獨立增量隨機過程n二階矩過程n正態(tài)過程n嚴(yán)平穩(wěn)過程8嚴(yán)平穩(wěn)與寬平穩(wěn)關(guān)系n嚴(yán) 寬n寬 嚴(yán)n嚴(yán)+二階矩存在 寬n正態(tài)過程 嚴(yán) 寬9非平穩(wěn)S.Pn自相關(guān) 比如回歸模型：n

3、動態(tài)性 系統(tǒng)的記憶性 神經(jīng)系統(tǒng)神經(jīng)系統(tǒng)10113.2 AR(1)和AR(n)nAR模型（Auto Regression Model） AR(1): 其中X(t)為零均值平穩(wěn)序列； 為X_t對X_t-1的依賴程序； 為隨機擾動。本質(zhì)：獨立數(shù)據(jù)變化器。 12AR(p)n具有如下結(jié)構(gòu)的模型稱為 階自回歸模型，簡記為n特別當(dāng) 時，稱為中心化 模型tsExtsEVarExxxxtsstttptptpttt, 0, 0)(,)(0)(0222110，p)(pAR00)(pAR13 AR(P)序列中心化變換n稱 為 的中心化序列 ，令p101ttxytytx14自回歸系數(shù)多項式n引進(jìn)延遲算子，中心化 模型又

4、可以簡記為 n自回歸系數(shù)多項式(特征多項式特征多項式)(pARttxB)(ppBBBB2211)(15線性差分方程 n線性差分方程n齊次線性差分方程)(2211thzazazazptpttt02211ptptttzazazaz16齊次線性差分方程的解n特征方程n特征方程的根稱為特征根，記作n齊次線性差分方程的通解n不相等實數(shù)根場合n有相等實根場合n復(fù)根場合02211ppppaaap,21tpptttcccz2211tpptddtddtcctctccz111121)(tpptititttccececrz3321)(17非齊次線性差分方程的解 n非齊次線性差分方程的特解n使得非齊次線性差分方程成立

5、的任意一個解n非齊次線性差分方程的通解n齊次線性差分方程的通解和非齊次線性差分方程的特解之和tttzzz tz )(2211thzazazazptpttt tz18n例3.1 解差分方程 .分析：非齊次化為齊次 通解+特解解：考慮齊次差分方程 的解。假設(shè) 則有因此齊次差分方程的通解為 。求特解，若 =常數(shù)，則 。可推出 19因此原差分方程的通解為Ex：1. 2. 20平穩(wěn)性n漸進(jìn)穩(wěn)定性：系統(tǒng)受擾后達(dá)到任意初始狀態(tài)，由此出發(fā)的狀態(tài)向量隨時間增長趨于平衡狀態(tài)。n不平穩(wěn)性：系統(tǒng)受擾后達(dá)到任意初始狀態(tài)，由此出發(fā)的狀態(tài)向量將隨著時間的增長而趨向無窮。n臨界穩(wěn)定性：既不回到均衡位置，又不趨向無窮。21AR

6、模型平穩(wěn)性判別 n判別原因nAR模型是常用的平穩(wěn)序列的擬合模型之一，但并非所有的AR模型都是平穩(wěn)的 n判別方法n單位根判別法n平穩(wěn)域判別法22例3.1:考察如下四個模型的平穩(wěn)性1(1)0.8tttxx1(2)1.1tttxx 12(3)0.5ttttxxxttttxxx115 . 0)4(23例3.1平穩(wěn)序列時序圖1(1)0.8tttxx12(3)0.5ttttxxx24例3.1非平穩(wěn)序列時序圖1(2)1.1tttxx ttttxxx115 . 0)4(25AR模型平穩(wěn)性判別方法n特征根判別nAR(p)模型平穩(wěn)的充要條件是它的p個特征根都在單位圓內(nèi)n根據(jù)特征根和自回歸系數(shù)多項式的根成倒數(shù)的性質(zhì)

7、，等價判別條件是該模型的自回歸系數(shù)多項式的根都在單位圓外n平穩(wěn)域判別 n平穩(wěn)域,21單位根都在單位圓內(nèi)p26AR(1)模型平穩(wěn)條件n特征根n平穩(wěn)域127AR(2)模型平穩(wěn)條件n特征根n平穩(wěn)域2424221122211111,12221，且28例3.1平穩(wěn)性判別8 . 010.81 . 111.1 211i212i221210.5,0.5,1.5 23112312221210.5,1.5,0.5 模型特征根判別平穩(wěn)域判別結(jié)論(1)平穩(wěn)(2)非平穩(wěn)(3)平穩(wěn)(4)非平穩(wěn)29平穩(wěn)AR模型的統(tǒng)計性質(zhì)n均值n方差n協(xié)方差n相關(guān)系數(shù)n偏自相關(guān)系數(shù)30均值 n如果AR(p)模型滿足平穩(wěn)性條件，則有n根據(jù)平穩(wěn)

8、序列均值為常數(shù)，且 為白噪聲序列，有n推導(dǎo)出p101)(110tptpttxxEExTtEExtt,0)(,t31nAR(1): Xt=aXt-1+t這里，t 是一個白噪聲。解為： 描述了系統(tǒng)的動態(tài)性，稱這個系數(shù)為格林函數(shù)（記憶函數(shù)）。記為：nAR(2)?Green函數(shù)0, jttjjXatZjajjaG 32Green函數(shù)遞推公式n原理n方法n待定系數(shù)法n遞推公式pkpkjGGGkkkjjkkj, 0, 2 , 1110其中，ttttttBGBBGxxB)()()()(33方差n平穩(wěn)AR模型的傳遞形式n兩邊求方差得函數(shù)為GreenGGxVarjjjt,)(202jtjjtGx034例3.2:

9、求平穩(wěn)AR(1)模型的方差n平穩(wěn)AR(1)模型的傳遞形式為nGreen函數(shù)為n平穩(wěn)AR(1)模型的方差itiitiittBBx01011)(1, 1 , 0,1jGjj2122021021)()(jjtjjtVarGxVar35協(xié)方差函數(shù)n在平穩(wěn)AR(p)模型兩邊同乘 ，再求期望n根據(jù)n得協(xié)方差函數(shù)的遞推公式)()()()(11kttktptpkttkttxExxExxExxEktx1,k0)(kttxE1,kpkpkkk221136例3.3:求平穩(wěn)AR(1)模型的協(xié)方差n遞推公式n平穩(wěn)AR(1)模型的方差為n協(xié)方差函數(shù)的遞推公式為0111kkk212011,12121kkk37例3.4:求平

10、穩(wěn)AR(2)模型的協(xié)方差n平穩(wěn)AR(2)模型的協(xié)方差函數(shù)遞推公式為21)1)(1)(1 (12211201122121220kkkk，38自相關(guān)系數(shù)n自相關(guān)系數(shù)的定義n平穩(wěn)AR(P)模型的自相關(guān)系數(shù)遞推公式0kk1122kkkpkp 39常用AR模型自相關(guān)系數(shù)遞推公式nAR(1)模型nAR(2)模型0,1kkk2110, 1221121kkkkkk40AR模型自相關(guān)系數(shù)的性質(zhì)n拖尾性n呈負(fù)指數(shù)衰減1( )pkiiikc不能恒等于零pccc,211( )0pkiiikc123312( )(),)tititttppiikr c ec eccabireabire(其中 112111( )()dttt

11、dddppkcc tc tcc其它情形類似：其它情形類似：41例3.5:考察如下AR模型的自相關(guān)圖ttttttttttttttxxxxxxxxxx2121115 . 0)4(5 . 0)3(8 . 0)2(8 . 0) 1 (42例3.5n自相關(guān)系數(shù)按負(fù)指數(shù)單調(diào)收斂到零1(1)0.8tttxx43例3.5:n正負(fù)相間衰減1(2)0.8tttxx 44例3.5:n自相關(guān)系數(shù)呈現(xiàn)出“偽周期”性12(3)0.5ttttxxx45例3.5:n自相關(guān)系數(shù)不規(guī)則衰減12(4)0.5ttttxxx 46偏自相關(guān)系數(shù)n定義 對于平穩(wěn)AR(p)序列，所謂滯后k偏自相關(guān)系數(shù)就是指在給定中間k-1個隨機變量 的條件

12、下，或者說，在剔除了中間k-1個隨機變量的干擾之后， 對 影響的相關(guān)度量。用數(shù)學(xué)語言描述就是121,ktttxxxktxtx2,)()(11ktktktktttxxxxxExExExxExEkttktt47偏自相關(guān)系數(shù)的計算n滯后k偏自相關(guān)系數(shù)實際上就等于k階自回歸模型第個k回歸系數(shù)的值。02211202112112011kkkkkkkkkkkkkkkkk2()()() ttt kt kkkt kt kE xExxExE xEx48偏自相關(guān)系數(shù)的截尾性nAR(p)模型偏自相關(guān)系數(shù)P階截尾pkkk,049例3.5續(xù):考察如下AR模型的偏自相關(guān)圖ttttttttttttttxxxxxxxxxx21

13、21115 . 0)4(5 . 0)3(8 . 0)2(8 . 0) 1 (50例3.5n理論偏自相關(guān)系數(shù)n樣本偏自相關(guān)圖1(1)0.8tttxx0.8,10,2kkkk51例3.5:n理論偏自相關(guān)系數(shù)n樣本偏自相關(guān)圖1(2)0.8tttxx 0.8,10,2kkkk52例3.5:n理論偏自相關(guān)系數(shù)n樣本偏自相關(guān)圖12(3)0.5ttttxxx2,130.5,20,3kkkkk 53例3.5:n理論偏自相關(guān)系數(shù)n樣本偏自相關(guān)系數(shù)圖12(4)0.5ttttxxx 2,130.5,20,3kkkkk 54練習(xí)(1) 判斷如下模型是否穩(wěn)定(2) 假如穩(wěn)定，計算其自相關(guān)系數(shù)和偏相關(guān)系數(shù)。120.8tt

14、ttxxx 553.3MA(1)和MA(n)n具有如下結(jié)構(gòu)的模型稱為 階移動平均模型，簡記為n特別當(dāng) 時，稱為中心化 模型q)(qMA0)(qMA112220( )0( ),()0,ttttqt qqtttsxEVarEst ，56移動平均系數(shù)多項式n引進(jìn)延遲算子，中心化 模型又可以簡記為 n 階移動平均系數(shù)多項式)(qMAttBx)(qqqBBBB2211)(57MA模型的統(tǒng)計性質(zhì)n常數(shù)均值n常數(shù)方差）（qtqttttEEx221122212211)1 ()()(qqtqttttVarxVar58MA模型的統(tǒng)計性質(zhì)n自協(xié)方差函數(shù)q階截尾n自相關(guān)系數(shù)q階截尾q kqkkkqiikikqk ,

15、01 ,)(0 ,)1 (212221qkqkkqkqiikikk , 01 ,10 , 1221159n定理 設(shè)零均值平穩(wěn)序列 Xt 有自協(xié)方差函數(shù)k，則 Xt 是 MA(q) 序列的充要條件充要條件為 q 0, k=0, |k|qMA模型的統(tǒng)計性質(zhì)證明見何書元(2004)60常用MA模型的自相關(guān)系數(shù)nMA(1)模型nMA(2)模型2, 01, 10, 1211kkkk3, 02, 11, 10, 1222122221211kkkkk61例3.6:考察如下MA模型的相關(guān)性質(zhì)212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxx62MA

16、模型的自相關(guān)系數(shù)截尾n n 112tttx（）120.5tttx（ ）63MA模型的自相關(guān)系數(shù)截尾n n 124163525ttttx（ ）125254416ttttx（ ）64MA模型的偏自相關(guān)系數(shù)拖尾n n 112tttx（）120.5tttx（ ）65MA模型的偏自相關(guān)系數(shù)拖尾n n 124163525ttttx（ ）125254416ttttx（ ）66MA模型的可逆性nMA模型自相關(guān)系數(shù)的不唯一性n例3.6中不同的MA模型具有完全相同的自相關(guān)系數(shù)和偏自相關(guān)系數(shù)212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxx67可逆的定義

17、n可逆MA模型定義n若一個MA模型能夠表示稱為收斂的AR模型形式，那么該MA模型稱為可逆MA模型n可逆概念的重要性n一個自相關(guān)系數(shù)列唯一對應(yīng)一個可逆MA模型。68可逆MA(1)模型n n 1tttx11tttx21ttBx1ttBx11可逆, 1可逆, 169MA模型的可逆條件nMA(q)模型的可逆條件是：nMA(q)模型的特征根都在單位圓內(nèi)n等價條件是移動平滑系數(shù)多項式的根都在單位圓外11i1i70逆函數(shù)的遞推公式n原理n方法n待定系數(shù)法n遞推公式qkqkjIIIkkkjjkkj, 0, 2 , 1110其中，ttttttxxBIBxBIBx)()()()(71例3.6續(xù):考察如下MA模型的

18、可逆性212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxx72(1)(2)n n n逆函數(shù)n逆轉(zhuǎn)形式不可逆1221tttx可逆15 . 05 . 01tttx05 . 0kktktx1,5 . 01kIkk73(3)(4)n n n逆函數(shù)n逆轉(zhuǎn)形式可逆1, 125165412221ttttx, 1 , 0,23, 0133,) 1(1nnknnkIknk或013130338 . 0) 1(8 . 0) 1(nntnnnntnntxx不可逆11625162545221ttttx74MA模型的統(tǒng)計性質(zhì)n偏自相關(guān)系數(shù)拖尾零不會在有限階之后恒為不恒為零kkq,1202221()()() ()() () (1)ttt kt kkkt kt kttt kt kqk lllqE xExxExE xExE xExxVar xI75ARMA模型的定義n具有如下結(jié)構(gòu)的模型稱為自回歸移動平均模型，簡記為n特別當(dāng) 時，稱為中心化 模型),(qpARMAtsExtsEVarExxxtsstttqpqtqttptptt, 0, 0)(,)(0)(00211110，00),(qp