線性平穩(wěn)時間序列分析

1、上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系1線性平穩(wěn)時間序列分析 在時間序列的統(tǒng)計分析中，平穩(wěn)序列是一類重要的隨機序列。在這方面已經(jīng)有了比較成熟的理論知識，最常用的是ARMA（Autoregressive Moving Average）序列。用ARMA模型去近似地描述動態(tài)數(shù)據(jù)在實際應(yīng)用中有許多優(yōu)點，例如它是線性模型，只要給出少量參數(shù)就可完全確定模型形式；另外，便于分析數(shù)據(jù)的結(jié)構(gòu)和內(nèi)在性質(zhì)，也便于在最小方差意義下進行最佳預(yù)測和控制。本章將討論ARMA模型的基本性質(zhì)和特征，這是時間序列統(tǒng)計分析中的重要理論基礎(chǔ)。 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系23.1 線性過程 在正式討論線性過程之前，我們首先給出相應(yīng)的準(zhǔn)備工具，介紹延遲算子

2、和求解線性差分方程，這些工具會使得時間序列模型表達和分析更為簡潔和方便，下面是延遲算子的概念。 設(shè) 為一步延遲算子，如果當(dāng)前序列乘以一個延遲算子，就表示把當(dāng)前序列值的時間向過去撥一個時刻，即 。 B1ttXBX上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系3 延遲算子 有如下性質(zhì)： B上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系4 定義如下形式方程為序列 的線性差分方程： 其中 ， 為實數(shù)， 為 的已知函數(shù)。 特別地，當(dāng)函數(shù) 時，差分方程： 稱為齊次線性差分方程。否則，線性差分方程稱為非齊次線性差分方程。 :0, 1, 2,tzt 11ttptpzzzh t1p 1,p h ttt 0h t 110ttptpzzz上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系5

3、 下列方程： 稱為齊次線性差分方程的特征方程。這是一個一元p次線性方程，它至少存在p個非零根，稱這p個非零根為特征根，記為 。 根據(jù)特征根 的情況，齊次線性差分方程解的解有如下情形：110ppp 12,p 12,p 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系6 特征根 為互不相同的實根 這時齊次線性差分方程的解為 特征根 中有相同實根 這時齊次線性差分方程的解為 特征根 中有復(fù)根 這時齊次線性差分方程的解為12,p 12,p 12,p 1 1tttppzcc2112111dttttdddppzcc tc tcc1 11233tttpptititttppzccrcec ecc上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系7 對于非齊次線性

4、差分方程解的問題，通常分下下列兩個步驟進行：首先求出對應(yīng)齊次線性差分方程的通解 ，然后再求出該非齊次線性差分方程的一個特解 ，即 滿足： 則非齊次線性差分方程 的解為對應(yīng)齊次線性差分方程的解 和該非齊次線性差分方程的一個特解 之和，即 tztztz 11ttptpzzzh t 11ttptpzzzh ttztztttzzz上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系83.1.1線性過程的定義上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系9 定理定理3.1 定義（3.1）中的線性過程是平穩(wěn)序列，且 是均方收斂的。jtjjG 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系10 下面證明序列 是平穩(wěn)的，容易計算 ,ZtXt0tjtjjEXG EkttkXEXjtjlt

5、 k ljlEGG 2jj kjG G上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系11上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系123.1.2 線性過程的因果性和可逆性 在應(yīng)用時間序列分析去解決實際問題時，所使用的線性過程是因果性因果性的，即： 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系13 設(shè) 為一步延遲算子，則 ， ，(3.4)可表為： 其中， ，今后將把 看作對 進行運算的算子，又可作為 的函數(shù)來討論。 BjttjXXB0j0)(jjjBGBG)(BGtB上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系14 在理論研究和實際問題的處理時，通常還需要用t時刻及t時刻以前的 來表示白噪聲 ，即 ), 1 , 0(jXjtt上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系15上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系16上海

6、財經(jīng)大學(xué) 統(tǒng)計學(xué)系173.2 自回歸過程AR(p) 上節(jié)中所討論的線性過程及其逆轉(zhuǎn)形式都是無窮和的形式，當(dāng)用有限和去逼近時即產(chǎn)生有限參數(shù)線性模型，而且許多平穩(wěn)序列本身就是由有限參數(shù)線性模型刻畫的。有限參數(shù)線性模型是時間序列分析中理論最基礎(chǔ)、應(yīng)用最廣泛的部分。如下將討論AR、MA和ARMA三種有限參數(shù)線性模型。 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系183.2.1一階自回歸過程AR(1) 通常地，由于經(jīng)濟系統(tǒng)慣性的作用，經(jīng)濟時間序列往往存在著前后依存關(guān)系。最簡單的一種情形就是變量當(dāng)前的取值主要與其前一時期的取值狀況有關(guān)，用數(shù)學(xué)模型來描述這種關(guān)系就是下面介紹的一階自回歸模型。上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系19上海財經(jīng)大學(xué)

7、 統(tǒng)計學(xué)系20 在一階自回歸AR(1)模型中，保持其平穩(wěn)性的條件是對應(yīng)的特征方程 的根的絕對值必須小于1，即滿足 。 對于平穩(wěn)的AR(1)模型，經(jīng)過簡單的計算易得 01上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系21上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系223.2.2 二階自回歸過程AR(2) 當(dāng)變量當(dāng)前的取值主要與其前兩時期的取值狀況有關(guān)，用數(shù)學(xué)模型來描述這種關(guān)系就是如下的二階自回歸模型AR(2)： 引入延遲算子 的表達形式為：B上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系23上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系24 下面利用特征方程的根與模型參數(shù) 的關(guān)系，給出AR(2) 模型平穩(wěn)的 的取值條件（或值域）。 12, 12, 12(1)(1)0上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系

8、25 (3.16)和(3.17)式是保證AR(2)模型平穩(wěn)，回歸參數(shù) 所應(yīng)具有的條件。反之，若(3.16)和(3.17)式成立，則特征方程 特征方程的根必落在單位圓內(nèi)。 12,2120 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系26 滿足條件(3.16)和(3.17)式給出的區(qū)域 稱為平穩(wěn)域。對于AR(2)模型平穩(wěn)域是一個三角形區(qū)域，見下圖陰影部分。 12212,1,1 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系27上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系28上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系29 例例3.2 設(shè)AR(2)模型： 試判別 的平穩(wěn)性。 解：解：根據(jù)上述關(guān)于平穩(wěn)條件的討論，可以通過兩種徑進行討論： 120.70.1ttttXXXtX上海財經(jīng)大學(xué) 統(tǒng)計

9、學(xué)系30上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系31 下面我們討論序列的統(tǒng)計特性，關(guān)于平穩(wěn)的二階自回歸模型AR(2)模型： 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系323.2.3 p階自回歸過程AR(p)模型上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系33上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系34 首先，求對應(yīng)齊次差分方程 的通解 。 假定其對應(yīng)特征方程 的p個特征根為 ，根據(jù)前面的討論，一般地，這p個特征根可能有如下情形： ( )0tB XtX110ppp 12,p 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系35上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系36再求非齊次差分方程 的一個特解 。( )ttB XtX上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系37 由此，自回歸系數(shù)多項式可以寫為 因此，我們可以得到非齊次差分方程

10、的一個特解 部分分式展開得到 其中 為任意實數(shù)。1()1pjjBB( )ttB X111( )1tttpjjXBB11111pjtttpjjjjkXBB1,pkk上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系38上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系393.3 移動平均過程MA(q) 3.3.1一階移動平均過程一階移動平均過程MA(1)上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系40 圖3.2為一個零均值的MA(1)序列200個模擬數(shù)據(jù)。 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系41上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系42 類似于自回歸模型的平穩(wěn)性討論，與移動平均過程相聯(lián)系的一個重要概念是可逆性。對于零均值的MA(1)序列 1tttX上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系43上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系44

11、3.3.2 q階移動平均過程MA(q)上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系45上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系463.4 自回歸移動平均過程ARMA(p, q) 3.4.1 ARMA(p, q)過程的平穩(wěn)域和可逆域 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系47上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系48上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系49上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系50例例3.4 求ARMA(1,1)的平穩(wěn)域和可逆域。 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系51上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系52 例例3.5 求MA(2)的可逆域。上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系53上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系54上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系55上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系563.4.2 模型的因果性和格(Green)函數(shù) 上海財經(jīng)大學(xué)

12、 統(tǒng)計學(xué)系57 對于零均值的模型，則ARMA(p,q)模型 可表示為： 由部分分式展開， 可表為 比較兩邊B的同次冪系數(shù)，得到： ( )( )ttB XB )(BG10( )( ) ( )jjjG BBBG B 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系58上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系59 可以得到 的遞推公式：jG*1*1,1,lljljjlljljjGlqGGjq 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系60上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系61上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系62 例例3.7 求ARMA(2,1)模型的格林函數(shù)。上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系63上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系64上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系65上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系663.4.3 模型的逆轉(zhuǎn)

13、形式和逆函數(shù) 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系67上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系68上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系69 例例3.10 求ARMA(2,1)模型的逆函數(shù)。上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系70上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系71上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系72上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系73上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系743.5 自相關(guān)系數(shù)與偏相關(guān)系數(shù) 3.5.1自相關(guān)系數(shù)及其特征 上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系75上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系76上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系77上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系78上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系79上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系80上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系81上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系82上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系83上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系84上海財

14、經(jīng)大學(xué) 統(tǒng)計學(xué)系85上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系86上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系87上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系88 3.5.2偏自相關(guān)系數(shù)及其特征偏自相關(guān)系數(shù)及其特征 在對前面平穩(wěn)時間序列的分析中，我們看到對于MA(q)過程，其自相關(guān)系數(shù)具有q階截尾性，由此我們可以通過計算序列的自相關(guān)系數(shù)大致判斷出模型的階數(shù)。但是，對于平穩(wěn)的自回歸模型AR(p)來說，由于自相關(guān)系數(shù)不具有截尾性，因此我們無法利用序列的自相關(guān)系數(shù)來判斷模型的階數(shù)，我們希望找到一種類似地系數(shù)，使得對自回歸模型AR(p)來說也具有截尾性。上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系89上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系90 1. 偏自相關(guān)系數(shù)的定義上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系91上海財經(jīng)

15、大學(xué) 統(tǒng)計學(xué)系92上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系93 2. 偏自相關(guān)函數(shù)的遞推算法上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系94上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系95上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系96 定理定理3.4 設(shè) 為平穩(wěn)序列，則它的偏相關(guān) 函數(shù) 滿足如下遞推公式： 其中， 是 的自相關(guān)系數(shù)。tXkkjtX上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系97 例例3.11 求AR(1)序列的偏自相關(guān)系數(shù)。 解：解： 對 ，計算可以得到11tttXX1121211111122111111,0111111112121123213111332121111112211111110,111111上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系98 因此有 即對于 ， ，故對于AR(1)序列，偏自相關(guān)系數(shù)是一步截尾的。1,10,1kkkk1k 0kk上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系99 例例3.12 求AR(2)序列的偏自相關(guān)系數(shù)。 解：解： 對 ，計算可以得到 1122ttttXXX11112122211221212222122221111222221222211111111111上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系100上海財經(jīng)大學(xué) 統(tǒng)計學(xué)系101 定理定理3.5 零均值平穩(wěn)序列 為AR(