第二章時間序列分析基本概念

1、第二章時間序列分析基本概念1 時間序列分析的基本概念時間序列分析的基本概念 隨機(jī)過程基礎(chǔ)概念和基本理論介紹 平穩(wěn)過程的特征及遍歷性 線性差分方程 動態(tài)數(shù)據(jù)預(yù)處理 第二章時間序列分析基本概念2 時間序列分析的基本概念時間序列分析的基本概念 2.1 隨機(jī)過程隨機(jī)過程 描述 在對某些隨機(jī)現(xiàn)象的變化過程進(jìn)行研究時，需要 考慮無窮多個隨機(jī)變量，必須用一簇隨機(jī)變量才 能刻畫這種隨機(jī)現(xiàn)象的全部統(tǒng)計特征，這樣的隨 機(jī)變量族通常稱為隨機(jī)過程。 例子 第二章時間序列分析基本概念3 時間序列分析的基本概念時間序列分析的基本概念 設(shè) 是一列獨(dú)立同分布的隨機(jī)變量序列，令 則稱隨機(jī)變量序列 為隨機(jī)游動。其中 是與 相互獨(dú)

2、立（但是不同分布）的隨機(jī)變量，一般地， 我們總是假定 。如果 就是一般概率論與數(shù)理統(tǒng)計教材中提到的簡單隨機(jī)游 動。 12 ,XX 12 ,XX 12 ,XX 12 ,XX 012nn SSXXX ;0,1, n Sn 0 S 0 0S 111 2 nn P XP X n S 12 ,XX 第二章時間序列分析基本概念4 時間序列分析的基本概念時間序列分析的基本概念 英國植物學(xué)家布朗注意到漂浮在液面上的微 小粒子不斷進(jìn)行無規(guī)則的運(yùn)動，它是分子大 量隨機(jī)碰撞的結(jié)果。這種運(yùn)動后來稱為布朗 運(yùn)動。若記 為粒子在平面坐標(biāo)上的 位置，則它是平面上的布朗運(yùn)動。 )(),(tYtX )(),(tYtX 第二章時

3、間序列分析基本概念5 時間序列分析的基本概念時間序列分析的基本概念 在通信工程中，電話交換臺在時間段0，t 內(nèi)接到的呼喚次數(shù)是與t有關(guān)的隨機(jī)變 量 ，對于固定的t， 是一個取非負(fù)整數(shù) 的隨機(jī)變量，則 是隨機(jī)過程。 )(tX )(tX ), 0),(ttX 第二章時間序列分析基本概念6 時間序列分析的基本概念時間序列分析的基本概念 隨機(jī)試驗(yàn)所有可能結(jié)果組成的集合稱為這個試驗(yàn)的 樣本空間，記為 ，其中的元素 稱為樣本點(diǎn)或 基本事件， 的子集A稱為事件，樣本空間 稱為 必然事件，空集 稱為不可能事件，F(xiàn)是 的某些 子集組成的集合組，P是 上的概率。 ),(F 第二章時間序列分析基本概念7 時間序列分

4、析的基本概念時間序列分析的基本概念 隨機(jī)過程隨機(jī)過程是概率空間 上的一族隨機(jī)變 量 ，其中t是參數(shù)，它屬于某個指標(biāo) 集T，T稱為參數(shù)集。 ),(PF ),(TttX 第二章時間序列分析基本概念8 時間序列分析的基本概念時間序列分析的基本概念 隨機(jī)過程的一維分布，二維分布，n維 分布，等等，其全體 稱為過程 的有限維分布族有限維分布族。 1,),( 11, 1 nTttxxF nntt n )(tX 第二章時間序列分析基本概念9 一個隨機(jī)過程的有限維分布族性質(zhì) 對稱性對稱性：對 的任一排列 ， 有 相容性相容性：對 ，有 ),(),( 1, 11 1 nttjjtt xxFxxF nn n jj

5、 ), 2 , 1 (n),( 21n jjj nm ),(),( 1,1, 111 mttmtttt xxFxxF mnmm 第二章時間序列分析基本概念10 時間序列分析的基本概念時間序列分析的基本概念 定理定理2.1 柯爾莫哥洛夫定理柯爾莫哥洛夫定理 設(shè)分布函數(shù)族 滿足上述的 對稱性和相容性，則必存在一個隨機(jī)過程 ，使 恰好是 的有限維分布族。 1,),( 11, 1 nTttxxF nntt n ),(TttX 1,),( 11, 1 nTttxxF nntt n )(tX 第二章時間序列分析基本概念11 時間序列分析的基本概念時間序列分析的基本概念 設(shè) 是一個隨機(jī)過程，如果對任意 存在

6、，則分別稱函數(shù) 為 的均值函數(shù)、協(xié)方差函數(shù)、方差函數(shù)。均值函數(shù)、協(xié)方差函數(shù)、方差函數(shù)。 ),(TttXTt )(tXE TttXEt X ),()( TtsttXssXEtsr XXX ,),()()()(),( TtsttXEttrtD XXX ,)()(),()( 2 ),(TttX 第二章時間序列分析基本概念12 時間序列分析的基本概念時間序列分析的基本概念 嚴(yán)平穩(wěn)嚴(yán)平穩(wěn) 寬平穩(wěn)寬平穩(wěn) 遍歷性遍歷性 第二章時間序列分析基本概念13 時間序列分析的基本概念時間序列分析的基本概念 如果隨機(jī)過程 對任意的和任意的 和任意的 （使得 ），有： 與 具有相同的聯(lián)合分布，記為： 則稱 為嚴(yán)平穩(wěn)嚴(yán)平穩(wěn)

7、的。 ),(TttXTtt n , 1 hniThti, 2 , 1, )(,),(),( 21 htXhtXhtX n )(,),(),( 21n tXtXtX )(,),(),( 21 htXhtXhtX n d )(,),(),( 21n tXtXtX ),(TttX 第二章時間序列分析基本概念14 時間序列分析的基本概念時間序列分析的基本概念 設(shè) 是一個隨機(jī)過程，若 的所 有二階矩都存在，并且對任意 ， 為常數(shù)，對任意 ， 只與時間差 有關(guān)，則稱 為寬平穩(wěn)過程寬平穩(wěn)過程，簡稱 平穩(wěn)過程平穩(wěn)過程。若T是離散集，則稱平穩(wěn)過程為 平穩(wěn)序列平穩(wěn)序列。 ),(TttX ),(TttX Tt )(

8、tXE Tts,),( tsrst ),(TttX ),(TttX 第二章時間序列分析基本概念15 時間序列分析的基本概念時間序列分析的基本概念 設(shè) 為均方連續(xù)的平穩(wěn)過程， 則分別稱 為該過程的時間均值和時間相關(guān)函數(shù)。 ),(ttX T T T dttX T tX)( 2 1 lim)( T T T dttXtX T tXtX)()( 2 1 lim)()( 第二章時間序列分析基本概念16 時間序列分析的基本概念時間序列分析的基本概念 設(shè) 為均方連續(xù)的平穩(wěn)過程，若 則稱該平穩(wěn)過程的均值具有各態(tài)歷經(jīng)性均值具有各態(tài)歷經(jīng)性。 若 則稱該平穩(wěn)過程的協(xié)方差函數(shù)具有各態(tài)歷經(jīng)協(xié)方差函數(shù)具有各態(tài)歷經(jīng) 性性。

9、),(ttX X T T T dttX T )( 2 1 lim )()()( 2 1 lim X T T T rdttXtX T 第二章時間序列分析基本概念17 時間序列分析的基本概念時間序列分析的基本概念 如果均方連續(xù)的平穩(wěn)過程的均值和相關(guān)函數(shù) 都具有各態(tài)歷經(jīng)性，則稱該平穩(wěn)過程具有各各 態(tài)歷經(jīng)性態(tài)歷經(jīng)性或遍歷性遍歷性。 第二章時間序列分析基本概念18 時間序列分析的基本概念時間序列分析的基本概念 （1）設(shè) 是平穩(wěn)序列，其協(xié)方 差函數(shù)為 ，則X具有遍歷性的充分必要 條件是 （2）設(shè) 是平穩(wěn)過程，則X具有 遍歷性的充分必要條件是 2, 1, 0,nXX n )(tr 0)( 1 lim 1 0

10、 N t N tr N ,tXX t 0)() 2 1 ( 1 lim 2 0 T T dr TT 第二章時間序列分析基本概念19 時間序列分析的基本概念時間序列分析的基本概念 若 ，則均值遍歷性定理成立。 dttr)( 第二章時間序列分析基本概念20 時間序列分析的基本概念時間序列分析的基本概念 設(shè) 是平穩(wěn)過程，其均值函數(shù) 為零，則協(xié)方差函數(shù)有遍歷性的充分必要條 件是 其中 ,tXX t 0)0 ()()( 2 1 ( 1 lim 2 01 2 1 1 T T drB TT )()()()()( 111 tXtXtXtEXB 第二章時間序列分析基本概念21 時間序列分析的基本概念時間序列分析

11、的基本概念 如果隨機(jī)過程 是由一個不相關(guān)的隨機(jī)變 量序列構(gòu)成，即對于所有 ，隨機(jī)變量 和 的 協(xié)方差均為零，即隨機(jī)變量 和 互不相關(guān)，則 稱其為純隨機(jī)過程純隨機(jī)過程。對于一個純隨機(jī)過程來說，若 其期望和方差都為常數(shù)，則稱其為白噪聲過程白噪聲過程。白 噪聲過程的樣本實(shí)現(xiàn)稱為白噪聲序列（白噪聲序列（White noise）。 ), 2 , 1)(ttX ts t X s X t X s X 第二章時間序列分析基本概念22 時間序列分析的基本概念時間序列分析的基本概念 一階差分方程一階差分方程 p階差分方程階差分方程 第二章時間序列分析基本概念23 時間序列分析的基本概念時間序列分析的基本概念 定義

12、 假定當(dāng)前時期t期的y（輸出變量）和另一個變量 （輸入變量）、及前一期的y之間存在如下動態(tài)方 程： ，則此方程稱為一階線性差分方 程，這里假定 為一個確定性的數(shù)值序列。差分方 程就是關(guān)于一個變量與它的前期值之間關(guān)系的表達(dá) 式。 解方程 1tt yy 第二章時間序列分析基本概念24 時間序列分析的基本概念時間序列分析的基本概念 用遞歸替代法解差分方程 動態(tài)乘子 或 t ttt t yy 1 1 01 1 t t y 0 j t jt y 第二章時間序列分析基本概念25 時間序列分析的基本概念時間序列分析的基本概念 如果動態(tài)系統(tǒng)中的輸出 依賴于它的p期滯 后值以及輸入變量 : 此時可以寫成向量的形

13、式，定義 t y t tptpttt yyyy 2211 1 2 1 pt t t t t y y y y 01000 0010 0001 121 pp F 0 0 0 t t v 第二章時間序列分析基本概念26 定理定理2.4矩陣F的特征根由滿足下式的 值 組成： 定理定理2.5 如果矩陣F特征值是相異的，則 0 1 2 2 1 1 pp ppp p ik k ki p i i c 1 1 )( 第二章時間序列分析基本概念27 時間序列分析的基本概念時間序列分析的基本概念 平穩(wěn)性檢驗(yàn)平穩(wěn)性檢驗(yàn) 正態(tài)性檢驗(yàn)正態(tài)性檢驗(yàn) 獨(dú)立性檢驗(yàn)獨(dú)立性檢驗(yàn) 離群點(diǎn)的檢驗(yàn)與處理離群點(diǎn)的檢驗(yàn)與處理 第二章時間序列分析基本概念28 時間序列分析的基本概念時間序列分析的基本概念 平穩(wěn)性的參數(shù)檢驗(yàn)法平穩(wěn)性的參數(shù)檢驗(yàn)法 平穩(wěn)性的非參數(shù)檢驗(yàn)法平穩(wěn)性的非參數(shù)檢驗(yàn)法 時序圖檢驗(yàn)法時序圖檢驗(yàn)法 第二章時間序列分析基本概念29 時間序列分析的基本概念時間序列分析的基本概念 擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn) 樣本 統(tǒng)計量為 2 1