平穩(wěn)時(shí)間序列模型基本概念

1、平穩(wěn)時(shí)間序列模型基本概念 3.1 時(shí)間序列的基本概念 一、隨機(jī)過(guò)程 二、平穩(wěn)時(shí)間序列 三、隨機(jī)過(guò)程的特征描述 四、線性差分方程 平穩(wěn)時(shí)間序列模型基本概念 一、隨機(jī)過(guò)程 （一）隨機(jī)過(guò)程的定義一）隨機(jī)過(guò)程的定義 （二）隨機(jī)過(guò)程與隨機(jī)變量之間的關(guān)二）隨機(jī)過(guò)程與隨機(jī)變量之間的關(guān)系系 返回本節(jié)首頁(yè)下一頁(yè)上一頁(yè)返回本節(jié)首頁(yè)上一頁(yè) 平穩(wěn)時(shí)間序列模型基本概念 1.引言：事物的變化過(guò)程可分為兩類(lèi)：對(duì) 于每一個(gè)固定的時(shí)刻t，變化的結(jié)果， 一類(lèi)是確定的，這個(gè)結(jié)果可用t的某 個(gè)確定性函數(shù)來(lái)描述； 另一類(lèi)結(jié)果是隨機(jī)的，即以某種可 能性出現(xiàn)多個(gè)（有限多個(gè)或無(wú)限多個(gè)） 結(jié)果之一。 （一）隨機(jī)過(guò)程的定義 下一頁(yè)返回本節(jié)首頁(yè)上

2、一頁(yè) 平穩(wěn)時(shí)間序列模型基本概念 2.定義： 設(shè)E是隨機(jī)試驗(yàn)，S是它的樣本空間，如果對(duì) 于每一個(gè)e ，我們總可以依某種規(guī)則確定 一時(shí)間t的函數(shù) 與之對(duì)應(yīng)（T是時(shí)間t的變化范圍），于是，對(duì)于 所有的的e 來(lái)說(shuō)，就得到這族時(shí)間t的函 數(shù)為隨機(jī)過(guò)程，而族中每一個(gè)函數(shù)為這個(gè)隨機(jī)過(guò) 程的樣本函數(shù)（或一次實(shí)現(xiàn)）。 s TtteX),( s 平穩(wěn)時(shí)間序列模型基本概念 該定義蘊(yùn)涵的四種情況：該定義蘊(yùn)涵的四種情況： 1、當(dāng)e和t都是變量時(shí)，x(t)是一族時(shí)間的函數(shù)，它表 示一個(gè)隨機(jī)過(guò)程； 2、當(dāng)e給定，t為變量時(shí)， x(t)是一個(gè)時(shí)間t的函數(shù)， 稱它為樣本函數(shù)，有時(shí)也稱為一次實(shí)現(xiàn)。 3、當(dāng)t給定，e為變量時(shí)， x

3、(t)是一個(gè)隨機(jī)變量。 4、當(dāng)e、t均給定時(shí)， x(t) 是一個(gè)標(biāo)量或者矢量。 平穩(wěn)時(shí)間序列模型基本概念 ., ,),( 是一個(gè)隨機(jī)過(guò)程則稱一族隨機(jī)變量 是一個(gè)隨機(jī)變量為參數(shù)集若對(duì)于每個(gè)特定的 TtX XTTt t t ,tXT t 則隨機(jī)過(guò)程可表示成當(dāng) , 2, 1, 0, 2, 1, 0tXt t 時(shí)隨機(jī)過(guò)程可寫(xiě)為當(dāng) 平穩(wěn)時(shí)間序列模型基本概念 我們所要討論的時(shí)間序列分析，只是對(duì) 平穩(wěn)序列及其有關(guān)的隨機(jī)序列進(jìn)行統(tǒng)計(jì)分析， 而不是對(duì)所有的隨機(jī)序列進(jìn)行統(tǒng)計(jì)分析。 此類(lèi)隨機(jī)過(guò)程又稱隨機(jī)序列（random sequence)或時(shí)間序列（time series)。對(duì)于 一個(gè)連續(xù)時(shí)間的隨機(jī)過(guò)程，通過(guò)等間

4、隔采 樣，也是一個(gè)隨機(jī)序列。 平穩(wěn)時(shí)間序列模型基本概念 區(qū)別區(qū)別： 1、隨機(jī)變量是定義在樣本空間上的一個(gè)單值實(shí)函數(shù)，隨、隨機(jī)變量是定義在樣本空間上的一個(gè)單值實(shí)函數(shù)，隨 機(jī)過(guò)程是一族時(shí)間機(jī)過(guò)程是一族時(shí)間t的函數(shù)。的函數(shù)。 2、對(duì)應(yīng)于一定隨機(jī)試驗(yàn)和樣本空間的隨機(jī)變量與時(shí)間、對(duì)應(yīng)于一定隨機(jī)試驗(yàn)和樣本空間的隨機(jī)變量與時(shí)間t無(wú)無(wú) 關(guān)，而隨機(jī)過(guò)程與時(shí)間密切相關(guān)。關(guān)，而隨機(jī)過(guò)程與時(shí)間密切相關(guān)。 3、隨機(jī)變量描述事物在某一特定時(shí)點(diǎn)上的靜態(tài)，隨機(jī)過(guò)、隨機(jī)變量描述事物在某一特定時(shí)點(diǎn)上的靜態(tài)，隨機(jī)過(guò) 程描述事物發(fā)展變化的動(dòng)態(tài)。程描述事物發(fā)展變化的動(dòng)態(tài)。 （二）隨機(jī)過(guò)程與隨機(jī)變量之間的關(guān)系（二）隨機(jī)過(guò)程與隨機(jī)變量之間

5、的關(guān)系 下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè) 平穩(wěn)時(shí)間序列模型基本概念 聯(lián)系：聯(lián)系： 1、隨機(jī)過(guò)程具有隨機(jī)變量的特性，同時(shí)還具有普通函數(shù)的 特性。 2、隨機(jī)變量是隨機(jī)過(guò)程的特例。一元隨機(jī)變量可視為參數(shù) 集為單元素集的隨機(jī)過(guò)程。 3、當(dāng)隨機(jī)過(guò)程固定某一個(gè)時(shí)刻時(shí)，就得到一個(gè)隨機(jī)變量。 4、隨機(jī)過(guò)程是N維隨機(jī)向量、隨機(jī)變量列的一般化，它是 隨機(jī)變量X(t)的集合。 平穩(wěn)時(shí)間序列模型基本概念 二、平穩(wěn)時(shí)間序列 （一）兩種不同的平穩(wěn)性定義 （二）時(shí)間序列的分布、均值和協(xié)方差函數(shù) （三）平穩(wěn)序列的自協(xié)方差和自相關(guān)函數(shù) （四）白噪聲序列和獨(dú)立同分布序列 （五）獨(dú)立增量隨機(jī)過(guò)程、二階矩過(guò)程 （六）線性平穩(wěn)序列 （七）偏自

6、相關(guān)函數(shù) 下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè) 平穩(wěn)時(shí)間序列模型基本概念 （一）兩種不同的平穩(wěn)性定義 1.嚴(yán)平穩(wěn)過(guò)程嚴(yán)平穩(wěn)過(guò)程：若對(duì)于時(shí)間 t的任意n個(gè)值 t1t2=0，用X(t1,t2)表示隨機(jī)變量X(t2)-X(t1),并稱為X(t)在(t1,t2)上的 增量，如果對(duì)一切t1t2=0是一個(gè)獨(dú)立增量過(guò)程。 馬氏過(guò)程：從對(duì)過(guò)去記憶性角度來(lái)考慮的，簡(jiǎn)單的說(shuō)，一階馬氏 過(guò)程表示：將來(lái)時(shí)刻tn的狀態(tài)xn的統(tǒng)計(jì)特性僅取決于現(xiàn)在時(shí)刻tn-1 時(shí)刻的值xn-1。 下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè) 平穩(wěn)時(shí)間序列模型基本概念 二階矩過(guò)程二階矩過(guò)程 定義：若一個(gè)隨機(jī)過(guò)程X(t) ， ，如果對(duì)于一 切 ,總有 則稱此過(guò)程為二階矩過(guò)程

7、。寬平穩(wěn)過(guò)程是二階矩過(guò)程中的一 類(lèi)。高斯過(guò)程也是二階矩過(guò)程。高斯分布是指隨機(jī)過(guò)程的各 有限維分布都是高斯分布，高斯分布的各階矩都存在，故也 屬于二階矩過(guò)程。 Tt Tt )( 2 tXE 平穩(wěn)時(shí)間序列模型基本概念 （六）線性平穩(wěn)序列 1.時(shí)間序列的線性 運(yùn)算 設(shè)Xt與Yt為兩個(gè)時(shí)間序列，a，b為兩個(gè)實(shí)數(shù)， 那么，zt=aXt+bYt t=0, 1, 2 為序列Xt與Yt的一種線性運(yùn)算。 2.時(shí)間序列的延遲運(yùn)算 設(shè)Xt為一時(shí)間序列，d為一正整數(shù)，那么， Yt=Xt-d t=0, 1, 2 為Xt的d步延遲運(yùn)算。 下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè) 平穩(wěn)時(shí)間序列模型基本概念 3.時(shí)間序列的線性與延遲聯(lián)合運(yùn)算

8、 yt=a0 xt+a1xt-1+ +apXt-p t=0,1,2為時(shí)間 序列線性與延遲聯(lián)合運(yùn)算。 當(dāng)ai=1/p，i=0,1,2, 時(shí)，Yt即為對(duì)序列Xt 的移動(dòng)平均序列。 4.時(shí)間序列的非線性運(yùn)算 非線性運(yùn)算的形式是多種多樣的：如 yt=xt2+axt，yt=xt-1/(1+xt-2)2等。 平穩(wěn)時(shí)間序列模型基本概念 5.平穩(wěn)線性序列 設(shè)at為正態(tài)白 噪聲序列，則稱序列： jj jjtjt ax 2 注：可以證明， 為一寬平穩(wěn)序列。 為線性平穩(wěn)序列。 t x 平穩(wěn)時(shí)間序列模型基本概念 （七）偏自相關(guān)函數(shù) 偏自相關(guān)函數(shù)：指扣除Xt和Xt+k之間的隨機(jī)變 量Xt+1,Xt+2, Xt+k-1等

9、影響之后的Xt和Xt+k之間 的相關(guān)性。 偏自相關(guān)函數(shù)一般用 表示。 kk 偏自相關(guān)其實(shí)就是如下的條件相關(guān)： cov(Xt,Xt+k|Xt+1,Xt+2 Xt+k-1) 下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè) 平穩(wěn)時(shí)間序列模型基本概念 三、隨機(jī)過(guò)程的特征描述 （一）樣本均值 （二）樣本自協(xié)方差函數(shù) （三）樣本自相關(guān)函數(shù)（SACF） （四）樣本偏自相關(guān)函數(shù) 下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè) 平穩(wěn)時(shí)間序列模型基本概念 （一）樣本均值 對(duì)時(shí)間序列的一次樣本實(shí)現(xiàn)，需要用樣 本均值代替總體均值 n t t x n x 1 1 可以證明， 是 的無(wú)偏、一致估計(jì)。x 下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè) 平穩(wěn)時(shí)間序列模型基本概念 對(duì)于時(shí)間序

10、列的一次樣本現(xiàn)，我們也 需要通過(guò)樣本自協(xié)方差函數(shù)估計(jì)總體自協(xié)方 差函數(shù)。這里有兩種形式： kn t kttk kn t kttk xxxx kn xxxx n 1 1 )( 1 ) 2( )( 1 ) 1 ( （二）樣本自協(xié)方差函數(shù) 下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè) 平穩(wěn)時(shí)間序列模型基本概念 通過(guò)證明有如下結(jié)論： 上述樣本自協(xié)方差函數(shù) 都是總體自協(xié)方 差函數(shù) 的漸近無(wú)偏估計(jì)，且 比 的偏差 要大。但是， 比 的方差小，且在大樣本情 況下（n很大），二者差別不大，因此我們 通常用 作為樣本自協(xié)方差函數(shù)。 k k k k k k k k 平穩(wěn)時(shí)間序列模型基本概念 由于當(dāng)k相對(duì)于n而言較大時(shí)， 的偏比 更大

11、，因此，在時(shí)間序列分析時(shí)，一般 滯后期k最多取至n/4 k k 平穩(wěn)時(shí)間序列模型基本概念 （三）樣本自相關(guān)函數(shù)（SACF） 1.對(duì)給定的序列x1,x2, xn，樣本自相關(guān)函 數(shù)定義為： n t t kn t ktt k k xx xxxx 1 2 1 0 )( )( 下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè) 平穩(wěn)時(shí)間序列模型基本概念 （四）樣本偏自相關(guān)函數(shù)（SPACF） 1.樣本偏自相關(guān)函數(shù)有如下遞推公式 (Durbin1960)： 11 1 1,1 1 111 1,1,1,1 1 1, 2, k kkjkj j kkk kjj j kjkjkkk kj jk 其 中 下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè) 平穩(wěn)時(shí)間序列模

12、型基本概念 例如，根據(jù)上述遞推公式，我們有： 222121 1222213 33 11221121 2 1 2 12 22 111 1 1 平穩(wěn)時(shí)間序列模型基本概念 在過(guò)程是一個(gè)白噪聲序列的假設(shè)下， n Var kk 1 ) ( 所以， 能作為檢驗(yàn)白噪聲過(guò)程假設(shè)的 準(zhǔn)則區(qū)限。 n 2 平穩(wěn)時(shí)間序列模型基本概念 四、線性差分方程 （一）線性差分方程 （二）關(guān)于線性差分方程基本定理 （三）n階常系數(shù)線性差分方程的解 下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè) 平穩(wěn)時(shí)間序列模型基本概念 （一）線性差分方程 ) 1 ()()()()( 1111 tfytaytaytay tntnntnt )2(0)()()( 1111

13、 tntnntnt ytaytaytay 1.n階非齊次線性差分方程 2.n階齊次線性差分方程 （1），（2）式中，ai(t)、f(t)為t的已知函數(shù)，且 an(t)、f(t)不同時(shí)為零，若 ai(t)為常數(shù)，則上述兩式 即為常系數(shù)差分方程。 下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè) 平穩(wěn)時(shí)間序列模型基本概念 （二）關(guān)于線性差分方程基本定理 定理1. 若y1(t)，y2(t)， ym(t)是n階齊次 線性差分方程（2）的m個(gè)特解，則如下的 線性組合也是該差分方程的的特解： y(t)=c1y1(t)+c2y2(t)+ +cmym(t) 式中c1、c2cm為任意常數(shù)。 下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè) 平穩(wěn)時(shí)間序列模型基

14、本概念 定理2. n階齊線性齊次差分方程一定存在 n個(gè)線性無(wú)關(guān)的特解，若y1(t)，y2(t)， yn(t)為式（2）的n個(gè)線性無(wú)關(guān)的特解，則 （2）式的通解為： yc(t)=c1y1(t)+c2y2(t)+ +cnyn(t) 式中c1、c2cn為n個(gè)任意常數(shù)。 平穩(wěn)時(shí)間序列模型基本概念 定理3. N階非齊次線性差分方程（1）的 通解等于它的一個(gè)特解與它對(duì)應(yīng)的齊次方 程（2）的通解之和。 平穩(wěn)時(shí)間序列模型基本概念 （三）n階常系數(shù)線性差分方程的解 1. n 階常系數(shù)線性差分方程的一般形式 ) 3 ()( 1111 tfyayayay tntnntnt 其中：a1,a2, an為常數(shù)，且an不為

15、零，f(t)為t 的已知函數(shù)。 下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè) 平穩(wěn)時(shí)間序列模型基本概念 （4）式為（3）式所對(duì)應(yīng)的齊次方程。 ) 4 (0 1111 tntnntnt yayayay 平穩(wěn)時(shí)間序列模型基本概念 2. 齊次線性差分方程的通解 設(shè)齊次方程（4）有特解：為非零常數(shù), t t y 則： 0 1 1 1 nn nn aaa 稱為方程（4）的特征方程，此特征方程的解稱 為特征根。 平穩(wěn)時(shí)間序列模型基本概念 （1） 若特征方程有一實(shí)特征根 ，其重?cái)?shù)為m（m=n） 則： tmtt tt 1 , 為齊次方程的m個(gè)線性無(wú)關(guān)解。 平穩(wěn)時(shí)間序列模型基本概念 （2）若特征方程有一對(duì)共軛復(fù)根 ),0(tan

16、:, ,2 sin;sin;sin cos;cos;cos ),2( 22 1 1 a b bar r k trtttrtr trtttrtr nkk ibaiba tktt tktt 由下式確定其中 個(gè)線性無(wú)關(guān)特解為齊次線性方程的 則其重?cái)?shù)為 平穩(wěn)時(shí)間序列模型基本概念 （3）將所得的n個(gè)線性無(wú)關(guān)特解組合，即得齊次 方程的通解： )()()()( 2211 tyctyctycty nnc 其中：c1,c2, cn為n個(gè)任意常數(shù)。 平穩(wěn)時(shí)間序列模型基本概念 .065:1 12 的通解求差分方程例 ttt yyy 為任意常數(shù) 的通解為 于是所給方程其有兩個(gè)特征根 特征方程為解 2121 21 2 ,32)( : , 3;2, 0)3)(2(65 : ccccty tt c 平穩(wěn)時(shí)間序列模型基本概念 的通解求差分方程例0442 12 ttt yyy 為任意常數(shù) 于是方程的通解為故有重特征根 特征方程為解 2121 21 2