平穩(wěn)時(shí)間序列模型的基本概念解析PPT課件

1、一、隨機(jī)過(guò)程 （一）隨機(jī)過(guò)程的定義（二）隨機(jī)過(guò)程與隨機(jī)變量之間的關(guān)系返回本節(jié)首頁(yè)下一頁(yè)上一頁(yè)返回本節(jié)首頁(yè)上一頁(yè)第1頁(yè)/共61頁(yè)1.引言：事物的變化過(guò)程可分為兩類：對(duì)于每一個(gè)固定的時(shí)刻t，變化的結(jié)果， 一類是確定的，這個(gè)結(jié)果可用t的某個(gè)確定性函數(shù)來(lái)描述； 另一類結(jié)果是隨機(jī)的，即以某種可能性出現(xiàn)多個(gè)（有限多個(gè)或無(wú)限多個(gè)）結(jié)果之一。（一）隨機(jī)過(guò)程的定義下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè)第2頁(yè)/共61頁(yè)2.定義： 設(shè)E是隨機(jī)試驗(yàn)，S是它的樣本空間，如果對(duì)于每一個(gè)e ，我們總可以依某種規(guī)則確定一時(shí)間t的函數(shù)與之對(duì)應(yīng)（T是時(shí)間t的變化范圍），于是，對(duì)于所有的的e 來(lái)說(shuō)，就得到這族時(shí)間t的函數(shù)為隨機(jī)過(guò)程，而族中每一個(gè)

2、函數(shù)為這個(gè)隨機(jī)過(guò)程的樣本函數(shù)（或一次實(shí)現(xiàn)）。sTtteX),(s第3頁(yè)/共61頁(yè)該定義蘊(yùn)涵的四種情況： 1、當(dāng)e和t都是變量時(shí)，x(t)是一族時(shí)間的函數(shù)，它表示一個(gè)隨機(jī)過(guò)程；2、當(dāng)e給定，t為變量時(shí)， x(t)是一個(gè)時(shí)間t的函數(shù)，稱它為樣本函數(shù)，有時(shí)也稱為一次實(shí)現(xiàn)。3、當(dāng)t給定，e為變量時(shí)， x(t)是一個(gè)隨機(jī)變量。4、當(dāng)e、t均給定時(shí)， x(t) 是一個(gè)標(biāo)量或者矢量。第4頁(yè)/共61頁(yè).,),(是一個(gè)隨機(jī)過(guò)程則稱一族隨機(jī)變量是一個(gè)隨機(jī)變量為參數(shù)集若對(duì)于每個(gè)特定的TtXXTTttt,tXTt則隨機(jī)過(guò)程可表示成當(dāng), 2, 1, 0, 2, 1, 0tXtt時(shí)隨機(jī)過(guò)程可寫為當(dāng)?shù)?頁(yè)/共61頁(yè) 我們所

3、要討論的時(shí)間序列分析，只是對(duì)平穩(wěn)序列及其有關(guān)的隨機(jī)序列進(jìn)行統(tǒng)計(jì)分析，而不是對(duì)所有的隨機(jī)序列進(jìn)行統(tǒng)計(jì)分析。 此類隨機(jī)過(guò)程又稱隨機(jī)序列（random sequence)或時(shí)間序列（time series)。對(duì)于一個(gè)連續(xù)時(shí)間的隨機(jī)過(guò)程，通過(guò)等間隔采樣，也是一個(gè)隨機(jī)序列。第6頁(yè)/共61頁(yè)區(qū)別：1、隨機(jī)變量是定義在樣本空間上的一個(gè)單值實(shí)函數(shù)，隨機(jī)過(guò)程是一族時(shí)間t的函數(shù)。2、對(duì)應(yīng)于一定隨機(jī)試驗(yàn)和樣本空間的隨機(jī)變量與時(shí)間t無(wú)關(guān)，而隨機(jī)過(guò)程與時(shí)間密切相關(guān)。3、隨機(jī)變量描述事物在某一特定時(shí)點(diǎn)上的靜態(tài)，隨機(jī)過(guò)程描述事物發(fā)展變化的動(dòng)態(tài)。（二）隨機(jī)過(guò)程與隨機(jī)變量之間的關(guān)系下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè)第7頁(yè)/共61頁(yè)聯(lián)系：

4、1、隨機(jī)過(guò)程具有隨機(jī)變量的特性，同時(shí)還具有普通函數(shù)的特性。2、隨機(jī)變量是隨機(jī)過(guò)程的特例。一元隨機(jī)變量可視為參數(shù)集為單元素集的隨機(jī)過(guò)程。3、當(dāng)隨機(jī)過(guò)程固定某一個(gè)時(shí)刻時(shí)，就得到一個(gè)隨機(jī)變量。4、隨機(jī)過(guò)程是N維隨機(jī)向量、隨機(jī)變量列的一般化，它是隨機(jī)變量X(t)的集合。第8頁(yè)/共61頁(yè)二、平穩(wěn)時(shí)間序列 （一）兩種不同的平穩(wěn)性定義 （二）時(shí)間序列的分布、均值和協(xié)方差函數(shù) （三）平穩(wěn)序列的自協(xié)方差和自相關(guān)函數(shù) （四）白噪聲序列和獨(dú)立同分布序列 （五）獨(dú)立增量隨機(jī)過(guò)程、二階矩過(guò)程 （六）線性平穩(wěn)序列 （七）偏自相關(guān)函數(shù)下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè)第9頁(yè)/共61頁(yè)（一）兩種不同的平穩(wěn)性定義 1.嚴(yán)平穩(wěn)過(guò)程：若對(duì)于

5、時(shí)間 t的任意n個(gè)值t1t2=0，用X(t1,t2)表示隨機(jī)變量X(t2)-X(t1),并稱為X(t)在(t1,t2)上的增量，如果對(duì)一切t1t2=0是一個(gè)獨(dú)立增量過(guò)程。馬氏過(guò)程：從對(duì)過(guò)去記憶性角度來(lái)考慮的，簡(jiǎn)單的說(shuō)，一階馬氏過(guò)程表示：將來(lái)時(shí)刻tn的狀態(tài)xn的統(tǒng)計(jì)特性僅取決于現(xiàn)在時(shí)刻tn-1時(shí)刻的值xn-1。下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè)第29頁(yè)/共61頁(yè)二階矩過(guò)程定義：若一個(gè)隨機(jī)過(guò)程X(t) ， ，如果對(duì)于一切 ,總有則稱此過(guò)程為二階矩過(guò)程。寬平穩(wěn)過(guò)程是二階矩過(guò)程中的一類。高斯過(guò)程也是二階矩過(guò)程。高斯分布是指隨機(jī)過(guò)程的各有限維分布都是高斯分布，高斯分布的各階矩都存在，故也屬于二階矩過(guò)程。TtTt)

6、(2tXE第30頁(yè)/共61頁(yè)（六）線性平穩(wěn)序列 1.時(shí)間序列的線性 運(yùn)算 設(shè)Xt與Yt為兩個(gè)時(shí)間序列，a，b為兩個(gè)實(shí)數(shù)，那么，zt=aXt+bYt t=0, 1, 2 為序列Xt與Yt的一種線性運(yùn)算。 2.時(shí)間序列的延遲運(yùn)算 設(shè)Xt為一時(shí)間序列，d為一正整數(shù)，那么， Yt=Xt-d t=0, 1, 2 為Xt的d步延遲運(yùn)算。下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè)第31頁(yè)/共61頁(yè) 3.時(shí)間序列的線性與延遲聯(lián)合運(yùn)算 yt=a0 xt+a1xt-1+ +apXt-p t=0,1,2為時(shí)間序列線性與延遲聯(lián)合運(yùn)算。 當(dāng)ai=1/p，i=0,1,2, 時(shí)，Yt即為對(duì)序列Xt的移動(dòng)平均序列。 4.時(shí)間序列的非線性運(yùn)算

7、非線性運(yùn)算的形式是多種多樣的：如 yt=xt2+axt，yt=xt-1/(1+xt-2)2等。第32頁(yè)/共61頁(yè) 5.平穩(wěn)線性序列 設(shè)at為正態(tài)白 噪聲序列，則稱序列：jjjjtjtax2注：可以證明， 為一寬平穩(wěn)序列。為線性平穩(wěn)序列。tx第33頁(yè)/共61頁(yè) （七）偏自相關(guān)函數(shù) 偏自相關(guān)函數(shù)：指扣除Xt和Xt+k之間的隨機(jī)變量Xt+1,Xt+2, Xt+k-1等影響之后的Xt和Xt+k之間的相關(guān)性。 偏自相關(guān)函數(shù)一般用 表示。kk偏自相關(guān)其實(shí)就是如下的條件相關(guān)：cov(Xt,Xt+k|Xt+1,Xt+2 Xt+k-1)下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè)第34頁(yè)/共61頁(yè)三、隨機(jī)過(guò)程的特征描述 （一）樣本

8、均值 （二）樣本自協(xié)方差函數(shù) （三）樣本自相關(guān)函數(shù)（SACF） （四）樣本偏自相關(guān)函數(shù)下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè)第35頁(yè)/共61頁(yè)（一）樣本均值 對(duì)時(shí)間序列的一次樣本實(shí)現(xiàn)，需要用樣本均值代替總體均值 nttxnx11可以證明， 是 的無(wú)偏、一致估計(jì)。x下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè)第36頁(yè)/共61頁(yè) 對(duì)于時(shí)間序列的一次樣本現(xiàn)，我們也需要通過(guò)樣本自協(xié)方差函數(shù)估計(jì)總體自協(xié)方差函數(shù)。這里有兩種形式：kntkttkkntkttkxxxxknxxxxn11)(1) 2()(1) 1 (（二）樣本自協(xié)方差函數(shù)下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè)第37頁(yè)/共61頁(yè) 通過(guò)證明有如下結(jié)論： 上述樣本自協(xié)方差函數(shù) 都是總體自協(xié)方差函

9、數(shù) 的漸近無(wú)偏估計(jì)，且 比 的偏差要大。但是， 比 的方差小，且在大樣本情況下（n很大），二者差別不大，因此我們通常用 作為樣本自協(xié)方差函數(shù)。kkkkkkkk第38頁(yè)/共61頁(yè) 由于當(dāng)k相對(duì)于n而言較大時(shí)， 的偏比 更大，因此，在時(shí)間序列分析時(shí)，一般滯后期k最多取至n/4kk第39頁(yè)/共61頁(yè) （三）樣本自相關(guān)函數(shù)（SACF） 1.對(duì)給定的序列x1,x2, xn，樣本自相關(guān)函數(shù)定義為：nttkntkttkkxxxxxx1210)()(下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè)第40頁(yè)/共61頁(yè) （四）樣本偏自相關(guān)函數(shù)（SPACF） 1.樣本偏自相關(guān)函數(shù)有如下遞推公式(Durbin1960)：1111,11111

10、1,1,1,111, 2,kkkjkjjkkkkjjjkjkjkkk kjjk 其 中下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè)第41頁(yè)/共61頁(yè) 例如，根據(jù)上述遞推公式，我們有：22212112222133311221121212122211111第42頁(yè)/共61頁(yè)在過(guò)程是一個(gè)白噪聲序列的假設(shè)下， nVarkk1)(所以， 能作為檢驗(yàn)白噪聲過(guò)程假設(shè)的準(zhǔn)則區(qū)限。n2第43頁(yè)/共61頁(yè)四、線性差分方程 （一）線性差分方程 （二）關(guān)于線性差分方程基本定理 （三）n階常系數(shù)線性差分方程的解下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè)第44頁(yè)/共61頁(yè)（一）線性差分方程) 1 ()()()()(1111tfytaytaytaytntnnt

11、nt)2(0)()()(1111tntnntntytaytaytay1.n階非齊次線性差分方程2.n階齊次線性差分方程（1），（2）式中，ai(t)、f(t)為t的已知函數(shù)，且an(t)、f(t)不同時(shí)為零，若 ai(t)為常數(shù)，則上述兩式即為常系數(shù)差分方程。下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè)第45頁(yè)/共61頁(yè)（二）關(guān)于線性差分方程基本定理 定理1. 若y1(t)，y2(t)， ym(t)是n階齊次線性差分方程（2）的m個(gè)特解，則如下的線性組合也是該差分方程的的特解：y(t)=c1y1(t)+c2y2(t)+ +cmym(t) 式中c1、c2cm為任意常數(shù)。下一頁(yè)返回本節(jié)首頁(yè)上一頁(yè)第46頁(yè)/共61頁(yè) 定

12、理2. n階齊線性齊次差分方程一定存在n個(gè)線性無(wú)關(guān)的特解，若y1(t)，y2(t)， yn(t)為式（2）的n個(gè)線性無(wú)關(guān)的特解，則（2）式的通解為： yc(t)=c1y1(t)+c2y2(t)+ +cnyn(t) 式中c1、c2cn為n個(gè)任意常數(shù)。第47頁(yè)/共61頁(yè) 定理3. N階非齊次線性差分方程（1）的通解等于它的一個(gè)特解與它對(duì)應(yīng)的齊次方程（2）的通解之和。第48頁(yè)/共61頁(yè)（三）n階常系數(shù)線性差分方程的解 1. n 階常系數(shù)線性差分方程的一般形式) 3 ()(1111tfyayayaytntnntnt其中：a1,a2, an為常數(shù)，且an不為零，f(t)為t的已知函數(shù)。下一頁(yè)返回本節(jié)首頁(yè)

13、上一頁(yè)第49頁(yè)/共61頁(yè) （4）式為（3）式所對(duì)應(yīng)的齊次方程。) 4 (01111tntnntntyayayay第50頁(yè)/共61頁(yè) 2. 齊次線性差分方程的通解設(shè)齊次方程（4）有特解：為非零常數(shù),tty 則：0111nnnnaaa稱為方程（4）的特征方程，此特征方程的解稱為特征根。第51頁(yè)/共61頁(yè)（1） 若特征方程有一實(shí)特征根 ，其重?cái)?shù)為m（m=n） 則：tmtttt1,為齊次方程的m個(gè)線性無(wú)關(guān)解。第52頁(yè)/共61頁(yè)（2）若特征方程有一對(duì)共軛復(fù)根),0(tan:,2sin;sin;sincos;cos;cos),2(2211abbarrktrtttrtrtrtttrtrnkkibaibatk

14、tttktt由下式確定其中個(gè)線性無(wú)關(guān)特解為齊次線性方程的則其重?cái)?shù)為第53頁(yè)/共61頁(yè)（3）將所得的n個(gè)線性無(wú)關(guān)特解組合，即得齊次方程的通解：)()()()(2211tyctyctyctynnc其中：c1,c2, cn為n個(gè)任意常數(shù)。第54頁(yè)/共61頁(yè).065:112的通解求差分方程例tttyyy為任意常數(shù)的通解為于是所給方程其有兩個(gè)特征根特征方程為解2121212,32)(:, 3;2,0)3)(2(65:cccctyttc第55頁(yè)/共61頁(yè)的通解求差分方程例044212tttyyy為任意常數(shù)于是方程的通解為故有重特征根特征方程為解21212122,2)()(, 20)2(44cctcctytc第56頁(yè)/共61頁(yè)的通解求差分方程例0312tttyyy.,;3;3tan; 13sin3cos)()31(21)31(21012121212任意常數(shù)其中因此方程的通解為其有一對(duì)共軛復(fù)根特征方程為解ccrtctctyiic第57頁(yè)/共61頁(yè) 3. 非齊次方程的特解和通解 非齊次方程的特解可以通過(guò)待定系數(shù)法求出。 非齊次方程的通解等于它的一個(gè)特解加上它對(duì)應(yīng)的齊次方程的通解。第58頁(yè)/共61頁(yè)的通解求三階差分方程例2012434123ttttyyyytc