非線(xiàn)性時(shí)間序列

1、一.非線(xiàn)性時(shí)間序列二.GARCH 模型3 .多元時(shí)間序列4 .協(xié)整模型非線(xiàn)性時(shí)間序列第一章.非線(xiàn)性時(shí)間序列淺釋1 .從線(xiàn)性到非線(xiàn)性自回歸模型2 .線(xiàn)性時(shí)間序列定義的多樣性 第二章.非線(xiàn)性時(shí)間序列模型1 .概述2 .非線(xiàn)性自回歸模型3 .帶條件異方差的自回歸模型4 .兩種可逆性5 .時(shí)間序列與偽隨機(jī)數(shù)第三章.馬爾可夫鏈與 AR模型1 .馬爾可夫鏈2 . AR模型所確定的馬爾可夫鏈3 .若干例子第四章.統(tǒng)計(jì)建模方法1 .概論2 .線(xiàn)性性檢驗(yàn)3 . AR模型參數(shù)估計(jì)4 . AR模型階數(shù)估計(jì)第五章.實(shí)例和展望1 .實(shí)例2 .展望第一章.非線(xiàn)性時(shí)間序列淺釋1.從線(xiàn)性到非線(xiàn)性自回歸模型時(shí)間序列Xt是一串隨

2、機(jī)變量序列， 它有廣泛的實(shí)際背景，特別是在經(jīng)濟(jì)與金融 領(lǐng)域中尤其顯著.關(guān)于它們的從線(xiàn)性與非線(xiàn) 性概念，可從以下的例子入手作一淺釋的說(shuō) 明.考查一階線(xiàn)性自回歸模型-LAR(1):xt=" xt-i+et, t=1,2,(1.1)其中et為 i.i.d.序列，且 Eet=0, Eet=" 2<° ,而 且 et與口仁1義仁1,獨(dú)立.反復(fù)使用(1.1)式的 遞推關(guān)系，就可得到Xt= xt-1 +et=et + xt-1=et + et-1 + xt-2=et + et-1 + 2 xt-2 一 =2=et + et-1 +et-2+ . + a n1et-n+i

3、+a nxt-n.(1.2)如果當(dāng)n-, 8時(shí)，nxt-n 0,(1.3)©t+a et-i+a 2et-2+& n-1et-n+i j=o jet-j .(1.4)雖然保證以上的收斂是有條件的 ，而且要涉 及到具體收斂的含義，但是，對(duì)以上的簡(jiǎn)單 模型，不難相信，當(dāng)卜|<1時(shí)，(1.3)(1.4)式成 立.于是，當(dāng)卜|<1時(shí)，模型LAR(1)有平穩(wěn) 解，且可表達(dá)為xt=' j=o&j .(1.5)通過(guò)上面敘述可見(jiàn)求 LAR(1)模型的解有簡(jiǎn) 便之優(yōu)點(diǎn)，此其一.還有第二點(diǎn)，容易推廣 到LAR(p)模型.為此考查如下的 p階線(xiàn)性 自回歸模型LAR(p)

4、:xt= lXt-l+ 2Xt-2+.+ pXt-p+et, t=1,2,(1.6)其中et為 i.i.d.序列，且 Eet=0, Eet=。2<* ,而 且,與xt-i, xt-i,獨(dú)立.雖然反復(fù)使用(1.6) 式的遞推式，仍然可得到(1.2)式的類(lèi)似結(jié)果， 但是,用擴(kuò)張后的一階多元 AR模型求解時(shí)， 可顯示出與LAR(1)模型求解的神奇的相似. 為此記X1Xt= x； U= 0 , x0ct a a 12P |100A=,(1.7) A A A000于是(1.6)式可寫(xiě)成如下的等價(jià)形式Xt=A Xt-i+ etU.(1.8)反復(fù)使用此式的遞推關(guān)系，形式上仿照（1.2） 式可得Xt=A

5、X t-i+etU=etU+ et-iAU+A 2xt-2 =etU+et-i AU+e t-2A2U+ +et-n+iAn-1U+A nxt-n.(1.10)如果矩陣 A的譜半徑(A的特征值的最大 模)MA),滿(mǎn)足如下條件(A)<1,由上式可猜想到（1.8）式有如下的解：Xt= k=0 AkUet-k.(1.11)其中向量Xt的第一分量 力形成的序列xt, 就是模型（1.6）式的解.由此不難看出，它有以下表達(dá)方式Xt= k=0ket-k.(1.11)其中系數(shù)相由(1.6)式中的-J 2,. Jp確定， 細(xì)節(jié)從略.不過(guò)，(1.11)式給了我們重要啟發(fā)， 即考慮形如xt= k=0 ket-

6、k,k=0 k2, (1.12)的時(shí)間序列類(lèi)(其中系數(shù)w k能保證(1.12)式 中的xt有定義).在文獻(xiàn)中，這樣的序列% 就被稱(chēng)為線(xiàn)性時(shí)間序列.雖然以上給出了線(xiàn)性時(shí)間序列的定義，以下暫時(shí)不討論什么是非線(xiàn)性時(shí)間序列，代 之先討論一階非線(xiàn)性自回歸模型 -NLAR(1),以便與 LAR(1)模型進(jìn)行比較 分析.首先寫(xiě)出NLAR(1)模型如下xt=Fxt-1)+et, t=1,2,(1.13)其中et為 i.i.d.序列，且 Eet=0, Eet=" 2<”,而 且et與xt-i,xt-2,獨(dú)立，這些假定與 LAR(1)模型相同，但是，(Xt-i)不再是xt-1的線(xiàn)性函 數(shù)，代之為非

7、線(xiàn)性函數(shù)，比如(xt-i)=xt-i/a+bxt-i2.此時(shí)雖然仍可反復(fù)使用(1.13)式進(jìn)行迭代，但是所得結(jié)果是xt=(xt-i) +et=et+(xt-i)=et+( et-i+(xt-2)=et+( et-i+( et-2+(xt-3)一 一=et+* ( et-i+ 1P ( et-2+ +' (xt-n).(i.i4)根據(jù)此式，我們既不能輕易判斷 ?(xt-i)函數(shù) 滿(mǎn)足怎樣的條件時(shí)，上式會(huì)有極限，也不能 猜測(cè)其極限有怎樣的形式.對(duì)于p階非線(xiàn)性自回歸模型xt=® (xt-i,xt-2,xt-p)+et,t=1,2,(1.15)仿照(1.6)至(1.9)式的擴(kuò)張的方法

8、,我們弓I入 如下記號(hào)(X,X".,' ,一 X(xt-1 ,xt-2,xt-p) |:,Xai(1.16)我們得到與(1.15)式等價(jià)的模型Xt=o(Xt-1) +etU,t=1,2,(1.17)但是，我們?cè)僖驳貌怀?1.9)至(1.14)式的結(jié) 果，至此我們已將看出，從線(xiàn)性到非線(xiàn)性 自回歸模型有實(shí)質(zhì)性差異，要說(shuō)清楚它們， 并不是很簡(jiǎn)單的事情.從數(shù)學(xué)角度而言，討論線(xiàn)性自回歸模型可借用泛函分析方法，然 而，討論非線(xiàn)性自回歸模型，則要借用馬爾 可夫鏈的理論和方法.這也正是本講座要介 紹的主要內(nèi)容.2.線(xiàn)性時(shí)間序列定義的多樣性現(xiàn)在簡(jiǎn)單敘述一下非線(xiàn)性時(shí)間序列定 義的復(fù)雜性，它與線(xiàn)性

9、時(shí)間序列的定義有關(guān) 前一小節(jié)中(1.12)式所顯示的線(xiàn)性時(shí)間序列， 只是一種定義方式.如果改變對(duì)系數(shù)中k的 限制條件，就會(huì)給出不同的定義.更為重要 的是，在近代研究中，將(1.12)式中的i.i.d. 序列et放寬為平穩(wěn)鞅差序列，這在預(yù)報(bào)理 論中很有意義.無(wú)論引用哪一種線(xiàn)性時(shí)間序列定義，都 對(duì)相應(yīng)的序列的性質(zhì)有所研究，因?yàn)槠溲芯?成果可用于有關(guān)的線(xiàn)性時(shí)間序列模型解的 特性研究.事實(shí)上，已經(jīng)有豐富的成果被載 入文獻(xiàn)史冊(cè).依上所述可知，由于線(xiàn)性時(shí)間序列定義 的多樣性，必然帶來(lái)非線(xiàn)性時(shí)間序列定義的 復(fù)雜性.這里需要強(qiáng)調(diào)指的是，對(duì)于非線(xiàn)性時(shí)間序列，幾乎沒(méi)有文章研究它們的一般性 質(zhì)，這與線(xiàn)性時(shí)間序列情況

10、不同.于是人們 要問(wèn)，我們用哪些工具來(lái)研究非線(xiàn)性時(shí)間 序列模型解的特性呢？這正是本次演講要回答的問(wèn)題.確切地說(shuō)，我們將介紹馬爾可 夫鏈，并借助于此來(lái)討論非線(xiàn)性自回歸模型 解的問(wèn)題.第二章.非線(xiàn)性時(shí)間序列模型1.概論從(1.12)式可見(jiàn)，一個(gè)線(xiàn)性時(shí)間序列 xt, 被et的分布和全部系數(shù)w i所決定.在此有 無(wú)窮多個(gè)自由參數(shù)，這對(duì)統(tǒng)計(jì)不方便，因此 人們更關(guān)心只依賴(lài)有限個(gè)自由參數(shù)的線(xiàn)性 時(shí)間序列，這就是線(xiàn)性時(shí)間序列的參數(shù)模型 . 其中最常用 的如ARMA模型.對(duì)于非線(xiàn)性 時(shí)間序列而言，使用參數(shù)模型方法幾乎是唯 一的選擇.由于非線(xiàn)性函數(shù)的多樣性，帶來(lái) 了非線(xiàn)性時(shí)間序列模型的多樣性.但是，迄今為止被研究

11、得較多，又有應(yīng)用價(jià)值的非線(xiàn)性時(shí)序模型，為數(shù)極少，而且主要是針對(duì)非 線(xiàn)性自回歸模型.在介紹此類(lèi)模型之前，我 們先對(duì)非線(xiàn)性時(shí)序模型的分類(lèi)作一概述.通用假定:一為i.i.d.序列，且E-=0,而 且“與xt-1, Xt-2,獨(dú)立.可加噪聲模型：xt= (Xt-1,Xt-2,)+ t, t=1,2,(2.1)其中中()是自回歸函數(shù).當(dāng)它僅依賴(lài)于有 限個(gè)未知參數(shù)時(shí)，記此參數(shù)向量為& ,其相 應(yīng)的(2.1)模型常寫(xiě)成Xt= (Xt-1,Xt-2,；)+ t, t=1,2,(2.2)否則，稱(chēng)(2.1)式稱(chēng)為非參數(shù)模型.關(guān)于(2.1)(2.2)的模型的平穩(wěn)性，要在下一章討論，但是，它有類(lèi)似于線(xiàn)性 AR

12、模型的幾個(gè)簡(jiǎn)單性質(zhì)，是重要的而且容易獲得 的，它們是：E(Xt|Xt-1,Xt-2,)=E * (Xt-1,Xt-2,)+ ”|Xt-1,Xt-2,=* (Xt-1,Xt-2,)+E( |Xt-1,Xt-2,)=(xt-i,xt-2,)(2.3)varxt|xt-i, xt-2 ,三 EXt-* (Xt-1,)2|Xt-l, Xt-2 ,=E"2|xt-1, xt-2 ,=E t2 2-二.(2.4)PXt<X|Xt-1,Xt-2,=P中(xt-1,)+£ t<x|xt-1 ,Xt-2,=Pst<X-9 (Xt-1, - )|Xt-1,Xt-2,=Fs(x

13、-cp(xt-i,).(2.5)其中F8是、的分布函數(shù).帶條件異方差的模型：xt= (Xt-1,Xt-2,)+S(Xt-1,Xt-2,y t,(2.6)t=1,2,其中中()和S()也有限參數(shù)與非參數(shù)型之 分，這都是不言自明的.另外，(2.6)式顯然 不屬于可加噪聲模型.但是，它比下面的更 一般的非可加噪聲模型要簡(jiǎn)單得多.這可通 過(guò)推廣(2.3)(2.4)(2.5)式看出，即有，E(Xt|Xt-1,Xt-2,)=E"(Xt-1,Xt-2,)+S(Xt-1,Xt-2,尸 t|Xt-1,Xt-2,=(Xt-1,Xt-2,)+S(Xt-1,Xt-2,)E£ t|Xt-1,Xt-2

14、,=<p(xt-i,Xt-2,-) .(2.3)'varxt|xt-i, xt-2 ,三 Ext-* (xt-i,)2|xt-i, Xt-2 ,= ES2(Xt-1,Xt-2,尸 t2|xt-1, xt-2 ,=S2(xt-i,xt-2,)E t2|xt-1, xt-2 ,=S2(xt-i,xt-2,尸2.(2.4)'PXt<X|Xt-1,Xt-2,=P®(Xt-1,)+S(Xt-1,尸 t<X|Xt-1, Xt-2 , =PTt<x-Fxt-i, )/S(xt-i, ) =Fs(x)(xt-i, )/S(xt-i,).(2.5)'一般

15、非線(xiàn)性時(shí)序模型：Xt= (Xt-1,Xt-2,； t, t-1,)t=1,2,(2.7)其中w ()也有參數(shù)與非參數(shù)型之區(qū)別，這也是不言自明的.顯然，(2.7)式既不是可加 噪聲模型，也不屬于(2.6)式的帶條件異方差 的模型.雖然，它可能具有條件異方差性質(zhì). 相反，后兩者都是(2.7)式的特殊類(lèi)型.雖說(shuō) (2.7)式是更廣的模型形式，在文獻(xiàn)中卻很少 被研究.只有雙線(xiàn)性模型作為它的一種特殊 情況，在文獻(xiàn)中有些應(yīng)用和研究結(jié)果出現(xiàn).現(xiàn)寫(xiě)出其模型于后，可供理解其雙線(xiàn)性模型 的含義xt= j=ip jXt-j+' j=iq j t-j + " i=iP j=iQ" ij t

16、-iXt-j.2.非線(xiàn)性自回歸模型在前一小節(jié)中的(2.1)和(2.2)式就是非線(xiàn) 性自回歸模型，而且屬于可加噪聲模型類(lèi) 在這一小節(jié)里，我們將介紹幾種(2.2)式的常 見(jiàn)的模型.函數(shù)后的線(xiàn)性自回歸模型f(Xt)= lf(Xt-1)+ 2f(Xt-2)+.+ pf(xt-p)+ t,(2.8)t=1,2,其中f(.)是一元函數(shù)，它有已知和未知的不同情況，不過(guò)總考慮單調(diào)增函數(shù)的情況，a =(a 1,a 2,. J p)，是未知參數(shù).在實(shí)際應(yīng)用中， Xt是可獲得量測(cè)的序列.當(dāng)f(.)是已知函數(shù)時(shí)，f(Xt)也是可獲得量測(cè)的序列，于是只需考慮 yt=f(xt)所滿(mǎn)足 的線(xiàn)性AR模型yt= iyt-i+

17、2yt-2+.+ pyt-p+ t,t=1,2，(2.9)此時(shí)可不涉及非線(xiàn)性自回歸模型概念.在宏觀(guān)計(jì)量經(jīng)濟(jì)分析中，常常對(duì)原始數(shù)據(jù)先取對(duì) 數(shù)后，再作線(xiàn)性自回歸模型統(tǒng)計(jì)分析，就屬于此種情況.這種先取對(duì)數(shù)的方法，不僅簡(jiǎn) 單，而且有經(jīng)濟(jì)背景的合理解釋?zhuān)磻?yīng)了經(jīng)濟(jì)增長(zhǎng)幅度的量化規(guī)律.雖然在統(tǒng)計(jì)學(xué)中 還有更多的變換可使用，比如Box-Cox變換,但是，由于缺少經(jīng)濟(jì)背景的合理解釋?zhuān)苌俦皇褂?由此看來(lái)，當(dāng)f(.)有實(shí)際背景依據(jù) 時(shí)，可以考慮使用(2.7)式的模型.當(dāng)f(.)是未知函數(shù)時(shí)，f(xt)不是可量測(cè)的序列，于是只能考慮(2.8)模型.注意f(.)是單調(diào)函數(shù)，可記它的逆變換函數(shù)為f-1(.),于是由

18、(2.8)模型可得xt= f-1( lf(xt-l)+ 2f(Xt-2)+.+ pf(xt-p)+ t), t=1,2,(2.9)'此式屬于(2.7)式的特殊情況，此類(lèi)模型很少 被使用.取而代之是考慮如下的模型Xt= lf(Xt-l)+ 2f(Xt-2)+.+ pf(Xt-p)+ t, t=1,2,(2.10)其中f(.)是一元函數(shù)，也有已知和未知之分 可不限于單調(diào)增函數(shù).此式屬于(2.1)式的特 殊情況，有一定的使用價(jià)值.當(dāng)(2.10)式中的f(.)函數(shù)是已知時(shí)，此式 還有更進(jìn)一步的推廣模型，Xt=a 1f1(Xt-1,，xt-s)+。2f2(Xt-1,xt-s)+.+。pfp(Xt

19、-1,- -,Xt-s)+et,t=1,2，(2.11)其中fk()(k=1,2,p)是已知的s元函數(shù).例如，以后將要多次提到的如下的模型：xt= ll(xt-1<0)xt-l+ 2l(xt-1 0)xt-l+ t, t=1,2,(2.12)其中I(.)是示性函數(shù).此模型是分段線(xiàn)性的 是著名的TAR模型的特殊情況.為了有助 于理解它，我們寫(xiě)出它的分段形式：xt=« v +1 X1十,x 0, ,X0.t=1,2,請(qǐng)注意(2.8)(2.10)和(2.11)式具有一個(gè)共同的特征，就是未知參數(shù)都以線(xiàn)性形式出 現(xiàn)在模型中.這一特點(diǎn)在統(tǒng)計(jì)建模時(shí)帶來(lái)極大的方便.此類(lèi)模型便于實(shí)際應(yīng)用.但是,對(duì)于Xt而言不具有線(xiàn)性特性，所以，討論 它們的平穩(wěn)解的問(wèn)題，討論它們的建模理論 依據(jù)問(wèn)題，都需要借助于馬爾可夫鏈的工具.