非線性時間序列

../.近代時間序列分析選講:一.非線性時間序列二.GARCH模型三.多元時間序列四.協(xié)整模型非線性時間序列非線性時間序列淺釋從線性到非線性自回歸模型線性時間序列定義的多樣性第二章.非線性時間序列模型1.概述2.非線性自回歸模型帶條件異方差的自回歸模型兩種可逆性時間序列與偽隨機數(shù)馬爾可夫鏈與AR模型1.馬爾可夫鏈2.AR模型所確定的馬爾可夫鏈3.若干例子第四章.統(tǒng)計建模方法1.概論2.線性性檢驗AR模型參數(shù)估計AR模型階數(shù)估計第五章.實例和展望1.實例展望非線性時間序列淺釋1.從線性到非線性自回歸模型時間序列{xt}是一串隨機變量序列,它有廣泛的實際背景,特別是在經(jīng)濟與金融領(lǐng)域中尤其顯著.關(guān)于它們的從線性與非線性概念,可從以下的例子入手作一淺釋的說明.考查一階線性自回歸模型LAR(1):xt=xt-1+et,t=1,2,…(1.1)其中{et}為i.i.d.序列，且Eet=0,Eet=2<,而且et與{xt-1,xt-1,…}獨立.反復(fù)使用(1.1)式的遞推關(guān)系,就可得到xt=xt-1+et=et+xt-1=et+{et-1+xt-2}=et+et-1+2xt-2=…=et+et-1+2et-2+…+n-1et-n+1+nxt-n.(1.2)如果當n時,nxt-n0,(1.3){et+et-1+2et-2+…+n-1et-n+1}j=0jet-j.(1.4)雖然保證以上的收斂是有條件的,而且要涉及到具體收斂的含義,但是,對以上的簡單模型,不難相信,當||<1時,(1.3)(1.4)式成立.于是,當||<1時,模型LAR(1)有平穩(wěn)解,且可表達為xt=j=0jet-j.(1.5)通過上面敘述可見求LAR(1)模型的解有簡便之優(yōu)點,此其一.還有第二點,容易推廣到LAR(p)模型.為此考查如下的p階線性自回歸模型LAR(p):xt=1xt-1+2xt-2+...+pxt-p+et,t=1,2,…(1.6)其中{et}為i.i.d.序列，且Eet=0,Eet=2<,而且et與{xt-1,xt-1,…}獨立.雖然反復(fù)使用(1.6)式的遞推式,仍然可得到(1.2)式的類似結(jié)果,但是,用擴張后的一階多元AR模型求解時,可顯示出與LAR(1)模型求解的神奇的相似.為此記Xt=,U=,A=,(1.7)于是(1.6)式可寫成如下的等價形式:Xt=AXt-1+etU.(1.8)反復(fù)使用此式的遞推關(guān)系,形式上仿照(1.2)式可得Xt=AXt-1+etU=etU+et-1AU+A2xt-2==etU+et-1AU+et-2A2U++et-n+1An-1U+Anxt-n.如果矩陣A的譜半徑(A的特征值的最大模)(A),滿足如下條件(A)<1,(1.10)由上式可猜想到(1.8)式有如下的解:Xt=k=0AkUet-k.(1.11)其中向量Xt的第一分量xt形成的序列{xt},就是模型(1.6)式的解.由此不難看出,它有以下表達方式xt=k=0ket-k.(1.11)其中系數(shù)k由(1.6)式中的1,2,...,p確定,細節(jié)從略.不過,(1.11)式給了我們重要啟發(fā),即考慮形如xt=k=0ket-k,k=0k2,(1.12)的時間序列類(其中系數(shù)k能保證(1.12)式中的xt有定義).在文獻中,這樣的序列{xt}就被稱為線性時間序列.雖然以上給出了線性時間序列的定義,以下暫時不討論什么是非線性時間序列,代之先討論一階非線性自回歸模型NLAR(1),以便與LAR(1)模型進行比較分析.首先寫出NLAR(1)模型如下xt=(xt-1)+et,t=1,2,…(1.13)其中{et}為i.i.d.序列，且Eet=0,Eet=2<,而且et與{xt-1,xt-2,…}獨立,這些假定與LAR(1)模型相同,但是,(xt-1)不再是xt-1的線性函數(shù),代之為非線性函數(shù),比如(xt-1)=xt-1/{a+bxt-12}.此時雖然仍可反復(fù)使用(1.13)式進行迭代,但是所得結(jié)果是xt=(xt-1)+et=et+(xt-1)=et+(et-1+(xt-2))=et+(et-1+(et-2+(xt-3)))=…=et+(et-1+(et-2+…+(xt-n))…).(1.14)根據(jù)此式,我們既不能輕易判斷(xt-1)函數(shù)滿足怎樣的條件時,上式會有極限,也不能猜測其極限有怎樣的形式.對于p階非線性自回歸模型xt=(xt-1,xt-2,…,xt-p)+et,t=1,2,…(1.15)仿照(1.6)至(1.9)式的擴張的方法,我們引入如下記號(xt-1,xt-2,…,xt-p),(1.16)我們得到與(1.15)式等價的模型Xt=(Xt-1)+etU,t=1,2,…(1.17)但是,我們再也得不出(1.9)至(1.14)式的結(jié)果,至此我們已將看出,從線性到非線性自回歸模型有實質(zhì)性差異,要說清楚它們,并不是很簡單的事情.從數(shù)學(xué)角度而言,討論線性自回歸模型可借用泛函分析方法,然而,討論非線性自回歸模型,則要借用馬爾可夫鏈的理論和方法.這也正是本講座要介紹的主要內(nèi)容.2.線性時間序列定義的多樣性現(xiàn)在簡單敘述一下非線性時間序列定義的復(fù)雜性,它與線性時間序列的定義有關(guān).前一小節(jié)中(1.12)式所顯示的線性時間序列,只是一種定義方式.如果改變對系數(shù)k的限制條件,就會給出不同的定義.更為重要的是,在近代研究中,將(1.12)式中的i.i.d.序列{et}放寬為平穩(wěn)鞅差序列,這在預(yù)報理論中很有意義.無論引用哪一種線性時間序列定義,都對相應(yīng)的序列的性質(zhì)有所研究,因為其研究成果可用于有關(guān)的線性時間序列模型解的特性研究.事實上,已經(jīng)有豐富的成果被載入文獻史冊.依上所述可知,由于線性時間序列定義的多樣性,必然帶來非線性時間序列定義的復(fù)雜性.這里需要強調(diào)指的是,對于非線性時間序列,幾乎沒有文章研究它們的一般性質(zhì),這與線性時間序列情況不同.于是人們要問,我們用哪些工具來研究非線性時間序列模型解的特性呢?這正是本次演講要回答的問題.確切地說,我們將介紹馬爾可夫鏈,并借助于此來討論非線性自回歸模型解的問題.第二章.非線性時間序列模型1.概論從(1.12)式可見，一個線性時間序列{xt},被{et}的分布和全部系數(shù)i所決定.在此有無窮多個自由參數(shù)，這對統(tǒng)計不方便，因此人們更關(guān)心只依賴有限個自由參數(shù)的線性時間序列，這就是線性時間序列的參數(shù)模型.其中最常用的如ARMA模型.對于非線性時間序列而言,使用參數(shù)模型方法幾乎是唯一的選擇.由于非線性函數(shù)的多樣性,帶來了非線性時間序列模型的多樣性.但是,迄今為止被研究得較多,又有應(yīng)用價值的非線性時序模型,為數(shù)極少,而且主要是針對非線性自回歸模型.在介紹此類模型之前,我們先對非線性時序模型的分類作一概述.通用假定:{t}為i.i.d.序列，且Et=0,而且t與{xt-1,xt-2,…}獨立.可加噪聲模型:xt=(xt-1,xt-2,…)+t,t=1,2,…(2.1)其中(…)是自回歸函數(shù).當它僅依賴于有限個未知參數(shù)時,記此參數(shù)向量為,其相應(yīng)的(2.1)模型常寫成xt=(xt-1,xt-2,…;)+t,t=1,2,…(2.2)否則,稱(2.1)式稱為非參數(shù)模型.關(guān)于(2.1)(2.2)的模型的平穩(wěn)性,要在下一章討論,但是,它有類似于線性AR模型的幾個簡單性質(zhì),是重要的而且容易獲得的,它們是:E(xt|xt-1,xt-2,…)=E{(xt-1,xt-2,…)+t|xt-1,xt-2,…}=(xt-1,xt-2,…)+E(t|xt-1,xt-2,…)=(xt-1,xt-2,…)(2.3)var{xt|xt-1,xt-2,…}E{[xt-(xt-1,…)]2|xt-1,xt-2,…}=E{t2|xt-1,xt-2,…}=Et2=2.(2.4)P{xt<x|xt-1,xt-2,…}=P{(xt-1,…)+t<x|xt-1,xt-2,…}=P{t<x-(xt-1,…)|xt-1,xt-2,…}=F(x-(xt-1,…)).(2.5)其中F是t的分布函數(shù).帶條件異方差的模型:xt=(xt-1,xt-2,…)+S(xt-1,xt-2,…)t,t=1,2,…(2.6)其中(…)和S(…)也有限參數(shù)與非參數(shù)型之分,這都是不言自明的.另外,(2.6)式顯然不屬于可加噪聲模型.但是,它比下面的更一般的非可加噪聲模型要簡單得多.這可通過推廣(2.3)(2.4)(2.5)式看出,即有,E(xt|xt-1,xt-2,…)=E{(xt-1,xt-2,…)+S(xt-1,xt-2,…)t|xt-1,xt-2,…}=(xt-1,xt-2,…)+S(xt-1,xt-2,…)E{t|xt-1,xt-2,…}=(xt-1,xt-2,…).(2.3)’var{xt|xt-1,xt-2,…}E{[xt-(xt-1,…)]2|xt-1,xt-2,…}=E{S2(xt-1,xt-2,…)t2|xt-1,xt-2,…}=S2(xt-1,xt-2,…)E{t2|xt-1,xt-2,…}=S2(xt-1,xt-2,…)2.(2.4)’P{xt<x|xt-1,xt-2,…}=P{(xt-1,…)+S(xt-1,…)t<x|xt-1,xt-2,…}=P{t<[x-(xt-1,…)]/S(xt-1,…)}=F([x-(xt-1,…)]/S(xt-1,…)).(2.5)’一般非線性時序模型:xt=(xt-1,xt-2,…;t,t-1,…)t=1,2,…(2.7)其中(…)也有參數(shù)與非參數(shù)型之區(qū)別,這也是不言自明的.顯然,(2.7)式既不是可加噪聲模型,也不屬于(2.6)式的帶條件異方差的模型.雖然,它可能具有條件異方差性質(zhì).相反,后兩者都是(2.7)式的特殊類型.雖說(2.7)式是更廣的模型形式,在文獻中卻很少被研究.只有雙線性模型作為它的一種特殊情況,在文獻中有些應(yīng)用和研究結(jié)果出現(xiàn).現(xiàn)寫出其模型于后,可供理解其雙線性模型的含義xt=j=1pjxt-j+j=1qjt-j+i=1Pj=1Qijt-ixt-j.2.非線性自回歸模型在前一小節(jié)中的(2.1)和(2.2)式就是非線性自回歸模型,而且屬于可加噪聲模型類.在這一小節(jié)里,我們將介紹幾種(2.2)式的常見的模型.函數(shù)后的線性自回歸模型:f(xt)=1f(xt-1)+2f(xt-2)+...+pf(xt-p)+t=1,2,…(2.8)其中f(.)是一元函數(shù),它有已知和未知的不同情況,不過總考慮單調(diào)增函數(shù)的情況,=(1,2,…,p)是未知參數(shù).在實際應(yīng)用中,{xt}是可獲得量測的序列.當f(.)是已知函數(shù)時,{f(xt)}也是可獲得量測的序列,于是只需考慮yt=f(xt)所滿足的線性AR模型yt=1yt-1+2yt-2+...+pyt-p+t,t=1,2,…(2.9)此時可不涉及非線性自回歸模型概念.在宏觀計量經(jīng)濟分析中,常常對原始數(shù)據(jù)先取對數(shù)后,再作線性自回歸模型統(tǒng)計分析,就屬于此種情況.這種先取對數(shù)的方法,不僅簡單,而且有經(jīng)濟背景的合理解釋,它反應(yīng)了經(jīng)濟增長幅度的量化規(guī)律.雖然在統(tǒng)計學(xué)中還有更多的變換可使用,比如Box-Cox變換,但是,由于缺少經(jīng)濟背景的合理解釋,很少被使用.由此看來,當f(.)有實際背景依據(jù)時,可以考慮使用(2.7)式的模型.當f(.)是未知函數(shù)時,{f(xt)}不是可量測的序列,于是只能考慮(2.8)模型.注意f(.)是單調(diào)函數(shù),可記它的逆變換函數(shù)為f-1(.),于是由(2.8)模型可得xt=f-1(1f(xt-1)+2f(xt-2+pf(xt-p)+t),t=1,2,…(2.9)’此式屬于(2.7)式的特殊情況,此類模型很少被使用.取而代之是考慮如下的模型xt=1f(xt-1)+2f(xt-2)+...+pf(xt-p)+tt=1,2,…(2.10)其中f(.)是一元函數(shù),也有已知和未知之分,可不限于單調(diào)增函數(shù).此式屬于(2.1)式的特殊情況,有一定的使用價值.當(2.10)式中的f(.)函數(shù)是已知時,此式還有更進一步的推廣模型,xt=1f1(xt-1,…,xt-s)+2f2(xt-1,…,xt-+...+pfp(xt-1,…,xt-s)+t,t=1,2,…(2.11)其中fk(…)(k=1,2,…,p)是已知的s元函數(shù).例如,以后將要多次提到的如下的模型:xt=1I(xt-1<0)xt-1+2I(xt-10)xt-1+t,t=1,2,…(2.12)其中I(.)是示性函數(shù).此模型是分段線性的,是著名的TAR模型的特殊情況.為了有助于理解它,我們寫出它的分段形式:xt=t=1,2,…請注意,(2.8)(2.10)和(2.11)式具有一個共同的特征,就是未知參數(shù)都以線性形式出現(xiàn)在模型中.這一特點在統(tǒng)計建模時帶來極大的方便.此類模型便于實際應(yīng)用.但是,對于{xt}而言不具有線性特性,所以,討論它們的平穩(wěn)解