多元列多元列

10.自協(xié)方差…平穩(wěn)向量過程(用此標(biāo)題是指弱平穩(wěn))在每個時刻t同時記錄多個隨機(jī)變量的取值時，我們就得到了多元時間序列,用｛町表示之，其中Yt=(yit，y2t，...,ynt)T,｛j為｛YJ的第j個分量序列?實(shí)際上,多元時間序列比一元時間序列具有更廣的應(yīng)用背景.而且，前幾章中關(guān)于一元序列的描述方法一般都可推廣到多元時間序列情況，Hamilton書的第10章有較仔細(xì)介紹.但是，將于一元序列的內(nèi)容推廣到多元情況時，會遇到各種各樣的困難.在此，我們將敘述其中的一些較重要的內(nèi)容.10.1向量自回歸導(dǎo)論.*向量自回歸(AR)模型定義:(VAR(p)，不同于VaR)Yt=c+G1Yt_1+G2Yt.2+...+^pYt.p+￡t，(10-1.4)其中｛以為n元白噪聲序列，它有如下性質(zhì)：Est=0，(10.1.5)E卒t’=C，E￡s￡t’=0，t#s，(10.1.6)其中Q為n階對稱正定方陣，et與｛Yt-1，Yt.2,???｝獨(dú)立.注意，(10.1.4)式中的Yt是n元向量,①j(j=1，2，...，p)是n階方陣.W*注釋說明:一般應(yīng)為半正定方陣；或?qū)懗蒠t=c+G1Yt_1+G2Yt-2+-..+^pYt-p+BHt，a0.1-4)’其中B為nxm(m<n)階矩，此時可要求nt有正定的方差陣，(為參數(shù)可識別，要求它是單位陣),如若不然，又可改寫B(tài)nt.這種寫法很重要，因?yàn)樗菰S(10.1.4)’模型中的某些分量模型為確定型的，即可無噪聲項.詳見后文.*中心化的VAR(p)模型:記Xt=Yt-EYtXt=G1Xt.1+^2Xt.2+...+^pXt.p+et.(10.1?8)*一階高元化VAR(1)方法:首先回顧第3章中如何將一元AR(p)模型W=)1W+???+)W+et，轉(zhuǎn)化為p元VAR(1)模型，即令?…?)fl)W)12pt10…00WA=………???,U=,Zt=:t-1<00…0>0Wt-p+1J于是一元人公0)模型等價于如下的p元VAR(1)模型：Zt^AZ/U%注意：此式中U￡t恰好是(10?1?4)’式中的Bnt項，具體來說，這里的U=B,n=p,m=1.這恰好說明引入(10.1.4)’式是有用的.重復(fù)上述方法，也可將(10?1?8)式轉(zhuǎn)化為高元VAR(1)模型.只須注意，在以上的A,UZ的定義公式中，分別用矩陣①j和相應(yīng)的向量代替?于是，可將(10.1.8)式的VAR(p)模型轉(zhuǎn)化為pxn(n是(10,1,8沖Xt維數(shù))元的VAR(1)模型，即&=FS+Vt，(10.1.11)其中記號&，F(xiàn)，Vt含義不言自明.(詳見書中(10.1.9)-(10.1.11)諸式?)*平穩(wěn)性條件:為了保證(10?1?8)式有平穩(wěn)解，系數(shù)矩陣Qs應(yīng)滿足如下的條件：det{I-Qx-①2x2-???-epxp榜0，對一切|x|<1a(10.1.13)*向量MA(8)表示:(即引入向量線性序列)重復(fù)第3章中的模型推演的方法，不難得到：在平穩(wěn)條件下,(10.1.11)式有解：&=F5t=Vt+FVm+F24…=￡k=08FVt-k.由此可見，f"It-p+1，的前n個分量即是Xt，它就是(10.1?8)式的解.由前式可知，它有如下形式X=￡k=08Wk￡t-k?(6.1.15)以上推論至少在理論上是成立的，若要給出系數(shù)矩陣wk的表達(dá)式，幾乎完全仿效一元情況，除了繁瑣外，并無實(shí)質(zhì)困難.(見(10.1.14)-(10.1.21)式)*分量模型:其一，對應(yīng)用者而言，從一元情況到多元情況,比從一元情況到二元情況，無太多實(shí)質(zhì)性差異.所以，以下不妨只討論二元情況.其二，在應(yīng)用時，必然要將(10.1.4)模型的每個分量的模型寫出.其實(shí)，這還不是不得不做的事，在模型擬合時，以及實(shí)際應(yīng)用中，其中還有很多值得討論的問題.在二元的VAR(p)模型中，有兩個分量的模型，它們是：Y1，t=C1+^11Y1，t-1+^12Y1，t-2+,..+^1pY1，t-p^21Y2，t-1+^22Y2，t-2+.,.+^2pY2，t-p+e1t，其中Y1t和Y2，t分別是二元向量Yt的第一和第二分量.另一個分量的模型完全類似，不必寫出了.請注意，上式的繁瑣符號，很有淹沒模型本質(zhì)之嫌！其實(shí),此時最便利的符號是：Yt=(xt，yy，xt=C1+a1Xt-1+a2xt-2+...+apXt-pb1yt-1+b2yt-2+...+bpyt-p+e1t，從此式清楚看出，上式前一個求和項：a1Xt-1+a2Xt-2+..-+apXt-p是一元平穩(wěn)序列｛%｝對其自身歷史的線性依賴關(guān)系；后一個求和項：砒心貴…心唄是一元平穩(wěn)序列｛xj對另一個一元平穩(wěn)序列｛yt｝歷史的線性依賴關(guān)系.對｛*｝也有類似的模型?(從略)*這里再一次重伸，即使對二元VAR(p)模型的兩個分量的模型而言，也可能有一個是無噪聲項的，當(dāng)然，也可能兩個都是有噪聲項的.但是，不能兩個都無噪聲項，那樣一來，就不是我們要討論的隨機(jī)序列了?不過，如果有一個是無噪聲項的，它會有特別的實(shí)際意義.由此不難看出，對多元情況的分量序列模型也有類似表達(dá).只不過有更多的外生變量而已.在某些應(yīng)用時，人們也可能只關(guān)心多元向量序列中的某一個分量模型(或幾個)，而不是關(guān)心每一個分量模型.對此情況，在文獻(xiàn)中常稱它為帶外生變量的一元AR混合模型.10.2向量過程的自協(xié)方差和收斂結(jié)果*向量過程的自協(xié)方差定義:考慮n元平穩(wěn)序列｛Yt｝,它的均值向量g=EYt,它的自協(xié)方差函數(shù)被定義如下：中E(Y「以丫^")',j=0,±1,±2,…(10.2.1)*注意，對多元平穩(wěn)序列｛^｝而言，(10.2.1)式右邊的(Yt-g)和(Yy"的次序是不容忽視的，因?yàn)椋?Yt__j-"是向量的轉(zhuǎn)置后的行向量，若與(Yt-g)互換次序,(10.2.1)式的取值就不同了.可見，一般說來，r_j=E(Yt_j-M)(Yt-"習(xí)j.請注意：當(dāng)j=0，r0=E(Yt-由(Yt")'=「0’?另一點(diǎn)是馬’=E%」")%-M)J=r_j.(10.2.2)請注意，對一元平穩(wěn)序列而言，無此麻煩，因?yàn)椋谝辉獣r，(Yt__j-g)J=(Yt..j-g).這一點(diǎn)差異，雖說是非本質(zhì)性的，但是也確實(shí)添了不少麻煩.下面做幾個演算：*VAR(1)的方差陣:由(10.1.11)式得&&’=(FS+Vt)(FS+Vt)’n矚’=電弘F’+VM’+腿F’+FJVt’，兩邊再求均值，可得￡=E備FEg’)F’+EVtVt’+Eg’)F’+FEW’)，利用et與｛Yt_1，Yt_2，..?｝獨(dú)立,和Est=0，則有(10.2.13)￡=FEF’+Q，其中Q=EVtVt’?*”日6)的Y-W方程:(10.2.13)滿足(10.1.8)式的平穩(wěn)解被稱為多元自回歸序列。它的自協(xié)方差函數(shù)rk滿足如下差分方程：「k-Q「k-1-①2「k-2-…-①p「k-p=0，對k>0.(10.2.13)’在上式中取k=0,1,2,...,P就可得到「『"…八與(10.1.8)式中未知參數(shù)的關(guān)系了.但是，此時求解方法復(fù)雜多了?*多元線性序列的自方差陣列:先做一點(diǎn)說明：書中的向量MA(q)過程(見(10.2.3)式---(10.2.5)式)，和MA(8)過程(見(10.2.6)-(10.2.7)式)，都是多元線性序列的特例，不再單獨(dú)敘述.這里僅敘述一般多元線性序列的自方差陣列?(見定理10.2)考慮如下多元線性序列W+ZkE&k.(P312)其中伉}為n元白噪聲，其性質(zhì)如前所述,p為n維向量洲k為n階方陣，于是有EY=p.「j=E(Yt-由(Y-j-p)’=E(Sk=0roVket-k)(^k=0ro^kSt-k-j)，=^k=0ro^s=0roVkE(et-ket-s-j，)W；，=二=08服聞’，j=0,1，2,…(p312)r-j=rj*，(由此可得匚j)*兩點(diǎn)補(bǔ)充說明:其一，如(10.1.6)式后面的注釋說明一樣(見(10?1?4)’式)，為了使得上述的多元線性序列具有更廣泛的實(shí)用性，應(yīng)當(dāng)說，wk為nxm(1<m<n)^矩陣，于是&}為m元白噪聲，此時可要求它的方差陣是正定的.(此為m元驅(qū)動輸入---n元輸出)其二，為了保證L的右邊的表達(dá)式是收斂的，有一種較寬的條件，即令p(Q)V為Q的最大本征值(譜半徑)，于是有「0=￡j=08WsQWs’<p(Q)Ej=08WsWs’<P(Q)Zj=0?P(VsVs，)In，其中P(WSWS’)與p(Q)含義相同,L為n階單位方陣，所以只要￡j=08p(WSWS’)V8.(類似一元的習(xí)=08吧2<8)就能保證L的右邊的表達(dá)式是收斂的.但是，為要保證L為絕對可和，則要求燦｝S絕對可和，這可保證遍歷性.這些內(nèi)容與一元很類似，詳見定理10.2.*多元濾子:記W(L)=Sj=0wVsLs,于是多元線性序列｛匕｝可寫成tY產(chǎn)p+w(L*t.(10.2.8)首先知道，書中稱上面的表式為濾子,似乎是強(qiáng)調(diào)W(L)有濾波作用.繼而又?jǐn)⑹隽硕ɡ?0.3,即，兩個可和的濾子聯(lián)合成新的濾子仍是可和的.具體來說，w(L)的系數(shù)如上所說是可和的，下一個也是可和的，即H(L)=Lj=0-HSLs,若令Xt=H(L)Yt=H(L)g+H(L)v(L)st,要證明,H(L)w(L)的系數(shù)也是可和的.(不難證明)只需注意H(L)v(L)et=H(L)Ej=08Wj%=Ek=08￡j=08HkWj%_k=Ss=0?(Sj=0sHs.jVj)et-s.為證明H(L)w(L)的系數(shù)陣｛習(xí)=神時*｝儼是絕對可和的，仍使用前邊用過的技巧：令Hj=vj=0,當(dāng)j<0時.余者推理雷同.*向量自回歸:書中重復(fù)出現(xiàn)這一小節(jié)的標(biāo)題內(nèi)容，欠佳.其實(shí)，在這里作者是要敘述向量自回歸自協(xié)方差的內(nèi)容?這一點(diǎn),我們已在前邊敘述過了，見VAR(p)的Y-W方程---(10213)’.除此而外,該書還有一點(diǎn)不足之處，就是在將(10.2.13)式化成(10.2.18)式時，使用了矩陣?yán)边\(yùn)算，忘了告知讀者「0的元素不完全是自由變量，即「0=「0’.所以，r0雖有n2個元素，但是，在(10.2.13)式中卻只有n(n+1)/2個分量方程，另外的n(n-1)/2個分量方程是重復(fù)的.所以說,(10?2?18)式只是理論上的表達(dá)式，不可實(shí)際使用.現(xiàn)舉一例說明之.*例子：一元AR(1)模型-----二元AR(1)模型(對比).一元AR(1)模型：wt=*wt-i+etY-W方程及解：丫0=物0+°2,(1)5瑚(1球)，*=虹(2)n/i=BW(1-e2),二元AR(1)模型：Wt=OXt-1+et,Y-W方程：r0=Qr0G’+C,(1)n(不易直接解出)「1=軻0,(2)ng「1「0-1解這〃兩個〃方程，不像一元情況那么簡單.首先，在未知方陣①和Q中，共有2x2(屬于①)+2(2+1)/2(屬于Q)=7個自由參數(shù)！然后再看以上〃兩個〃方程：在第一個矩陣方程中，由于兩邊都有對稱性，其分量方程只有3個(而不是4個).在第二個矩陣方程中，無對稱性，其分量方程有4個.可見在上面的〃兩個〃方程中,共有7個未知參數(shù)，和7個方程，而且不全是線性的.求解要比一元情況麻煩.下面繼續(xù)討論此例.先用第二個矩陣方程的解G=r1r0-1(此解可用求逆矩陣的程序)，代入它的前一方程可得「0書「0-1「0「0-1「1，+CnQ=「0-「1「0-1「扁1「1’.(*)在上面解方程中，r0=EX^?是正定的，否則將壓縮向量序列的維數(shù)，所以，在文獻(xiàn)中常取①=七.還須注意，以上的解只是得出參數(shù)陣①和c對「0和馬的依賴關(guān)系.求相反的依賴關(guān)系，較麻煩.(10.2.18)式雖不實(shí)用，但是它確實(shí)表達(dá)了相反的依賴關(guān)系.由此也可看出這種關(guān)系的復(fù)雜性.*在本節(jié)最后，再作幾點(diǎn)補(bǔ)充說明：其一，在此節(jié)書中，提到了VAR(p)和VMA(q)(甚至VMA?))模型，但是，未引入VARMA(p,q)模型，這是對的.不過，書中未講為什么不引入.按理應(yīng)當(dāng)給出說明，這不僅讓讀者知其然和所以然，更重要的是，在應(yīng)用中有引為借鑒之處?理由很簡單,因?yàn)閂ARMA(p,q)模型有不可識別性的缺點(diǎn),而在一元情況下，ARMA(p,q)模型是可識別,也就是說，此模型的結(jié)構(gòu)(確切說是自協(xié)方差結(jié)構(gòu))被模型的參數(shù)唯一確定.在多元情況下，并非如此.僅看以下一例即可.*考查以下2元人鳳1)模型Xt=AXt-i+et，其中您｝為2元白噪聲序列，A=]00].a0Vau7易見A2=0,于是有Xt=AXt-1+8t=A(AXt-2+8t-1)+et=Aet-1+gt,顯然上式是一個2元MA(1)模型，這表明以上兩模型是等價的，換句話說，它們不能被唯一確定的，又稱具有不可識別性.若非要使用多元ARMA模型去擬合數(shù)據(jù)序列時，就需要引入此類模型的典則型形式.在文獻(xiàn)中出現(xiàn)了不少的典則型方法，但是沒有一種被認(rèn)可為是方便的，也就沒有一種是通用的?讀者可參閱Christensen(1991).順便指出，此事的根源在于：一個非零的實(shí)數(shù)的平方一定不為零！但是,一個非零的方陣的平方不一定不為零方陣！請大家牢記,在實(shí)際應(yīng)用時，既可用VAR模型，又可用VMA模型，因?yàn)?，純AR,或純MA模型，都是可識別的.未經(jīng)典則型的多元ARMA模型一定不可亂用！其二，疏系數(shù)VAR(p)模型(subsetmodel):在實(shí)際應(yīng)用中，使用VAR(p)模型時，會遇到不少的麻煩，其中參數(shù)量太多就是一個，有時侯不僅麻煩，而且影響建模的精度.比如,n=5,p=12(月度數(shù)據(jù)常有如此p)時，在VAR(p)模型中共有pm+n(n+1)/2=12x25+5x6/2=315個參數(shù)！如果只有T=120個樣本(10年)，也就是說，共有nxT=5x120=600個數(shù)據(jù)值，要估計315個參數(shù).其精度如何??？此時使用疏系數(shù)VAR(p)模型猶為重要.所謂疏系數(shù)VAR(p)模型是指：模型(10.1.4)式中的系數(shù)矩陣O1,O2,…，Gp中的元素只有一部分是非零的，其它都是零.換句話說，(10.1.4)式的每個分量模型(見前文所述),形式上都與線性回歸模型相同，對于疏系數(shù)VAR(p)模型而言，在它的變元中,只有一部分的回歸系數(shù)是非零的.在實(shí)際應(yīng)用時，就是要識別哪些是非零的，如著名的逐步回歸選元方法,就是解決這一問題的方法?豈今為止，文獻(xiàn)中的選元方法不少于十種之多！可見它們有用武之地.我們曾對5元?dú)庀髷?shù)據(jù)做過疏系數(shù)VAR(p)模型彌合(建模)，在全模型有數(shù)百個參數(shù)的情況下，實(shí)際上只有19個參數(shù)被選定為非零參數(shù),其它絕大多數(shù)是零值.更值得指出的是:這種被建成的疏系數(shù)VAR（p）模型，那些非零的系數(shù)在模型（10.1.4）式中的位置和數(shù)值的正負(fù)，都有實(shí)際意義.其三，在定理10.4中，引入了矩陣?yán)边\(yùn)算.簡言之，就是將矩陣方程的每個分量方程寫出后，得到一組聯(lián)立方程，顯然，這組聯(lián)立方程的變量和系數(shù)，都是原矩陣方程中的變量或元素變化而來的?如所周知，求解線性聯(lián)立方程組時，與各方程的先后次序無關(guān).為了書寫方便，又能給出顯示性解的表達(dá)式，書中（見p314）將矩陣按其列向量次序先后排成一個向量，就稱為拉直運(yùn)算，記為vec（A）.于是就有了（10?2?18）（10?2.19）式?如前所說，（10?1?18）式中有太多的重復(fù)方程，不實(shí)用.這在以后介紹多元ARCH模型時，將使用把對稱方陣的上半部分拉宜的運(yùn)算，以避免有重復(fù)方程出現(xiàn).10.3向量過程的自協(xié)方差生成函數(shù):（略）我們對作者引入此節(jié)做以下說明：其一，為了克服譜函數(shù)表達(dá)式（6.1.2）式的收斂條件不一定總滿足的缺憾，引入自協(xié)方差生成函數(shù).注意，（6.1.1）式的收斂是無條件，因?yàn)樵冢??1?1）式中的級數(shù)函數(shù)是zj，|副＜1.而在（6?1?2）式中的級數(shù)函數(shù)是e如,|e-g|=1.其二，在時間序列分析中，譜函數(shù)具有重要作用，而不太關(guān)心其生成函數(shù)?（其實(shí)與統(tǒng)計中的母函數(shù)相似）.如前所述，在時間序列分析中，其譜表示理論是完善的，不太在意其一所言的缺憾.10.4向量過程的譜先作幾點(diǎn)說明.其一，將一元平穩(wěn)序列（自協(xié)方差和序列）的譜表式，推廣到多元平穩(wěn)序列,并無實(shí)質(zhì)性困難,詳見（10.4?1）-（10.4?11）式?（略）其二，不謀而合的是：該書此處也只考慮二元平穩(wěn)序列，而且，也分別用%和Yt代表第一和第二分量?（只是字母的大小寫不同）.這更便于大家閱讀.其三，周期圖或者樣本周期圖，也是形式上的簡單推廣，詳見（10.4.19）-（10.4.36）式?（略）其四，在此課中，我們只重點(diǎn)講述多元平穩(wěn)序列的譜分析中的某些不同于一元的內(nèi)容.*二元平穩(wěn)序列的譜是矩陣復(fù)函數(shù)列:用書中的記號，考慮二元平穩(wěn)序列｛*｝,yt,=(Xt,Yt),它的譜為Sy(?)=(1/2^)Zk=_OTOTrke-ik?,(10.4.3)注意，此時r-k^rk了，因此，不能導(dǎo)出Sy㈣有對稱性.于是乎二元平穩(wěn)序列的譜是矩陣復(fù)函數(shù)列.但是仍有Fk=fK^Sy(o)eikffldo.(10.4.4)*互協(xié)方差序列與互譜(交叉譜):首先將蚌表示如下：(Y(k)Y(k)'rk=XXXY.IY(k)Y(k))

YXYY其中｛Yx｝是一元平穩(wěn)序列｛Xt｝的自協(xié)方差序列,｛YXY｝是一元平穩(wěn)序列｛Xt｝與是一元平穩(wěn)序列｛Yt｝的互協(xié)方差序列.其它兩個元素不言自明.特別要寫出互協(xié)方差的表達(dá)式如下：YXY=E{(Xt+k-^X)(Yt-^Y)}"現(xiàn)在將(10.4.3)中的2x2階的方陣Sy(?)表示如下:Sy(?Sy(?)=(S(3)S(3))

YXYY其中Sxx(3)是一元平穩(wěn)序列｛XJ的譜?Sx/3)是一元平穩(wěn)序列｛%｝與一元平穩(wěn)序列｛^｝的互譜(交叉譜)，其它兩個元素不言自明.詳見(10.4.6)-(10.4.11)式.*向量線性序列的譜:Yt=^k=0TOVk8t-k=W(L)=互儼帖、％(p312)W(L)=習(xí)=08叩，SY(3)=(1/2丸)w(e&)C^(瞰).(10.4.40)(對比一元：SY@)=(b2/2丸)w(e-i3)w(eto)=(o2/2冗)|w(e-g)|2)*向量ARMA序列的譜:Sy(3)=(1/2冗)①-1(e-io)0(e-i?)Q?(ei?)Q-1(eira),(10.4.41)'其中0(ei?)=I-0iei?-02e2i?-^-OpCpio,0(eiQ)=I-0ieio-02e2io-^-0qeqio,**存在這樣的Q(&),它是可逆的，于是有Sy(o)=(1/2K)Q-i(e-io)0(e-io)Q?(ei?)O-i(eio)=(1/2^)O-i(e-io)Q-i(eio)Q(ei?)0(e-i?)Q0(eio)Q(eio)Q-i(eio)Q-i(eio).這后一表達(dá)式，又是一個向量ARMA序列的譜，由此可見，向量ARMA模型是不可識別的.在我們前面的例子中，Q(eim)=I-Aeio=Q(eio)，所以，Sy(?)=(i/2^)O-i(e-i?)QG-i(ei?)=(i/2^)G(e-i?)QG(ei?).當(dāng)｛x｝與｛yt｝獨(dú)立時，丫導(dǎo)=0,sxy(?)=0.可見，在一般情況下，它們刻畫了｛xt｝與｛yt｝的(線性)相依程度?現(xiàn)舉一例，既能說明此事，又讓大家接觸一點(diǎn)非線性序列.考慮如下的二元平穩(wěn)序列：xt=etet-i，yt=et2et-i￡t-2，中昌｝為正態(tài)白噪聲序列，且￡t~N(0,02).易驗(yàn)算：EXt=Est8t-i=0，EXt2=E￡t2E￡t-i2=b4，Eyt=Eet28t-iSt-2=0，Eyt2=Est4St-i28t-22=3o8，EXtXs=EetSt-ieses-i=0，當(dāng)t^s，Eyt=Eet2et-iSt-2Ss2es-ies-2=0，當(dāng)國可見，｛%｝和｛^｝都是平穩(wěn)序列，且均值為零，方差各自是04,和308.但是，它們都不是正態(tài)序列，因?yàn)樗鼈兪钦龖B(tài)序列的非線性變換生成的平穩(wěn)序列.現(xiàn)在看看它們的互協(xié)方差序列如何.ZxY(k)=EXt+kyt=E｛(et+ket+k-i)(et2et-iet-2)｝=0，當(dāng)虹」，

Yxy(-l)=EXt-1Yt=E((￡t-1￡t-2)(￡t2￡t-1￡t-2)}=E￡t2￡t_12￡t_22=CT6.將它們寫成二元平穩(wěn)序列｛%乂｝的自協(xié)方差陣列形式:f0f0b6何40:f00)r=，r=，r=-1〔00)，0I03b8)，i^b60),rk=0,其它k.將它們代入(10.4.3)式得到二元平穩(wěn)序列皿工｝的譜:Sxy㈣=Sxy㈣=2兀

3b8=Sxy*(?).我們再看看｛%｝和｛[｝在時差k=-1時的相關(guān)系數(shù)，即｛印和珥｝的互相關(guān)函數(shù)列在時差k=-1的取值：pXY(-1)=Yxy(-1)