時(shí)間序列分析-第四章 均值和自協(xié)方差函數(shù)的估計(jì)

第四章均值和自協(xié)方差函數(shù)的估計(jì)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)本章結(jié)構(gòu)均值的估計(jì)自協(xié)方差函數(shù)的估計(jì)白噪聲檢驗(yàn)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)§4.1均值的估計(jì)相合性中心極限定理收斂速度的模擬計(jì)算時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)均值、自協(xié)方差函數(shù)的作用AR,MA,ARMA模型的參數(shù)可以由自協(xié)方差函數(shù)唯一確定。有了樣本之后，可以先估計(jì)均值和自協(xié)方差函數(shù)。然后由均值和自協(xié)方差函數(shù)解出模型參數(shù)。均值和自協(xié)方差可以用矩估計(jì)法求。還要考慮相合性，漸進(jìn)分布，收斂速度等問題。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)均值估計(jì)公式設(shè)是平穩(wěn)列的觀測。

的點(diǎn)估計(jì)為把觀測樣本看成隨機(jī)樣本時(shí)記作大寫的時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)相合性設(shè)統(tǒng)計(jì)量是的估計(jì)，在統(tǒng)計(jì)學(xué)中有如下的定義1如果，則稱是的無偏估計(jì)。2如果當(dāng)則稱是的漸進(jìn)無偏估計(jì)。3如果依概率收斂到，則稱是的相合估計(jì)。4如果收斂到，則稱是的強(qiáng)相合估計(jì)。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)一般情況下，無偏估計(jì)比有偏估計(jì)來得好，對于由(1.1)定義的。有所以是均值的無偏估計(jì)。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)均值估計(jì)的相合性好的估計(jì)量起碼應(yīng)是相合的。否則，估計(jì)量不收斂到要估計(jì)的參數(shù)，它無助于實(shí)際問題的解決。對于平穩(wěn)序列，如果它的自協(xié)方差函數(shù)

收斂到零，則：時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)利用切比雪夫不等式得到依概率收斂到。于是是的相合估計(jì)。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)均值估計(jì)的性質(zhì)定理1.1設(shè)平穩(wěn)序列有均值和自協(xié)方差函數(shù)。則1是的無偏估計(jì)。2如果則

是的相合估計(jì)。3如果還是嚴(yán)平穩(wěn)遍歷序列，則是

的強(qiáng)相合估計(jì)。

時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)第三條結(jié)論利用1.5的遍歷定理5.1可得。

一般地，任何強(qiáng)相合估計(jì)一定是相合估計(jì)。

線性平穩(wěn)列的均值估計(jì)是相合估計(jì)。ARMA模型的均值估計(jì)是相合估計(jì)。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)獨(dú)立同分布樣本的中心極限定理若。則可以據(jù)此計(jì)算的置信區(qū)間。(1.3)其中的1.96也經(jīng)常用2近似代替。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)平穩(wěn)列的均值估計(jì)的中心極限定理定理1.2設(shè)是獨(dú)立同分布的，線性平穩(wěn)序列由(1.5)定義。其中平方可和。如果的譜密度(1.6)

在連續(xù)，并且則當(dāng)時(shí)，時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)推論當(dāng)絕對可和時(shí)，連續(xù)。推論1.3如果和成立，則當(dāng)時(shí)并且(1.7)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)收斂速度相合的估計(jì)量漸進(jìn)性質(zhì)除了是否服從中心極限定理外，還包括這個(gè)估計(jì)量的收斂速度。收斂速度的描述方法之一是所謂的重對數(shù)律。重對數(shù)律成立時(shí)，得到的收斂速度的階數(shù)一般是除了個(gè)別情況，這個(gè)階數(shù)一般不能再被改進(jìn)。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)收斂速度(2)定理1.4設(shè)是獨(dú)立同分布的。線性平穩(wěn)序列由(1.5)定義。譜密度。當(dāng)以下的條件之一成立時(shí)：1當(dāng)以負(fù)指數(shù)階收斂于0.2譜密度在連續(xù)。并且

對某個(gè)成立。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)則有重對數(shù)律(1.8)(1.9)易見重對數(shù)律滿足時(shí)

不收斂。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)AR(2)的均值計(jì)算令

考慮AR(2)模型為模擬方便設(shè)。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)AR(2)的均值計(jì)算(2)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)估計(jì)收斂性的模擬為了觀察時(shí)的收斂可以模擬L個(gè)值然后觀察的變化。為了研究固定N情況下的精度以至于抽樣分布。可以進(jìn)行M次獨(dú)立的隨機(jī)模擬，得到M個(gè)

的觀察值。這種方法對于難以得到估計(jì)量的理論分布的情況是很有用的。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)§4.2自協(xié)方差函數(shù)的估計(jì)自協(xié)方差估計(jì)公式及正定性

的相合性

的漸進(jìn)分布模擬計(jì)算時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)自協(xié)方差函數(shù)估計(jì)公式

(2.2)樣本自相關(guān)系數(shù)(ACF)估計(jì)為(2.3)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)自協(xié)方差函數(shù)估計(jì)公式估計(jì)一般不使用除了的估計(jì)形式：(2.4)因?yàn)椋?/p>

我們不對大的k值計(jì)算

更重要的是只有除以N的估計(jì)式才是正定的。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)樣本自協(xié)方差的正定性只要觀測不全相同則正定。令記(2.5)只要不全是零則A滿秩。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)樣本自協(xié)方差的正定性事實(shí)上，設(shè)則A矩陣左面會(huì)出現(xiàn)一個(gè)以值開始非零的斜面。顯然是滿秩的。故不全相同時(shí)正定。

作為的主子式也是正定的。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)

的相合性定理2.1設(shè)平穩(wěn)序列的樣本自協(xié)方差函數(shù)由式(2.2)或(2.4)定義。1如果當(dāng)時(shí)，則對每個(gè)確定的k，

是的漸進(jìn)無偏估計(jì)：時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)2如果是嚴(yán)平穩(wěn)遍歷序列。則對每個(gè)確定的k,和分別是和的強(qiáng)相合估計(jì)：時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)定理2.1的證明下面只對由(2.2)定義的樣本自協(xié)方差函數(shù)證明定理2.1。對由(2.4)定義的的證明是一樣的。

設(shè)則是零均值的平穩(wěn)序列。利用(2.7)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)定理2.1的證明時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)定理2.1的證明時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)只考慮線性序列。

設(shè)是4階矩有限的獨(dú)立同分布的

實(shí)數(shù)列平方可和。線性平穩(wěn)序列(2.8)

時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)

有自協(xié)方差函數(shù)(2.9)

有譜密度(2.10)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)設(shè)自協(xié)方差函數(shù)列平方可和。設(shè)為獨(dú)立同分布的。令定義正態(tài)時(shí)間序列(2.11)(2.12)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)樣本自協(xié)方差和自相關(guān)的中心極限定理定理2.2設(shè)是獨(dú)立同分布的。滿足。如果線性平穩(wěn)序列(2.8)的譜密度(2.10)平方可積：時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)則對任何正整數(shù)h，當(dāng)時(shí)，有以下結(jié)果1依分布收斂到2依分布收斂到

時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)自相關(guān)檢驗(yàn)的例子例2.1(接第三章例1.1)對MA(q)序列。利用定理2.2得到，只要當(dāng)依分布收斂到的分布。注意時(shí)，中的應(yīng)屬于，所以令有

時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)為期望為0，方差為的正態(tài)分布。在假設(shè)是MA(q)下，對m>q有時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)自相關(guān)檢驗(yàn)的例子現(xiàn)在用表示第三章例1.1中差分后的化學(xué)濃度數(shù)據(jù)。在是MA(q)下。用代替真值后分別對計(jì)算出時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)在q=0的假設(shè)下，所以應(yīng)當(dāng)否定q=0.時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)自相關(guān)檢驗(yàn)的例子實(shí)際工作中人們還計(jì)算概率

并且把p稱為檢驗(yàn)的p值。明顯p值越小，數(shù)據(jù)提供的否定原假設(shè)的依據(jù)越充分?，F(xiàn)在在下，近似服從標(biāo)準(zhǔn)正態(tài)分布。所以p值幾乎是零，因而必須拒絕是MA(0)的假設(shè)。

取q=1時(shí)，所以不能拒絕

是MA(1)的假設(shè)。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)譜密度平方可積的充要條件對于實(shí)際工作者來講譜密度平方可積的條件通常很難驗(yàn)證。于是希望能把定理2.2中譜密度平方可積的條件改加在自協(xié)方差函數(shù)的收斂速度上。定理2.3對于一平穩(wěn)序列它的自協(xié)方差函數(shù)平方可積的充分必要條件是它的譜密度平方可積。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)這個(gè)結(jié)論主要是利用實(shí)變函數(shù)論中Fourier級(jí)數(shù)的理論。只有證明時(shí)用了周期圖(如P.67定理3.1的證明，那里絕對可和)。證明略。推論2.4設(shè)是獨(dú)立同分布的白噪聲

滿足如果線性平穩(wěn)序列(2.8)的自協(xié)方差函數(shù)平方可和：則定理2.2中的結(jié)論成立。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)

快速收斂條件下的中心極限定理定理2.2要求白噪聲的方差有4階矩。下面關(guān)于線性平穩(wěn)序列的樣本自相關(guān)系數(shù)的中心極限定理不要求噪聲項(xiàng)的4階矩有限。定理2.5設(shè)是獨(dú)立同分布的線性平穩(wěn)序列由(2.8)定義。如果自協(xié)方差函數(shù)

平方可和，并且對某個(gè)常數(shù)(2.13)

時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)則對任何正數(shù)h.當(dāng)時(shí)，

依分布收斂到ARMA序列的滿足(2.13).ARMA序列的白噪聲列是獨(dú)立同分布序列時(shí)定理2.5結(jié)論成立。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)獨(dú)立同分布列的中心極限定理推論2.6如果是獨(dú)立同分布的白噪聲，

是樣本自相關(guān)系數(shù)，則對任何正整數(shù)h:1:

依分布收斂到多元標(biāo)準(zhǔn)正態(tài)分布這里

是的單位矩陣。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)2：如果則

依分布收斂到時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)推論2.6的證明對白噪聲，定理2.5的條件滿足。第二條滿足推論2.4的條件。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)AR(2)模型實(shí)例首先用圖形表示N不同時(shí)的誤差。然后重復(fù)M=1000次計(jì)算1000個(gè)的標(biāo)準(zhǔn)差(稱為標(biāo)準(zhǔn)誤差)。發(fā)現(xiàn)N增大時(shí)標(biāo)準(zhǔn)誤差減小。誤差隨N減小的速度為。根離單位圓近的模型其估計(jì)標(biāo)準(zhǔn)誤差大。時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)§4.3白噪聲檢驗(yàn)白噪聲的檢驗(yàn)樣本自相關(guān)置信區(qū)間檢驗(yàn)法時(shí)間序列分析-第四章均值和自協(xié)方差函數(shù)的估計(jì)白噪聲的檢驗(yàn)若是獨(dú)立同分布的白噪聲，根據(jù)推論2.6，N足夠大時(shí)

服從iid標(biāo)準(zhǔn)正態(tài)分布。于是近似服從分布。時(shí)間序列分析