第八講平穩(wěn)時(shí)間序列模型的建立

1、第八講第八講 平穩(wěn)時(shí)間序列模型的建立平穩(wěn)時(shí)間序列模型的建立 2 本節(jié)內(nèi)容本節(jié)內(nèi)容n第一節(jié)第一節(jié) 平穩(wěn)時(shí)間序列模型的識(shí)別平穩(wěn)時(shí)間序列模型的識(shí)別n第二節(jié)第二節(jié) 模型的定階模型的定階n第三節(jié)第三節(jié) ARMA模型參數(shù)估計(jì)模型參數(shù)估計(jì)n第四節(jié)第四節(jié) 模型的診斷檢驗(yàn)?zāi)Ｐ偷脑\斷檢驗(yàn)3建模建模建立時(shí)間序列建立時(shí)間序列應(yīng)用分析應(yīng)用分析診斷檢驗(yàn)診斷檢驗(yàn)參數(shù)估計(jì)參數(shù)估計(jì)模型識(shí)別模型識(shí)別平穩(wěn)序列的平穩(wěn)序列的ARMA建模步驟建模步驟 4n模型識(shí)別模型識(shí)別q用自相關(guān)圖和偏自相關(guān)圖識(shí)別模型形式用自相關(guān)圖和偏自相關(guān)圖識(shí)別模型形式 (p=? q=?) n參數(shù)估計(jì)參數(shù)估計(jì)q確定模型中的未知參數(shù)確定模型中的未知參數(shù)n模型檢驗(yàn)?zāi)Ｐ蜋z

2、驗(yàn)q包括參數(shù)的顯著性檢驗(yàn)和殘差的隨機(jī)性檢驗(yàn)包括參數(shù)的顯著性檢驗(yàn)和殘差的隨機(jī)性檢驗(yàn)n模型優(yōu)化模型優(yōu)化n序列預(yù)測(cè)序列預(yù)測(cè)注解：注解：5第一節(jié)第一節(jié) 平穩(wěn)時(shí)間序列模型的識(shí)別平穩(wěn)時(shí)間序列模型的識(shí)別n一、模型識(shí)別前的說明一、模型識(shí)別前的說明 n二、模型識(shí)別方法二、模型識(shí)別方法6一、模型識(shí)別前的說明一、模型識(shí)別前的說明n（一）關(guān)于非平穩(wěn)序列（一）關(guān)于非平穩(wěn)序列n本講所介紹的是對(duì)本講所介紹的是對(duì)零均值平穩(wěn)序列零均值平穩(wěn)序列建立建立ARMA模型，因此，在對(duì)實(shí)際的序列進(jìn)行模型識(shí)別之模型，因此，在對(duì)實(shí)際的序列進(jìn)行模型識(shí)別之前，應(yīng)首先檢驗(yàn)序列是否平穩(wěn)，若序列非平穩(wěn)，前，應(yīng)首先檢驗(yàn)序列是否平穩(wěn)，若序列非平穩(wěn)，應(yīng)先通過

3、適當(dāng)變換將其化為平穩(wěn)序列，然后再應(yīng)先通過適當(dāng)變換將其化為平穩(wěn)序列，然后再進(jìn)行模型識(shí)別。進(jìn)行模型識(shí)別。7n序列的非平穩(wěn)包括序列的非平穩(wěn)包括均值非平穩(wěn)均值非平穩(wěn)和和方差非平方差非平穩(wěn)。穩(wěn)。n均值非平穩(wěn)序列平穩(wěn)化的方法：差分變換。均值非平穩(wěn)序列平穩(wěn)化的方法：差分變換。n方差非平穩(wěn)序列平穩(wěn)化的方法：對(duì)數(shù)變換、方差非平穩(wěn)序列平穩(wěn)化的方法：對(duì)數(shù)變換、平方根變換等。平方根變換等。n序列平穩(wěn)性的檢驗(yàn)方法和手段主要有序列平穩(wěn)性的檢驗(yàn)方法和手段主要有：序序列趨勢(shì)圖、自相關(guān)圖、單位根檢驗(yàn)、非參列趨勢(shì)圖、自相關(guān)圖、單位根檢驗(yàn)、非參數(shù)檢驗(yàn)方法等等。數(shù)檢驗(yàn)方法等等。8（二）關(guān)于非零均值的平穩(wěn)序列（二）關(guān)于非零均值的平穩(wěn)序

4、列n非零均值的平穩(wěn)序列有兩種處理方法：非零均值的平穩(wěn)序列有兩種處理方法：n設(shè)設(shè)xt為一非零均值的平穩(wěn)序列，且有為一非零均值的平穩(wěn)序列，且有E(xt)=n方法一方法一: 用樣本均值用樣本均值 作為序列均值作為序列均值的估計(jì)，的估計(jì)，建模前先對(duì)序列作如下處理：建模前先對(duì)序列作如下處理： 令令 然后對(duì)零均值平穩(wěn)序列然后對(duì)零均值平穩(wěn)序列wt建模。建模。xxxwtt9n方法二方法二 在模型識(shí)別階段對(duì)序列均值是否為零不予在模型識(shí)別階段對(duì)序列均值是否為零不予考慮，而在參數(shù)估計(jì)階段，將序列均值作考慮，而在參數(shù)估計(jì)階段，將序列均值作為一個(gè)參數(shù)加以估計(jì)。為一個(gè)參數(shù)加以估計(jì)。一般而言，后一種方法擬合的效果較好。一般

5、而言，后一種方法擬合的效果較好。10 判斷時(shí)間序列是否是零均值的，即判斷給出的判斷時(shí)間序列是否是零均值的，即判斷給出的樣本序列樣本序列與零的差異是否有顯著性意義與零的差異是否有顯著性意義（是否顯著（是否顯著為零或顯著非零）。為零或顯著非零）。 （三）關(guān)于平穩(wěn)序列均值是否為零的檢驗(yàn)。（三）關(guān)于平穩(wěn)序列均值是否為零的檢驗(yàn)。11若顯著非零若顯著非零進(jìn)行零均值化進(jìn)行零均值化不進(jìn)行零均值化不進(jìn)行零均值化判斷平穩(wěn)性、判斷平穩(wěn)性、識(shí)別、估計(jì)、識(shí)別、估計(jì)、檢驗(yàn)等檢驗(yàn)等這時(shí)是將均值作為一個(gè)未知這時(shí)是將均值作為一個(gè)未知參數(shù)代入模型中，模型的形參數(shù)代入模型中，模型的形式也將會(huì)有所改變，參數(shù)估式也將會(huì)有所改變，參數(shù)估

6、計(jì)時(shí)，需估計(jì)序列的均值。計(jì)時(shí)，需估計(jì)序列的均值。12n方法一方法一 檢驗(yàn)檢驗(yàn) =E(xt)=0 可可將將樣本均值樣本均值 和均值的標(biāo)準(zhǔn)差和均值的標(biāo)準(zhǔn)差 進(jìn)行比進(jìn)行比較，若樣本均值落在較，若樣本均值落在 的范圍內(nèi)，則可認(rèn)為的范圍內(nèi)，則可認(rèn)為是零均值過程。是零均值過程。 xxSxS2013三種模型的均值的方差：三種模型的均值的方差： 110101121NNXVarkk)1)(1()21)(1(2122110NXVar)21(10NXVar)221 (210NXVar)()2(2121210NXVarAR(1)AR(2)MA(1)MA(2)ARMA(1,1)144. 識(shí)別：首先，粗略地得到試探性模型

7、（可能是一類，也識(shí)別：首先，粗略地得到試探性模型（可能是一類，也可能是幾個(gè)不同類的模型）；然后對(duì)這些模型分別進(jìn)行擬可能是幾個(gè)不同類的模型）；然后對(duì)這些模型分別進(jìn)行擬合和檢驗(yàn)；最后改進(jìn)和簡(jiǎn)化模型，使模型既簡(jiǎn)約又能最好合和檢驗(yàn)；最后改進(jìn)和簡(jiǎn)化模型，使模型既簡(jiǎn)約又能最好地反映序列的特性。地反映序列的特性。 1. 模型識(shí)別既是模型建立中的一個(gè)重要步驟也是一個(gè)過程模型識(shí)別既是模型建立中的一個(gè)重要步驟也是一個(gè)過程 2. 一個(gè)具體的時(shí)間序列分析問題：一個(gè)具體的時(shí)間序列分析問題：a.根據(jù)所研究問題獲得數(shù)根據(jù)所研究問題獲得數(shù)據(jù)建立時(shí)間序列；據(jù)建立時(shí)間序列；b.根據(jù)時(shí)間序列的特點(diǎn)建立時(shí)間序列模型；根據(jù)時(shí)間序列的特

8、點(diǎn)建立時(shí)間序列模型；c.對(duì)通過檢驗(yàn)的模型進(jìn)行應(yīng)用；對(duì)通過檢驗(yàn)的模型進(jìn)行應(yīng)用；d.對(duì)應(yīng)用結(jié)果進(jìn)行分析。對(duì)應(yīng)用結(jié)果進(jìn)行分析。 3. 模型建立識(shí)別估計(jì)模型建立識(shí)別估計(jì)+診斷檢驗(yàn)，反復(fù)至最后診斷檢驗(yàn)，反復(fù)至最后 二、模型識(shí)別方法二、模型識(shí)別方法15（一）平穩(wěn)序列模型識(shí)別要領(lǐng)（一）平穩(wěn)序列模型識(shí)別要領(lǐng)n零均值平穩(wěn)序列模型識(shí)別的主要根據(jù)是序列的自相關(guān)零均值平穩(wěn)序列模型識(shí)別的主要根據(jù)是序列的自相關(guān)函數(shù)函數(shù)(ACF)和偏自相關(guān)函數(shù)和偏自相關(guān)函數(shù)(PACF)的特征。的特征。n若序列若序列xt 的偏自相關(guān)函數(shù)的偏自相關(guān)函數(shù) 在在k p以后以后截尾，截尾，即即kp 時(shí)，時(shí)， ，而且它的自相關(guān)函數(shù)，而且它的自相關(guān)函數(shù)

9、 拖尾拖尾，則可判，則可判斷此序列是斷此序列是AR(p)序列序列。kk0kkk16n若序列若序列xt的自相關(guān)函數(shù)的自相關(guān)函數(shù) 在在kq以后以后截尾截尾，即，即kq 時(shí)，時(shí)， ，而且它的偏自相關(guān)函數(shù)，而且它的偏自相關(guān)函數(shù) 拖尾拖尾，則可判，則可判斷此序列是斷此序列是MA(q)序列序列。n若序列若序列xt的自相關(guān)函數(shù)、偏相關(guān)函數(shù)都呈的自相關(guān)函數(shù)、偏相關(guān)函數(shù)都呈拖尾形態(tài)拖尾形態(tài)，則可斷言此序列是則可斷言此序列是ARMA序列序列。n若序列的自相關(guān)函數(shù)和偏自相關(guān)函數(shù)若序列的自相關(guān)函數(shù)和偏自相關(guān)函數(shù)不但都不截尾不但都不截尾，而且至少有一個(gè)下降趨勢(shì)勢(shì)緩慢或呈周期性衰減，而且至少有一個(gè)下降趨勢(shì)勢(shì)緩慢或呈周期性

10、衰減，則可認(rèn)為它則可認(rèn)為它也不是拖尾的也不是拖尾的，此時(shí)序列，此時(shí)序列是非平穩(wěn)序列是非平穩(wěn)序列，應(yīng)先將其轉(zhuǎn)化為平穩(wěn)序列后再進(jìn)行模型識(shí)別。應(yīng)先將其轉(zhuǎn)化為平穩(wěn)序列后再進(jìn)行模型識(shí)別。kk0kk17（二）用自相關(guān)函數(shù)和偏自相關(guān)函數(shù)識(shí)別（二）用自相關(guān)函數(shù)和偏自相關(guān)函數(shù)識(shí)別 1. 模型識(shí)別的依據(jù)模型識(shí)別的依據(jù) 選擇模型選擇模型拖尾拖尾P階截尾階截尾AR(P)q階截尾階截尾拖尾拖尾MA(q)拖尾拖尾拖尾拖尾ARMA(p,q)kkk182. 這種識(shí)別方法的優(yōu)缺點(diǎn)：這種識(shí)別方法的優(yōu)缺點(diǎn)： 優(yōu)點(diǎn)：優(yōu)點(diǎn)：簡(jiǎn)單易懂，易于操作，應(yīng)用廣泛。簡(jiǎn)單易懂，易于操作，應(yīng)用廣泛。缺點(diǎn)：缺點(diǎn)：精度不夠，特別是序列長(zhǎng)度不足夠長(zhǎng)時(shí)。精度

11、不夠，特別是序列長(zhǎng)度不足夠長(zhǎng)時(shí)。 這是因?yàn)檫@是因?yàn)椋?）識(shí)別時(shí)用的是自相關(guān)函數(shù)和自協(xié)方差函數(shù)的樣本）識(shí)別時(shí)用的是自相關(guān)函數(shù)和自協(xié)方差函數(shù)的樣本估計(jì)值，它們與理論值有一定差異；估計(jì)值，它們與理論值有一定差異；（2）對(duì)高階）對(duì)高階ARMA模型的識(shí)別，顯得有些力不從心。模型的識(shí)別，顯得有些力不從心。改進(jìn)措施：改進(jìn)措施：可利用自相關(guān)和自協(xié)方差函數(shù)做初步識(shí)可利用自相關(guān)和自協(xié)方差函數(shù)做初步識(shí)別，再結(jié)合其他方法確定模型。別，再結(jié)合其他方法確定模型。 193. 自相關(guān)和偏自相關(guān)函數(shù)估計(jì)值的截尾和拖尾性判斷自相關(guān)和偏自相關(guān)函數(shù)估計(jì)值的截尾和拖尾性判斷 (1)自相關(guān)函數(shù)和偏自相關(guān)函數(shù)的估計(jì)值的漸近分布自相關(guān)函數(shù)和

12、偏自相關(guān)函數(shù)的估計(jì)值的漸近分布 )21(1,012qjjkNN)N1, 0(Nkk在進(jìn)行模型識(shí)別在進(jìn)行模型識(shí)別(主要是考慮自相關(guān)函數(shù)和偏自相關(guān)函主要是考慮自相關(guān)函數(shù)和偏自相關(guān)函數(shù)的截尾和拖尾性數(shù)的截尾和拖尾性)時(shí)，要用到自相關(guān)和偏自相關(guān)估計(jì)時(shí)，要用到自相關(guān)和偏自相關(guān)估計(jì)的標(biāo)準(zhǔn)差的標(biāo)準(zhǔn)差自相關(guān)函數(shù)自相關(guān)函數(shù)q步截尾，步截尾，當(dāng)當(dāng)kq時(shí)，有時(shí)，有偏自相關(guān)函數(shù)偏自相關(guān)函數(shù)p步截尾，步截尾，當(dāng)當(dāng)kp時(shí)，有時(shí)，有20截尾：截尾：從某一步從某一步q開始與零是否有顯著性差別的顯著開始與零是否有顯著性差別的顯著性檢驗(yàn)。若從某一步性檢驗(yàn)。若從某一步q開始與零無顯著性差別，即為開始與零無顯著性差別，即為截尾。觀察

13、是否落入截尾。觀察是否落入2倍標(biāo)準(zhǔn)差范圍內(nèi)，若是，則與倍標(biāo)準(zhǔn)差范圍內(nèi)，若是，則與零無顯著性差別，即為截尾。零無顯著性差別，即為截尾。 拖尾：拖尾：在不長(zhǎng)時(shí)間內(nèi)收斂，逐漸衰減至零附近。在不長(zhǎng)時(shí)間內(nèi)收斂，逐漸衰減至零附近。 既不截尾也不拖尾：無上述特征，呈明顯緩慢衰減既不截尾也不拖尾：無上述特征，呈明顯緩慢衰減或周期性衰減。這說明序列是非平穩(wěn)的?；蛑芷谛运p。這說明序列是非平穩(wěn)的。 (2)截尾、拖尾性的判斷截尾、拖尾性的判斷21即如果自相關(guān)函數(shù)是即如果自相關(guān)函數(shù)是q階截尾的，當(dāng)階截尾的，當(dāng)kq時(shí)，自相關(guān)時(shí)，自相關(guān)估計(jì)值的方差滿足估計(jì)值的方差滿足)21 (1)var(12qvvkNr(kq)var(

14、20kr如果自相關(guān)估計(jì)值在如果自相關(guān)估計(jì)值在 范圍內(nèi)，可范圍內(nèi)，可看成是截尾的?？闯墒墙匚驳?。22由前兩點(diǎn)，所以可能模型還有：由前兩點(diǎn)，所以可能模型還有：ARMA(1,1)-ACF拖尾、拖尾、PACF拖尾拖尾可能模型可能模型 有：有：AR(1)：ACF拖尾、拖尾、PACF一步截尾一步截尾MA(1)：ACF一步截尾、一步截尾、PACF拖尾拖尾23第二節(jié)第二節(jié) 模型定階模型定階 一、自相關(guān)和偏自相關(guān)函數(shù)定階法一、自相關(guān)和偏自相關(guān)函數(shù)定階法二、殘差方差圖定階法二、殘差方差圖定階法三、三、 F檢驗(yàn)定階法檢驗(yàn)定階法四、四、 最佳準(zhǔn)則函數(shù)定階法最佳準(zhǔn)則函數(shù)定階法(AIC、FPE、BIC準(zhǔn)則準(zhǔn)則)24一、一

15、、 自相關(guān)和偏自相關(guān)函數(shù)定階法自相關(guān)和偏自相關(guān)函數(shù)定階法 模型模型自相關(guān)系數(shù)自相關(guān)系數(shù)(ACF)k偏自相關(guān)系數(shù)偏自相關(guān)系數(shù)(PACF) kkAR (p)拖尾拖尾p階截尾階截尾MA(q)q階截尾階截尾拖尾拖尾ARMA(p,q)拖尾拖尾拖尾拖尾n 原理：原理：25n缺點(diǎn)：缺點(diǎn)：理論上理論上ACF和和PACF是未知的是未知的n彌補(bǔ)：彌補(bǔ)：用樣本的自相關(guān)系數(shù)用樣本的自相關(guān)系數(shù) 和偏自相關(guān)系數(shù)和偏自相關(guān)系數(shù) 近近似代替似代替n假設(shè)序列的樣本觀測(cè)值為假設(shè)序列的樣本觀測(cè)值為x1,x2,xT，則有：，則有：kkkn樣本自相關(guān)系數(shù)樣本自相關(guān)系數(shù)n樣本偏自相關(guān)系數(shù)樣本偏自相關(guān)系數(shù)121()()()T ktt kt

16、kTttxxxxxxDDkkk26n基本原則基本原則 選擇模型選擇模型拖尾拖尾p階截尾階截尾AR(p)q階截尾階截尾拖尾拖尾MA(q)拖尾拖尾拖尾拖尾ARMA(p,q)kkk27模型定階的困難n由于樣本的隨機(jī)性，樣本的相關(guān)系數(shù)不會(huì)呈現(xiàn)出理論截尾由于樣本的隨機(jī)性，樣本的相關(guān)系數(shù)不會(huì)呈現(xiàn)出理論截尾的完美情況，本應(yīng)截尾的的完美情況，本應(yīng)截尾的 或或 會(huì)呈現(xiàn)出小值振蕩的情況。會(huì)呈現(xiàn)出小值振蕩的情況。n由于平穩(wěn)時(shí)間序列通常都具有短期相關(guān)性，隨著延遲階數(shù)由于平穩(wěn)時(shí)間序列通常都具有短期相關(guān)性，隨著延遲階數(shù)k， 與與 都會(huì)衰減至零值附近作小值波動(dòng)。都會(huì)衰減至零值附近作小值波動(dòng)。？當(dāng)當(dāng) 或或 在延遲若干階之后衰

17、減為小值波動(dòng)時(shí)，什么情在延遲若干階之后衰減為小值波動(dòng)時(shí)，什么情況下該看作為相關(guān)系數(shù)截尾，什么情況下該看作拖尾呢？況下該看作為相關(guān)系數(shù)截尾，什么情況下該看作拖尾呢？ kkkkkkkkk28樣本相關(guān)系數(shù)的近似分布nBarlett：nQuenouille：n95的置信區(qū)間：的置信區(qū)間： 模型定階的經(jīng)驗(yàn)方法：模型定階的經(jīng)驗(yàn)方法：利用利用2倍標(biāo)準(zhǔn)差輔助判斷倍標(biāo)準(zhǔn)差輔助判斷1 (0,) ,kNTT 1(0,) ,kkNTT 22P95.5%22P95.5%kkkTTTT29模型定階經(jīng)驗(yàn)方法模型定階經(jīng)驗(yàn)方法303031318.18.18.132328.18.18.133338.28.234348.38.38

18、.335358.4363626. 06012122T倍的標(biāo)準(zhǔn)差偏37二、殘差方差圖定階法二、殘差方差圖定階法1. 原理：原理： 最小的殘差方差對(duì)應(yīng)真實(shí)階數(shù)最小的殘差方差對(duì)應(yīng)真實(shí)階數(shù) 2. 方法：方法： 利用殘差方差圖確定階數(shù)利用殘差方差圖確定階數(shù) 個(gè)數(shù)實(shí)際觀察值個(gè)數(shù)參數(shù)Q2a以階數(shù)為橫軸、以殘差方差為縱軸作圖，尋以階數(shù)為橫軸、以殘差方差為縱軸作圖，尋找最小殘差方差對(duì)應(yīng)的階數(shù)。找最小殘差方差對(duì)應(yīng)的階數(shù)。383. 殘差方差的計(jì)算：殘差方差的計(jì)算：個(gè)數(shù)實(shí)際觀察值個(gè)數(shù)參數(shù)Q2a),.,., () 1()(),(:),., () 1()(:) 1()()., ()(:21, 2, 12212, 2, 1

19、2mnamanaQmnnNmnARMAQmNmMAnnNQnAR模型的剩模型的剩余平方和余平方和394. 優(yōu)缺點(diǎn)優(yōu)缺點(diǎn)： 優(yōu)點(diǎn)：優(yōu)點(diǎn)：簡(jiǎn)單直觀，易于理解；簡(jiǎn)單直觀，易于理解；缺點(diǎn)：缺點(diǎn)：有一定的主觀性有一定的主觀性 40三、三、 F檢驗(yàn)定階法檢驗(yàn)定階法 原理：原理： 用用F檢驗(yàn)來檢驗(yàn)兩個(gè)回歸模型是否有顯著差異檢驗(yàn)來檢驗(yàn)兩個(gè)回歸模型是否有顯著差異) rN, s (FrNQsQQ001單尾檢驗(yàn)，拒絕域在右尾單尾檢驗(yàn)，拒絕域在右尾當(dāng)計(jì)算得到的當(dāng)計(jì)算得到的F值大于臨界值時(shí)，拒絕原假設(shè)，值大于臨界值時(shí)，拒絕原假設(shè)，認(rèn)為兩模型有顯著差異。認(rèn)為兩模型有顯著差異。41n1967年，瑞典控制論專家年，瑞典控制論

20、專家K.J.Astrm教授將教授將F檢驗(yàn)準(zhǔn)則用于對(duì)時(shí)間序檢驗(yàn)準(zhǔn)則用于對(duì)時(shí)間序列模型的定階。列模型的定階。n設(shè)設(shè)Xt(1tN)是零均值平穩(wěn)序列，用模型是零均值平穩(wěn)序列，用模型AR模型擬合模型擬合n檢驗(yàn)統(tǒng)計(jì)量：檢驗(yàn)統(tǒng)計(jì)量：n結(jié)論結(jié)論q若若FF，則拒絕原假設(shè)，認(rèn)為，則拒絕原假設(shè)，認(rèn)為AR(p)合適；合適；q若若FF ，則拒絕原假設(shè)，模型階數(shù)仍有上升的可能；，則拒絕原假設(shè)，模型階數(shù)仍有上升的可能；q若若F2，所以由所以由BIC準(zhǔn)則確定的階數(shù)準(zhǔn)則確定的階數(shù)不大于由不大于由AIC準(zhǔn)則確定的階數(shù)。準(zhǔn)則確定的階數(shù)。 536. 實(shí)例分析實(shí)例分析 n12345殘差方差FPEAICBIC10.8921.5471.5

21、630.4460.46321.471-0.6560.8850.903-0.102-0.06931.387-0.471-0.1270.8710.898-0.108-0.05941.383-0.486-0.081-0.0330.8700.906-0.098-0.03351.383-0.483-0.073-0.0590.0190.8700.915-0.089-0.007一個(gè)零均值平穩(wěn)序列的一個(gè)零均值平穩(wěn)序列的200個(gè)觀察值擬合個(gè)觀察值擬合AR模型結(jié)果模型結(jié)果如下：如下：請(qǐng)根據(jù)上面的擬合結(jié)果確定最優(yōu)模型請(qǐng)根據(jù)上面的擬合結(jié)果確定最優(yōu)模型 54第三節(jié)第三節(jié) 模型參數(shù)估計(jì)模型參數(shù)估計(jì)一、模型參數(shù)估計(jì)的幾種方

22、法一、模型參數(shù)估計(jì)的幾種方法 常用的參數(shù)估計(jì)方法有：常用的參數(shù)估計(jì)方法有： 矩估計(jì)、極大似然估計(jì)、貝葉斯估計(jì)、矩估計(jì)、極大似然估計(jì)、貝葉斯估計(jì)、最小二乘估計(jì)等最小二乘估計(jì)等 55二、模型參數(shù)的相關(guān)矩估計(jì)二、模型參數(shù)的相關(guān)矩估計(jì) 1. 矩估計(jì)：矩估計(jì)： 用樣本矩去估計(jì)總體相應(yīng)的矩。用樣本矩去估計(jì)總體相應(yīng)的矩。 是一種簡(jiǎn)單粗略的估計(jì)，但可提供迭代估計(jì)時(shí)的初值是一種簡(jiǎn)單粗略的估計(jì)，但可提供迭代估計(jì)時(shí)的初值 優(yōu)點(diǎn)：優(yōu)點(diǎn)：簡(jiǎn)單易懂，便于計(jì)算簡(jiǎn)單易懂，便于計(jì)算 缺點(diǎn)：缺點(diǎn)：有效性和精度不夠有效性和精度不夠 562. 模型參數(shù)的矩估計(jì)模型參數(shù)的矩估計(jì)(初估計(jì)初估計(jì)) （1）AR模型參數(shù)的矩估計(jì)模型參數(shù)的矩估

23、計(jì) (AR(k)過程過程)根據(jù)根據(jù)Yule-Walker方程方程 kkkkkkkkk2121021201110kkkkkkkkk21102120111021 可以得到：可以得到：,2211kkkkk又有又有57201 122kka 20112201 (1)kakkiii 又有：又有：可得：可得：例例1：求：求AR(1)模型參數(shù)的矩估計(jì)模型參數(shù)的矩估計(jì) )1 (;210110211a58例：求例：求AR( 2)模型參數(shù)的矩估計(jì)模型參數(shù)的矩估計(jì)21112121101102111112121222121111)1 ()1 (22110221102a由由可得：可得：59（2）MA模型參數(shù)的矩估計(jì)模型參

24、數(shù)的矩估計(jì) 在考察模型的自協(xié)方差時(shí)我們得到在考察模型的自協(xié)方差時(shí)我們得到MA(m)模型的自協(xié)方差如下：模型的自協(xié)方差如下：222201221 122(1)()(4.3.5)1,2,makkkkmm kakm 這是一個(gè)由這是一個(gè)由m+1個(gè)方程構(gòu)成的非線性方程組。個(gè)方程構(gòu)成的非線性方程組。 常用的求解方法有三種：直接法、線性迭代法和常用的求解方法有三種：直接法、線性迭代法和Newton-Raphson算法。算法。 60直接法直接法例：求例：求MA(1) 模型參數(shù)的矩估計(jì)模型參數(shù)的矩估計(jì)2111121141122411 模型參數(shù)雖然有模型參數(shù)雖然有2個(gè)估計(jì)值，但符合可逆?zhèn)€估計(jì)值，但符合可逆性條件的參

25、數(shù)估計(jì)值是唯一的。性條件的參數(shù)估計(jì)值是唯一的。21112114112241101121161n用直接計(jì)算法，需要解用直接計(jì)算法，需要解2m次方程，在次方程，在m3時(shí)，解高階方時(shí)，解高階方程非常困難，一般只能用數(shù)值解法。程非常困難，一般只能用數(shù)值解法。n線性迭代法線性迭代法 上式可以等價(jià)地寫成：上式可以等價(jià)地寫成： 202211121.amkkkmmka 給定參數(shù)的一組初始值，代入上兩式的右邊，左邊給定參數(shù)的一組初始值，代入上兩式的右邊，左邊得到的值為一步迭代值，以此類推，直到相鄰兩次得到的值為一步迭代值，以此類推，直到相鄰兩次迭代值結(jié)果差別不大時(shí)停止，得到近似解。迭代值結(jié)果差別不大時(shí)停止，得到

26、近似解。62（3）ARMA模型參數(shù)的矩估計(jì)模型參數(shù)的矩估計(jì) ARMA(m,n)模型：模型： ntntttmtmtttaaaaXXXX22112211一般矩估計(jì)的方法：一般矩估計(jì)的方法： 第一步：解自回歸部分的參數(shù)第一步：解自回歸部分的參數(shù)m,2163方法：方法：方程兩邊同乘以方程兩邊同乘以Xt-k，然后同求數(shù)學(xué)期望，得到然后同求數(shù)學(xué)期望，得到:0,0, 1)(,)(, 1)(, 02211112112022112123120111201122211022110nmmnmnmnmnmnnnanmnmnnnannmmannmmmnknkGnkGGGGkGGGGk64第二步：令第二步：令 mtmtt

27、ttXXXXY2211再求其方差和協(xié)方差再求其方差和協(xié)方差（方程兩邊同乘以（方程兩邊同乘以Yt-k，然后同求數(shù)學(xué)期望）然后同求數(shù)學(xué)期望） 得：得： )()(000tmjmiijjitYYVar,0( )mktijkj ii jY Y Yt t的協(xié)方差記為：的協(xié)方差記為：Yt 的的樣本自協(xié)方差可由樣本自協(xié)方差可由X X的自協(xié)方差和參數(shù)的自協(xié)方差和參數(shù)估計(jì)計(jì)算得出。估計(jì)計(jì)算得出。65第三步：解第三步：解 n,21有：有： tntntttYaaaa2211用前面介紹的用前面介紹的MA模型的矩估計(jì)可得解：模型的矩估計(jì)可得解：nkYYaknnkkktkant, 2 , 1)()()1 ()(222112

28、22221066例：例：ARMA(1,1)模型參數(shù)的矩估計(jì)模型參數(shù)的矩估計(jì) 22111210121a221111111)1)(a211kkk211kkk12112a67第四節(jié)第四節(jié) 模型的適應(yīng)性檢驗(yàn)?zāi)Ｐ偷倪m應(yīng)性檢驗(yàn)?zāi)Ｐ偷倪m應(yīng)性檢驗(yàn)：模型的適應(yīng)性檢驗(yàn)： 模型是否完全或基本上解釋了系統(tǒng)的動(dòng)態(tài)性；模型是否完全或基本上解釋了系統(tǒng)的動(dòng)態(tài)性； at是否是一白噪聲序列；是否是一白噪聲序列； 關(guān)鍵是關(guān)鍵是at的獨(dú)立性檢驗(yàn)。的獨(dú)立性檢驗(yàn)。 68主要介紹的模型適應(yīng)性檢驗(yàn)的方法有：主要介紹的模型適應(yīng)性檢驗(yàn)的方法有： 一、一、 散點(diǎn)圖法散點(diǎn)圖法 二、估計(jì)相關(guān)系數(shù)法二、估計(jì)相關(guān)系數(shù)法 三、三、 F檢驗(yàn)檢驗(yàn) 四、四、 檢

29、驗(yàn)法檢驗(yàn)法 269一、一、 散點(diǎn)圖法散點(diǎn)圖法 通過通過at對(duì)對(duì)at-j和和at對(duì)對(duì)Xt-j的散點(diǎn)圖檢驗(yàn)的散點(diǎn)圖檢驗(yàn)at 的獨(dú)立性。的獨(dú)立性。 如果兩類散點(diǎn)圖都呈現(xiàn)出不相關(guān)的趨勢(shì)，則可如果兩類散點(diǎn)圖都呈現(xiàn)出不相關(guān)的趨勢(shì)，則可以認(rèn)為以認(rèn)為at是獨(dú)立的，也即模型是適合的。是獨(dú)立的，也即模型是適合的。優(yōu)缺點(diǎn)：優(yōu)缺點(diǎn)：簡(jiǎn)單易懂，容易操作，但有一定主觀性，簡(jiǎn)單易懂，容易操作，但有一定主觀性，較粗略。較粗略。70二、估計(jì)相關(guān)系數(shù)法二、估計(jì)相關(guān)系數(shù)法 計(jì)算計(jì)算at和和at-j的相關(guān)系數(shù)以及的相關(guān)系數(shù)以及at和和Xt-j的相關(guān)系數(shù)，的相關(guān)系數(shù)，通過相關(guān)系數(shù)來判斷通過相關(guān)系數(shù)來判斷at的獨(dú)立性的獨(dú)立性。 如果相關(guān)

30、系數(shù)都較?。ń^對(duì)值小于如果相關(guān)系數(shù)都較?。ń^對(duì)值小于0.1），即），即可認(rèn)為可認(rèn)為at滿足獨(dú)立性。滿足獨(dú)立性。 優(yōu)缺點(diǎn)：優(yōu)缺點(diǎn)：同散點(diǎn)圖法。簡(jiǎn)單易懂，容易操作，但有同散點(diǎn)圖法。簡(jiǎn)單易懂，容易操作，但有一定主觀性，較粗略。一定主觀性，較粗略。71例例1： N250，由樣本的由樣本的ACF和和PACF圖判斷模型為圖判斷模型為AR模型。模型。（1）擬合）擬合AR(1)模型，模型，然后作殘差數(shù)據(jù)圖、然后作殘差數(shù)據(jù)圖、 作作at對(duì)對(duì)at-1和和at對(duì)對(duì)Xt-2的散點(diǎn)圖，的散點(diǎn)圖， 計(jì)算計(jì)算at對(duì)對(duì)at-1和和at對(duì)對(duì)Xt-2的相關(guān)系數(shù)；的相關(guān)系數(shù)；（2）擬合）擬合AR(2)模型，模型，然后作殘差數(shù)據(jù)圖、

31、然后作殘差數(shù)據(jù)圖、 作作at對(duì)對(duì)at-1和和at對(duì)對(duì)Xt-3的散點(diǎn)圖，的散點(diǎn)圖， 計(jì)算計(jì)算at對(duì)對(duì)at-1和和at對(duì)對(duì)Xt-3的相關(guān)系數(shù)；的相關(guān)系數(shù)；72圖圖1 擬合擬合AR(1)模型后的殘差圖模型后的殘差圖73圖圖2 擬合擬合AR(1)模型模型at對(duì)對(duì)at-1的散點(diǎn)圖的散點(diǎn)圖r0.15374圖圖3 擬合擬合AR(1)模型模型at對(duì)對(duì)Xt-2的散點(diǎn)圖的散點(diǎn)圖r-0.167375AR(1)模型的殘差不是白噪聲模型的殘差不是白噪聲AR(1)模型沒有通過檢驗(yàn)?zāi)Ｐ蜎]有通過檢驗(yàn)AR(1)模型是不適合的模型是不適合的結(jié)論：結(jié)論：76圖圖4 擬合擬合AR(2)模型后的殘差圖模型后的殘差圖77圖圖5 擬合擬合

32、AR(2)模型模型at對(duì)對(duì)at-1的散點(diǎn)圖的散點(diǎn)圖r-0.00478-10-8-6-4-202468-3271217圖圖6 擬合擬合AR(2)模型模型at對(duì)對(duì)Xt-3的散點(diǎn)圖的散點(diǎn)圖r-0.00979AR(2)模型的殘差通過檢驗(yàn)?zāi)Ｐ偷臍埐钔ㄟ^檢驗(yàn)AR(2)模型通過檢驗(yàn)?zāi)Ｐ屯ㄟ^檢驗(yàn)AR(2)模型是適合的模型是適合的結(jié)論：結(jié)論：80三、三、 F檢驗(yàn)檢驗(yàn) 通過檢驗(yàn)更高階模型的殘差平方和減小的顯著性通過檢驗(yàn)更高階模型的殘差平方和減小的顯著性來間接地檢驗(yàn)來間接地檢驗(yàn)at的獨(dú)立性。的獨(dú)立性。 可以證明，當(dāng)階數(shù)不夠時(shí)，可以證明，當(dāng)階數(shù)不夠時(shí)， 是不獨(dú)立的。是不獨(dú)立的。若若 是不獨(dú)立，一定可以通過增加階數(shù)來提

33、高模是不獨(dú)立，一定可以通過增加階數(shù)來提高模型的解釋能力。型的解釋能力。 tata 如果檢驗(yàn)?zāi)Ｐ腿绻麢z驗(yàn)?zāi)Ｐ虯RMA(2n,2n-1)的適應(yīng)性，可以的適應(yīng)性，可以擬合一個(gè)更高階的模型擬合一個(gè)更高階的模型ARMA(2n+2,2n+1)，然后，然后用用F檢驗(yàn)判斷兩模型是否有顯著差異（剩余平方和檢驗(yàn)判斷兩模型是否有顯著差異（剩余平方和是否有顯著減少）。檢驗(yàn)方法同前。是否有顯著減少）。檢驗(yàn)方法同前。 81n構(gòu)造構(gòu)造F統(tǒng)計(jì)量檢驗(yàn)假設(shè)（無截距項(xiàng)）：統(tǒng)計(jì)量檢驗(yàn)假設(shè)（無截距項(xiàng)）：100()/4(4,43)/(43)AAFFNnANn其中，其中，A0是無約束模型的殘差平方和；是無約束模型的殘差平方和； A1是有約束模型的殘差平方和；是有約束模型的殘差平方和； 若拒絕若拒絕H0，則說明原模型未能通過適應(yīng)性檢驗(yàn)。，則說明原模型未能通過適應(yīng)性檢驗(yàn)。82四、四、 檢驗(yàn)法檢驗(yàn)法 2將將at的自相關(guān)函數(shù)記為的自相關(guān)函數(shù)記為 ),(tkaN可以證明，當(dāng)可以證明，當(dāng)N很大時(shí)