第四章平穩(wěn)時(shí)間序列模型的建立ppt課件

1、第四章 平穩(wěn)時(shí)間序列模型 的建立 第一節(jié) 時(shí)間序列的預(yù)處置第二節(jié) 模型識(shí)別與定階第三節(jié) 模型參數(shù)估計(jì)第四節(jié) 模型檢驗(yàn)與優(yōu)化第五節(jié) 其它建模方法1、建模流程 有限長度時(shí)序樣本模型識(shí)別與定階模型參數(shù)估計(jì)模型適用性檢驗(yàn)?zāi)Ｐ蛢?yōu)化2、根本前提 平穩(wěn)序列Xt 零均值序列EXt=0建模步驟流程圖平穩(wěn)非白噪聲序列計(jì)算樣本相關(guān)系數(shù)模型識(shí)別參數(shù)估計(jì)模型檢驗(yàn)?zāi)Ｐ蛢?yōu)化序列預(yù)測YN一、平穩(wěn)性檢驗(yàn)二、純隨機(jī)性檢驗(yàn)三、計(jì)算樣本自相關(guān)函數(shù)四、關(guān)于非零均值的平穩(wěn)序列第一節(jié) 時(shí)間序列的預(yù)處置本章所引見的是對(duì)零均值平穩(wěn)序列建立ARMA模型，因此，在對(duì)實(shí)踐的序列進(jìn)展模型識(shí)別之前，應(yīng)首先檢驗(yàn)序列能否平穩(wěn)，假設(shè)序列非平穩(wěn)，應(yīng)先經(jīng)過適當(dāng)變

2、換將其化為平穩(wěn)序列，然后再進(jìn)展模型識(shí)別.序列的非平穩(wěn)包括均值非平穩(wěn)和方差非平穩(wěn).均值非平穩(wěn)序列平穩(wěn)化的方法：差分變換.方差非平穩(wěn)序列平穩(wěn)化的方法：對(duì)數(shù)變換、平方根變換等.序列平穩(wěn)性的檢驗(yàn)方法和手段主要有：序列趨勢圖、自相關(guān)圖、單位根檢驗(yàn)、非參數(shù)檢驗(yàn)方法等等.一、平穩(wěn)性檢驗(yàn)圖檢驗(yàn)方法一時(shí)序圖檢驗(yàn) 根據(jù)平穩(wěn)時(shí)間序列均值、方差為常數(shù)的性質(zhì)，平穩(wěn)序列的時(shí)序圖應(yīng)該顯示出該序列一直在一個(gè)常數(shù)值附近隨機(jī)動(dòng)搖，而且動(dòng)搖的范圍有界、無明顯趨勢及周期特征.二自相關(guān)圖檢驗(yàn) 平穩(wěn)序列通常具有短期相關(guān)性.該性質(zhì)用自相關(guān)函數(shù)來描畫就是隨著延遲期數(shù)的添加，平穩(wěn)序列的自相關(guān)函數(shù)會(huì)很快地衰減向零.例題例1檢驗(yàn)1964年1999

3、年中國紗年產(chǎn)量序列的平穩(wěn)性例2檢驗(yàn)1962年1月1975年12月平均每頭奶牛月產(chǎn)奶量序列的平穩(wěn)性例3檢驗(yàn)1949年1998年北京市每年最高氣溫序列的平穩(wěn)性例1 時(shí)序圖例1 自相關(guān)圖例2 時(shí)序圖例2 自相關(guān)圖例3 時(shí)序圖例3 自相關(guān)圖一純隨機(jī)序列的定義純隨機(jī)序列也稱為白噪聲序列，它滿足如下兩條性質(zhì) 二、純隨機(jī)性檢驗(yàn) 二純隨機(jī)性檢驗(yàn) 檢驗(yàn)原理 假設(shè)條件 檢驗(yàn)統(tǒng)計(jì)量 判別原那么運(yùn)用舉例Barlett定理 假設(shè)一個(gè)時(shí)間序列是純隨機(jī)的，得到一個(gè)察看期數(shù)為 的察看序列，那么該序列的延遲非零期的樣本自相關(guān)系數(shù)將近似服從均值為零，方差為序列察看期數(shù)倒數(shù)的正態(tài)分布1、檢驗(yàn)原理2、假設(shè)條件原假設(shè)：延遲期數(shù)小于或等

4、于 期的序列值之間相互獨(dú)立備擇假設(shè)：延遲期數(shù)小于或等于 期的序列值之間有相關(guān)性 3、檢驗(yàn)統(tǒng)計(jì)量Q統(tǒng)計(jì)量 LB統(tǒng)計(jì)量 4、判別原那么回絕原假設(shè)當(dāng)檢驗(yàn)統(tǒng)計(jì)量大于 分位點(diǎn)，或該統(tǒng)計(jì)量的P值小于 時(shí)，那么可以以 的置信程度回絕原假設(shè)，以為該序列為非白噪聲序列接受原假設(shè)當(dāng)檢驗(yàn)統(tǒng)計(jì)量小于 分位點(diǎn)，或該統(tǒng)計(jì)量的P值大于 時(shí)，那么以為在 的置信程度下無法回絕原假設(shè)，即不能顯著回絕序列為純隨機(jī)序列的假定 例4、規(guī)范正態(tài)白噪聲序列純隨機(jī)性檢驗(yàn)樣本自相關(guān)圖5、運(yùn)用舉例檢驗(yàn)結(jié)果延遲統(tǒng)計(jì)量檢驗(yàn)統(tǒng)計(jì)量值P值延遲6期2.360.8838延遲12期5.350.9454由于P值顯著大于顯著性程度 ，所以該序列不能回絕純隨機(jī)的原

5、假設(shè).例5、對(duì)1950年1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄所占比例序列的平穩(wěn)性與純隨機(jī)性進(jìn)展檢驗(yàn) 自相關(guān)圖白噪聲檢驗(yàn)結(jié)果延遲階數(shù)LB統(tǒng)計(jì)量檢驗(yàn)LB檢驗(yàn)統(tǒng)計(jì)量的值P值675.460.00011282.57p以后截尾，即kp 時(shí)， ，而且它的自相關(guān)函數(shù) 拖尾，那么可判別此序列是AR(p)序列.假設(shè)序列xt的自相關(guān)函數(shù) 在kq以后截尾，即kq 時(shí)， ，而且它的偏自相關(guān)函數(shù) 拖尾，那么可判別此序列是MA(q)序列.假設(shè)序列xt的自相關(guān)函數(shù)、偏相關(guān)函數(shù)都呈拖尾形狀，那么可斷言此序列是ARMA序列.假設(shè)序列的自相關(guān)函數(shù)和偏自相關(guān)函數(shù)不但都不截尾，而且至少有一個(gè)下降趨勢勢緩慢或呈周期性衰減，那么可以為它也不是

6、拖尾的，此時(shí)序列是非平穩(wěn)序列，應(yīng)先將其轉(zhuǎn)化為平穩(wěn)序列后再進(jìn)展模型識(shí)別.模型定階的困難由于由于樣本的隨機(jī)性，樣本的相關(guān)系數(shù)不會(huì)呈現(xiàn)出實(shí)際截尾的完美情況，本應(yīng)截尾的 或 仍會(huì)呈現(xiàn)出小值振蕩的情況由于平穩(wěn)時(shí)間序列通常都具有短期相關(guān)性，隨著延遲階數(shù) ， 與 都會(huì)衰減至零值附近作小值動(dòng)搖？當(dāng) 或 在延遲假設(shè)干階之后衰減為小值動(dòng)搖時(shí)，什么情況下該看作為相關(guān)系數(shù)截尾，什么情況下該看作為相關(guān)系數(shù)在延遲假設(shè)干階之后正常衰減到零值附近作拖尾動(dòng)搖呢？ 二、模型定階樣本相關(guān)系數(shù)的近似分布BarlettQuenouille1、閱歷定階方法95的置信區(qū)間模型定階的閱歷方法假設(shè)樣本(偏)自相關(guān)系數(shù)在最初的p階明顯大于兩倍規(guī)

7、范差范圍，而后幾乎95的自相關(guān)系數(shù)都落在2倍規(guī)范差的范圍以內(nèi)，而且通常由非零自相關(guān)系數(shù)衰減為小值動(dòng)搖的過程非常忽然.這時(shí)，通常視為(偏)自相關(guān)系數(shù)截尾.截尾階數(shù)為p.例1上海延中實(shí)業(yè)股票數(shù)據(jù)識(shí)別一階差分后平均每日消費(fèi)汽車廢品數(shù)據(jù)的識(shí)別(n=45)美國女性失業(yè)月數(shù)據(jù)識(shí)別差分后上海延中實(shí)業(yè)股份是上海首家向社會(huì)公開發(fā)行股票的企業(yè). 1985年1月底發(fā)行股票500萬元，其中由上海延中復(fù)印工業(yè)公司出資30萬元.上海延中實(shí)業(yè)股票收盤價(jià)根本反映了滬市股票的大致走向.總觀測期n619，先作出原序列的樣本自相關(guān)函數(shù)和樣本偏相關(guān)函數(shù)，其結(jié)果見表1和圖1.上海延中實(shí)業(yè)股票數(shù)據(jù)識(shí)別一階差分后表1 延中股票的樣本自相關(guān)

8、和樣本偏自相關(guān)函數(shù)值美國1961年1月至1985年12月間女性失業(yè)月人數(shù)時(shí)間序列美國女性失業(yè)月數(shù)據(jù)識(shí)別差分后2、殘差方差圖定階法1根本思想假設(shè)擬合的模型階數(shù)與真正階數(shù)不符合，那么模型的殘差平方和SSE必然偏大，殘差方差將比真正模型的殘差方差大。假設(shè)是缺乏擬合，那么逐漸添加模型階數(shù)，模型的殘差方差會(huì)漸減少，直到殘差方差到達(dá)最小。假設(shè)是過度擬合，此時(shí)逐漸少模型階數(shù)，模型殘差方差分逐漸下降，直到殘差方差到達(dá)最小。2殘差方差的估計(jì)公式注：式中 “實(shí)踐察看值個(gè)數(shù)是指擬合模型時(shí)實(shí)踐運(yùn)用的察看值項(xiàng)數(shù)，即經(jīng)過平穩(wěn)化后的有效樣本容量。設(shè)原序列有n個(gè)樣本，假設(shè)建立的模型中有含有自回歸AR部分, 且階數(shù)為p，那么實(shí)

9、踐察看值個(gè)數(shù)為n-p個(gè)。假設(shè)沒有AR部分，那么實(shí)踐察看值個(gè)數(shù)即為n個(gè)。模型的參數(shù)個(gè)數(shù)指模型中所含的參數(shù)個(gè)數(shù)，如：假設(shè)是不帶常數(shù)項(xiàng)的ARMA(p,q)模型，參數(shù)個(gè)數(shù)為p+q個(gè)，假設(shè)帶有常數(shù)項(xiàng)，那么參數(shù)個(gè)數(shù)為p+q+1個(gè)。用Eviews建立ARMA模型后，可直接得到剩余平方和SSE(Sum squared resid)輸出結(jié)果中也可直接得到殘差規(guī)范差： S.E.of regression ，此項(xiàng)的平方即為殘差方差。因此，對(duì)不同的模型殘差方差進(jìn)展比較，直接比較此項(xiàng)既可。例：以磨輪剖面數(shù)據(jù)為例，分別建立順應(yīng)性模型，輸出結(jié)果見圖示，從中選擇最正確模型。三個(gè)模型殘差方差比較3、F檢驗(yàn)定階法根本思想以普通情

10、形和ARMA(p,q)模型為例先對(duì)數(shù)據(jù)擬合ARMA(p,q)模型(假設(shè)不含常數(shù)項(xiàng))，設(shè)其殘差平方和為Q0，再對(duì)數(shù)據(jù)擬合 較低階的模型ARMA(p-m,q-s)，設(shè)其殘差平方和為Q1。建立原假：在原假設(shè)成立的條件下有：于是計(jì)算統(tǒng)計(jì)量F，在給定的顯著性程度下。假設(shè)FF ，那么回絕原假設(shè)，闡明兩模型差別是顯著的，此時(shí)模型階數(shù)存在升高的能夠性。假設(shè)FF ，此不能回絕原假設(shè)，闡明兩模型差別不顯著，此時(shí)模型階數(shù)存在降低的能夠性。注：F檢驗(yàn)定階法的運(yùn)用條件：兩模型中有一個(gè)為適宜模型。4、最正確準(zhǔn)那么函數(shù)定階法最正確準(zhǔn)那么函數(shù)法，即確定出一個(gè)準(zhǔn)那么函數(shù)，該函數(shù)既要思索某一模型擬合時(shí)對(duì)原始數(shù)據(jù)的接近程度，同時(shí)又

11、要思索模型中所含待定參數(shù)的個(gè)數(shù)。建模時(shí)，使準(zhǔn)那么函數(shù)到達(dá)極小的是最正確模型。4.1 赤池的AIC準(zhǔn)那么和BIC準(zhǔn)那么 4.1.1 AIC 準(zhǔn)那么(Akaike iformationcriterion) AIC準(zhǔn)那么是1973年由赤池Akaike提出，此準(zhǔn)那么是對(duì)FPE準(zhǔn)那么(用來判別AR模型的階數(shù)能否適宜)的推行，用來識(shí)別ARMA模型的階數(shù)。AIC準(zhǔn)那么函數(shù)為：式中，M為模型中參數(shù)的個(gè)數(shù)。AIC的簡化式為：式中： 是殘差方差 的極大似然估計(jì)值。Eviews輸出的Akaike info criterion與上述方式略有差別(參見Eviews help)，其定義為：其中：n是實(shí)踐察看值的個(gè)數(shù)。4.

12、1.2 BIC準(zhǔn)那么柴田Shibata1976年證明AIC有過分估計(jì)自回歸參數(shù)的傾向，于是Akaike又提出了AIC方法的貝葉斯擴(kuò)展，即BIC。BIC準(zhǔn)那么函數(shù)為：式中：C為常數(shù)。余同前。4.2 施瓦茨(Schwarz)的SC準(zhǔn)那么此準(zhǔn)那么1978年由Schwarz提出，被稱為SBC(Schwartzs Bayesian criterion)。準(zhǔn)那么函數(shù)：簡化式為：同樣Eviews輸出的結(jié)果與上方式略有差別，其定義為：準(zhǔn)那么函數(shù)運(yùn)用留意1、當(dāng)樣本量趨于無窮時(shí)，用AIC準(zhǔn)那么挑選的最正確模型的階數(shù)往往比真實(shí)模型階數(shù)高，而用SBC準(zhǔn)那么確定的最正確模型的階數(shù)往往與真實(shí)模型的階數(shù)相一致。2、樣本量不

13、是很大時(shí)，SBC準(zhǔn)那么的定階效果不及AIC。一、矩估計(jì)二、極大似然估計(jì)三、最小二乘估計(jì) 第三節(jié) 模型參數(shù)估計(jì)一、矩估計(jì)原理樣本自相關(guān)系數(shù)估計(jì)總體自相關(guān)系數(shù)樣本一階均值估計(jì)總體均值，樣本方差估計(jì)總體方差例1 求AR(2)模型系數(shù)的矩估計(jì)AR(2)模型Yule-Walker方程矩估計(jì)Yule-Walker方程的解例2 求MA(1)模型系數(shù)的矩估計(jì)MA(1)模型方程矩估計(jì)例3 求ARMA(1,1)模型系數(shù)的矩估計(jì)ARMA(1,1)模型方程矩估計(jì)對(duì)矩估計(jì)的評(píng)價(jià)優(yōu)點(diǎn)估計(jì)思想簡單直觀不需求假設(shè)總體分布計(jì)算量小低階模型場所缺陷信息浪費(fèi)嚴(yán)重只用到了p+q個(gè)樣本自相關(guān)系數(shù)信息，其他信息都被忽略估計(jì)精度差通常矩估

14、計(jì)方法被用作極大似然估計(jì)和最小二乘估計(jì)迭代計(jì)算的初始值 二、極大似然估計(jì)原理在極大似然準(zhǔn)那么下，以為樣本來自使該樣本出現(xiàn)概率最大的總體。因此未知參數(shù)的極大似然估計(jì)就是使得似然函數(shù)即結(jié)合密度函數(shù)到達(dá)最大的參數(shù)值 似然方程由于 和 都不是 的顯式表達(dá)式。因此似然方程組實(shí)踐上是由p+q+1個(gè)超越方程構(gòu)成，通常需求經(jīng)過復(fù)雜的迭代算法才干求出未知參數(shù)的極大似然估計(jì)值 對(duì)極大似然估計(jì)的評(píng)價(jià)優(yōu)點(diǎn)極大似然估計(jì)充分運(yùn)用了每一個(gè)察看值所提供的信息，因此它的估計(jì)精度高同時(shí)還具有估計(jì)的一致性、漸近正態(tài)性和漸近有效性等許多優(yōu)良的統(tǒng)計(jì)性質(zhì)缺陷需求假定總體分布三、最小二乘估計(jì)原理使殘差平方和到達(dá)最小的那組參數(shù)值即為最小二乘

15、估計(jì)值 條件最小二乘估計(jì)實(shí)踐中最常用的參數(shù)估計(jì)方法假設(shè)條件殘差平方和方程解法迭代法對(duì)最小二乘估計(jì)的評(píng)價(jià)優(yōu)點(diǎn)最小二乘估計(jì)充分運(yùn)用了每一個(gè)察看值所提供的信息，因此它的估計(jì)精度高條件最小二乘估計(jì)方法運(yùn)用率最高缺陷需求假定總體分布例4 確定1950年1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列擬合模型的口徑 擬合模型：AR(1)估計(jì)方法：極大似然估計(jì)模型口徑例5確定美國科羅拉多州某一加油站延續(xù)57天的OVERSHORTS序列擬合模型的口徑 擬合模型：MA(1)估計(jì)方法：條件最小二乘估計(jì)模型口徑例6確定1880-1985全球氣表平均溫度改動(dòng)值差分序列擬合模型的口徑 擬合模型：ARMA(1,1)估計(jì)方法：條件

16、最小二乘估計(jì)模型口徑一、模型檢驗(yàn)二、模型的優(yōu)化 第四節(jié) 模型檢驗(yàn)與優(yōu)化一、模型的檢驗(yàn)1、模型的平穩(wěn)可逆性檢驗(yàn)Eviews 估計(jì)結(jié)果直接輸出自回歸部分所對(duì)應(yīng)的差分方程的特征根:inverted AR root.挪動(dòng)平均部分所對(duì)應(yīng)的差分方程的特征方程的特征根：inverted MA root.目的檢驗(yàn)?zāi)Ｐ偷挠行詫?duì)信息的提取能否充分檢驗(yàn)對(duì)象殘差序列斷定原那么一個(gè)好的擬合模型應(yīng)該可以提取察看值序列中幾乎一切的樣本相關(guān)信息，即殘差序列應(yīng)該為白噪聲序列. 反之，假設(shè)殘差序列為非白噪聲序列，那就意味著殘差序列中還殘留著相關(guān)信息未被提取，這就闡明擬合模型不夠有效.2、模型的顯著性順應(yīng)性檢驗(yàn)假設(shè)條件原假設(shè)：殘

17、差序列為白噪聲序列備擇假設(shè)：殘差序列為非白噪聲序列檢驗(yàn)統(tǒng)計(jì)量LB統(tǒng)計(jì)量例1檢驗(yàn)1950年1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列擬合模型的顯著性 殘差白噪聲序列檢驗(yàn)結(jié)果延遲階數(shù)LB統(tǒng)計(jì)量P值檢驗(yàn)結(jié)論65.830.3229擬合模型顯著有效1210.280.50501811.380.83613、參數(shù)顯著性檢驗(yàn)?zāi)康臋z驗(yàn)每一個(gè)未知參數(shù)能否顯著非零.刪除不顯著參數(shù)使模型構(gòu)造最精簡 假設(shè)條件檢驗(yàn)統(tǒng)計(jì)量例2檢驗(yàn)1950年1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列極大似然估計(jì)模型的參數(shù)能否顯著 參數(shù)檢驗(yàn)結(jié)果檢驗(yàn)參數(shù)t統(tǒng)計(jì)量P值結(jié)論均值46.120.0001顯著6.720.0001顯著例3 對(duì)OVERSHORTS

18、序列的擬合模型進(jìn)展檢驗(yàn) 殘差白噪聲檢驗(yàn)參數(shù)顯著性檢驗(yàn)檢驗(yàn)參數(shù)t統(tǒng)計(jì)量P值結(jié)論均值3.750.0004顯著10.600.0001顯著延遲階數(shù)LB統(tǒng)計(jì)量P值結(jié)論63.150.6772模型顯著有效129.050.6171例4 對(duì)1880-1985全球氣表平均溫度改動(dòng)值差分序列擬合模型進(jìn)展檢驗(yàn) 殘差白噪聲檢驗(yàn)參數(shù)顯著性檢驗(yàn)檢驗(yàn)參數(shù)t統(tǒng)計(jì)量P值結(jié)論16.340.0001顯著3.50.0007顯著延遲階數(shù)LB統(tǒng)計(jì)量P值結(jié)論65.280.2595模型顯著有效1210.300.4247二、模型優(yōu)化問題提出當(dāng)一個(gè)擬合模型經(jīng)過了檢驗(yàn)，闡明在一定的置信程度下，該模型能有效地?cái)M合察看值序列的動(dòng)搖，但這種有效模型并不是

19、獨(dú)一的.優(yōu)化的目的選擇相對(duì)最優(yōu)模型 例7 擬合某一化學(xué)序列序列自相關(guān)圖序列偏自相關(guān)圖擬合模型一根據(jù)自相關(guān)系數(shù)2階截尾，擬合MA(2)模型參數(shù)估計(jì)模型檢驗(yàn)?zāi)Ｐ惋@著有效 三參數(shù)均顯著 擬合模型二根據(jù)偏自相關(guān)系數(shù)1階截尾，擬合AR(1)模型參數(shù)估計(jì)模型檢驗(yàn)?zāi)Ｐ惋@著有效 兩參數(shù)均顯著 例7 用AIC準(zhǔn)那么和SBC準(zhǔn)那么評(píng)判兩個(gè)擬合模型的相對(duì)優(yōu)劣 結(jié)果AR(1)優(yōu)于MA(2)模型AICSBCMA(2)536.4556543.2011AR(1)535.7896540.2866第五節(jié) 其它建模方法一、Pandit-Wu建模方法的根本思想二、建模步驟三、Pandit-Wu方法建模舉例一、Pandit-Wu建模