第三章-平穩(wěn)時(shí)間序列分析3課件

三、ARMA模型1、定義具有如下結(jié)構(gòu)的模型稱為自回歸移動(dòng)平均模型，簡(jiǎn)記為ARMA(p,q)特別當(dāng)φ0=0時(shí)，稱為中心化ARMA(p,q)模型用過(guò)去的自己，并考慮到隨機(jī)干擾或誤差序列來(lái)預(yù)測(cè)自己三、ARMA模型1、定義具有如下結(jié)構(gòu)的模型稱為自回歸移動(dòng)1系數(shù)多項(xiàng)式引進(jìn)延遲算子，中心化ARMA(p,q)模型可簡(jiǎn)記為

其中p階自回歸系數(shù)多項(xiàng)式：q階移動(dòng)平均系數(shù)多項(xiàng)式：系數(shù)多項(xiàng)式引進(jìn)延遲算子，中心化ARMA(p,q)模型可簡(jiǎn)記為22、平穩(wěn)條件與可逆條件ARMA(p,q)模型的平穩(wěn)條件P階自回歸系數(shù)多項(xiàng)式Φ(B)=0的根都在單位圓外,即ARMA(p,q)模型的平穩(wěn)性完全由其自回歸部分的平穩(wěn)性決定ARMA(p,q)模型的可逆條件q階移動(dòng)平均系數(shù)多項(xiàng)式θ(B)=0的根都在單位圓外，即ARMA(p,q)模型的可逆性完全由其移動(dòng)平滑部分的可逆性決定2、平穩(wěn)條件與可逆條件ARMA(p,q)模型的平穩(wěn)條件33、傳遞形式與逆轉(zhuǎn)形式傳遞形式逆轉(zhuǎn)形式Green函數(shù)：逆函數(shù)：可轉(zhuǎn)化為無(wú)窮階MA模型可轉(zhuǎn)化為無(wú)窮階AR模型3、傳遞形式與逆轉(zhuǎn)形式傳遞形式逆轉(zhuǎn)形式Green函數(shù)：逆函數(shù)44、ARMA(p,q)模型的統(tǒng)計(jì)性質(zhì)均值自協(xié)方差自相關(guān)系數(shù)自相關(guān)系數(shù)和偏自相關(guān)系數(shù)都具有拖尾性4、ARMA(p,q)模型的統(tǒng)計(jì)性質(zhì)均值5【例3.7】考察ARMA模型的自相關(guān)性ARMA(1,1):直觀地考察該模型自相關(guān)系數(shù)和偏自相關(guān)系數(shù)的性質(zhì)。

【例3.7】考察ARMA模型的自相關(guān)性ARMA(1,1):6顯然，自相關(guān)系數(shù)和偏自相關(guān)系數(shù)拖尾樣本自相關(guān)圖樣本偏自相關(guān)圖顯然，自相關(guān)系數(shù)和偏自相關(guān)系數(shù)拖尾樣本自相關(guān)圖樣本偏自相關(guān)圖7ARMA模型相關(guān)性特征：模型自相關(guān)系數(shù)偏自相關(guān)系數(shù)AR(P)拖尾P階截尾MA(q)q階截尾拖尾ARMA(p,q)拖尾拖尾這也是直觀選擇擬合模型的常用方法之一ARMA模型相關(guān)性特征：模型自相關(guān)系數(shù)偏自相關(guān)系數(shù)AR(P)83.3平穩(wěn)序列的建模

建模步驟模型識(shí)別參數(shù)估計(jì)模型檢驗(yàn)?zāi)Ｐ蛢?yōu)化3.3平穩(wěn)序列的建模建模步驟9一、建模步驟平穩(wěn)非白噪聲序列計(jì)算樣本相關(guān)系數(shù)模型識(shí)別參數(shù)估計(jì)模型檢驗(yàn)?zāi)Ｐ蛢?yōu)化序列預(yù)測(cè)YesNo一、建模步驟平模型參數(shù)模型模序YesNo10二、計(jì)算樣本相關(guān)系數(shù)樣本自相關(guān)系數(shù)樣本偏自相關(guān)系數(shù)由克萊姆法則，解Yule-Walker方程組得到。二、計(jì)算樣本相關(guān)系數(shù)樣本自相關(guān)系數(shù)樣本偏自相關(guān)系數(shù)由克萊姆法11三、模型識(shí)別基本原則選擇模型拖尾P階截尾AR(P)q階截尾拖尾MA(q)拖尾拖尾ARMA(p,q)一般先通過(guò)時(shí)序圖直觀判斷序列平穩(wěn)性，再根據(jù)基本原則選擇模型。三、模型識(shí)別基本原則選擇模型拖尾P階截尾AR(P)q階截尾拖12模型定階的困惑：因樣本的隨機(jī)性，樣本的相關(guān)系數(shù)不會(huì)呈現(xiàn)出完全截尾，本應(yīng)截尾的自相關(guān)或偏自相關(guān)系數(shù)仍會(huì)呈現(xiàn)出小值振蕩；因平穩(wěn)時(shí)間序列具有短期相關(guān)性，隨著延遲階數(shù)無(wú)窮大時(shí)，自相關(guān)或偏自相關(guān)系數(shù)都會(huì)衰減至0值附近作小值波動(dòng)；沒(méi)有絕對(duì)的標(biāo)準(zhǔn)，主要靠經(jīng)驗(yàn)。有時(shí)也利用一下由兩種系數(shù)的近似分布推出的結(jié)論。何時(shí)可作為截尾？何時(shí)為拖尾？模型定階的困惑：因樣本的隨機(jī)性，樣本的相關(guān)系數(shù)不會(huì)呈現(xiàn)出完全13樣本相關(guān)系數(shù)的近似分布Barlett定理Quenouille定理樣本相關(guān)系數(shù)的近似分布Barlett定理14模型定階的經(jīng)驗(yàn)方法95％的置信區(qū)間（正態(tài)分布2?σ原則）模型定階的經(jīng)驗(yàn)方法：若樣本(偏)自相關(guān)系數(shù)在最初d階明顯大于2倍標(biāo)準(zhǔn)差，后面幾乎95％的值都落在2倍標(biāo)準(zhǔn)差范圍內(nèi)，且衰減為小值波動(dòng)的過(guò)程很突然。這時(shí)常視為截尾，截尾階數(shù)為d。何時(shí)可作為截尾？何時(shí)為拖尾？模型定階的經(jīng)驗(yàn)方法95％的置信區(qū)間（正態(tài)分布2?σ原則）何時(shí)15例2.5續(xù)選擇合適的ARMA模型擬合1950年—1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列。例2.5續(xù)選擇合適的ARMA模型擬合1950年—1998年北16序列自相關(guān)圖顯然，延遲3期后，雖自相關(guān)系數(shù)都落在2σ線內(nèi),但卻逐漸的衰減為小值波動(dòng)，拖尾，平穩(wěn)。序列自相關(guān)圖顯然，延遲3期后，雖自相關(guān)系數(shù)都落在2σ線內(nèi),但17序列偏自相關(guān)圖顯然，除延遲1期的偏自相關(guān)系數(shù)顯著大于2σ線外,其它突然衰減為小值波動(dòng)，可認(rèn)為1階截尾。所以可考慮擬合模型AR(1)序列偏自相關(guān)圖顯然，除延遲1期的偏自相關(guān)系數(shù)顯著大于2σ線外18【例3.8】美國(guó)科羅拉多州某一加油站連續(xù)57天的OVERSHORT序列

由時(shí)序圖可見(jiàn)，無(wú)周期性和單調(diào)趨勢(shì)，序列平穩(wěn)【例3.8】美國(guó)科羅拉多州某一加油站連續(xù)57天的OVERSH19序列自相關(guān)圖除延遲1階在2倍標(biāo)準(zhǔn)差外，其它都在2倍標(biāo)準(zhǔn)差范圍內(nèi)波動(dòng)，平穩(wěn)，自相關(guān)系數(shù)1階截尾。序列自相關(guān)圖除延遲1階在2倍標(biāo)準(zhǔn)差外，其它都在2倍標(biāo)準(zhǔn)差范圍20序列偏自相關(guān)圖顯然，偏自相關(guān)系數(shù)拖尾。所以可考慮擬合模型MA(1)序列偏自相關(guān)圖顯然，偏自相關(guān)系數(shù)拖尾。所以可考慮擬合模型MA21【例3.9】1880-1985全球氣表平均溫度改變值差分序列

由時(shí)序圖可見(jiàn)，無(wú)周期性和單調(diào)趨勢(shì)，序列平穩(wěn)【例3.9】1880-1985全球氣表平均溫度改變值差分序列22序列自相關(guān)圖顯然，自相關(guān)系數(shù)拖尾。序列自相關(guān)圖顯然，自相關(guān)系數(shù)拖尾。23序列偏自相關(guān)圖顯然，偏自相關(guān)系數(shù)拖尾。所以可考慮擬合模型ARMA(1,1)序列偏自相關(guān)圖顯然，偏自相關(guān)系數(shù)拖尾。所以可考慮擬合模型AR24四、參數(shù)估計(jì)待估參數(shù)（也稱模型口徑）非中心化的ARMA(p,q)可轉(zhuǎn)化為有p+q+2個(gè)未知參數(shù)常用估計(jì)方法：矩估計(jì)極大似然估計(jì)最小二乘估計(jì)四、參數(shù)估計(jì)待估參數(shù)（也稱模型口徑）251、矩估計(jì)原理用相應(yīng)階樣本自相關(guān)系數(shù)估計(jì)總體自相關(guān)系數(shù)樣本一階均值估計(jì)總體均值樣本方差估計(jì)總體方差1、矩估計(jì)原理26【例3.10】求AR(2)模型系數(shù)的矩估計(jì)AR(2)模型Yule-Walker方程矩估計(jì)（Yule-Walker方程的解）將偏自相關(guān)系數(shù)代入Y-W方程【例3.10】求AR(2)模型系數(shù)的矩估計(jì)AR(2)模型將偏27【例3.11】求MA(1)模型系數(shù)的矩估計(jì)MA(1)模型由MA(1)協(xié)方差函數(shù)公式矩估計(jì)【例3.11】求MA(1)模型系數(shù)的矩估計(jì)MA(1)模型28【例3.12】求ARMA(1,1)模型系數(shù)的矩估計(jì)ARMA(1,1)模型自相關(guān)系數(shù)與自協(xié)方差的關(guān)系方程矩估計(jì)【例3.12】求ARMA(1,1)模型系數(shù)的矩估計(jì)ARMA(29矩估計(jì)的特點(diǎn)：優(yōu)點(diǎn)估計(jì)思想簡(jiǎn)單直觀不需要假設(shè)總體分布計(jì)算量小（低階模型場(chǎng)合）缺點(diǎn)信息浪費(fèi)嚴(yán)重只依賴p+q個(gè)樣本自相關(guān)系數(shù)信息，其他信息都被忽略估計(jì)精度較差通常矩估計(jì)方法被用作極大似然估計(jì)和最小二乘估計(jì)迭代計(jì)算的初始值

矩估計(jì)的特點(diǎn)：優(yōu)點(diǎn)302、極大似然估計(jì)原理極大似然準(zhǔn)則：抽取的樣本出現(xiàn)概率最大。因此未知參數(shù)的極大似然估計(jì)就是使得似然函數(shù)（聯(lián)合密度函數(shù)）達(dá)到最大的參數(shù)值

2、極大似然估計(jì)原理31似然方程由于和都不是的顯式表達(dá)式。因而似然方程組實(shí)際上是由p+q+1個(gè)超越方程構(gòu)成，通常需要經(jīng)過(guò)復(fù)雜的迭代算法才能求出未知參數(shù)的極大似然估計(jì)值

似然方程由于和都不是的顯式表達(dá)式。因而似然方32極大似然估計(jì)的特點(diǎn)優(yōu)點(diǎn)極大似然估計(jì)充分應(yīng)用了每一個(gè)觀察值所提供的信息，因而它的估計(jì)精度高同時(shí)還具有估計(jì)的一致性、漸近正態(tài)性和漸近有效性等許多優(yōu)良的統(tǒng)計(jì)性質(zhì)缺點(diǎn)需要已知總體分布實(shí)際中，為便于計(jì)算，很多時(shí)候看作服從多元正態(tài)分布極大似然估計(jì)的特點(diǎn)優(yōu)點(diǎn)333、最小二乘估計(jì)原理使殘差平方和達(dá)到最小的那組參數(shù)值即為最小二乘估計(jì)值

實(shí)際中最常用的參數(shù)估計(jì)方法是條件最小二乘估計(jì)法3、最小二乘估計(jì)原理實(shí)際中最常用的參數(shù)估計(jì)方法是條件最小二乘34條件最小二乘估計(jì)假設(shè)條件：過(guò)去未觀測(cè)到的序列值為0，即殘差平方和方程用迭代法，求得使其達(dá)最小的參數(shù)值。條件最小二乘估計(jì)假設(shè)條件：過(guò)去未觀測(cè)到的序列值為0，即35

最小二乘估計(jì)的特點(diǎn)最小二乘估計(jì)充分應(yīng)用了每一個(gè)觀察值所提供的信息，因而它的估計(jì)精度高；不需總體分布，便于實(shí)現(xiàn)，所以條件最小二乘估計(jì)方法使用率最高。

最小二乘估計(jì)的特點(diǎn)最小二乘估計(jì)充分應(yīng)用了每一個(gè)觀察值所提供36例2.5續(xù)確定1950年—1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列擬合模型的口徑

擬合模型：AR(1)估計(jì)方法：極大似然估計(jì)模型口徑例2.5續(xù)確定1950年—1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比37例3.8續(xù)確定美國(guó)科羅拉多州某一加油站連續(xù)57天的OVERSHORTS序列擬合模型的口徑

擬合模型：MA(1)估計(jì)方