計(jì)量學(xué)-ARMA模型的自相關(guān)函數(shù)概述課件

（三）ARMA模型的自相關(guān)函數(shù)

由ARMA(p,q)的自協(xié)方差公式可以看出，只有的q個(gè)自相關(guān)的值同時(shí)依賴于和；當(dāng)時(shí)，具有與AR(p)模型相同的自相關(guān)函數(shù)差分公式或者1（三）ARMA模型的自相關(guān)函數(shù)1若，自相關(guān)函數(shù)是指數(shù)或正弦波衰減的，具體由多項(xiàng)式和初始值決定。若，就會有個(gè)初始值不遵從一般的衰減變化形式。ARMA(p,q)的自相關(guān)函數(shù)是步拖尾的。這一事實(shí)在識別ARMA模型時(shí)也非常有用。2若，自相關(guān)函數(shù)ARMA(1,1)過程3ARMA(1,1)過程3二、偏自相關(guān)函數(shù)（partialautocorrelationfunction，PACF）時(shí)間序列過程的偏自相關(guān)函數(shù)就是時(shí)間序列在兩個(gè)時(shí)間隨機(jī)變量之間，排除了其間各個(gè)時(shí)間隨機(jī)變量影響的相關(guān)系數(shù)。4二、偏自相關(guān)函數(shù)（partialautocorrelati（一）AR(p)模型的偏自相關(guān)函數(shù)AR(p)的模型偏自相關(guān)函數(shù)定義為計(jì)算方法把對回歸，得到回歸方程其中最后一項(xiàng)的回歸系數(shù)就是要求的偏自相關(guān)系數(shù)。5（一）AR(p)模型的偏自相關(guān)函數(shù)5根據(jù)線性回歸法計(jì)算偏自相關(guān)函數(shù)，運(yùn)用最小二乘法進(jìn)行參數(shù)估計(jì)，得到正規(guī)方程組該方程組也可以認(rèn)為是利用的協(xié)方差和自相關(guān)函數(shù)導(dǎo)出。尤勒——沃克方程如下6根據(jù)線性回歸法計(jì)算偏自相關(guān)函數(shù)，運(yùn)用最小二乘法進(jìn)行參數(shù)估計(jì)，分別求解，得到偏自相關(guān)系數(shù)：7分別求解，得到偏自相關(guān)系數(shù)：7由于AR(p)模型意味著與以后的滯后項(xiàng)不相關(guān)，因此大于p階的偏自相關(guān)系數(shù)必然都等于0。這意味著AR(p)模型的偏自相關(guān)函數(shù)有在處截尾的特征。這也是識別自回歸模型及其自回歸階數(shù)的重要依據(jù)。8由于AR(p)模型意味著與以后的滯后項(xiàng)不相（二）MA(q)和ARMA模型的偏自相關(guān)函數(shù)MA(1)的偏自相關(guān)函數(shù)

該函數(shù)，且被衰減指數(shù)控制，因此具有拖尾性?？赡娴腗A()過程等價(jià)于無限階的AR過程，因此它們的偏自相關(guān)函數(shù)會無限延伸，被指數(shù)衰減和（或）正弦波衰減所控制。總之都具有拖尾的特征。9（二）MA(q)和ARMA模型的偏自相關(guān)函數(shù)9自回歸移動平均混合過程ARMA(p,q)，是由自回歸過程和移動平均過程兩部分組成，因此它們的偏自相關(guān)函數(shù)也是無限延伸的，其特征就像純移動平均過程的偏自相關(guān)函數(shù)?；旌线^程的偏自相關(guān)函數(shù)被復(fù)合的衰減指數(shù)和（或）衰減正弦波所控制。衰減特性主要由移動平均過程的階數(shù)和具體參數(shù)決定。10自回歸移動平均混合過程ARMA(p,q)，是由自回歸過程和移三、模型識別方法1、基本ARMA模型自相關(guān)和偏自相關(guān)函數(shù)的基本特征（1）AR(p)模型的自相關(guān)函數(shù)是拖尾的，即會按指數(shù)衰減，或正弦振蕩衰減，偏自相關(guān)函數(shù)是截尾的，截尾處為自回歸階數(shù)p；（2）MA(q)模型的自相關(guān)函數(shù)是截尾的，截尾處對應(yīng)移動平均階數(shù)q。偏自相關(guān)函數(shù)則是拖尾的；11三、模型識別方法11（3）ARMA(p,q)模型的自相關(guān)函數(shù)和偏自相關(guān)函數(shù)都是拖尾的，自相關(guān)函數(shù)是步拖尾，偏自相關(guān)函數(shù)是步拖尾。12（3）ARMA(p,q)模型的自相關(guān)函數(shù)和偏自相關(guān)函數(shù)都是拖2、樣本自相關(guān)函數(shù)和樣本偏自相關(guān)函數(shù)假設(shè)有一組觀測樣本，一般認(rèn)為近似自相關(guān)函數(shù)最好的樣本自相關(guān)函數(shù)為：其中132、樣本自相關(guān)函數(shù)和樣本偏自相關(guān)函數(shù)13計(jì)算樣本偏自相關(guān)函數(shù)（SPACF）的方法：直接把樣本自相關(guān)值代入尤勒——沃克方程進(jìn)行計(jì)算，或者用公式回歸的方法計(jì)算。14計(jì)算樣本偏自相關(guān)函數(shù)（SPACF）的方法：14第三節(jié)自回歸移動平均模型的估計(jì)ARMA模型的參數(shù)估計(jì)常用的方法是利用均值（期望）、自相關(guān)函數(shù)，包括Yule-Walker方程的矩估計(jì)方法。這些矩估計(jì)方法是一致估計(jì)，但未必有效。充分有效的估計(jì)方法是最大似然法，但最大似然法比較復(fù)雜。在樣本容量較大時(shí)矩估計(jì)與最大似然估計(jì)是接近的。15第三節(jié)自回歸移動平均模型的估計(jì)ARMA模型的參數(shù)估計(jì)常用的一、移動平均模型參數(shù)估計(jì)MA(q)模型的自協(xié)方差函數(shù)為自相關(guān)函數(shù)為16一、移動平均模型參數(shù)估計(jì)16首先利用樣本數(shù)據(jù)計(jì)算出的估計(jì)值把這q+1個(gè)樣本自協(xié)方差代自協(xié)方差函數(shù)中的，或者根據(jù)這些再計(jì)算出的估計(jì)代入自相關(guān)函數(shù)，并用和分別代自協(xié)方差或自相關(guān)函數(shù)中的待定參數(shù)和，可得到q+1個(gè)方程的聯(lián)立方程組。17首先利用樣本數(shù)據(jù)計(jì)算出的估計(jì)值17如果可以從這個(gè)方程組解出和，就是我們要求的參數(shù)估計(jì)值。也可以先解出真實(shí)參數(shù)與自協(xié)方差、自相關(guān)的關(guān)系，再代入樣本估計(jì)值。因?yàn)槭菚r(shí)間序列過程的二階矩，上述估計(jì)量是通過q+1個(gè)樣本矩方程求出的，所以是矩估計(jì)量，具有一致估計(jì)的性質(zhì)。18如果可以從這個(gè)方程組解出和，就是q=1時(shí)的參數(shù)估計(jì)方法一：直接利用一階自相關(guān)函數(shù)進(jìn)行參數(shù)估計(jì)19q=1時(shí)的參數(shù)估計(jì)19由于可逆性條件要求的絕對值小于1，因此只有滿足要求。把樣本自相關(guān)系數(shù)作為的估計(jì)代入上式，就可以解得模型參數(shù)的估計(jì)量20由于可逆性條件要求的絕對值小于1，因此只有20方法二：利用自協(xié)方差函數(shù)進(jìn)行估計(jì)MA(1)模型有求解上述方程組，并利用，可解得21方法二：利用自協(xié)方差函數(shù)進(jìn)行估計(jì)21代入樣本自相關(guān)和自協(xié)方差得模型參數(shù)和模型誤差項(xiàng)方差的估計(jì)量由于上述矩估計(jì)的方程組是非線性的，因此只有當(dāng)q較小（q=1、2、3）時(shí)，直接進(jìn)行解析求解才可行，當(dāng)更大時(shí)解析求解越來越困難，一般應(yīng)使用迭代方法求近似解。22代入樣本自相關(guān)和自協(xié)方差得模型參數(shù)和模型誤差項(xiàng)方差最簡單的迭代方法把MA(q)模型的自協(xié)方差公式代入估計(jì)量，并變換為23最簡單的迭代方法23首先給出參數(shù)的一組初始值：將它們和代入上述兩個(gè)迭代公式，計(jì)算出參數(shù)的第一次迭代值，，再將這些參數(shù)值代入迭代公式反復(fù)迭代，直到收斂。最后得到迭代值作為參數(shù)估計(jì)值。24首先給出參數(shù)的一組初始值：24二、自回歸模型參數(shù)估計(jì)（一）普通最小二乘估計(jì)OLS根據(jù)模型，殘差平方和為根據(jù)最小二乘原理，利用一階條件求上述最小二乘函數(shù)最小化的參數(shù)值，即為最小二乘估計(jì)。25二、自回歸模型參數(shù)估計(jì)25（二）利用樣本自協(xié)方差方程的矩估計(jì)對于一般的平穩(wěn)AR(p)模型，有關(guān)于自相關(guān)的一組關(guān)系，即Yule-Walker方程：26（二）利用樣本自協(xié)方差方程的矩估計(jì)26利用樣本數(shù)據(jù)計(jì)算出樣本自相關(guān)，代入上述Yule-Walker方程，可以解得的“Yule-Walker估計(jì)”：27利用樣本數(shù)據(jù)計(jì)算出樣本自相關(guān)27該模型中修正項(xiàng)的方差則可以用下式估計(jì)：因?yàn)橛?jì)算估計(jì)量的方程組是樣本自相關(guān)函數(shù)，也是二階樣本矩方程，因此Yule-Walker估計(jì)同樣是矩估計(jì)量，也是一致估計(jì)。28該模型中修正項(xiàng)的方差則可以用下式估計(jì)：28當(dāng)樣本容量足夠大時(shí)，OLS法和矩估計(jì)方法的結(jié)果是很相似的。在使用OLS法時(shí)需要注意的是，AR(p)模型回歸用的是一個(gè)時(shí)間序列的數(shù)據(jù)，各期滯后之間相關(guān)性較強(qiáng)，因此回歸結(jié)果的有效性往往有問題，必須時(shí)間序列的樣本容量比較大，而且還要排斥存在共線性問題。29當(dāng)樣本容量足夠大時(shí)，OLS法和矩估計(jì)方法的結(jié)果是很相似的。2三、自回歸移動平均模型參數(shù)估計(jì)ARMA(p,q)模型的個(gè)參數(shù)可分兩步進(jìn)行估計(jì)步驟一：先估計(jì)出其中的自回歸參數(shù)；步驟二：估計(jì)移動平均系數(shù)和。30三、自回歸移動平均模型參數(shù)估計(jì)30（一）估計(jì)自回歸參數(shù)因?yàn)楫?dāng)時(shí)，ARMA(p,q)模型的自相關(guān)函數(shù)與AR(p)相同的性質(zhì)，因此31（一）估計(jì)自回歸參數(shù)31利用樣本自相關(guān)函數(shù)值，可計(jì)算出的估計(jì)量：32利用樣本自相關(guān)函數(shù)值，可計(jì)算出的估計(jì)量：32（二）估計(jì)移動平均系數(shù)模型改寫成令，并讓作為一個(gè)變量代入，則模型近似為就是一個(gè)MA(q)模型，可以利用前面介紹的MA(q)模型矩方法估計(jì)其中的參數(shù)和33（二）估計(jì)移動平均系數(shù)33可以利用原時(shí)間序列的自協(xié)方差和前面得到的自回歸系數(shù)估計(jì)，計(jì)算出的自協(xié)方差，進(jìn)而計(jì)算出自相關(guān)系數(shù)。再代入MA(q)模型矩估計(jì)的樣本自相關(guān)函數(shù)，就可以用前面介紹的方法得到和的參數(shù)估計(jì)。3434第四節(jié)ARMA模型檢驗(yàn)和預(yù)測一、ARMA模型檢驗(yàn)ARMA模型最主要的檢驗(yàn)是殘差序列隨機(jī)性檢驗(yàn)，也就是在用所選擇的模型進(jìn)行參數(shù)估計(jì)以后，確定殘差序列是無序列相關(guān)的白噪聲，還是存在序列相關(guān)性：如果仍然存在明顯的序列相關(guān)性，意味著選擇的模型沒有把原時(shí)間序列中的信息全部模擬出來，或者說存在一定的偏差，模型需要修正。如果殘差序列已經(jīng)是白噪聲，則所選擇的模型比較合理。35第四節(jié)ARMA模型檢驗(yàn)和預(yù)測一、ARMA模型檢驗(yàn)35檢驗(yàn)殘差是否白噪聲的方法（一）是根據(jù)殘差序列的樣本自相關(guān)函數(shù)SACF，樣本偏自相關(guān)函數(shù)SPACF，看它們是否在統(tǒng)計(jì)上具有顯著性。（二）利用SACF，用專門的統(tǒng)計(jì)量

~36檢驗(yàn)殘差是否白噪聲的方法36一般的參數(shù)顯著性t檢驗(yàn)，確定模型及其階數(shù)的信息準(zhǔn)則SIC和AIC，也都對ARMA模型的選擇，對自回歸、移動平均階數(shù)的確定有參考價(jià)值。在應(yīng)用時(shí)應(yīng)該綜合考慮這些因素。BOX等建議采用“過擬合方法”進(jìn)行檢驗(yàn)。即先設(shè)定參數(shù)較多，階數(shù)較高的模型，然后根據(jù)顯著性和模型選擇、判斷準(zhǔn)則逐步簡化。這種方法有一定道理，但有時(shí)也有問題。37一般的參數(shù)顯著性t檢驗(yàn)，確定模型及其階數(shù)的信息準(zhǔn)則SIC和A二、ARMA模型預(yù)測（一）ARMA模型預(yù)測原理預(yù)測的前提是已確定了模型，并且已經(jīng)作了參數(shù)估計(jì)和進(jìn)行了基本的檢驗(yàn)。檢驗(yàn)評估模型的預(yù)測往往把觀測數(shù)據(jù)分成兩部分，一部分用于估計(jì)參數(shù)，另一部分則用于檢驗(yàn)?zāi)Ｐ偷念A(yù)測效果，從而判斷模型的有效性。時(shí)間序列模型預(yù)測的一般準(zhǔn)則是均方誤（MSE）最小，而均方誤最小的預(yù)測就是條件期望預(yù)測。38二、ARMA模型預(yù)測38（二）MA模型預(yù)測MA模型預(yù)測的前提是移動平均參數(shù)、擾動方差，以及不可觀測的擾動都得到了估計(jì)，后者通常是利用AR形式進(jìn)行估計(jì)的。方便起見，在預(yù)測分析中仍然用原來符號表示參數(shù)和擾動項(xiàng)的估計(jì)值，并只討論無常數(shù)項(xiàng)模型的預(yù)測。39（二）MA模型預(yù)測391、MA(1)模型預(yù)測（1）一步預(yù)測因此一步預(yù)測為預(yù)測誤差的方差為401、MA(1)模型預(yù)測40（2）二步預(yù)測因此二步預(yù)測為預(yù)測誤差的方差為對于任意h>2，MA(1)模型的h步預(yù)測也都為0，預(yù)測方差則都為41（2）二步預(yù)測412、MA(2)模型預(yù)測（1）一步預(yù)測因此一步預(yù)測為預(yù)測誤差的方差為422、MA(2)模型預(yù)測42（2）二步預(yù)測因此二步預(yù)測為預(yù)測誤差的方差為對于任意h>2，MA(2)模型的h步預(yù)測也都為0，預(yù)測方差則都為。43（2）二步預(yù)測433、MA(q)模型預(yù)測h步預(yù)測的公式:其中，且對于，。h步預(yù)測誤差的方差443、MA(q)模型預(yù)測44（三）AR模型預(yù)測1、AR(1)模型預(yù)測（1）一步預(yù)測因此一步預(yù)測為預(yù)測誤差的方差為45（三）AR模型預(yù)測45（2）二步預(yù)測因此二步預(yù)測為預(yù)測誤差的方差為46（2）二步預(yù)測46（3）h步預(yù)測()預(yù)測為預(yù)測誤差的方差為47（3）h步預(yù)測()472、AR(2)模型預(yù)測（1）一步預(yù)測因此一步預(yù)測為預(yù)測誤差的方差為482、AR(2)模型預(yù)測48（2）二步預(yù)測因此二步預(yù)測為預(yù)測誤差的方差為49（2）二步預(yù)測49（3）三步預(yù)測預(yù)測為預(yù)測誤差的方差為對三步以上的預(yù)測則更復(fù)雜，把模型轉(zhuǎn)變?yōu)橐苿悠骄Ｐ秃箢A(yù)測會更容易一些。50（3）三步預(yù)測503、MA(q)模型預(yù)測h步預(yù)測的公式:其中，且對于，。h步預(yù)測誤差的方差513、MA(q)模型預(yù)測51（四）ARMA(1,1)模型的預(yù)測一步預(yù)測因此一步預(yù)測為預(yù)測誤差方差為52（四）ARMA(1,1)模型的預(yù)測52二步預(yù)測因此二步預(yù)測為預(yù)測誤差的方差為53二步預(yù)測53（五）預(yù)測的比較可以用不同模型預(yù)測的均方預(yù)測誤差，即各步預(yù)測誤差平方和除預(yù)測步數(shù)，作為判斷標(biāo)準(zhǔn)。例如作了m步預(yù)測，意味著留了m個(gè)樣本數(shù)據(jù)作為預(yù)測用，那么就是判斷模型預(yù)測性能，選擇模型的重要依據(jù)。54（五）預(yù)測的比較54（三）ARMA模型的自相關(guān)函數(shù)

由ARMA(p,q)的自協(xié)方差公式可以看出，只有的q個(gè)自相關(guān)的值同時(shí)依賴于和；當(dāng)時(shí)，具有與AR(p)模型相同的自相關(guān)函數(shù)差分公式或者55（三）ARMA模型的自相關(guān)函數(shù)1若，自相關(guān)函數(shù)是指數(shù)或正弦波衰減的，具體由多項(xiàng)式和初始值決定。若，就會有個(gè)初始值不遵從一般的衰減變化形式。ARMA(p,q)的自相關(guān)函數(shù)是步拖尾的。這一事實(shí)在識別ARMA模型時(shí)也非常有用。56若，自相關(guān)函數(shù)ARMA(1,1)過程57ARMA(1,1)過程3二、偏自相關(guān)函數(shù)（partialautocorrelationfunction，PACF）時(shí)間序列過程的偏自相關(guān)函數(shù)就是時(shí)間序列在兩個(gè)時(shí)間隨機(jī)變量之間，排除了其間各個(gè)時(shí)間隨機(jī)變量影響的相關(guān)系數(shù)。58二、偏自相關(guān)函數(shù)（partialautocorrelati（一）AR(p)模型的偏自相關(guān)函數(shù)AR(p)的模型偏自相關(guān)函數(shù)定義為計(jì)算方法把對回歸，得到回歸方程其中最后一項(xiàng)的回歸系數(shù)就是要求的偏自相關(guān)系數(shù)。59（一）AR(p)模型的偏自相關(guān)函數(shù)5根據(jù)線性回歸法計(jì)算偏自相關(guān)函數(shù)，運(yùn)用最小二乘法進(jìn)行參數(shù)估計(jì)，得到正規(guī)方程組該方程組也可以認(rèn)為是利用的協(xié)方差和自相關(guān)函數(shù)導(dǎo)出。尤勒——沃克方程如下60根據(jù)線性回歸法計(jì)算偏自相關(guān)函數(shù)，運(yùn)用最小二乘法進(jìn)行參數(shù)估計(jì)，分別求解，得到偏自相關(guān)系數(shù)：61分別求解，得到偏自相關(guān)系數(shù)：7由于AR(p)模型意味著與以后的滯后項(xiàng)不相關(guān)，因此大于p階的偏自相關(guān)系數(shù)必然都等于0。這意味著AR(p)模型的偏自相關(guān)函數(shù)有在處截尾的特征。這也是識別自回歸模型及其自回歸階數(shù)的重要依據(jù)。62由于AR(p)模型意味著與以后的滯后項(xiàng)不相（二）MA(q)和ARMA模型的偏自相關(guān)函數(shù)MA(1)的偏自相關(guān)函數(shù)

該函數(shù)，且被衰減指數(shù)控制，因此具有拖尾性?？赡娴腗A()過程等價(jià)于無限階的AR過程，因此它們的偏自相關(guān)函數(shù)會無限延伸，被指數(shù)衰減和（或）正弦波衰減所控制?？傊季哂型衔驳奶卣?。63（二）MA(q)和ARMA模型的偏自相關(guān)函數(shù)9自回歸移動平均混合過程ARMA(p,q)，是由自回歸過程和移動平均過程兩部分組成，因此它們的偏自相關(guān)函數(shù)也是無限延伸的，其特征就像純移動平均過程的偏自相關(guān)函數(shù)?；旌线^程的偏自相關(guān)函數(shù)被復(fù)合的衰減指數(shù)和（或）衰減正弦波所控制。衰減特性主要由移動平均過程的階數(shù)和具體參數(shù)決定。64自回歸移動平均混合過程ARMA(p,q)，是由自回歸過程和移三、模型識別方法1、基本ARMA模型自相關(guān)和偏自相關(guān)函數(shù)的基本特征（1）AR(p)模型的自相關(guān)函數(shù)是拖尾的，即會按指數(shù)衰減，或正弦振蕩衰減，偏自相關(guān)函數(shù)是截尾的，截尾處為自回歸階數(shù)p；（2）MA(q)模型的自相關(guān)函數(shù)是截尾的，截尾處對應(yīng)移動平均階數(shù)q。偏自相關(guān)函數(shù)則是拖尾的；65三、模型識別方法11（3）ARMA(p,q)模型的自相關(guān)函數(shù)和偏自相關(guān)函數(shù)都是拖尾的，自相關(guān)函數(shù)是步拖尾，偏自相關(guān)函數(shù)是步拖尾。66（3）ARMA(p,q)模型的自相關(guān)函數(shù)和偏自相關(guān)函數(shù)都是拖2、樣本自相關(guān)函數(shù)和樣本偏自相關(guān)函數(shù)假設(shè)有一組觀測樣本，一般認(rèn)為近似自相關(guān)函數(shù)最好的樣本自相關(guān)函數(shù)為：其中672、樣本自相關(guān)函數(shù)和樣本偏自相關(guān)函數(shù)13計(jì)算樣本偏自相關(guān)函數(shù)（SPACF）的方法：直接把樣本自相關(guān)值代入尤勒——沃克方程進(jìn)行計(jì)算，或者用公式回歸的方法計(jì)算。68計(jì)算樣本偏自相關(guān)函數(shù)（SPACF）的方法：14第三節(jié)自回歸移動平均模型的估計(jì)ARMA模型的參數(shù)估計(jì)常用的方法是利用均值（期望）、自相關(guān)函數(shù)，包括Yule-Walker方程的矩估計(jì)方法。這些矩估計(jì)方法是一致估計(jì)，但未必有效。充分有效的估計(jì)方法是最大似然法，但最大似然法比較復(fù)雜。在樣本容量較大時(shí)矩估計(jì)與最大似然估計(jì)是接近的。69第三節(jié)自回歸移動平均模型的估計(jì)ARMA模型的參數(shù)估計(jì)常用的一、移動平均模型參數(shù)估計(jì)MA(q)模型的自協(xié)方差函數(shù)為自相關(guān)函數(shù)為70一、移動平均模型參數(shù)估計(jì)16首先利用樣本數(shù)據(jù)計(jì)算出的估計(jì)值把這q+1個(gè)樣本自協(xié)方差代自協(xié)方差函數(shù)中的，或者根據(jù)這些再計(jì)算出的估計(jì)代入自相關(guān)函數(shù)，并用和分別代自協(xié)方差或自相關(guān)函數(shù)中的待定參數(shù)和，可得到q+1個(gè)方程的聯(lián)立方程組。71首先利用樣本數(shù)據(jù)計(jì)算出的估計(jì)值17如果可以從這個(gè)方程組解出和，就是我們要求的參數(shù)估計(jì)值。也可以先解出真實(shí)參數(shù)與自協(xié)方差、自相關(guān)的關(guān)系，再代入樣本估計(jì)值。因?yàn)槭菚r(shí)間序列過程的二階矩，上述估計(jì)量是通過q+1個(gè)樣本矩方程求出的，所以是矩估計(jì)量，具有一致估計(jì)的性質(zhì)。72如果可以從這個(gè)方程組解出和，就是q=1時(shí)的參數(shù)估計(jì)方法一：直接利用一階自相關(guān)函數(shù)進(jìn)行參數(shù)估計(jì)73q=1時(shí)的參數(shù)估計(jì)19由于可逆性條件要求的絕對值小于1，因此只有滿足要求。把樣本自相關(guān)系數(shù)作為的估計(jì)代入上式，就可以解得模型參數(shù)的估計(jì)量74由于可逆性條件要求的絕對值小于1，因此只有20方法二：利用自協(xié)方差函數(shù)進(jìn)行估計(jì)MA(1)模型有求解上述方程組，并利用，可解得75方法二：利用自協(xié)方差函數(shù)進(jìn)行估計(jì)21代入樣本自相關(guān)和自協(xié)方差得模型參數(shù)和模型誤差項(xiàng)方差的估計(jì)量由于上述矩估計(jì)的方程組是非線性的，因此只有當(dāng)q較小（q=1、2、3）時(shí)，直接進(jìn)行解析求解才可行，當(dāng)更大時(shí)解析求解越來越困難，一般應(yīng)使用迭代方法求近似解。76代入樣本自相關(guān)和自協(xié)方差得模型參數(shù)和模型誤差項(xiàng)方差最簡單的迭代方法把MA(q)模型的自協(xié)方差公式代入估計(jì)量，并變換為77最簡單的迭代方法23首先給出參數(shù)的一組初始值：將它們和代入上述兩個(gè)迭代公式，計(jì)算出參數(shù)的第一次迭代值，，再將這些參數(shù)值代入迭代公式反復(fù)迭代，直到收斂。最后得到迭代值作為參數(shù)估計(jì)值。78首先給出參數(shù)的一組初始值：24二、自回歸模型參數(shù)估計(jì)（一）普通最小二乘估計(jì)OLS根據(jù)模型，殘差平方和為根據(jù)最小二乘原理，利用一階條件求上述最小二乘函數(shù)最小化的參數(shù)值，即為最小二乘估計(jì)。79二、自回歸模型參數(shù)估計(jì)25（二）利用樣本自協(xié)方差方程的矩估計(jì)對于一般的平穩(wěn)AR(p)模型，有關(guān)于自相關(guān)的一組關(guān)系，即Yule-Walker方程：80（二）利用樣本自協(xié)方差方程的矩估計(jì)26利用樣本數(shù)據(jù)計(jì)算出樣本自相關(guān)，代入上述Yule-Walker方程，可以解得的“Yule-Walker估計(jì)”：81利用樣本數(shù)據(jù)計(jì)算出樣本自相關(guān)27該模型中修正項(xiàng)的方差則可以用下式估計(jì)：因?yàn)橛?jì)算估計(jì)量的方程組是樣本自相關(guān)函數(shù)，也是二階樣本矩方程，因此Yule-Walker估計(jì)同樣是矩估計(jì)量，也是一致估計(jì)。82該模型中修正項(xiàng)的方差則可以用下式估計(jì)：28當(dāng)樣本容量足夠大時(shí)，OLS法和矩估計(jì)方法的結(jié)果是很相似的。在使用OLS法時(shí)需要注意的是，AR(p)模型回歸用的是一個(gè)時(shí)間序列的數(shù)據(jù)，各期滯后之間相關(guān)性較強(qiáng)，因此回歸結(jié)果的有效性往往有問題，必須時(shí)間序列的樣本容量比較大，而且還要排斥存在共線性問題。83當(dāng)樣本容量足夠大時(shí)，OLS法和矩估計(jì)方法的結(jié)果是很相似的。2三、自回歸移動平均模型參數(shù)估計(jì)ARMA(p,q)模型的個(gè)參數(shù)可分兩步進(jìn)行估計(jì)步驟一：先估計(jì)出其中的自回歸參數(shù)；步驟二：估計(jì)移動平均系數(shù)和。84三、自回歸移動平均模型參數(shù)估計(jì)30（一）估計(jì)自回歸參數(shù)因?yàn)楫?dāng)時(shí)，ARMA(p,q)模型的自相關(guān)函數(shù)與AR(p)相同的性質(zhì)，因此85（一）估計(jì)自回歸參數(shù)31利用樣本自相關(guān)函數(shù)值，可計(jì)算出的估計(jì)量：86利用樣本自相關(guān)函數(shù)值，可計(jì)算出的估計(jì)量：32（二）估計(jì)移動平均系數(shù)模型改寫成令，并讓作為一個(gè)變量代入，則模型近似為就是一個(gè)MA(q)模型，可以利用前面介紹的MA(q)模型矩方法估計(jì)其中的參數(shù)和87（二）估計(jì)移動平均系數(shù)33可以利用原時(shí)間序列的自協(xié)方差和前面得到的自回歸系數(shù)估計(jì)，計(jì)算出的自協(xié)方差，進(jìn)而計(jì)算出自相關(guān)系數(shù)。再代入MA(q)模型矩估計(jì)的樣本自相關(guān)函數(shù)，就可以用前面介紹的方法得到和的參數(shù)估計(jì)。8834第四節(jié)ARMA模型檢驗(yàn)和預(yù)測一、ARMA模型檢驗(yàn)ARMA模型最主要的檢驗(yàn)是殘差序列隨機(jī)性檢驗(yàn)，也就是在用所選擇的模型進(jìn)行參數(shù)估計(jì)以后，確定殘差序列是無序列相關(guān)的白噪聲，還是存在序列相關(guān)性：如果仍然存在明顯的序列相關(guān)性，意味著選擇的模型沒有把原時(shí)間序列中的信息全部模擬出來，或者說存在一定的偏差，模型需要修正。如果殘差序列已經(jīng)是白噪聲，則所選擇的模型比較合理。89第四節(jié)ARMA模型檢驗(yàn)和預(yù)測一、ARMA模型檢驗(yàn)35檢驗(yàn)殘差是否白噪聲的方法（一）是根據(jù)殘差序列的樣本自相關(guān)函數(shù)SACF，樣本偏自相關(guān)函數(shù)SPACF，看它們是否在統(tǒng)計(jì)上具有顯著性。（二）利用SACF，用專門的統(tǒng)計(jì)量

~90檢驗(yàn)殘差是否白噪聲的方法36一般的參數(shù)顯著性t檢驗(yàn)，確定模型及其階數(shù)的信息準(zhǔn)則SIC和AIC，也都對ARMA模型的選擇，對自回歸、移動平均階數(shù)的確定有參考價(jià)值。在應(yīng)用時(shí)應(yīng)該綜合考慮這些因素。BOX等建議采用“過擬合方法”進(jìn)行檢驗(yàn)。即先設(shè)定參數(shù)較多，階數(shù)較高的模型，然后根據(jù)顯著性和模型選擇、判斷準(zhǔn)則逐步簡化。這種方法有一定道理，但有時(shí)也有問題。91一般的參數(shù)顯著性t檢驗(yàn)，確定模型及其階數(shù)的信息準(zhǔn)則SIC和A二、ARMA模型預(yù)測（一）ARMA模型預(yù)測原理預(yù)測的前提是已確定了模型，并且已經(jīng)作了參數(shù)估計(jì)和進(jìn)行了基本的檢驗(yàn)。檢驗(yàn)評估模型的預(yù)測往往把觀測數(shù)據(jù)分成兩部分，一部分用于估計(jì)參數(shù)，另一部分則用于檢驗(yàn)?zāi)Ｐ偷念A(yù)測效果，從而判斷模型的有效性。時(shí)間序列模型預(yù)測的一般準(zhǔn)則是均方誤（MSE）最小，而均方誤最小