時(shí)間序列分析第六章模型的參數(shù)估計(jì)

時(shí)間序列分析第六章模型的參數(shù)估計(jì)當(dāng)前第1頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

第一節(jié).AR(p)模型的參數(shù)估計(jì)目的：為觀測(cè)數(shù)據(jù)建立AR(p)模型(1.1)假定自回歸階數(shù)p已知，考慮回歸系數(shù)和零均值白噪聲的方差的估計(jì)。數(shù)據(jù)的預(yù)處理：如果樣本均值不為零，需將它們中心化，即將它們都同時(shí)減去其樣本均值

再對(duì)序列按(1.1)式的擬合方法進(jìn)行擬合。

當(dāng)前第2頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

假定數(shù)據(jù)適合于以下模型(1.2)其中，p為給定的非負(fù)整數(shù)，為未知參數(shù)，記為系數(shù)參數(shù)，為獨(dú)立同分布序列，且，與獨(dú)立，參數(shù)滿足平穩(wěn)性條件。當(dāng)前第3頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

A.AR(p)模型參數(shù)的Yule-Walker估計(jì)對(duì)于AR(p)模型，自回歸系數(shù)由AR(p)序列的自協(xié)方差函數(shù)通過(guò)Yule-Walker方程

唯一決定，白噪聲方差由

決定。當(dāng)前第4頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

AR(p)模型的自回歸系數(shù)和白噪聲方差的矩估計(jì)就由樣本Yule-Walker方程(1.3)

和(1.4)決定。當(dāng)前第5頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

令

則(1.3),(1.4)式可寫(xiě)為當(dāng)前第6頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

實(shí)際應(yīng)用中，對(duì)于較大的p,為了加快計(jì)算速度可采用如下的Levison遞推方法

遞推最后得到矩估計(jì)當(dāng)前第7頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)上式是由求偏相關(guān)函數(shù)的公式：導(dǎo)出。當(dāng)前第8頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

定理1.1如果AR(p)模型中的是獨(dú)立同分布的，則當(dāng)時(shí)(1)(2)依分布收斂到p維正態(tài)分布。當(dāng)前第9頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

注：用表示的第元素時(shí)，可知依分布收斂到，于是的95%的漸近置信區(qū)間是

在實(shí)際問(wèn)題中，未知，可用的元素代替，得到的近似置信區(qū)間當(dāng)前第10頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

B.AR(p)模型參數(shù)的最小二乘估計(jì)如果是自回歸系數(shù)的估計(jì)，白噪聲的估計(jì)定義為

通常為殘差。我們把能使(1.6)達(dá)到極小值的稱為的最小二乘估計(jì)。當(dāng)前第11頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

記

則，于是的最小二乘估計(jì)為

即

當(dāng)前第12頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

相應(yīng)地，白噪聲方差的最小二乘估計(jì)

式中為的p個(gè)分量。當(dāng)前第13頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

定理1.2設(shè)AR(p)模型中的白噪聲是獨(dú)立同分布的，是自回歸系數(shù)的最小二乘估計(jì)，則當(dāng)時(shí)，依分布收斂到p維正態(tài)分布

注：對(duì)于較大的n，最小二乘估計(jì)和矩估計(jì)(Yule-Walker)估計(jì)的差別不大。當(dāng)前第14頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

當(dāng)前第15頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

C.AR(P)模型的極大似然估計(jì)假定模型AR(p)中的為正態(tài)分布，則觀測(cè)向量的高斯似然函數(shù)為

相應(yīng)的對(duì)數(shù)似然函數(shù)為

其中，為的協(xié)方差陣，表示的行列式，使得對(duì)數(shù)似然函數(shù)達(dá)到極大值的和稱為和的極大似然估計(jì)。當(dāng)前第16頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)從另一角度考慮：當(dāng)前第17頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

當(dāng)前第18頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

注：當(dāng)n充分大時(shí)，AR(p)模型參數(shù)的極大似然估計(jì)、最小二乘估計(jì)和矩估計(jì)(Yule-Walker估計(jì))三者都非常接近，即三者漸近相等，它們都可以作為AR(p)模型的參數(shù)估計(jì)，這是AR(p)模型的獨(dú)有的優(yōu)點(diǎn)。當(dāng)前第19頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例1.1.由下列AR(1)序列產(chǎn)生長(zhǎng)度為n=300的樣本，計(jì)算出前5個(gè)樣本自協(xié)方差函數(shù)值為求參數(shù)的矩估計(jì)和最小二乘估計(jì)。(1)參數(shù)的矩估計(jì)分別為將樣本自協(xié)方差函數(shù)值代入得當(dāng)前第20頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

(2)參數(shù)的最小二乘估計(jì)分別為當(dāng)前第21頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例1.2求AR(2)模型

參數(shù)的估計(jì)，這里n=300,

(1)AR(2)模型的矩估計(jì)為當(dāng)前第22頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

計(jì)算出的前5個(gè)樣本協(xié)方差函數(shù)值為將其值代入上式得：(2)最小二乘估計(jì)當(dāng)前第23頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

注：一般在求高階AR(p)模型參數(shù)的矩估計(jì)時(shí)，為了避免求高階逆矩陣，可采用求偏相關(guān)函數(shù)的遞推算法，求出

即為的矩估計(jì)，將它們代入的表達(dá)式可得。當(dāng)前第24頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

D.AR(p)模型的定階1.偏相關(guān)函數(shù)的分析方法一個(gè)平穩(wěn)序列是AR(p)序列當(dāng)且僅當(dāng)它的偏相關(guān)函數(shù)是p步截尾的。如果p步截尾：當(dāng)時(shí)，；而，就以作為p的估計(jì)。當(dāng)前第25頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

定理1.3設(shè)由

定義，如果AR(p)模型中的白噪聲是獨(dú)立同分布的，，則對(duì)確定的k>p,當(dāng)時(shí)，

依分布收斂到k維正態(tài)分布。當(dāng)前第26頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

推論：在定理1.3的條件下，對(duì)k>p,依分布收斂到標(biāo)準(zhǔn)正態(tài)分布N(0,1)。根據(jù)推論，對(duì)于AR(p)序列和k>p，當(dāng)樣本量n比較大時(shí)，以近似于0.95的概率落在區(qū)間之內(nèi)。于是對(duì)于某個(gè)固定的k，以

作為p的估計(jì)。

當(dāng)前第27頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

或者根據(jù)推論有如下的檢驗(yàn)方法：對(duì)于某個(gè)正整數(shù)p,

顯著地異于零，而

近似等于零,其滿足(或)的個(gè)數(shù)占的比例近似地為68.3%(或95.5%),則近似地認(rèn)為在p步截尾，初步判定為AR(p)。當(dāng)前第28頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例1.3（例1.1續(xù)）使用樣本偏相關(guān)函數(shù)對(duì)AR(p)的模型階數(shù)作初步的判定。結(jié)果：取上限，樣本自相關(guān)函數(shù)呈拖尾狀，而從15個(gè)偏相關(guān)函數(shù)來(lái)看,除顯著異于零之外，其余14個(gè)中絕對(duì)值不大于的有10個(gè)，于是結(jié)論：初步判定為AR(1)模型。當(dāng)前第29頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

前15個(gè)樣本偏相關(guān)函數(shù)當(dāng)前第30頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例1.4（例1.2續(xù)）使用樣本偏相關(guān)函數(shù)對(duì)AR(p)的模型階數(shù)作初步的判定。結(jié)果：取上限，樣本自相關(guān)函數(shù)呈拖尾狀，而從15個(gè)偏相關(guān)函數(shù)來(lái)看，除顯著異于零之外，其余14個(gè)中絕對(duì)值不大于的有9個(gè),于是結(jié)論：初步判定為AR(2)模型。當(dāng)前第31頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

前15個(gè)樣本偏相關(guān)函數(shù)當(dāng)前第32頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

2.AIC準(zhǔn)則方法(A-InformationCriterion)為了使擬合殘差平方和盡量小，而又不至于引入過(guò)多的虛假參數(shù)的估計(jì)，Akaike于1973年引入如下的準(zhǔn)則函數(shù)，假定已有階數(shù)p的上階，

AIC(k)的最小值點(diǎn)(若不唯一，應(yīng)取小的)稱為AR(p)模型的AIC定階，即當(dāng)前第33頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

具體步驟：1.取定p=k時(shí)，根據(jù)數(shù)據(jù)使用前一小節(jié)所提的任何一種參數(shù)的估計(jì)方法，給出噪聲方差的估計(jì)；2.再找出AIC取極小值時(shí)，所對(duì)應(yīng)的階數(shù)p.注：AIC定階并不相合，AIC定階通常會(huì)對(duì)階數(shù)略有高估。故在應(yīng)用中，當(dāng)樣本量不是很大時(shí)，使用AIC定階方法。當(dāng)前第34頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

為了克服AIC定階的不相合性，可使用BIC準(zhǔn)則方法。設(shè)為AR序列，則BIC準(zhǔn)則函數(shù)為

將此準(zhǔn)則函數(shù)達(dá)到最小值的解作為p的估計(jì)，就是BIC準(zhǔn)則方法。注：1.理論上已證明BIC準(zhǔn)則的定階具有相合性。2.當(dāng)n不是很大時(shí)，用BIC定階有時(shí)會(huì)低估階數(shù)p，造成模型的較大失真，故在實(shí)際問(wèn)題中，特別當(dāng)樣本量不是很大時(shí),BIC的定階效果并不如AIC定階準(zhǔn)則。當(dāng)前第35頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例1.5（例1.1續(xù)）n=300個(gè)觀測(cè)，定階。方法：觀察偏相關(guān)函數(shù)，確定上界是P=10，對(duì)p=1,2,…,10分別解Yule-Walker方程得到的Yuler-Walker估計(jì)，再對(duì)p=1,2,…,10分別計(jì)算出AIC和BIC函數(shù)，計(jì)算結(jié)果如下：p12345AIC(p)2.98392.99393.00383.00023.0050BIC(p)2.99963.02523.05083.06293.0834當(dāng)前第36頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

結(jié)果：AIC(1)和BIC(1)分別是AIC和BIC函數(shù)的最小值。

結(jié)論：由AIC和BIC定階可知階數(shù)p=1.p678910AIC(P)3.01103.01733.02663.02833.0308BIC(P)3.10513.12713.15203.16943.1876當(dāng)前第37頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

AIC函數(shù)圖

當(dāng)前第38頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

BIC函數(shù)圖當(dāng)前第39頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例1.6（例1.2續(xù)）n=300個(gè)觀測(cè)，定階。方法：觀察偏相關(guān)函數(shù)，確定上界是P=10,對(duì)p=1,2,…,10分別求出的估計(jì)，再對(duì)p=1,2,…,10，計(jì)算AIC和BIC函數(shù)，計(jì)算結(jié)果如下：p12345AIC(p)2.84702.72772.73682.72812.7377BIC(p)2.86272.75912.78382.79382.8161當(dāng)前第40頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

結(jié)果：AIC(2)和BIC(2)分別是AIC和BIC函數(shù)的最小值。結(jié)論：由AIC和BIC定階可知階數(shù)p=2。

p678910AIC(p)2.74652.75672.75922.76272.7688BIC(p)2.84062.86652.88462.90382.9256當(dāng)前第41頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

AIC函數(shù)圖

當(dāng)前第42頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

BIC函數(shù)圖當(dāng)前第43頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例1.7：獨(dú)立重復(fù)1000次實(shí)驗(yàn)，每次產(chǎn)生符合模型AR(4)

的300個(gè)觀測(cè)，得到AIC和BIC定階情況如下：12345678910AIC定階052256741136129211411BIC定階145559476720000當(dāng)前第44頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

在1000次模擬計(jì)算中AIC將階數(shù)定為4的有674次，而B(niǎo)IC階數(shù)定為4的有476次。BIC定階對(duì)階數(shù)低估的比率為51.5%增大樣本量n=1000，獲得如下結(jié)果：12345678910AIC定階0007391244537251218BIC定階041990500000當(dāng)前第45頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

AIC定出的平均階數(shù)是Avc(AIC)=4.593，BIC定出的平均階數(shù)是Avc(BIC)=3.996，故對(duì)于較大的樣本量有必要綜合考慮AIC定階和BIC定階。當(dāng)前第46頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

E.擬合模型的檢驗(yàn)

現(xiàn)有數(shù)據(jù)，欲判斷它們是否符合以下模型式中被假定為獨(dú)立序列,且與獨(dú)立。原假設(shè)：數(shù)據(jù)符合AR(p)。故在成立時(shí)，下列序列

為獨(dú)立序列的一段樣本值序列。當(dāng)前第47頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

步驟：1.首先，根據(jù)公式

計(jì)算出殘差的樣本自相關(guān)函數(shù)，2.利用上一章關(guān)于獨(dú)立序列的判別方法，判斷是否為獨(dú)立序列的樣本值3.根據(jù)判斷結(jié)果，如果接受它們?yōu)楠?dú)立序列的樣本值，則接受原假設(shè)，即接受符合AR(p),否則，應(yīng)當(dāng)考慮采用新的模型擬合原始數(shù)據(jù)序列。當(dāng)前第48頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例1.8（例1.5續(xù)）擬合后，給出殘差頭15個(gè)數(shù)據(jù)，有11個(gè)落在之間，

故不能否定原假設(shè)，即符合AR(1)模型。當(dāng)前第49頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

殘差的圖形當(dāng)前第50頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

殘差的自相關(guān)函數(shù)當(dāng)前第51頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例1.9（例1.6續(xù)）擬合后，給出殘差頭15個(gè)數(shù)據(jù)，有15個(gè)落在之間，故不能否定原假設(shè)，即符合AR(2)模型。當(dāng)前第52頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

殘差的圖形當(dāng)前第53頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

殘差的自相關(guān)函數(shù)當(dāng)前第54頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

第二節(jié)滑動(dòng)平均模型擬合對(duì)于已給的時(shí)間序列數(shù)據(jù)，用MA(q)式的滑動(dòng)平均模型去擬合它們，稱為滑動(dòng)平均模型擬合?；瑒?dòng)平均模型擬合主要包括：(1)判斷滑動(dòng)平均模型MA的階數(shù)；(2)估計(jì)模型的參數(shù)；(3)對(duì)擬合模型進(jìn)行檢驗(yàn)。當(dāng)前第55頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

一.參數(shù)估計(jì)假定數(shù)據(jù)序列適合以下模型

(2.1)其中為獨(dú)立同分布的序列,且,q為給定的非負(fù)整數(shù)，為未知參數(shù)，并滿足可逆性條件。當(dāng)前第56頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

1.參數(shù)的矩估計(jì)方法MA(q)序列的自協(xié)方差函數(shù)與MA(q)的模型參數(shù)有如下公式：

故，和的矩估計(jì)和，為

(2.2)當(dāng)前第57頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

(1)解析法對(duì)于階數(shù)較低的MA(q)模型，例如MA(1)和MA(2)，可利用解析法求解。對(duì)于MA(1)模型：,和滿足可得和的矩估計(jì)分別為當(dāng)前第58頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例4.11由MA(1)模型產(chǎn)生長(zhǎng)度n=300的樣本，計(jì)算出前兩個(gè)樣本自協(xié)方差函數(shù)值,由上述討論當(dāng)前第59頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

對(duì)于MA(2)模型：,其中

滿足

可得的估計(jì)為:當(dāng)時(shí)

當(dāng)前第60頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

當(dāng)時(shí)，從而可得，當(dāng)前第61頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例4.12求MA(2)模型的n=950的樣本的參數(shù)的矩估計(jì)。解：已知前三項(xiàng)的樣本自相關(guān)函數(shù)分別為使用上述公式，可得到如下估計(jì)值當(dāng)前第62頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

(2).線性迭代算法將(2.2)式表示為(2.3)在可逆域內(nèi)，給定的初值,代入(2.3)式右邊，得到一步迭代值，再將它們代入(2.3)式右邊，得出(2.3)式左邊的第二不迭代值，同法重復(fù)直到某步，當(dāng)前第63頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

設(shè)有精度,當(dāng)同時(shí)成立時(shí)，就停止迭代（否則繼續(xù)迭代下去），以作為的矩估計(jì)。當(dāng)前第64頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

(3)Newton-Raphson算法優(yōu)點(diǎn)：方法簡(jiǎn)便、收斂速度快缺點(diǎn)：使用該算法得到的解不能保證滿足屬于可逆域，需要采用調(diào)整方法才可做到。詳見(jiàn)《時(shí)間序列的分析與應(yīng)用》或《應(yīng)用時(shí)間序列分析》。當(dāng)前第65頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

2.極大似然估計(jì)若(2.1)中，為正態(tài)分布，則服從分布，其中是的協(xié)方差矩陣。于是有似然函數(shù)：其中，。使似然函數(shù)達(dá)到極大值之解的和，即為和的極大似然估計(jì)。當(dāng)前第66頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

近似極大似然估計(jì)方法：假定(2.1)式中的初值給定，不妨設(shè)為零值。則由(2.1)式和數(shù)據(jù)可以求出(2.4)

于是可得到如下近似似然函數(shù)為：

(2.5)

記

當(dāng)前第67頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

由(2.5)式?jīng)Q定的近似極大似然估計(jì)和滿足以下方程于是為以下方程的解而當(dāng)前第68頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

3.自回歸逼近方法原理：可逆的MA(q)模型有逆轉(zhuǎn)形式模型，且逆轉(zhuǎn)形式中的無(wú)窮階自回歸系數(shù)滿足以指數(shù)衰減到零的趨勢(shì)，故一個(gè)可逆的MA模型可用適當(dāng)高階的AR模型近似。用一個(gè)高階的AR模型擬合一個(gè)較低的MA序列稱為自回歸逼近擬合方法。當(dāng)前第69頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

步驟：1.對(duì)原始數(shù)據(jù)進(jìn)行自回歸模型擬合?？捎肁IC定階，求參數(shù)的Yule-Walker估計(jì)，在進(jìn)行檢驗(yàn)；或直接擬合AR(p)模型。其中，當(dāng)n不太大時(shí)，??；當(dāng)n很大時(shí)，取。將擬合后模型記為

(2.6)當(dāng)前第70頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

2.利用(2.6)式，計(jì)算擬合殘差：于是(2.1)式的模型可近似寫(xiě)為

記(2.7)當(dāng)前第71頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

于是，(2.7)可簡(jiǎn)記為故，和的最小二乘估計(jì)分別為和優(yōu)點(diǎn)：不涉及非線性代數(shù)方程，易于實(shí)際應(yīng)用。當(dāng)前第72頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

二.階數(shù)的估計(jì)1.自相關(guān)函數(shù)估計(jì)方法依據(jù)：一個(gè)平穩(wěn)序列為MA(q)序列的充要條件是它的自協(xié)方差函數(shù)q步截尾。對(duì)于MA(q)模型，當(dāng)k>q，n充分大時(shí)，的分布漸近正態(tài)，于是當(dāng)k>q，n充分大時(shí)，下列等式近似成立當(dāng)前第73頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

方法：對(duì)于每一個(gè)正整數(shù)q,計(jì)算樣本自相關(guān)函數(shù)(M一般取為左右),考察其中滿足

的個(gè)數(shù)是否占M的68.3%(或95.5%)左右,如取某顯著地異于零，而近似等于零，并滿足上述不等式的個(gè)數(shù)達(dá)到了68.3%(或95.5%)左右比例，則初步認(rèn)為在步截尾，初步判定為當(dāng)前第74頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例2.3設(shè)為MA(1)序列：由它產(chǎn)生長(zhǎng)度為n=300樣本值，計(jì)算出前17個(gè)樣本自相關(guān)函數(shù)為，計(jì)算出：當(dāng)前第75頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

2.AIC準(zhǔn)則定階方法給出模型階數(shù)q的上界，對(duì)于按前述的方法逐個(gè)擬合MA(m)模型。并給出白噪聲方差的估計(jì)量，定義AIC函數(shù)其中，n是樣本個(gè)數(shù)，AIC(m)的最小值點(diǎn)(如不唯一，應(yīng)取小的)稱為MA(q)模型的AIC定階。當(dāng)前第76頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例2.3的定階問(wèn)題，使用AIC準(zhǔn)則，有q123456AIC2.8852.8912.8982.9022.8952.901當(dāng)前第77頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

三.擬合模型的檢驗(yàn)如果一段時(shí)間序列數(shù)據(jù)符合(2.1)式，則當(dāng)給定初始值，由(2.2)式計(jì)算出，它應(yīng)當(dāng)是獨(dú)立序列的一段樣本值。故檢驗(yàn)問(wèn)題就轉(zhuǎn)化為檢驗(yàn)是否為獨(dú)立序列的一段樣本值的問(wèn)題方法：檢驗(yàn)和正態(tài)檢驗(yàn)。當(dāng)前第78頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

四.建模例題：產(chǎn)生模型

的n=300個(gè)樣本數(shù)據(jù)，建立模型。(1)求出樣本均值、樣本自協(xié)方差函數(shù)、樣本自相關(guān)函數(shù)當(dāng)前第79頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

樣本自相關(guān)函數(shù)當(dāng)前第80頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

(2)觀察樣本自相關(guān)函數(shù)為1步結(jié)尾，或使用前述的兩種定階方法，初步判定MA(1)(3)使用第二小節(jié)的矩估計(jì)的解析方法可得(4)檢驗(yàn)：給出我們使用檢驗(yàn)，給出，計(jì)算出當(dāng)前第81頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

取值圖

當(dāng)前第82頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

第三節(jié)ARMA模型的擬合根據(jù)數(shù)據(jù)序列，擬合以下ARMA(p,q)模型：(3.1)其中，為獨(dú)立同分布的序列，且對(duì)一切s<t成立，參數(shù)和滿足平穩(wěn)性和可逆性條件，且與無(wú)公共根。當(dāng)前第83頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

一.模型參數(shù)的估計(jì)1.矩估計(jì)方法步驟1.的矩估計(jì)，滿足如下方程：(3.2)其中，，由(1.19)可知p元線性方程組。當(dāng)前第84頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

記于是(3.2)可簡(jiǎn)寫(xiě)為若滿秩，則(3.3)當(dāng)前第85頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

步驟2.和滿足以下的方程式

(3.4)式中其中，(3.4)式關(guān)于的非線性代數(shù)方程組。當(dāng)q=1,2可求出顯示解，當(dāng)，可用數(shù)值解法。

當(dāng)前第86頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

2.近似極大似然估計(jì)方法方法:取初始值對(duì)于任意給定的一組參數(shù),由(3.1)迭代算出相應(yīng)值，即(3.5)定義關(guān)于的函數(shù)則，近似似然函數(shù)為當(dāng)前第87頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

使得上式取到極大值的，稱它們?yōu)榈慕茦O大似然估計(jì)，也稱最小平方和估計(jì)。當(dāng)q=0，上述極值問(wèn)題簡(jiǎn)化為Yule-Walker估計(jì)。當(dāng)p=0，上述極值問(wèn)題與第三節(jié)的近似極大似然估計(jì)方法一致。(3.1)式中的的估計(jì)為當(dāng)前第88頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

3.自回歸逼近方法基本思路：(1)為數(shù)據(jù)建立AR模型，取自回歸階數(shù)的上界，采用AIC定階方法得到AR模型的階數(shù)估計(jì)P和自回歸系數(shù)的估計(jì).。(2)計(jì)算殘差

寫(xiě)出近似的ARMA(p,q)模型當(dāng)前第89頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

(3)對(duì)目標(biāo)函數(shù)

(2.6)極小化,得到最小二乘估計(jì),的最小二乘估計(jì)由下式定義當(dāng)前第90頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

具體算法定義：當(dāng)前第91頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

則目標(biāo)函數(shù)(2.6)可寫(xiě)成，可解出最小二乘估計(jì)為相應(yīng)地，的估計(jì)為當(dāng)前第92頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

二.模型階數(shù)的估計(jì)1.相關(guān)分析法用于ARMA模型的定階方法：(1)給定初值(一般取初值為零)將的估計(jì)代入(3.2)遞推得到殘差估計(jì)當(dāng)前第93頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

(2)作假設(shè)檢驗(yàn)

來(lái)自于白噪聲序列長(zhǎng)度為n的樣本。不是白噪聲序列的長(zhǎng)度為n的樣本。令檢驗(yàn)等價(jià)于檢驗(yàn)是否來(lái)自于N(0,1)總體的k個(gè)獨(dú)立抽樣問(wèn)題。當(dāng)前第94頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

a.檢驗(yàn)的絕對(duì)值是否有68.3%左右小于1.b.檢驗(yàn)法：在成立條件下，當(dāng)n充分大時(shí)，是k個(gè)相互獨(dú)立N(0,1)隨機(jī)變量，則

服從自由度為k的中心分布，則以顯著水平為的否定域?yàn)楫?dāng)前第95頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

2.AIC準(zhǔn)則方法給定ARMA模型階數(shù)的上界和。對(duì)于每一對(duì)(k,j)，,計(jì)算AIC函數(shù)取，使

此時(shí)稱為ARMA模型的階的估計(jì)，其中一般取或中的整數(shù)。當(dāng)前第96頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

具有相合性的定階準(zhǔn)則BIC,使上式達(dá)最小的為ARMA模型的階。

中的整數(shù)。當(dāng)前第97頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

三.擬合模型的檢驗(yàn)ARMA模型的檢驗(yàn)是檢驗(yàn)其擬合殘差序列是否為獨(dú)立序列。方法：取初值計(jì)算的樣本值，即

檢驗(yàn)是否為獨(dú)立序列的樣本值。當(dāng)前第98頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

四.例子：kejian2由計(jì)算機(jī)產(chǎn)生模擬時(shí)間序列數(shù)據(jù)。(1)計(jì)算出樣本均值、自相關(guān)函數(shù)、自協(xié)方差函數(shù)和偏相關(guān)函數(shù)當(dāng)前第99頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

樣本自相關(guān)函數(shù)當(dāng)前第100頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

樣本偏相關(guān)函數(shù)當(dāng)前第101頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

(2)取定階數(shù)

由AIC準(zhǔn)則：p=q=1(3)估計(jì)參數(shù)：(4)檢驗(yàn)

結(jié)論：數(shù)據(jù)符合ARMA(1,1)模型。當(dāng)前第102頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

當(dāng)前第103頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)第四節(jié)求和模型與季節(jié)模型

的處理方法一.求和模型ARIMA的識(shí)別與擬合1.求和模型的識(shí)別方法方法一直接觀察數(shù)據(jù)圖形的方法：根據(jù)數(shù)據(jù)畫(huà)出數(shù)據(jù)曲線圖，通過(guò)觀察曲線的形狀，可初步判別是否需要擬合求和模型。當(dāng)前第104頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例：數(shù)據(jù)1當(dāng)前第105頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

數(shù)據(jù)2

當(dāng)前第106頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

數(shù)據(jù)3

當(dāng)前第107頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

數(shù)據(jù)4當(dāng)前第108頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

方法二.數(shù)據(jù)樣本自相關(guān)函數(shù)分析法：當(dāng)序列含有趨勢(shì)項(xiàng)時(shí)，序列的樣本自相關(guān)函數(shù)的尾部不衰減到零值，特別地，所含趨勢(shì)項(xiàng)為多項(xiàng)式時(shí)，將近似于常數(shù)為1的序列。當(dāng)前第109頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例：序列1當(dāng)前第110頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

樣本自相關(guān)函數(shù)：當(dāng)前第111頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

序列2當(dāng)前第112頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

序列2樣本自相關(guān)函數(shù)當(dāng)前第113頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

序列3

當(dāng)前第114頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

序列3的樣本自相關(guān)函數(shù)當(dāng)前第115頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

另外，還可從數(shù)據(jù)的來(lái)源判斷使用求和模型的合理性。2.判斷求和模型ARIMA(p,d,q)的階數(shù)d對(duì)ARIMA(p,d,q)模型的研究焦點(diǎn)是對(duì)差分階數(shù)d的判別。d的判別方法：(1)用動(dòng)態(tài)數(shù)據(jù)的實(shí)際背景來(lái)確定。若數(shù)據(jù)圍繞著某條曲線變化，而此曲線是近似線性的，則判斷差分階數(shù)d=1,若此曲線可由二次多項(xiàng)式近似，則判斷階數(shù)d=2,一般地，若該曲線可由d次t的多項(xiàng)式逼近，則可對(duì)原序列作d次差分，而可按平穩(wěn)序列建模。當(dāng)前第116頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

(2)采用數(shù)據(jù)處理的方法：對(duì)原動(dòng)態(tài)數(shù)據(jù)分別作j次差分，，連同原數(shù)據(jù)共有D+1套動(dòng)態(tài)數(shù)據(jù)，然后對(duì)每套數(shù)據(jù)求出樣本自相關(guān)函數(shù)和樣本偏相關(guān)函數(shù)為,綜合分析它們的截尾性或拖尾性，最后判定為何種模型，再建立相應(yīng)的模型。

當(dāng)前第117頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

2.求和模型的擬合步驟1：判斷p值，對(duì)原數(shù)據(jù)進(jìn)行d次差分運(yùn)算，即(4.1)例：當(dāng)d=2時(shí)，為的二次差分序列，即，當(dāng)前第118頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

步驟2：根據(jù)差分后的數(shù)據(jù)序列按照前幾節(jié)的方法，擬合AR、MA、ARMA模型，包括模型參數(shù)的估計(jì)以及對(duì)階數(shù)p,q的估計(jì)，即(4.2)結(jié)合(4.1)和(4.2)，得到ARIMA(p,d,q)的擬合模型為，(4.3)步驟3：對(duì)擬合求和模型的檢驗(yàn)：即是檢驗(yàn)是否符合(4.2)的模型，亦是對(duì)擬合后的殘差進(jìn)行白噪聲檢驗(yàn).當(dāng)前第119頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

步驟3：對(duì)擬合求和模型的檢驗(yàn)：即是檢驗(yàn)是否符合(4.2)的模型，亦是對(duì)擬合后的殘差進(jìn)行白噪聲檢驗(yàn)。當(dāng)前第120頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例：某國(guó)1960年至1993年GNP平減指數(shù)的季度時(shí)間序列。要求對(duì)序列進(jìn)行模型識(shí)別。(sample12)當(dāng)前第121頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

當(dāng)前第122頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

第一步：判斷差分階數(shù)d=1,對(duì)數(shù)據(jù)進(jìn)行一階差分當(dāng)前第123頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

第二步：對(duì)差分后序列進(jìn)行ARMA模型擬合。觀察樣本自相關(guān)函數(shù)和偏相關(guān)函數(shù)，初步判斷為AR模型。使用AIC定階準(zhǔn)則和最小二乘估計(jì)方法。判斷階數(shù)p=2,,即當(dāng)前第124頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

擬合后的殘差圖當(dāng)前第125頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

第三步：擬合模型的檢驗(yàn)：采用正態(tài)檢驗(yàn)，

當(dāng)前第126頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

于是，擬合模型為：當(dāng)前第127頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

二.季節(jié)模型的識(shí)別與擬合季節(jié)ARMA模型：

其中T是周期，是某個(gè)ARMA(p,q)模型的特征多項(xiàng)式，實(shí)際問(wèn)題中T經(jīng)常的取值是4，7或12。當(dāng)前第128頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

星期一二三四五六日一周二周n+1周當(dāng)前第129頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

上述表中的每一列都可以看成一個(gè)時(shí)間序列，將數(shù)據(jù)(4.5)的第j列零均值化(4.6)其中(4.7)首先，用數(shù)據(jù)(4.6)建立模型：(4.8)其中當(dāng)前第130頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

在相隔T步上為白噪聲序列，而相隔小于T步時(shí)是相關(guān)的，即其次，仍為平穩(wěn)序列，故需對(duì)建立ARMA(p,q)模型，(4.9)其中對(duì)季節(jié)內(nèi)外為白噪聲序列，將(4.9)代入(4.8),得到季節(jié)ARMA模型，

(4.10)當(dāng)前第131頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

季節(jié)模型(4.10)實(shí)際上是一個(gè)ARMA(p+7P，q+7Q)模型，只是其中又很多的系數(shù)是零。季節(jié)模型的擬合方法：第一步：設(shè)是數(shù)據(jù)的樣本自協(xié)方差函數(shù)，利用擬合一個(gè)

模型：

要求這個(gè)模型通過(guò)模型檢驗(yàn)；第二步：利用擬合一個(gè)模型：要求這個(gè)模型通過(guò)模型檢驗(yàn)。于是，

當(dāng)前第132頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

為了得到更精確的估計(jì)，可將模型看作疏系數(shù)的ARMA模型，使用前幾節(jié)的ARMA模型參數(shù)的極大似然估計(jì)方法或最小二乘估計(jì)法估計(jì)模型(4.10)中的參數(shù)。當(dāng)前第133頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例：北京市1990.1-2000.12氣溫?cái)?shù)據(jù)（sample6）當(dāng)前第134頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

差分運(yùn)算當(dāng)前第135頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

觀察序列tempx1的樣本自相關(guān)函數(shù)和偏相關(guān)函數(shù)，建模lstempxar(1)ar(2)ma(1)ma(2)sar(12)sma(12)當(dāng)前第136頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

殘差檢驗(yàn)當(dāng)前第137頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

三.乘積模型的擬合如果時(shí)間序列既具有趨勢(shì)項(xiàng)又具有周期項(xiàng)，需采用乘積模型來(lái)擬合。在上例中如果每一列的數(shù)據(jù)需要經(jīng)過(guò)差分后才能進(jìn)行季節(jié)ARMA模型的擬合，模型將改寫(xiě)為，

稱之為乘積模型.當(dāng)前第138頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

實(shí)際問(wèn)題中，d和D的取值一般很小，例如：D=0或1。季節(jié)模型實(shí)際上是一個(gè)乘積模型。一種簡(jiǎn)單的乘積模型：(4.11)

其中T為某一正整數(shù)，表示周期。為某一平穩(wěn)可逆的ARMA(p,q)序列。(1)模型的擬合在T和D已知時(shí)，首先對(duì)進(jìn)行差分變換

(4.12)當(dāng)前第139頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

其中，滿足故，只需對(duì)擬合形如(4.1)的求和模型，就可得到模型(4.11)的參數(shù)估計(jì)。(2)T和D的取值判斷

a.T表示周期，它有較明顯的物理背景，可根據(jù)數(shù)據(jù)的實(shí)際背景確定T的大小b.D的確定，可使用逐步嘗試的方法。即對(duì)D=1,2…逐一嘗試，并擬合(4.11),若模型檢驗(yàn)通過(guò)，則確定該值為D的取值。當(dāng)前第140頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例：航空客流量數(shù)據(jù)。當(dāng)前第141頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

數(shù)據(jù)的預(yù)處理：

(1)xx=log(x)(2)cx=xx-5.542193當(dāng)前第142頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

模型的建立：對(duì)數(shù)據(jù)cx:

當(dāng)前第143頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

對(duì)數(shù)據(jù)dcx進(jìn)行一次差分運(yùn)算當(dāng)前第144頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

對(duì)數(shù)據(jù)ddcx建立模型：使用最小二乘估計(jì)方法，得到lsddcxma(1)ma(2)ma(3)當(dāng)前第145頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

模型的殘差檢驗(yàn)：當(dāng)前第146頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

結(jié)論：客流量的模型為當(dāng)前第147頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

另一種方法建模：觀察序列ddcx的樣本自相關(guān)函數(shù)和偏相關(guān)函數(shù)。lsd(log(x),1,12)ar(1)ar(2)ar(3)ma(1)sar(12)sma(12)lsddcxar(1)ar(2)ar(3)ma(1)sar(12)sma(12)lsd(log(x),1,12)ar(1)ar(3)ma(1)sar(12)sma(12)lsd(log(x),1,12)ar(3)ma(1)sar(12)sma(12)當(dāng)前第148頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)lsd(log(x),1,12)ar(3)ma(1)sar(12)sma(12)當(dāng)前第149頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

1.設(shè)為零均值平穩(wěn)序列，由它的長(zhǎng)度為N=100的樣本算得樣本自相關(guān)函數(shù)及樣本偏相關(guān)函數(shù)的前6個(gè)數(shù)值如下又知，試求：(1)為哪種模型，并說(shuō)明理由。(2)對(duì)模型參數(shù)和白噪聲方差給出矩估計(jì)。(3)判斷所建立的模型是否具有平穩(wěn)性（或可逆性），并給出模型的傳遞形式（或逆轉(zhuǎn)形式）k123456-0.8000.670-0.1580.390-0.3100.221-0.8000.0850.112-0.046-0.0610.038當(dāng)前第150頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

2.全國(guó)城鎮(zhèn)居民儲(chǔ)蓄額年數(shù)據(jù)序列的建模。下表給出1952年至1991年儲(chǔ)蓄額年數(shù)據(jù)(億元)8.612.214.316.922.427.925.147.351.139.231.435.644.852.357.759.862.361.064.573.385.194.1105.8114.6122.2135.1154.9202.6282.5354.1447.3572.6776.61057.81471.52067.62659.23734.85192.66790.9當(dāng)前第151頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

第五節(jié)疏系數(shù)自回歸模型

的處理方法疏系數(shù)自回歸模型：(5.1)其中，為白噪聲序列，且，為未知的正整數(shù)足標(biāo)值，為未知參數(shù)。這里不假定任何平穩(wěn)性條件成立。當(dāng)前第152頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

一.參數(shù)估計(jì)令其中表示矩陣的第s列矢量，它們的定義為當(dāng)前第153頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

使用上述記號(hào)，(5.1)可簡(jiǎn)寫(xiě)為(5.2）其中的P應(yīng)比大，但比樣本長(zhǎng)度n要小得多。于是，當(dāng)已知時(shí)，(5.2)式中參數(shù)的最小二乘估計(jì)為：當(dāng)前第154頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

二.足標(biāo)的估計(jì)取定足標(biāo)上界P,根據(jù)數(shù)據(jù)擬合如下模型：(5.3)滿足條件的(5.3)共有個(gè)，使用前述的最小二乘估計(jì)法，獲得這個(gè)疏系數(shù)自回歸模型參數(shù)估計(jì)，繼而得到個(gè)使用AIC準(zhǔn)則：當(dāng)前第155頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

或BIC準(zhǔn)則：求出：或從而確定的估計(jì)。當(dāng)前第156頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)第六節(jié)回歸與自回歸混合模型

的處理方法一.并聯(lián)形式混合回歸模型的擬合方法

(6.1)

(6.2)其中，為白噪聲序列，且,參數(shù)滿足平穩(wěn)性條件。為非隨機(jī)的可觀測(cè)的自變?cè)?。比如：它們可為多?xiàng)式，三角函數(shù)等。當(dāng)前第157頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

對(duì)(6.1)的統(tǒng)計(jì)分析可分為兩種情況：一種是在(6.1)中殘差項(xiàng)的協(xié)方差陣給定的情況下，對(duì)回歸系數(shù)的統(tǒng)計(jì)分析；另一種是，已知的模型具有AR形式，其階數(shù)和參數(shù)未知，或階數(shù)已知，而參數(shù)未知。當(dāng)前第158頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

1.模型回歸系數(shù)的估計(jì)考慮如下形式的回歸模型：(6.3)其中為非隨機(jī)的可觀測(cè)的自變?cè)瑸槲粗淖曰貧w系數(shù)矢量,為零均值的殘差，并假定它的協(xié)方差陣已知，記為。當(dāng)前第159頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

令于是(6.3)的矩陣形式為

(6.4)當(dāng)前第160頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

(1)模型參數(shù)的最小二乘估計(jì)：

（6.5）性質(zhì)：(I)是的無(wú)偏估計(jì)；(II)誤差

其協(xié)方差陣為當(dāng)前第161頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

(2)線性最小方差無(wú)偏估計(jì)線性最小方差無(wú)偏估計(jì)是線性無(wú)偏估計(jì)類中方差陣最小的估計(jì)，記。它必須具備如下三個(gè)條件：線性性質(zhì)：即，H為矩陣；無(wú)偏性：即，等價(jià)于最小方差性：即對(duì)其他滿足上述兩條件的估計(jì)都有，當(dāng)前第162頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

經(jīng)計(jì)算，線性最小方差無(wú)偏估計(jì)為

(6.6)且最小方差為

(6.7)當(dāng)前第163頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

(3)兩種估計(jì)的比較

(I)和都是線性的，都是的無(wú)偏估計(jì)；(II)的優(yōu)點(diǎn)是在計(jì)算時(shí)不需要知道的協(xié)方差陣。(III)線性最小方差無(wú)偏估計(jì)的優(yōu)點(diǎn)是在不同的無(wú)偏估計(jì)中誤差的方差最小。(IV)當(dāng)時(shí),當(dāng)前第164頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

2.并聯(lián)混合模型的分步識(shí)別方法第一步：根據(jù)所給數(shù)據(jù)，由(6.5)給出的最小二乘估計(jì)，即第二步：求出(6.2)的擬合殘差序列，即將視為的樣本值序列，用第一節(jié)方法對(duì)它們進(jìn)行自回歸擬合，包括對(duì)模型參數(shù)、階數(shù)的估計(jì)，以及對(duì)擬合模型的檢驗(yàn)。當(dāng)前第165頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

第三步若檢驗(yàn)通過(guò)，以此擬合模型作為對(duì)(6.2)式的擬合，連同上述對(duì)的估計(jì)完成對(duì)(6.1),(6.2)的擬合。當(dāng)前第166頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例：產(chǎn)生模型：

的n=500個(gè)樣本值，擬合該時(shí)序數(shù)據(jù)。當(dāng)前第167頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

模型的擬合：首先使用最小二乘估計(jì)方法對(duì)進(jìn)行傳統(tǒng)的回歸分析：當(dāng)前第168頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

對(duì)回歸后的殘差進(jìn)行自回歸建模：當(dāng)前第169頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

模型的檢驗(yàn)：對(duì)擬合后的最終殘差作白噪聲檢驗(yàn)，這里采用正態(tài)檢驗(yàn)

16/20=80%當(dāng)前第170頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

結(jié)論：擬合模型為：當(dāng)前第171頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

二.串聯(lián)形式混合模型的擬合方法

(6.8)令當(dāng)前第172頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

則(6.8)可簡(jiǎn)寫(xiě)為：

(6.9)當(dāng)前第173頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

于是的最小二乘估計(jì)為

(6.10)殘差項(xiàng)的方差的估計(jì)為，當(dāng)前第174頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

當(dāng)(6.8)中的p未知時(shí)，可應(yīng)用AIC準(zhǔn)則確定適當(dāng)?shù)膒值：p的估計(jì)，滿足

當(dāng)前第175頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

例：由序列,為標(biāo)準(zhǔn)正態(tài)白噪聲，產(chǎn)生n=500個(gè)樣本值，擬合該數(shù)據(jù)當(dāng)前第176頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

采用最小二乘估計(jì)得到：當(dāng)前第177頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

殘差的檢驗(yàn)：當(dāng)前第178頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

結(jié)論：擬合的模型為當(dāng)前第179頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

三.序列相關(guān)與ARMA模型1.序列相關(guān)理論與檢驗(yàn)涉及時(shí)間序列的回歸模型，殘差序列自相關(guān)較常見(jiàn)。模型形式：(6.11)(6.12)其中，是t時(shí)刻所觀測(cè)的解釋變量向量；為隨機(jī)擾動(dòng)項(xiàng)，稱為非條件殘差；為改進(jìn)的隨機(jī)擾動(dòng)項(xiàng)，稱為一期提前(one-period-ahead)預(yù)測(cè)誤差；是前期已知變量向量，可包括的滯后項(xiàng)；為參數(shù)向量。當(dāng)前第180頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

殘差序列的自相關(guān)檢驗(yàn)方法：1）.相關(guān)圖與Q統(tǒng)計(jì)量即檢驗(yàn)序列任意滯后期的自相關(guān)和偏相關(guān)系數(shù)與0有無(wú)顯著差異。2）.LM(LagrangeMultiplier)檢驗(yàn)該檢驗(yàn)可對(duì)包含ARMA誤差項(xiàng)的模型殘差序列進(jìn)行高階的自相關(guān)檢驗(yàn)，并允許存在因變量的滯后項(xiàng)。檢驗(yàn)假設(shè)為：其中，p=max{r,q}當(dāng)前第181頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

對(duì)(6.11)中的非條件殘差建立輔助回歸方程：(6.13)利用方程(6.13)的決定系數(shù)構(gòu)造LM檢驗(yàn)統(tǒng)計(jì)量：其中，n是計(jì)算輔助回歸時(shí)的樣本數(shù)據(jù)的個(gè)數(shù)。在零假設(shè)下，LM統(tǒng)計(jì)量由漸進(jìn)的分布。對(duì)于給定的顯著水平和自由度p，如果，則拒絕原假設(shè)，即認(rèn)為序列存在自相關(guān)，反之亦然。當(dāng)前第182頁(yè)\共有204頁(yè)\編于星期四\1點(diǎn)

2.殘差序列的ARMA模型如果對(duì)某個(gè)線性回歸模型殘差序列進(jìn)行LM檢驗(yàn)，發(fā)現(xiàn)序列存在自相關(guān)，可考慮對(duì)殘差序列建立