多元線性回歸自相關(guān)問(wèn)題

多元線性回歸自相關(guān)問(wèn)題1第1頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月一、序列相關(guān)性的定義線性回歸模型假設(shè)要求對(duì)任意都成立誤差序列相關(guān)比較基本和重要類(lèi)型——一階自回歸：其中滿足2第2頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月二、序列相關(guān)性的后果1、參數(shù)估計(jì)量是無(wú)偏的和一致的，但不再是BLUE的，是非有效。2、OLS估計(jì)量的方差是有偏的3、檢驗(yàn)統(tǒng)計(jì)量不再生效，變量顯著性檢驗(yàn)失去意義。3、模型的預(yù)測(cè)失效。3第3頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷（一）殘差序列圖分析如形成鋸齒形或循環(huán)狀，可斷定殘差序列存在相關(guān)4第4頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷分析誤差序列相關(guān)殘差分布圖5第5頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷例7.1美國(guó)進(jìn)口支出函數(shù)給出美國(guó)1968年到1987年期進(jìn)口支出與個(gè)人可支配收入（PDI）數(shù)據(jù)，建立美國(guó)支出函數(shù)模型，檢驗(yàn)殘差序列的自相關(guān)性。繪出殘差序列隨時(shí)間變化的趨勢(shì)繪出殘差序列與其滯后項(xiàng)6第6頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷（二）回歸檢驗(yàn)法首先應(yīng)用OLS估計(jì)模型并求出ε的估計(jì)值即殘差e，然后以et

為被解釋變量，以各種可能的相關(guān)變量如等作為自變量進(jìn)行線性擬合如：對(duì)各種擬合形式進(jìn)行統(tǒng)計(jì)檢驗(yàn)，選擇顯著的最優(yōu)的擬合形式作為序列相關(guān)的具體形式。7第7頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷（三）游程檢驗(yàn)游程：為同一符號(hào)或?qū)傩裕ɡ?或-)的一個(gè)不間斷歷程。如：記殘差的符號(hào)(+或-),有

(+++++++)(-)(+++)(-----)(++++)

總共有20個(gè)殘差構(gòu)成了5個(gè)游程。其中一個(gè)7個(gè)正值的游程（其長(zhǎng)度為7）。若游程太多，則意味著e在頻繁地變換著符號(hào)，表明存在負(fù)的序列相關(guān)；如果游程太少，則意味著存在正的自相關(guān)。在殘差是獨(dú)立的假設(shè)下，史威德（Swed）和艾森哈特（Eisenhart）建立了游程檢驗(yàn)的臨界值。8第8頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷（三）游程檢驗(yàn)令N為觀察值的總個(gè)數(shù)，N1表示+號(hào)（正的殘差）的個(gè)數(shù)，N2表示-號(hào)（負(fù)的殘差）的個(gè)數(shù)，k表示游程個(gè)數(shù)，在殘差是獨(dú)立的假設(shè)下，Swed-Eisenhart給出了游程檢驗(yàn)的上下臨界值，如果實(shí)際游程個(gè)數(shù)小于或等于下臨界值，或是大于或等于上臨界值，則可以拒絕零假設(shè)，說(shuō)明所觀察的序列是隨機(jī)的實(shí)例7-2

利用游程檢驗(yàn)判斷美國(guó)抵押債務(wù)方程殘差項(xiàng)的自相關(guān)性9第9頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷（四）杜賓-瓦爾森(D-W)檢驗(yàn)（適應(yīng)于一階自相關(guān)情況的檢驗(yàn)）DW檢驗(yàn)的原理對(duì)線性回歸模型如果誤差項(xiàng)有一階自回歸問(wèn)題，那么其中的，是均值為0的獨(dú)立同分布隨機(jī)變量。

10第10頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷根據(jù)和的性質(zhì)，有因此11第11頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷考慮與有密切關(guān)系的DW統(tǒng)計(jì)量12第12頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷檢驗(yàn)誤差序列正自相關(guān)性DW檢驗(yàn)區(qū)域圖

一階自相關(guān)無(wú)法判斷無(wú)一階自相關(guān)性無(wú)法判斷一階負(fù)自相關(guān)實(shí)例7-3

利用杜賓-瓦爾森檢驗(yàn)判斷美國(guó)抵押債務(wù)方程殘差項(xiàng)的自相關(guān)性13第13頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷DW檢驗(yàn)序列相關(guān)性的主要不足：（1）D.W.統(tǒng)計(jì)量的擾動(dòng)項(xiàng)在原假設(shè)下依賴(lài)于系數(shù)矩陣X；（2）回歸方程右邊如果存在滯后變量，D.W.檢驗(yàn)不再有效；（3）僅僅檢驗(yàn)殘差是否存在一階序列相關(guān)

14第14頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷（五）相關(guān)圖和Q統(tǒng)計(jì)量檢驗(yàn)序列相關(guān)可以應(yīng)用所估計(jì)回歸方程殘差序列的自相關(guān)和偏自相關(guān)系數(shù)以及Ljung-BoxQ統(tǒng)計(jì)量來(lái)檢驗(yàn)序列相關(guān)。Q統(tǒng)計(jì)量的表達(dá)式為其中rj是殘差序列的j階自相關(guān)系數(shù)，T為樣本容量，p為設(shè)定的滯后階數(shù)。

15第15頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷（五）相關(guān)圖和Q統(tǒng)計(jì)量檢驗(yàn)序列相關(guān)

p階滯后的Q統(tǒng)計(jì)量的原假設(shè)是：序列不存在p階自相關(guān)；備選假設(shè)為：序列存在序列相關(guān)。在實(shí)際檢驗(yàn)中，通常會(huì)計(jì)算出不同滯后階數(shù)的Q統(tǒng)計(jì)量、自相關(guān)系數(shù)和偏自相關(guān)系數(shù)。如果各階Q統(tǒng)計(jì)量都沒(méi)有超過(guò)臨界值，則接受原假設(shè)，即不存在序列相關(guān)，并且此時(shí)各階的自相關(guān)和偏自相關(guān)系數(shù)都接近于0；如果存在某一滯后階數(shù)p，Q統(tǒng)計(jì)量超過(guò)設(shè)定的顯著性水平的臨界值，則拒絕原假設(shè)，說(shuō)明殘差存在p階自相關(guān)。

16第16頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷（五）相關(guān)圖和Q統(tǒng)計(jì)量檢驗(yàn)序列相關(guān)Eviews實(shí)現(xiàn)

View-ResidualTests-CorrelogramandQ-statistics17第17頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷（五）序列相關(guān)LM檢驗(yàn)LM檢驗(yàn)原假設(shè)為：直到p階滯后不存在序列相關(guān)，p為預(yù)先定義好的整數(shù)；備擇假設(shè)為：存在p階自相關(guān)檢驗(yàn)過(guò)程：估計(jì)回歸方程，并求出殘差，對(duì)原始回歸變量X和直到p階的滯后殘差作回歸。LM檢驗(yàn)通常給出兩個(gè)統(tǒng)計(jì)量：F統(tǒng)計(jì)量和n×R2統(tǒng)計(jì)量。F統(tǒng)計(jì)量是對(duì)以上回歸方程中所有滯后殘差聯(lián)合顯著性的檢驗(yàn)。n×R2統(tǒng)計(jì)量是Breusch-GodfreyLM檢驗(yàn)統(tǒng)計(jì)量，是觀測(cè)值個(gè)數(shù)n乘以以上方程的R2,一般地它服從漸近地χ2(p)分布。18第18頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月三、序列相關(guān)性的發(fā)現(xiàn)和判斷（五）序列相關(guān)LM檢驗(yàn)在給定地顯著性水平下，如果統(tǒng)計(jì)量大于臨界值，則說(shuō)明序列存在序列相關(guān)性，否則不存在序列相關(guān)性。Eviews實(shí)現(xiàn)

View-ResidualTests-CorrelogramandQ-statistics實(shí)例：美國(guó)的投資方程建立美國(guó)國(guó)內(nèi)私人投資INV和GNP平減指數(shù)、利息率之間的方程，并檢驗(yàn)序列相關(guān)性。19第19頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月四、誤差序列相關(guān)的處理和克服（一）一階差分法（二）廣義差分法（三）杜賓(Durbin)兩步法（四）廣義最小二乘法20第20頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月（一）一階差分法設(shè)線性回歸模型為已知有很強(qiáng)的一階自相關(guān)性，即

把滯后一期的觀測(cè)值代入變量關(guān)系，得方程：可得21第21頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月由于，因此令，可得因?yàn)椋陨鲜浇茷?/p>

注意相當(dāng)于DW趨于0。22第22頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月（二）廣義差分法設(shè)線性回歸模型為已知有一階自相關(guān)性，即

把滯后一期的觀測(cè)值代入變量關(guān)系，得方程：23第23頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月可得使根據(jù)可得如果記，所以上式為24第24頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月（三）杜賓兩步法從兩變量模型的廣義差分式整理后可得,25第25頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月接受上述多元線性回歸得到的估計(jì)值，利用廣義差分變換，得到對(duì)它進(jìn)行最小二乘估計(jì)，并把估計(jì)回歸結(jié)果計(jì)算的和β1

，作為原模型參數(shù)的估計(jì)。26第26頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月（四）廣義最小二乘法廣義最小二乘法的一般原理設(shè)線性回歸模型為其中但

對(duì)進(jìn)行分析

27第27頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月（四）廣義最小二乘法記得到其中誤差向量滿足對(duì)變換過(guò)的模型進(jìn)行最小二乘估計(jì)，得參數(shù)估計(jì)28第28頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月（四）廣義最小二乘法

以誤差序列一階自相關(guān)問(wèn)題為例設(shè)模型為其誤差滿足其中，是均值為0、獨(dú)立同分布的隨機(jī)變量，且方差為。

29第29頁(yè)，課件共32頁(yè)，創(chuàng)作于2023年2月（四）廣義最小二乘法不同時(shí)期誤差之間的協(xié)方差可以表示為：由于

30第30頁(yè)，課件共32