回歸假設的二級檢驗

1、回歸假設的二級檢驗第1頁，共87頁，2022年，5月20日，9點24分，星期二不滿足基本假定的情況，主要包括：（1）隨機誤差項序列存在異方差性；（2）隨機誤差項序列存在序列相關(guān)性；（3）解釋變量之間存在多重共線性；（4）解釋變量是隨機變量且與隨機誤差項相關(guān) （隨機解釋變量）； 計量經(jīng)濟檢驗：對模型基本假定的檢驗 第2頁，共87頁，2022年，5月20日，9點24分，星期二本章學習要點：有無不滿足假設條件的可能性若不滿足假設條件，用OLS得到的估計量會發(fā)生什么偏差用什么方法檢驗假設條件是否成立補救措施第3頁，共87頁，2022年，5月20日，9點24分，星期二4.1 異方差性一、異方差的概念二、

2、產(chǎn)生異方差的原因三、異方差的后果四、異方差的檢驗五、異方差的修正第4頁，共87頁，2022年，5月20日，9點24分，星期二對于模型 同方差：var(i)=2 i=1,2,n即對于不同的樣本點，隨機誤差項的方差不再是常數(shù)，而互不相同，則認為出現(xiàn)了異方差性。 一、異方差(方差非齊性)的概念異方差：常數(shù)第5頁，共87頁，2022年，5月20日，9點24分，星期二 同方差性假定：i2 = 常數(shù) f(Xi) 異方差時： i2 = f(Xi)異方差一般可歸結(jié)為三種類型： 用矩陣表示： 同方差：異方差：第6頁，共87頁，2022年，5月20日，9點24分，星期二第7頁，共87頁，2022年，5月20日，9

3、點24分，星期二 二、產(chǎn)生異方差的原因1、省略自變量 隨函數(shù)自變量由小到大，因省略自變量 而帶來的誤差也由小變大2、樣本數(shù)據(jù)的測量誤差3、模型函數(shù)形式的設定誤差4、隨機因素的影響橫截面數(shù)據(jù)更易產(chǎn)生異方差第8頁，共87頁，2022年，5月20日，9點24分，星期二 高收入家庭：儲蓄的差異較大 低收入家庭：儲蓄則更有規(guī)律性，差異較小 i的方差呈現(xiàn)單調(diào)遞增型變化 例：截面資料下研究居民家庭的儲蓄行為 Yi=0+1Xi+i Yi：第i個家庭的儲蓄額 Xi：第i個家庭的可支配收入第9頁，共87頁，2022年，5月20日，9點24分，星期二 三、異方差性的后果 計量經(jīng)濟學模型一旦出現(xiàn)異方差性，如果仍采用O

4、LS估計模型參數(shù)，會產(chǎn)生下列不良后果： 1、 OLS估計量仍然具有無偏性，但不具有有效性 2、變量的顯著性檢驗失去意義不是一個有限數(shù)值，隨X的變化而變化 3、模型的預測失效第10頁，共87頁，2022年，5月20日，9點24分，星期二 四、異方差性的檢驗檢驗思路： 由于異方差性就是相對于不同的解釋變量觀測值，隨機誤差項具有不同的方差。那么： 檢驗異方差性，也就是檢驗隨機誤差項的方差與解釋變量觀測值之間的相關(guān)性及其相關(guān)的“形式”。第11頁，共87頁，2022年，5月20日，9點24分，星期二 1、圖示法 利用ols進行估計，作|ei|與Xi或Yi的散點圖。多元時，可以用|ei|對每個自變量逐個進

5、行檢驗。 X X 同方差 遞增異方差 遞減異方差 復雜型異方差第12頁，共87頁，2022年，5月20日，9點24分，星期二2、spearman級次相關(guān)檢驗（等級相關(guān)系數(shù)檢驗） Xi原Xi的等級，|ei|原|ei|的等級注：按同規(guī)則（升序或降序）排序后所在位置 （或等級）檢驗：H0：總體等級相關(guān)系數(shù)為零 r第13頁，共87頁，2022年，5月20日，9點24分，星期二 3、戈德菲爾德-匡特(Goldfeld-Quandt)檢驗 G-Q檢驗以F檢驗為基礎(chǔ)，適用條件： （1）觀察次數(shù)比估計的參數(shù)個數(shù)大兩倍以上； （2）i服從正態(tài)分布，除異方差外，其他假定均滿足； （3）異方差遞增或遞減的情況。 H

6、0： i同方差 H1： i異方差，方差遞增（或遞減）第14頁，共87頁，2022年，5月20日，9點24分，星期二 G-Q檢驗的步驟：將n對樣本觀察值(Xi,Yi)按觀察值Xi的大小排隊將序列中間的c=n/4個觀察值除去，并將剩下的觀察值劃分為較小與較大的相同的兩個子樣本，每個子樣樣本容量均為(n-c)/2對每個子樣分別進行OLS回歸，并計算各自的殘差平方和第15頁，共87頁，2022年，5月20日，9點24分，星期二 在同方差性假定下，構(gòu)造如下滿足F分布的統(tǒng)計量（把高方差段放在分子） 給定顯著性水平，確定臨界值F(v1,v2)， 若F F(v1,v2)， 則拒絕同方差性假設，表明存在異方差。

7、 當然，還可根據(jù)兩個殘差平方和對應的子樣的順序判斷是遞增型異方差還是遞減異型方差。)12,12()12()12(2122-=kcnkcnFkcnekcneFii第16頁，共87頁，2022年，5月20日，9點24分，星期二4、戈里瑟(Gleiser)檢驗原理：建立誤差序列對解釋變量的回歸模型，判斷兩者是否存在較強的相關(guān)關(guān)系。 選擇關(guān)于變量X的不同的函數(shù)形式，對方程進行估計并進行顯著性檢驗，如果存在某一種函數(shù)形式，使得方程顯著成立，則說明原模型存在異方差性。第17頁，共87頁，2022年，5月20日，9點24分，星期二 5、懷特（White）檢驗 懷特檢驗適合任何形式的異方差，要求大樣本?；舅?/p>

8、想與步驟（以二元為例）：然后做如下輔助回歸iiiiiiiiXXXXXXeeaaaaaa+=215224213221102第18頁，共87頁，2022年，5月20日，9點24分，星期二（2）計算統(tǒng)計量nR2,n為樣本容量，R2為判定系數(shù) 可以證明，在同方差假設下： R2為輔助回歸的可決系數(shù)，h為輔助回歸解釋變量的個數(shù)，表示漸近服從某分布。（3）第19頁，共87頁，2022年，5月20日，9點24分，星期二注意： 輔助回歸仍是檢驗與解釋變量可能的組合的顯著性，因此，輔助回歸方程中還可引入解釋變量的更高次方。 如果存在異方差性，則表明確與解釋變量的某種組合有顯著的相關(guān)性，這時往往顯示出有較高的可決系

9、數(shù)以及某一參數(shù)的t檢驗值較大。 當然，在多元回歸中，由于輔助回歸方程中可能有太多解釋變量，從而使自由度減少，有時可去掉交叉項。第20頁，共87頁，2022年，5月20日，9點24分，星期二五、異方差的修正1、加權(quán)最小二乘法（WLS）基本思想：對原模型加權(quán)，使之變成一個新的不存在異方差性的模型，然后采用OLS估計其參數(shù)。 Yi=0+1Xi+i var(i)=2f(Xi) 變換：第21頁，共87頁，2022年，5月20日，9點24分，星期二 即滿足同方差性，可用OLS法估計。 如何決定f(Xi)的形式利用ols估計ei ，將|ei|對Xi的不同次冪進行回歸（同戈里瑟方法），挑選最優(yōu)模型作為f(Xi

10、)的形式。第22頁，共87頁，2022年，5月20日，9點24分，星期二例4.1.2， Yi=1Xi+i var(i)=2Xi2、WLS的另一種形式第23頁，共87頁，2022年，5月20日，9點24分，星期二軟件操作: (1)利用OLS求ei (2)求1/|ei| (3)選WLS（命令：LS（W），權(quán)數(shù)為1/|ei|第24頁，共87頁，2022年，5月20日，9點24分，星期二3、廣義最小二乘法GLS 對于模型：Y=X+ 若存在異方差： W是一對稱正定矩陣，存在一可逆矩陣D使得 W=DD 第25頁，共87頁，2022年，5月20日，9點24分，星期二 用D-1左乘Y=X+兩邊，得到一個新的模

11、型： 該模型具有同方差性。因為 第26頁，共87頁，2022年，5月20日，9點24分，星期二這就是原模型Y=X+的加權(quán)最小二乘估計量，是無偏、有效的估計量。 第27頁，共87頁，2022年，5月20日，9點24分，星期二 實際中可?。豪?設回歸方程為：問當i2滿足什么假定時，以下估計量是的最優(yōu)線性無偏估計量?第28頁，共87頁，2022年，5月20日，9點24分，星期二 現(xiàn)有X和Y的樣本觀察值如下表： X 2 5 10 4 10 Y 4 7 4 5 9 假設Y對X的回歸模型為: 試用適當?shù)姆椒ü烙嫶嘶貧w模型。解：第29頁，共87頁，2022年，5月20日，9點24分，星期二Y1i 2 1.4

12、 0.4 1.25 0.9X1i 0.5 0.2 0.1 0.25 0.1 第30頁，共87頁，2022年，5月20日，9點24分，星期二注意： 在實際操作中通常采用如下的經(jīng)驗方法： 不對原模型進行異方差性檢驗，而是直接選擇加權(quán)最小二乘法，尤其是采用截面數(shù)據(jù)作樣本時。 如果確實存在異方差，則被有效地消除了；如果不存在異方差性，則加權(quán)最小二乘法等價于普通最小二乘法。第31頁，共87頁，2022年，5月20日，9點24分，星期二一、序列相關(guān)性概念二、自相關(guān)性產(chǎn)生的原因 三、序列相關(guān)性的后果四、序列相關(guān)性的檢驗五、具有序列相關(guān)性模型的估計 4.2 序列相關(guān)性（自相關(guān)性） 第32頁，共87頁，2022

13、年，5月20日，9點24分，星期二 一、序列相關(guān)性概念 如果對于不同的樣本點，隨機誤差項之間不再是不相關(guān)的，而是存在某種相關(guān)性，則認為出現(xiàn)了序列相關(guān)性。 Cov(i , j)=E (i . j)0 ij, i,j=1,2, ,n 1、 對于模型 Yi=0+1X1i+2X2i+kXki+i i=1,2, ,n隨機項互不相關(guān)的基本假設表現(xiàn)為 Cov(i , j)=0 ij, i,j=1,2, ,n第33頁，共87頁，2022年，5月20日，9點24分，星期二或第34頁，共87頁，2022年，5月20日，9點24分，星期二2、一階序列相關(guān)或一階自相關(guān) Cov(i , i-1)=E (i . i-1)

14、0 ,i=1,2, ,n 總體一階自相關(guān)系數(shù)為： 第35頁，共87頁，2022年，5月20日，9點24分，星期二 由于序列相關(guān)性經(jīng)常出現(xiàn)在以時間序列為樣本的模型中，因此，本節(jié)將用下標t代表i。 設一階序列相關(guān)t=f（t-1）是線性的，稱一階自回歸模型。 t=a1t-1+vt 其中vt是隨機變數(shù)，且滿足：第36頁，共87頁，2022年，5月20日，9點24分，星期二二、自相關(guān)性產(chǎn)生的原因 大多數(shù)經(jīng)濟時間數(shù)據(jù)都有一個明顯的特點:慣性，表現(xiàn)在時間序列不同時間的前后關(guān)聯(lián)上。 1、經(jīng)濟變量固有的慣性例如，居民總消費函數(shù)模型： Ct=0+1Yt+t t=1,2,n由于消費習慣的影響被包含在隨機誤差項中，則

15、可能出現(xiàn)序列相關(guān)性（往往是正相關(guān) ）。第37頁，共87頁，2022年，5月20日，9點24分，星期二 2、模型設定的偏誤 所謂模型設定偏誤（Specification error）是指所設定的模型“不正確”。主要表現(xiàn)在模型中丟掉了重要的解釋變量或模型函數(shù)形式有偏誤。 3、數(shù)據(jù)的“編造” 在實際經(jīng)濟問題中，有些數(shù)據(jù)是通過已知數(shù)據(jù)生成的,因此，新生成的數(shù)據(jù)與原數(shù)據(jù)間就有了內(nèi)在的聯(lián)系，表現(xiàn)出序列相關(guān)性。 還有就是兩個時間點之間的“內(nèi)插”技術(shù)往往導致隨機項的序列相關(guān)性。第38頁，共87頁，2022年，5月20日，9點24分，星期二 三、序列相關(guān)性的后果 1、參數(shù)估計量無偏非有效 2、變量的顯著性檢驗失

16、去意義 3、模型的預測失效第39頁，共87頁，2022年，5月20日，9點24分，星期二 然后，通過分析這些“近似估計量”之間的相關(guān)性，以判斷隨機誤差項是否具有序列相關(guān)性。 序列相關(guān)性檢驗方法有多種，但基本思路相同： 基本思路: 三、序列相關(guān)性的檢驗首先，采用OLS法估計模型，以求得隨機誤差項的“近似估計量”，用ei表示： lsiiiYYe0)(-=第40頁，共87頁，2022年，5月20日，9點24分，星期二 1、圖示法第41頁，共87頁，2022年，5月20日，9點24分，星期二2、杜賓-瓦森（Durbin-Watson）檢驗法 該方法的假定條件是：（1）大樣本（2）隨機誤差項i為一階自回

17、歸形式： i=i-1+i（3）回歸模型中不應含有滯后應變量作為解釋變量，即不應出現(xiàn)下列形式： Yi=0+1X1i+kXki+Yi-1+i（4）回歸含有截距項 (5) 解釋變量X非隨機第42頁，共87頁，2022年，5月20日，9點24分，星期二提出假設 H0：=0 無一階自相關(guān) H1：0 存在一階自相關(guān)性構(gòu)造統(tǒng)計量第43頁，共87頁，2022年，5月20日，9點24分，星期二 0DW4第44頁，共87頁，2022年，5月20日，9點24分，星期二 判斷方法 0DWdL 存在一階正自相關(guān) 4dL DW4 存在一階負自相關(guān) dU DW4dU 無自相關(guān) dLDWdU 或4dU DW 2(p) ,否定

18、H0, 可能存在直到p階的序列相關(guān)。實際檢驗中，可從1階、2階、逐次向更高階檢驗。 第49頁，共87頁，2022年，5月20日，9點24分，星期二 如果模型被檢驗證明存在序列相關(guān)性，則需要發(fā)展新的方法估計模型。 最常用的方法是廣義最小二乘法（GLS: Generalized least squares）和廣義差分法(Generalized Difference)。 四、序列相關(guān)的補救 第50頁，共87頁，2022年，5月20日，9點24分，星期二 1、廣義最小二乘法 對于模型 Y=X+ 如果存在序列相關(guān)，同時存在異方差，即有是一對稱正定矩陣，存在一可逆矩陣D，使得 =DD.,222122221

19、11221)()Cov(ssssssssss=nnnnnELLLLLLL第51頁，共87頁，2022年，5月20日，9點24分，星期二變換原模型： D-1Y=D-1X +D-1 即 Y*=X* + * (*)(*)式的OLS估計： 這就是原模型的廣義最小二乘估計量(GLS estimators)，是無偏有效估計量。 該模型無異方差性和序列相關(guān)的估計：第52頁，共87頁，2022年，5月20日，9點24分，星期二 2、廣義差分法 廣義差分法是將原模型變換為滿足OLS法的差分模型，再進行OLS估計。第53頁，共87頁，2022年，5月20日，9點24分，星期二 該模型為廣義差分模型，不存在序列相關(guān)

20、問題，可進行OLS估計。 則有：第54頁，共87頁，2022年，5月20日，9點24分，星期二 的估計 大樣本小樣本第55頁，共87頁，2022年，5月20日，9點24分，星期二 杜賓（durbin）兩步法 以一元為例：Yt=0+1Xt+t 第一步，變換差分模型為下列形式:第二步，用 對原模型進行廣義差分。第56頁，共87頁，2022年，5月20日，9點24分，星期二科克倫-奧科特迭代法。 以一元線性模型為例： 首先，采用OLS法估計原模型 Yi=0+1Xi+i得到的的“近似估計值”，并以之作為觀測值使用OLS法估計下式 i=1i-1+2i-2+Li-L+i第57頁，共87頁，2022年，5月

21、20日，9點24分，星期二求出i新的“近似估計值”， 并以之作為樣本觀測值，再次估計 i=1i-1+2i-2+Li-L+i第58頁，共87頁，2022年，5月20日，9點24分，星期二 類似地，可進行第三次、第四次迭代。 關(guān)于迭代的次數(shù)，可根據(jù)具體的問題來定。 一般是事先給出一個精度，當相鄰兩次1,2, ,L的估計值之差小于這一精度時，迭代終止。 實踐中，有時只要迭代兩次，就可得到較滿意的結(jié)果。兩次迭代過程也被稱為科克倫-奧科特兩步法。第59頁，共87頁，2022年，5月20日，9點24分，星期二應用軟件中的廣義差分法 在Eview/TSP軟件包下，廣義差分采用了科克倫-奧科特（Cochran

22、e-Orcutt）迭代法估計。 在解釋變量中引入AR(1)、AR(2)、，即可得到參數(shù)和1、2、的估計值。 其中AR(m)表示隨機誤差項的m階自回歸。在估計過程中自動完成了1、2、的迭代。第60頁，共87頁，2022年，5月20日，9點24分，星期二例4.2.1，設模型為 Yt=0+1Xt+t t=0.6t-1+vt觀察值： Yt 12 16 19 25 22 28 Xt 6.5 8 10 12 10 15 試用廣義差分法估計參數(shù)。解：=0.6第61頁，共87頁，2022年，5月20日，9點24分，星期二Yt*: 9.6 8.8 9.4 13.6 7 14.8Xt*: 5.2 4.1 5.2

23、6 2.8 9軟件實現(xiàn)：LS Y C X AR(1) AR(1)求的是第62頁，共87頁，2022年，5月20日，9點24分，星期二一、多重共線性的概念二、產(chǎn)生多重共線性的原因三、多重共線性的后果四、多重共線性的檢驗五、克服多重共線性的方法六、案例 4.3 多重共線性第63頁，共87頁，2022年，5月20日，9點24分，星期二 一、多重共線性的概念 對于模型 Yi=0+1X1i+2X2i+kXki+i i=1,2,n 如果某兩個或多個解釋變量之間出現(xiàn)了相關(guān)性，則稱為多重共線性 (Multicollinearity)。第64頁，共87頁，2022年，5月20日，9點24分，星期二 如果存在不全

24、為0的ci，使 c1X1i+c2X2i+ckXki=0 i=1,2,n 則稱為解釋變量間存在完全共線性。 如果存在 c1X1i+c2X2i+ckXki+vi=0 i=1,2,n 其中ci不全為0，vi為隨機誤差項，則稱為 近似共線性或交互相關(guān)。第65頁，共87頁，2022年，5月20日，9點24分，星期二 在矩陣表示的線性回歸模型 Y=X+中，完全共線性指：秩(X)5或VIF10認為模型存在較嚴重的多重共線性。第73頁，共87頁，2022年，5月20日，9點24分，星期二(3)逐步回歸法(Frisch綜合分析) 第一步,將因變量Y分別對k個解釋變量X1、 X2、XK進行簡單回歸： Y=f1(X

25、1), Y=f2(X2), , Y=fk(Xk)根據(jù)經(jīng)濟理論和統(tǒng)計標準，挑選出最優(yōu)簡單回歸方程。 第二步,把新的變量加到選出的方程中 如果新變量能提高R2 ，且符合經(jīng)濟理論，予以 接納； 如新變量不能提高R2 ，且對其他系數(shù)沒有大的 影響，便認為是多余的； 如新變量嚴重影響其他變量的系數(shù)值或符號時，便認為是有害的，可能已產(chǎn)生嚴重的多重共線性，而且這個新變量可能是重要的。第74頁，共87頁，2022年，5月20日，9點24分，星期二找出引起多重共線性的解釋變量，將它排除出去。注意： 這時，剩余解釋變量參數(shù)的經(jīng)濟含義和數(shù)值都發(fā)生了變化。 如果模型被檢驗證明存在多重共線性，則需要發(fā)展新的方法估計模型

26、，最常用的方法有三類。 五、克服多重共線性的方法 1、第一類方法：排除引起共線性的變量第75頁，共87頁，2022年，5月20日，9點24分，星期二 2、第二類方法：差分法 時間序列數(shù)據(jù)、線性模型：將原模型變換為差分模型: Yi=1 X1i+2 X2i+k Xki+ i可以有效地消除原模型中的多重共線性。 一般講，增量之間的線性關(guān)系遠比總量之間的線性關(guān)系弱得多。第76頁，共87頁，2022年，5月20日，9點24分，星期二3、第三類方法：減小參數(shù)估計量的方差 多重共線性的主要后果是參數(shù)估計量具有較大的方差，所以 采取適當方法減小參數(shù)估計量的方差，雖然沒有消除模型中的多重共線性，但確能消除多重共

27、線性造成的后果。 例如： 增加樣本容量，可使參數(shù)估計量的方差減小。第77頁，共87頁，2022年，5月20日，9點24分，星期二 嶺回歸法（使用有偏估計） 以引入偏誤為代價減小參數(shù)估計量的方差 其中矩陣D一般選擇為主對角陣，即 D=aI a為大于0的常數(shù)。（*） 顯然，與未含D的參數(shù)B的估計量相比，(*)式的估計量有較小的方差。具體方法是：引入矩陣D，使參數(shù)估計量為第78頁，共87頁，2022年，5月20日，9點24分，星期二 六、案例中國糧食生產(chǎn)函數(shù) 根據(jù)理論和經(jīng)驗分析，影響糧食生產(chǎn)（Y）的主要因素有： 農(nóng)業(yè)化肥施用量（X1）；糧食播種面積(X2) 成災面積(X3); 農(nóng)業(yè)機械總動力(X4); 農(nóng)業(yè)勞動力(X5) 已知中國糧食生產(chǎn)的相關(guān)數(shù)據(jù)，建立中國糧食生產(chǎn)函數(shù)： Y=0+1 X1 +2 X2 +3 X3 +4 X4 +4 X5 +第79頁，共87頁，2022年，5月20日，9點24分，星期二第80頁，共87頁，2022年，5月20日，9點24分，星期二 1、用OLS法估計上述模型： R2接近于1； 給定=