多重共線性的程序選優(yōu)法

1、多重共線性的程序選優(yōu)法摘 要 文章介紹了多重共線性及其影響，使用逐步回歸法解決多重共線性的缺點以及程序選優(yōu)法的設(shè)計思想。通過使用舉例說明程序選優(yōu)法在解決多重共線性時具有快速、最優(yōu)和準確的優(yōu)點。 關(guān)鍵詞 多重共線 逐步回歸 eviews 程序選優(yōu) 一、多重共線性及其影響 1.什么是多重共線性 對于多元線性回歸模型 yi=0+1x1i+2x2i+kxki+ui ,i=1,2,，n 其古典假設(shè)之一就是解釋變量x1，x2，xk是相互獨立的。如果某兩個或多個解釋變量之間出現(xiàn)了相關(guān)性，則稱存在多重共線性。 如果存在 c1x1i+c2x2i+ckxki=0, i=1,2,，n 其中ci不全為0，既某一個解釋

2、變量可以用其他解釋變量的線性組合表示，則稱解釋變量間存在完全共線性。 如果存在 c1x1i+c2x2i+ckxki+vi=0 , i=1,2,，n 其中ci不全為0，vi為隨機干擾項，則稱解釋變量間存在近似共線性。 2.完全多重共線性下參數(shù)估計量不存在 完全多重共線性時，在eviews軟件下用普通最小二乘法估計，屏幕出現(xiàn)提示“near singular matrix”。此時參數(shù)無法確定，參數(shù)的方差無窮大。 在近似多重共線性下會有如下影響。 3.普通最小二乘法參數(shù)估計量的方差變大，容易刪掉重要的解釋變量 在多重共線性下，參數(shù)估計量的方差隨著多重共線性的“嚴重程度”，呈“膨脹性”增大。進行統(tǒng)計檢驗

3、時，由于方差的變大，可能使t統(tǒng)計量小于臨界值，誤導(dǎo)作出參數(shù)為零的推斷，這樣容易刪掉重要的解釋變量，造成模型設(shè)定誤差。 4.參數(shù)估計量的經(jīng)濟含義不合理 如果模型中兩個解釋變量具有線性相關(guān)性，如x1和x2，那么它們中的一個變量可以由另一個變量表征。這時，x1和x2前的參數(shù)并不反映各自與被解釋變量之間的結(jié)構(gòu)關(guān)系，而是反映它們對被解釋變量的共同影響，所以各自的參數(shù)已經(jīng)失去了應(yīng)有的經(jīng)濟含義，于是經(jīng)常表現(xiàn)出似乎反常的現(xiàn)象，例如估計結(jié)果本來應(yīng)該是正的，而結(jié)果是負的。 二、逐步回歸法的缺點 克服近似多重共線性的常用方法有排除引起共線性的變量、差分法、減小參數(shù)估計量的方差等三類方法。其中排除引起共線性的變量是最

4、為有效的克服多重共線性的方法，而逐步回歸法就是這種方法，因此逐步回歸法得到了最為廣泛的應(yīng)用。 逐步回歸法的基本步驟是首先把被解釋變量對每一個解釋變量分別進行回歸，從而得到所有的基本回歸方程式，并對每一個基本回歸方程進行統(tǒng)計檢驗，分析其估計結(jié)果，從中選擇最合適的基本回歸方程，然后再逐一增加其它的解釋變量，重新再作回歸，根據(jù)可決系數(shù)、修正的可決系數(shù)、回歸系數(shù)的t值逐步把顯著性的解釋變量選人回歸方程中，同時把非顯著性的解釋變量從回歸方程中剔除，最終建立一個滿意的回歸方程。但逐步回歸法的使用也有一些不足。 1.步驟煩瑣，容易出錯 雖然eviews軟件在計量經(jīng)濟學(xué)上的廣泛應(yīng)用，使參數(shù)的估計變的十分方便，

5、但通過反復(fù)的比較，逐步回歸的方法，步驟還是比較煩瑣，人工操作也容易出錯。如對一個五元回歸方程，第一大步，建立五元回歸模型，進行檢驗多重共線性；第二大步，要進行五個一元回歸方程的建立和比較；第三大步，在第二大步的基礎(chǔ)上，要進行四個二元回歸方程的建立和比較；第四大步，在第三大步的基礎(chǔ)上，要進行三個三元回歸方程的建立和比較；第五大步，在第四大步的基礎(chǔ)上，要進行二個四元回歸方程的建立和比較。通過以上十四次的建立和比較才能確定一個滿意的回歸方程。如果解釋變量增加，則步驟更多。 2.結(jié)果有可能是局部最優(yōu) 逐步回歸法的應(yīng)用可能遺漏最優(yōu)方程，選出的回歸方程有可能只是某一個較優(yōu)的回歸方程。如在上述第三大步中，進

6、行四個二元回歸方程的比較時，可能四個二元回歸方程的t統(tǒng)計量都小于臨界值，而在三元方程則會通過t檢驗，因此我們在二元回歸方程的選擇可能存在隨意性，這樣的選擇最終可能遺漏最優(yōu)方程。 三、程序選優(yōu)法的設(shè)計思想 1.程序選優(yōu)法符合“從一般到簡單”的建模思想 逐步回歸法是以“由簡單到復(fù)雜”的建模思想為指導(dǎo)的，而程序選優(yōu)法是以“從一般到簡單”的思想為指導(dǎo)，即開始時建立一個一般的模型，將對被解釋變量有影響的所有變量都作為解釋變量，然后在建模的估計和檢驗中選擇，最后得到一個比較簡單的模型。這種建模方法在很大程度上消除了建模過程中的主觀性。如開始時建立一個五元模型，程序選優(yōu)法通過運行事先編好的程序，會自動建立一

7、個五元回歸方程，五個四元回歸方程，十個三元回歸方程，十個二元回歸方程，共二十六個可能的方程，同時程序會自動選擇出最優(yōu)的方程。這種方法簡單快速，保證了所選方程的最優(yōu)。 2.完全多重共線性的處理 正如前面所說，出現(xiàn)完全多重共線性時，在eviews軟件下用普通最小二乘法估計，屏幕出現(xiàn) “near singular matrix”的提示。出現(xiàn)這種情況，如對一個六元模型，此時可以在命令窗口輸入： cor y x1 x2 x3 x4 x5 x6 屏幕出現(xiàn)相關(guān)系數(shù)矩陣，見表1從上表可以看出x3和x6的相關(guān)系數(shù)是1，產(chǎn)生了完全多重共線性，此時在x3和x6之間必須選擇去掉一個，使完全共線性變?yōu)榻乒簿€性。事實上

8、完全共線性并不多見，因此在一般情況下也不需要作上述處理。 3.選優(yōu)標(biāo)準及過程 eviews軟件是由美國quantitative micro software公司提供的數(shù)據(jù)分析、回歸及預(yù)測工具，是目前世界上最流行的計量經(jīng)濟學(xué)軟件。另外，eviews軟件也提供了編程和運行程序的功能，這為程序選優(yōu)法的實現(xiàn)提供了方便。 程序選優(yōu)法的選優(yōu)標(biāo)準首先要求在所有可能的回歸方程中被解釋變量系數(shù)的p值都小于顯著性水平0.05,即被解釋變量在0.05的顯著性水平下都通過t檢驗。其次，在滿足上述條件下，比較回歸方程的修正的可決系數(shù)，選出修正的可決系數(shù)最大的回歸方程就是最優(yōu)方程。 選優(yōu)過程首先要在程序中輸入被解釋變量的

9、總個數(shù)，如n=5，即共有五個被解釋變量。運行程序后，程序會自動通過循環(huán)用equation 和ls命令建立回歸方程，利用函數(shù)rbar2可自動獲得回歸方程的修正的可決系數(shù)，利用函數(shù)ncoef可自動獲得被估參數(shù)的個數(shù)，利用函數(shù)regobs可自動獲得樣本容量，利用函數(shù)tstats可自動獲得參數(shù)的t統(tǒng)計量，利用函數(shù)tdist可自動獲得被解釋變量系數(shù)的p值。這樣程序運行后就可以建立所有可能的回歸方程，并在滿足t檢驗的方程中，通過比較回歸方程的修正的可決系數(shù)，選出最優(yōu)方程。 四、使用舉例 根據(jù)理論和經(jīng)驗分析，影響糧食生產(chǎn)的主要因素有農(nóng)業(yè)化肥施用量、糧食播種面積、成災(zāi)面積、農(nóng)業(yè)機械總動力和農(nóng)業(yè)勞動力，其中，成

10、災(zāi)面積的符號為負，其余均應(yīng)為正。表2列出了中國糧食生產(chǎn)的相關(guān)數(shù)據(jù)，試建立中國糧食生產(chǎn)函數(shù)。 資料來源：中國統(tǒng)計年鑒（1995，2001） 使用時打開eviews軟件，創(chuàng)建新的工作文件，將表2中的數(shù)據(jù)輸入序列對象。單擊eviews軟件的“file”“open”“progrem.”,選擇事先編好的程序文件，單擊“打開”。在程序中將控制變量scalar n=設(shè)為scalar n=5，單擊“run”運行程序，在“run program”對話框中，單擊“ok”，1秒2秒程序運行結(jié)束。此時在工作文件中自動產(chǎn)生了控制變量best,在best上右擊選擇“open”，在狀態(tài)欄顯示scalar best=18，由于程序在工作文件中已自動建立了eq1、eq2、eq26共26個回歸方程，此時best=18，即eq18是程序自動選擇出的最優(yōu)回歸方程。當(dāng)然，如果沒有一個方程符合要求的情況下，此時best=0。雙擊eq18，可以看出中國糧食生產(chǎn)的回歸分析表達式為： y=-11978.18 +0.41x2-0.19x3+5.26x5 se: (0.1220) （0.0545）（0.2686） t:(3.35)(-3.57) (19.57) r2=0.9796f=224.01dw=1.53 由上面使用事例可以看出，程序選優(yōu)法在使用排除引起共線性變量的方法克服多重共線性時具有快速、最優(yōu)和準確的