計(jì)量經(jīng)濟(jì)學(xué)多元回歸模型分析案例

1、計(jì)量經(jīng)濟(jì)學(xué)多元回歸模型分析案例一、多元回歸分析簡(jiǎn)介用回歸方程定量地刻畫(huà)一個(gè)應(yīng)變量與多個(gè)自變量間的線(xiàn)性依存關(guān)系,稱(chēng)為多元回歸分析（multiple linear regression),簡(jiǎn)稱(chēng)多元回歸(multiple regression)。多元回歸分析是多變量分析的基礎(chǔ)，也是理解監(jiān)督類(lèi)分析方法的入口！實(shí)際上大部分學(xué)習(xí)統(tǒng)計(jì)分析和市場(chǎng)研究的人的都會(huì)用回歸分析，操作也是比較簡(jiǎn)單的，但能夠知道多元回歸分析的適用條件或是如何將回歸應(yīng)用于實(shí)踐，可能還要真正領(lǐng)會(huì)回歸分析的基本思想和一些實(shí)際應(yīng)用手法！回歸分析的基本思想是：雖然自變量和因變量之間沒(méi)有嚴(yán)格的、確定性的函數(shù)關(guān)系，但可以設(shè)法找出最能代表它們之間關(guān)系的

2、數(shù)學(xué)表達(dá)形式。二、多元回歸線(xiàn)性分析的運(yùn)用具體地說(shuō)，多元線(xiàn)性回歸分析主要解決以下幾方面的問(wèn)題：（1）確定幾個(gè)特定的變量之間是否存在相關(guān)關(guān)系，如果存在的話(huà)，找出它們之間合適的數(shù)學(xué)表達(dá)式；（2）根據(jù)一個(gè)或幾個(gè)變量的值，預(yù)測(cè)或控制另一個(gè)變量的取值，并且可以知道這種預(yù)測(cè)或控制能達(dá)到什么樣的精確度；（3）進(jìn)行因素分析。例如在對(duì)于共同影響一個(gè)變量的許多變量（因素）之間，找出哪些是重要因素，哪些是次要因素，這些因素之間又有什么關(guān)系等等。在運(yùn)用多元線(xiàn)性回歸時(shí)主要需要注意以下幾點(diǎn)：首先，多元回歸分析應(yīng)該強(qiáng)調(diào)是多元線(xiàn)性回歸分析！強(qiáng)調(diào)線(xiàn)性是因?yàn)榇蟛糠秩擞没貧w都是線(xiàn)性回歸，線(xiàn)性的就是直線(xiàn)的，直線(xiàn)的就是簡(jiǎn)單的，簡(jiǎn)單的就是

3、因果成比例的；理論上講，非線(xiàn)性的關(guān)系我們都可以通過(guò)函數(shù)變化線(xiàn)性化，就比如：Y=a+bLnX，我們可以令t=LnX，方程就變成了Y=a+bt，也就線(xiàn)性化了。第二，線(xiàn)性回歸思想包含在其它多變量分析中，例如：判別分析的自變量實(shí)際上是回歸，尤其是Fisher線(xiàn)性回歸方程；Logistics回歸的自變量也是回歸，只不過(guò)是計(jì)算線(xiàn)性回歸方程的得分進(jìn)行了概率轉(zhuǎn)換；甚至因子分析和主成分分析最終的因子得分或主成分得分也是回歸算出來(lái)的；當(dāng)然，還有很多分析最終也是回歸思想！第三：什么是“回歸”，回歸就是向平均靠攏。第四：如果你用線(xiàn)性回歸方式去解釋過(guò)去，你只能朝著一個(gè)趨勢(shì)繼續(xù)，但未來(lái)對(duì)過(guò)去的偏離有無(wú)數(shù)種可能性；第五：線(xiàn)

4、性回歸方程納入的自變量越多，越應(yīng)該能夠反應(yīng)現(xiàn)實(shí)，但解釋起來(lái)就越困難；第六：統(tǒng)計(jì)學(xué)家往往追求的是簡(jiǎn)約的模型和更高的解釋度，往往關(guān)注模型R平方，共線(xiàn)性和回歸診斷問(wèn)題；第七：市場(chǎng)研究人員往往注重模型的解釋合理性，是否與預(yù)設(shè)的直覺(jué)一直，是否支持了我的市場(chǎng)假設(shè)等；多元線(xiàn)性回歸分析的主要目的是：解釋和預(yù)測(cè)三、多元回歸模型的建立模型的表達(dá)形式如下：在此征用一個(gè)網(wǎng)絡(luò)上的例子來(lái)做詳細(xì)講解：假設(shè)我們收集了100個(gè)企業(yè)客戶(hù)經(jīng)理對(duì)我產(chǎn)品的總體滿(mǎn)意度和分項(xiàng)指標(biāo)的滿(mǎn)意度評(píng)價(jià)，我期望知道，什么分項(xiàng)指標(biāo)對(duì)我總體滿(mǎn)意度有重要影響，它的改進(jìn)更能夠提升總體滿(mǎn)意度；如果建立預(yù)測(cè)模型，我期望知道了分項(xiàng)指標(biāo)的評(píng)價(jià)就能夠預(yù)測(cè)總體滿(mǎn)意度數(shù)值

5、；在SPSS中選擇回歸分析后，把X10作為因變量，X1到X7作為自變量，選擇相應(yīng)的統(tǒng)計(jì)參數(shù)和輸出結(jié)果：R平方是我們最需要關(guān)注的，該值說(shuō)明了方程的擬合好壞，R平方=0.80非常不錯(cuò)了，說(shuō)明：1）總體滿(mǎn)意度的80%的變差都可以由7個(gè)分項(xiàng)指標(biāo)解釋?zhuān)蛘哒f(shuō)，7個(gè)分項(xiàng)指標(biāo)可以解釋總體滿(mǎn)意度80%的變差！2）R平方如果太大，大家不要高興太早，社會(huì)科學(xué)很少有那么完美的預(yù)測(cè)或解釋?zhuān)欢ù嬖诹斯簿€(xiàn)性！方程分析表的顯著性表明了回歸具有解釋力！線(xiàn)性回歸方程給出可預(yù)測(cè)的計(jì)算系數(shù)，但是，社會(huì)科學(xué)很少進(jìn)行預(yù)測(cè)，重要的是解釋?zhuān)贿@里要注意的是如果自變量的測(cè)量尺度是統(tǒng)一的話(huà)，我們可以直接比較系數(shù)的大小，但是如果自變量的測(cè)量尺度

6、不統(tǒng)一的話(huà)，我們必須看標(biāo)準(zhǔn)化回歸系數(shù)，標(biāo)準(zhǔn)化回歸系數(shù)去掉的量綱，且反應(yīng)了重要性！我們就是需要重要性測(cè)量！當(dāng)然，這個(gè)時(shí)候，研究人員應(yīng)該關(guān)注每個(gè)指標(biāo)的回歸系數(shù)是否真的等于零，要進(jìn)行假設(shè)檢驗(yàn)！四、多元回歸模型的顯著性檢驗(yàn)上文中有提到，若R平方過(guò)大，擬合優(yōu)度很好的情況下，可能存在多重共線(xiàn)性，而多重共線(xiàn)性便是多元回歸模型產(chǎn)生誤差的主要原因。造成多重共線(xiàn)性的原因有一下幾種：1、解釋變量都享有共同的時(shí)間趨勢(shì)；2、一個(gè)解釋變量是另一個(gè)的滯后，二者往往遵循一個(gè)趨勢(shì)；3、由于數(shù)據(jù)收集的基礎(chǔ)不夠?qū)?，某些解釋變量可能?huì)一起變動(dòng)；4、某些解釋變量間存在某種近似的線(xiàn)性關(guān)系；判別：1、發(fā)現(xiàn)系數(shù)估計(jì)值的符號(hào)不對(duì)；2、某些重要

7、的解釋變量t值低，而R方不低3、當(dāng)一不太重要的解釋變量被刪除后，回歸結(jié)果顯著變化；檢驗(yàn)：1、相關(guān)性分析，相關(guān)系數(shù)高于0.8，表明存在多重共線(xiàn)性；但相關(guān)系數(shù)低，并不能表示不存在多重共線(xiàn)性；2、vif檢驗(yàn)；3、條件系數(shù)檢驗(yàn)；解決方法：克服主成分分析的統(tǒng)計(jì)方式有主成分回歸、嶺回歸、逐步回歸，其定義分別為：主成分回歸：主成分分析法作為多元統(tǒng)計(jì)分析的一種常用方法在處理多變量問(wèn)題時(shí)具有其一定的優(yōu)越性，其降維的優(yōu)勢(shì)是明顯的，主成分回歸方法對(duì)于一般的多重共線(xiàn)性問(wèn)題還是適用的，尤其是對(duì)共線(xiàn)性較強(qiáng)的變量之間。當(dāng)采取主成分提取了新的變量后，往往這些變量間的組內(nèi)差異小而組間差異大，起到了消除共線(xiàn)性的問(wèn)題。嶺回歸：嶺回

8、歸分析實(shí)際上是一種改良的最小二乘法，是一種專(zhuān)門(mén)用于共線(xiàn)性數(shù)據(jù)分析的有偏估計(jì)回歸方法。嶺回歸分析的基本思想是當(dāng)自變量間存在共線(xiàn)性時(shí)，解釋變量的相關(guān)矩陣行列式近似為零，XX是奇異的，也就是說(shuō)它的行列式的值也接近于零，此時(shí)OLS估計(jì)將失效。此時(shí)可采用嶺回歸估計(jì)。嶺回歸就是用XX+KI代替正規(guī)方程中的XX，人為地把最小特征根由minli提高到min（li+k），希望這樣有助于降低均方誤差。逐步回歸：逐步回歸（Stepwise Regression）是一種常用的消除多重共線(xiàn)性、選取“最優(yōu)”回歸方程的方法。其做法是將逐個(gè)引入自變量，引入的條件是該自變量經(jīng)F檢驗(yàn)是顯著的，每引入一個(gè)自變量后，對(duì)已選入的變量進(jìn)行逐個(gè)檢驗(yàn)，如果原來(lái)引入的變量由于后面變量的引入而變得不再顯著，那么就將其剔除。引入一個(gè)變量或從回歸方程中剔除一個(gè)變量，為逐步回歸的一步，每一步都要進(jìn)行F檢驗(yàn)，以確保每次引入新變量之前回歸方程中只包含顯著的變量。這個(gè)過(guò)程反復(fù)進(jìn)行，直到既沒(méi)有不顯著的自變量選入回歸方程，也沒(méi)有顯著自變量從回歸方程中剔除為止。處理多重共線(xiàn)性的原則：1、多重共線(xiàn)性是普遍存在的，輕微的多重共