應(yīng)用回歸分析后習(xí)題答案全何曉群劉文卿

1、實用回歸分析第四版第一章 回歸分析概述1.3 回歸模型中隨機誤差項的意義是什么？答：為隨機誤差項，正是由于隨機誤差項的引入，才將變量間的關(guān)系描述為一個隨機方程，使得我們可以借助隨機數(shù)學(xué)方法研究y與x1,x2.xp的關(guān)系，由于客觀經(jīng)濟現(xiàn)象是錯綜復(fù)雜的，一種經(jīng)濟現(xiàn)象很難用有限個因素來準(zhǔn)確說明，隨機誤差項可以概括表示由于人們的認(rèn)識以及其他客觀原因的局限而沒有考慮的種種偶然因素。1.4 線性回歸模型的基本假設(shè)是什么？答：線性回歸模型的基本假設(shè)有：1.解釋變量x1.x2.xp是非隨機的，觀測值xi1.xi2.xip是常數(shù)。2.等方差及不相關(guān)的假定條件為E(i)=0 i=1,2. Cov(i,j)=23.

2、正態(tài)分布的假定條件為相互獨立。4.樣本容量的個數(shù)要多于解釋變量的個數(shù)，即n>p.第二章 一元線性回歸分析思考與練習(xí)參考答案 2.1 一元線性回歸有哪些基本假定?答： 假設(shè)1、解釋變量X是確定性變量，Y是隨機變量； 假設(shè)2、隨機誤差項具有零均值、同方差和不序列相關(guān)性： E(i)=0 i=1,2, ,n Var (i)=s2 i=1,2, ,n Cov(i, j)=0 ij i,j= 1,2, ,n 假設(shè)3、隨機誤差項與解釋變量X之間不相關(guān)： Cov(Xi, i)=0 i=1,2, ,n 假設(shè)4、服從零均值、同方差、零協(xié)方差的正態(tài)分布 iN(0, s2 ) i=1,2, ,n2.3 證明（2

3、.27式），Sei =0 ，SeiXi=0 。證明：其中：即： Sei =0 ，SeiXi=02.5 證明是0的無偏估計。證明：2.6 證明證明：2.7 證明平方和分解公式：SST=SSE+SSR證明：2.8 驗證三種檢驗的關(guān)系，即驗證：（1）；（2）證明：（1）（2）2.9 驗證（2.63）式：證明：其中：2.10 用第9題證明是s2的無偏估計量證明：第三章1.一個回歸方程的復(fù)相關(guān)系數(shù)R=0.99，樣本決定系數(shù)R2=0.9801，我們能判斷這個回歸方程就很理想嗎？答：不能斷定這個回歸方程理想。因為：1. 在樣本容量較少，變量個數(shù)較大時，決定系數(shù)的值容易接近1，而此時可能F檢驗或者關(guān)于回歸系數(shù)

4、的t檢驗，所建立的回歸方程都沒能通過。2. 樣本決定系數(shù)和復(fù)相關(guān)系數(shù)接近于1只能說明Y與自變量X1,X2,Xp整體上的線性關(guān)系成立，而不能判斷回歸方程和每個自變量是顯著的，還需進(jìn)行F檢驗和t檢驗。3. 在應(yīng)用過程中發(fā)現(xiàn)，在樣本容量一定的情況下，如果在模型中增加解釋變量必定使得自由度減少，使得 R2往往增大，因此增加解釋變量（尤其是不顯著的解釋變量）個數(shù)引起的R2的增大與擬合好壞無關(guān)。2.被解釋變量的期望值與解釋變量的線性方程為： (3-2)稱為多元總體線性回歸方程，簡稱總體回歸方程。對于組觀測值，其方程組形式為： (3-3)即其矩陣形式為=+即 (3-4)其中為被解釋變量的觀測值向量；為解釋變

5、量的觀測值矩陣；為總體回歸參數(shù)向量；為隨機誤差項向量。多元回歸線性模型基本假定：課本P57第四章4.3 簡述用加權(quán)最小二乘法消除一元線性回歸中異方差性的思想與方法。答：普通最小二乘估計就是尋找參數(shù)的估計值使離差平方和達(dá)極小。其中每個平方項的權(quán)數(shù)相同，是普通最小二乘回歸參數(shù)估計方法。在誤差項等方差不相關(guān)的條件下，普通最小二乘估計是回歸參數(shù)的最小方差線性無偏估計。然而在異方差的條件下，平方和中的每一項的地位是不相同的，誤差項的方差大的項，在殘差平方和中的取值就偏大，作用就大，因而普通最小二乘估計的回歸線就被拉向方差大的項，方差大的項的擬合程度就好，而方差小的項的擬合程度就差。由OLS求出的仍然是的

6、無偏估計，但不再是最小方差線性無偏估計。所以就是：對較大的殘差平方賦予較小的權(quán)數(shù)，對較小的殘差平方賦予較大的權(quán)數(shù)。這樣對殘差所提供信息的重要程度作一番校正，以提高參數(shù)估計的精度。加權(quán)最小二乘法的方法：4.4簡述用加權(quán)最小二乘法消除多元線性回歸中異方差性的思想與方法。答：運用加權(quán)最小二乘法消除多元線性回歸中異方差性的思想與一元線性回歸的類似。多元線性回歸加權(quán)最小二乘法是在平方和中加入一個適當(dāng)?shù)臋?quán)數(shù) ，以調(diào)整各項在平方和中的作用，加權(quán)最小二乘的離差平方和為： （2）加權(quán)最小二乘估計就是尋找參數(shù)的估計值使式（2）的離差平方和達(dá)極小。所得加權(quán)最小二乘經(jīng)驗回歸方程記做 （3） 多元回歸模型加權(quán)最小二乘法

7、的方法:首先找到權(quán)數(shù)，理論上最優(yōu)的權(quán)數(shù)為誤差項方差的倒數(shù),即 （4）誤差項方差大的項接受小的權(quán)數(shù)，以降低其在式（2）平方和中的作用; 誤差項方差小的項接受大的權(quán)數(shù)，以提高其在平方和中的作用。由（2）式求出的加權(quán)最小二乘估計就是參數(shù)的最小方差線性無偏估計。一個需要解決的問題是誤差項的方差是未知的,因此無法真正按照式（4）選取權(quán)數(shù)。在實際問題中誤差項方差通常與自變量的水平有關(guān)(如誤差項方差隨著自變量的增大而增大),可以利用這種關(guān)系確定權(quán)數(shù)。例如與第j個自變量取值的平方成比例時, 即=k時,這時取權(quán)數(shù)為 （5）更一般的情況是誤差項方差與某個自變量(與|ei|的等級相關(guān)系數(shù)最大的自變量)取值的冪函數(shù)成

8、比例，即=k,其中m是待定的未知參數(shù)。此時權(quán)數(shù)為 （6）這時確定權(quán)數(shù) 的問題轉(zhuǎn)化為確定冪參數(shù)m的問題，可以借助SPSS軟件解決。第五章5.3 如果所建模型主要用于預(yù)測，應(yīng)該用哪個準(zhǔn)則來衡量回歸方程的優(yōu)劣？答：如果所建模型主要用于預(yù)測，則應(yīng)使用統(tǒng)計量達(dá)到最小的準(zhǔn)則來衡量回歸方程的優(yōu)劣。5.4 試述前進(jìn)法的思想方法。答：前進(jìn)法的基本思想方法是：首先因變量Y對全部的自變量x1,x2,.,xm建立m個一元線性回歸方程, 并計算F檢驗值，選擇偏回歸平方和顯著的變量（F值最大且大于臨界值）進(jìn)入回歸方程。每一步只引入一個變量，同時建立m1個二元線性回歸方程，計算它們的F檢驗值，選擇偏回歸平方和顯著的兩變量變

9、量（F值最大且大于臨界值）進(jìn)入回歸方程。在確定引入的兩個自變量以后，再引入一個變量，建立m2個三元線性回歸方程，計算它們的F檢驗值，選擇偏回歸平方和顯著的三個變量（F值最大）進(jìn)入回歸方程。不斷重復(fù)這一過程，直到無法再引入新的自變量時，即所有未被引入的自變量的F檢驗值均小于F檢驗臨界值F(1,n-p-1)，回歸過程結(jié)束。5.5 試述后退法的思想方法。答：后退法的基本思想是：首先因變量Y對全部的自變量x1,x2,.,xm建立一個m元線性回歸方程, 并計算t檢驗值和F檢驗值，選擇最不顯著（P值最大且大于臨界值）的偏回歸系數(shù)的自變量剔除出回歸方程。每一步只剔除一個變量，再建立m1元線性回歸方程，計算t

10、檢驗值和F檢驗值，剔除偏回歸系數(shù)的t檢驗值最小（P值最大）的自變量，再建立新的回歸方程。不斷重復(fù)這一過程，直到無法剔除自變量時，即所有剩余p個自變量的F檢驗值均大于F檢驗臨界值F(1,n-p-1)，回歸過程結(jié)束。第六章消除多重共線性的方法7.2嶺回歸的定義及統(tǒng)計思想是什么？答：嶺回歸法就是以引入偏誤為代價減小參數(shù)估計量的方差的一種回歸方法，其統(tǒng)計思想是對于（XX）-1為奇異時，給XX加上一個正常數(shù)矩陣D, 那么XX+D接近奇異的程度就會比XX接近奇異的程度小得多，從而完成回歸。但是這樣的回歸必定丟失了信息，不滿足blue。但這樣的代價有時是值得的，因為這樣可以獲得與專業(yè)知識相一致的結(jié)果。7.3 選擇嶺參數(shù)k有哪幾種方法？答：最優(yōu)是依賴于未知參數(shù)和的，幾種常見的選擇方法是： 嶺跡法：選擇的點能使各嶺估計基本穩(wěn)定，嶺估計符號合理，回歸系數(shù)沒有不合乎經(jīng)濟意義的絕對值，且殘差平方和增大不太多；方差擴大因子法：，其對角線元是嶺估計的方差擴大因子。要讓；殘差平方和：滿足成立的最大的值。7.4 用嶺回歸方法選擇自變量應(yīng)遵循哪些基本原則？答：嶺回歸選擇變量通常的原則是：1. 在嶺回歸的計算中，我們通常假定涉及矩陣已經(jīng)中心化和標(biāo)準(zhǔn)化了，這樣可以直接比較標(biāo)準(zhǔn)化嶺回歸系數(shù)的大小。我們可以剔除掉標(biāo)準(zhǔn)化嶺回歸系數(shù)比較穩(wěn)定且絕對值很小的自變量；2. 當(dāng)k值較小時，標(biāo)準(zhǔn)化嶺回歸系數(shù)的