CHP多元線性回歸模型PPT課件

1、1第三章第三章 多元線性回歸模型（多元線性回歸模型（2 2）一、 基本概念回顧二、基本假設三、檢驗四、自變量關系 第1頁/共65頁2一，概念：1、偏回歸系數(shù)： 1 、與雙變量模型一樣分為確定性成分和隨機性成分。 2、Y X U也分別為被解釋變量、解釋變量 隨機擾動項。 3 不同的是回歸系數(shù)我們稱之為偏回歸系數(shù)第2頁/共65頁3偏回歸系數(shù) 討論：經(jīng)濟學中的比較靜態(tài)分析與偏回歸系數(shù)的含義！ 問題：我們如何評價某一解釋變量對被解釋變量的真實影響？ 如：如何評價X2對Y變化的真實貢獻？控制住X3影響！第3頁/共65頁4如何控制住X3影響？以生產(chǎn)函數(shù)為例假定在度量勞動投入X2的單位變化對產(chǎn)出的影響時，我

2、們要控制資本投入X3的線性影響。為此目的可進行如下步驟：11331iiiYbb Xu做Y 對X3的回歸做X2對X3的回歸222332iiiXbbXu11133222233iiiiiiuYbb XuXbb X除去X3對Y 的影響Yi的值（“凈化”了的Y ）除去X3對X2 的影響X2i的值 （“凈化”了的X2第4頁/共65頁5步驟三12101231 iiiiiuuuaa uua做對的回歸：其中， 是的單位變化對的“真實”影響。凈邊際勞動產(chǎn)值第5頁/共65頁6一般形式：對于有 個解釋變量的線性回歸模型 模型中參數(shù) 是偏回歸系數(shù)，樣本容量為偏回歸系數(shù)：控制其它解釋量不變的條件下，第 個解釋變量的單位變

3、動對應變量平均值的影響。k12233.iiikkiiYXXXu(1,2,., )jjkjn第6頁/共65頁7指對各個回歸系數(shù)而言是“線性”的，對變量則可是線性的，也可是非線性的例如：生產(chǎn)函數(shù)取自然對數(shù)lnlnlnlnlnYALKuYAL K u2、線性、線性第7頁/共65頁83、多元總體與樣本回歸函數(shù)、多元總體與樣本回歸函數(shù)第8頁/共65頁9 1n用矩陣表示用矩陣表示1n1knkXYu第9頁/共65頁10二、多元線性回歸模型的基本假定二、多元線性回歸模型的基本假定 假設1，解釋變量是非隨機的或固定的，且各X之間互不相關（無多重共線性）。 假設2，隨機誤差項具有零均值、同方差及不序列相關性。0)

4、(iE22)()(iiEVar0)(),(jijiECovnjiji, 2 , 1,第10頁/共65頁11 假設3，解釋變量與隨機項不相關 0),(ijiXCovkj,2 , 1 假設4，隨機項滿足正態(tài)分布 ), 0(2Ni第11頁/共65頁12上述假設的矩陣符號表示 式： 假設1，nk維矩陣X是非隨機的，且X的秩=k，即X滿秩。 假設2， 0)()()(11nnEEEEnnEE11)( 21121nnnEI22211100)var(),cov(),cov()var(nnn回憶線性代數(shù)中關于滿秩、線性無關!對角線說明了擾動項的同方差性！對角線之外說明了擾動項的序列無關性！第12頁/共65頁13

5、假設4，向量 有一多維正態(tài)分布，即 ),(2I0N假設3，E(X )=0，即 0)()()(11iKiiiiiKiiiiEXEXEXXE轉置假設5，回歸模型的設定是正確的。第13頁/共65頁141、修正的可決系數(shù)、修正的可決系數(shù)可決系數(shù)只涉及變差，沒有考慮自由度。如果用自由度去校正所計算的變差，可糾正解釋變量個數(shù)不同引起的對比困難。三、多元回歸檢驗第14頁/共65頁152、F檢驗第15頁/共65頁163、判定系數(shù)與F之間的關系：22222/ (1 )/ ()1 =1/ 1() / (1 ) 111/ ()E S SknkE S SFR S SnkkR S SnkE S SkT S SE S S

6、nkE S ST S SkT S SE S ST S SnkRRkkRRnkRF與同方向變化！多元回歸總體的顯著性檢驗與判定系數(shù)的顯著性檢驗是等價的。第16頁/共65頁 4、T檢驗17第17頁/共65頁四、自變量關系 1、篩選自變量，偏F。與FC18第18頁/共65頁19o 判定系數(shù)比較的前提條件：n 被解釋變量相同：不同解釋變量的判定系數(shù)不可比n 樣本容量相同n 矯正的判定系數(shù)可作為增減變量的依據(jù)2、判定系數(shù)第19頁/共65頁3、受限最小二乘：有約束條件的模型20第20頁/共65頁21第21頁/共65頁但是，如果約束條件為真，則受約束回歸模型與無約束回歸模型具有相同的解釋能力，RSSR 與

7、RSSU的差異變小。 可用RSSR - RSSU的大小來檢驗約束的真實性) 1(/22UUknRSS) 1(/22RRknRSS)(/ )(22RUURkkRSSRSS于是：) 1,() 1/()/()(URUUURUURknkkFknRSSkkRSSRSSF第22頁/共65頁 討論： 如果約束條件無效， RSSR 與 RSSU的差異較大，計算的F值也較大。 于是，可用計算的F統(tǒng)計量的值與所給定的顯著性水平下的臨界值作比較，對約束條件的真實性進行檢驗。注意，kU - kR恰為約束條件的個數(shù)。第23頁/共65頁這里的這里的F F檢驗適合所有關于參數(shù)線性約束的檢驗檢驗適合所有關于參數(shù)線性約束的檢驗

8、如：多元回歸中對方程總體線性性的F檢驗： H0： j=0 j=1,2,k這里：受約束回歸模型為*0Y) 1/(/) 1/(/ )() 1/(/ )() 1/()/()(knRSSkESSknRSSkRSSTSSknRSSkRSSESSTSSknRSSkkRSSRSSFUUUUUURUURUUR這里，運用了ESSR 0。第24頁/共65頁 利用約束條件判定對回歸模型增加或減少解釋變量考慮如下兩個回歸模型kkXXY110qkqkkkkkXXXXY11110(*)(*)(*)式可看成是（*）式的受約束回歸：H0：021qkkk相應的統(tǒng)計量為：)1(,()1(/(/ )()1(/(/ )(qknqFq

9、knRSSqESSESSqknRSSqRSSRSSFURUUUR第25頁/共65頁 如果約束條件為真，即額外的變量Xk+1, , Xk+q對沒有解釋能力，則統(tǒng)計量較??； 否則，約束條件為假，意味著額外的變量對有較強的解釋能力，則統(tǒng)計量較大。 因此，可通過F的計算值計算值與臨界值臨界值的比較，來判斷額外變量是否應包括在模型中。討論： 統(tǒng)計量的另一個等價式統(tǒng)計量的另一個等價式)1(/()1 (/ )(222qknRqRRFURU第26頁/共65頁 利用有限最小二乘判定參數(shù)的穩(wěn)定性 1 1、鄒氏參數(shù)穩(wěn)定性檢驗、鄒氏參數(shù)穩(wěn)定性檢驗 建立模型時往往希望模型的參數(shù)是穩(wěn)定的，即所謂的結構不變結構不變，這將提

10、高模型的預測與分析功能。如何檢驗？ 假設需要建立的模型為kkXXY110在兩個連續(xù)的時間序列（1,2,，n1）與（n1+1,，n1+n2）中，相應的模型分別為：1110kkXXY2110kkXXY第27頁/共65頁 合并兩個時間序列為( 1,2,，n1 ，n1+1,，n1+n2 )，則可寫出如下無約束回歸模型212121X00XYY 如果 = ，表示沒有發(fā)生結構變化，因此可針對如下假設進行檢驗： H0: = (*)式施加上述約束后變換為受約束回歸模型(*)212121XXYY（*）第28頁/共65頁因此，檢驗的F統(tǒng)計量為：)1(2,)1(2/ )(2121knnkFknnRSSkRSSRSSF

11、UUR 記RSS1與RSS2為在兩時間段上分別回歸后所得的殘差平方和，容易驗證，21RSSRSSRSSU于是)1(2,)1(2/)(/)(21212121knnkFknnRSSRSSkRSSRSSRSSFR第29頁/共65頁參數(shù)穩(wěn)定性的檢驗步驟： （1）分別以兩連續(xù)時間序列作為兩個樣本進行回歸，得到相應的殘差平方： RSS1與RSS2 （2）將兩序列并為一個大樣本后進行回歸，得到大樣本下的殘差平方和RSSR （3）計算F統(tǒng)計量的值，與臨界值比較： 若F值大于臨界值，則拒絕原假設，認為發(fā)生了結構變化，參數(shù)是非穩(wěn)定的。 該 檢 驗 也 被 稱 為 鄒 氏 參 數(shù) 穩(wěn) 定 性 檢 驗（Chow te

12、st for parameter stability）。第30頁/共65頁 2 2、鄒氏預測檢驗、鄒氏預測檢驗 上述參數(shù)穩(wěn)定性檢驗要求n2k。 如果出現(xiàn)n2F(n2, n1-k-1) ，則拒絕原假設，認為預測期發(fā)生了結構變化。第34頁/共65頁 例例 中國城鎮(zhèn)居民食品人均消費需求的鄒氏檢驗。 1、參數(shù)穩(wěn)定性檢驗19811994：)ln(92. 0)ln(08. 0)ln(05. 163. 3)ln(01PPXQRSS1 19952001：01ln71. 0ln06. 3ln55. 078.13lnPPXQ (9.96) (7.14) (-5.13) (1.81) 19812001: 01ln3

13、9. 1ln14. 0ln21. 100. 5lnPPXQ (14.83) (27.26) (-3.24) (-11.17) 第35頁/共65頁34.10)821/()000058. 0003240. 0(4/)0000580. 0003240. 0(013789. 0F 給定=5%，查表得臨界值F 判斷：F值值臨界值，拒絕參數(shù)穩(wěn)定的原假設，表臨界值，拒絕參數(shù)穩(wěn)定的原假設，表明中國城鎮(zhèn)居民食品人均消費需求在明中國城鎮(zhèn)居民食品人均消費需求在1994年前后發(fā)年前后發(fā)生了顯著變化。生了顯著變化。 2、鄒氏預測檢驗65. 4) 1314/(003240. 07/ )003240. 0013789. 0

14、(F給定=5%，查表得臨界值F判斷： F值值臨界值，拒絕參數(shù)穩(wěn)定的原假設臨界值，拒絕參數(shù)穩(wěn)定的原假設 第36頁/共65頁 *四、非線性約束 也可對模型參數(shù)施加非線性約束,如對模型kkXXXY22110施加非線性約束12=1,得到受約束回歸模型受約束回歸模型: *211101kkXXXY 該 模 型 必 需 采 用 非 線 性 最 小 二 乘 法（nonlinear least squares）進行估計。 非線性約束檢驗是建立在最大似然原理最大似然原理基礎上的,有最大似然比檢驗最大似然比檢驗、沃爾德檢驗沃爾德檢驗與拉拉格朗日乘數(shù)檢驗格朗日乘數(shù)檢驗. .第37頁/共65頁1、最大似然比檢驗、最大似

15、然比檢驗 (likelihood ratio test, LR) 估計: :無約束回歸模型與受約束回歸模型， 方法: :最大似然法， 檢驗: :兩個似然函數(shù)的值的差異是否“足夠”大。 記L( ,2)為一似然函數(shù):無約束回歸 : Max:),(2L受約束回歸 : Max:),(2L或求極值：)(),(2gL g( ):以各約束條件為元素的列向量, ：以相應拉格朗日乘數(shù)為元素的行向量 約束：g( )=0第38頁/共65頁 受約束受約束的函數(shù)值不會超過的函數(shù)值不會超過無約束無約束的函數(shù)值的函數(shù)值，但如果約束條件為真，則兩個函數(shù)值就非常“接近”。22，L，L 由此，定義似然比（likelihood r

16、atio）: 如果比值很小，說明兩似然函數(shù)值差距較大，則應拒絕約束條件為真的假設； 如果比值接近于，說明兩似然函數(shù)值很接近，應接受約束條件為真的假設。 具體檢驗具體檢驗時，由于大樣本下：)(),(ln),(ln2222hLLLR h是約束條件的個數(shù)。因此： 通過通過LR統(tǒng)計量的統(tǒng)計量的 2 2分布特性來進行判斷。分布特性來進行判斷。 第39頁/共65頁 在中國城鎮(zhèn)居民人均食品消費需求例中國城鎮(zhèn)居民人均食品消費需求例中，對零階齊次性的檢驗： LR= -2(38.57-38.73)=0.32 給出=5%、查得臨界值臨界值 2 2(1)(1)， 判斷： LR 2 2(1),(1),不拒絕原約束的假設

17、， 表明表明: :中國城鎮(zhèn)居民對食品的人均消費需求函中國城鎮(zhèn)居民對食品的人均消費需求函數(shù)滿足零階齊次性條件數(shù)滿足零階齊次性條件。 第40頁/共65頁 、沃爾德檢驗、沃爾德檢驗（Wald test, W） 沃爾德檢驗中，只須估計無約束模型。如對kkXXXY22110 在所有古典假設都成立的條件下，容易證明 ),(2212121N因此，在1+2=1的約束條件下 )1 ,0(12121Nz第41頁/共65頁記 )(2221Xf可建立沃爾德統(tǒng)計量:) 1 () 1(2222121W 如果有h個約束條件，可得到h個統(tǒng)計量z1,z2,zh 約束條件為真時，可建立大樣本下的服從自由度為h的漸近 2 分布統(tǒng)計

18、量 )(2hWZCZ1 其中，Z為以zi為元素的列向量，C是Z的方差-協(xié)方差矩陣。 因此，W從總體上測量了無約束回歸不滿足約束條件的程度。從總體上測量了無約束回歸不滿足約束條件的程度。 對非線性約束，沃爾德統(tǒng)計量W的算法描述要復雜得多。 第42頁/共65頁 3、拉格朗日乘數(shù)檢驗、拉格朗日乘數(shù)檢驗 拉格朗日乘數(shù)檢驗則只需估計受約束模型. 受約束回歸是求最大似然法的極值問題: )(),(2gL是拉格朗日乘數(shù)行向量，衡量各約束條件對最大似然函數(shù)值的影響程度。 如果某一約束為真，則該約束條件對最大似然函數(shù)值的影響很小，于是，相應的拉格朗日乘數(shù)的值應接近于零。 因此，拉格朗日乘數(shù)檢驗就是檢驗某些拉格朗日

19、乘數(shù)的值是否“足夠大”，如果“足夠大”，則拒絕約束條件為真的假設。第43頁/共65頁 拉格朗日統(tǒng)計量LM本身是一個關于拉格朗日乘數(shù)的復雜的函數(shù)，在各約束條件為真的情況下，服從一自由度恰為約束條件個數(shù)的漸近2分布。 2nRLM n為樣本容量，R2為如下被稱為輔助回歸（auxiliary regression）的可決系數(shù): kkRXXXe22110 如果約束是非線性的，輔助回歸方程的估計比較復雜，但仍可按（*）式計算LM統(tǒng)計量的值。 最后，一般地有最后，一般地有:LMLRW 同樣地，如果為線性約束，LM服從一精確的2分布：(*)第44頁/共65頁453、受約束的OLS 一般的多元模型都是非受限 （

20、約束）模型。因此我們用OLS估計時，稱為非受限最小二乘。 經(jīng)濟理論有時會提出某一回歸模型中的系數(shù)滿足一些線性等式約束條件。 當具備這個約束條件后，方程是否有效，要進行檢驗 例如，考慮柯布一道格拉斯生產(chǎn)函數(shù)中的規(guī)模報酬不變 每一同比例的投入變化有同比例的產(chǎn)出變化 即 檢驗中，有兩種方法（t檢驗和F檢驗）1第45頁/共65頁46對模型kkXXXY22110施加約束121kk1得*11121110)1 (kkkkXXXXY或*1133*110*kkXXXY(*)(*)如果對（*）式回歸得出1310,k則由約束條件可得：1211kk第46頁/共65頁47 但是，如果如果約束條件約束條件為為真真，則，則

21、受約束受約束回歸回歸模型與模型與無約束無約束回歸模型具有相同的解釋能力回歸模型具有相同的解釋能力，RSSR 與 RSSU的差異變小。如果約束條件無效， RSSR 與 RSSU的差異較大，計算的F值也較大于是，可用計算的F統(tǒng)計量的值與所給定的顯著性水平下的臨界值作比較，對約束條件的真實性進行檢驗。第47頁/共65頁48t檢驗第48頁/共65頁49七、參數(shù)的置信區(qū)間七、參數(shù)的置信區(qū)間 參數(shù)的置信區(qū)間參數(shù)的置信區(qū)間用來考察：在一次抽樣中在一次抽樣中所估計的參數(shù)值離參數(shù)的真實值有多所估計的參數(shù)值離參數(shù)的真實值有多“近近”。 在變量的顯著性檢驗中已經(jīng)知道：) 1(1kntkneecStjjjjjjj第4

22、9頁/共65頁50容易推出：在(1-)的置信水平下j的置信區(qū)間是 其中，t/2為顯著性水平為 、自由度為n-k-1的臨界值。 ),(22jjststjj第50頁/共65頁51如何才能縮小置信區(qū)間？ 增大樣本容量n n，因為在同樣的樣本容量下，n越大，t分布表中的臨界值越小，同時，增大樣本容量，還可使樣本參數(shù)估計量的標準差減小； 提高模型的擬合優(yōu)度，因為樣本參數(shù)估計量的標準差與殘差平方和呈正比，模型優(yōu)度越高，殘差平方和應越小，置信區(qū)間的就越窄。在實際應用中，我們希望置信度越高越好，置信區(qū)間越小越好。第51頁/共65頁52第五節(jié)第五節(jié) 案例分析案例分析案例：中國稅收增長的分析中國稅收增長的分析提出

23、問題改革開放以來，隨著經(jīng)濟體制改革的深化和經(jīng)濟的快速增長，中國的財政收支狀況發(fā)生很大變化，為了研究影響中國稅收收入增長的主要原因，分析中央和地方稅收收入的增長規(guī)律，預測中國稅收未來的增長趨勢，需要建立計量經(jīng)濟模型。第52頁/共65頁53理論分析影響中國稅收收入增長的主要因素可能有：（1）從宏觀經(jīng)濟看，經(jīng)濟整體增長是稅收增長的基本源泉。（2）社會經(jīng)濟的發(fā)展和社會保障等都對公共財政提出要求，公共財政的需求對當年的稅收收入可能會有一定的影響。（3）物價水平。中國的稅制結構以流轉稅為主，以現(xiàn)行價格計算的GDP和經(jīng)營者的收入水平都與物價水平有關。（4）稅收政策因素。第53頁/共65頁54 以各項稅收收入

24、Y 作為被解釋變量 以GDP表示經(jīng)濟整體增長水平 以財政支出表示公共財政的需求 以商品零售價格指數(shù)表示物價水平 稅收政策因素較難用數(shù)量表示,暫時不予考慮建立模型建立模型第54頁/共65頁55模型設定為:其中： 各項稅收收入（億元） 國內生產(chǎn)總值（億元） 財政支出（億元） 商品零售價格指數(shù)（%）1222334tttttY X X Xu第55頁/共65頁56數(shù)據(jù)來源：中國統(tǒng)計年鑒其中: 各項稅收收入（億元） 國內生產(chǎn)總值（億元） 財政支出（億元） 商品零售價格指數(shù)（%）數(shù)據(jù)收集數(shù)據(jù)收集第56頁/共65頁57假定模型中隨機項滿足基本假定，可用假定模型中隨機項滿足基本假定，可用OLS法估計法估計其參數(shù)

25、。其參數(shù)。具體操作：用用EViews軟件，估計結果為：軟件，估計結果為：參數(shù)估計參數(shù)估計第57頁/共65頁58t檢驗：給定 ，查t分布表，在自由度為 時臨界值為 ，因為 的參數(shù)對應的t統(tǒng)計量均大于2.080, 這說明在5%的顯著性水平下，斜率系數(shù)均顯著不為零，表明國內生產(chǎn)總值、財政支出、商品零售價格指數(shù)對財政收入分別都有顯著影響。 0.025(21)2.080t0.05- n3=25-4=21第58頁/共65頁59本模型中本模型中所估計的參數(shù)的符號與經(jīng)濟理論分析一致，說明所估計的參數(shù)的符號與經(jīng)濟理論分析一致，說明在其他因素不變的情況下，國內生產(chǎn)總值每增加在其他因素不變的情況下，國內生產(chǎn)總值每增加1 1億元，平均說來財政收入將增加億元，平均說來財政收入將增加萬元；財政支出萬元；財政支出每增加每增加1 1億元，平均