第四章 多元回歸：估計(jì)與假設(shè)檢驗(yàn)

第四章多元回歸：估計(jì)與假設(shè)檢驗(yàn)上海立信會(huì)計(jì)學(xué)院包含多個(gè)解釋變量的回歸模型稱為多元回歸模型。多元是指由多種因素對(duì)應(yīng)變量有影響。本章將以三變量線性回歸模型為例來(lái)講解多元回歸模型。一旦掌握了三變量模型，就很容易將結(jié)論擴(kuò)展到更多元的線性回歸模型。本章的內(nèi)容如下：1.三變量線性回歸模型與三變量線性回歸模型的假設(shè)2.三變量線性回歸模型的OLS估計(jì)量以及OLS估計(jì)量的方差與標(biāo)準(zhǔn)誤3.多元回歸的擬合優(yōu)度：多元判定系數(shù)4.多元回歸的假設(shè)檢驗(yàn)5.其他問(wèn)題一、三變量線性回歸模型與三變量線性回歸模型的假設(shè)三變量線性回歸模型的非隨機(jī)總體回歸函數(shù)（PRF）一般可以表示為：隨機(jī)形式：

其中，Y為應(yīng)變量；X1,X2為解釋變量；u為隨機(jī)誤差項(xiàng)；t表示第t期觀察值。B1是截距，表示當(dāng)X1,X2為零時(shí)Y的平均值。B2、B3稱為偏回歸系數(shù)。三變量線性回歸模型的PRF也是給出了在給定解釋變量的情況下，相應(yīng)的Y總體的條件均值。偏回歸系數(shù)

三變量線性回歸模型中的斜率系數(shù)稱為偏回歸系數(shù)(Partialregressioncoefficient)或偏斜率系數(shù)(partialslopecoefficient)。其表示的意義為，度量了在保持不變的情況下，單位變動(dòng)引起均值的改變量；同樣，度量了在保持不變的情況下，單位變動(dòng)引起均值的改變量。

例如：多元線性回歸模型的若干假定(1)回歸模型是參數(shù)線性的。(2)回歸模型是正確設(shè)定的。(3)解釋變量與隨機(jī)誤差項(xiàng)不相關(guān)。(4)隨機(jī)誤差項(xiàng)均值為零(5)不同隨機(jī)誤差項(xiàng)的方差相同，即：(6)不同隨機(jī)誤差項(xiàng)之間不相關(guān)，或者無(wú)自相關(guān)，即：(7)解釋變量和之間不存在完全共線性，即兩個(gè)解釋變量之間無(wú)確切的線性關(guān)系。如果變量能表示為另一變量的線性函數(shù)，則稱和之間是共線性的。在和存在共線性的情況下，不能通過(guò)一個(gè)樣本估計(jì)出和的參數(shù)值。

注意：雖然在實(shí)際中很少遇到完全共線性的情況，但是高度共線性或近似共線性的情況還是很常見(jiàn)的。(8)隨機(jī)誤差項(xiàng)服從均值為零，方差為的正態(tài)分布，即：二、三變量線性回歸模型的OLS估計(jì)量以及OLS估計(jì)量的方差與標(biāo)準(zhǔn)誤

1.三變量線性回歸模型的OLS估計(jì)量假設(shè)某三變量線性回歸模型，其隨機(jī)樣本回歸函數(shù)為：其中，、、分別是、、的估計(jì)量，為殘差確定樣本回歸函數(shù)為：根據(jù)OLS的原理，對(duì)于三變量線性回歸模型來(lái)說(shuō)，求解、、的方法是選擇、、使得下式中的RSS最小化，即：求解該最小化問(wèn)題后得到如下正規(guī)方程式：將以上三個(gè)正規(guī)方程做簡(jiǎn)單代數(shù)變換，得到：其中，小寫(xiě)字母表示與其樣本均值的離差，（例如：）2.三變量模型OLS估計(jì)量的方差與標(biāo)準(zhǔn)誤根據(jù)三變量線性回歸模型OLS估計(jì)量的推導(dǎo)式可以知道，、、估計(jì)量的方差與標(biāo)準(zhǔn)誤為：對(duì)于以上諸式中的未知量，可用其OLS估計(jì)量來(lái)代替，即：3.高斯-馬爾柯夫定理

在滿足古典線性回歸模型假設(shè)的前提下，多元線性回歸模型中參數(shù)的估計(jì)量依然是總體回歸模型參數(shù)的最優(yōu)線性無(wú)偏估計(jì)量（BLUE）。例子：古董鐘拍賣德國(guó)Triberg鐘表公司每年都舉行古董鐘表拍賣會(huì)。現(xiàn)有一個(gè)32個(gè)鐘表拍賣信息的數(shù)據(jù)（樣本），這些信息包括：鐘表的中標(biāo)價(jià)格、投標(biāo)人數(shù)、古董鐘的年代。三、多元回歸的擬合優(yōu)度：多元判定系數(shù)

對(duì)于多元線性回歸模型來(lái)說(shuō)，也有如下等式的成立：

與雙變量模型相同，決定系數(shù)定義為：其中，為應(yīng)變量Ｙ的總平方和；為回歸平方和；為殘差平方和。四、多元回歸的假設(shè)檢驗(yàn)

在隨機(jī)誤差項(xiàng)服從正態(tài)分布以及多元回歸的其他基本假定的情況下，可以證明、、均服從均值分別為、和，方差分別為、、的正態(tài)分布。1.對(duì)零假設(shè)進(jìn)行假設(shè)檢驗(yàn)的檢驗(yàn)統(tǒng)計(jì)量分別為：顯著性檢驗(yàn)法1.對(duì)于假設(shè)2.計(jì)算t值3.根據(jù)顯著性水平計(jì)算臨界值并得到拒絕域4.比較t值和拒絕域并作出判斷置信區(qū)間法由于多元線性回歸模型截距和系數(shù)的檢驗(yàn)統(tǒng)計(jì)量為t統(tǒng)計(jì)量，即：所以可以得到一個(gè)該參數(shù)的置信度為的置信區(qū)間：

滿足：對(duì)比參數(shù)的置信區(qū)間和零假設(shè)值，如果置信區(qū)間包含零假設(shè)值，則不能拒絕零假設(shè)，否則，拒絕零假設(shè)。2.檢驗(yàn)聯(lián)合假設(shè)：

對(duì)于一個(gè)多元線性回歸模型來(lái)說(shuō)，一個(gè)或多個(gè)解釋變量各自對(duì)應(yīng)變量沒(méi)有影響，但卻有可能聯(lián)合對(duì)應(yīng)變量有影響。所以有必要對(duì)這些變量的系數(shù)作聯(lián)合的假設(shè)檢驗(yàn)，即檢驗(yàn)假設(shè)：或以上檢驗(yàn)稱為多元回歸的總體顯著性檢驗(yàn)。

如何檢驗(yàn)?zāi)?？可以采用方差分析的公式?/p>

對(duì)于TSS、RSS、ESS來(lái)說(shuō)，其自由度分別為：平方和自由度

TSSn-1RSSn-k(k為待估參數(shù)個(gè)數(shù))ESSk-1平方和自由度

TSSn-1RSSn-3(k為待估參數(shù)個(gè)數(shù))ESS