多元線性回歸模型：估計及t檢驗

多元線性回歸：估計方法及回歸系數(shù)顯著性檢驗線性回歸模型的基本假設(shè):i=1,2,…,n在普通最小二乘法中，為保證參數(shù)估計量具有良好的性質(zhì)，通常對模型提出若干基本假設(shè)：1．解釋變量間不完全相關(guān)；2．隨機誤差項具有0均值和同方差。即:,i=1,2,…,n3．不同時點的隨機誤差項互不相關(guān)（序列不相關(guān)），即s≠0,i=1,2,…,n4．隨機誤差項與解釋變量之間互不相關(guān)。即j=1,2,…,k,i=1,2,…,n5．隨機誤差項服從0均值、同方差的正態(tài)分布。即~i=1,2,…,n當(dāng)模型滿足假設(shè)1~4時，將回歸模型稱為“標(biāo)準(zhǔn)回歸模型”，當(dāng)模型滿足假設(shè)1~5時，將回歸模型稱為“標(biāo)準(zhǔn)正態(tài)回歸模型”。如果實際模型滿足不了這些假設(shè)，普通最小二乘法就不再適用，而要發(fā)展其他方法來估計模型。廣義（加權(quán)）最小二乘估計（generalizedleastsquares）當(dāng)假設(shè)2和3不滿足時，即隨機擾動項存在異方差，i=1,2,…,n，且隨機擾動項序列相關(guān)，i=1,2,…,n，j=1,2,…,n，此時OLS估計仍然是無偏且一致的，但不是有效估計。線性回歸的矩陣表示：y=Xβ+u（1）則上述兩個條件等價為：Var(u)==2I對于正定矩陣QUOTE存在矩陣M，使得。在方程（1）兩邊同時左乘M，得到轉(zhuǎn)換后的新模型：，令，即（2）新的隨機誤差項的協(xié)方差矩陣為，顯然是同方差、無序列相關(guān)的。目標(biāo)函數(shù)，即殘差平方和為：。目標(biāo)函數(shù)是殘差向量的加權(quán)平方和，而權(quán)數(shù)矩陣則是u的協(xié)方差矩陣的逆矩陣（因此，廣義最小二乘估計法也稱為加權(quán)最小二乘估計法）。而新模型的OLS估計量則是原模型的GLS估計量。Var（QUOTEGLS）=(X*’X*)-1=(X’M’MX)-1=(X’QUOTE-1X)-1（Var（QUOTEOLS）=(X’X)-1X’QUOTEX(X’X)-1）。由于變換后的模型(2)滿足經(jīng)典OLS的所有假設(shè)，所以根據(jù)高斯-馬科夫定理可知，GLS估計量是BLUE（BestLinearUnbiasedEstimator）。雖然從理論上講，GLS比OLS有效，但由于多數(shù)情況下殘差序列的協(xié)方差矩陣未知，當(dāng)我們用代替GLS估計式中的QUOTE以獲得估計時，估計量雖然仍舊是一致的，但卻不是最好線性無偏估計。而且，也很難推導(dǎo)出估計量的小樣本性質(zhì)。繼而用White(1980)的異方差一致協(xié)方差估計方法（殘差序列有未知形式的異方差，但序列不相關(guān)）和Newey-West(1987)的異方差--自相關(guān)一致協(xié)方差估計方法（有未知形式的異方差且自相關(guān)存在）得到修正的Var（QUOTEOLS）是相對較好的選擇。（使用White或Newey-West異方差一致協(xié)方差估計不會改變參數(shù)的點估計，只改變參數(shù)估計的標(biāo)準(zhǔn)差。）White協(xié)方差矩陣公式為：其中n是觀測值數(shù)，k是回歸變量數(shù)，ui是最小二乘殘差。Newey-West協(xié)方差矩陣公式為：Hodric,R.J.,1982,Dividendyieldsandexpectedstockreturns:alternativeproceduresforinferenceandmeasurement.TheReviewofFinancialStudies,3(5),357-386.用于k步向前預(yù)測中，殘差協(xié)方差矩陣的一致估計。計算金融網(wǎng)址：http://www.unitn.it/economiahttp://