教育學第三章 多元回歸分析估計1

中級計量經濟學

INTERMEDIATEECONOMETRICS簡單多元回歸之一7/1/20231ChapterOutline本章大綱MotivationforMultipleRegression使用多元回歸的動因MechanicsandInterpretationofOrdinaryLeastSquares普通最小二乘法的操作和解釋TheExpectedValuesoftheOLSEstimatorsOLS估計量的期望值TheVarianceoftheOLSEstimatorsOLS估計量的方差EfficiencyofOLS:TheGauss-MarkovTheoremOLS的有效性：高斯－馬爾科夫定理7/1/20232LectureOutline課堂大綱MotivationformultivariateAnalysis使用多元回歸的動因TheModel模型TheEstimation估計PropertiesoftheOLSestimatesOLS估計的性質ThePartiallingoutInterpretation對“排除其它變量影響〞的解釋Simpleversusmultipleregressions比較簡單回歸模型與多元回歸模型GoodnessofFit擬合優(yōu)度7/1/20233Motivation:Advantage

動因：優(yōu)點Theprimarydrawbackofthesimpleregressionanalysisforempiricalworkisthatitisverydifficulttodrawceterisparibusconclusionsabouthowxaffectsy. 在實證工作中使用簡單回歸模型的主要缺陷是：要得到在其它條件不變的情況下，x對y的影響非常困難。Whethertheceterisparibuseffectsarereliableornotdependsonwhethertheconditionalmeanassumptionisrealistic. 在其它條件不變情況假定下我們估計出的x對y的影響值是否可信依賴，完全取決于條件均值零值假設是否現實。Ifotherfactorsthataffectingyarenotcorrelatedwithx,changingxcanensurethatuisnotchanged,andtheeffectofxonycanbeidentified. 如果影響y的其它因素與x不相關，那么改變x可以保證u不變，從而x對y的影響可以被識別出來。7/1/20234Motivation:Advantage

動因：優(yōu)點Multipleregressionanalysisismoreamenabletoceterisparibusanalysisbecauseitallowsustoexplicitlycontrolformanyotherfactorsthatsimultaneouslyaffectthedependentvariable.

多元回歸分析更適合于其它條件不變情況下的分析，因為多元回歸分析允許我們明確地控制許多其它也同時影響因變量的因素。Multipleregressionmodelscanaccommodatemanyexplanatoryvariablesthatmaybecorrelated.

多元回歸模型能容許很多解釋變量，而這些變量可以是相關的。Importantfordrawinginferenceaboutcausalrelationsbetweenyandexplanatoryvariableswhenusingnon-experimentaldata.

在使用非實驗數據時，多元回歸模型對推斷y與解釋變量間的因果關系很重要。7/1/20235Motivation:Advantage

動因：優(yōu)點Itcanexplainmoreofthevariationinthedependentvariable.它可以解釋更多的因變量變動。Itcanincorporatemoregeneralfunctionalform.它可以表現更一般的函數形式。Themultipleregressionmodelisthemostwidelyusedvehicleforempiricalanalysis.多元回歸模型是實證分析中最廣泛使用的工具。7/1/20236Motivation:AnExample

動因：一個例子Considerasimpleversionofthewageequationforobtainingtheeffectofeducationonhourlywage:考慮一個簡單版本的解釋教育對小時工資影響的工資方程。exper:yearsoflabormarketexperienceexper：在勞動力市場上的經歷，用年衡量Inthisexampleexperienceisexplicitlytakenoutoftheerrorterm.在這個例子中，“在勞動力市場上的經歷〞被明確地從誤差項中提出。 7/1/20237Motivation:AnExample

動因：一個例子Consideramodelthatsaysfamilyconsumptionisaquadraticfunctionoffamilyincome:考慮一個模型：家庭消費是家庭收入的二次方程。Cons=b0+b1inc+b2inc2+uNowthemarginalpropensitytoconsumeisapproximatedby現在，邊際消費傾向可以近似為 MPC=b1+2b2inc7/1/20238TheModelwithkIndependentVariables

含有k個自變量的模型Thegeneralmultiplelinearregressionmodelcanbewrittenas一般的多元線性回歸模型可以寫為7/1/20239ParallelswithSimpleRegression

類似于簡單回歸模型b0isstilltheinterceptb0仍是截距b1tobkallcalledslopeparametersb1到bk都稱為斜率參數uisstilltheerrorterm(ordisturbance)u仍是誤差項〔或干擾項〕Stillneedtomakeazeroconditionalmeanassumption,sonowassumethat仍需作零條件期望的假設，所以現在假設E(u|x1,x2,…,xk)=0Stillminimizingthesumofsquaredresiduals,sohavek+1firstorderconditions仍然最小化殘差平方和，所以得到k+1個一階條件7/1/202310ObtainingtheOLSEstimates

如何得到OLS估計值Themethodofordinaryleastsquareschoosestheestimatestominimizethesumofsquaredresiduals,普通最小二乘法選擇能最小化殘差平方和的估計值，7/1/202311ObtainingtheOLSEstimates

如何得到OLS估計值7/1/202312ObtainingtheOLSEstimates

如何得到OLS估計值Thefirstorderconditionsarealsothesamplecounterpartsoftherelatedpopulationmoments.一階條件也是相關的總體矩在樣本中的對應。AfterestimationweobtaintheOLSregressionline,orthesampleregressionfunction(SRF)在估計之后，我們得到OLS回歸線，或稱為樣本回歸方程〔SRF〕7/1/202313InterpretingMultipleRegression

對多元回歸的解釋7/1/202314Example:DeterminantsofCollegeGPA

例子：大學GPA的決定因素Two-independent-variableregression兩個解釋變量的回歸pcolGPA:predictedvaluesofcollegegradepointaveragepcolGPA:大學績點預測值hsGPA:highschoolGPAhsGPA:高中績點ACT:achievementtestscoreACT:成績測驗分數pcolGPA=1.29+0.453hsGPA+0.0094ACT

7/1/202315Example:DeterminantsofCollegeGPA

例子：大學GPA的決定因素One-independent-variableregression一個解釋變量的回歸 pcolGPA=2.4+0.0271ACTThecoefficientsonACTisthreetimeslarger.ACT的系數大三倍。Ifthesetworegressionswerebothtrue,theycanbeconsideredastheresultsoftwodifferentexperiments.如果這兩個回歸都是對的，它們可以被認為是兩個不同實驗的結果。7/1/202316Holdingotherfactorsfixed

“保持其它因素不變〞的含義Thepowerofmultipleregressionanalysisisthatitallowsustodoinnon-experimentalenvironmentswhatnaturalscientistsareabletodoinacontrolledlaboratorysetting:keepotherfactorsfixed.多元回歸分析的優(yōu)勢在于它使我們能在非實驗環(huán)境中去做自然科學家在受控實驗中所能做的事情：保持其它因素不變。7/1/202317Properties性質Thesampleaverageoftheresidualsiszero.殘差項的樣本平均值為零ThesamplecovariancebetweeneachindependentvariableandtheOSLresidualsiszero.每個自變量和OLS殘差之間的樣本協(xié)方差為零。ThepointisalwaysontheOLSregressionline.點總位于OLS回歸線上。7/1/202318A“PartiallingOut〞Interpretation

對“排除其它變量影響〞的解釋Considerregressionlineof考慮回歸線Onewaytoexpressis的一種表達是isobtainedinthefollowingway:由以下方式得出：7/1/202319A“PartiallingOut〞Interpretation

對“排除其它變量影響〞的解釋Regressourfirstindependentvariablex1onoursecondindependentvariablex2,andthenobtaintheresidual.將第一個自變量對第二個自變量進行回歸，然后得到殘差。Inotherwords, istheresidualfromtheregression換句話說，是由回歸得到的殘差。Then,doasimpleregressionofyontoobtain.然后，將y向進行簡單回歸得到。7/1/202320“PartiallingOut〞continued

“排除其它變量影響〞〔續(xù)〕Previousequationimpliesthatregressingyonx1andx2givessameeffectofx1asregressingyonresidualsfromaregressionofx1onx2上述方程意味著：將y同時對x1和x2回歸得出的x1的影響與先將x1對x2回歸得到殘差，再將y對此殘差回歸得到的x1的影響相同。Thismeansonlythepartofx1thatisuncorrelatedwithx2arebeingrelatedtoy,sowe’reestimatingtheeffectofx1onyafterx2hasbeen“partialledout〞這意味著只有x1中與x2不相關的局部與y有關，所以在x2被“排除影響〞之后，我們再估計x1對y的影響。7/1/202321“PartiallingOut〞continued

“排除其它變量影響〞〔續(xù)〕Inthegeneralmodelwithkexplanatoryvariables,canstillbewrittenasinequation,buttheresidualcomesfromtheregressionofx1

onx2…,xk.在一個含有k個解釋變量的一般模型中，仍然可以寫成，但殘差來自x1對x2…,xk的回歸。Thusmeasurestheeffectofx1onyafterx2,…,xk.hasbeenpartialledout.于是度量的是，在排除x2…,xk等變量的影響之后，x1對y的影響。7/1/202322SimplevsMultipleRegressionEstimates

比較簡單回歸和多元回歸估計值7/1/202323SimplevsMultipleRegressionEstimates

比較簡單回歸和多元回歸估計值Thisisbecausethereexistsasimplerelationship這是因為存在一個簡單的關系

whereistheslopecoefficientfromthesimpleregressionofx2

onx1

.Theproof.這里，是x2對x1的簡單回歸得到的斜率系數。證明如下。7/1/2023247/1/202325SimplevsMultipleRegression