課件耀lwy chp簡單回歸模型

每月家庭可支配收入X（元YY XE(Y|Xi)=0+ X對于總體回歸直線：E(Y|Xi)=0+1Xi，其中總體回歸線（populationregressionline）：在給定解釋變量Xi條件下被解釋變量Yi的期望軌跡。也稱總體回歸曲線（populationregressionE(Y|Xif(Xi)稱為（雙變量）總體回歸函數(shù)（populationregressionfunctionPRF）。觀察值圍繞它的期望值的離差（deviation），是一個(gè)不可觀測的隨量，稱之為隨機(jī)干擾項(xiàng)（stochasticdisturbance）或隨機(jī)誤差項(xiàng)ui= -y.E(y|x)=0+ . 給定收入水平Xi,個(gè)別家庭的支出可表示為兩部 =Y|Xiui=0+1Xi+數(shù)據(jù)的欠缺（消費(fèi)與收入、糟糕的替代變量（變量測量誤差的影響y=0+1x+ 在簡單回歸模型y01xuy因變量（Dependent響應(yīng)變量（ResponseVariable左邊變量（Left-HandSide被解釋變量（Exined回歸子自變量（t右邊變量（Right-HandSide解釋變量（Exnatory回歸元協(xié)變量控制變量（Control線性的含義：y和x之間并不一定存性關(guān)例如y=e0+1x+uwage=0+1educ+E(u)= y=(0+5)+1x+(u-由此E(u- 總可以通過調(diào)整常數(shù)現(xiàn)誤差項(xiàng)的均值為零,因此該假定的限制性不E(u|xE(u)IfE(Y|X)=E(Y),thenCov(X,Y)=0[Infact,everyfunctionofXisuncorrelatedwithY.CovX,YCov(X,E[Y|X])Cov(X,E[Y])E(Y|f(X))E[E(Y|X)|f(X)]E[E(Y)|f(X)]E(Y由于已經(jīng)假定了E(u)=0，因此有E(u|x)=E(u)=0. 在教育一例中，假定u代表內(nèi)在能力，x代表教育年限，score=0+1attend E(u|attend)=score=0+1attend Whenstudentability,motivation,age,andotherfactorsinuarenotrelatedtoattendance,(2.6)wouldhold.Thisseemsunlikelytobethecase.由

E(y|x)=0+ 稱總體回歸直線，y的條件分布以它為。y

.

.E(y|x)=0+ x2若{(xi,yii=1,…,n是總體的一個(gè)yi=0+1xi+ yy E(y|x)=0+1 1

.. 由E(u|x)=E(u)= 可得Cov(x,u)=E(xu)= Cov(x,u)=Cov(x,E(u|x))=0=E(xu)–E(x)E(u)=uy0E(y–0–1x)= E[x(y–0–1x)]= 以上兩個(gè)式稱為總體的矩條件（momentE(y–0–1x)= E[x(y–0–1x)]=

ninnn

或

y?11

xxxyy?

x

xix

xn

2 ixixyyi則1

xix1Cov(x,y)/Var(x)

x

y

x

yii1 ii x xx y01xu0E(y)1E(x) 普通最小二乘法（methodofordinaryleastsquare,OLS）的基本思想：找到一組合適的參數(shù)估計(jì)值，?

yy

?

?

} 擬合值? def:iyi? u?2

y?x

n(y??x)

x(y??x)

?y?

xxyy 1 xxi max)=(223,1281,14822).。N=209(estimatedsalary)=963.191+在例2.5中，若ShareA=60即60，預(yù)計(jì)候VoteA^=26.81+0.464 將shareA=60代入(2.28)得VoteA^=54.65.這并非不合理。如果候選人A花了競選支出的60%，那么預(yù)測他將得到接近55%的選票。OLSOLS的樣本殘差平均值也為零 i(yix)

? n in(xin

)(?i??i

y?? 每一次觀測可以寫成擬合值與殘差之和yi

?

n即：(

?)(?i?

)?i

?iin(

y)?i

[?(xx? iixui? x ?iixui

n

i??n

xi?in

?

i2SST(yy 2i解釋平方和(ExinedSumofSquares, SSE(?y)2?2(xx i

殘差平方和(ResidualSumofSquares,nSSRn

(y?)2

n n SSTSSRSSTy2y??y2 u??yySSR R2=SSE/SST=1–ExampleR2Example2.9競選結(jié)果和活動開R2Theestimatedsampleregressionischangedfrom(estimatedsalarys)=963.191+18.501roe (estimatedsalarys)=963191+ nxixyiyn?1

nn(estimatedsalary)=963.191+(estimatedsalary)=963.191+ 對于函數(shù)：ylog(x) 0xlog(x)log(x)

x xlog(x1x2)log(x1)log(x2)log(x1/x2)log(x1)log(x2)log(xc)clog(x)log(1x) xlog(x1)log(x0)(x1x0)/x0x/u0,(01educu)(01educ0u01log(wage)-log(wage0)(wagewage0)/log(wage)n

R2w?geR2自然對數(shù)的另一個(gè)重要用途是用于獲得彈性為常log(salary)01log(sales)在CEO的薪水和企業(yè)銷售額的例子中，常數(shù)彈性 P42）og(salary)n R2tInterpretationofyxyyLog-log(xy/y0log(y/y01x/誤差u的關(guān)系可寫作：y=0+1x+ {(xi SLR.3x不是一個(gè)不變的SLR.4給定解釋變量的任何值，隨機(jī)誤差項(xiàng)的期望值都為零.E(u|x)0或 |xi)0(隨機(jī)樣本Eu|X0Xx1x2,xn它們的OLS估計(jì)量的期望值都等于它們各自的 E?和E? Xx1,x2,,xn?1

xixyynnxixii1 ?xixyi,其中 xx1 分子xixyixix01xiuixix0xix1xixix xxixix11xix xx xxx xx ?xix 記 xix,?1SSTdu x 11

E

|X SSTx E |XE |x1,x2,,xnE |xi 101xu?110(1?)x1故E(?|X)E[(?)x|X]E(u|X Using409Michiganhighschooldatafor1992–1993,weestimatedthatPredictedmath10=32.14-Predictedmath10=32.14-學(xué)考試的學(xué)生會減少3.2個(gè)百分點(diǎn)?？尚艈幔繑?shù)學(xué)考試的學(xué)生會減少3.2個(gè)百分點(diǎn)?？尚艈?？實(shí)上，u包含著既影響學(xué)生成績又與午餐項(xiàng)目資格高度AssumeSLR.5Var(u|x)=2 orVar(ui|xi)=2(Homoskedasticity)Var(y|x)=2orVar(yi|xi)=2

..=+.

.E(y|x)=0+ Var(u|x)=E(u2|x)-E(u|x022=E(E(u2|x))=E(u2)=稱作誤差方差（errorvariance）。E(y|x)=01xVar(y|x若工資方程滿足同方差假設(shè)，即 若工資方程滿足同方差假設(shè)，即 如果接受過高等教育的人的機(jī)會，收入的

X

x

x x

d2VaruX SSTx2

SST 2

d2221SST

x 2

x 2

SSTx 2widi/ wu

wE(u E(uu)E(u2/n)2/ wE(uu) w(2/n) yx ?(xu)?xu(? Var(?)Var(u)Var(?)x22/n(2/SST)x22/n2x2/ 0 Var(?)2[ /n0

n1 x2x2x2/ x2/SST SLR.1～SLR.5下，以樣本值{x1,x2,…,xn}為條件有 和

|X)

nn (xix i (xi

x

|X 12nn12n

xn 1ni

x)2P u?2SSR/nn iiyi??xui

0

1 ?x ( ?x1以上兩式相減得：?i 1 i ?2(uu)2(?)2(xx)22(?)(uu)(x i i ?2(uu)2(?)2(xx)22(?)u( i E{(?)2(xx)2}2i?u?u(xx)

(xx)2 (xx)2 u(xx)}22 定義：? x已知：sd?1SST1x111se?1

1/2?/

x212x1y 1

(

n

(

1 1

x2故1xiyi

1

2x = i x yi01xi 2 =xi(01xiui) xi 0xi

x2

xu

i

/

i +1

xiui/

i

2

條件于x可得：E(1)=0xi/xi + 11n當(dāng)00時(shí)，這個(gè)偏差為零。當(dāng)

1由(i)x1 Var(1) i VariVar(1) i Vari iVar(ui

x2

x2 2 x2

2x

=2

x

i i (2.57),Var(

(xi

)2n n 由于

x2

(xx)2Var(Var(? n或

x)2

xi2n(x2 x0，它都小于xi

nxo2xoi11(x2的和被取定時(shí))x? Var()0 ? ，x,和n的大小(以及 x2的大小) regressypredictyhat,predictSE,disyinvttail(8,generaow1=yhat-generategraphtwowaylfitciyx,stdp||scatteryx,msymbol(o)||,ytitle("Meancompositey")legend(off)xtitle("omex")title("Confidencebandsforconditionalmeans(stdp)")MeancompositeConfidencebandsforconditionalMeancomposite omeregressypredictyhat,predictSEyhat,disyinvttail(8, ow2=yhat-2.306*generatehigh2=yhat+2.306*graphtwowaylfitciyx,stdf||scatteryx,msymbol(o)||,legend(off)xtitle("omex")title("Confidencebandsforindividual-caseprediction(stdf)")0 0omegraphtwowaylfitciyx,stdp||scatteryx,||,ytitle("Meancompositey omex")title("Confidencebandsforconditionalmeans(stdp)")graphtwowaylfitciyx,stdf||scatteryx,msymbol(o)||,legend(off)xtitle("omex")title("Confidencebandsforindividual-caseprediction(stdf)")graphtwowaylfit