雙變量回歸模型

雙變量回歸模型一個(gè)人為的例子?研究每周家庭消費(fèi)支出Y對(duì)可支配收入X的關(guān)系。?將家庭劃分為收入差不多的10組。每周家庭收入（美元）X80100120140160180200220240260Y5565798010211012013513715060708493107115136137145152每周65749095110120140140155175家庭708094103116130144152165178消費(fèi)758598108118135145157175180支出-88-113125140-160189185---115---162-191總計(jì)32546244570767875068510439661211?表格給出了以X的定值為條件的Y的條件分布。?計(jì)算給定X的Y的概率，即P（Y/X）。?計(jì)算條件均值，即E（Y/X=X）i?作圖?平均的說(shuō)，隨著X的增加，Y也在增加。?條件均值落在一根有正斜率的直線上，總體回歸線(populationregressionline),Y對(duì)X的回歸。?對(duì)每一個(gè)X都有Y值的一個(gè)總體和相應(yīng)的均值，回i歸線是穿過(guò)了這些條件均值的線。總體回歸函數(shù)(PRF)的概念?圖中看到，每一條件均值E(Y/X)都是X的一個(gè)ii函數(shù)，并且是線性函數(shù)。E(Y/X,)=f(X,)=P1+P2X?p1和p2是未知但固定的參數(shù)，被分別稱為截距和斜率參數(shù)?！熬€性，，一詞的含義?對(duì)變量為線性北線性的例子：E(YIX)=p1+p2X2?對(duì)參數(shù)為線性’1北線性的例子：E(YIX)=P1+麟7X.?本課程中，只對(duì)參數(shù)是線性的。。’PRF的隨機(jī)設(shè)定?隨著家庭收入的增加，家庭消費(fèi)平均的說(shuō)也增加。?但某一個(gè)別家庭的消費(fèi)支出卻不一定。?個(gè)別家庭的消費(fèi)支出聚集在收入為乂「的所有家庭的平均消費(fèi)支出的周圍。Y=E(Y/X)+uE(Y/Xi)代表相同收入水平的所有家庭的平均消費(fèi)支出，稱為系統(tǒng)性(systematic)成分，u^稱為隨機(jī)或非系統(tǒng)性(non-systematic)成分。?假定E(Y/Xi)是對(duì)Xj為線性的，則Y=E(Y/X)+u=P+PX+u

iii12iiE(u/X)=0隨機(jī)干擾項(xiàng)的意義理論的含糊性數(shù)據(jù)的欠缺核心變量與周邊變量人類行為的內(nèi)在隨機(jī)性糟糕的替代變量節(jié)省原則錯(cuò)誤的函數(shù)形式樣本回歸函數(shù)?以上討論局限在與乂值相對(duì)應(yīng)的Y值總體?現(xiàn)在我們考慮抽樣問(wèn)題樣本：TOC\o"1-5"\h\zYX7080651009012095140110160115180120200140220155240150260?我們能從樣本預(yù)測(cè)整個(gè)總體中對(duì)應(yīng)于選定X的平均每周消費(fèi)支出Y嗎？?從N個(gè)不同的樣本會(huì)得到N個(gè)不同的SRF,并且這些SRF不大會(huì)是一樣的。?能不能設(shè)計(jì)一種規(guī)則使SRF盡可能的“接近"PRF?樣本回歸函數(shù)(sampleregressionfunction,SRF)TOC\o"1-5"\h\zY=B+bx

i12i?SRF隨機(jī)形式：y=B+Bx+ui12ii?回歸分析的主要目的是根據(jù)y=B+Bx+u來(lái)估計(jì)i12iiY=p+pX+ui12ii?圖形

普通最小二乘法???

?u=Y-YTOC\o"1-5"\h\z=Y-&-&Xi12i選擇一個(gè)SRF，使得殘差和Eu=z（Y-Y）盡可能小iii（圖）但正負(fù)殘差可以相互抵消最小二乘準(zhǔn)則是要定出SRF使得：???

?￡u2=￡（Y-Y）2

iii=￡（Y-P-PX）2消費(fèi)-收入的例子中，估計(jì)到的結(jié)果：AY=24.4545+0.5091X

ii-OLS估計(jì)量是由可觀測(cè)的量（X和丫）表達(dá)的，因此這些量是可以計(jì)算的-這些量是點(diǎn)估計(jì)量?回歸線的性質(zhì)：1?它通過(guò)Y和X的樣本均值。估計(jì)的Y（=七）等于實(shí)測(cè)的Y均值殘差U的均值為零。離差形式殘差Ui和預(yù)測(cè)的丫「值不相關(guān)殘差Ui和乂^不相關(guān)最小二乘法的基本假定?回歸分析的目的是從『和6推斷P和P1212?需要對(duì)Y^的產(chǎn)生方式作出某些假定。經(jīng)典線性回歸模型（CLRM）10個(gè)假設(shè)：線性回歸模型。回歸模型對(duì)參數(shù)是線性的。在重復(fù)抽樣中X是固定的，即假定X是非隨機(jī)的。干擾項(xiàng)"「的均值為零，即"「的條件均值為零，E（u/X）=0圍繞均值分布，正負(fù)相抵，u對(duì)Y沒(méi)有影響。同方差性或u^的方差相等。Var(u/X)=E[u-E(u)/X]2=E(u2/X)=b2HomoscedasticityandHeteroscedasticity(圖形)方差隨收入增加而增加，富裕家庭的方差大，可靠性則越來(lái)越小。各個(gè)干擾項(xiàng)之間無(wú)自相關(guān)。cov(u,u/X,X)=E[u-E(u)/X][u-E(u)/X]ijijiiijjj=E(u./X)E(u/X)=0無(wú)序列相關(guān)，正相關(guān)，負(fù)相關(guān)。(圖形)Ui和％的協(xié)方差為零。Cov(u,X)=0-干擾u和變量X是不相關(guān)的’-因?yàn)槿绻鹵和X相關(guān)，就不可能評(píng)價(jià)它們各自對(duì)Y的影響。觀測(cè)次數(shù)n必須大于待估計(jì)的參數(shù)個(gè)數(shù)。換言之，觀測(cè)次數(shù)必須大于解釋變量的個(gè)數(shù)。X值要有變異性變量一定要變！正確的設(shè)定了回歸模型-模型應(yīng)該包括哪些變量-模型的函數(shù)形式為何？(PhillipsCurvemodel)沒(méi)有完全的多重共線性。以上假定都是關(guān)于PRF的而不是關(guān)于SRF的但OLS估計(jì)量的一些性質(zhì)和關(guān)于誑尸的假定相類似?；?0和E(u/X)=0，Z分X=0和s(u，X)=0，但SRF不復(fù)制對(duì)iiiiiiCLRM的全部假定，女如所(u,u)。s(u,u)ijij?這些假定有多真實(shí)？-假定是為了便于我們逐步開(kāi)展我們的主體研究-便于在以后的篇章里深入的分析復(fù)雜的情況。

最小二乘估計(jì)量的特性：高斯-馬爾可夫定理OLS估計(jì)量七，是32的最優(yōu)線性無(wú)偏估計(jì)量（BestLinearUnbiasEstimator-BLUE）?線性的，無(wú)偏的，有效的（公式，圖）i=j最小二乘估計(jì)量的精度或標(biāo)準(zhǔn)誤差i=j最小二乘估計(jì)量的精度或標(biāo)準(zhǔn)誤差bs(p)bs(p)=1var(P)=2/o"xvar(p)=ib2為Uj的方差，由以下公式計(jì)算:￡U2n-2其中b2是真正的但未知的b2的OLS估計(jì)量°n—2為自由度?！陁2則表示殘差平方和（RSS）Ob2兼代表Uj和Yj的(條件)方差。6的方差與b2成正比，而與zA成反比TOC\o"1-5"\h\z2iE的方差與b2和zX2成正比，而與zA和樣本大小n1ii成反比。e和6之間可能相互依存12cov(&,&)=-Xvar(&)=-X()122Z%2i&和&之間的協(xié)方差與x的符號(hào)有關(guān)，如果x是正的，那么協(xié)方差是負(fù)的，這時(shí)若&被過(guò)高估計(jì)，&將會(huì)被過(guò)低估12計(jì)。U的正態(tài)性假定i?以前假定Uj的期望值為零，之間不相關(guān)，方差不變。OLS估計(jì)量BLUE。?如果進(jìn)行假設(shè)檢驗(yàn)，必須知道Uj的分布，從而得知8的分布。?除了以前的假定，u~NID(0,。2)NID-normallyandindependentlydistributed為什么設(shè)為正態(tài)分布？-中心極限定理為Uj的正態(tài)性假定提供了理論依據(jù)-即使變量個(gè)數(shù)并不是很多或這些變量不是嚴(yán)格的獨(dú)立分布，它們的總和仍可視為正態(tài)分布。-Uj為正態(tài)，E和『也都應(yīng)該是正態(tài)的。-正態(tài)分布比較簡(jiǎn)單正態(tài)假定下OLS估計(jì)量的性質(zhì)BLUE一致性(consistency)?修是正態(tài)分布的1E(B)=P11var(&)=b2=__」。21P1n>尤2iP?N(P,b2)11"所以fZ=—k服從標(biāo)準(zhǔn)正態(tài)分布p1?P是正態(tài)分布的2