第章 雙變量回歸：一些基本概念

第2章雙變量回歸分析：一些基本概念

回歸分析是要根據(jù)解釋變量的已知或給定值，去估計(jì)或預(yù)測(cè)因變量的總體均值 假如我們要研究每周家庭消費(fèi)支出Y與每周可支配的家庭收入X之間的關(guān)系

假設(shè)這個(gè)國(guó)家的家體的總體由60戶家庭組成?？梢园词杖氲母叩桶堰@60戶家庭分組，每一組的組內(nèi)收入相差不大。假定我們得到的觀察值如表2.1所示一個(gè)例子表2.1X：每周家庭收入（$）80100120140160180200220240260每周家庭消費(fèi)支出556579801021101201351371506070849310711513613714515265749095110120140140155175708094103116130144152165178758598108118135145157175180—88—113125140—160189185———115———162—191共計(jì)3254644570767875068510439661211yx 表2.1的含義：它給出了以X的給定值為條件的Y值的條件分布（conditionaldistribution）

因?yàn)楸?.1代表一個(gè)總體，我們可以從表中計(jì)算出給定X的Y的概率，這在統(tǒng)計(jì)上叫做什么？比如：

對(duì)Y的每一個(gè)條件概率分布，我們所計(jì)算出它的均值（mean或averagevalue），稱為條件均值（conditionalmean）或條件期望（conditionalexpectation），記做：

比如，給定X＝80可以由表2.1繪制如右圖的散點(diǎn)圖返回 散點(diǎn)圖表明對(duì)應(yīng)于各個(gè)X值的Y的條件分布，它表明隨著收入的增加，消費(fèi)支出平均地說(shuō)也在增加。 Y的條件均值隨X增加而增加。圖中的粗圓點(diǎn)（大的黑點(diǎn)）表示Y的各個(gè)條件均值 Y的條件均值落在一條正斜率的直線上，這條線叫總體回歸線（populationregressionlineorcurve），它代表Y對(duì)X的回歸

從幾何意義上講，總體回歸曲線就是，當(dāng)解釋變量取給定值時(shí)，因變量的條件均值或條件期望的軌跡

圖2.1可以畫成圖2.2的形式 可見(jiàn)，對(duì)應(yīng)于每一個(gè)Xi都有一個(gè)Y值的總體和一個(gè)相應(yīng)的條件均值。而回歸直線（曲線）正好穿過(guò)這些條件均值總體回歸函數(shù)（PRF，populationregressionfunction）由圖2.1和圖2.2可見(jiàn)，每一個(gè)條件均值都是的一個(gè)函數(shù)，即：（）這個(gè)方程就叫做（雙變量的）總體回歸函數(shù)（PRF）或簡(jiǎn)稱總體回歸（populationregression,PR），它表明Y的均值或平均響應(yīng)（averageresponse）是如何隨X而不同

的具體函數(shù)形式如何確定是一個(gè)經(jīng)驗(yàn)問(wèn)題，已知的經(jīng)濟(jì)理論可以給我們一些指導(dǎo)。假如，是的線性函數(shù)：（）和為回歸系數(shù)（regressioncoefficients），（）稱為線性總體回歸函數(shù)，或簡(jiǎn)稱線性總體回歸。 在我們的課程中，回歸，回歸方程和回歸模型將不加以區(qū)分，作為同義詞使用

“線性”一詞的含義 （）式被稱為“線性”總體回歸，其中的“線性”的含義是什么？ 它可以作兩種解釋： （1）對(duì)變量為線性 即：Y的條件期望值是

的線性函數(shù)，從幾何意義上看，這樣的回歸曲線是一條直線。 諸如：這樣的回歸函數(shù)，就不是線性的。（2棕）對(duì)吧參數(shù)探為線吊性即Y的條職件期郊望朽是干參數(shù)崗的很一個(gè)懷線性對(duì)函數(shù)虜；它竟既可陶以是牌也可炎以不宿是變士量X的線業(yè)性函選數(shù)這樣揉以來(lái)若，就是理一個(gè)帽線性倉(cāng)回歸里模型壩，而則不膝是線旱性的逮。在今褲后的呆課程條中，支我們蹲講的傭“線聯(lián)性”拋指的妥是對(duì)項(xiàng)參數(shù)到為線體性的揀情況活，對(duì)棵解釋師變量則可無(wú)以是拜也可籮以不臣是線竟性的憐。如：是一愁個(gè)LR散M（li敵ne厚ar違r水eg例re敞ss羨io糟n營(yíng)mo虹de殃l）PR盾F的隨揭機(jī)設(shè)封定我們礎(chǔ)現(xiàn)在赤再回匆到表2.闖1和圖2.呼1，可沈見(jiàn)，喬隨著料家庭約收入珠↑，迫家庭謝消費(fèi)鬼支出嶼平均貓地看陳也會(huì)輝↑；綁但是鄙對(duì)具程體的臘某一桐個(gè)家服庭的販消費(fèi)盛支出任卻不氣一定澆隨收鍛水平塵↑而載↑給定葵收入飲水平的個(gè)遍別家勞庭的億消費(fèi)副支出哥，聚凝集在鋸收入突為的所恰有家導(dǎo)庭的麥平均輸消費(fèi)巡壽支出貝的周痰圍，增也就顛是圍徹繞著乳它的吳條件賺均值個(gè)別棍的Yi圍繞狐它的悶期望序值的算離差縮慧（de墓vi叼at尿io奏n）可以踩表示闖如下潔：或植（）離差ui是一氣個(gè)不溉可觀浩測(cè)的斜隨機(jī)怨變量斯，稱慈之為泥隨機(jī)康干擾寧（st螺oc蓋ha決st自ic喪d儉is凡tu寺rb店an復(fù)ce）或隨河機(jī)誤建差項(xiàng)乞（st尸oc班ha句st的ic喚e槽rr割or）從計(jì)羨量經(jīng)削濟(jì)學(xué)惕上看屋，對(duì)床于給夜定的X水平盯，個(gè)拼別家膏庭的巾支出哪可以嚼分解霧為兩粒個(gè)部慕分：①表巖示收挪入相稅同的影所有置家庭頃的平湖均消杠費(fèi)支妨出，筍稱為狂系統(tǒng)墻性（而sy垂st綱em槐at苦ic久）或圈確定沃性（飲de尚te苦rm恥in補(bǔ)is庭ti茄c）項(xiàng)成分江（c授om事po堵ne尤nt君）。②ui為隨藍(lán)機(jī)的棚或非基系統(tǒng)嗽性成易分（no峰ns觀ys除te悠ma修ti畏c盼co及mp杠on麥en烏t）。劈燕它是天代表印所有霉可能耗影響Y的，晨但又陣沒(méi)有物包括莖到回夜歸模恰型中預(yù)的替益代（su刊rr牧og部at換e）或然代理揉（pr皇ox汽y）變奧量假定區(qū)對(duì)絲式是線悉性的柜，（側(cè)）式菜便可研以寫硬為：（）它表奮示消范費(fèi)支仰出Y茫線性蕉地依擱賴于咐相應(yīng)祖的收拍入敢和隨箱機(jī)擾牧動(dòng)項(xiàng)由（摸）式挪：袋兩邊獄取期幻玉望值根得：而竹也爭(zhēng)就是放，所受以有倉(cāng)：（）這就咽是說(shuō)泰，給攤定Xi，ui的條放件均國(guó)值等迎于零曉。隨機(jī)敬干擾校項(xiàng)的謎意義干擾漁項(xiàng)是況模型錦中省革略掉翠的，秋又集死體地旨影響Y的全腎部因勞素（糟變量姜）的皂替代趣物（su柄rr漸og掛at氏e）那么餡，為緩什么合不構(gòu)蓬造一添個(gè)含船有盡漆可能佩多的好解釋常變量豪的復(fù)案回歸砍模型杠呢？走原因賀如下啞：理論蠻的含皆糊性玻：現(xiàn)有悔的理邁論往躺往是皮不完茫全的榴。物向理學(xué)峽上有叮個(gè)“叨測(cè)不糊準(zhǔn)定雀理”管：我郊們永抓遠(yuǎn)不拿可能娘接近枯真實(shí)麥的世衰界，覆因?yàn)槔ξ覀冺?xiàng)的觀孔測(cè)總哥是要融借助膊于工鑼具和零環(huán)境數(shù)據(jù)朱的欠贏缺：比如便，在和分析奸影響番家庭牽消費(fèi)終支出錄的例撇子中單，應(yīng)楊該加傲進(jìn)“炒財(cái)富銳”變擁量，色然而第，人助們總丘是怕廊“露委富”防，有胞些人細(xì)“班裝富給”，暢所以勉，一考般很霉難得觀到有攔關(guān)家版庭財(cái)邊富的逼確切夏數(shù)據(jù)核心隱變量門與周富邊變震量（Co遵re修v少ar急ia拆bl精es抱v畝s.芝p脖er載ip它he鋼ra煩l截va扁ri盾ab冊(cè)le田s）：在消加費(fèi)——收入庫(kù)的例肺子中看，除每了X1（家庭烏收入斧）外勵(lì)，家切庭的連兒童晉數(shù)X2，性別X3，宗教X4，教育X5和地倍區(qū)X6也影盤響支萍出。元但這鑰些變勢(shì)量的御影響冠可能揚(yáng)很小最，以晃至于逢可以刷忽略肚不計(jì)鳳，因剛此稱波它們團(tuán)為周屑邊變駝量（pe壓ri啦ph隆er綿al檢v儲(chǔ)ar吉ia芬bl浪es）還有晉一個(gè)杰原因?qū)遥盒孕鄤e、蔬教育礦、宗逗教等葵變量著難以羞數(shù)量錄化（di嚼ff護(hù)ic芽ul岡t忘to刑q帳ua擋nt洪if霧y）人類夏行為繪的內(nèi)彎在隨造機(jī)性：社踐會(huì)科嘆學(xué)研拼究的責(zé)是人待類的疾行為趟。人猶為什森么如柱此行涌動(dòng)，刃有時(shí)穗連他悠自己躍都說(shuō)道不清廚楚糟糕匯的替搞代變逐量（po恨or儲(chǔ)p近ro桃xy美v家ar國(guó)ia齒bl源es）：舉個(gè)塊例子Mi妥lt垮on飼F鎖ri趙ed防m(xù)a亭n（弗里挽德曼桶）的砍消費(fèi)孝函數(shù)炸理論含把永認(rèn)久消酒費(fèi)（YP）（pe痕rm尿an臣en倦t疑co胸ns廊um向pt坊io移n）看作享是永落久收戶入（XP）（pe閣rm床an形en考t悔in子co墳me）的函淋數(shù)“永纖久消拾費(fèi)”膏和“件永久耍收入丘”是夾兩個(gè)法抽象凡的概倘念，傘不可攏以觀理測(cè)，烏實(shí)際橋上，脂只能沈用可贏以觀黨測(cè)到梁的當(dāng)啞前消所費(fèi)Y（cu映rr抗en久t氧co籌ns犁um牙pt乏io費(fèi)n）和當(dāng)油前收袋入X（cu息rr廟en坊t檔in茄co活me），或者n個(gè)時(shí)披期的渴平均另值去桂替代忙。這達(dá)便有州個(gè)測(cè)母量誤警差。劑∴干邊擾項(xiàng)ui也用省來(lái)代蕩表測(cè)梳量誤久差節(jié)省種原則?。鹤龌刂x歸模慢型，針在許擠可的無(wú)范圍拖內(nèi)盡妥量節(jié)股省——減少滴變量虎的個(gè)誰(shuí)數(shù)?？捱@也叨有個(gè)蠶“投貪入產(chǎn)嫁出”劃的問(wèn)首題。首當(dāng)然芽，不淹能為舞了簡(jiǎn)倘單而尋省去店有關(guān)摧的和跡重要筍的變初量錯(cuò)誤早的函英數(shù)形壩式：比如犧：到底勞是哪獸一種迅，可葛能我茄們并班不是沉十分惑清楚清，借龍助于券經(jīng)濟(jì)予理論你，散栗點(diǎn)圖苦會(huì)有據(jù)助于夕我們撕的分惜析樣本倉(cāng)回歸擱函數(shù)廊（SR填F，Th臂e改Sa私mp嶺le辜R壟eg番re悄ss間io銜n翼Fu牢nc榴ti譜on）表2.挎1是一穗個(gè)總居體，屆這是恰一個(gè)假定的總燥體，哭在現(xiàn)躬實(shí)的登經(jīng)濟(jì)臂生活梁中總首體的督所有啦觀測(cè)潮值往目往是延不能主夠全昨部獲澆得的屑。在大莊多數(shù)換情況毅下，霧我們照只有悠對(duì)應(yīng)奴于某忠些固狂定的X的Y值的卻一個(gè)仇樣本駝。比賽如，桿對(duì)于依表2.鋪1的總掌體我澇們只拿知道戴如下茂的抽浸取的掘樣本:YX7080651009012095140110160115180120200140220155240150260表2女.4竹表2能.1吵總體注的一揚(yáng)個(gè)隨吸機(jī)樣恥本各次過(guò)抽樣坡之間暴總存摘在波棗動(dòng)（窮誤差稻），旬表2.犧5是另鞠一個(gè)刪隨機(jī)場(chǎng)樣本表2.勾5表2.鐵1總體拾的另追一個(gè)嫂隨機(jī)趣樣本那么肌，我成們能備否從局上表雞的樣騎本數(shù)需據(jù)預(yù)她測(cè)整異個(gè)總缸體中咽對(duì)應(yīng)垂于選者定X的平支均的脾消費(fèi)死支出Y呢？餡或者視說(shuō)，撫能否熟估計(jì)瓶出PR隨F？YX5580881009012080140118160120180145200135220145240175260根據(jù)針表2旺.4廁和表圖2.艙5可妥以得邀到如友下的梢散點(diǎn)寄圖。SR筍F1是根影據(jù)第恭一個(gè)聚樣本速畫的跪；而SR稍F2是根還據(jù)第二個(gè)樣雨本畫狹的。忘圖中的回飼歸線俘叫樣薪本回督歸線況（sa污mp蠢le榨r查eg班re途ss煤io加n屯li廊ne紋s）對(duì)應(yīng)俱于樣塘本回差歸線順的方復(fù)程叫肥樣本慢回歸成函數(shù)熟（s敗am客pl唇e刊re貓gr樓es雹si惱on鈔f雖un潔ct覆io碧n，屆簡(jiǎn)記鬼S否RF斃）：（）表示希的估胖計(jì)量檔(全在惕SR瘡F上)表示仙的汁估計(jì)礦量表示冠的估術(shù)計(jì)量估計(jì)耽量（熊es買ti席ma啦to摸r）腥，也板稱樣門本的頓統(tǒng)計(jì)引量（紫st芬at垮is快ti醉c）爆是總養(yǎng)體參錫數(shù)的宮一