完整的計(jì)量經(jīng)濟(jì)學(xué)課件 計(jì)量經(jīng)濟(jì)學(xué)課件第五章線性回歸的【稻香書(shū)屋】

1、第五章 線性回歸的定式偏差,1,高等課堂,線性回歸的定式偏差,本章討論變量關(guān)系非線性、存在異常值、規(guī)律性擾動(dòng)和解釋變量缺落等導(dǎo)致的線性回歸模型前兩條假設(shè)不成立的定式偏差，包括它們對(duì)線性回歸分析的影響、判斷和處理的方法等,2,高等課堂,線性回歸的定式偏差,第一節(jié) 變量關(guān)系非線性 第二節(jié) 異常值 第三節(jié) 規(guī)律性擾動(dòng) 第四節(jié) 解釋變量缺落 第五節(jié) 參數(shù)變化,3,高等課堂,第一節(jié) 變量關(guān)系非線性,一）問(wèn)題 （二）發(fā)現(xiàn)和判斷 （三）問(wèn)題的處理和非線性回歸 1.泰勒級(jí)數(shù)展開(kāi)法 2.非線性最小二乘法,4,高等課堂,一）問(wèn)題,例：變量之間的真實(shí)關(guān)系 其中 滿足 和線性回歸模型的其他假設(shè)。 使用的模型 因?yàn)?所

2、以 不可能 始終為0,5,高等課堂,例：變量之間的真實(shí)關(guān)系 其中 滿足 和線性回歸模型的其他假設(shè)。 使用的模型 變換 后模型為 因?yàn)?不可能始終為0。 回歸分析的有效性失去了保障,6,高等課堂,二）發(fā)現(xiàn)和判斷,用數(shù)理經(jīng)濟(jì)分析方法，對(duì)模型的關(guān)系進(jìn)行更深入的分析。 根據(jù)數(shù)據(jù)及其分布圖形、散點(diǎn)圖進(jìn)行直接判斷。 非線性變量關(guān)系的殘差序列圖,7,高等課堂,三）問(wèn)題的處理和非線性回歸,1、模型修正和變換 恢復(fù)模型的合理非線性形式 然后再變換成線性模型,8,高等課堂,泰勒級(jí)數(shù)展開(kāi)法,2、泰勒級(jí)數(shù)展開(kāi)法 假設(shè)一個(gè)非線性的變量關(guān)系為： 在 處對(duì) 作泰勒級(jí)數(shù)展開(kāi),9,高等課堂,整理可得： 若令： 可以得到： 泰勒

3、級(jí)數(shù)展開(kāi)的反復(fù)迭代,10,高等課堂,3、非線性最小二乘法 （非線性最優(yōu)化等） 直接用Eviews軟件進(jìn)行估計(jì),11,高等課堂,例51,某地總消費(fèi)和收入兩個(gè)變量的數(shù)據(jù)如下表所示。Y為總收入，C是消費(fèi),12,高等課堂,散點(diǎn)圖,C在Eviews中專門(mén)用于表示常數(shù)項(xiàng)，因此用CC表示消費(fèi),13,高等課堂,線性回歸結(jié)果,14,高等課堂,殘差序列圖,15,高等課堂,非線性回歸結(jié)果,16,高等課堂,第二節(jié) 異常值,問(wèn)題 異常值的發(fā)現(xiàn)和判斷 問(wèn)題的處理,17,高等課堂,一） 問(wèn)題,現(xiàn)實(shí)經(jīng)濟(jì)中常常存在這樣的情況，一些突發(fā)事件或變化對(duì)經(jīng)濟(jì)活動(dòng)或經(jīng)濟(jì)關(guān)系造成短暫的但確實(shí)很顯著的沖擊影響。 這些影響既不能被看作微小的隨

4、機(jī)擾動(dòng)，但又不會(huì)決定或改變長(zhǎng)期的經(jīng)濟(jì)關(guān)系。這種情況在經(jīng)濟(jì)數(shù)據(jù)中反映出來(lái)，就會(huì)表現(xiàn)為一個(gè)脫離基本趨勢(shì)的異常值。 如果所研究的經(jīng)濟(jì)問(wèn)題或者相關(guān)數(shù)據(jù)中存在這種情況，建立線性回歸模型時(shí)又沒(méi)有預(yù)先處理或剔除這種影響，就會(huì)表現(xiàn)為模型誤差項(xiàng)在相應(yīng)時(shí)點(diǎn)存在均值非0的問(wèn)題,18,高等課堂,一） 問(wèn)題的特征,例如變量 和 在長(zhǎng)期的關(guān)系中，基本上都滿足線性回歸模型的各個(gè)假設(shè)，但在時(shí)刻 有了一個(gè)突發(fā)情況，如果仍然用線性回歸模型 這個(gè)模型的誤差項(xiàng) 的均值，實(shí)際上就是,19,高等課堂,一） 問(wèn)題的特征,這種情況如果不作處理，那么線性回歸結(jié)果就會(huì)差強(qiáng)人意。 因?yàn)榇藭r(shí)適用普通最小二乘法的前提條件即模型的第二條假設(shè)不成立，參數(shù)

5、估計(jì)量的性質(zhì)和相關(guān)統(tǒng)計(jì)推斷都會(huì)失效,20,高等課堂,二）發(fā)現(xiàn)和判斷,克服異常值對(duì)線性回歸分析影響的前提，是發(fā)現(xiàn)和判斷異常值是否存在和在哪些時(shí)點(diǎn)存在。 方法一是分析經(jīng)濟(jì)問(wèn)題的相關(guān)背景情況，包括對(duì)經(jīng)濟(jì)現(xiàn)象、相關(guān)社會(huì)經(jīng)濟(jì)事件、以及數(shù)據(jù)序列的直接分析。 方法二是進(jìn)行殘差序列分析。這是從技術(shù)角度發(fā)現(xiàn)和判斷異常值問(wèn)題的基本方法。因?yàn)楫惓Ｖ抵皇莻€(gè)別情況，因此即使模型存在異常值問(wèn)題，最小二乘估計(jì)仍是一致估計(jì)量，回歸殘差仍然能很好的近似得出模型的誤差項(xiàng)，回歸殘差中會(huì)包含由于異常值所導(dǎo)致模型誤差項(xiàng)均值非0的信息,21,高等課堂,二）發(fā)現(xiàn)和判斷,基本方法：回歸殘差序列分析 具體方法：模型假定成立的前提下，殘差服從正

6、態(tài)分布 根據(jù)殘差序列計(jì)算殘差的標(biāo)準(zhǔn)差 用 去除各個(gè)殘差，如果發(fā)現(xiàn)某個(gè)殘差 存在 的情況時(shí)，應(yīng)該高度懷疑模型在時(shí)點(diǎn) 存在異常值問(wèn)題,22,高等課堂,二）發(fā)現(xiàn)和判斷,異常值的檢驗(yàn) 注意有經(jīng)濟(jì)意義的根據(jù),23,高等課堂,三）問(wèn)題的處理,問(wèn)題 方法：引入一個(gè)針對(duì)性的虛擬變量，定義式為 得到一個(gè)新的回歸模型,24,高等課堂,三）問(wèn)題的處理,由于兩個(gè)模型的誤差項(xiàng)之間有關(guān)系 因此,25,高等課堂,例：P66,26,高等課堂,27,高等課堂,28,高等課堂,引入虛擬變量后的回歸結(jié)果,29,高等課堂,引入虛擬變量后的回歸殘差圖,30,高等課堂,第三節(jié) 規(guī)律性擾動(dòng),問(wèn)題 問(wèn)題的發(fā)現(xiàn)與判斷 問(wèn)題的處理,31,高等課

7、堂,一、問(wèn)題,除了異常值問(wèn)題以外，周期性或其它規(guī)律性擾動(dòng)，也會(huì)使線性回歸模型的誤差項(xiàng)偏離零均值的假設(shè)。 此外，在橫截面數(shù)據(jù)計(jì)量經(jīng)濟(jì)分析中，觀測(cè)對(duì)象的性別、年齡、受教育程度等特征差異，也是規(guī)律性擾動(dòng)因素。 這些問(wèn)題不影響變量關(guān)系的總體趨勢(shì)，但都會(huì)對(duì)變量關(guān)系產(chǎn)生規(guī)律性影響，如果不預(yù)先加以處理或排除掉，就會(huì)導(dǎo)致誤差項(xiàng)均值非零的問(wèn)題出現(xiàn)，影響回歸分析的效果,32,高等課堂,一、問(wèn)題,例如，變量Y的季度數(shù)據(jù)中，第一季度總會(huì)受到一個(gè)季節(jié)性因素的影響。 如果我們忽視這種影響，用兩變量模型,或多元模型,研究Y的規(guī)律，就會(huì)遇到誤差項(xiàng)非0問(wèn)題，即,33,高等課堂,二、問(wèn)題的發(fā)現(xiàn)和判斷,經(jīng)濟(jì)問(wèn)題背景分析 回歸殘差序

8、列圖分析 兩種分析相結(jié)合，確定其是否屬于規(guī)律性擾動(dòng),34,高等課堂,三、問(wèn)題的處理,解決規(guī)律性擾動(dòng)問(wèn)題的方法之一就是對(duì)數(shù)據(jù)進(jìn)行統(tǒng)計(jì)平滑處理，消除季節(jié)性或其他周期性擾動(dòng)的影響。但這樣容易產(chǎn)生兩個(gè)問(wèn)題：一是不能區(qū)別趨勢(shì)因素和季節(jié)性擾動(dòng)，不能真正確定所研究變量關(guān)系的具體變化軌跡，二是容易導(dǎo)致誤差序列自相關(guān)問(wèn)題。因此，它不是克服規(guī)律性擾動(dòng)對(duì)線性回歸分析影響的好方法 處理規(guī)律性擾動(dòng)的較好方法是引進(jìn)虛擬變量，有時(shí)需要引進(jìn)多個(gè)虛擬變量,35,高等課堂,例如（1,在上個(gè)例子中，第一季度存在季節(jié)性因素的影響，在這個(gè)例子中，可使用虛擬變量,把模型改為,或,那么新模型的誤差項(xiàng)就不再存在均值非0的問(wèn)題，回歸分析的效果

9、就能得到保證,36,高等課堂,例如（2,如果第一季度受到一種季節(jié)性因素影響，第三季度受到另一種方向和力度不同的因素的擾動(dòng)，那么可以引進(jìn)兩個(gè)虛擬變量，即,和,將兩個(gè)虛擬變量引入模型，模型變?yōu)?或,37,高等課堂,對(duì)于截面數(shù)據(jù)計(jì)量分析的例子,對(duì)于截面數(shù)據(jù)計(jì)量分析中，觀測(cè)對(duì)象特征差異導(dǎo)致的規(guī)律性擾動(dòng)，也可以利用虛擬變量加以處理。 如觀測(cè)對(duì)象的性別是一個(gè)影響因素，解決的辦法就是在模型中引進(jìn)虛擬變量，即,這個(gè)虛擬變量就能解決由于觀測(cè)對(duì)象的性別因素所導(dǎo)致的誤差項(xiàng)均值非0問(wèn)題,38,高等課堂,注 意,利用虛擬變量解決擾動(dòng)問(wèn)題時(shí)，引進(jìn)虛擬變量是有限度的，因?yàn)橐M(jìn)一個(gè)虛擬變量就意味著要多估計(jì)一個(gè)參數(shù)和損失一個(gè)自

10、由度，對(duì)回歸分析的效果有不利影響。 引進(jìn)虛擬變量要注意“虛擬變量陷阱”。即屬性和類別的個(gè)數(shù)與虛擬變量個(gè)數(shù)一致，模型無(wú)截距。如上述季節(jié)性擾動(dòng)模型同時(shí)引進(jìn)對(duì)應(yīng)全部4個(gè)季節(jié)的，按照類似規(guī)則定義的四個(gè)虛擬變量 那么因?yàn)檫@4個(gè)虛擬變量相加等于1，則當(dāng)這四個(gè)變量同時(shí)出現(xiàn)在一個(gè)模型中，必然導(dǎo)致解釋變量嚴(yán)格線性相關(guān)，導(dǎo)致模型的崩潰。同樣，在考慮性別因素時(shí)，若同時(shí)引進(jìn)男性和女性兩個(gè)虛擬變量也會(huì)落入虛擬變量陷阱，所以，引進(jìn)虛擬變量時(shí)，應(yīng)該謹(jǐn)慎,39,高等課堂,例題 （考慮性別的一個(gè)回歸模型,40,高等課堂,看年薪和教齡之間的散點(diǎn)圖,41,高等課堂,不加虛擬變量的回歸結(jié)果,42,高等課堂,加上虛擬變量后的回歸結(jié)果,

11、43,高等課堂,第四節(jié) 解釋變量缺落,問(wèn)題 發(fā)現(xiàn)與判斷 問(wèn)題的處理,44,高等課堂,問(wèn)題,解釋變量缺落，也是引起誤差項(xiàng)均值非0問(wèn)題的常見(jiàn)原因。 所謂解釋變量缺落，就是線性回歸模型設(shè)定的變量關(guān)系中，忽略了某些重要的、對(duì)被解釋變量有趨勢(shì)性影響的因素。 被忽略的因素對(duì)被解釋變量的影響，會(huì)從誤差項(xiàng)中表現(xiàn)出來(lái)，導(dǎo)致誤差不再是純粹的隨機(jī)擾動(dòng),45,高等課堂,例如,若真實(shí)的變量關(guān)系為,若采用變量關(guān)系,46,高等課堂,發(fā)現(xiàn)和判斷：經(jīng)濟(jì)背景分析和殘差序列分析,e,47,高等課堂,問(wèn)題的處理,根據(jù)找到的原因即缺落的解釋變量，針對(duì)性的加入該缺落的解釋變量，就可以解決問(wèn)題,48,高等課堂,第五節(jié) 參數(shù)變化,問(wèn)題 發(fā)現(xiàn)

12、和判斷 問(wèn)題的解決,49,高等課堂,問(wèn)題,參數(shù)改變是指在考察期間（樣本數(shù)據(jù)范圍），變量關(guān)系中的參數(shù)發(fā)生變化，這種問(wèn)題也可以被理解為模型的穩(wěn)定性問(wèn)題。 這時(shí)實(shí)際上不能用同一個(gè)線性回歸模型研究變量在整個(gè)考察期間的關(guān)系。 如果忽視這種模型參數(shù)變化，也會(huì)導(dǎo)致誤差項(xiàng)均值非0問(wèn)題,50,高等課堂,問(wèn)題,以兩變量線性關(guān)系在考察期【0，T】中的t時(shí)刻參數(shù)發(fā)生變化為例。這種情況下，真實(shí)的變量關(guān)系可以用【0，t】和【t，T】?jī)蓚€(gè)時(shí)期中的兩個(gè)模型分別表示，即,其中， 和 都滿足均值為0和線性回歸模型的其它假設(shè)，且,如果忽略模型參數(shù)的變化，用同一變量關(guān)系,代表Y和X在整個(gè)【0，T】時(shí)期的關(guān)系，那么在兩個(gè)時(shí)期中的誤差項(xiàng)

13、就分別為,51,高等課堂,和,因此，兩個(gè)時(shí)期誤差項(xiàng)的均值分別為,和,很顯然，除非 和 同時(shí)成立，否則 的均值不可能在兩個(gè)時(shí)期都始終為0。 因此在參數(shù)發(fā)生改變時(shí)，必然導(dǎo)致誤差項(xiàng)均值非0的問(wèn) 題,52,高等課堂,二、發(fā)現(xiàn)和判斷,發(fā)現(xiàn)和判斷模型參數(shù)改變的基本方法，也是經(jīng)濟(jì)問(wèn)題背景分析和殘差序列分析相結(jié)合。 如果以i為橫軸，殘差e為縱軸的殘差序列分布，存在某個(gè)時(shí)期附近轉(zhuǎn)折的情況，就應(yīng)該考慮變量關(guān)系在該時(shí)刻可能存在參數(shù)改變,53,高等課堂,鄒檢驗(yàn),以懷疑發(fā)生結(jié)構(gòu)參數(shù)變化的時(shí)點(diǎn)為界，把觀測(cè)樣本分為兩組（每組樣本容量必須大于模型的解釋變量數(shù)）， 分別為兩個(gè)子樣本的樣本容量。 對(duì)兩個(gè)子樣本和全樣本分別進(jìn)行回歸，將兩組子樣本回歸的殘差平方和加總得到 ，稱為無(wú)約束的殘差平方和，它的自由度為 全樣本的回歸殘差平方和為 ，自由度為 稱為有約束的殘差平方和。用“有約束的殘差平方和”減去“無(wú)約束的殘差平方和”，自由度為K+1,54,高等課堂,鄒檢驗(yàn),F（K+1，,55,高等課堂,左表給出19701991年各年的個(gè)人儲(chǔ)蓄Y和個(gè)人收入X的數(shù)據(jù) ，均以10億美元計(jì)。 用鄒檢驗(yàn)以判明從時(shí)期19701980年到時(shí)期19811991年儲(chǔ)蓄收入關(guān)系是否出現(xiàn)顯著變化,56,高等課堂,57,高等課堂,58,高等課堂,59,高等課堂,F【