分位數(shù)回歸模型在R環(huán)境下的實現(xiàn)(00002)課件

1、分位數(shù)回歸模型在R環(huán)境下的實現(xiàn)中國人民大學(xué)統(tǒng)計學(xué)院 左辰 潘嵐鋒大綱引言分位回歸模型的基本結(jié)構(gòu)回歸系數(shù)的漸進分布參數(shù)估計殘差形態(tài)的檢驗一個實例一、引言傳統(tǒng)回歸模型的缺陷：1 只反映均值變化2 Gauss-Markov假設(shè)條件太強分位回歸模型1 擬合在不同分位數(shù)水平下的估計值，可以反映更多的信息2 對殘差分布放松假設(shè)R package：quantreg by Roger Koenker二、模型的構(gòu)造其中：因變量 相互獨立自變量殘差項回歸系數(shù) 表示分位數(shù)水平 的回歸系數(shù)中位數(shù)回歸和均值回歸的差異均值回歸受到離群點影響穩(wěn)健性的試驗?zāi)康模罕容^均值回歸、中位數(shù)回歸系數(shù)的穩(wěn)定性方法：1 計算原模型的預(yù)測值

2、、殘差2 從殘差中抽樣加入到預(yù)測值中，重新作均值回歸和中位數(shù)回歸3 統(tǒng)計兩種回歸系數(shù)的分布三、回歸系數(shù)的漸進分布考慮獨立同分布的場合模型：殘差分布：雙尾指數(shù)（Laplace）隨機生成1000次，統(tǒng)計在0.1,0.2,0.9水平上的分位回歸系數(shù):rq(yx,tau=seq(0.1,0.9,length=9)此外，可以觀察回歸系數(shù)的誤差在不同分位數(shù)水平上的變化四、參數(shù)估計給出一個分位回歸模型fit=rq(yx)后，命令summary(fit,se=)可以查看參數(shù)估計的結(jié)果se選項用于選擇參數(shù)估計的不同方法，主要有1 se=ker:核函數(shù)估計法2 se=boot:Bootstrap方法3 se=ra

3、nk:秩檢驗1 核函數(shù)估計法因為殘差分布未知，無法直接求出Powell給出如下估計方法：2 秩檢驗秩檢驗是R中進行參數(shù)估計的默認方法。該方法繞開了對未知變量的非參數(shù)估計，Jurekova, Guttenbrunner（1992）通過對偶規(guī)劃問題的解，構(gòu)造出一組秩統(tǒng)計量，漸進服從T分布 summary(fit,se=nid)結(jié)果：Call: rq(formula = foodexp income)tau: 1 0.5Coefficients: Value Std. Error t value Pr(|t|)(Intercept) 81.48225 19.25066 4.23270 0.00003

4、income 0.56018 0.02828 19.81032 0.000003 Bootstrap通過放回抽樣的Monte-Carlo試驗，得到回歸系數(shù)的均值和標準差運用T統(tǒng)計量的方法，構(gòu)造置信區(qū)間 summary(fit,se=boot,bsmethod=xy)結(jié)果：Call: rq(formula = foodexp income)tau: 1 0.5Coefficients: Value Std. Error t value Pr(|t|)(Intercept) 81.48225 26.62421 3.06046 0.00247income 0.56018 0.03399 16.482

5、63 0.00000五、殘差形態(tài)的檢驗分位數(shù)回歸模型的一個重要應(yīng)用就是對兩種殘差分布的如下兩種形態(tài)作檢驗：1 位置漂移模型（location shift model）2 位置-尺度漂移模型（location-scale shift model）對分位數(shù)回歸過程（regression quantile process）作圖分位數(shù)回歸過程：對一簇分位數(shù)水平作回歸得到的一組模型例子rqpr=rq(yx,tau=1:99/100)plot(summary(rqpr)位置-尺度漂移模型由表達式可以看出，向量 的各分量隨 變化的規(guī)律是一致的模擬實例：x1-seq(1,10,length=1000)x2=r

6、norm(1000,mean=0,sd=10)x3=rexp(1000,rate=0.1)u=runif(1000,min=-2,max=2)y=x1+2*x2-x3+u*(-2*x1+x2-x3)rqpr=rq(yx1+x2+x3,tau=10:90/100)plot(summary(rqpr)回歸系數(shù)的變化情況基本一致,是位置-尺度漂移模型的典型特征檢驗方法Khmaladze檢驗Koenker&肖志杰（2002）引入Khmaladze鞅變換技術(shù)，計算統(tǒng)計量R：KhmaladzeTest(yx1+x2+x3,nullH=location/location-scale)#nullH:零假設(shè)（n

7、ull hypothesis），默認為location,表示位置漂移模型六、一個例子：barro該數(shù)據(jù)記錄了世界各國GDP的增長率和相關(guān)因子，共有161個觀測；其中前71個觀測在1965年1975年取得；后90個觀測是19851987年間取得。因子包括：:GDP年增長率lgdp2:人均GDPmse2:男性高中教育情況fse2:女性高中教育情況fhe2:女性高等教育情況mhe2:男性高等教育情況lexp2:人均期望壽命lintr2:人均資本占有g(shù)edy2:教育投入占GDP的比重Iy2:投資占GDP的比例gcony2:公共設(shè)施建設(shè)占GDP的比例lblakp2:黑市借貸傭金率pol2:政治穩(wěn)定性指數(shù)

8、ttrad2貿(mào)易增長率。 1、中位數(shù)回歸library(quantreg)data(barro)attach(barro62:161,)rqm=rq(lgdp2+mse2+fse2+fhe2+mhe2+lexp2+lintr2+gedy2+Iy2+gcony2+lblakp2+pol2+ttrad2)summary(rqm,se=nid)紅色區(qū)域：最小二乘回歸的參數(shù)圖中看出各參數(shù)顯著性3 剔除自變量的影響rrs.test(lgdp2+lexp2+lblakp2+mse2+fse2,pol2+fhe2+mhe2+lintr2+gedy2+Iy2+gcony2+ttrad2,)結(jié)果：$sn ,11

9、, 4.66242$ranks 1 0.335536739 0.326554008 0.295262752 0.303839348 0.398400879待檢驗的自變量個數(shù)為8個查表知， ，可見剔除這些自變量對模型無顯著影響 4 殘差分布形態(tài)的檢驗位置漂移模型：KhmaladzeTest(lgdp2+lexp2+lblakp2+mse2+fse2)位置-尺度漂移模型：KhmaladzeTest(lgdp2+lexp2+lblakp2+mse2+fse2,nullH=location-scale)變量位置漂移模型位置-尺度漂移lgdp21.2290.636*lexp21.7440.309*lblakp20.631*1.080mse21.0180.895*fse20.9100.763*總計3.0932.532*查表可知，在0.1的顯著性水平下，兩種模型都不能被拒絕但從統(tǒng)計量數(shù)值看，位置尺度漂移模型相對更合理八、總結(jié)線性分位數(shù)回歸模型中的