變系數(shù)模型的研究與分析

1、變系數(shù)模型的研究與分析【摘要】：非參數(shù)回歸一般假定回歸函數(shù)屬于某一個函數(shù) 類，如常常假定回歸函數(shù)是一個光滑的函數(shù)，因此非參數(shù)回歸對模型的假設(shè)很少，最主要的優(yōu)點(diǎn)就是模型具有穩(wěn)健性。 非參數(shù)回歸作為現(xiàn)代統(tǒng)計(jì)分析的主要方法之一，得到廣泛的應(yīng)用。對于非參數(shù)回歸人們 提出了許多估計(jì)方法，如核估計(jì)，局部多項(xiàng)式估計(jì)，光滑樣條估計(jì)， 級數(shù)估計(jì)(傅里葉級數(shù)估計(jì)，小波級數(shù)估計(jì))等。這些方法本質(zhì)上講都 是局部估計(jì)或局部光滑，當(dāng)回歸變量X為一維變量時，非參數(shù)回歸函數(shù)用這些方法一般都能得到很好的估計(jì)。 但當(dāng)回歸變量是多維向量時，由于X的局部鄰域包含很少的數(shù)據(jù)，用這些估計(jì)方法，很難估 計(jì)出一般的多元非參數(shù)回歸函數(shù)，人們把

2、這種現(xiàn)象稱為維數(shù)禍根 (thecurseofdimension)b可是實(shí)際中我們經(jīng)常遇到的是高維數(shù)據(jù)，因此高維數(shù)據(jù)分析是人們一直關(guān)心的問題，近年來統(tǒng)計(jì)工作者提出了許多 分析方法，總得來說可以分為兩大類：一類稱為函數(shù)近似(functionapproximation)，如可加模型(HastieandTibshirani,1986),部分 線形模型(Engle,etal;1986);另一類為降維(dimensionreduction),如 SIR 回歸(slicedinverseregression(Li,1991)，投影追蹤回歸 (projectionpursuitregression)(Frie

3、dmanandStuetzle,1981;)圖回歸 (graphicalregressio n, Cook,1994),PHD(pri ncipalHessia ndirectio n 分析 (Cook,1998),MAVE 方法(minim umaveragevaria nceestimati onm ethod(Xia,Yetal.,2002)。本論文主 要討論的是變系數(shù)模型(thevaryingcoefficientmodel),屬于函數(shù)近似這 一類。變系數(shù)模型的一般形式為 y= x _1 B _1(t_1)+ x _p 3 _p(t_p)+ (1) 其中X=( x _1,x _p)和T

4、t=(t_1,t_p)T回歸變量，y為響應(yīng)變量，為隨機(jī)誤差,E =0,E 2= (T 2. 3 _l(t_l),匸為未知的光滑函數(shù)， t_1,t_是通過未知的函數(shù)3(t_l來改變x _1,的系數(shù)，3(t_l) 暗含了 t_l與x_的一種特殊的交互關(guān)系，t_l可能互不相同，也可能 相同，也可能是某個x_l特別地，當(dāng)t_1,t_p勻相同時，不妨記為 t,則模型(1)變?yōu)閥=x _1 3 _1(t)+ x _P3 _P(本文我們都在模型(2) 下討論函數(shù)系數(shù)模型.華東師范大學(xué)博士學(xué)位論文(20韶)相對于一般 的多元非參數(shù)回歸，變系數(shù)模型對回歸函數(shù)的結(jié)構(gòu)提出了一些限制可是，盡管變系數(shù)模型看起來比較具體

5、，實(shí)際上它是一個非常一般的 模型，許多模型如可加模型，部分線形模型，線形模型等都可以看作 是變系數(shù)模型的特殊情形變系數(shù)模型既部分保留了非參數(shù)回歸穩(wěn)健 性的特點(diǎn)，又具有結(jié)構(gòu)簡單，容易解釋等優(yōu)點(diǎn)廣泛應(yīng)用到縱向數(shù)據(jù) 分析，非線性時間序列分析，生物數(shù)據(jù)分析等，近年來受到人們的普遍關(guān)注（W、，。亡 all998:Fa:, andZlal, g, 2000:Chiang,RieeandWu:2001,Cai, FanandYao;2000等.本文提出用B樣條函數(shù)和貝葉斯模型平均等 方法來估計(jì)變系數(shù)模型中的函數(shù)系數(shù)，主要內(nèi)容為：第一章緒論，主 要介紹常見的一些光滑方法，光滑參數(shù)，光滑參數(shù)的選擇，高維數(shù)據(jù)，

6、B徉條函數(shù)，變系數(shù)模型及其本文的主要內(nèi)容第二章在數(shù)據(jù)為獨(dú)立 觀察的場合下，給出了函數(shù)系數(shù)的B樣條最小二乘估計(jì)，并討論該估計(jì)的性質(zhì)假設(shè)弋二（二，從;）,觀察數(shù)據(jù)（軍，弋，t ）幾1 相互獨(dú)立，它們?yōu)閬碜杂谧兞浚ǎ琗,:）的樣本，二（亡）=（二l仕）,， 二N仕）了為。次B樣條函數(shù)的基，N二。+k+1為基的維數(shù)，k為節(jié) 點(diǎn)的個數(shù)若山,l=1 ,，p使得藝:一（x*1二丫 （ :）al+ p二 了（, ）ap）最小則模型（2）中的函數(shù)系數(shù)的B樣條最小二乘估計(jì)八（,） 二二了 （t）dz假定鳳。cm卜，句，在一定的正則條件下，若節(jié)點(diǎn)個 數(shù)k=0（。石轟了 ），函數(shù)系數(shù)的B樣條最小二乘估計(jì)能夠達(dá)到非參數(shù)

7、 估計(jì)的最優(yōu)收斂速度（定理2.1）戶（*） 一。（，）*卜0;（二一擊）進(jìn)一步 地，假定。1,，。獨(dú)立，均值為。，方差尹已知，任意的l蘭l蘭 熟國:城，且一口（。流）則對任意給定的，風(fēng)t） 一流，幾（t）具 有漸近正態(tài)性（定理2.3）:萬去（）（戶（。）一刀（）馬N（o , a,）華東 師范大學(xué)博士學(xué)位論文歸口 Os）第三章討論了在縱向數(shù)據(jù)（lollsitlldillaldata）場合下，函數(shù)系數(shù)的B樣條M估計(jì).在重復(fù)觀察試驗(yàn) 中，假設(shè)叭t）和x（t）是在時刻t的響應(yīng)變量和回歸變量，叭t）和X（t） 之間有一種線性關(guān)系即:粉（t）=X 了（t） 口 （t）+:（t）其中。（幼是一個均值 為。的

8、隨機(jī)過程，現(xiàn)有。個個體，對第個個體有個體的第j次觀察記為（物，弋,t*，州弋,=X:（t 勺）=（Xij;,，X。，）了 Rp ,萬:, 口 （t）=（ 口 1（亡），二。：次重復(fù)觀測，丙川）了是函數(shù)系數(shù)向量.（,（亡）, X（t）,亡）關(guān)于第乞個二1,，.:7、*，藝兒1。*二。，其中二夢（t:,）重 復(fù)測量數(shù)據(jù)（物，弋，,ti;）可以看作是模型（3）的凸損失函數(shù)，7r（）為B 祥條函數(shù)的基，若d .藝兄。（。，一 X ;1 了 （ 。）“一的一個 隨機(jī)抽樣設(shè)風(fēng)）為一般1,，p使得式子丸p 7r 了 （t* , ）外）z=IJ二1 最小，？【關(guān)鍵詞】：變系數(shù)模型廣義變系數(shù)模型 B樣條最小二乘

9、法M 估計(jì)收斂速度漸近正態(tài)性貝葉斯模型平均可逆的跳MCMC方法（reversiablejumpMCMC）Laplace sn重要抽樣部分線性模型光滑 樣條EV回歸Gibbs抽樣【學(xué)位授予單位】：華東師范大學(xué)【學(xué)位級別】：博士【學(xué)位授予年份】：2003【分類號】：0211.67【目錄】：摘要7-20第一章序言20-361.1光滑方法21-241.2光滑參 數(shù)及其選擇24-271.3高維數(shù)據(jù)271.4變系數(shù)模型27-301.5B樣條函數(shù)30-331.6函數(shù)系數(shù)的B樣條估計(jì)-本文方法33-36第二章獨(dú)立場合下， 變系數(shù)模型B樣條估計(jì)的漸近性36-512.1變系數(shù)模型的B樣條估計(jì) 36-372.2函數(shù)

10、系數(shù)B樣條估計(jì)的性質(zhì)37-392.3定理的證明39-472.4 模擬研究47-51第三章重復(fù)觀察場合下，變系數(shù)模型B樣條M估計(jì)的收斂性51-643.1系數(shù)函數(shù)的估計(jì)52-533.2條件與結(jié)論53-543.3證 明54-613.4模擬研究61-64第四章變系數(shù)模型的Bayes樣條估計(jì) 64-774.1函數(shù)系數(shù)為B樣條函數(shù)的變系數(shù)模型65-664.2函數(shù)系數(shù)的 Bayes估計(jì)66-684.3后驗(yàn)?zāi)M68-704.4模擬例子70-77第五章廣義變 系數(shù)模型的Bayes樣條估計(jì)77-895.1函數(shù)系數(shù)的貝葉斯樣條估計(jì) 78-805.2后驗(yàn)?zāi)M80-835.3模擬例子83-89第六章回歸變量具有測量 誤

11、差的部分線性模型Bayes估計(jì)89-976.1非參數(shù)的光滑樣條估計(jì)及 Bayes解釋90-916.2EV部分線型模型及其 Bayes估計(jì)91-946.3模擬研 究94-97參考文獻(xiàn)97-102附錄博士期間發(fā)表的論文102-103致謝103本論文購買請聯(lián)系頁眉網(wǎng)站。 沁園春雪北國風(fēng)光， 千里冰封， 萬里雪飄。 望長城內(nèi)外，惟余莽莽；大河上 下，頓失滔滔。山舞銀蛇，原馳蠟象，欲與天公試 比高。須晴日，看紅裝素裹，分外妖嬈。江山如此多嬌，引無數(shù)英雄競折腰。惜秦皇漢武，略輸文采；唐宗宋 祖，稍遜風(fēng)騷。一代天驕，成吉思汗，只識彎弓射 大雕。俱往矣，數(shù)風(fēng)流人物，還看今朝。I克出師表兩漢：諸葛亮先帝創(chuàng)業(yè)未半

12、而中道崩殂， 今天下三分，益州疲弊，此誠危急存亡之秋也。然侍衛(wèi)之臣 不懈于內(nèi)，忠志之士忘身于外者，蓋追先帝之殊遇，欲報(bào)之于陛下也。誠宜開張圣聽，以光 先帝遺德，恢弘志士之氣，不宜妄自菲薄，引喻失義，以塞忠諫之路也。宮中府中，俱為一體；陟罰臧否，不宜異同。若有作奸犯科及為忠善者，宜付有司論其 刑賞，以昭陛下平明之理；不宜偏私，使內(nèi)外異法也。侍中、侍郎郭攸之、費(fèi)祎、董允等，此皆良實(shí)，志慮忠純，是以先帝簡拔以遺陛下：愚 以為宮中之事，事無大小，悉以咨之，然后施行，必能裨補(bǔ)闕漏，有所廣益。將軍向?qū)櫍孕惺缇?，曉暢軍事，試用于昔日，先帝稱之曰能”，是以眾議舉寵為督：愚以為營中之事，悉以咨之，必能使行陣和睦，優(yōu)劣得所。親賢臣，遠(yuǎn)小人，此先漢所以興隆也； 親小人，遠(yuǎn)賢臣，此后漢所以傾頹也。 先帝在時, 每與臣論此事，未嘗不嘆息痛恨于桓、 靈也。侍中、尚書、長史、參軍，此悉貞良死節(jié)之臣， 愿陛下親之、信之，則漢室之隆，可計(jì)日而待也 臣本布衣，躬耕于南陽，茍全性命于亂世，不求聞達(dá)于諸侯。先帝不以臣卑鄙，猥自枉 屈，三顧臣于草廬之中，咨臣以當(dāng)世之事，由是感激，遂許先帝以驅(qū)馳。后值傾覆，受任于 敗軍之際，奉命于危難之間，爾來二十有一年矣。先帝知臣謹(jǐn)慎，故臨崩寄臣以大事也。受命以來，夙夜憂嘆，恐托付不效，以傷先