應用回歸分析講義十三 嶺回歸e

應用回歸分析講義…十三嶺回歸一、 嶺回歸的引入二、 嶺回歸的SPSS程序三、 嶺回歸參數(shù)K的選取，參數(shù)粗估計,參數(shù)精估計,確定參數(shù)模型四、 嶺回歸模型的應用1962年由提出在1970年開展的嶺回歸(Ridgeregression)，回歸系數(shù)的有偏估計一嶺回歸8=(X'X)-1X'y當XXR0,為了(X'X)-1存在且穩(wěn)定，定義8=(X,X+KI)-1X'YK稱為嶺參數(shù)K=0時為最小二乘估計，K>0,小于1。K從0到1逐漸增大，選擇一個最適宜的K值。嶺回歸用于解決模型的自變量共線性問題。

P92YEARYX1X2X3X4X51987197919801981198219831984198519861987198819891990199119921993建立回歸模型，共線性診斷1、 VIF，容忍度，條件指數(shù)，2、 變量X2的系數(shù)為負值，經(jīng)濟理論認為應為正相關(guān)。說明共線性造成后果。進行嶺回歸分析一、嶺跡模型系數(shù)隨參數(shù)K變化的曲線嶺跡圖根據(jù)嶺跡確定K。K=0時表示古典回歸二、嶺回歸根據(jù)嶺跡圖確定參數(shù)KP193圖A,系數(shù)趨于0,變量不重要圖B.系數(shù)由正變負，變化大，對Y有顯著影響圖C.古典模型時系數(shù)為正，嶺回歸時系數(shù)為負.圖D.兩個系數(shù)不穩(wěn)定，一個增大時另一個減少，但其和穩(wěn)定，可以考慮保存一個變量.圖E.變量對Y不顯著圖F.變量對Y的影響趨于穩(wěn)定7.4嶺?敏化的選*選擇標準:1、 各回歸系數(shù)根本穩(wěn)定2、 用最小二乘法時不合理的系數(shù)用嶺回歸變得合理3、 殘差平方和增長不大嶺回歸SPSS程序和嶺回歸模型應用P199變量標準化1、參數(shù)K粗估計INCLUDE'c:/programfiles/SPSS/Ridgeregression.sps'.RIDGEREGDEP=zy/ENTER=zx1,zx2,zx3,zx4,zx5.2、 參數(shù)K精估計INCLUDE'c:/programfiles/SPSS/Ridgeregression.sps'.RIDGEREGDEP=zy/ENTER=zx1,zx2,zx3,zx4,zx5/START=/STOP=1.3、 確定參數(shù)K=0.08時，建立模型INCLUDE'c:/programfiles/SPSS/Ridgeregression.sps'.RIDGEREGDEP=zy/ENTER=zx1,zx2,zx3,zx4,zx5/k=0.08.嶺回歸選擇變量刪除系數(shù)趨于0的變量刪除不穩(wěn)定的變量省市區(qū)地方財政支出（億元）城鎮(zhèn)居民年人均可支配收入（元）城鎮(zhèn)居民年人均消費性支出（元）農(nóng)民人均現(xiàn)金收入（元）農(nóng)民人均生活消費支出（元）社會消費品零售總額（億元）X1x2x3x4x5y北京176531324487245316天津12639965370323036河北9107670043182166山西8914634330531878內(nèi)蒙古9137692942352446遼寧91087369549128062999吉林8691679544512306黑龍江8273617853212545上海1864513773872472782973江蘇12319862260353567浙江162941225484455433安徽84716368304321961765福建12321879449633293江西5648620610934602484山東10745745751142736河南11168668603830161892湖北8786673734542430湖南9524750536932756廣東147701181053823708廣西92877033299423501397海南8124592936041969重慶10243862326532142四川8386689130872274貴州8151615919541552云南9266699721751789西藏9431861719251724陜西6398272665625761896甘肅8087652922171820青海8058624522881976寧夏8094640434632094新疆5197990620839211924INCLUDE'c:/programfiles/SPSS/Ridgeregression.sps'.RIDGEREGDEP=y/ENTER=x1,x2,x3,x4,x5.例2INCLUDE'c:/programfiles/SPSS/Ridgeregression.sps'.RIDGEREGDEP=y/ENTER=x1,x2,x3,x4,x5/START=/STOP=1.例3例2確定系數(shù)為0.35時，INCLUDE'c:/programfiles/SPSS/Ridgeregression.sps'.RIDGEREGDEP=y/ENTER=x1,x2,x3,x4,x5/k=0.35.SPSS宏ridgeregressionmacro,ridgeregressionmacro,ridgeregressionmacroINCLUDE'[SPSSinstalldir]\Ridgeregression.sps'.RIDGEREGDEP=varname/ENTER=varlist[/START={0**}][/STOP=