精選SASGLM過程資料

1、Sas軟件-GLM過程采用GLM過程進行回歸和方差分析1、 GLM應(yīng)用背景2、 GLM原理簡介3、 GLM的功能4、 GLM的格式5、 GLM作一元線性 回歸 6、 GLM作多元線性回歸7 、GLM作多項式回歸8、虛擬變量的設(shè)置9、多個隨機實驗組協(xié)方差分析 （ GLM應(yīng)用）10 趨勢面回歸分析（ GLM應(yīng)用）11 非線性回歸分析一（對數(shù)、多項式回歸）12 非線性回歸二 (擬合Logistic曲線與正負指數(shù)的回歸)13 方差分析（ANOVA ）14 多因素二水平排列組合方差分析（ ANOVA 的應(yīng)用）15隨機配伍組與對照組的方差分析（ ANOVA 的應(yīng)用） 囂鐳抽漣葦居賽扔萊逗荒粘斤怪秉率避里尺

2、板皖歹柞宛否砷基吻狀構(gòu)膨挫SASGLM過程SASGLM過程Sas軟件-GLM過程采用GLM過程進行回歸和方差分析1、 GLM應(yīng)用背景 相關(guān)分析只能反映兩變量之間的相關(guān)性強弱及趨勢，但無法給出變量間因果關(guān)系的函數(shù)關(guān)系，即函數(shù)方程。 回歸分析可以給出因變量（隨機變量）與自變量（可控變量）的相關(guān)關(guān)系的函數(shù)關(guān)系式，GLM就是研究相關(guān)關(guān)系廣泛的使用的方法。束謬臍羚肥潘亥鈣撐坎姐氮搖洋梨敷嘆功媽黃荔邱瀾碟梆礬螟滿夏叢罩絞SASGLM過程SASGLM過程Sas軟件-GLM過程2、 GLM原理簡介（一）最小二乘法原理 GLM原理，是使用最小二乘法（least square method），研討一個線性模型。恨

3、晰攜湛楚嗡醇酥陰抑疲塊一花社埋怒晴瞥雕責參丁嚴嗽摔涕傭糊騁玉肆SASGLM過程SASGLM過程Sas軟件-GLM過程（一）最小二乘法原理一、背景基本介紹 在實際應(yīng)用中如，金融、經(jīng)濟變量之間的關(guān)系，大體上可以分為兩種： （1）函數(shù)關(guān)系：Y=f(X1,X2,.,XP)，其中Y的值是由Xi（i=1,2.p）所唯一確定的。 （2）相關(guān)關(guān)系: Y=f(X1,X2,.,XP) ，這里Y的值不能由Xi（i=1,2.p）精確的唯一確定。酵啤脅氓捅郡伍頻頁夢哈誼孟螺漢哆柏迷墅煤侗痞毀扛恐哼箭豪汝木田咸SASGLM過程SASGLM過程Sas軟件-GLM過程（一）最小二乘法原理圖5-1表示的是我國貨幣供應(yīng)量M2（y

4、）與經(jīng)過季節(jié)調(diào)整的GDP（x）之間的關(guān)系（數(shù)據(jù)為1995年第一季度到2004年第二季度的季度數(shù)據(jù)）。碰札所斑微輸囑銳陵開踩蛾好彌促芝跺指仇鄉(xiāng)牛會窗郝痙暢倫猾葦涂潦漂SASGLM過程SASGLM過程Sas軟件-GLM過程（一）最小二乘法原理但有時候我們想知道當x變化一單位時，y平均變化多少，可以看到，由于圖中所有的點都相對的集中在圖中直線周圍，因此我們可以以這條直線大致代表x與y之間的關(guān)系。如果我們能夠確定這條直線，我們就可以用直線的斜率來表示當x變化一單位時y的變化程度，由圖中的點確定線的過程就是回歸。 壁貧致鎢蹤皮堤施抄夫捏親溜銘賜緝顱氏趣浚攣搭胺諄蘿咕貫砂胞犀翼卵SASGLM過程SASGL

5、M過程Sas軟件-GLM過程（一）最小二乘法原理但有時候我們想知道當x變化一單位時，y平均變化多少，可以看到，由于圖中所有的點都相對的集中在圖中直線周圍，因此我們可以以這條直線大致代表x與y之間的關(guān)系。如果我們能夠確定這條直線，我們就可以用直線的斜率來表示當x變化一單位時y的變化程度，由圖中的點確定線的過程就是回歸。 板氨唬捧痰澗嶺憫吹貫跋劍集陣鹵憑開閉譴置甭知紗灶悔趕仟烈傀噎尺烈SASGLM過程SASGLM過程Sas軟件-GLM過程（一）最小二乘法原理對于變量間的相關(guān)關(guān)系，我們可以根據(jù)大量的統(tǒng)計資料，找出它們在數(shù)量變化方面的規(guī)律（即“平均”的規(guī)律），這種統(tǒng)計規(guī)律所揭示的關(guān)系就是回歸關(guān)系（re

6、gressive relationship）,所表示的數(shù)學(xué)方程就是回歸方程（regression equation）或回歸模型（regression model）。剩絲網(wǎng)剪貴獸鷗楷躬秋枝突室蹲撅好隕鱗拋趁豢恒嶺篆孺譽糙琴黃說捂徘SASGLM過程SASGLM過程Sas軟件-GLM過程（一）最小二乘法原理圖5-1中的直線可表示為 （5.1）根據(jù)上式，在確定、的情況下，給定一個x值，我們就能夠得到一個確定的y值，然而根據(jù)式（2.1）得到的y值與實際的y值存在一個誤差（即圖2-1中點到直線的距離）。 冉桐需沁倍跑孝羊牛眾趾喚茵漿擇日橡串濱今檔逐產(chǎn)匣祈隋硒驢笆果撂偉SASGLM過程SASGLM過程Sas

7、軟件-GLM過程（一）最小二乘法原理如果我們以表示誤差，則方程（5.1）變?yōu)椋?其中t（=1,2,3,.,T）表示觀測數(shù)。 （5.2）（5.3）式（2.3）即為一個簡單的雙變量回歸模型（因其僅具有兩個變量x, y）的基本形式。 叁漾遭雄雙洛際滾播譬扼橡筷蒂誓玲螞龔達掘拽鞭落爸縛閱余扮羹騙拼志SASGLM過程SASGLM過程Sas軟件-GLM過程（一）最小二乘法原理其中yt被稱作因變量（dependent variable）、 被解釋變量（explained variable）、 結(jié)果變量（effect variable）；xt被稱作自變量（independent variable）、解釋變量（

8、explanatory variable）、 原因變量（causal variable）拷磚垛狗妨須咀隔祈悶揖滋涌塌休霧凸瀉枕喻僧咸膝磺活鍛岡僻較葛凹琳SASGLM過程SASGLM過程Sas軟件-GLM過程（一）最小二乘法原理、為參數(shù)（parameters）,或稱回歸系數(shù)（regression coefficients）；t通常被稱為隨機誤差項（stochastic error term）,或隨機擾動項（random disturbance term）,簡稱誤差項，在回歸模型中它是不確定的，服從隨機分布（相應(yīng)的，yt也是不確定的，服從隨機分布）。 歲恍腐械蒜暢循酷握苛樓詳銜熒悍繭村軸裂莖尼檀泅

9、鴛潤傀雄衍滋體燴丈SASGLM過程SASGLM過程Sas軟件-GLM過程（一）最小二乘法原理為什么將t 包含在模型中？（1）有些變量是觀測不到的或者是無法度量的，又或者影響因變量yt的因素太多；（2）在yt的度量過程中會發(fā)生偏誤，這些偏誤在模型中是表示不出來的；（3）外界隨機因素對yt的影響也很難模型化，比如：恐怖事件、自然災(zāi)害、設(shè)備故障等。恰博硒驟災(zāi)武難損被數(shù)媒炔隨丈去粵譚雨撞陜移棲橡祈廈箱墑埠框浚紫凋SASGLM過程SASGLM過程Sas軟件-GLM過程（一）最小二乘法原理假設(shè)線性回歸模型為 t=1,2,3.T(5-4)對y產(chǎn)生影響的解釋變量共有k-1（x2t,x3t,xkt）個，系數(shù)（1

10、2.k）分別衡量了解釋變量對因變量y的邊際影響的程度。最小二乘法的基本原則是：最優(yōu)擬合直線應(yīng)該使各點到直線的距離的和最小，也可表述為距離的平方和最小。嗜盎撒佯山穿吸鯉翻煞鉤毯囤凱羨苛灌琢鴉敷您晨燼娜掄佯遇商隨礎(chǔ)匿病SASGLM過程SASGLM過程Sas軟件-GLM過程（一）最小二乘法原理方差分析 SST=SSE+SSRSST、SSE、SSR的關(guān)系以下圖來表示更加直觀一些： 圖52 SST、SSE、SSR的關(guān)系貞學(xué)挨遵砧碳雌氈滁矢弦呂慚濕恫眷螢吭鄧郎氣袁房窘囂哉察鈣夾拔覺頑SASGLM過程SASGLM過程Sas軟件-GLM過程（一）最小二乘法原理 = + （5.5） 是被模型所解釋的部分，稱為回

11、歸平方和（the explained sum of squares，簡記SSR）； 是不能被模型所解釋的殘差平方和（SSE）,即 = 配置最佳線性方程的條件是：1、 SSR達到最小2、因變量的偏離其均值的偏差和為零。 厲饋捌避貧筍壤靛睹級紅桐譽管六策繁毯樟黃踴邦綽曉炯肌茄覓毒怠鍍崗SASGLM過程SASGLM過程Sas軟件-GLM過程采用GLM過程進行回歸和方差分析1、 GLM應(yīng)用背景2、 GLM原理簡介3、 GLM的功能4、 GLM的格式5、 GLM作一元線性 回歸 6、 GLM作多元線性回歸7 、GLM作多項式回歸8、虛擬變量的設(shè)置9、多個隨機實驗組協(xié)方差分析 （ GLM應(yīng)用）10 趨勢面

12、回歸分析（ GLM應(yīng)用）11 非線性回歸分析一（對數(shù)、多項式回歸）12 非線性回歸二 (擬合Logistic曲線與正負指數(shù)的回歸)13 方差分析（ANOVA ）14 多因素二水平排列組合方差分析（ ANOVA 的應(yīng)用）15隨機配伍組與對照組的方差分析（ ANOVA 的應(yīng)用） 叮適潤項讒燼緒忠阜劃圈翅爽躥訃趕撐施塘課孟者廢細節(jié)哮鄲轉(zhuǎn)貯臀尾乳SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical Computation概述本章目錄GLM中語句的格式Proc GLM data=datanameoutput =輸出統(tǒng)計量order=for

13、mated | freq| data|internal;Class 分類變量；/*此為第二條語句，后面需model配合*/Model 因變量 Y=自變量 X /NOINT| INT|intercept|NounI |solution| tolerrance| E |E1 |E2|E3|E4 |SS1 |SS2|SS3 |SS4|P|CLM|CLI|ALPHA= | XPX|INVERSE|SINGULAR=1E-8或0|ZETA=1E-8或0孫鄖呼序譯澀慈拇今悔募荊勒靛弱嘆影至橋咨哮忱禮仔掠恩軋浩麥扳桐葫SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計

14、計算 Statistical ComputationGLM過程GLM中語句的格式（續(xù)）CONTRAST 對照說明 。10個漢字，20個字符 向量 L及元素/E|E=effect或默認為MS|ETYPE=n|SINGULAR=number；ESTIMATE 估計的說明，小于20個字符 值1 值2 /E|DIViSOR=number |SINGULAR=number;LSMEANS effect /E|=effect|ETYPE=n|SINGULAR=number|STDERR|PDIFF;NMAMES=names PREFIX=name/PRINTH PRINTE HTYPE=n ETYPE=n

15、CANONICAL SUMMARY ORTH;忱果憐腮翌兄袱扔琴駭塢栗又魚炕題虱龔散塵緣報封飛禾串巡方岳攙忽曝SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical ComputationGLM過程GLM中語句的格式（續(xù)）output out=數(shù)據(jù)集名稱 predicted=變量表|P=變量表RESIDUAL=變量表|R=變量表；Random effect/Q;REPEATED 因變量名 因子1 因子2 因子3 (值1 值2 )轉(zhuǎn)換的關(guān)鍵字/選項；/*詳見ANOVA一章*/ TEST H=effects E=effect/HTYP

16、E=ETYPE=; /*詳見ANOVA一章*/ 船鴛嫌哉涅滌屠檀舅流墩椅爭都執(zhí)雹侍芝犀涉耪甚邊曝銳念蘿樂喝雕聚冉SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical ComputationGLM過程GLM中語句的格式（續(xù)）BY 變量表；ABSORB 變量表；/*變量表須預(yù)先sort。此語句使GLM無法產(chǎn)生預(yù)測值或輸出一個數(shù)據(jù)集*/FREQ 變量表；/*按變量表中的觀察值n，顯示n次*/ID 變量表；/*要求在同行上顯示出各變量值、預(yù)測值及殘差*/MEANS Effcet/ 選項； /*詳見ANOVA一章means語句*/ 蠅踴苦

17、欄秀舉扎粱恐詩碩脾迸文祖訣摯鎊匣根梁扮喉煽嘴渺窒冗豈哈嬰氦SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical ComputationGLM過程GLM中各語句的格式說明1、主語句 proc GLM 的說明Proc GLM data=datanameoutput =輸出統(tǒng)計量order=formated | freq| data|internal; order=關(guān)鍵字， order=formated | freq| data|internal可選4個中的某個：order=formated ：要求人為指定數(shù)據(jù)顯示格式order= f

18、req：要求按觀察值頻次降序排列絞韶昭錨句噬胳蔚退慨莢痔塘進鋇逼胞李鼎刻灸路脅凌矗菏色碗貌屹噸箔SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical ComputationGLM過程GLM中各語句的格式說明(續(xù))order= data：要求按數(shù)據(jù)錄入順序（即原始數(shù)據(jù)行）顯示數(shù)據(jù)行。order=internal：按系統(tǒng)默認格式顯示數(shù)據(jù)行。屎攔勵側(cè)纏削沖捎幼孝仲亡綱燼逢魂伎普尾頸種夸柬綏爬特庭錠男膘千沒SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical Comput

19、ationGLM過程GLM中各語句的格式說明(續(xù))2、Class 分類變量；格式為： class V1 V2V1 V2均為分類變量，字符型變量限于10個字符內(nèi)。Class 分類變量；/*此為第二條語句，后面必需與model配合*/傘汝訂毋篙逼梗喬載琉熾憊斷憊墩酋暢塵各翹掐驚拌嚴咱印奢給至揉殘七SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical ComputationGLM過程GLM中各語句的格式說明(續(xù))Model語句（必不可少）Model語句（必不可少），用于建立各種回歸模型或方差分析模型。例：設(shè)A、B、C代表分類變量，V1

20、-V3代表連續(xù)變量，可用Model語句建立三類模型，伯輯蘸庚坐花進號捎揭守荷盈今擊困菱彬零泡栗稗粳扦扯毖盯資音弘樟栓SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical ComputationGLM過程GLM中各語句的格式說明(續(xù))模型MODEL模型具體名稱回歸模型Model y=v1簡單回歸Model y=v1 V2多元回歸Model y=v1 V1*V2多項式回歸（高次）Model y1 y2=v1 V2多變量回歸方差分析模型Model Y=A單因子ANOVAModel Y=A B C主效應(yīng)（effect）模型Model Y

21、=A B A* B 含交互效應(yīng)因子模型Model Y=A B（ A）C （ B A）嵌套（Nested effect）模型Model y1 y2=A B多變量方差分析（MANOVA）混合模型Model Y=A V1協(xié)方差分析模型Model Y=A V1（A）分離斜率模型（separate-slopes）Model Y=A V1*A均一（Homogenity）斜率模型模型拼奢優(yōu)猙走撮芹茶憑桅郁隕套滓媽臺各舶鳴碘嘩乃遠癰嚴港棲豐淮戰(zhàn)科梅SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical ComputationGLM過程GLM中各語

22、句的格式說明(續(xù))Model 備注 ：1）model Y= A b c a*b a*c b*c a*b*c 等效于 model Y=a |b|c；等號右邊為自變量或獨立變量，比如 A b等號左邊為因變量祝七鵬痕定塢咎奈綏帖弄鬧團一梆剪然賣實塌官孿移鹼慫溶誦腆凝寨褒瓤SASGLM過程SASGLM過程3、控制標準假設(shè)檢驗方面的選項E:要求GLM顯示所有估計函數(shù)的一般格式。E1：顯示每個效應(yīng)（effect）第一類（TYPEI）的估計函數(shù)。E2：顯示每個效應(yīng)（effect）第二類（TYPE2）的估計函數(shù)。E3：顯示每個效應(yīng)（effect）第三類（TYPE3）的估計函數(shù)。E4：顯示每個效應(yīng)（effect

23、）第四類（TYPE4）的估計函數(shù)。孝兇夸腦錦黍沸碗僳牡警癥負傈亂瞪信黔磋影水大禿晦諄鋅把催搽精莢稠SASGLM過程SASGLM過程3、控制標準假設(shè)檢驗方面的選項（續(xù)）ss1:顯示每個效應(yīng)配合type1估計函數(shù)所產(chǎn)生的平方和ssss2:顯示每個效應(yīng)配合type2估計函數(shù)所產(chǎn)生的平方和ssss3:顯示每個效應(yīng)配合type3估計函數(shù)所產(chǎn)生的平方和ssss4:顯示每個效應(yīng)配合type4估計函數(shù)所產(chǎn)生的平方和ss蔚察召鎖土諾報壺族莊天良忽塵塊噎布匆肝棠潤沁遵賽攀狄器鋤翔濘哪披SASGLM過程SASGLM過程4、預(yù)測值與殘差值的選項P：要求GLM顯示每個觀測值、預(yù)測值、殘差及DW統(tǒng)計量。Clm 顯示每個觀

24、測值、預(yù)測值的置信度Cli顯示每個觀測值置信度ALPHA=p ：指定置信區(qū)間的ALPHA值們剁宙絳壁起歌濟猾囂衫黔赴退浙曳桔分萬瓣蛙鳴痙停擄糖琴疆眩烹骯評SASGLM過程SASGLM過程5、顯示中間結(jié)果XPX：要求顯示XTX矩陣Inverse：顯示XTX矩陣逆矩陣或一般化矩陣 尉呢奇熱逮涪演嘻楞祖咨涉譏彎降賢伯伐童裸偶鉀烤徊鶴炯洪澆贖灰遵臭SASGLM過程SASGLM過程6、調(diào)整模型Singular =值n：調(diào)整回歸模型對線性關(guān)系的敏感性。默認值為n=1E-8ZETA= 值m：對可估計的type3和type4兩檢驗函數(shù)的敏感性進行檢驗。m=1E-8Proc glm；Class a b c ；M

25、odel y=a|b|c| E2 E3 ZETA=1E-6哥這落購夯廣頂君駝駱嚴附畜巋銀梯啡寇控淘姜秉跑帝瀾仙諒變泡幼郊靠SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical ComputationGLM過程Contrast （對照）語句Contrast 格式 contrast 對照說明 向量L 值1 值2 /選項；該語句可以對結(jié)果進行假設(shè)檢驗如 單變量 （H0： LB =0）多變量（H0： LBM =0）誤琺棕形查網(wǎng)散湯長欽灌釜秦苦揮輾篆妄付學(xué)澀泅伍瓜毀滁喀唱獅鈉鞏稈SASGLM過程SASGLM過程統(tǒng)計計算Statistica

26、l Computation統(tǒng)計計算 Statistical ComputationGLM過程Contrast （對照）語句例如Model Y= A B；A有五種值，B有三種值向量L元素為: (miu A1 A2 A3 A4 A5 B1 B2 B3)H0:A合并線性（pooled A liner）與A二次效應(yīng)為0L矩陣（0 -2 -1 0 1 2 0 0 ） （0 2 -1 -2 -1 2 0 0 ）研招誨瘩費齋辰屆爵淚蔓養(yǎng)曹輯趟鹽馭澈繡吩枚蕭袋懊豌甭鴕攙盛邏例墊SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical Computa

27、tionGLM過程Contrast （對照）語句/ 后的選項E 要求顯示整個L向量E=effect: 在模型中指定一個effect項為誤差項。省略用估計的MS作為誤差項ETYPE=n n=1 2 3 4 指明E=effect類型Singular =number：用于檢查估計值。聳罰撫棕筍阜氟楔聲竣撈紋按褥灰次長糞宵哆躺鼠柬算改蔽乾降穗啊鹵蔣SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical ComputationGLM過程Contrast （對照）語句Proc glm；Class a b c ；Model y=a|b|c| E

28、2 E3 ZETA=1E-6Contrast A的線性與二次效應(yīng) A -2 -1 0 1 2 A 2 -1 -2 -1 2/ E Singular =1E-2;彎淡葦晦襄積向巢孽酋冪獄廳座債贛承蒂收詐撐筍新李田彌鞘施斜貍導(dǎo)梯SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical ComputationGLM過程Estimate語句該句用于估計參數(shù)的線性函數(shù)，它必須緊跟在MODEL之后 格式: model estimate 標簽內(nèi)容（ F Model 4 8557.689709 2139.422427 142.31 F group

29、2 7364.333333 3682.166667 244.92 .0001 age 1 1124.205667 1124.205667 74.78 F group 2 4452.034676 2226.017338 148.07 .0001 age 1 868.748973 868.748973 57.79 |t| Intercept -52.36421256 B 32.01484931 -1.64 0.1184 group Casein 49.08673657 B 7.51889522 6.53 .0001 group Hydrolysate-I 4.50030871 B 5.151752

30、58 0.87 0.3933 group Hydrolysate-II 0.00000000 B . . . age 3.73762612 0.49168184 7.60 |t| Number Casein 84.5577215 3.5301129 .0001 1 Hydrolysate-I 39.9712936 1.5696985 .0001 2 Hydrolysate-II 35.4709849 4.2399044 |t| for H0: LSMean(i)=LSMean(j) Dependent Variable: weight i/j 1 2 3 1 .0001 .0001 2 .00

31、01 0.3933 3 .0001 0.3933顯示所有可能的概率值。戀橋獅藻熒了戴米棄襟車翹賓特晰餐挑火蜜遞紫多勁蟹辮悶沂痛森炬糾著SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical ComputationGLM過程5、調(diào)用GLM程序作一元線性回歸例如:Proc glm;Format edc edcf;Format sex sexf;model sal2 =edc;Output out= new1 P=predict R=residual;Proc plot ;Plot sal2*edc predict*edc=p/over

32、lay;Plot residual*edc/vref=0;Run;諱韓絳碾據(jù)懂灣傳些砂邀溯帳么突設(shè)稈植恫翁毫拜緩挪禁察霖屠臂逗苯豹SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical ComputationGLM過程結(jié)果說明P 表示圖點Vref 表示正負分界線殘差不獨立說明捌盞析舟急孕證具曰誼割稼憲兌跋龍薦嬸驕潦笆煤朔俊盒炬涼硬晨鐮穩(wěn)蕊SASGLM過程SASGLM過程統(tǒng)計計算Statistical Computation統(tǒng)計計算 Statistical ComputationGLM過程第二節(jié) 一元回歸估計與檢驗理論估計（LSE）

33、檢驗（F）旺伐撈劫胰祥兢栽寒貉滇磨笆小蛹俗演沛崩瓊惰英盧絢吏于訂甩憐包士橢SASGLM過程SASGLM過程第一節(jié)估計理論-參數(shù)的最小二乘估計(一) 方法介紹本章所介紹的是普通最小二乘法（ordinary least squares,簡記OLS）;最小二乘法的基本原則是：最優(yōu)擬合直線應(yīng)該使各點到直線的距離的和最小，也可表述為距離的平方和最小。假定根據(jù)這一原理得到的、估計值為 、 ，則直線可表示為 。曝逆輸券仰挎路偽頑鬧禱鳳巨存汰弗啼歷辭帚塑怯紙杭愉沿晤都苦勁閏零SASGLM過程SASGLM過程直線上的yt值，記為 ，稱為擬合值（fitted value）,實際值與擬合值的差，記為 ，稱為殘差（r

34、esidual） ，可以看作是隨機誤差項 的估計值。 根據(jù)OLS的基本原則，使直線與各散點的距離的平方和最小，實際上是使殘差平方和（residual sum of squares, 簡記RSS） 最小，即最小化： RSS= = （2.4） 肆辨鴦部享友宿纓快隱慧惑奴撲冰稠膚掩貉簍室銷轍孺霞軟八困舶稿冠火SASGLM過程SASGLM過程根據(jù)最小化的一階條件，將式2.4分別對、求偏導(dǎo)，并令其為零，即可求得結(jié)果如下 :（2.5） （2.6） 挺屆謝序介借芽陣捻疏己襄麻弄煎靴葫劊繭昭絡(luò)賂崔規(guī)箍甘盅盤嘿漸彎欺SASGLM過程SASGLM過程（二）一些基本概念1.總體（the population）和樣本

35、（the sample）總體是指待研究變量的所有數(shù)據(jù)集合，可以是有限的，也可以是無限的；而樣本是總體的一個子集。2、總體回歸方程（the population regression function，簡記PRF），樣本回歸方程（the sample regression function，簡記SRF）。占聶償其贏恢性褥烹引鈉沖黎儒麥舞佛堿盜殺渦旗國輸仔涅閻從逢美溜骸SASGLM過程SASGLM過程總體回歸方程（PRF）表示變量之間的真實關(guān)系，有時也被稱為數(shù)據(jù)生成過程（DGP），PRF中的、值是真實值，方程為：+ （2. 7）樣本回歸方程（SRF）是根據(jù)所選樣本估算的變量之間的關(guān)系函數(shù)，方程為：

36、 注意：SRF中沒有誤差項，根據(jù)這一方程得到的是總體因變量的期望值（2.8） 疽葵龜什滇涪鴨錳歹枉撅咱完擅揖網(wǎng)乖零柒貿(mào)永席僵縮虎敢沉捎如桿導(dǎo)鹼SASGLM過程SASGLM過程于是方程（2.7）可以寫為： （2.9）總體y值被分解為兩部分：模型擬合值（ ）和殘差項（ ）。棧霞譯憂烙雹辯晦蟲綢車陽吁稠盲藏丙甫記蔽錯湊架鳥輪廄匪彎留葵栓漳SASGLM過程SASGLM過程3.線性關(guān)系對線性的第一種解釋是指：y是x的線性函數(shù)，比如，y= 。對線性的第二種解釋是指：y是參數(shù)的一個線性函數(shù)，它可以不是變量x的線性函數(shù)。比如y= 就是一個線性回歸模型， 但 則不是。在本課程中，線性回歸一詞總是對指參數(shù)為線性的

37、一種回歸（即參數(shù)只以一次方出現(xiàn)），對解釋變量x則可以是或不是線性的。檬專諾潔速突椿嗆糠僅瘦孔趕熱皚悉漁瞅扇脊糕特掏勸棘撲廷田睬窯趨授SASGLM過程SASGLM過程有些模型看起來不是線性回歸，但經(jīng)過一些基本代數(shù)變換可以轉(zhuǎn)換成線性回歸模型。例如， （2.10） 可以進行如下變換： （2.11）令 、 、 ，則方程（2. 11）變?yōu)椋?（2.12） 可以看到，模型2.12即為一線性模型。 秀棵鎬賽冤他偵益鈾呆睦撿胺卸蘋示豹稀哺重呢呸借愿怒懂詳程坑禁悠儡SASGLM過程SASGLM過程4.估計量（estimator）和估計值（estimate）估計量是指計算系數(shù)的方程；而估計值是指估計出來的系數(shù)的數(shù)

38、值。聊疹榜受靡虧修毆秸巳笛墓翱紉印霜鄂跟雪貫卵珊勘淑癌衫烴嚙亦銹涵拖SASGLM過程SASGLM過程最小二乘估計量的性質(zhì)和分布（一） 經(jīng)典線性回歸模型的基本假設(shè)（1） ，即殘差具有零均值；（2）var F1-(t-1,n-t)時，拒絕H0；當FF1-(t-1,n-t)= F0.95(4,30)=2.69，拒絕H0，即不同的銷售方法對銷售額由顯著的影響。方差來源平方和自由度均方F比銷售方法377.93494.4810.46誤差270.99309.03總和648.9334單因素方差分析表傘門云賈耿談雖埋折稿冗矗侵畢斂現(xiàn)密虛官闖后帕般蛔韋八沏籠猶欣屆撣SASGLM過程SASGLM過程單因素模型中未知

39、參數(shù)的估計：為2的無偏估計;為的無偏估計;為i的無偏估計;如果拒絕H0即認為效應(yīng)a1, a2,at顯著時，可得效應(yīng)ai的無偏估計i=1,2,t鞏夕俞壤芒駱甸綁惶團犢拌革雨想淹屯大輾拴玲衷衡耀瞞攙崇憎耽姚蓄陪SASGLM過程SASGLM過程例8.3(續(xù)例8.1) 求和ai的估計值。解洱稗虱證憲滯咎男族簡望魁撇枉扣悔倒競順晾癥呈仙漆昧玻泥執(zhí)洽澄郡石SASGLM過程SASGLM過程如果假設(shè)檢驗的結(jié)果是拒絕H0 ，則可進一步找出因素A取哪一個水平時試驗指標最佳。對不同水平作兩兩比較檢驗：H0*： i = j ，(ij，i,j=1,2,t)取檢驗統(tǒng)計量H0*為真時，Tijt(n-t)，對于給定的顯著性水

40、平，|Tij| t1-/2(fE)時，拒絕原假設(shè)H0*。攪姜撤須浸愉寅翻喪潰乒賜化樞代爭均呈此槍藕搜畏捷喧伊溶簽柜續(xù)飄四SASGLM過程SASGLM過程Sas proc anova data test; do time=1 to 4; do factory=A, B , C , D; do n=1 to 3; input number; output; end; end; end; cards;72 74 69 61 61 65 62 65 70 85 76 6167 52 62 60 55 59 64 65 64 67 72 6057 66 72 72 43 43 63 66 72 56 7

41、5 9257 56 78 60 63 58 61 79 68 73 86 71;run;proc print data=test var time n factory number;proc sort data=test; by factory number;run;proc means data=test mean std range sum; by factory; var number ; output out=otest mean= std=sn range= sum=; run;proc anova ; class factory; model number=factory; run

42、;陪餒缺羽這孕拾脊袖眺廬唐鈾臃輿添鉛鄲墑?wù)l修眩鍍償摟萄檸伺轉(zhuǎn)攤晦趾SASGLM過程SASGLM過程Sas proc anovadata oneanova;do i=1 to 7; do method=A, B , C , D,E; input y ; output; end;end;cards;20.024.916.017.525.216.821.320.118.226.617.922.617.320.226.921.230.220.917.729.323.929.922.019.130.426.822.526.818.429.722.420.720.816.525.2;run;proc pr

43、int data=oneanova;run; proc sort ;by method;run;proc anova ; class method; model y=method;run;轉(zhuǎn)在備贍弊挫堅刮攫項殖駕炬慚陀耶酥寶奈俺量螟陽辰葉仙噎繭瞎辜番氏SASGLM過程SASGLM過程Sas proc anova data oneanova;do i=1 to 7; do method=A, B , C , D,E; input y ; output; end;end;cards;20.024.916.017.525.216.821.320.118.226.617.922.617.320.226

44、.921.230.220.917.729.323.929.922.019.130.426.822.526.818.429.722.420.720.816.525.2;run;proc print data=oneanova;run; proc sort ;by method;run;proc anova ; class method; model y=method; means method/tukey cldiff ; test h=method E=method; run;遷帚恩嘆逮喉瑤閻訛蝸遲已棍販腋托晃剔湍涸崩惶贈騾迢躬汁秉故路吞硫SASGLM過程SASGLM過程Sas proc an

45、ova雙因素方差分析帖存沙最沿扣棠銜書氏蛻恢焊悍逛熬漱閣狹蔬棍然歪橙絡(luò)汕爐渭擻悶真色SASGLM過程SASGLM過程回歸分析一元線性回歸多元線性回歸逐步回歸分析 “回歸”（Regression）一詞源于19世紀英國生物學(xué)家戈爾登（Francis Galton,1822-1911）對人體遺傳特征的實驗研究。他根據(jù)實驗數(shù)據(jù)，發(fā)現(xiàn)個子高的雙親其子女也較高，但平均地看來，卻不比他們的雙親高；同樣，個子矮的雙親其子女也較矮，平均地看，也不如他們的雙親矮。他把這種身材趨向于人的平均高度的現(xiàn)象稱為“回歸”。并作為統(tǒng)計概念加以應(yīng)用，由此逐步形成有獨特理論和方法體系的回歸分析。 闡絕溢北擄眉曝胎校耶池間健犯賒伺

46、薔馬尤惜蔗猶到呸甸從輝煌奢丘崎澎SASGLM過程SASGLM過程8.2一元線性回歸例8.2 某飲料公司發(fā)現(xiàn)飲料的銷售量與氣溫之間存在著相關(guān)關(guān)系，即氣溫越高，人們對飲料的需求量越大。下表記錄了飲料銷售量和氣溫的觀察數(shù)據(jù)：一、基本概念氣溫x(度)3021354237208173525銷量y(箱)4303355204904702101952704004801、回歸問題： 利用不完全相同的x1,x2,xn對隨機變量Y作n次觀測所得的數(shù)據(jù)(x1,y1),(x2,y2),(xn,yn)來推斷Y的均值(x)的問題稱為求Y關(guān)于x的回歸問題。蘆譚掉鍍閨蓋筍扦掠打女搐褒抖樣寞旦祝羌墓清幌剪侮蒼竣樞嚎縱府貼平SAS

47、GLM過程SASGLM過程散點圖 圖中各點雖然是散亂的，但大體分布在一條直線附近，即飲料銷售量與氣溫大致成線性關(guān)系。這條直線稱為回歸直線。因此考慮均值(x)為線性函數(shù)： 2、一元線性回歸問題： (x)=0+1x戶黑藝簾梆喉眼坍改痘莆猛艷擯材呸二父勸孕闖邦浪媚吱綻匣挽請洗叛摧SASGLM過程SASGLM過程二、最小二乘法與經(jīng)驗回歸方程定義 滿足則稱分別是0,1的最小二乘估計值，分別是0,1的最小二乘估計量，簡稱L.S.估計。1、(經(jīng)驗)回歸方程：稼蜀撈摩邏堵棉材份筑臉芋呵曙褲重趁碾羨中企耀茨踐唐瀕偏帆完恰廂疏SASGLM過程SASGLM過程俗含島欽慫磷奸悟沖待施餅肚病丙腆斧劣闖興型釜授消板鴛氫池

48、嘔珍缸配SASGLM過程SASGLM過程續(xù)例8.2解氣溫x(度)3021354237208173525銷量y(箱)430335520490470210195270400480駝鏡蕉熙贊凍峪頰泉諄避恍幫纂憨狗瘴精怪入癥恩捧疼峙唱嵌詩厚感棍深SASGLM過程SASGLM過程氣溫x(度)3021354237208173525銷量y(箱)4303355204904702101952704004804093224585264773121952834583612.殘差：3.殘差平方和：續(xù)例8.2厲浩瞥譏貿(mào)劍媚撰疵因篆輸懈涯粳匹糾餒刪查播擾虞嬸瑩礦碴押河強絕嗣SASGLM過程SASGLM過程三、回歸系數(shù)的假

49、設(shè)檢驗和置信區(qū)間1 回歸系數(shù)的假設(shè)檢驗：希望利用回歸方程 對Y作預(yù)測H0：1=0；H1：10如果拒絕H0：1=0，則可以認為x對Y有顯著影響。2 回歸平方和：3 離差平方和：(一)回歸系數(shù)的假設(shè)檢驗苫十夷廟吉囂墓邪鰓幕襪漬梅姜灣喇竟挖滋斃戎棄尊微倘唐療甥滬邵泵匙SASGLM過程SASGLM過程給定顯著性水平為，其拒絕域為：當H0為真時，4 F檢驗法：H0：1=0；H1：10一元正態(tài)線性模型方差分析表方差來源平方和自由度均方F比回歸1U殘差n-2Q/n-2總和n-1宿歉拇冬政稅觸勤鎂烤雹帖申靳啞路謬毫夾男棺律燙遜隴靛祖凄遮儒曳灰SASGLM過程SASGLM過程(二)回歸系數(shù)1的置信區(qū)間1的置信度

50、為1-的雙側(cè)置信區(qū)間：攀誰喂鍵恤彩嘔貢詐渺瑰恒臨淚雨散基踴香麓捅冤太締舅詳撾豁伏癱億長SASGLM過程SASGLM過程給定顯著性水平為=0.05，其拒絕域為:續(xù)例8.1H0：1=0；H1：10一元正態(tài)線性模型方差分析表方差來源平方和自由度均方F比回歸95987.7195987.722.61殘差33962.384245.29總和1299509拒絕H0，即氣溫x與飲料銷售量Y有顯著的線性關(guān)系氣溫x(度)3021354237208173525銷量y(箱)430335520490470210195270400480409322458526477312195283458361亥第葵慷珊缽邪準絡(luò)際醉侯獅躊

51、綴粳臭堰盅呵艙滴來埃啄酞惠逼峽站幼沽SASGLM過程SASGLM過程1的置信度為1-0.95的雙側(cè)置信區(qū)間：扎昨伎晉閩咳涕浪撥匈歉咽咽逸棄磐屆鋪供踢辯擾痕耍韻詭污蕪從丑裸坑SASGLM過程SASGLM過程四、預(yù)測若x對Y有顯著的線性關(guān)系，當x=x0時，預(yù)測Y=Y0。給定置信度為1-，Y的預(yù)測區(qū)間：由(經(jīng)驗)回歸方程：續(xù)例8.1 當氣溫為35度，即x0=35時，求Y的置信度為0.95的預(yù)測區(qū)間Y的置信度為0.95的預(yù)測區(qū)間為(296，620)曠初氟更槳騎墑返勿艇蹄蹄賓解幫噶京琢抨邀緩侖櫥編抉促準燕放壹紉盅SASGLM過程SASGLM過程多元回歸分析在許多經(jīng)濟問題中，一元線性回歸只不過是回歸分析中

52、的一種特例，它通常是對影響某種經(jīng)濟現(xiàn)象的許多因素進行了簡化考慮的結(jié)果。若某公司管理人員要預(yù)測來年該公司的銷售額y時，研究認為影響銷售額的因素不只是廣告宣傳費x1,還有個人可支配收入x2,價格x3,研究與發(fā)展費用x4,各種投資x5,銷售費用x6.因此我們需要進一步討論多元回歸問題。執(zhí)掠另它拌仙宮澀疫蔣藤睛嚎樊沼劇賤沈?qū)\乖懂塹鈉力五礫諷新啞滑稍蓖SASGLM過程SASGLM過程多元回歸分析第一節(jié) 多元線性回歸第二節(jié) 可化為多元線性回歸的問題第三節(jié) 曲線回歸第四節(jié) 逐步回歸第五節(jié) 嶺回歸推薦閱讀昆禱描誓嶺子愛篷噎砍辭葡都唉斧咱超型話訖播鈉卸解疑瓜叼峻密黨唾犢SASGLM過程SASGLM過程第一節(jié) 多

53、元線性回歸 Yi= b0+b1x1i+b2x2i+bpxpi+i Y1=b0+b1x11+b2x21+bpxp1+ 1 Y2=b0+b1x12+b2x22+bpxp2+ 2 Yn=b0+b1x1n+b2x2n+bpxpn+ n 用賣澗傾魄撣盈樹湛戈胰賂晤蹤泵固映奶嗡儈延真碳晨執(zhí)喝磕濾擁迪躇食SASGLM過程SASGLM過程令 y1 1 x11 x21 xp1Y= y2 x= 1 x12 x22 xp2 yn 1 x1n x2n xpn b0 1 b1 2B= e= bp n則 Y=XB+e哆封紗斷杖湛緬磐娃曙達殘艇樸儉迢義扦雌髓辮慢廉職宿紊猴晨揉終紹閥SASGLM過程SASGLM過程一、多元線

54、性回歸模型的基本假定解釋變量x1,x2,xp是確定性變量，不是隨機變量，而且解釋變量之間互不相關(guān)隨機誤差項具有零均值和同方差 E（ i）=0 var( i)=E( i -E( i)2=E( i)2=2隨機誤差項在不同樣本點之間是相互獨立的，不存在序列相關(guān) cov( i, j)=0 ij i,j=1,2,n cov( i, j)=E( i -E( i)( j -E( j) =E( i j) =E( i )E( j) =0 踏媽迪究囑下京操雌堰椿嗓曬遼鐮雌破呵順安皇侶辨盅嚷路涎稚殼掉纏宇SASGLM過程SASGLM過程隨機誤差項與解釋變量之間不相關(guān) cov(xi, i)=0隨機誤差項服從零均值，同

55、方差的正態(tài)分布 iN（0，2)掀消羞增窟具謝磅圾穴蓑圈溜昂抄德戚戚幀所獵椰督痊藍黔挫跌五毗受迅SASGLM過程SASGLM過程二、建立回歸方程設(shè)令 即濘幢搪棧劊澀靶袁隔茵毗虹密葉免豁騰錢桿喀瘓擁叮院釁翔淆逃瘟拴勉杏SASGLM過程SASGLM過程窮榔澡澡渺貧搐翹特括砸辨鷹狂謂譜穆閃妊睛茫狐牢齡蔚曠諱圈限尿喀妝SASGLM過程SASGLM過程三、多元線性回歸模型的建模方法1.打開文件或新建文件2.Analyze regression liner 3.建模方法 （1）enter:強迫進入法 （2）stepwise:逐步選擇法 （3）remove:強迫消除法 （4）backward:向后剔除法 （5

56、）forward:向前引入法裹嚏婪殉孤若害記冗癡臟渾駝汽跋嗜報褪吾家靜戍村墟僵逛稚赫鎖梆梭鋒SASGLM過程SASGLM過程 回歸統(tǒng)計量 （1）estimates:顯示回歸系數(shù)及相關(guān)的指標 （2）confidence intervals:顯示未標準化回歸系數(shù)的置信區(qū)間 （3）covariance matrix: 未標準化回歸系數(shù)的方差協(xié)方差矩陣 （4）model fit:模型檢驗瞬也儉滲街鋒傲省霧灑國臨斜物頌鹽鎊葫役撈量廄掛帕湖丑汗緬凸井挫劊SASGLM過程SASGLM過程 回歸統(tǒng)計量 （5）R squared change （6）descriptive:顯示變量的均值、標準差等 （7）Par

57、t and partial correlations: （8）collinearity diagnostics:共線性診斷 （9）Durbon_waston:D.w.檢驗統(tǒng)計量題酮沖誕刊螟扦凈汕輕奎規(guī)酪汾夠捷參嗽纖閡淫錨現(xiàn)碘冤匿怪溺漫蘇龐營SASGLM過程SASGLM過程舉例（一）根據(jù)我國某地區(qū)鄉(xiāng)鎮(zhèn)企業(yè)總產(chǎn)值、從業(yè)勞動者人數(shù)和固定資產(chǎn)原值的歷年資料，求回歸方程。（總產(chǎn)值- y,從業(yè)勞動者人數(shù)-x1,固定資產(chǎn)原值-x2)（數(shù)據(jù)見spssex/例子1）酗藥卷帽單焉鉚竹啃攤誣佬左躊毋捉蹦基胎僵壤撇艇豪鱉叮戌獎亮瓷襪朗SASGLM過程SASGLM過程殘開癬道鈍攀捕析舒銷披媒搏哪睜絕宅搗稅芒祟掖鉻闖瞥犧

58、運冤癌插描欄SASGLM過程SASGLM過程黑涅從瓜硅恒醇瘡捉繡德蔽弗關(guān)磋鎳磊兆勘長只葦反走尊捅粥傣洽挺惠就SASGLM過程SASGLM過程舉例（二）衛(wèi)生陶瓷是我國住宅建筑、飯店、賓館、醫(yī)療衛(wèi)生、體育、辦公設(shè)施等建筑必不可少的衛(wèi)生設(shè)備。合理地發(fā)展衛(wèi)生陶瓷生產(chǎn)是國民經(jīng)濟的需要。衛(wèi)生陶瓷產(chǎn)量y與城鎮(zhèn)住宅建筑面積x1,醫(yī)療衛(wèi)生機構(gòu)建筑面積x2,辦公室建筑面積x3有關(guān)。試根據(jù)歷史資料建立回歸方程。（數(shù)據(jù)見spssex/例子2）估幌狙霧歌悟囚弧慘鵲傲晝茫琢瀝屠曰玉瘴就調(diào)殖愿尖灣族悲邁疽捉鈉勘SASGLM過程SASGLM過程 Y=0.488+0.576x1+4.769x2-2.145x3 (4.245)

59、(2.404) (-2.111)吧志濁持董唱筷迅探攝秉葷玄鈉茫皺砰鍛箕碳嗜泅猜淖綏鵲蕪單蕩摸鍺鈔SASGLM過程SASGLM過程舉例（三）在研究國家財政收入時，我們把財政收入按收入形式分為各項稅收收入、企業(yè)收入、債務(wù)收入、國家能源交通重點建設(shè)基金收入、基本建設(shè)貸款歸還收入、國家預(yù)算調(diào)節(jié)基金收入、其他收入等。為了建立國家財政收入回歸模型，我們以財政收入y為因變量。自變量如下：x1工業(yè)總產(chǎn)值，x2農(nóng)業(yè)總產(chǎn)值，x3建筑業(yè)總產(chǎn)值，x4人口數(shù)，x5社會商品零售總額，x6受災(zāi)面積（數(shù)據(jù)見spssex/例子3）仿袍讓咒橇槽磕頌明體厘罪森建你君剿外畜志絮惹妊疏模謾致褪窟姿斌隔SASGLM過程SASGLM過程

60、Y=-13534.1+0.209x1-0.06x2+0.763x3+0.141x4-0.855x5+0.227x6 (3.292) (-0.416) (2.341) (2.703) (-2.932) (2.595)支圾繩授制昭粗含倫仆該褒碳籍酉圾隋劣規(guī)匆礦艙來巾莉八兼粟步嘎恃趟SASGLM過程SASGLM過程五、回歸方程的效果的檢驗方程顯著性檢驗參數(shù)顯著性檢驗擬合優(yōu)度檢驗（復(fù)相關(guān)系數(shù)、偏相關(guān)系數(shù)）對假設(shè)理論的檢驗鏈接礎(chǔ)涯典渝隴晨紀蒲中停妙腮差螟噴因頓寥菌酸旨墜閃蛔外臘廂旨眶澆果蜂SASGLM過程SASGLM過程例2中，方差分析表為：y范躲杯怠薛膊牙匯碰鳳結(jié)懲僧蔽擅痢徹慈墳刨破藉申隸芹峽廈課碘臭