回歸分析曲線擬合

1、第十講第十講 回歸分析、線性回歸和曲線估計(jì)回歸分析、線性回歸和曲線估計(jì)n第一部分第一部分 上一講回顧上一講回顧n第二部分第二部分 回歸分析回歸分析n第三部分第三部分 線性回歸線性回歸n第四部分第四部分 曲線估計(jì)曲線估計(jì)什么是回歸分析？什么是回歸分析？1、重點(diǎn)考察一個(gè)特定的重點(diǎn)考察一個(gè)特定的變量變量( (因變量因變量) )，而，而把把其他變量其他變量( (自變量自變量) )看作是影響這一變看作是影響這一變量的因素量的因素，并通過(guò)適當(dāng)?shù)臄?shù)學(xué)模型將變，并通過(guò)適當(dāng)?shù)臄?shù)學(xué)模型將變量間的關(guān)系表達(dá)出來(lái)量間的關(guān)系表達(dá)出來(lái)2、利用樣本數(shù)據(jù)利用樣本數(shù)據(jù)建立模型建立模型的估計(jì)方程的估計(jì)方程3、對(duì)模型進(jìn)行、對(duì)模型進(jìn)行

2、顯著性檢驗(yàn)顯著性檢驗(yàn)4、進(jìn)而通過(guò)一個(gè)或幾個(gè)自變量的取值來(lái)、進(jìn)而通過(guò)一個(gè)或幾個(gè)自變量的取值來(lái)估估計(jì)計(jì)或或預(yù)測(cè)預(yù)測(cè)因變量的取值因變量的取值回歸分析回歸分析回歸分析的模型回歸分析的模型 一、分類(lèi)一、分類(lèi)按是否線性分：按是否線性分：線性回歸模型線性回歸模型和和非線性回歸模型非線性回歸模型按自變量個(gè)數(shù)分：按自變量個(gè)數(shù)分：簡(jiǎn)單的一元回歸簡(jiǎn)單的一元回歸和和多元回歸多元回歸 二、基本的步驟二、基本的步驟 利用利用SPSSSPSS得到模型關(guān)系式，是否是我們所要的？得到模型關(guān)系式，是否是我們所要的？ 要看要看回歸方程回歸方程的顯著性檢驗(yàn)的顯著性檢驗(yàn)（F F檢驗(yàn)）檢驗(yàn)） 回歸系數(shù)回歸系數(shù)b的顯著性檢驗(yàn)的顯著性檢驗(yàn)(

3、T(T檢驗(yàn)檢驗(yàn)) ) 擬合程度擬合程度R R2 2 ( (注：相關(guān)系數(shù)的平方，一元回歸用注：相關(guān)系數(shù)的平方，一元回歸用R SquareR Square，多元回歸，多元回歸用用Adjusted R SquareAdjusted R Square) )回歸分析的回歸分析的過(guò)程過(guò)程 在回歸過(guò)程中包括：在回歸過(guò)程中包括：nLinerLiner：線性回歸：線性回歸nCurve EstimationCurve Estimation：曲線估計(jì)：曲線估計(jì) Binary LogisticBinary Logistic： 二分變量邏輯回歸二分變量邏輯回歸 Multinomial LogisticMultinomi

4、al Logistic：多分變量邏輯回歸；：多分變量邏輯回歸； Ordinal Ordinal 序回歸；序回歸；ProbitProbit：概率單位回歸；：概率單位回歸； NonlinearNonlinear：非線性回歸；：非線性回歸； Weight EstimationWeight Estimation：加權(quán)估計(jì)；：加權(quán)估計(jì)； 2-Stage Least squares2-Stage Least squares：二段最小平方法；：二段最小平方法； Optimal Scaling Optimal Scaling 最優(yōu)編碼回歸最優(yōu)編碼回歸n我們只講前面我們只講前面2 2個(gè)簡(jiǎn)單的（一般教科書(shū)的講法）

5、個(gè)簡(jiǎn)單的（一般教科書(shū)的講法）第三部分第三部分 線性回歸線性回歸 線性回歸分為線性回歸分為一元線性回歸一元線性回歸和和多元線性回歸多元線性回歸。一、一元線性回歸：一、一元線性回歸：1 1、涉及一個(gè)自變量的回歸涉及一個(gè)自變量的回歸2 2、因變量因變量y y與自變量與自變量x x之間為線性關(guān)系之間為線性關(guān)系n被預(yù)測(cè)或被解釋的變量稱(chēng)為被預(yù)測(cè)或被解釋的變量稱(chēng)為因變量因變量(dependent variable)(dependent variable)，用用y y表示表示n用來(lái)預(yù)測(cè)或用來(lái)解釋因變量的一個(gè)或多個(gè)變量稱(chēng)為用來(lái)預(yù)測(cè)或用來(lái)解釋因變量的一個(gè)或多個(gè)變量稱(chēng)為自變量自變量(independent vari

6、able)(independent variable)，用，用x x表示表示 3 3、因變量與自變量之間的關(guān)系用一個(gè)線性因變量與自變量之間的關(guān)系用一個(gè)線性方程來(lái)表示方程來(lái)表示線性回歸的過(guò)程線性回歸的過(guò)程 一元線性回歸模型確定過(guò)程一元線性回歸模型確定過(guò)程 一、做散點(diǎn)圖一、做散點(diǎn)圖(Graphs -Scatter-Simple) 目的是為了以便進(jìn)行簡(jiǎn)單地觀測(cè)（如：目的是為了以便進(jìn)行簡(jiǎn)單地觀測(cè)（如： Salary與與Salbegin的關(guān)系的關(guān)系)。 二、建立方程二、建立方程 若散點(diǎn)圖的趨勢(shì)大概呈線性關(guān)系，可以建立線性方若散點(diǎn)圖的趨勢(shì)大概呈線性關(guān)系，可以建立線性方程，若不呈線性分布，可建立其它方程模型

7、，并比較程，若不呈線性分布，可建立其它方程模型，并比較R2 (-1)來(lái)確定一種最佳方程式（曲線估計(jì)）。來(lái)確定一種最佳方程式（曲線估計(jì)）。 多元線性回歸一般采用逐步回歸方法多元線性回歸一般采用逐步回歸方法-Stepwise。( (一一) ) 一元線性回歸模型一元線性回歸模型(linear regression model)(linear regression model)1、描述因變量描述因變量 y 如何依賴(lài)于自變量如何依賴(lài)于自變量 x 和和誤差項(xiàng)誤差項(xiàng) 的方程稱(chēng)為的方程稱(chēng)為回歸模型回歸模型2、一元線性一元線性回歸模型可表示為回歸模型可表示為 y = b b0 0 + + b b1 1 x +

8、+ 注：線性部分反映了由于注：線性部分反映了由于x x的變化而引起的的變化而引起的y y的變的變化；誤差項(xiàng)化；誤差項(xiàng) 反映了除反映了除x x和和y y之間的線性關(guān)系之之間的線性關(guān)系之外的隨機(jī)因素對(duì)外的隨機(jī)因素對(duì)y y的影響，它是不能由的影響，它是不能由x x和和y y之之間的線性關(guān)系所解釋的變異性。間的線性關(guān)系所解釋的變異性。Y Y是是x x 的線性函數(shù)的線性函數(shù)( (部分部分) )加上誤差項(xiàng)加上誤差項(xiàng)b b0 0 和和 b b1 1 稱(chēng)為模稱(chēng)為模型的參數(shù)型的參數(shù)誤差項(xiàng)誤差項(xiàng) 是隨機(jī)是隨機(jī)變量變量一元線性回歸模型（基本假定）一元線性回歸模型（基本假定）1、因變量、因變量x與自變量與自變量y之間

9、具有之間具有線性線性關(guān)系關(guān)系2、在重復(fù)抽樣中，自變量、在重復(fù)抽樣中，自變量x的取值的取值是固定的，即是固定的，即假定假定x是非隨機(jī)的是非隨機(jī)的3 、誤差項(xiàng)、誤差項(xiàng) 滿足條件滿足條件誤差項(xiàng)誤差項(xiàng) 滿足條件滿足條件l正態(tài)性正態(tài)性。 是是一個(gè)服從正態(tài)分布的隨機(jī)變量，一個(gè)服從正態(tài)分布的隨機(jī)變量，且期望值為且期望值為0，即，即 N(0 , 2 ) 。對(duì)于一個(gè)給定的。對(duì)于一個(gè)給定的 x 值，值，y 的期望值為的期望值為E(y)=b b0+ b b1xl方差齊性方差齊性。對(duì)于所有的。對(duì)于所有的 x 值，值， 的方差一個(gè)特定的方差一個(gè)特定的值，的方差也都等于的值，的方差也都等于 2 都相同。同樣，一個(gè)特定都相

10、同。同樣，一個(gè)特定的的x 值，值， y 的方差也都等于的方差也都等于 2l獨(dú)立性獨(dú)立性。獨(dú)立性意味著對(duì)于一個(gè)特定的。獨(dú)立性意味著對(duì)于一個(gè)特定的 x 值，值，它所對(duì)應(yīng)的它所對(duì)應(yīng)的與其他與其他 x 值所對(duì)應(yīng)的值所對(duì)應(yīng)的不相關(guān)；對(duì)于一不相關(guān)；對(duì)于一個(gè)特定的個(gè)特定的 x 值，它所對(duì)應(yīng)的值，它所對(duì)應(yīng)的 y 值與其他值與其他 x 所對(duì)應(yīng)的所對(duì)應(yīng)的 y 值也不相關(guān)值也不相關(guān)估計(jì)的回歸方程估計(jì)的回歸方程(estimated regression equation)總體總體回歸參數(shù)回歸參數(shù)0和和1是未知的，必須利用樣本數(shù)是未知的，必須利用樣本數(shù)據(jù)去估計(jì)據(jù)去估計(jì)用樣本統(tǒng)計(jì)量用樣本統(tǒng)計(jì)量 和和 代替回歸方程中的未知

11、參代替回歸方程中的未知參數(shù)數(shù)0和和1 ，就得到了，就得到了估計(jì)的回歸方程估計(jì)的回歸方程一元線性回歸中估計(jì)的回歸方程為一元線性回歸中估計(jì)的回歸方程為其中：其中： 是估計(jì)的回歸直線在是估計(jì)的回歸直線在 y 軸上的截距，軸上的截距， 是直線的是直線的斜率，它表示對(duì)于一個(gè)給定的斜率，它表示對(duì)于一個(gè)給定的 x 的值，的值， 是是 y 的估計(jì)值，的估計(jì)值，也表示也表示 x 每變動(dòng)一個(gè)單位時(shí)，每變動(dòng)一個(gè)單位時(shí)， y 的平均變動(dòng)值的平均變動(dòng)值 xy 1b0b+=0by 1b1b0bSPSS 線性回歸分析線性回歸分析n多元線性回歸分析基本結(jié)構(gòu)與一元線性回歸相同。而多元線性回歸分析基本結(jié)構(gòu)與一元線性回歸相同。而他

12、們?cè)谒麄冊(cè)赟PSS下的功能菜單是集成在一起的。下面通過(guò)下的功能菜單是集成在一起的。下面通過(guò)SPSS操作步驟解釋線性回歸分析問(wèn)題。操作步驟解釋線性回歸分析問(wèn)題。SPSS過(guò)程過(guò)程n步驟一：錄入數(shù)據(jù)，選擇分析菜單中的步驟一：錄入數(shù)據(jù)，選擇分析菜單中的Regression=liner 打開(kāi)線性回歸分析對(duì)話框；打開(kāi)線性回歸分析對(duì)話框；n步驟二：選擇被解釋變量和解釋變量。其中因步驟二：選擇被解釋變量和解釋變量。其中因變量列表框中為被解釋變量，自變量為回歸分變量列表框中為被解釋變量，自變量為回歸分析解釋變量。析解釋變量。n注：要對(duì)不同的自變量采用不同引入方法時(shí)，注：要對(duì)不同的自變量采用不同引入方法時(shí)，選選N

13、EXT按鈕把自變量歸入不同自變量塊中。按鈕把自變量歸入不同自變量塊中。n第三步：選擇個(gè)案標(biāo)簽。在變量列表中選擇變第三步：選擇個(gè)案標(biāo)簽。在變量列表中選擇變量至個(gè)案標(biāo)簽中，而被選擇的變量的標(biāo)簽用于量至個(gè)案標(biāo)簽中，而被選擇的變量的標(biāo)簽用于在圖形中標(biāo)注點(diǎn)的值。在圖形中標(biāo)注點(diǎn)的值。n第四步：選擇加權(quán)二乘法（第四步：選擇加權(quán)二乘法（WLS）。在變量列）。在變量列表框中選擇變量至表框中選擇變量至WLS中。但是該選項(xiàng)僅在被中。但是該選項(xiàng)僅在被選變量為權(quán)變量時(shí)選擇。選變量為權(quán)變量時(shí)選擇。n第五步：如果點(diǎn)擊第五步：如果點(diǎn)擊OK，可以執(zhí)行線性回歸分析，可以執(zhí)行線性回歸分析操作。操作。Method選項(xiàng)Enter：強(qiáng)迫

14、引入法，默認(rèn)選項(xiàng)。全部被選變量一次性進(jìn)：強(qiáng)迫引入法，默認(rèn)選項(xiàng)。全部被選變量一次性進(jìn)入回歸模型。入回歸模型。Stepwise：強(qiáng)迫剔除法。每一次引入變量時(shí)，概率：強(qiáng)迫剔除法。每一次引入變量時(shí)，概率F最小最小值的變量將引入回歸方程，如果已引入回歸方程的變量值的變量將引入回歸方程，如果已引入回歸方程的變量的的F大于設(shè)定值，將被剔除回歸方程。當(dāng)無(wú)變量被引入大于設(shè)定值，將被剔除回歸方程。當(dāng)無(wú)變量被引入或剔除，時(shí)終止回歸方程或剔除，時(shí)終止回歸方程Remove：剔除變量。不進(jìn)入方程模型的被選變量剔除。：剔除變量。不進(jìn)入方程模型的被選變量剔除。Backward：向后消去：向后消去Forward：向前引入：向前

15、引入Rule選項(xiàng)n選擇一個(gè)用于指定分析個(gè)案的選擇規(guī)則的變量。選擇一個(gè)用于指定分析個(gè)案的選擇規(guī)則的變量。選擇規(guī)則包括：選擇規(guī)則包括：等于、不等于、大于、小于、大于或等于、小于等于、不等于、大于、小于、大于或等于、小于或等于?；虻扔?。Value中輸入相應(yīng)變量的設(shè)定規(guī)則的臨界值中輸入相應(yīng)變量的設(shè)定規(guī)則的臨界值。Statistics 選項(xiàng)回歸系數(shù)框回歸系數(shù)框估計(jì)值：顯示回估計(jì)值：顯示回歸系數(shù)的估計(jì)值歸系數(shù)的估計(jì)值、回歸系數(shù)的、回歸系數(shù)的標(biāo)準(zhǔn)差、標(biāo)準(zhǔn)化標(biāo)準(zhǔn)差、標(biāo)準(zhǔn)化回歸系數(shù)、回歸回歸系數(shù)、回歸系數(shù)的系數(shù)的的的t t估估計(jì)值和雙尾顯著計(jì)值和雙尾顯著性水平。性水平。置信區(qū)間置信區(qū)間協(xié)方差矩陣協(xié)方差矩陣模型擬

16、合：復(fù)相關(guān)模型擬合：復(fù)相關(guān)系數(shù)、判定系數(shù)、系數(shù)、判定系數(shù)、調(diào)整調(diào)整R R2 2、估計(jì)值的標(biāo)估計(jì)值的標(biāo)準(zhǔn)誤及方差分析準(zhǔn)誤及方差分析R R2 2改變量：增加或刪改變量：增加或刪除一個(gè)自變量產(chǎn)生除一個(gè)自變量產(chǎn)生的改變量的改變量描述性統(tǒng)計(jì)量：變描述性統(tǒng)計(jì)量：變量的均數(shù)、標(biāo)準(zhǔn)差、量的均數(shù)、標(biāo)準(zhǔn)差、相關(guān)系數(shù)矩陣、單相關(guān)系數(shù)矩陣、單尾檢驗(yàn)尾檢驗(yàn)部分及偏相關(guān)系數(shù)：部分及偏相關(guān)系數(shù)：顯示零階相關(guān)、偏顯示零階相關(guān)、偏相關(guān)、部分相關(guān)系相關(guān)、部分相關(guān)系數(shù)數(shù)共線性診斷：顯示共線性診斷：顯示變量容差、方差膨變量容差、方差膨脹因子和共線性的脹因子和共線性的診斷表診斷表殘差統(tǒng)計(jì)量殘差統(tǒng)計(jì)量D-WD-W檢驗(yàn)統(tǒng)計(jì)量：顯示殘差相關(guān)

17、的檢驗(yàn)統(tǒng)計(jì)量：顯示殘差相關(guān)的D-WD-W檢驗(yàn)和殘差與預(yù)測(cè)值的綜述統(tǒng)計(jì)。檢驗(yàn)和殘差與預(yù)測(cè)值的綜述統(tǒng)計(jì)。個(gè)案診斷：個(gè)案診斷：1 1、超過(guò)、超過(guò)n n倍標(biāo)準(zhǔn)差以上的個(gè)案為奇異值；倍標(biāo)準(zhǔn)差以上的個(gè)案為奇異值；2 2、顯示所有變量的標(biāo)準(zhǔn)化、顯示所有變量的標(biāo)準(zhǔn)化殘差、觀測(cè)值和預(yù)測(cè)值、殘差殘差、觀測(cè)值和預(yù)測(cè)值、殘差Plots選項(xiàng)選項(xiàng)該對(duì)話框可以分析資料的正態(tài)性、線性和方差齊性，還該對(duì)話框可以分析資料的正態(tài)性、線性和方差齊性，還可以檢測(cè)奇異值或異常值等。可以檢測(cè)奇異值或異常值等。1 1、因變量、因變量2 2、標(biāo)準(zhǔn)化預(yù)測(cè)值、標(biāo)準(zhǔn)化預(yù)測(cè)值3 3、標(biāo)準(zhǔn)化殘差、標(biāo)準(zhǔn)化殘差4 4、刪除殘差、刪除殘差5 5、調(diào)整預(yù)測(cè)值、

18、調(diào)整預(yù)測(cè)值6 6、StudentStudent殘差殘差7 7、StudentStudent刪除殘差刪除殘差HistogramHistogram：標(biāo)準(zhǔn)化殘差的直方圖，并給出正態(tài)曲線。：標(biāo)準(zhǔn)化殘差的直方圖，并給出正態(tài)曲線。Normal probality plotNormal probality plot：標(biāo)準(zhǔn)化殘差的正態(tài)概率圖：標(biāo)準(zhǔn)化殘差的正態(tài)概率圖Produce all partial plotsProduce all partial plots：產(chǎn)生所有偏殘差圖，生成每個(gè)自變量殘差與因變：產(chǎn)生所有偏殘差圖，生成每個(gè)自變量殘差與因變量殘差的散點(diǎn)圖。量殘差的散點(diǎn)圖。Save對(duì)話框預(yù)測(cè)值預(yù)測(cè)值包括

19、非標(biāo)準(zhǔn)化的預(yù)測(cè)值、包括非標(biāo)準(zhǔn)化的預(yù)測(cè)值、標(biāo)準(zhǔn)化的預(yù)測(cè)值、調(diào)整標(biāo)準(zhǔn)化的預(yù)測(cè)值、調(diào)整預(yù)測(cè)值、預(yù)測(cè)值均數(shù)標(biāo)預(yù)測(cè)值、預(yù)測(cè)值均數(shù)標(biāo)準(zhǔn)誤準(zhǔn)誤距離距離包括自變量個(gè)案值與所包括自變量個(gè)案值與所有個(gè)案平均值距離、一有個(gè)案平均值距離、一個(gè)個(gè)案參與計(jì)算回歸線個(gè)個(gè)案參與計(jì)算回歸線系數(shù)時(shí)，所有個(gè)案殘差系數(shù)時(shí)，所有個(gè)案殘差變化的大小。變化的大小。杠桿值杠桿值殘差殘差非標(biāo)準(zhǔn)化殘差非標(biāo)準(zhǔn)化殘差標(biāo)準(zhǔn)化殘差標(biāo)準(zhǔn)化殘差StudentStudent殘差殘差刪除殘差刪除殘差StudentStudent刪除殘差刪除殘差影響統(tǒng)計(jì)量影響統(tǒng)計(jì)量DFBetaDFBeta值，刪除一個(gè)個(gè)值，刪除一個(gè)個(gè)案后回歸系數(shù)改變的大案后回歸系數(shù)改變的大小。小。

20、標(biāo)準(zhǔn)化標(biāo)準(zhǔn)化DfBetaDfBetaDfFitDfFit值，擬合值之差值，擬合值之差標(biāo)準(zhǔn)化標(biāo)準(zhǔn)化DfFit協(xié)方差矩陣的比率協(xié)方差矩陣的比率預(yù)測(cè)區(qū)間預(yù)測(cè)區(qū)間平均預(yù)測(cè)區(qū)間平均預(yù)測(cè)區(qū)間個(gè)體預(yù)測(cè)區(qū)間個(gè)體預(yù)測(cè)區(qū)間Options選項(xiàng)逐步回歸方法準(zhǔn)則逐步回歸方法準(zhǔn)則使用使用F F顯著水平值顯著水平值EntryEntry：當(dāng)候選變量中最大：當(dāng)候選變量中最大F F值概值概率小于等于引入值時(shí)，引入相應(yīng)率小于等于引入值時(shí)，引入相應(yīng)變量。變量。Removal:Removal:剔除相應(yīng)變量剔除相應(yīng)變量實(shí)例分析例：某單位對(duì)8名女工進(jìn)行體檢，體檢項(xiàng)目包括體重和肺活量，數(shù)據(jù)如下： 利用回歸分析描述其關(guān)系。體重42424646

21、46505050肺活量2.552.22.752.42.82.813.413.1結(jié)果分析結(jié)果分析n描述性統(tǒng)計(jì)量相關(guān)系數(shù)相關(guān)系數(shù)n表中表中Pearson相關(guān)系數(shù)為相關(guān)系數(shù)為0.613，單尾顯著性檢，單尾顯著性檢驗(yàn)的概率驗(yàn)的概率p值為值為0.000，小于，小于0.05.所以體重和肺所以體重和肺活量之間具有活量之間具有較強(qiáng)的相關(guān)性較強(qiáng)的相關(guān)性引入或剔除變量表引入或剔除變量表n表中顯示回歸分析的方法以及變量被剔除或引表中顯示回歸分析的方法以及變量被剔除或引入的信息。入的信息。Method項(xiàng)為項(xiàng)為Enter，表明顯示回歸，表明顯示回歸方法用得是強(qiáng)迫引入法引入變量。這里自變量方法用得是強(qiáng)迫引入法引入變量。這

22、里自變量只有一個(gè)，所以此表意義不大。只有一個(gè)，所以此表意義不大。模型摘要模型摘要n兩變量相關(guān)系數(shù)為兩變量相關(guān)系數(shù)為0.6130.613，判定系數(shù)為，判定系數(shù)為0.3750.375，調(diào)整判定系數(shù)為調(diào)整判定系數(shù)為0.3520.352，估計(jì)值的標(biāo)準(zhǔn)誤差為，估計(jì)值的標(biāo)準(zhǔn)誤差為360.997360.997方差分析表方差分析表n該表為回歸分析的方差分析表。可以看出回歸的均方為該表為回歸分析的方差分析表?？梢钥闯龌貧w的均方為2115016.2032115016.203，剩余的均方為，剩余的均方為130318.685130318.685，F(xiàn) F檢驗(yàn)統(tǒng)計(jì)量檢驗(yàn)統(tǒng)計(jì)量的觀察值為的觀察值為16.23016.230，

23、p p值為值為0.0000.000小于小于0.050.05，可以認(rèn)為體，可以認(rèn)為體重和肺活量之間存在線性關(guān)系。重和肺活量之間存在線性關(guān)系?；貧w系數(shù)n下表給出了回歸方程中的參數(shù)和常數(shù)項(xiàng)的估計(jì)下表給出了回歸方程中的參數(shù)和常數(shù)項(xiàng)的估計(jì)值。其中常數(shù)項(xiàng)系數(shù)為值。其中常數(shù)項(xiàng)系數(shù)為405.819，回歸系數(shù)為，回歸系數(shù)為47.835，線性回歸參數(shù)的標(biāo)準(zhǔn)誤差為，線性回歸參數(shù)的標(biāo)準(zhǔn)誤差為11.874，標(biāo)準(zhǔn)化回歸系數(shù)為標(biāo)準(zhǔn)化回歸系數(shù)為0.613，回歸系數(shù)，回歸系數(shù)t檢驗(yàn)的檢驗(yàn)的t統(tǒng)統(tǒng)計(jì)量觀察值為計(jì)量觀察值為4.029，t檢驗(yàn)的檢驗(yàn)的p值為值為0.00，小于，小于0.05可以認(rèn)為回歸系數(shù)有顯著意義可以認(rèn)為回歸系數(shù)有顯

24、著意義回歸診斷回歸診斷n下表對(duì)全部的觀察單位進(jìn)行回歸診斷，結(jié)果表明，下表對(duì)全部的觀察單位進(jìn)行回歸診斷，結(jié)果表明，每一例的標(biāo)準(zhǔn)化殘差、因變量觀測(cè)值和預(yù)測(cè)值以每一例的標(biāo)準(zhǔn)化殘差、因變量觀測(cè)值和預(yù)測(cè)值以及殘差及殘差殘差統(tǒng)計(jì)量殘差統(tǒng)計(jì)量n表中顯示了預(yù)測(cè)值、標(biāo)準(zhǔn)化預(yù)測(cè)值、殘差、標(biāo)準(zhǔn)表中顯示了預(yù)測(cè)值、標(biāo)準(zhǔn)化預(yù)測(cè)值、殘差、標(biāo)準(zhǔn)化殘差等統(tǒng)計(jì)量的最小值、最大值、均數(shù)、標(biāo)準(zhǔn)化殘差等統(tǒng)計(jì)量的最小值、最大值、均數(shù)、標(biāo)準(zhǔn)差差回歸標(biāo)準(zhǔn)化殘差的直方圖回歸標(biāo)準(zhǔn)化殘差的直方圖n在回歸標(biāo)準(zhǔn)化在回歸標(biāo)準(zhǔn)化殘差的直方圖殘差的直方圖中，正態(tài)曲線中，正態(tài)曲線也被顯示，用也被顯示，用來(lái)判斷標(biāo)準(zhǔn)化來(lái)判斷標(biāo)準(zhǔn)化殘差是否呈正殘差是否呈正態(tài)分布態(tài)

25、分布回歸標(biāo)準(zhǔn)化的正態(tài)回歸標(biāo)準(zhǔn)化的正態(tài)P-P圖圖n圖中給出了觀圖中給出了觀察值的殘差分察值的殘差分布與假設(shè)的正布與假設(shè)的正態(tài)分布比較，態(tài)分布比較，如果標(biāo)準(zhǔn)化殘如果標(biāo)準(zhǔn)化殘差呈正態(tài)分布，差呈正態(tài)分布，則標(biāo)準(zhǔn)化殘差則標(biāo)準(zhǔn)化殘差點(diǎn)應(yīng)該分布在點(diǎn)應(yīng)該分布在直線上或靠近直線上或靠近直線直線因變量與回歸標(biāo)準(zhǔn)化預(yù)因變量與回歸標(biāo)準(zhǔn)化預(yù)測(cè)值的散點(diǎn)圖測(cè)值的散點(diǎn)圖n其中橫坐標(biāo)其中橫坐標(biāo)變量為標(biāo)準(zhǔn)變量為標(biāo)準(zhǔn)化預(yù)測(cè)值化預(yù)測(cè)值數(shù)據(jù)編輯窗口新增變量數(shù)據(jù)編輯窗口新增變量n從表中可以看到非標(biāo)準(zhǔn)化預(yù)測(cè)值，非標(biāo)準(zhǔn)化殘從表中可以看到非標(biāo)準(zhǔn)化預(yù)測(cè)值，非標(biāo)準(zhǔn)化殘差，預(yù)測(cè)值均數(shù)的標(biāo)準(zhǔn)誤差，均值的預(yù)測(cè)區(qū)間、差，預(yù)測(cè)值均數(shù)的標(biāo)準(zhǔn)誤差，均值的預(yù)測(cè)區(qū)

26、間、個(gè)體預(yù)測(cè)區(qū)間。個(gè)體預(yù)測(cè)區(qū)間。n在十九世紀(jì)四、五十年代，蘇格蘭物理學(xué)在十九世紀(jì)四、五十年代，蘇格蘭物理學(xué)家家James D.ForbesJames D.Forbes，試圖通過(guò)水的沸點(diǎn)來(lái)，試圖通過(guò)水的沸點(diǎn)來(lái)估計(jì)海拔高度。由于可以通過(guò)氣壓來(lái)估計(jì)估計(jì)海拔高度。由于可以通過(guò)氣壓來(lái)估計(jì)海拔，他在阿爾卑斯山以及蘇格蘭收集了海拔，他在阿爾卑斯山以及蘇格蘭收集了沸點(diǎn)及海拔的數(shù)據(jù)如表所示?，F(xiàn)在通過(guò)線沸點(diǎn)及海拔的數(shù)據(jù)如表所示?，F(xiàn)在通過(guò)線形回歸擬合氣壓與沸點(diǎn)的關(guān)系。形回歸擬合氣壓與沸點(diǎn)的關(guān)系。 散點(diǎn)圖散點(diǎn)圖n執(zhí)行【Analyze】/【Regression】/【Linear】命令,彈出【Linear】對(duì)話框 程序程

27、序n結(jié)果解讀結(jié)果解讀n模型擬合度檢驗(yàn)n方差分析表n回歸分析結(jié)果對(duì)殘差統(tǒng)計(jì)量的分析對(duì)殘差統(tǒng)計(jì)量的分析n數(shù)據(jù)中無(wú)離群值，且數(shù)據(jù)的標(biāo)準(zhǔn)差比較小，數(shù)據(jù)中無(wú)離群值，且數(shù)據(jù)的標(biāo)準(zhǔn)差比較小，可以認(rèn)為模型是健康的?？梢哉J(rèn)為模型是健康的。n殘差統(tǒng)計(jì)量檢驗(yàn)多元線性回歸的例子多元線性回歸的例子n某大型金融機(jī)構(gòu)中做了一項(xiàng)關(guān)于雇員對(duì)其主管滿意度的調(diào)查，某大型金融機(jī)構(gòu)中做了一項(xiàng)關(guān)于雇員對(duì)其主管滿意度的調(diào)查，其中一個(gè)問(wèn)題設(shè)計(jì)為對(duì)主管的工作業(yè)績(jī)的綜合評(píng)價(jià)，另外若其中一個(gè)問(wèn)題設(shè)計(jì)為對(duì)主管的工作業(yè)績(jī)的綜合評(píng)價(jià)，另外若干個(gè)問(wèn)題涉及主管與其雇員間相互關(guān)系的具體方面。該研究干個(gè)問(wèn)題涉及主管與其雇員間相互關(guān)系的具體方面。該研究試圖解釋主

28、管性格與雇員對(duì)其整體滿意度之間的關(guān)系。試圖解釋主管性格與雇員對(duì)其整體滿意度之間的關(guān)系。n雇員對(duì)其主管滿意度的調(diào)查模型擬合度檢驗(yàn)?zāi)Ｐ蛿M合度檢驗(yàn)方差分析方差分析回歸分析結(jié)果回歸分析結(jié)果n擬合結(jié)果為：Y=A*X1+B*X2+C*X3+D ?n結(jié)果解讀 剔除變量列表n共線性檢驗(yàn)指標(biāo)n共線性檢驗(yàn)結(jié)果第四部分第四部分 曲線估計(jì)曲線估計(jì)n基本原理基本原理 兩變量之間的關(guān)系并不總是以線性形式表兩變量之間的關(guān)系并不總是以線性形式表現(xiàn)出來(lái)的，更多的時(shí)候呈現(xiàn)出非線性關(guān)系，利現(xiàn)出來(lái)的，更多的時(shí)候呈現(xiàn)出非線性關(guān)系，利用圖形可表示為曲線。用圖形可表示為曲線。 對(duì)非線性關(guān)系無(wú)法直接通過(guò)建立線性回歸對(duì)非線性關(guān)系無(wú)法直接通過(guò)建

29、立線性回歸模型解決。雖然如此。但仍然存在一些非線性模型解決。雖然如此。但仍然存在一些非線性關(guān)系可以通過(guò)變量變換化成線性關(guān)系，并最終關(guān)系可以通過(guò)變量變換化成線性關(guān)系，并最終形成變換后的線性模型。形成變換后的線性模型。SPSS過(guò)程n第一步：錄入數(shù)據(jù)，選擇分析菜單中的第一步：錄入數(shù)據(jù)，選擇分析菜單中的Regression=liner 打開(kāi)線性曲線估計(jì)對(duì)話框。打開(kāi)線性曲線估計(jì)對(duì)話框。n第二步：選擇被解釋變量和解釋變量第二步：選擇被解釋變量和解釋變量n第三步：選擇曲線估計(jì)模型第三步：選擇曲線估計(jì)模型Linear：擬合直線方程，實(shí)際上與Linear過(guò)程的二元直線回歸相同；Quadratic：擬合二次方程Y

30、 = b0+b1t+b2t2；Compound：擬合復(fù)合曲線模型Y =b0X （ b1 ）t ；Growth：擬合等比級(jí)數(shù)曲線模型Y = exp(b0+b1t)；Logarithmic：擬合對(duì)數(shù)方程Y = b0+b1lnt；Cubic：擬合三次方程Y = b0+b1t+b2t2+b3t3；S：擬合S形曲線Y = exp(b0+b1/t)；Exponential：擬合指數(shù)方程Y = b0 exp(b1t)；Inverse：數(shù)據(jù)按Y =b0+b1/t進(jìn)行變換；Power：擬合乘冪曲線模型Y = b0Xb1；Logistic：擬合Logistic曲線模型Y = 1/ （ 1/u + b0（b1）t ） ，如選擇該線型則要求輸入上界。Save選項(xiàng)預(yù)測(cè)個(gè)案，預(yù)測(cè)個(gè)案，用于設(shè)定值用于設(shè)定值變量為時(shí)間變量為時(shí)間序列時(shí)的預(yù)序列時(shí)的預(yù)測(cè)值測(cè)值保存變量保存變量實(shí)例實(shí)例n在不同溫度下，對(duì)金屬?gòu)?qiáng)度進(jìn)行了8次測(cè)試，數(shù)據(jù)如下利用曲線參數(shù)估計(jì)方法分析溫度和強(qiáng)度的關(guān)系溫度 50 100 150 200 250 300 400 500強(qiáng)度0.9770.5660.2840.1720.1280.0720.0290.014結(jié)果分析線性模型的主要結(jié)果線性模型的主要結(jié)果n模型摘要模型摘要n該表顯示模型的擬合情況。其中判定系數(shù)為該表顯示模型的擬合情況。其中判