第8章 多元線性回歸

1、 在許多實際問題中在許多實際問題中, 變量之間的關(guān)系并不都是線性的變量之間的關(guān)系并不都是線性的. 通常通常我們會碰到某些現(xiàn)象的被解釋變量與解釋變量之間呈現(xiàn)某種曲我們會碰到某些現(xiàn)象的被解釋變量與解釋變量之間呈現(xiàn)某種曲線關(guān)系線關(guān)系. 對于曲線形式的回歸問題對于曲線形式的回歸問題, 顯然不能照搬我們前面線性顯然不能照搬我們前面線性回歸的建模方法回歸的建模方法. 本章我們首先討論可化為線性回歸的曲線回本章我們首先討論可化為線性回歸的曲線回歸問題歸問題, 然后討論一種分段回歸方法然后討論一種分段回歸方法, 再討論一般非線性回歸模再討論一般非線性回歸模型的參數(shù)估計方法和建模過程型的參數(shù)估計方法和建模過程.

2、 實際問題中實際問題中, 有許多回歸模型的被解釋變量有許多回歸模型的被解釋變量y與解釋變量與解釋變量x之間的關(guān)系都不是線性的之間的關(guān)系都不是線性的, 其中一些回歸模型通過對自變量或其中一些回歸模型通過對自變量或因變量的函數(shù)變換可以轉(zhuǎn)化為線性關(guān)系因變量的函數(shù)變換可以轉(zhuǎn)化為線性關(guān)系, 利用線性回歸求解未利用線性回歸求解未知參數(shù)知參數(shù), 并作回歸診斷并作回歸診斷. 例如下列模型例如下列模型: xey10 ppxxxy2210 eaeybx bxaey (8.1) (8.2) (8.3) (8.4) xey10 ppxxxy2210 eaeybx bxaey (8.1) (8.2) (8.3) (8.

3、4) 10 xyxex 令令 pixxii, 2 , 1, 令令 ppxxxy22110 bxaylnln取對數(shù)得取對數(shù)得 bayy 10,ln,ln 令令 xy10bxex 令令 b已知時已知時, axyb未知時未知時, 非線性非線性 xey10 ppxxxy2210 eaeybx bxaey (8.1) (8.2) (8.3) (8.4) 乘性誤差項乘性誤差項 加性誤差項加性誤差項 一個非線性回歸模型是否可以線性化一個非線性回歸模型是否可以線性化, 不僅與回歸函數(shù)的不僅與回歸函數(shù)的形式有關(guān)形式有關(guān), 而且與誤差項的形式有關(guān)而且與誤差項的形式有關(guān), 誤差項的形式還可以有其誤差項的形式還可以有

4、其他多種形式他多種形式. (8.3)式與式與(8.4)式的回歸參數(shù)的估計值是有差異的式的回歸參數(shù)的估計值是有差異的. 對于誤對于誤差項的形式差項的形式, 首先應(yīng)該由數(shù)據(jù)的經(jīng)濟意義來確定首先應(yīng)該由數(shù)據(jù)的經(jīng)濟意義來確定, 然后由回歸擬然后由回歸擬合效果作檢驗合效果作檢驗. SPSS軟件中給出了軟件中給出了10種常見的可線性化的曲線回歸方程種常見的可線性化的曲線回歸方程.見表見表8.1. 其中自變量以其中自變量以 t 表示表示. 在對非線性回歸模型線性化時在對非線性回歸模型線性化時, 總是假定誤差項的形式就總是假定誤差項的形式就是能夠使回歸模型線性化的形式是能夠使回歸模型線性化的形式, 為了方便為了

5、方便, 常常省去誤差項常常省去誤差項, 僅寫出回歸函數(shù)的形式僅寫出回歸函數(shù)的形式. 例如例如: xey10 eaeybx (8.1) (8.3) 簡寫為簡寫為 xey10 簡寫為簡寫為 bxaey 過去由于沒有非線性回歸軟件過去由于沒有非線性回歸軟件, 人們總是希望非線性回歸人們總是希望非線性回歸模型可以線性化模型可以線性化, 因而誤差項的形式就假定為可以把模型線性因而誤差項的形式就假定為可以把模型線性化的形式化的形式. 現(xiàn)在利用計算機軟件可以容易地解決非線性回歸問現(xiàn)在利用計算機軟件可以容易地解決非線性回歸問題題, 因而對誤差項形式應(yīng)該做正確的選擇因而對誤差項形式應(yīng)該做正確的選擇. 英文名稱英

6、文名稱中文名稱中文名稱方程形式方程形式LinearLinear線性函數(shù)線性函數(shù)LogarithmLogarithm對數(shù)函數(shù)對數(shù)函數(shù)InverseInverse逆函數(shù)逆函數(shù)QuadraticQuadratic二次曲線二次曲線CubicCubic三次曲線三次曲線PowerPower冪函數(shù)冪函數(shù)CompoundCompound復(fù)合函數(shù)復(fù)合函數(shù)S SS S形函數(shù)形函數(shù)LogisticLogistic邏輯函數(shù)邏輯函數(shù)GrowthGrowth增長曲線增長曲線ExponentExponent指數(shù)函數(shù)指數(shù)函數(shù)tbby10 tbbyln10 tbby/10 2210tbtbby 332210tbtbtbby 1

7、0btby tbby10 /exp10tbby )/1/(110tbbuy exp10tbby exp10tbby u為給定的常數(shù)為給定的常數(shù) 表表8.1 1. 雙曲函數(shù)雙曲函數(shù) baxxy xbay11 2. S形曲線形曲線II xbeay 1 除了以上除了以上SPSS軟件中收入的幾種曲線回歸外軟件中收入的幾種曲線回歸外, 另外還有幾另外還有幾種常用的曲線回歸種常用的曲線回歸: 或?qū)憺榈葍r形式或?qū)憺榈葍r形式 對以上各種曲線回歸對以上各種曲線回歸, 選用選用SPSS的的Regression命令下的命令下的Curve Estimation命令命令, 即可方便地直接擬合各種曲線回歸即可方便地直接擬

8、合各種曲線回歸, 而而不必作任何變量變換不必作任何變量變換.xyO)0, 0( baxyO)0, 0( ba (a) 雙曲函數(shù)雙曲函數(shù) 1雙曲函數(shù)雙曲函數(shù) baxxy xbay11 xyO(b) S形曲線形曲線 2. S形曲線形曲線II xbeay 1a/1)0, 0( ba S形曲線在社會經(jīng)濟等很多領(lǐng)域都有應(yīng)用形曲線在社會經(jīng)濟等很多領(lǐng)域都有應(yīng)用, 例如某種產(chǎn)品例如某種產(chǎn)品的銷售量與時間的關(guān)系的銷售量與時間的關(guān)系, 樹木、農(nóng)作物的生長與時間的關(guān)系等。樹木、農(nóng)作物的生長與時間的關(guān)系等。例例8.1 對對GDP（國內(nèi)生產(chǎn)總值）的擬合。我們選?。▏鴥?nèi)生產(chǎn)總值）的擬合。我們選取GDP指標(biāo)為指標(biāo)為因變量，

9、單位為億元，擬合因變量，單位為億元，擬合GDP關(guān)于時間關(guān)于時間t的趨勢曲線。以的趨勢曲線。以1981年為基準(zhǔn)年，取值年為基準(zhǔn)年，取值 , 1998年年 ，1981-1998年的數(shù)年的數(shù)據(jù)如表據(jù)如表8.2。1 t18 t 表表8.2 應(yīng)用舉例：應(yīng)用舉例： 年份年份ty年份年份ty198119811 14862.44862.419901990101018547.918547.9198219822 25294.75294.719911991111121617.821617.8198319833 35934.55934.519921992121226638.126638.1198419844 4717

10、1717119931993131334634.434634.4198519855 58964.48964.419941994141446759.446759.4198619866 610202.210202.219951995151558478.158478.1198719877 711962.511962.519961996161667884.667884.6198819888 814928.314928.319971997171774462.674462.6198919899 916909.216909.219981998181879395.779395.7首先畫出首先畫出DGP對時間對時

11、間t的散點圖：的散點圖： 1、Curve Estimation 命令命令 方法一：用方法一：用SPSS軟件的軟件的Curve Estimation命令直接計算。命令直接計算。 2、Graphs下的散點圖命令下的散點圖命令 從散點圖看，從散點圖看，DGP大致為大致為指數(shù)函數(shù)形式，從經(jīng)濟學(xué)角度指數(shù)函數(shù)形式，從經(jīng)濟學(xué)角度看，當(dāng)看，當(dāng)GDP 的年增長速度大致的年增長速度大致相同時，其趨勢線就是指數(shù)函相同時，其趨勢線就是指數(shù)函數(shù)形式。數(shù)形式。tbby10 exp10tbby exp10tbby 復(fù)合函數(shù)：復(fù)合函數(shù)： 指數(shù)函數(shù)：指數(shù)函數(shù)： 增長曲線：增長曲線： 等價等價 在本例中，因為復(fù)合函數(shù)的形式與經(jīng)濟

12、意義更相吻合。故在本例中，因為復(fù)合函數(shù)的形式與經(jīng)濟意義更相吻合。故選取復(fù)合函數(shù)。選取復(fù)合函數(shù)。 用用SPSS計算，并與簡單線性回歸作比較：計算，并與簡單線性回歸作比較： 指數(shù)函數(shù)三種等價形式指數(shù)函數(shù)三種等價形式: 1、擬合圖形比較：、擬合圖形比較： M Mo od de el l S Su um mm ma ar ry y a an nd d P Pa ar ra am me et te er r E Es st ti im ma at te es sDependent Variable: y.8561595.228116.000-13374.9222224417.522807.9918819

13、55.313116.0003603.0611301.192417EquationLinearCompoundR SquareFdf1df2Sig.Model SummaryConstantb1Parameter Estimatesty)192417. 1(06.3603 xy522807.4417922222.13374 2、回歸方程比較、回歸方程比較: 線性函數(shù)回歸方程線性函數(shù)回歸方程: 復(fù)合函數(shù)回歸方程復(fù)合函數(shù)回歸方程: A AN NO OV VA A9454779005.11945477900595.228.0001588574273.61699285892.10110433532791

14、7RegressionResidualTotalSum ofSquaresdfMean SquareFSig.A AN NO OV VA A15.005115.0051955.3.000.12278216.00815.12817RegressionResidualTotalSum ofSquaresdfMean SquareFSig.3、殘差平方和的比較、殘差平方和的比較: 線性函數(shù)殘差平方和線性函數(shù)殘差平方和: 復(fù)合函數(shù)的殘差平方和復(fù)合函數(shù)的殘差平方和: 6 .1588574273 SSE122782. 0 SSE注注: 線性化后的殘差平方和線性化后的殘差平方和M Mo od de el l

15、 S Su um mm ma ar ry y a an nd d P Pa ar ra am me et te er r E Es st ti im ma at te es sDependent Variable: y.8561595.228116.000-13374.9222224417.522807.991881955.313116.0003603.0611301.192417EquationLinearCompoundR SquareFdf1df2Sig.Model SummaryConstantb1Parameter Estimates99188. 02 R85615. 02 R4、擬

16、合度比較、擬合度比較: 線性函數(shù)回歸方程線性函數(shù)回歸方程: 復(fù)合函數(shù)回歸方程復(fù)合函數(shù)回歸方程: 注注: 這里的復(fù)決定系數(shù)是按線性化后的回歸模型計算的這里的復(fù)決定系數(shù)是按線性化后的回歸模型計算的, 兩者的兩者的殘差不能直接比殘差不能直接比.怎么比怎么比? （線性化后）（線性化后） 年份年份ty198119811 14862.44862.44296.354296.35566.05566.05320410.5869320410.5869-23729.1-23729.1563072085.1563072085.1198219822 25294.75294.75123.045123.04171.6617

17、1.6629465.9806329465.98063-23296.8-23296.8542742754542742754198319833 35934.55934.56108.86108.8-174.3-174.330382.1249630382.12496-22657-22657513341461.6513341461.6198419844 4717171717284.247284.24-113.2-113.212824.045912824.0459-21420.5-21420.5458839533.9458839533.9198519855 58964.48964.48685.868685

18、.86278.54278.5477586.5194477586.51944-19627.1-19627.1385224624.6385224624.6198619866 610202.210202.210357.210357.2-155-15524013.8174324013.81743-18389.3-18389.3338167825.6338167825.6198719877 711962.511962.512350.112350.1-387.6-387.6150202.4358150202.4358-16629-16629276524971.3276524971.3198819888 8

19、14928.314928.314726.414726.4201.88201.8840754.5228340754.52283-13663.2-13663.2186684127.3186684127.3198919899 916909.216909.21756017560-650.8-650.8423590.5344423590.5344-11682.3-11682.3136477067.9136477067.919901990101018547.918547.920938.920938.9-2391-23915716834.9025716834.902-10043.6-10043.610087

20、4704.4100874704.419911991111121617.821617.824967.924967.9-3350-335011223112.1911223112.19-6973.74-6973.7448633049.5948633049.5919921992121226638.126638.129772.129772.1-3134-31349822213.939822213.93-1953.44-1953.443815927.8343815927.83419931993131334634.434634.435500.835500.8-866.4-866.4750667.754175

21、0667.75416042.866042.8636516156.9836516156.9819941994141446759.446759.442331.842331.84427.64427.619603866.0219603866.0218167.8618167.8633007113733007113719951995151558478.158478.150477.150477.18001800164015474.5264015474.5229886.5629886.56893206468.6893206468.6y yy 2)(yy ie2ie年份年份ty19961996161667884

22、.667884.660189.860189.87694.87694.859209985.3959209985.3939293.0639293.061543944564154394456419971997171774462.674462.671771.371771.32691.32691.37242853.0447242853.04445871.0645871.062104154146210415414619981998181879395.779395.785581.485581.4-6186-618638262645.7238262645.7250804.1650804.16258106267

23、32581062673y yy 2)(yy ie2ie5 .28591 y2169568841812 iie91104335327)(1812 iiyy即有即有 2169568841812 iieSSE91104335327)(1812 iiyySSTSSTSSER 12911043353272169568841 980354076. 0 于是于是 M Mo od de el l S Su um mm ma ar ry y a an nd d P Pa ar ra am me et te er r E Es st ti im ma at te es sDependent Variable: y

24、.8561595.228116.000-13374.9222224417.522807.991881955.313116.0003603.0611301.192417EquationLinearCompoundR SquareFdf1df2Sig.Model SummaryConstantb1Parameter Estimates85615. 02 R4、擬合度比較、擬合度比較: 線性函數(shù)回歸方程線性函數(shù)回歸方程: 復(fù)合函數(shù)回歸方程復(fù)合函數(shù)回歸方程: （線性化后）（線性化后） 980354076. 02 R說明復(fù)合函數(shù)回歸的擬合度比線性回歸的擬合度要好得多。說明復(fù)合函數(shù)回歸的擬合度比線性回歸的

25、擬合度要好得多。 M Mo od de el l S Su um mm ma ar ry y a an nd d P Pa ar ra am me et te er r E Es st ti im ma at te es sDependent Variable: y.8561595.228116.000-13374.9222224417.522807.991881955.313116.0003603.0611301.192417EquationLinearCompoundR SquareFdf1df2Sig.Model SummaryConstantb1Parameter Estimatest

26、y)192417. 1(06.3603 2、回歸方程比較、回歸方程比較: 復(fù)合函數(shù)回歸方程復(fù)合函數(shù)回歸方程: 方法二：線性化求解法。方法二：線性化求解法。 對復(fù)合函數(shù)對復(fù)合函數(shù) 兩端同時取自然對數(shù)，得兩端同時取自然對數(shù)，得 tbby10 10lnlnlnbtby 令令 1100ln,ln,lnbbyy 于是得到于是得到 關(guān)于關(guān)于 t 的線性回歸方程的線性回歸方程 yty10 計算出計算出 的值列在表的值列在表8.2中，中， yyln 用用 對對t 作一元線性回歸，得輸出結(jié)果作一元線性回歸，得輸出結(jié)果8.2: y年份年份tyy = =lnlny年份年份tyy = =lnlny198119811

27、14862.44862.48.4898.48919901990101018547.918547.99.8289.828198219822 25294.75294.78.5748.57419911991111121617.821617.89.9819.981198319833 35934.55934.58.6898.68919921992121226638.126638.110.1910.19198419844 4717171718.8788.87819931993131334634.434634.410.45310.453198519855 58964.48964.49.1019.101199

28、41994141446759.446759.410.75310.753198619866 610202.210202.29.239.2319951995151558478.158478.110.97610.976198719877 711962.511962.59.399.3919961996161667884.667884.611.12611.126198819888 814928.314928.39.6119.61119971997171774462.674462.611.21811.218198919899 916909.216909.29.7369.736199819981818793

29、95.779395.711.28211.282例例8.1 對對GDP（國內(nèi)生產(chǎn)總值）的擬合。我們選?。▏鴥?nèi)生產(chǎn)總值）的擬合。我們選取GDP指標(biāo)為指標(biāo)為因變量，單位為億元，擬合因變量，單位為億元，擬合GDP關(guān)于時間關(guān)于時間t的趨勢曲線。以的趨勢曲線。以1981年為基準(zhǔn)年，取值年為基準(zhǔn)年，取值 , 1998年年 ，1981-1998年的數(shù)年的數(shù)據(jù)如表據(jù)如表8.2。1 t18 t應(yīng)用舉例：應(yīng)用舉例： 表表8.2 Model SummaryModel Summary.996a.992.991.087594Model1RRSquareAdjustedR SquareStd. Error ofthe Es

30、timatePredictors: (Constant), ta. ANOVAANOVAb b15.006115.0061955.695.000a.12316.00815.12817RegressionResidualTotalModel1Sum ofSquaresdfMeanSquareFSig.Predictors: (Constant), ta. Dependent Variable: y1b. CoefficientsCoefficientsa a8.190.043190.120.000.176.004.99644.223.000(Constant)tModel1BStd. Error

31、UnstandardizedCoefficientsBetaStandardizedCoefficientstSig.Dependent Variable: y1a. 176. 0,190. 810 7 .3604190. 800 eeb 1924. 1176. 011 eeb 由由 得得 1100ln,ln,lnbbyy ty)1924. 1(7 .3604 于是于是 多項式回歸模型是一種重要的曲線回歸模型多項式回歸模型是一種重要的曲線回歸模型, 這種模型通這種模型通常容易轉(zhuǎn)化成一般的多元線性回歸來作處理常容易轉(zhuǎn)化成一般的多元線性回歸來作處理, 因而它的應(yīng)用也因而它的應(yīng)用也十分廣泛十分廣泛.

32、 一、幾種常見的多項式回歸模型一、幾種常見的多項式回歸模型回歸模型回歸模型 iiiixxy 2210 2210 xxyni, 2 , 1 或或 稱為稱為一元二階一元二階(或一元二次或一元二次)多項式模型多項式模型. 為了反映回歸系數(shù)所對應(yīng)的自變量次數(shù)的類型為了反映回歸系數(shù)所對應(yīng)的自變量次數(shù)的類型, 我們通常我們通常將多項式回歸模型中的系數(shù)表示成下面模型中的情形將多項式回歸模型中的系數(shù)表示成下面模型中的情形 (8.8) iiiixxy 211101. 一元二次多項式模型一元二次多項式模型 (8.8) iiiixxy 21110上式中的回歸函數(shù)上式中的回歸函數(shù) 是一條拋物線方程是一條拋物線方程,

33、通通常稱為二項式回歸函數(shù)常稱為二項式回歸函數(shù).21110iiixxy 1 線性效應(yīng)系數(shù)線性效應(yīng)系數(shù) 2 二次效應(yīng)系數(shù)二次效應(yīng)系數(shù) iiiiixxxy 311121110 當(dāng)自變量的冪次超過當(dāng)自變量的冪次超過3時時, 回歸系數(shù)的解釋變得困難起來回歸系數(shù)的解釋變得困難起來, 回歸函數(shù)也變得很不穩(wěn)定回歸函數(shù)也變得很不穩(wěn)定, 對回歸模型的應(yīng)用也會受到影響對回歸模型的應(yīng)用也會受到影響. 因因而而, 冪次超過冪次超過3的多項式回歸模型不常使用的多項式回歸模型不常使用. 一元二次和一元三次多項式模型都是只含一個自變量一元二次和一元三次多項式模型都是只含一個自變量x, 在在實際應(yīng)用中實際應(yīng)用中, 我們常遇到含

34、有兩個或兩個以上自變量的情況我們常遇到含有兩個或兩個以上自變量的情況. 2. 一元三次多項式模型一元三次多項式模型 3. 二元二次多項式模型二元二次多項式模型iiiiiiiixxxxxxy 21122222211122110 21122222211122110 xxxxxxy或或 稱為稱為二元二次二元二次(或二元二階或二元二階)多項式回歸模型多項式回歸模型. 交叉乘積項交叉乘積項 表示表示 與與 的交互作用的交互作用, 系數(shù)系數(shù) 通常通常稱為稱為交互影響系數(shù)交互影響系數(shù). 2112xx 1x2x12 二、一個應(yīng)用例子二、一個應(yīng)用例子例例8.2 表表8.3列出的數(shù)據(jù)是關(guān)于列出的數(shù)據(jù)是關(guān)于18個個

35、3544歲經(jīng)理的前兩年平均歲經(jīng)理的前兩年平均年收入年收入x1(美元美元)、風(fēng)險反感度、風(fēng)險反感度x2和人壽保險額和人壽保險額y(千美元千美元). 風(fēng)險反風(fēng)險反感度是根據(jù)發(fā)給每個經(jīng)理的標(biāo)準(zhǔn)調(diào)查表估算得到的，它的數(shù)值感度是根據(jù)發(fā)給每個經(jīng)理的標(biāo)準(zhǔn)調(diào)查表估算得到的，它的數(shù)值越大，風(fēng)險反感度就越高。越大，風(fēng)險反感度就越高。 研究人員想研究給定年齡組內(nèi)的經(jīng)理年平均收入、風(fēng)險反研究人員想研究給定年齡組內(nèi)的經(jīng)理年平均收入、風(fēng)險反感度和人壽保險之間的關(guān)系。研究者預(yù)計，在經(jīng)理的收入和人感度和人壽保險之間的關(guān)系。研究者預(yù)計，在經(jīng)理的收入和人壽保險額之間成立著二次關(guān)系，并有把握地認(rèn)為風(fēng)險反感度對壽保險額之間成立著二次

36、關(guān)系，并有把握地認(rèn)為風(fēng)險反感度對人壽保險額只有線性效應(yīng)，而沒有二次效應(yīng)。但是，研究者對人壽保險額只有線性效應(yīng)，而沒有二次效應(yīng)。但是，研究者對兩個自變量是否對人壽保險額有交互效應(yīng)，心中沒底。因此，兩個自變量是否對人壽保險額有交互效應(yīng)，心中沒底。因此，研究者擬合了一個二階多項式回歸模型研究者擬合了一個二階多項式回歸模型iiiiiiiixxxxxxy 21122222211122110并打算先檢驗是否有交互效應(yīng)并打算先檢驗是否有交互效應(yīng),然后檢驗風(fēng)險反感度的二次效應(yīng)然后檢驗風(fēng)險反感度的二次效應(yīng).序號序號x_i1x_i1x_i2x_i2y_iy_i序號序號x_i1x_i1x_i2x_i2y_iy_i1

37、 166.2966.297 7196196101037.40837.4085 549492 240.96440.9645 56363111154.37654.3762 21051053 372.99672.9961010252252121246.18646.1867 798984 445.0145.016 68484131346.1346.134 477775 557.20457.2044 4126126141430.36630.3663 314146 626.85226.8525 51414151539.0639.065 556567 738.12238.1224 44949161679.3

38、879.381 12452458 835.8435.846 64949171752.76652.7668 81331339 975.79675.7969 9266266181855.97655.9766 6133133 表表8.3 回歸采用逐個引入自變量的方式，這樣可以清楚地看到各回歸采用逐個引入自變量的方式，這樣可以清楚地看到各項對回歸的貢獻，使顯著性檢驗更加明確。項對回歸的貢獻，使顯著性檢驗更加明確。依次引入自變量依次引入自變量 12222121,xxxxx方法如下：方法如下： 在線性回歸對話框中在線性回歸對話框中, 點入點入y與與 , 然后點然后點Block 1 of Next，這樣自變

39、量框變量這空白，再把這樣自變量框變量這空白，再把 同時點入自變量框中，同時點入自變量框中， 然后再點然后再點Block 2 of Next，自變量框又變?yōu)榭瞻?，再把，自變量框又變?yōu)榭瞻?，再?同時點入自變量框中，如此依次引入自變量。同時點入自變量框中，如此依次引入自變量。1x21,xx2121,xxx取顯著性水平取顯著性水平 . 05. 0 方差分析表見下表方差分析表見下表(表表8.4)。 序號序號x_i1x_i1x_i2x_i2y yx_i12x_i12X_i22X_i22x_i1x_i1* *x_i2x_i21 166.2966.297 71961964394.3644394.364494

40、9464.03464.032 240.96440.9645 563631678.0491678.0492525204.82204.823 372.99672.99610102522525328.4165328.416100100729.96729.964 445.0145.016 684842025.92025.93636270.06270.065 557.20457.2044 41261263272.2983272.2981616228.816228.8166 626.85226.8525 51414721.0299721.02992525134.26134.267 738.12238.12

41、24 449491453.2871453.2871616152.488152.4888 835.8435.846 649491284.5061284.5063636215.04215.049 975.79675.7969 92662665745.0345745.0348181682.164682.164101037.40837.4085 549491399.3581399.3582525187.04187.04111154.37654.3762 21051052956.7492956.7494 4108.752108.752121246.18646.1867 798982133.1472133

42、.1474949323.302323.302131346.1346.134 477772127.9772127.9771616184.52184.52141430.36630.3663 31414922.094922.0949 991.09891.098151539.0639.065 556561525.6841525.6842525195.3195.3161679.3879.381 12452456301.1846301.1841 179.3879.38171752.76652.7668 81331332784.2512784.2516464422.128422.128181855.9165

43、5.9166 61331333126.5993126.5993636335.496335.496A AN NO OV VA Af f104474.11104474.107468.471.000a3568.17016223.011108042.317106758.4253379.192623.641.000b1283.8931585.593108042.317107996.8335998.91711070.294.000c45.526143.252108042.317107999.9426999.9648274.003.000d42.422133.263108042.317108005.8521

44、601.1647110.202.000e36.457123.038108042.317RegressionResidualTotalRegressionResidualTotalRegressionResidualTotalRegressionResidualTotalRegressionResidualTotalModel12345Sum ofSquaresdfMean SquareFSig.Predictors: (Constant), x_i1a. Predictors: (Constant), x_i1, x_i2b. Predictors: (Constant), x_i1, x_i

45、2, Xi12c. Predictors: (Constant), x_i1, x_i2, Xi12, Xi22d. Predictors: (Constant), x_i1, x_i2, Xi12, Xi22, x_i1X_i2e. f. 3 .108042 SST457.36 SSE全模型全模型: (3.42) )1/(1/)( pnSSESSRFjj (3.42) 108005108005 合合 計計6/(36/12)=2.006/(36/12)=2.0036366 63/(42/13)=0.933/(42/13)=0.9342423 31238/(45/45)=3851238/(45/

46、45)=385454512381238128312832284228435673567104474104474偏偏F 值值檢驗檢驗系數(shù)系數(shù)殘差平殘差平方和方和偏平方偏平方和和變變 量量 1x12| xx2121,|xxx212122,|xxxx22212121,|xxxxxx1 2 11 22 12 表表8.4 )1/(1/)( pnSSESSRFjj 108005108005 合合 計計6/(36/12)=2.006/(36/12)=2.0036366 63/(42/13)=0.933/(42/13)=0.9342423 31238/(45/45)=3851238/(45/45)=38545

47、4512381238128312832284228435673567104474104474偏偏F 值值檢驗檢驗系數(shù)系數(shù)殘差平殘差平方和方和偏平方偏平方和和變變 量量 1x12| xx2121,|xxx212122,|xxxx22212121,|xxxxxx1 2 11 22 12 表表8.4 對交互影響系數(shù)對交互影響系數(shù) 的顯著性檢驗的偏的顯著性檢驗的偏F 值值=2.00, 臨界值臨界值12 75. 4)12, 1(05. 0 FF 值值=2.0075. 4 說明交互影響系數(shù)說明交互影響系數(shù) 不能通過顯著性檢驗不能通過顯著性檢驗. 即認(rèn)為即認(rèn)為 12 012 回歸模型中不應(yīng)該包含交互作用項回

48、歸模型中不應(yīng)該包含交互作用項 .21xx因此因此, 使用無交互效應(yīng)的模型使用無交互效應(yīng)的模型 iiiiiixxxxy 2222211122110下一步檢驗風(fēng)險反感度的二次效應(yīng)是否存在下一步檢驗風(fēng)險反感度的二次效應(yīng)是否存在. 即檢驗即檢驗 0:220 H108005108005 合合 計計6/(36/12)=2.006/(36/12)=2.0036366 63/(42/13)=0.933/(42/13)=0.9342423 31238/(45/45)=3851238/(45/45)=385454512381238128312832284228435673567104474104474偏偏F 值值

49、檢驗檢驗系數(shù)系數(shù)殘差平殘差平方和方和偏平方偏平方和和變變 量量 1x12| xx2121,|xxx212122,|xxxx22212121,|xxxxxx1 2 11 22 12 表表8.4 對二次效應(yīng)系數(shù)對二次效應(yīng)系數(shù) 的顯著性檢驗的偏的顯著性檢驗的偏F 值值=0.93, 臨界值臨界值22 67. 4)13, 1(05. 0 FF 值值=0.9367. 4 說明二次效應(yīng)系數(shù)說明二次效應(yīng)系數(shù) 也不能通過顯著性檢驗也不能通過顯著性檢驗. 即認(rèn)為即認(rèn)為 22 022 回歸模型中不應(yīng)該包含二次效應(yīng)項回歸模型中不應(yīng)該包含二次效應(yīng)項 .22x決定使用簡化的回歸模型決定使用簡化的回歸模型 iiiiixxx

50、y 211122110下一步進一步檢驗?zāi)昶骄杖氲亩涡?yīng)是否存在下一步進一步檢驗?zāi)昶骄杖氲亩涡?yīng)是否存在. 即檢驗即檢驗 0:110 H108005108005 合合 計計6/(36/12)=2.006/(36/12)=2.0036366 63/(42/13)=0.933/(42/13)=0.9342423 31238/(45/45)=3851238/(45/45)=385454512381238128312832284228435673567104474104474偏偏F 值值檢驗檢驗系數(shù)系數(shù)殘差平殘差平方和方和偏平方偏平方和和變變 量量 1x12| xx2121,|xxx212122

51、,|xxxx22212121,|xxxxxx1 2 11 22 12 表表8.4 對二次效應(yīng)系數(shù)對二次效應(yīng)系數(shù) 的顯著性檢驗的偏的顯著性檢驗的偏F 值值=385, 臨界值臨界值11 60. 4)14, 1(05. 0 FF 值值=38560. 4 說明二次效應(yīng)系數(shù)說明二次效應(yīng)系數(shù) 通過了顯著性檢驗通過了顯著性檢驗. 即認(rèn)為即認(rèn)為 22 011 回歸模型中應(yīng)該包含二次效應(yīng)項回歸模型中應(yīng)該包含二次效應(yīng)項 .21x最后決定使用的回歸模型為最后決定使用的回歸模型為 iiiiixxxy 211122110CoefficientsCoefficientsa a-62.3495.200-11.989.000

52、.840.207.1644.052.0015.685.198.16428.738.000.037.002.78519.515.000(Constant)x_i1x_i2Xi12Model1BStd. ErrorUnstandardizedCoefficientsBetaStandardizedCoefficientstSig.Dependent Variable: y_ia. 得非標(biāo)準(zhǔn)化的回歸模型為得非標(biāo)準(zhǔn)化的回歸模型為 2121037. 0685. 5840. 0349.64xxxy 標(biāo)準(zhǔn)化回歸模型為標(biāo)準(zhǔn)化回歸模型為 *785. 0*164. 0*164. 02121xxxy 研究者決定使用

53、的回歸模型為研究者決定使用的回歸模型為 iiiiixxxy 211122110得非標(biāo)準(zhǔn)化的回歸模型為得非標(biāo)準(zhǔn)化的回歸模型為 2121037. 0685. 5840. 0349.64xxxy 標(biāo)準(zhǔn)化回歸模型為標(biāo)準(zhǔn)化回歸模型為 *785. 0*164. 0*164. 02121xxxy 這樣這樣, 研究者可用這個回歸方程來進一步研究經(jīng)理的年平研究者可用這個回歸方程來進一步研究經(jīng)理的年平均收入和風(fēng)險反感度對人壽保險額的效應(yīng)均收入和風(fēng)險反感度對人壽保險額的效應(yīng). 從標(biāo)準(zhǔn)化回歸系數(shù)從標(biāo)準(zhǔn)化回歸系數(shù)看到看到, 年平均收入的二次效應(yīng)對人壽保險額的影響程度最大年平均收入的二次效應(yīng)對人壽保險額的影響程度最大.

54、由這個例了我們可以看到利用回歸方程分析問題的一些思由這個例了我們可以看到利用回歸方程分析問題的一些思想想, 如回歸系數(shù)的假設(shè)檢驗、交互效應(yīng)、二次效應(yīng)等的實際意如回歸系數(shù)的假設(shè)檢驗、交互效應(yīng)、二次效應(yīng)等的實際意義。義。 多項式回歸常用于分析試驗設(shè)計的數(shù)據(jù)多項式回歸常用于分析試驗設(shè)計的數(shù)據(jù). 在試驗設(shè)計中在試驗設(shè)計中, 目目標(biāo)變量標(biāo)變量y與試驗因子間的函數(shù)關(guān)系往往是未知的與試驗因子間的函數(shù)關(guān)系往往是未知的, 因而常用多項因而常用多項式回歸近似式回歸近似y與試驗因子的關(guān)系與試驗因子的關(guān)系. 在正交設(shè)計與均勻設(shè)計等方法的試驗中在正交設(shè)計與均勻設(shè)計等方法的試驗中, 試驗次數(shù)一般很試驗次數(shù)一般很少少, 而

55、多項式回歸的參數(shù)個數(shù)較多而多項式回歸的參數(shù)個數(shù)較多. 例如三元二次多項式回歸在例如三元二次多項式回歸在考慮全部交互作用時考慮全部交互作用時, 共有共有10個未知參數(shù)個未知參數(shù). 這樣本本容量這樣本本容量n常少常少于未知參數(shù)的數(shù)目于未知參數(shù)的數(shù)目, 這與最小二乘法的要求這與最小二乘法的要求np+1相違背相違背. 不過不過, 我們可以方便地解決這個問題我們可以方便地解決這個問題, 只需采用逐步回歸方法只需采用逐步回歸方法. 請看下面的例題請看下面的例題. 例例8.3 維生素維生素C注射液因長期放置會逐漸變成微黃化，中國藥注射液因長期放置會逐漸變成微黃化，中國藥典規(guī)定可以用焦亞硫酸鈉等作為抗氧劑。本

56、實驗考慮典規(guī)定可以用焦亞硫酸鈉等作為抗氧劑。本實驗考慮3個因素，個因素，分別是分別是EDTA(x1)、無水碳酸鈉、無水碳酸鈉(x2)、焦亞硫酸鈉、焦亞硫酸鈉(x3)，每個因，每個因素各取素各取7個水平，選用個水平，選用 均勻設(shè)計表，均勻設(shè)計表，實驗響應(yīng)變量是吸實驗響應(yīng)變量是吸收度收度y，取值越小越好，取值越小越好，試驗設(shè)計與結(jié)果見表，試驗設(shè)計與結(jié)果見表8.5。)7(47U實驗號實驗號EDTA x1(g)x1(g)無水碳酸鈉無水碳酸鈉x2(g)x2(g)焦亞硫酸鈉焦亞硫酸鈉x3(g)x3(g)吸收度吸收度y1/1/y1 10.000.0030300.60.61.1601.1600.8620.86

57、22 20.020.0238381.21.20.3120.3123.2053.2053 30.040.0446460.40.40.3060.3063.2633.2634 40.060.0626261.01.01.3181.3180.7590.7595 50.080.0834340.20.20.8770.8771.1401.1406 60.100.1042420.80.80.1470.1476.8036.8037 70.120.1250501.41.40.2040.2044.9024.902 表表8.5 直接看的好條件是第直接看的好條件是第6號實驗的條件號實驗的條件, 實驗號實驗號EDTA x1

58、(g)x1(g)無水碳酸鈉無水碳酸鈉x2(g)x2(g)焦亞硫酸鈉焦亞硫酸鈉x3(g)x3(g)吸收度吸收度y1/1/y1 10.000.0030300.60.61.1601.1600.8620.8622 20.020.0238381.21.20.3120.3123.2053.2053 30.040.0446460.40.40.3060.3063.2633.2634 40.060.0626261.01.01.3181.3180.7590.7595 50.080.0834340.20.20.8770.8771.1401.1406 60.100.1042420.80.80.1470.1476.80

59、36.8037 70.120.1250501.41.40.2040.2044.9024.902 表表8.5 下面用回歸分析方法進一步尋找最優(yōu)條件下面用回歸分析方法進一步尋找最優(yōu)條件. 首先做首先做 y 對對 的線性回歸的線性回歸, 得回歸方程為得回歸方程為 321,xxxC Co oe ef ff fi ic ci ie en nt ts sa a2.63.5304.968.016.773.061.068.252.817-.0524.015-.927-3.427.042-.087.274-.077-.319.771(Constant)x1x2x3Model1BStd. ErrorUnstand

60、ardizedCoefficientsBetaStandardizedCoefficientstSig.Dependent Variable: ya. 321087. 00524. 077. 063. 2xxxy A AN NO OV VA Ab b1.2043.4015.218.104a.2313.0771.4356RegressionResidualTotalModel1Sum ofSquaresdfMeanSquareFSig.Predictors: (Constant), x3, x2, x1a. Dependent Variable: yb. F檢驗的檢驗的P值值=0.104. M