SPSS試驗8-二項Logistic回歸分析培訓(xùn)講學(xué)

1、SPSS作業(yè)8:二項Logistic回歸分析 為研究和預(yù)測某商品消費特點和趨勢，收集到以往胡消費數(shù)據(jù)。數(shù)據(jù)項包括是否購買，性別，年齡和收入水平。這里采用Logistic回歸的方法，是否購 買作為被解釋變量（0/1二值變量），其余各變量為解釋變量，且其中性別和收入水平為品質(zhì)變量，年齡為定距變量。變量選擇采用Enter方法，性別以 男為參照類，收入以低收入為參照類。 （一）基本操作： 11）選擇菜單AnalyzeRegressionBinaryLogistic; （2）選擇是否購買作為被解釋變量到Dependent框中，選其余各變量為解釋變量到Covariates框中，采用Enter方法，結(jié)果如下

2、: 消費的二項Logistic分析結(jié)果（一）（強制進入策略） CategoricalVariablesCodings Frequency Parametercoding (1) (2) 收入低收入 132 .000 .000 中收入 144 1.000 .000 高收入 155 .000 1.000 性別男 191 .000 女 240 1.000 分析：上表顯示了對品質(zhì)變量產(chǎn)生虛擬變量的情況，產(chǎn)生的虛擬變量命名為原變量名（編碼）?？梢钥吹剑瑢κ杖肷闪藘蓚€虛擬變量名為Income（1） 和Income（2）,分別表示是否中收入和是否高收入，兩變量均為0時表示低收入；對性別生成了一個虛擬變量名

3、為Gedder（1）,表示是否女，取值為0 時表不為男。 消費的二項Logistic分析結(jié)果（二）（強制進入策略） Block0:BeginningBlock a,b ClassificationTable Predicted 是否購買 Percentage Observed 不購買 購買 Correct Step0是否購買不購買 269 0 100.0 購買 162 0 .0 OverallPercentage 62.4 a.Constantisincludedinthemodel. b.Thecutvalueis.500 分析：上表顯示了Logistic分析初始階段（第零步）方程中只有常數(shù)

4、項時的錯判矩陣?？梢钥吹剑?69人中實際沒購買且模型預(yù)測正確，正確率為100%; 162人中實際購買了但模型均預(yù)測錯誤，正確率為0%模型總的預(yù)測正確率為62.4%。 消費的二項Logistic分析結(jié)果（三）（強制進入策略） VariablesintheEquation B S.E. Wald df Sig. Exp(B) VariablesintheEquation B S.E. Wald df Sig. Exp(B) Step0Constant -.507 .099 26.002 1 .000 .602 分析：上表顯示了方程中只有常數(shù)項時的回歸系數(shù)方面的指標(biāo)，各數(shù)據(jù)項的含義依次為回歸系數(shù)，回

5、歸系數(shù)標(biāo)準(zhǔn)誤差,度，Wald檢驗統(tǒng)計量的概率p值，發(fā)生比。由于此時模型中未包含任何解釋變量，因此該表沒有實際意義。 消費的二項Logistic分析結(jié)果（四）（強制進入策略） VariablesnotintheEquation Score df Sig. 1 .260 Step0Variablesage 1.268 gender(1) 4.667 1 .031 income 10.640 2 .005 income(1) 2.935 1 .087 income(2) 10.640 1 .001 OverallStatistics 18.273 4 .001 分析：上表顯示了待進入方程的各個變量的

6、情況，各數(shù)據(jù)項的含義依次為Score檢驗統(tǒng)計量的觀測值，自由度和概率p值?？梢钥吹?，如果下一步Age 進入方程，則Score檢驗統(tǒng)計量的觀測值為1.268,概率p值為0.26。如果顯著性水平a為0.05,由于Age的概率p值大于顯著性水平a,所以是不能進 入方程的。但在這里，由于解釋變量的篩選策略為Enter,所以這些變量也被強行進入方程。 Wald檢驗統(tǒng)計量的觀測值，自由 消費的二項Logistic分析結(jié)果（五）（強制進入策略） Block1:Method=Enter OmnibusTestsofModelCoefficients Chi-square df Sig. Step1Step 1

7、8.441 4 .001 Block 18.441 4 .001 Model 18.441 4 .001 分析：上表顯示了Logistic分析第一步時回歸方程顯著性檢驗的總體情況，各數(shù)據(jù)項的含義依次為似然比卡方的觀測值，自由度和概率p值?？梢钥吹?， 在本步所選變量土紡S入方程（Method=Enter）。與前一步相比，似然比卡方檢驗的觀測值18.441，概率p值為0.001。如果顯著性水平a為0.05,由于概 率p值小于顯著性水平a,應(yīng)拒絕零假設(shè)，認(rèn)為所有回歸系數(shù)不同時為0,解釋變量的全體與LogitP之間的線性關(guān)系顯著，采用該模型是合理的。 在這里分別輸出了三行似然比卡方值。其中，Step行

8、是本步與前一步相比的似然卡方比；Block行是本塊（Block）與前一塊相比的似然卡方比；Model 行是本模型與前一模型相比的似然卡方比。在本例中，由于沒有設(shè)置解釋變量塊，且解釋變量是一次性強制進入模型，所以三行結(jié)果都相同。 消費的二項Logistic分析結(jié)果（六）（強制進入策略） ModelSummary Step -2Loglikelihood Cox&SnellR Square NagelkerkeRSquare 1 552.208a .042 .057 a.Estimationterminatedatiterationnumber4becauseparameterestimatesc

9、hangedbylessthan.001. 分析：上表顯示了當(dāng)前模型擬合優(yōu)度方面的指標(biāo)，各數(shù)據(jù)項的含義依次為-2倍的對數(shù)似然函數(shù)值，Cox&SnellRY。-2倍的對數(shù)似然函數(shù)值越小則模型的 擬合優(yōu)度越高。這里該值較大，所以模型的擬合優(yōu)度并不理想。從NagelkerkeRA2也可以看到其值接近零，因此擬合優(yōu)度比較低。 消費的二項Logistic分析結(jié)果（七）（強制進入策略） 分析：上表顯示了當(dāng)前所得模型的錯判矩陣?？梢钥吹?，腳注中的TheCutvalueis.500意味著：如果預(yù)測概率值大于0.5,則認(rèn)為被解釋變量的分類預(yù) 測值為1,如果小于0.5,則認(rèn)為被解釋變量的分類預(yù)測值為0.;在實際沒

10、購買的269人中，模型正確識別了236人，識別錯誤了131人，正確率為19.1%。Observed Predicted 是否購買 Percentage Correct 不購買 購買 Step1是否購買不購買 購買 OverallPercentage 236 131 33 31 87.7 19.1 61.9 a ClassificationTable a.Thecutvalueis.500 模型總的預(yù)測正確率為61.9%。與前一步相比，對未購買的預(yù)測準(zhǔn)確度下降了，對購買的預(yù)測準(zhǔn)確度上升了，但總體預(yù)測精度仍下降了。因此模型預(yù)測 效果并不十分理想。 消費的二項Logistic分析結(jié)果（八）（強制進入

11、策略） VariablesintheEquation B S.E. Wald df Sig. Exp(B) Step1aage gender(1)income income(1) income(2) Constant .025 .511 .101 .787 -2.112 .018 .209 .263 .253 1.974 5.954 12.305 .146 9.676 7.843 1 1 2 1 1 1 .160 .015 .002 .703 .002 1.026 1.667 1.106 2.196 .121 a.Variable（s）enteredonstep1:age,gender,inc

12、ome. 分析：上表顯示了當(dāng)前所得模型中各個回歸系數(shù)方面白指標(biāo)?？梢钥闯?，如果顯著性水平a為0.05,由于Age的Wald檢驗I率p值大于顯著性水平a, 不應(yīng)拒絕零假設(shè)，認(rèn)為該回歸系數(shù)與0無顯著差異，它與LogitP的線性關(guān)系是不顯著的，不應(yīng)保留在方程中。由于方程中包含了不顯著的解釋變量，因 此該模型是不可用的，應(yīng)重新建模。 卜面是對模型做進一步分析，解釋變量的篩選采用基于極大似然估計的逐步篩選策略（二）基本操作： 11）選擇菜單AnalyzeRegressionBinaryLogistic;Forward:LR）,分析的具體操作以及結(jié)果如下: （2）選擇是否購買作為被解釋變量到Depende

13、nt框中，選其余各變量為解釋變量到Covariates框中，采用Forward:LR方法，在Option框中對模型做近 一步分析，結(jié)果如下：消費的二項Logistic分析結(jié)果（一）（逐步篩選策略） Block1:Method=ForwardStepwise(LikelihoodRatio) OmnibusTestsofModelCoefficients Chi-square df Sig. Step1Step 10.543 2 .005 Block 10.543 2 .005 Model 10.543 2 .005 Step2Step 5.917 1 .015 Block 16.459 3 .

14、001 Model 16.459 3 .001 消費的二項Logistic分析結(jié)果（二）（逐步篩選策略） ModelifTermRemoved Variable ModelLogLikelihood Changein-2Log Likelihood df Sig.oftheChange Step1income -285.325 10.543 2 .005 Step2gender -280.053 5.917 1 .015 income -282.976 11.761 2 .003 分析：上面第一個表顯示了變量逐步篩選過程中對數(shù)似然比卡方檢驗的結(jié)果，用于回歸方程的顯著性檢驗。這里略去了第零步分析

15、的結(jié)果。結(jié)果上面的 兩個表共同分析。在Stepl中，模型中包含常數(shù)項和INCOME。如果此時剔除INCOME將使-2LL減少10.543,即10,543是INCOME進入模型引起的， -285.325即為零模型的對數(shù)似然比；在Step2中，模型中包含常數(shù)項，INCOME,GENDER。此時易U除GENDER,即-2LL將減少5.917,即5.917是在Stepl 基礎(chǔ)上GENDER所引起的，-280.053即為Step1模型的對數(shù)似然比，此時-2*285.325+2*280.053=10.543,即INCOME引起的。其他同理?？梢钥吹?，如果顯著性水平a為0.05,由于各步的概率p值均小于顯著

16、性水平a,因此此時模型中的解釋變量全體與LogitP的線性關(guān)系是顯著，模型合理。 消費的二項Logistic分析結(jié)果（三）（逐步篩選策略） VariablesintheEquation B S.E. Wald df Sig. Exp(B) 95.0%C.I.forEXP(B) Lower Upper a Step1 income 10,512 2 .005 income(1) ,006 ,259 ,001 1 ,982 1.006 ,606 1.670 income(2) .672 .247 7.424 1 .006 1.958 1.208 3.174 Constant -.762 .187

17、16,634 1 .000 .467 b Step2 gender(1) .504 .209 5.824 1 .016 1.656 1.099 2.493 income 11,669 2 .003 income(1) .096 .263 .134 1 .714 1.101 .658 1.843 income(2) .761 .251 9.147 1 .002 2.139 1.307 3.502 Constant -1.113 .240 21,432 1 .000 .329 a. Variable(s)enteredonstep1:income. b. Variable(s)enteredons

18、tep2:gender.分析：上表顯示了解釋變量篩選的過程和各解釋變量的回歸系數(shù)檢驗結(jié)果?？梢钥吹?，最終的模型（第二步）中包含了性別和收入變量，各自回歸系數(shù) 顯著性檢驗的Wald觀測值對應(yīng)的概率p值都小于顯著性水平a,因此均拒絕零假設(shè)，意味它們與LogitP的線性關(guān)系是顯著，應(yīng)保留在方程中。表中的第七，第八列分別是發(fā)生比的95%的置信區(qū)間。 最終年齡變量沒有引入方程，因為如果引入則相應(yīng)的Score檢驗的概率p值大于顯著性水平a,不應(yīng)拒絕零假設(shè)，它與LogitP的線性關(guān)系不顯著, 不應(yīng)進入方程。具體結(jié)果如下：消費的二項Logistic分析結(jié)果（四）（逐步篩選策略） Variablesnotint

19、heEquation Score df Sig. Step1Variablesage 1.848 1.174 gender(1) 5.865 1.015 OverallStatistics 7.824 2.020 Step2Variablesage 1.984 1.159 OverallStatistics 1.984 1.159 消費的二項Logistic分析結(jié)果（五）（逐步篩選策略） ModelSummary Step -2Loglikelihood Cox&SnellR Square NagelkerkeRSquare 1 a 560.107 .024 .033 2 b 554.190

20、.037 .051 a. Estimationterminatedatiterationnumber3becauseparameterestimateschangedbylessthan.001. b. Estimationterminatedatiterationnumber4becauseparameterestimateschangedbylessthan.001. 分析： 上表顯示了模型擬合優(yōu)度方面的測度指標(biāo)。 最終模型的NagelkerkeRA2距1較遠(yuǎn)，也說明了模型的擬合優(yōu)度不高。 消費的二項Logistic分析結(jié)果（六）（逐步篩選策略） -2倍的對數(shù)似然函數(shù)值為554.190,仍

21、然較高，說明模型的擬合優(yōu)度不甚理想。同時, HosmerandLemeshowTest Step Chi-square df Sig. 1 .000 1 1.000 2 8.943 4 .063 消費的二項Logistic分析結(jié)果（七）（逐步篩選策略） ContingencyTableforHosmerandLemeshowTest 是否購買 =不購買 是否購買=購買 Total Observed Expected Observed Expected Step11 90 90.000 42 42.000 132 2 98 98.000 46 46.000 144 3 81 81.000 74

22、74.000 155 Step2 1 35 32.363 8 10.637 43 2 58 53.602 15 19.398 73 3 55 57.637 34 31.363 89 4 40 44.398 31 26.602 71 5 37 44.035 38 30.965 75 6 44 36.965 36 43.035 80 分析：上面是Hosmer-Lemeshow檢驗的結(jié)果。最終模型中，Hosmer-Lemeshow統(tǒng)計量的觀測值為8.943,概率p值為0.063,大于顯著性水平a,因此不 應(yīng)拒絕零假設(shè)，認(rèn)為該組的劃分與被解釋變量的取值不相關(guān)，說明模型的擬合優(yōu)度較低。它與Nagelke

23、rkeRA2分析的結(jié)果是一致的。 消費的二項Logistic分析結(jié)果（八）（逐步篩選策略） ClassificationTable Observed Predicted 是否購買 Percentage Correct 不購買 購買 Step1是否購買不購買 269 0 100.0 購買 162 0 .0 OverallPercentage 62.4 Step2是否購買不購買 225 44 83.6 購買 126 36 22.2 OverallPercentage| 60.6| a.Thecutvalueis.500 Stepnumber:2 ObservedGroupsandPredicted

24、Probabilities 160 F R120 E Q U 1 E 80 十 11 1 N 1 11 1 1 C 0 01 1 1 Y 0 01 1 1 40 十 00 00 0 0 00 00 0 0 00 00 0 0 00 00 0 0 Predicted11111 Prob:0.1.2.3.4.5.6.7.8.91 Group:0000000000000000000000000000000000000000000000000011111111111111111111111111111111111111111111111111 PredictedProbabilityisofMembe

25、rshipfor TheCutValueis.50 Symbols:0-不購買 購買 1 -購買 EachSymbolRepresents10Cases. 圖：消費的二項Logistic分析預(yù)測分類圖 分析：上表顯示了各模型的錯判矩陣。第一個模型的總體正確率為62.4%,對不購買人群預(yù)測的準(zhǔn)確率極高，但對購買人群預(yù)測的準(zhǔn)確率極低；第二個模 型的總體正確率為60.6%,對不購買人群預(yù)測的準(zhǔn)確率下降了，但對購買人群預(yù)測的準(zhǔn)確率提高了。從應(yīng)用角度看第二個模型較第一個模型的應(yīng)用性略強 一些。 在上圖中，符號0表示實際未購買，1表示實際購買，一個符號代表10個樣本。預(yù)測概率值大于0.5的樣本屬于購買類，

26、小于0.5的屬于未購買類。 可以看出：在模型預(yù)測出的購買類中，仍有40個左右(4個0,精確值為44)實際未購買；同樣，在模型預(yù)測出的未購買類中，仍有110個左右(11個1,精確值為126)實際購買了。模型的預(yù)測效果并不很理想。 通過以上的分析知道，該模型的預(yù)測效果不很理想。也就是說，僅通過性別和收入來預(yù)測是否購買商品是不全面的，還應(yīng)考慮其他因素。但是該模 型仍可以用于分析是否購買和收入之間的關(guān)系。由上面的分析結(jié)果，可以寫出Logistic回歸方程： LogitP=-1.11+0.504gender(1) LogitP=-1.11+0.504gender(1)+0.096income(1) Lo

27、gitP=-1.11+0.504gender(1)+0.761income(2) 上面的第一個式子反映了女性與男性在購買上的差異。女性較男性使LogitP平均增長0.504個單位。結(jié)合發(fā)生比可知，女性的購買發(fā)生比是男性的 1.656倍，因此女性更傾向購買該商品。進一步分析，上面的第二個式子反映了女性顧客群中中等收入較低等收入在購買上的差異。對于女性顧客群，中等收入較低等收入使LogitP平均增長0.096個單位。結(jié)合發(fā)生比可知，女性顧客群中，中等收入的購買發(fā)生比是低等收入的1.101倍(有95%的把握在 0.658至1.67之間)，略高一些，但差異并不十分明顯。而通過上面的第三個式子可知，對于

28、女性顧客群，高等收入較低等收入使LogitP平均增長0.761 個單位。結(jié)合發(fā)生比可知，女性顧客群中，高等收入的購買發(fā)生比是低等收入的2.139倍(有95%的把握在1.099至2.493之間)，顯然高出較多。因此分 析的結(jié)論是：年齡對是否購買該商品并無顯著影響，較男性來說，女性成為現(xiàn)實客戶的可能性大，且高收入階層較其他收入階層有較高的購買可能。 原始數(shù)據(jù): 是否購買 年齡 性別 收入 1 49 2 3 0 41 2 1 0 46 2 3 0 47 2 1 0 41 2 3 1 41 2 1 0 4 2 3 1 39 2 1 1 4 2 3 0 32 2 1 0 35 2 3, 0 32 2 1

29、 0 4 2 3 0 33 2 1 0 37 2 3 0 45 2 1 1 3 2 3 0 43 2 1 1 4 2 3 0 40 2 1 1 29 2 3 0 39 2 1 1 4 2 3, 1 46 2 1 1 3 2 3 0 38 2 1 0 26 2 3 0 38 2 1 0 30 2 3. 1 44 2 1 1 3 2 3 0 39 2 1 0 35 2 3 0 26 2 1 0 39 2 3. 0 45 2 1 0 2 2 3 0 40 2 1 0 32 2 3 0 35 2 1 0 46 2 3. 1 30 2 1 1 4 2 3 0 44 2 1 0 38 2 3 1 47 2

30、 1 1 42 2 3 1 35 2 1 0 4 2 3 0 36 2 1 0 2 1 1 0 34 2 1 0 58 1 1 1 38 P2 1 0 40 1 P11 0 38 2 1 0 3 1 1 0 47 2 1 0 47 1 1 0 41 P2 1 0 3 1 P1； 0 45 2 1 0 4 1 1 1 37 2 1 0 37 1 1 1 38 r2 1 0 3 1 r1I 1 29 2 1 0 40 1 1 1 40 2 1 0 36 1 1 0 35 r2 1 0 32 1 r1I 0 44 2 1 0 3 1 1 0 39 2 1 1 49 1 1 1 50 2 1 0 38

31、 1 r1I 1 41 2 1 1 3 1 1 0 41 2 1 0 42 1 1 0 40 2 1 0 4 1 1 1 38 2 1 0 38 1 1 1 36 2 1 0 40 1 1 1 37 2 1 0 41 1 1 0 39 2 1 0 4 1 1 0 41 2 1 0 47 1 1 1 33 2 1 1 39 1 1 1 51 2 1 0 3 1 1 0 31 2 1 0 4 1 1 0 31 2 1 0 46 1 1 0 35 P2 1 1 48 1 P11 0 46 2 1 1 38 1 1 1 39 2 1 0 35 1 1 0 47 P2 1 0 38 1 P1； 0 40

32、 2 1 0 3 1 1 1 56 2 1 0 32 1 1 0 36 r2 1 0 2 1 r1I 0 37 2 1 1 4 1 1 0 36 2 1 1 39 1 1 0 44 r2 1 0 4 1 r1I 1 36 2 1 1 48 1 1 0 40 2 1 0 37 1 1 1 38 2 1 0 40 1 r1I 0 35 2 1 0 4 1 1 1 35 2 1 0 42 1 1 0 45 2 1 0 3 1 1 0 41 2 1 0 4 1 2 0 42 2 1 0 45 1 2 1 37 2 1 0 33 1 2 0 55 2 1 0 3 1 2 1 41 2 1 1 33 1

33、2 1 33 2 1 0 42 1 2 1 36 2 1 1 4 1 2 0 33 2 1 0 4 1 2 0 38 2 1 0 35 1 2 0 38 P2 1 0 43 1 P21 0 55 2 1 1 33 1 2 0 50 2 1 0 26 1 2 1 31 P2 1 0 34 1 P21 1 37 2 1 0 4 1 2 1 37 2 1 0 41 1 2 0 38 r2 1 0 3 1 r21 0 41 2 1 0 2 1 2 0 42 2 1 1 45 1 2 1 34 r2 1 0 3 1 r2i 1 31 2 1 0 34 1 2 0 28 2 1 0 39 1 2 1 35

34、 2 1 0 32 1 r2i 1 39 2 2 0 4 1 2 0 39 2 2 0 39 1 2 1 34 2 2 0 3 1 2 1 45 2 2 0 3 1 2 0 41 2 2 0 45 1 2 0 42 2 2 0 39 1 2 0 46 2 2 0 4 1 2 0 42 2 2 0 47 1 2 0 33 2 2 0 46 1 2 1 47 2 2 1 3 1 2 1 39 2 2 1 3 1 2 0 41 2 2 0 31 1 2 0 33 P2 2 0 34 1 P21 0 43 2 2 1 33 1 2 1 31 2 2 0 38 1 2 1 43 P2 2 1 43 1

35、P21 0 45 2 2 0 4 1 2 1 48 2 2 1 47 1 2 0 40 r2 2 0 4 1 r21 1 35 2 2 1 3 1 2 0 33 2 2 1 38 1 2 1 34 r2 2 0 3 1 r2i 1 43 2 2 1 35 1 2 0 35 2 2 0 34 1 2 1 31 2 2 0 33 1 r2i 0 48 2 2 0 4 1 2 1 36 2 2 0 39 1 2 0 39 2 2 0 4 1 2 0 37 2 2 1 4 1 2 0 40 2 2 0 37 1 2 0 39 2 2 0 41 1 2 1 44 2 2 0 4 1 2 0 35 2 2

36、 0 29 1 2 0 33 2 2 0 40 1 2 1 34 2 2 0 4 1 2 0 50 2 2 0 3 1 2 1 44 2 2 0 49 1 2 0 40 P2 2 0 40 1 P21 0 36 2 2 0 38 1 2 1 41 2 2 0 41 1 2 1 37 P2 2 0 35 1 P21 1 38 2 2 0 3 1 2 0 38 2 2 0 47 1 2 1 41 r2 2 0 3 1 r21 0 36 2 2 0 3 1 2 0 42 2 2 0 40 1 2 1 43 r2 2 1 4 1 r2i 0 43 2 2 0 48 1 2 0 50 2 2 1 43 1 2 0 42 2 2 0 41 1 r2i 0 42 2 2 0 3 1 2 0 38 2 2 0 42 1 3 0 33 2 2 0 3 1 3 0 39 2 2 1 4 1 3 1 41 2 2 0 33 1 3 1 44 2 2 0 37 1 3 0 42 2 2 1 4 1 3 1 33 2 2 0 25 1 3 1 49 2 2