利用 SPSS 進行Logistic 回歸分析

利用SPSS進行Logistic回歸分析現(xiàn)實中的很多現(xiàn)象可以劃分為兩種可能，或者歸結(jié)為兩種狀態(tài)，這兩種狀態(tài)分別用0和1表示。如果我們采用多個因素對0－1表示的某種現(xiàn)象進行因果關系解釋，就可能應用到logistic回歸。Logistic回歸分為二值1ogistic回歸和多值logistic回歸兩類。首先用實例講述二值1ogistic回歸，然后進一步說明多值logistic回歸。在閱讀這部分內(nèi)容之前，最好先看看有關SPSS軟件操作技術的教科書。§&1二值logistic回歸8.1.1數(shù)據(jù)準備和選項設置我們研究2005年影響中國各地區(qū)城市化水平的經(jīng)濟地理因素。城市化水平用城鎮(zhèn)人口比重表征，影響因素包括人均GDP、第二產(chǎn)業(yè)產(chǎn)值比重、第三產(chǎn)業(yè)產(chǎn)值比重以及地理位置。地理位置為名義變量，中國各地區(qū)被分別劃分到三大地帶：東部地帶、中部地帶和西部地帶。我們用各地區(qū)的地帶分類代表地理位置。第一步：整理原始數(shù)據(jù)。這些數(shù)據(jù)不妨錄入Excel中。數(shù)據(jù)整理內(nèi)容包括兩個方面：一是對各地區(qū)按照三大地帶的分類結(jié)果賦值，用0、1表示，二是將城鎮(zhèn)人口比重轉(zhuǎn)換邏輯值，變量名稱為“城市化”。以各地區(qū)2005年城鎮(zhèn)人口比重的平均值45.41%為臨界值，凡是城鎮(zhèn)人口比重大于等于45.41%的地區(qū)，邏輯值用Yes表示，否則用No表示（圖8-1-1）ABCDEFGHIJ地岡常數(shù)項東部中部西部二產(chǎn)比重三產(chǎn)比重人均GDP城曲人口比重城市化北京11000.290.2545443.6933.62Yes天津11000.550.5135783.1975.11Yes河北11000.520.4614782.2637.69No山西10100.560.5112495.0042.11No內(nèi)篆古10100.460.3816330.8247.20Yes遼寧11000.490.4418983.2058.70Yes吉林10100.440.3313343.0052.52Yes黒龍江10100.540.4914434.0653.10Yes上海11000.490.4551474.0089.09Yes圖8-1-1原始數(shù)據(jù)（Excel中，局部）將數(shù)據(jù)拷貝或者導入SPSS的數(shù)據(jù)窗口（DataView）中（圖8-1-2）。區(qū)地項數(shù)常部東部中部西二B--比二——-B--比三Ja市城北京天津----OO.2957-263.85Y----OO.51--75.5Y匕JJ-可----OO.526937ON西蒙山內(nèi)--O--O%.51--42.1ON--O--O.468320475￥寧遼----OO.49.44708.35￥林龍海吉黑上--O--O.448325235￥--O--O.54.49O--3.5SY----OO.49.45099.8SY

慶二B----OO--11335ONlll--OO--.42.34jlj3.3ON--OO--.426387&2ON南云--OO--11.34.509.2ON藏西土--OO--.250756&2ON--OO--.50.422337ON--OO--.43530230.0ON酣海夏疆曰青寧薪--OO--.4983529.3ON--OO--832S42ON--OO--.45.37537.1ON圖8-1-2中國31個地區(qū)的數(shù)據(jù)（SPSS中，局部）第二步：打開“聚類分析”對話框。沿著主菜單的“Analyze—Regression—BinaryLogisticK”的路徑（圖8-1-3）打開二值Logistic回歸分析選項框（圖8-1-4）。圖8-1-3打開二值Logistic回歸分析對話框的路徑對數(shù)據(jù)進行多次擬合試驗，結(jié)果表明，像二產(chǎn)比重、三產(chǎn)比重等對城市化水平影響不顯著。至于反映地區(qū)位置的分類變量，不宜一次性的全部引入，至多引入兩個，比方說東部和中部。通過嘗試，發(fā)現(xiàn)引入中部地帶為變量比較合適。因此，為了實例的典型性，我們采用兩個變量作為自變量：一是數(shù)值變量人均GDP,二是分類變量中部地帶。

圖8-1-4Logistic回歸分析選項框第三步：選項設置。首先，在源變量框中選中需要進行分析的變量，點擊右邊的箭頭符號，將需要的變量調(diào)入Dependent（因變量）和Covariates（協(xié)變量）列表框中（圖8-1-5）。在本例中，將名義變量“城市化”調(diào)入Dependent（因變量）列表框，將“人均GDP”和“中部”調(diào)入Covariates（協(xié)變量）列表框中。在Method（方法）一欄有七個選項。采用第一種方法，即系統(tǒng)默認的強迫回歸方法（Enter）。圖8-1-5Logistic回歸分析的初步設置接下來進行如下4項設置：

1.設置Categorical（分類）選項：定義分類變量（圖8-1-6）。將中部調(diào)入CategoricalCovariates（分類協(xié)變量）列表框，其余選項取默認值即可。完成后，點擊Continue繼續(xù)。圖8-1-6定義分類變量選項2.設置Save（保存）選項：決定保存到DataView的計算結(jié)果（圖8-1-7）。選中Leveragevalues、DfBeta（s）、Standardized和Deviance四項。完成后，點擊Continue繼續(xù)。圖8-1-7Logistic回歸分析的存儲選項3.設置Options:有三個選項區(qū)（圖8-1-5）。第一個是StatisticsandPlots（統(tǒng)計和畫圖）選項，包括六種可以兼容的選擇（復選項）。選中Classificationplots、Hosmer-Lemeshowgoodness-of-fit和CIforexp（B）三個選項。第二個是Display（顯示）選項，選擇Atlaststep（最后一步），這樣，輸出結(jié)果將僅僅給出最終結(jié)果，而省略每一步的計算過程。由于我們采用強迫回歸，ProbabilityforStepwise（逐步回歸概率）選項可以不管。

圖8-1-8Logisti回歸分析的選項設置此外還有一個選項需要說明。一是Classificationcutoff（分類臨界值），默認值為0.5,即按四舍五入的原則將概率預測值化為0或者1。如果將數(shù)值改為0.6，則大于等于0.6的概率值才表示為1,否則為0。其情況余依此類推。二是MaximumIterations（最大迭代值），規(guī)定系統(tǒng)運算的迭代次數(shù)，默認值為20次，為安全起見，我們將迭代次數(shù)增加到50。原因是，有時迭代次數(shù)太少，計算結(jié)果不能真正收斂。三是Includeconstantinmodel（模型中包括常數(shù)項），即模型中保留截距。除了迭代次數(shù)之外，其余兩個選項均采用系統(tǒng)默認值。完成后，點擊Continue繼續(xù)。8.1.2結(jié)果解讀全部選項設置完畢以后，點擊如圖8-1-5所示的OK按鈕確定，即可得到Logistic回歸分析結(jié)果。輸出結(jié)果可以分為三大部分，下面逐一說明。1.CaseProcessingSummary（樣品處理摘要）。在輸出結(jié)果中，首先給出樣品處理摘要報告，包括如下信息：選擇了多少樣品，沒有選擇的有多少樣品；在選擇的樣品里，分析多少樣品，缺失了多少樣品——缺失樣品一般是因為數(shù)據(jù)中存在缺失值；選擇的樣品總數(shù)以及全體樣品總數(shù)（圖8-1-9）。用N表示各類樣品數(shù)目，Percent表示各類樣品的百分比。在正常情況下，這些信息對我們的分析沒有什么用處。但是，如果樣本很大并且構(gòu)成很復雜，涉

及到樣品的取舍或者數(shù)據(jù)缺失的時候，這些信息就很重要，會為后面的分析提供很大方便。CaseProcessingSummaryUnweightedCases0NPercentSelectedCasesIncludedinAnalysis31100.0MissingCases0.0Total31100.0UnselectedCases0.0Total31100.0a.Ifweightisineffect,weeclassificationtableforthetotal!numberofcases.圖8-1-9樣品處理摘要2.DependentVariableEncoding（因變量編碼）。這是很重要的信息，告訴我們對不同城市化水平地區(qū)的分類編碼結(jié)果（圖8-1-10）。我們開始根據(jù)全國各地區(qū)的平均結(jié)果45.41分為兩類：大于等于45.41的地區(qū)用Yes表示，否則用No表示?，F(xiàn)在，圖8-1-10顯示，Yes用0表示，No用1表示。也就是說，在這次SPSS分析過程中，0代表城市化水平高于平均值的狀態(tài)，1代表城市化水平低于平均值的狀態(tài)。記住這個分類。DependentVariableEncodingOriqinalValueInternalValueYesNo0圖8-1-10因變量編碼3.CategoricalVariablesCodings（分類變量編碼）。我們的自變量中涉及到代表不同地域類型的名義變量（圖8-1-11）。在我們開始的分類中，屬于中部用1表示，否則用0表示。但是，SPSS改變了這種編碼，原來的0改用1表示，原來的1改用0表示。也就是說，在這次SPSS分析過程中，0代表屬于中部的地區(qū)，1代表不屬于中部的地區(qū)。記住這個分類對后面開展預測分析非常重要。CategoricalVariablesCodingsFrequencyParamete⑴叩部0221.00019.000圖8-1-11分類變量編碼4.ClassificationTable（初始分類表）。Logistic建模如同其他很多種建模方式一樣，首先對模型參數(shù)賦予初始值，然后借助迭代計算尋找最佳值。以誤差最小為原則，或者以最大似然為原則，促使迭代過程收斂。當參數(shù)收斂到穩(wěn)定值之后，就給出了我們需要的比較理想的參數(shù)值。下面是用初始值給出的預測和分類結(jié)果（圖8-1-12）。這個結(jié)果主要用于對比，比較模型參數(shù)收斂前后的效果。

ClassificationTabll^：bObservedPredicted城P亍化PercentageCorrectYesNoStepO城帀化 YesNoOverallPercentage01120100.064.5aConstantisincludedinthemodelbThecutvalueis.500圖8-1-12初始預測分類表5.VariableintheEquation（初始方程中的變量）。從這個表中可以看到系統(tǒng)對模型的最初賦值方式（圖8-1-13）。最開始僅僅對常數(shù)項賦值，結(jié)果為B=0.598（復制到Excel可以看來，更精確的數(shù)值為0.597837），標準誤差為S.E.=0.375（復制到Excel可以看來，更精確的數(shù)值為0.375379），于是Wald值為Wald=「0.597837Wald=「0.59783710375379)=2536后面的df為自由度，即df=1；Sig?為P值，Sig.=0.111。注意Sig.值越低越好，一般要求小于0.05。當然，對于Sig.值，我們關注的是最終模型的顯示結(jié)果。Exp（E）是B還原之后數(shù)值,顯然Exp(B)= =1.S18在Excel里，利用指數(shù)函數(shù)exp很容易對B值進行還原。VariablesintheEquationBS.E.WalddfSig.Exp(B)Step0Constant.598.3752.5361.1111818圖8-1-13初始方程中的變量6.VariablenotintheEquation（不在初始方程中的變量）。人均GDP和代表地理位置的中部地帶的系數(shù)初始值設為0，這相當于，在初始模型中不考慮這兩個變量（圖8-1-14）。表中給出了Score檢驗值及其對應的自由度df和P值，即Sig.值。Score檢驗是一種初始檢驗，在建模之初根據(jù)變量之間的結(jié)構(gòu)關系判斷自變量與因變量之間的密切程度。Score檢驗值的計算公式為［士兀?一刃FScorej=—— .乎（1一朮（“一對因變量為0、1值，根據(jù)圖8-1-10所示的編碼原則，令所有的Yes為0,所有的No為1,容易算出y(1-y)=0.645161(1-0.645161)=0.228928.人均GDP已知，中部的編碼法則已知，于是不難算出31 y(GDP-GDP)2=3595636978103.2-1乞仲部廠中部)2=6.387097.,7-1[YG^Cv;-y)]~=12747397078.835.i-1[§中部心廠刃]'=003744T-.將上面的結(jié)果代入Score檢驗值計算公式，立即得到ScoteGDF=15.486,Score；〔誦=0.026.可以看到，人均GDP的Score檢驗值滿足一般的要求，而中部地帶這個變量的數(shù)值偏低。VariablesnotintheEquationScoredfSigStepVariables人iijGDP15.4861.0000中部⑴0261.873aResidualChi-Squaresarenotcomputedbecauseofredundancies圖8-1-14不在初始方程中的變量7.OmnibusTestsofModelCoefficients（模型系數(shù)的混合檢驗）。主要是針對步驟、模塊和模型開展模型系數(shù)的綜合性檢驗（圖8-1-15）。表中給出卡方值及其相應的自由度、P值即Sig.值。取顯著性水平0.05，考慮到自由度數(shù)目df=2，在Excel中的任意單元格輸入公式“=CHIINV（0.05,2）”，回車，就可以查出卡方臨界值5.991。我們計算的卡方值31.187,大于臨界值，并且相應的Sig.值小于0.05,因此在顯著性水平為0.05的情況下，這些檢驗都不成問題。OmnibusTestsofMedelCoefficientsChi-squaredfSiq.Step1Step31.1&72000Block31.1872000Model31.1872000圖8-1-1S模型系數(shù)的綜合檢矗圖8-1-15分類數(shù)目統(tǒng)計

8.ModelSummary（模型摘要）。模型摘要中給出最大似然平方的對數(shù)、Cox-Snell擬合優(yōu)度以及Nagelkerke擬合優(yōu)度值（圖8-l-16a）。最大似然平方的對數(shù)值（-2loglikelihood=9.137）用于檢驗模型的整體性擬合效果，該值在理論上服從卡方分布，上面給出的卡方臨界值5.991，因此，最大似然對數(shù)值檢驗通過。ModelSummaryStep-2LaglikelihoodCox&SnellRSquareNagelkerKeRSquare19.137s.634.872乩Estimationterminatedatiterationnumber10becauseparametestimateschangedbyIe占占than.001.a以人均GDP和中部為自變量的回歸模型摘要ModelSummaryStep-2LoglikelihoodCox&SnellRSquareNagelkeriteRSquare140.324s.000.000乩Estimatianterminatedatiterationnumber3becauseparameterestimateschangedbylessthan.00'1b以常數(shù)項（數(shù)值為1）為自變量的回歸模型摘匿

圖S-1-16數(shù)據(jù)窗口的輸出結(jié)果為了便于理解，有必要解釋一下Cox-Snell擬合優(yōu)度以及Nagelkerke擬合優(yōu)度值與最大似然平方對數(shù)值的關系。為此，我們需要開展一次特殊的logistic回歸。在圖8-1-5所示的選項中，從協(xié)變量（covariates）列表框中剔除人均GDP和中部兩個選項，選中并引入常數(shù)項——對應于常系數(shù)、所有數(shù)值均為1的變量（參加圖8-1-1）。以常數(shù)項為唯一的自變量，其他選項不變，開展logistic回歸，結(jié)果將會給出特別的模型摘要（圖8-1-16b），其-2loglikelihood=40.324為未引入任何真正自變量的最大似然對數(shù)平方值。然后，我們采用下式計算Cox-Snell擬合優(yōu)度容易算出=容易算出=0.634更精確的數(shù)值為0.634332。至于Nagelkerke擬合優(yōu)度，相當于校正后的Cox-Snell擬合優(yōu)度,計算公式為'盤二 ?卬〕 -杠〔疔因此-—*43.32斗1-e31因此，校正后的模型擬合優(yōu)度可以視為0.872。9.HosmerandLemeshowTest（Hosmer和Lemeshow檢驗）。似然比函數(shù)的自然對數(shù)值對樣品數(shù)目很敏感，作為補充和參照，我們需要Hosmer-Lemeshow檢驗（圖8-1-17）。該檢驗依然以卡方分布為標準，但檢驗的方向與常規(guī)檢驗不同：我們要求其卡方值低于臨界值而不是高于臨界值。取顯著性水平0.05，考慮到自由度數(shù)目df=8,在Excel中的任意單元格輸入函數(shù)“=CHIINV（0.05,8）”，回車，理解得到卡方臨界值15.507。作為Hosmer-Lemeshow檢驗的卡方值4.730V15.507,檢驗通過。后面的Sig.值0.786大于0.05，據(jù)此也可以判知Hosmer-Lemeshow檢驗可以通過。HosmerandLemeshowTestStepChi-squaredfSig.14.7308.786圖8-1-17Hosmer-Lemesbon檢駙10.ContingencyTableforHosmerandLemeshowTest（對應于Hosmer-Lemeshow檢驗的列聯(lián)表）。因變量有兩類數(shù)值，即0和1。在正常情況下，我們要求觀測值（observed）與期望值（expected）逐漸趨于接近（圖8-1-18）。我們的計算結(jié)果表明，相應于“城市化=Yes”,期望值逐漸減少到0,與觀測值趨于接近；相應于“城市化-No”，期望值逐漸增加到4,與觀測值也趨于接近。這種結(jié)果是比較理想的，否則，模型的Hosmer-Lemeshow檢驗就不太理想，從而模型的整體擬合效果不是很好。ContiingencyTableforHosmerandLemeshowTest城市化二￥es城illft=NaTotalObservedExpectedObservedExpectedStep133.0000.00031232.9990.0013322.6931.3073431.70901291350.54032.460360.05432.946310.00532.995380.00033000390.00033.0003100.00044.0004圖S-l-LS對應于Hosmer-Leuaeshow檢驗的列聯(lián)表11.ClassificationTable（最終預測分類表）。經(jīng)過迭代運算，模型參數(shù)逐漸收斂到穩(wěn)定值，于是我們得到最終模型參數(shù)。利用最終的logistic模型，可以對因變量進行預測，預測結(jié)果分類列入下表（圖8-1-19）?？梢钥闯?，觀測值Yes有11個（Yes=0），相應的預測值全部是Yes=0，預測正確率為11/11*100%=100%；觀測值No有20個（No=1），相應的預測值有19個No=1,—個Yes=0,也就是說，預測失敗1例，預測正確率為19/（1+19）*100%=95%。總的預測正確率為預測正確率=11-F19預測正確率=11-F1911|0-11I19*100%= *100%=96.8%.全部31個樣品有30個預測正確，一個預測失敗，模型效果良好。ClassificationTabl^ObservedPredicted城市化PercentageCorrectYesNoStepl城幣優(yōu)Yes1101000Na119950OverallPercentage9683.Thecutvalueis.500圖S-L-1.0盤終預測分類表12.VariablesintheEquation（最終模型中的變量）。只要理解圖8-1-13的含義，就不難理解下圖所示的結(jié)果（圖8-1-20）。B對應的是最終模型參數(shù)估計值：常系數(shù)為16.365（更精確的結(jié)果為16.364888），中部的回歸系數(shù)為6.917（更精確的結(jié)果為6.917073），人均GDP的回歸系數(shù)為-0.001（更精確的結(jié)果為-0.001251）。S.E.為相應的標準誤差?；貧w系數(shù)與標準誤差比值的平方就是Wald值，例如其余依此類推。由于不知道Wald的臨界值，我們可以考察后面的Sig.值?？梢钥闯觯Ｏ禂?shù)和人均GDP回歸系數(shù)的置信度達到90%以上，而中部的回歸系數(shù)只有80%以上。這個結(jié)果可以與前面的Score檢驗形成對照。VariablesintheEquationBS.E.Waldatsig.Exp(B)人KJGDP-001.0012.8331.092.9991中部co69174.9551.9491.1631009.361Constant163659.5222.9531.0861E+007aVariable(s)enteredonstep1:人MGDP,屮部圖8-1-20最終方程中的變量最后的Exp（B）是對回歸系數(shù)B值進行指數(shù)運算的結(jié)果，例如其余的數(shù)據(jù)還原依此類推。8.1.3建模與預測將圖8-1-20所示的結(jié)果從SPSS中復制到Excel中，可以看到更精確的數(shù)值，據(jù)此可以建立如下線性關系

z=16.364888+6.917073*中部0.001*人均GDP.將上面的關系式代入下式,得到1=]+0.0000000麗3評*收葉沖冊曲M跡有了上面的式子，就可以對因變量的發(fā)生概率進行預測。需要再次強調(diào)的是，對于名義變量中部，我們用I代表“是”，0代表“非”，而SPSS改為0代表“是”，1代表“非”。對于因變量城市人口比重，我們用Yes代表1（城市化水平高于平均值），用No代表0（城市化水平低于平均值），而SPSS改為相反的表示。明確Tspss的重新編碼過程及其含義，就可以檢驗上述模型的預測效果。首先，在Excel中，將因變量中的名義變量轉(zhuǎn)換為0、1數(shù)值。根據(jù)SPSS的編碼原則（圖8-1-10），所有的Yes表示為0,所有的No表示為1。一個快捷的處理方式是利用if函數(shù)。在與因變量并列的第二個單元格中，即H2中，輸入函數(shù)“=IF（G2="Yes",0,1）”，回車立即得到0;將鼠標指向H2單元格的右下角，待其變成細小黑十字，雙擊或者下拉，得到全部轉(zhuǎn)換結(jié)果（圖8-1-21）。ABCDEFGH1東部中部西部人均GDF城眩人口比重城市優(yōu)城市化2北京10045443.6983.62Yes03天津100357S3.1975.11Yes04河北100147S2.2S37.69No15山西010124P5.0042.11No16內(nèi)蒙古01016330.8247.20Yes07遼寧1001S9S3J05S.70Yes08吉林0101334S.0052.52?es09黒龍江01014434.0653.10Yes010上海10051474.0089.09Yes0圖8-1-21用于預測的數(shù)據(jù)的整理與轉(zhuǎn)換結(jié)果（部分）數(shù)據(jù)整理完成以后，將圖8-1-20所示的表格從SPSS中復制到Excel中，放在將要開展預測的單元格旁邊（圖8-1-22）GHIJKL城市化城市化預測值VariablesintheEquationYes0BS.E.WaldYes0A均GDF-0.0012510.0007432.B32584No1中部⑴6.9170734.9549431.548800No1Constant16.364SSS9.5223922.553479Yes0Vamble(s)entersdonstep1:人均GDP,中韶.Yesa

圖8-1-22將SPSS給出的模型參數(shù)估計值復制到Excel中（局部）根據(jù)數(shù)據(jù)分布的位置，在I2單元格中輸入如下公式（圖8-1-23）：“=1/（1+EXP（-（$K$5+$K$4*（1-C2）+$K$3*E2）））”，回車，立即得到0。將鼠標指向H2單元格的右下角，待其變成細小填充柄，雙擊或者下拉，CDEFGHIJK1中部西部人均GDP城顛人口1城市化城市化預測值VariablesintheEquatioi21 Q 1:45443.69；33.62=l/(l+exp(-($K$5+$K$4*(l-C2)+$K$3怛助)31 o ■35783.1975.11Yes|EXF(nuaber)|人均GDP；-0.001251'40014782.2637.69No1中部⑴:6.917073,51012495.0042.11No1ConstantJ6.364888!61016330.8247.20Yes0Variables)enteredons得到全部預測結(jié)果（圖8-1-24）；將這些數(shù)值四舍五入，所有的預測值都變成0或者1。INDEX〒XM矗=l/(l+exp(-($K$5+$K$4*(l-C2)+$K$3:+:E2)))圖8-1-23預測公式的表達形式注意上面的計算公式中有一個細節(jié)，對應于中部變量的單元格為C2,公式中不是用系數(shù)6.917073（在單元格K4中）直接乘以C2，而是乘以（1-C2）。這樣處理的原因如前所述,SPSS改變了我們的編碼，我們用1表示“是（中部）”，用0表示“非（中部）”。而SPSS將我們的1改編為0,0改編為1（圖8-1-11）。我們用1-C2代替C2，相當于將中部變量的0、1互換，使之與SPSS的編碼一致。ABCDEFGHIl1東韶中