3 虛擬變量與方差分析

營(yíng)銷(xiāo)研討方法

----數(shù)量分析方法周影輝博士zyhmaths@163中山大學(xué)管理學(xué)院市場(chǎng)學(xué)系1問(wèn)題引入例6.在表2-7給出了一些女性曾生子女?dāng)?shù)的數(shù)據(jù)，同時(shí)也給出了她們的年齡，受教育程度和居住地。假設(shè)我們想知道女性的年齡〔AGE〕，文化程度〔EDU，5個(gè)級(jí)別〕及居住地〔AREA，城市和鄉(xiāng)村〕對(duì)其曾生子女?dāng)?shù)的影響，怎樣建模？關(guān)鍵是文化程度和居住地2表2-7CEBAGEEDUAREA1 20 311 22 4 22 24 3 21 25 5 11 28 5 1……3社會(huì)科學(xué)研討中，有許多分類(lèi)變量，如民族，文化程度，性別，公司類(lèi)型，品牌等它們也可以被包含在線(xiàn)性回歸模型中，用以解釋因變量的變化在將它們引入回歸模型之前，必需先將它們轉(zhuǎn)化為虛擬變量〔啞變量〕。為什么？4由于分類(lèi)變量的各類(lèi)根本沒(méi)有定量關(guān)系，不能像間距變量的情形那樣，分析變化一個(gè)單位時(shí)，的平均變化如男〔0〕-----女〔1〕但我們可以以類(lèi)為單位，分析各類(lèi)對(duì)的影響5虛擬變量的建立設(shè)是有個(gè)分類(lèi)的分類(lèi)變量，在數(shù)據(jù)處置時(shí)以不同編碼值代表案例所屬的類(lèi)型用個(gè)取值為0和１的虛擬〔dummy〕變量分別代表各個(gè)類(lèi)的屬性當(dāng)案例屬于一個(gè)虛擬變量所代表的類(lèi)時(shí)，這個(gè)虛擬變量就?。保衲敲慈?分類(lèi)變量：有問(wèn)題嗎？6這個(gè)虛擬變量線(xiàn)性相關(guān)，違背了最小二乘回歸的條件。怎樣處理？取消一個(gè)虛擬變量，即對(duì)有個(gè)分類(lèi)的變量用個(gè)虛擬變量編碼。有沒(méi)有信息損失，為什么？稱(chēng)不設(shè)虛擬變量明確表示的類(lèi)為參照類(lèi)7例6.〔續(xù)〕文化程度(EDU)有5類(lèi)，分別為(1)文盲或半文盲(2)小學(xué)(3)初中(4)高中(5)大學(xué)5類(lèi)需4個(gè)虛擬變量，取(1)為參照類(lèi)，那么虛擬變量取值規(guī)那么如下

8地域(AREA)有兩類(lèi)，分別為(1)城市和(2)鄉(xiāng)村，只用一個(gè)虛擬變量DU就可以了。取鄉(xiāng)村為參照類(lèi)，編碼規(guī)那么為根據(jù)原變量值建立虛擬變量的任務(wù)可以用SPSS數(shù)據(jù)轉(zhuǎn)換功能來(lái)完成SPSSShow！9用表2-7的數(shù)據(jù)建立如下回歸方程回歸結(jié)果如下

方程的為0.96，各變量的回歸系數(shù)均在0.05程度顯著10虛擬變量回歸系數(shù)的意義當(dāng)兩個(gè)分類(lèi)變量都屬于參照類(lèi)時(shí)，一切虛擬變量都取值0，回歸方程(41)可以簡(jiǎn)化為上式為參照類(lèi)女性的曾生子女?dāng)?shù)對(duì)年齡的回歸直線(xiàn)，為直線(xiàn)的截距，為直線(xiàn)的斜率〔表示？〕11當(dāng)受教育程度為小學(xué)，居住地為鄉(xiāng)村時(shí)，方程為(44)是(43)的平行線(xiàn)，但截距添加了，因此是小學(xué)文化程度女性比文盲半文盲女性在一樣的年齡和居住地條件下曾生子女?dāng)?shù)多的部分12表示各類(lèi)別的虛擬變量的回歸系數(shù)表示該類(lèi)別與參照類(lèi)均值之差，因此它又稱(chēng)為差別截距回歸方程〔42〕各系數(shù)的解釋?zhuān)?3如何衡量各個(gè)變量〔組〕作用的大小？用偏確定系數(shù)。分別做不含有〔作為一組，代表EDU〕，AGE和DU的線(xiàn)性回歸，然后根據(jù)〔23〕式，可得表2-814表2-815假設(shè)只關(guān)懷AGE和AREA對(duì)CEB的影響，我們可以做CEB對(duì)AGE和AREA的回歸為什么不建立兩個(gè)線(xiàn)性回歸模型，分別對(duì)城鄉(xiāng)女性擬合她們?cè)优當(dāng)?shù)與其年齡的回歸直線(xiàn)？分別估計(jì)和用虛擬變量回歸將他們合并一同估計(jì)有何差別？16多元回歸比簡(jiǎn)單回歸的優(yōu)越性：只需將各方面的變量放在同一模型中，才干在控制其他自變量的情況下對(duì)各自自變量的邊沿作用進(jìn)展調(diào)查和檢驗(yàn)統(tǒng)計(jì)控制17與單要素方差分析的關(guān)系假設(shè)一個(gè)回歸分析中只需虛擬變量，并且這些虛擬變量都代表某一個(gè)原變量的不同類(lèi)別，那么這一回歸的整體檢驗(yàn)等價(jià)于單要素方差分析〔one-wayanalysisofvariance，1-wayANOVA〕如只納入代表EDU的四個(gè)虛擬變量的回歸回歸方程的顯著性檢驗(yàn)F=10.079SPSSShow!方差分析v.s.回歸分析18在只需一方面的虛擬變量的回歸方程中，由于沒(méi)有其他變量，各回歸系數(shù)的表現(xiàn)非常單純，回歸常數(shù)項(xiàng)就是參照類(lèi)案例的平均值本例中即為兩個(gè)文盲、半文盲案例的CEB值4和5的平均值其他教育程度類(lèi)的平均值那么經(jīng)過(guò)參照類(lèi)平均值加上相應(yīng)差值來(lái)表現(xiàn)，如大學(xué)……這一方程完美再現(xiàn)了樣本按教育程度分類(lèi)的類(lèi)平均值19與雙要素方差分析的關(guān)系假設(shè)一個(gè)回歸分析中只需兩個(gè)要素構(gòu)成的虛擬變量，那么這一回歸分析等價(jià)于雙要素方差分析〔2-wayANOVA〕如例6中將代表教育程度和城鄉(xiāng)的一切虛擬變量納入回歸中嚴(yán)厲來(lái)說(shuō)，它是只思索了主效應(yīng)的雙要素方差分析，它沒(méi)有思索教育程度和城鄉(xiāng)兩個(gè)要素之間的交互作用〔Interaction〕如何在回歸中納入交互作用呢？20交互作用用兩個(gè)要素的各項(xiàng)虛擬變量相乘得到如例6中，EDU與AREA的交互作用為SPSSShow---Howtogettheseinteractionterms?方差分析v.s.回歸分析？21含交互作用的回歸方程為將交互作用包含在內(nèi)的飽和雙要素方差模型，可以完美再現(xiàn)各交互分類(lèi)的組平均值常數(shù)項(xiàng)依然是參照類(lèi)的平均值，這時(shí)的參照類(lèi)是交互參照類(lèi)，即兩個(gè)要素的一切虛擬變量都取0時(shí)的類(lèi)本例中的交互參照類(lèi)為鄉(xiāng)村文盲半文盲女性，樣本中這一類(lèi)只需一例，其平均值直接為這一例的CEB值22其他交互類(lèi)的平均值也可以由上述回歸方程計(jì)算出來(lái)對(duì)于城市小學(xué)程度的女性，有其他一切代表主效應(yīng)和交互效應(yīng)的虛擬變量的值都為0，算得該交互類(lèi)的平均值為

23在交互效應(yīng)比較小，或者出于簡(jiǎn)化模型的目的，在模型中不思索交互項(xiàng)例6的雙要素分析的簡(jiǎn)化模型為常數(shù)項(xiàng)仍為參照類(lèi)的CEB平均值的估計(jì)，由于沒(méi)有思索交互項(xiàng)的影響，估計(jì)出現(xiàn)了誤差〔4.73v.s.5〕，但同樣可以經(jīng)過(guò)其他各系數(shù)計(jì)算任一交互類(lèi)的估計(jì)值城市小學(xué)程度出現(xiàn)了偏向24由于沒(méi)有思索交互作用，各交互類(lèi)的估計(jì)就會(huì)出現(xiàn)估計(jì)誤差，這是簡(jiǎn)化的代價(jià)但是回歸分析對(duì)一切案例估計(jì)誤差之和等于0。為什么？25思索了一切交互作用的模型稱(chēng)為飽和模型當(dāng)有K個(gè)要素時(shí)，飽和模型中不僅有二階交互項(xiàng)，而且還有三階，四階直至K階一切要素組合的各階交互項(xiàng)。當(dāng)要素很多時(shí)，普通不再采用虛擬變量回歸，而是直接用SPSS中的方差分析來(lái)做26協(xié)方差分析假設(shè)一個(gè)回歸分析中不僅有虛擬變量，而且還有其他間距測(cè)度變量，那么這一回歸等價(jià)于協(xié)方差分析〔AnalysisofCovariance，ANCOVA〕。間距測(cè)度變量在協(xié)方差分析中稱(chēng)為協(xié)變量〔Covariate〕例6中，AGE是間距測(cè)度變量，和是虛擬變量27模型(41)中沒(méi)有思索要素之間的交互效應(yīng)由于控制了〔引入了〕協(xié)變量AGE，使得一切類(lèi)別平均值中都不含有年齡的影響，常數(shù)項(xiàng)成了籠統(tǒng)的無(wú)年齡的“鄉(xiāng)村文盲、半文盲女性〞的平均生育數(shù)〔為什么〕CEB被分解為AGE，EDU和AREA三個(gè)獨(dú)立要素的影響〔以為交互效應(yīng)為0〕28多元回歸中的控制，就是經(jīng)過(guò)統(tǒng)計(jì)方法將一切案例中這三個(gè)方面的影響剝分開(kāi)，而常數(shù)項(xiàng)是剝離以后參照組的平均生育程度控制年齡后，參照組的平均生育程度降低了很多。現(xiàn)實(shí)中不存在沒(méi)有年齡的女性，所以在估計(jì)一個(gè)女性的生育程度時(shí)，必需給定一個(gè)年齡。年齡的邊沿奉獻(xiàn)和實(shí)踐奉獻(xiàn)在這個(gè)例子中都很大29在這個(gè)例子中，年齡只是一個(gè)控制變量，不是分析的焦點(diǎn)。通常我們關(guān)注的是社會(huì)科學(xué)中的籠統(tǒng)變量〔生育，教育，城鄉(xiāng)〕之間的關(guān)系和差別選擇不同的參照類(lèi)對(duì)結(jié)果能否有影響？那些結(jié)果受影響，那些不受影響？30含虛擬變量的回歸分析的檢驗(yàn)在回歸分析中采用虛擬變量，無(wú)論是對(duì)整個(gè)模型的顯著性檢驗(yàn)〔F檢驗(yàn)〕，還是對(duì)回歸系數(shù)的顯著性檢驗(yàn)〔t檢驗(yàn)〕，與普通回歸分析完全一樣對(duì)于虛擬變量，由于取值只能是0和1，所以檢驗(yàn)的只是該變量取值為1的類(lèi)別的平均值能否與參照類(lèi)的平均值有顯著差別31在其他條件一樣的情況下，如何對(duì)同一要素的不同類(lèi)進(jìn)展比較？如小學(xué)和大學(xué)其他條件一樣的情況下，同一要素不同類(lèi)的平均值之差為。相應(yīng)的假設(shè)檢驗(yàn)為檢驗(yàn)統(tǒng)計(jì)量為〔服從〕

32小結(jié)在要素?cái)?shù)目較少，各要素的類(lèi)別較少且可以忽略交互效應(yīng)時(shí)，較適宜用回歸方法進(jìn)展方差分析回歸方法同時(shí)處理了方差分析，計(jì)算各類(lèi)平均值與參照類(lèi)平均值之差，并對(duì)其顯著性進(jìn)展了檢驗(yàn)但在要素?cái)?shù)目較多，類(lèi)別較多，而且不能忽略交互效應(yīng)時(shí)，直接用SPSS的方差分析模塊比較方便，它不需建立虛擬變量，還可以按照用戶(hù)要求規(guī)定各階交互項(xiàng)33其他分類(lèi)變量編碼方法用于事后比較〔即根據(jù)抽樣調(diào)查的觀(guān)測(cè)數(shù)據(jù)來(lái)進(jìn)展分析〕的編碼：虛擬編碼和效應(yīng)編碼用于事先設(shè)計(jì)好的比較方案〔即觀(guān)測(cè)數(shù)據(jù)是經(jīng)過(guò)可控制的實(shí)驗(yàn)研討獲得的〕的編碼：正交編碼和非正交編碼34效應(yīng)編碼反映各類(lèi)與總平均值之間的差距一個(gè)分類(lèi)變量假設(shè)包括k類(lèi)，那么需求k-1個(gè)效應(yīng)變量。習(xí)慣選第一類(lèi)或最后一類(lèi)不設(shè)立單獨(dú)變量，他們可經(jīng)過(guò)其他效應(yīng)變量表示35用分別表示文盲半文盲，小學(xué)，初中和高中，不對(duì)“大學(xué)〞單獨(dú)設(shè)立效應(yīng)變量，對(duì)教育程度的效應(yīng)編碼如下36效應(yīng)編碼賦值規(guī)那么如下：對(duì)于k-1個(gè)效應(yīng)變量，當(dāng)案例屬于該效應(yīng)變量代表的類(lèi)別時(shí)，效應(yīng)變量賦值1；當(dāng)案例不屬于該效應(yīng)變量代表的類(lèi)別時(shí)，效應(yīng)變量賦值0當(dāng)案例屬于不設(shè)立效應(yīng)變量的一類(lèi)時(shí)，一切效應(yīng)變量賦值為-137對(duì)于“大學(xué)〞為不設(shè)立效應(yīng)變量的類(lèi)，CEB對(duì)教育要素效應(yīng)變量的回歸方程為回歸方程的顯著性檢驗(yàn)F=10.079，與采用虛擬編碼的回歸方程一致系數(shù)的解釋?zhuān)扛黝?lèi)平均值與采用虛擬編碼的結(jié)果能否一致？38無(wú)論用虛擬編碼還是效應(yīng)編碼，無(wú)論選哪個(gè)類(lèi)為參照類(lèi)或不設(shè)立獨(dú)立效應(yīng)變量，對(duì)應(yīng)模型的和回歸模型的F檢驗(yàn)是完全一樣的只不過(guò)各個(gè)系數(shù)的解釋不一樣數(shù)學(xué)推導(dǎo)闡明虛擬編碼和效應(yīng)編碼的意義39作業(yè)2對(duì)于例6中提供的背景和表2-7中給出的數(shù)據(jù)，采用效應(yīng)變量完成簡(jiǎn)化的〔無(wú)交互效應(yīng)〕和飽和的〔含交互效應(yīng)〕的雙要素方差分析模型分