-因子分析使用幫助課件

1、第三講 因子分析Factor Analysis目 錄1 引言2 因子分析模型 3 因子載荷矩陣的估計(jì)方法4 因子旋轉(zhuǎn)（正交變換）5 因子得分 6 因子分析的SPSS操作 因子分析(factor analysis)是一種數(shù)據(jù)簡化的技術(shù)。它通過研究眾多變量之間的內(nèi)部依賴關(guān)系，探求觀測數(shù)據(jù)中的基本結(jié)構(gòu)，并用少數(shù)幾個假想變量來表示其基本的數(shù)據(jù)結(jié)構(gòu)。這幾個假想變量能夠反映原來眾多變量的主要信息。原始的變量是可觀測的顯變量(Observed Variable) ，而假想變量是不可觀測的潛變量(Latent Variable)，稱為因子。 例如，在企業(yè)形象或品牌形象的研究中，消費(fèi)者可以通過一個有24個指標(biāo)構(gòu)

2、成的評價體系，評價百貨商場的24個方面的優(yōu)劣。1 引 言 但消費(fèi)者主要關(guān)心的是三個方面，即商店的環(huán)境、商店的服務(wù)和商品的價格。因子分析方法可以通過24個變量，找出反映商店環(huán)境、商店服務(wù)水平和商品價格的三個潛在的因子，對商店進(jìn)行綜合評價。而這三個公共因子可以表示為： 稱 是不可觀測的潛在因子。24個變量共享這三個因子，但是每個變量又有自己的個性，即不被包含的部分 ，稱為特殊因子。注： 因子分析與回歸分析不同，因子分析中的因子是一個比較抽象的概念，而回歸因子有非常明確的實(shí)際意義； 主成分分析分析與因子分析也有不同，主成分分析僅僅是變量變換，而因子分析需要構(gòu)造因子模型。 主成分分析:原始變量的線性組

3、合表示新的綜合變量，即主成分； 因子分析：潛在的假想變量和隨機(jī)影響變量的線性組合表示原始變量。2 因子分析模型 一、數(shù)學(xué)模型 設(shè) 個變量，如果表示為 稱為 公共因子，是不可觀測的變量，他們的系數(shù)稱為因子載荷。 是特殊因子，是不能被前m個公共因子包含的部分。并且滿足：不相關(guān)；即 互不相關(guān)，且各自的方差為1。即各 之間互不相關(guān)，且各自的方差不一定相等。用矩陣的表達(dá)方式：二、因子分析模型的性質(zhì) 1、原始變量X的協(xié)方差矩陣的分解 D的主對角線上的元素值越小，則公共因子共享的成分越多。 2、因子載荷不是惟一的 設(shè)T為一個pp的正交矩陣，令A(yù)*=AT，F(xiàn)*=TF，則模型可以表示為且滿足條件因子模型的條件

4、三、 因子載荷矩陣中的幾個統(tǒng)計(jì)特征 1、因子載荷aij的統(tǒng)計(jì)意義 因子載荷 是第i個標(biāo)準(zhǔn)化變量與第j個公共因子的相關(guān)系數(shù) 模型為 在上式的左右兩邊乘以 ,再求數(shù)學(xué)期望 根據(jù)公共因子的模型性質(zhì)，有 （載荷矩陣中第i行，第j列的元素）反映了第i個變量與第j個公共因子的相關(guān)重要性。絕對值越大，相關(guān)的密切程度越高。注意標(biāo)準(zhǔn)化變量的方差為1。 2、變量共同度的統(tǒng)計(jì)意義定義：變量 的共同度是因子載荷矩陣的第i行的元素的平方和。記為統(tǒng)計(jì)意義：兩邊求方差： 所有的公共因子和特殊因子對變量 的貢獻(xiàn)為1。如果 非?？拷?， 非常小，則因子分析的效果好，從原變量空間到公共因子空間的轉(zhuǎn)化性質(zhì)好。( 注意 為標(biāo)準(zhǔn)化變量

5、) 3、公共因子 方差貢獻(xiàn)的統(tǒng)計(jì)意義因子載荷矩陣中各列元素的平方和 稱為第j個公共因子 對 X 的所有分量 的方差貢獻(xiàn)和，它衡量了第j個公共因子 在全體公共因子中的相對重要性。3 因子載荷矩陣的估計(jì)方法 設(shè)隨機(jī)向量 的均值為，協(xié)方差為, 為的特征根， 為對應(yīng)的標(biāo)準(zhǔn)化特征向量，則（一）主成分分析法 上式給出的表達(dá)式是精確的，然而，它實(shí)際上是毫無價值的，因?yàn)槲覀兊哪康氖菍で笥蒙贁?shù)幾個公共因子解釋，故略去后面的p-m項(xiàng)的貢獻(xiàn)，有 （二）主因子法 主因子方法是對主成分方法的修正，假定我們首先對變量進(jìn)行標(biāo)準(zhǔn)化變換。設(shè) R=AA+D R*=AA=R-D稱R*為約相關(guān)矩陣。 R*對角線上的元素是 ，而不是1

6、。直接求R*的前p個特征根和對應(yīng)的正交特征向量。得如下的矩陣： 當(dāng)特殊因子 的方差不大且已知的，問題非常好解決。 在實(shí)際的應(yīng)用中，特殊因子方差矩陣一般都是未知的，可以通過一組樣本來估計(jì)。估計(jì)的方法有如下幾種： 首先，求 的初始估計(jì)值，構(gòu)造出 1）取 ，在這個情況下主因子解與主成分解等價； 2）取 ， 為xi與其他所有的原始變量xj的復(fù)相關(guān)系數(shù)的平方，即xi對其余的p-1個xj的回歸方程的判定系數(shù)，這是因?yàn)閤i 與公共因子的關(guān)系是通過其余的p-1個xj 的線性組合聯(lián)系起來的； 3）取 ，這意味著取xi與其余的xj的簡單相關(guān)系數(shù)的絕對值最大者； 4）取 ，其中要求該值為正數(shù)。 5）取 ，其中 是

7、的對角元素。例 假定某地固定資產(chǎn)投資率 ，通貨膨脹率 ，失業(yè)率 ，相關(guān)系數(shù)矩陣為試用主成分分析法求因子分析模型。 特征根為： 可取前兩個因子F1和F2為公共因子，第一公因子F1物價就業(yè)因子，對X的貢獻(xiàn)為1.55。第二公因子F2為投資因子，對X的貢獻(xiàn)為0.85。共同度分別為1，0.706，0.706。 4 因子旋轉(zhuǎn)（正交變換） 建立了因子分析數(shù)學(xué)目的不僅僅要找出公共因子以及對變量進(jìn)行分組，更重要的要知道每個公共因子的意義，以便進(jìn)行進(jìn)一步的分析，如果每個公共因子的含義不清，則不便于進(jìn)行實(shí)際背景的解釋。由于因子載荷陣是不惟一的，所以應(yīng)該對因子載荷陣進(jìn)行旋轉(zhuǎn)。目的是使因子載荷陣的結(jié)構(gòu)簡化，使載荷矩陣每

8、列或行的元素平方值向0和1兩極分化。有三種主要的正交旋轉(zhuǎn)法。四次方最大法、方差最大法和等量最大法。（一）為什么要旋轉(zhuǎn)因子 百米跑成績 跳遠(yuǎn)成績 鉛球成績 跳高成績 400米跑成績 百米跨欄 鐵餅成績 撐桿跳遠(yuǎn)成績 標(biāo)槍成績 1500米跑成績 奧運(yùn)會十項(xiàng)全能運(yùn)動項(xiàng)目得分?jǐn)?shù)據(jù)的因子分析 因子載荷矩陣可以看出，除第一因子在所有的變量在公共因子上有較大的正載荷，可以稱為一般運(yùn)動因子。其他的3個因子不太容易解釋。似乎是跑和投擲的能力對比，似乎是長跑耐力和短跑速度的對比。于是考慮旋轉(zhuǎn)因子，得下表 通過旋轉(zhuǎn)，因子有了較為明確的含義。 百米跑， 跳遠(yuǎn)和 400米跑，需要爆發(fā)力的項(xiàng)目在 有較大的載荷， 可以稱為

9、短跑速度因子； 鉛球， 鐵餅和 標(biāo)槍在 上有較大的載荷，可以稱為爆發(fā)性臂力因子； 百米跨欄， 撐桿跳遠(yuǎn)， 跳遠(yuǎn)和為 跳高在 上有較大的載荷， 爆發(fā)腿力因子； 長跑耐力因子。 方差最大法 方差最大法從簡化因子載荷矩陣的每一列出發(fā)，使和每個因子有關(guān)的載荷的平方的方差最大。當(dāng)只有少數(shù)幾個變量在某個因子上又較高的載荷時，對因子的解釋最簡單。方差最大的直觀意義是希望通過因子旋轉(zhuǎn)后，使每個因子上的載荷盡量拉開距離，一部分的載荷趨于1，另一部分趨于0。（二）旋轉(zhuǎn)方法變換后因子的共同度設(shè)正交矩陣，做正交變換變換后因子的共同度沒有發(fā)生變化?。ㄈ┬D(zhuǎn)結(jié)果變換后因子貢獻(xiàn)設(shè)正交矩陣，做正交變換變換后因子的貢獻(xiàn)發(fā)生了

10、變化！ 5 因子得分 （一）因子得分的概念 前面我們主要解決了用公共因子的線性組合來表示一組觀測變量的有關(guān)問題。如果我們要使用這些因子做其他的研究，比如把得到的因子作為自變量來做回歸分析，對模型進(jìn)行診斷,進(jìn)一步分析原始數(shù)據(jù)(如對樣本進(jìn)行分類或評價)，這就需要我們對公共因子進(jìn)行測度，即給出公共因子的值。 例1 人均要素變量因子分析。對我國32個省市自治區(qū)的要素狀況作因子分析。指標(biāo)體系中有如下指標(biāo)：X1 ：人口（萬人） X2 ：面積（萬平方公里）X3 ：GDP（億元） X4 ：人均水資源（立方米/人）X5：人均生物量（噸/人） X6：萬人擁有的大學(xué)生數(shù)（人）X7：萬人擁有科學(xué)家、工程師數(shù)（人） R

11、otated Factor Pattern FACTOR1 FACTOR2 FACTOR3 X1 -0.21522 -0.27397 0.89092 X2 0.63973 -0.28739 -0.28755 X3 -0.15791 0.06334 0.94855 X4 0.95898 -0.01501 -0.07556 X5 0.97224 -0.06778 -0.17535 X6 -0.11416 0.98328 -0.08300 X7 -0.11041 0.97851 -0.07246高載荷指標(biāo)因子命名因子1X2；面積（萬平方公里）X4:人均水資源（立方米/人）X5:人均生物量（噸/人）自

12、然資源因子因子2X6：萬人擁有的大學(xué)生數(shù)（人）X7：萬人擁有的科學(xué)家、工程師數(shù)（人）人力資源因子因子3X1;人口（萬人）X3:GDP(億元)經(jīng)濟(jì)發(fā)展總量因子 X1=-0.21522F1-0.27397F2+0.89092F3 X2=0.63973F1-0.28739F2-0.28755F3 X3=-0.15791F1+0.06334F2+0.94855F3 X4=0.95898F1-0.01501F2-0.07556F3 X5=0.97224F1-0.06778F2-0.17535F3 X6=-0.11416F1+0.98328F2-0.08300F3 X7=-0.11041F1+0.9785

13、1F2-0.07246F3 Standardized Scoring Coefficients FACTOR1 FACTOR2 FACTOR3 X1 0.05764 -0.06098 0.50391 X2 0.22724 -0.09901 -0.07713 X3 0.14635 0.12957 0.59715 X4 0.47920 0.11228 0.17062 X5 0.45583 0.07419 0.10129 X6 0.05416 0.48629 0.04099 X7 0.05790 0.48562 0.04822F1=0.05764X1+0.22724X2+0.14635X3+0.47

14、920X4+0.45583X5+0.05416X6+0.05790X7F2=-0.06098X1-0.09901X2+0.12957X3+0.11228X4+0.07419X5+0.48629X6+0.48562X7F3=0.50391X1-0.07713X2+0.59715X3+0.17062X4+0.10129X5+0.04099X6+0.04822X7REGION FACTOR1FACTOR2FACTOR3beijing-0.081694.23473-0.37983tianjin-0.474221.31789-0.87891hebei-0.22192-0.358020.86263shan

15、xi1-0.48214-0.32643-0.54219neimeng0.54446-0.66668-0.92621liaoning-0.205110.463770.34087jilin-0.214990.10608-0.57431heilongj 0.10839-0.11717-0.02219shanghai-0.201992.38962-0.04259前三個因子得分例2 國民生活質(zhì)量的因素分析 國家發(fā)展的最終目標(biāo)，是為了全面提高全體國民的生活質(zhì)量，滿足廣大國民日益增長的物質(zhì)和文化的合理需求。在可持續(xù)發(fā)展消費(fèi)的統(tǒng)一理念下，增加社會財(cái)富，創(chuàng)自更多的物質(zhì)文明和精神文明，保持人類的健康延續(xù)和生生不息

16、，在人類與自然協(xié)同進(jìn)化的基礎(chǔ)上，維系人類與自然的平衡，達(dá)到完整的代際公平和區(qū)際公平(即時間過程的最大合理性與空間分布的最大合理化)。 從1990年開始，聯(lián)合國開發(fā)計(jì)劃署(UYNP)首次采用“人文發(fā)展系數(shù)”指標(biāo)對于國民生活質(zhì)量進(jìn)行測度。人文發(fā)展系數(shù)利用三類內(nèi)涵豐富的指標(biāo)組合，即人的健康狀況(使用出生時的人均預(yù)期壽命表達(dá))、人的智力程度(使用組合的教育成就表達(dá))、人的福利水平(使用人均國民收入或人均GDP表達(dá))，并且特別強(qiáng)調(diào)三類指標(biāo)組合的整體表達(dá)內(nèi)涵，去衡量一個國家或地區(qū)的社會發(fā)展總體狀況以及國民生活質(zhì)量的總水平。在這個指標(biāo)體系中有如下的指標(biāo)：X1預(yù)期壽命X2成人識字率X3綜合入學(xué)率X4人均GDP

17、（美圓）X5預(yù)期壽命指數(shù)X6教育成就指數(shù)X7人均GDP指數(shù) 旋轉(zhuǎn)后的因子結(jié)構(gòu) Rotated Factor Pattern FACTOR1 FACTOR2 FACTOR3 X1 0.38129 0.41765 0.81714 X2 0.12166 0.84828 0.45981 X3 0.64803 0.61822 0.22398 X4 0.90410 0.20531 0.34100 X5 0.38854 0.43295 0.80848 X6 0.28207 0.85325 0.43289 X7 0.90091 0.20612 0.35052 FACTOR1為經(jīng)濟(jì)發(fā)展因子 FACTOR2為教育

18、成就因子 FACTOR3為健康水平因子 被每個因子解釋的方差和共同度 Variance explained by each factor FACTOR1 FACTOR2 FACTOR3 2.439700 2.276317 2.009490 Final Communality Estimates: Total = 6.725507 X1 X2 X3 X4 X5 0.987530 0.945796 0.852306 0.975830 0.992050 X6 X7 0.994995 0.976999 Standardized Scoring Coefficients標(biāo)準(zhǔn)化得分系數(shù) FACTOR1 F

19、ACTOR2 FACTOR3 X1 -0.18875 -0.34397 0.85077 X2 -0.24109 0.60335 -0.10234 X3 0.35462 0.50232 -0.59895 X4 0.53990 -0.17336 -0.10355 X5 -0.17918 -0.31604 0.81490 X6 -0.09230 0.62258 -0.24876 例3 生育率的影響因素分析 生育率受社會、經(jīng)濟(jì)、文化、計(jì)劃生育政策等很多因素影響，但這些因素對生育率的影響并不是完全獨(dú)立的，而是交織在一起，如果直接用選定的變量對生育率進(jìn)行多元回歸分析，最終結(jié)果往往只能保留兩三個變量，其他變

20、量的信息就損失了。因此，考慮用因子分析的方法，找出變量間的數(shù)據(jù)結(jié)構(gòu)，在信息損失最少的情況下用新生成的因子對生育率進(jìn)行分析。 選擇的變量有：多子率、綜合節(jié)育率、初中以上文化程度比例、城鎮(zhèn)人口比例、人均國民收入。下表是1990年中國30個省、自治區(qū)、直轄市的數(shù)據(jù)。EigenvalueDifferenceProportionCumulative3.249175972.034642910.64980.64981.214533060.962968000.24290.89270.251565070.067433970.05030.94310.184131090.083536290.03680.97990.

21、100594800.0201 1.0000特征根與各因子的貢獻(xiàn)Factor1Factor2x1-0.760620.55316x20.56898-0.76662x30.891840.25374x40.870660.34618x50.890760.36962沒有旋轉(zhuǎn)的因子結(jié)構(gòu)各原始變量在旋轉(zhuǎn)后的共同度0.884540230.911439980.859770610.877894530.93006369 在這個例子中我們得到了兩個因子，第一個因子是社會經(jīng)濟(jì)發(fā)展水平因子，第二個是計(jì)劃生育因子。有了因子得分值后，則可以利用因子得分為變量，進(jìn)行其他的統(tǒng)計(jì)分析。Factor1Factor2x1-0.35310

22、-0.87170 x20.077570.95154x30.891140.25621x40.922040.16655x50.951490.15728Factor1Factor2x1-0.05897-0.49252x2-0.058050.58056x30.330420.03497x40.35108-0.02506x50.36366-0.03493方差最大旋轉(zhuǎn)后的因子結(jié)構(gòu)標(biāo)準(zhǔn)化得分函數(shù)6 因子分析的SPSS操作 原始數(shù)據(jù)：20口鹽泉的化學(xué)成分。建立Excel數(shù)據(jù)表文件(數(shù)據(jù)存放在Sheet 1) 打開SPSS 16.0；在SPSS開始向?qū)Т翱?，選定“Create new query using Da

23、tabase Wizard”，點(diǎn)擊“OK”按鈕，進(jìn)入“Database Wizard” 向?qū)Т翱谠凇癉atabase Wizard” 向?qū)Т翱?，選定“Excel Files”，點(diǎn)擊“Next”按鈕在“ODBC Driver Login” 向?qū)Т翱?，使用“Browse”按鈕，搜索選定Excel數(shù)據(jù)源文件，點(diǎn)擊“Open”按鈕，點(diǎn)擊“OK”按鈕在“Database Wizard” 向?qū)Т翱?，在其左邊的窗口中選定Excel數(shù)據(jù)表（本例為Sheet 1），點(diǎn)擊位于中間的“箭頭”按鈕，將該數(shù)據(jù)表（本例為Sheet 1）移入到右邊的空白窗口之中，點(diǎn)擊“Next”按鈕，第二次點(diǎn)擊“Next”按鈕，第三次點(diǎn)擊

24、“Next”按鈕在“Database Wizard” 向?qū)Т翱?，使用“Browse”按鈕指定文件夾，命名SPSS數(shù)據(jù)轉(zhuǎn)換文件（*.spq）（建議采用與Excel數(shù)據(jù)文件相同的名稱），點(diǎn)擊“Save”按鈕點(diǎn)擊“Next”按鈕，點(diǎn)擊“Finish”按鈕自動回到SPSS 16.0視窗，顯示為未命名的SPSS數(shù)據(jù)集編輯窗口在SPSS數(shù)據(jù)集編輯窗口的底部，點(diǎn)擊“Variable View”，定義各變量的數(shù)據(jù)類型、寬度、小數(shù)位數(shù)等在SPSS數(shù)據(jù)集編輯窗口的底部，點(diǎn)擊“Data View”，顯示出最終的數(shù)據(jù)集利用該數(shù)據(jù)集，在SPSS主菜單，選定“AnalyzeData ReductionFactor”點(diǎn)擊，得到因子分析引導(dǎo)窗口“Factor Analysis”在因子分析引導(dǎo)窗口“Factor Analysis”，將待分析的原始變量用