多元統(tǒng)計(jì)分析-喀什師范學(xué)院筆記-第八章-因子分析PPT優(yōu)秀課件

1、1l【教學(xué)目的】通過(guò)本章教學(xué)應(yīng)使學(xué)生了【教學(xué)目的】通過(guò)本章教學(xué)應(yīng)使學(xué)生了解因子分析模型，理解因子載荷陣的統(tǒng)解因子分析模型，理解因子載荷陣的統(tǒng)計(jì)意義，了解方差旋轉(zhuǎn)的作用，掌握用計(jì)意義，了解方差旋轉(zhuǎn)的作用，掌握用因子分析模型分析研究實(shí)際問(wèn)題的能力。因子分析模型分析研究實(shí)際問(wèn)題的能力。 【教學(xué)重點(diǎn)】本章重點(diǎn)是要使學(xué)生了解【教學(xué)重點(diǎn)】本章重點(diǎn)是要使學(xué)生了解因子模型及因子載荷陣的統(tǒng)計(jì)意義，掌因子模型及因子載荷陣的統(tǒng)計(jì)意義，掌握因子分析的方法。握因子分析的方法。 2l因子分析是主成分分析的推廣和發(fā)展，它也是從研究相關(guān)矩陣內(nèi)部的依賴關(guān)系出發(fā)，把一些具有錯(cuò)綜復(fù)雜關(guān)系的變量歸結(jié)為少數(shù)幾個(gè)綜合因子的一種多變量統(tǒng)計(jì)

2、分析方法。它是多元分析中一種降維和分析、簡(jiǎn)化數(shù)據(jù)結(jié)構(gòu)的方法。 3l根據(jù)相關(guān)性大小把變量分組，使得同組內(nèi)的變量間相關(guān)關(guān)系強(qiáng)，不同組的變量間相關(guān)性較低，每組變量代表一個(gè)基本結(jié)構(gòu)，這個(gè)基本結(jié)構(gòu)稱為公共因子，可用最少個(gè)數(shù)的不可測(cè)的所謂公共因子的線性函數(shù)與特殊因子之和來(lái)描述原來(lái)觀測(cè)的每一變量。l因子分析的前提是觀測(cè)變量間有較強(qiáng)的相關(guān)性。 4lQ型因子分析（對(duì)樣品作因子分析）型因子分析（對(duì)樣品作因子分析）lX1=a11 F1+a12 F2+a1m Fm+1lX2=a21 F1+a22 F2+a2m Fm+2l.lXn=an1 F1+an2 F2+anm Fm+nlx1,x2.xn表示表示n個(gè)樣品；個(gè)樣品；

3、5R型因子分析型因子分析(對(duì)變量作因子分析對(duì)變量作因子分析)lX1=a11 F1+a12 F2+a1m Fm+1lX2=a21 F1+a22 F2+a2m Fm+2l.lXp=ap1 F1+ap2 F2+apm Fm+p X1,x2.xp表示表示p個(gè)指標(biāo)。個(gè)指標(biāo)。 6l1 mp；l2模型為線性模型;l3特殊因子之間是相互獨(dú)立的;l4公因子與特殊因子之間是相互獨(dú)立的;l5各公因子都是均值為0，方差為1的獨(dú)立正態(tài)隨機(jī)變量。其協(xié)方差矩陣為單位矩陣。7l因子的含義因子的含義因子分析法中提到兩種因子：公共因子和特殊因子。這兩種因子都是指一個(gè)（或一組）假設(shè)的抽象的變量。 8l公共因子F1,F2.Fm，指一

4、組假設(shè)的抽象的潛在變量，在各個(gè)原觀測(cè)變量的表達(dá)式中都共同出現(xiàn)的因子,是相互獨(dú)立的不可觀測(cè)的理論變量,可以理解為它們是在高維空間中互相垂直的m個(gè)坐標(biāo)軸。 9l特殊因子,則指一個(gè)假設(shè)的抽象的變量，它只能用來(lái)解釋一個(gè)原始的變量，與其它變量完全無(wú)關(guān),各特殊因子之間以及特殊因子與所有公共因子之間都是互相獨(dú)立的。它表示變量X不能被公共因子解釋的部分。 10l模型中各公共因子的系數(shù)aij稱為因子載荷，是連接觀測(cè)變量和公共因子之間的紐帶，其統(tǒng)計(jì)意義就是第i個(gè)變量與第j個(gè)公共因子的相關(guān)系數(shù)，即表示變量xi依賴公共因子Fj的分量，反映了第i個(gè)變量在第j個(gè)公共因子上的相對(duì)重要性。|aij|1，aij的絕對(duì)值越大，表

5、明xi與Fj的相依程度越大。11l因子載荷矩陣中第i行元素的平方和，稱為變量xi的共同度。它反映全部公共因子對(duì)變量xi的影響，是全部公共因子對(duì)變量xi的方差所做的貢獻(xiàn)。此值越接近1，表明該變量的幾乎全部原始信息都被所選擇的公共因子說(shuō)明了。此值接近于0，說(shuō)明公共因子對(duì)xi的影響很小，主要由特殊因子來(lái)描述。這個(gè)指標(biāo)以觀測(cè)變量為中心，它的意義在于說(shuō)明如果用公共因子代替原變量后，原來(lái)每個(gè)變量的信息被保留的程度。例如，此值等于0.9548，說(shuō)明公共因子提取了原變量95.48%的信息。12 因子載荷矩陣中各列元素的平方和，叫做公共因子Fj對(duì)x的貢獻(xiàn)，它反映每個(gè)公共因子對(duì)數(shù)據(jù)的解釋能力，是衡量公共因子相對(duì)重

6、要性的指標(biāo)。此值越大，表明公共因子Fj對(duì)x的影響和作用越大，計(jì)算出所有的指標(biāo)，按其大小排序，就可以提煉出最有影響的公共因子。 13 1 模型不受量綱的影響; 2 因子載荷是不唯一的，這種不唯一性從表面上看是不利的，但通過(guò)因子的變換（即因子軸的旋轉(zhuǎn)），可使新的因子更具有鮮明的實(shí)際意義。 14l建立因子模型的關(guān)鍵是要求出因子載荷矩陣，估計(jì)因子載荷矩陣的方法很多，有主成分法，極大似然法等，其中主成分法的使用較普遍。l計(jì)算因子載荷陣可以從樣本的協(xié)方差陣出發(fā)，也可以從樣本相關(guān)陣出發(fā)。 l公共因子與變量個(gè)數(shù)一樣多，且特殊因子方差為0時(shí)，因子載荷陣的第j列應(yīng)該是ej與相應(yīng)特征值平方根的乘積，而ej恰是第j個(gè)

7、主成分的系數(shù)，故而得名主成分法。 15l在因子分析模型中,公共因子與因子載荷陣的解不是唯一的。因子分析的目的不僅是找出主因子，更重要的是知道每個(gè)主因子的意義，以利于對(duì)公共因子命名和解釋結(jié)果，若每個(gè)公共因子的涵義不清，難以找到合理的解釋，可對(duì)因子載荷矩陣實(shí)行旋轉(zhuǎn)，使每個(gè)變量?jī)H在一個(gè)公共因子上有較大的載荷，而在其他公共因子上的載荷較小。 16l求得初始因子模型后，一般來(lái)說(shuō)，載荷矩陣的結(jié)構(gòu)比較復(fù)雜，倘若能進(jìn)一步簡(jiǎn)化，用公因子來(lái)線性表達(dá)標(biāo)準(zhǔn)化指標(biāo)時(shí)就更容易作出有實(shí)際意義的解釋，即使得矩陣中各列元素向0和1兩極分化，但保持同一行中各元素平方和（各指標(biāo)的公因子方差）不變，實(shí)現(xiàn)這一目的的變換方法叫因子軸的旋

8、轉(zhuǎn)。經(jīng)常使用方差最大正交旋轉(zhuǎn)，使得容易對(duì)公共因子命名和解釋。17l目前還沒(méi)有一個(gè)準(zhǔn)則能幫助使用者選定一種特定的旋轉(zhuǎn)技術(shù)，沒(méi)有可以另人信服的理由能夠說(shuō)某種旋轉(zhuǎn)方法優(yōu)于其他的方法。因此，旋轉(zhuǎn)方法的選擇主要是根據(jù)研究問(wèn)題的需要。因?yàn)楝F(xiàn)實(shí)中很少有完全不相關(guān)的變量，所以，理論上斜交旋轉(zhuǎn)優(yōu)于正交旋轉(zhuǎn)，但斜交旋轉(zhuǎn)中因子間的斜交程度受使用者定義的參數(shù)的影響，而且斜交旋轉(zhuǎn)中所允許的因子間的相關(guān)程度是很小的，因?yàn)闆](méi)有人會(huì)接受兩個(gè)高度相關(guān)的公因子，致使斜交旋轉(zhuǎn)優(yōu)越性大打折扣，正交旋轉(zhuǎn)應(yīng)用更廣泛。最常用的是方差最大正交旋轉(zhuǎn)，它是系統(tǒng)的默認(rèn)值。 18l無(wú)論是初始因子模型還是旋轉(zhuǎn)后的因子模型，都是將指標(biāo)表示為公因子的線性

9、組合。l在因子分析中，還可以將公因子表示為指標(biāo)的線性組合，此組合被稱為因子得分函數(shù)，這樣就可以從指標(biāo)的觀測(cè)值估計(jì)各個(gè)公因子的值，這種值叫做因子得分。l由于因子得分函數(shù)中方程的個(gè)數(shù)小于變量的個(gè)數(shù)，因此不能精確的計(jì)算出因子得分，只能對(duì)因子得分進(jìn)行估計(jì)。估計(jì)的方法很多，有加權(quán)最小二乘法，回歸法等，常用的是湯姆森回歸法。19l計(jì)算出因子得分，可將因子得分作為變量來(lái)用，進(jìn)行其他的分析。 l用因子得分還可以計(jì)算因子總分，l因子總分因子總分F= Fj * Fj的方差貢獻(xiàn)率的方差貢獻(xiàn)率 根據(jù)因子總分F可對(duì)樣品（變量）進(jìn)行排序或歸類，作為評(píng)價(jià)的依據(jù)。 20l求出因子模型和因子得分函數(shù)中的全部系數(shù)，利用旋轉(zhuǎn)后的因

10、子模型并結(jié)合具體問(wèn)題給公因子以恰當(dāng)?shù)慕忉?，利用因子得分函?shù)樣品的因子得分，對(duì)樣品進(jìn)行分類或排序。 21l1 將原始數(shù)據(jù)標(biāo)準(zhǔn)化；l2建立變量或樣品的相關(guān)（似）系數(shù)陣R（Q）；l3 求R（Q）的特征值及相應(yīng)的單位特征向量，根據(jù)累計(jì)貢獻(xiàn)率的要求取前m個(gè)特征值及相應(yīng)的特征向量，寫(xiě)出因子載荷矩陣；l4 對(duì)因子載荷矩陣施行方差最大正交旋轉(zhuǎn)； 5 計(jì)算因子得分，然后將它們用于各種進(jìn)一步的分析中。 22l區(qū)別：區(qū)別：主成分分析只是一般的變量變換，主成分是可觀測(cè)的原始變量的線性組合，功能在于簡(jiǎn)化原有的變量群；因子分析則構(gòu)造一個(gè)因子模型，公因子一般不能表示成原始變量的線性組合，因子的功能在于詮釋原始變量之間的關(guān)系

11、或結(jié)構(gòu)。l主成分分析中每個(gè)主成分的系數(shù)是唯一確定的；因子分析中因子載荷矩陣不是唯一的。 23l聯(lián)系：聯(lián)系：因子分析數(shù)學(xué)模型的特殊因子方差為0的時(shí)候，就形成特殊形式的因子分析，即主成分分析。兩種方法均可在SPSS FOR WINDOWS的因子分析過(guò)程FACTOR中實(shí)現(xiàn)，但用FACTOR過(guò)程實(shí)現(xiàn)主成分分析時(shí)，產(chǎn)生的因子載荷矩陣表，不能直接依據(jù)表的數(shù)據(jù)，寫(xiě)出各主成分與原變量的線性組合，需對(duì)各主成分上的載荷值分別除以相應(yīng)主成分的特征值的平方根。 24l1 因子分析在因子分析在SPSS中的實(shí)現(xiàn)中的實(shí)現(xiàn)l在SPSS主菜單中選擇AnalyzeData ReductionFactor，可實(shí)現(xiàn)因子分析。l2主成

12、分分析在主成分分析在SAS中的實(shí)現(xiàn)中的實(shí)現(xiàn)l在SAS/ASSIST模塊中沒(méi)有現(xiàn)成的菜單操作，須通過(guò)編程來(lái)實(shí)現(xiàn)因子分析。SAS/STAT模塊中的Factor過(guò)程可實(shí)現(xiàn)因子分析。 25l因子分析的前提是觀測(cè)變量間應(yīng)該有較強(qiáng)的相關(guān)關(guān)系，如果變量間的相關(guān)程度小，它們不可能共享公因子，所以計(jì)算出相關(guān)矩陣后，可先對(duì)其進(jìn)行檢驗(yàn)，如果其中大部分相關(guān)系數(shù)都小于0.3，則不適合做因子分析。 26lSPSS軟件中提供了三個(gè)統(tǒng)計(jì)量幫助判斷數(shù)據(jù)是否適合作因子分析：l1 反映象相關(guān)矩陣（反映象相關(guān)矩陣（Anti-image correlation matrix）l此矩陣中元素等于負(fù)的偏相關(guān)系數(shù)。偏相關(guān)是控制其他變量不變，

13、一個(gè)自變量對(duì)因變量的獨(dú)特解釋作用。如果有公因子存在，則變量之間的偏相關(guān)系數(shù)應(yīng)該很小，因?yàn)樗c其他變量重疊的解釋影響被扣除掉了。若反映象相關(guān)矩陣中很多元素的值比較大的話（對(duì)角線上的元素除外），可能該數(shù)據(jù)不適合做因子分析。27l2 KMO測(cè)度測(cè)度l包括整個(gè)樣本的和每個(gè)變量的，是對(duì)與普通相關(guān)相聯(lián)系的偏相關(guān)小到何種程度的概括，它從比較觀測(cè)變量之間的簡(jiǎn)單相關(guān)系數(shù)和偏相關(guān)系數(shù)相對(duì)大小出發(fā)，其值變化范圍從0到1。當(dāng)偏相關(guān)系數(shù)平方和遠(yuǎn)小于簡(jiǎn)單相關(guān)系數(shù)平方和時(shí)，KMO接近于1；KMO較小時(shí)，則表明不適合做因子分析。KMO0.5，不能接受。 28l3 BARTLETT檢驗(yàn)檢驗(yàn) lH0：相關(guān)矩陣為單位陣，是單位陣則適合做因子分析。 29特征值準(zhǔn)則特征值準(zhǔn)則l即取特征值大于等于1的主成分作為初始因子，放棄特征值小于1的主成分。因?yàn)槊總€(gè)變量的方差為1，該準(zhǔn)則認(rèn)為每個(gè)保留下來(lái)的因子至少應(yīng)該能解釋一個(gè)變量的方差，否則達(dá)不到精簡(jiǎn)目的。 30 碎石檢驗(yàn)準(zhǔn)則碎石檢驗(yàn)準(zhǔn)則l按照因子被提取的順序，畫(huà)出因子的特征值隨因子個(gè)數(shù)變化的散點(diǎn)圖，根據(jù)圖的形狀來(lái)判斷因子的個(gè)數(shù)。圖形由陡變平，曲線開(kāi)始變平的前一個(gè)點(diǎn)被認(rèn)為是提取的最大因子數(shù) 31累積方差貢獻(xiàn)率累積方差貢獻(xiàn)率 因子累積解釋的方差比例也是確定因子因子累積解釋的方差比例也是確定因子個(gè)數(shù)時(shí)可以參考的指標(biāo)，一般應(yīng)達(dá)到個(gè)數(shù)時(shí)可以參考的指標(biāo)，一般應(yīng)