因子分析的基本思想、基本步驟、數學模型及求解

1、一、因子分析1 因子分析的基本思想1.1 因子分析的基本出發(fā)點將原始指標綜合成較少的指標，這些指標能夠反映原始指標的絕大部分信息（方差），這些綜合指標之間沒有相關性。1.2 因子變量的特點（1）這些綜合指標稱為因子變量，是原變量的重造；（2） 個數遠遠少于原變量個數，但可反映原變量的絕大部分方差；（3） 不相關性；（4） 可命名解釋性。2 因子分析的基本步驟（1） 確認待分析的原始變量是否適合作因子分析；（2） 構造因子變量；（3） 利用旋轉方法使因子變量具有可解釋性；（4）計算每個樣本的因子變量得分。3 因子分析的數學模型數學模型（ Xi為標準化的原始變量； Fi為因子變量； kvp）二X1

2、 十 + + + 九 f 務 a f a f 12 2 + 13 3 k=a f 11 1X ? ?+ a fk + % a f - 21 1 2 + 22 2 + 23 3 + 2k a f a fF31 f1 + a32 f 2 + a33 f3 * ?* a3k fk * 3xp=ap1 f1+ ap2 f2 +ap3 f3 + *apkfk * 名 p也可以矩陣的形式表示為：X=AF+ &F: 因子變量；A: 因子載荷陣；aij : 因子載荷；：特殊因子。4 因子分析的相關概念(1) 因子載荷在因子變量不相關的條件下， aj 就是第 i 個原始變量與第 j 個因子變量的相 關系

3、數。aj絕對值越大，則Xi 與Fi 的關系越強。(2)變量的共同度 ( Communality)也稱公共方差。 Xi 的變量共同度為因子載荷矩陣A 中第 i 行元素的平方和。k2 可見：Xi 的共同度反應了全部因子變量對Xi總方差的解釋能力。 hz aj4(3) 因子變量 Fj 的方差貢獻因子變量 Fj 的方差貢獻為因子載荷矩陣A 中第 j 列各元素的平方和pSj =7 aj 可見：因子變量 Fj 的方差貢獻體現了同一因子 Fj對原始所有變量總方差的解釋能力， Sj/p 表示了第 j 個因子解釋原所有變量總方差的比例。5 原有變量是否適合作因子分析計算原有變量的相關系數矩陣，一般小于 0.3

4、就不適合作因子分析。6 確定因子變量 -主成份分析6.1 主成份分析法的數學模型=卩 11 洛 +%X2 + 13X3 + 卩 1pXpy2 = ? 21 X1 + 卩 22 X2 + ? 23 X3 十 卩 2 p Xp丫 3 二丄 31 X1 "32 X2 "33 X3 - ”3pXp=? p1 X1 + 2X2 +7 3X3 +.Ppp Xp將原有的 P 個相關變量 Xi 作線性變換后轉成另一組不相關的變量 Yi該方程組要求： 片2 十片；+片；+ .十片 ；=1 (i=1,2,3.,p)系數 Uj 依照兩個原則來確定：1、yi 與 yj(i 工 j,i,j=1,2,

5、3, P) 互不相關；2、 y1 是 X1,X2,X3, ,xp 的一切線性組合 ( 系數滿足上述方程組) 中方差最大的；y2 是與 y1 不相關的 X1,x2,x3, ,xp 的一切線性組合中方差次大的； yp 是與 y1, y2,y3, yp 都不相關的 Xi,x2,x3, ,xp 的一切線性組合中方差最小的；yi 在總方差中所占比例最大，它綜合原有變量的能力最強，其余變量在總方 差中所占比例依次遞減，即：其余變量綜合原有變量的能力依次減弱。6.2 主成份分析的基本步驟(1) 將原始數據標準化；(2)計算變量間簡單相關系數矩陣R;(3) 求 R 的特征值& 茫 衣0 及對應的單位特

6、征向量 口，呂 田, ip；( 4) 得到： yi = U1iX1+U2iX2+? + UpiXp6.3 確定因子變量計算因子載荷A =勺 11 a12 Cp、 u11 7 u21 up1 p 此 pan.-21Up2 ppa a2p = u12 U2222 ?fp1 ap2 app JU2p 2 Upp pan a12 - akU2 T u 11 Uk kA =a21a - a 22 2k =U12 T U22 J 丸 2 Uk2 J 九 k?1a p2a pk ju2p 7 Ukp k j7 確定因子變量個數確定 k 個因子變量(1) 根據特征值入 i 確定：取特征值大于 1 的特征根；(

7、2) 根據累計貢獻率：一般累計貢獻率應在 Z0%以上;p 2= S / P = ' i / - iimpa - (S i S2)/ p = ( ' 1 ' 2) / '1k k pak 二 * S/p 二人 i/ ? _' ii =1 i =1 i d(3) 通過觀察碎石圖的方式確定因子變量的個數Scree PloteHravDeaiComp onent Number8 因子變量的命名解釋（1）發(fā)現：aj 的絕對值可能在某一行的許多列上都有較大的取值，或 aij 的絕對值可能在某一列的許多行上都有較大的取值。（2） 表明：某個原有變量 Xi 可能同時與幾

8、個因子都有比較大的相關關系， 也就是說，某個原有變量 Xi 的信息需要由若干個因子變量來共同解釋； 同時，雖然一個因子變量可能能夠解釋許多變量的信息，但它卻只能解釋某個變量的一少部分信息， 不 是任何一個變量的典型代表。（3）結論：因子變量的實際含義不清楚通過某種手段使：每個變量在盡可能少的因子上又比較高的載荷， 即：在理想狀態(tài)下，讓某個變量在某個因子上的載荷趨于 1, 而在其他因子上的載荷趨于 0。這樣：一個因子變量就能夠成為某個變量的典型代表，它的實際含義也就清 楚了。9計算因子得分因子得分是因子變量構造的最終體現?；舅枷耄菏菍⒁蜃幼兞勘硎緸樵凶兞康木€性組合， 即：通過因子得分函數計算

9、因子得分。因子得分可看作各變量值的權數總和，權數的大小表示了變量對因子的重要程度Fji = jii j2 X2i ? j3X3i jpXpi (j = 1,2,3 ， ,k)10 因子分析的基本步驟(1) 菜單選項： an alyze->Data Reduct ion-> Facto ;(2)選擇參與因子分析的變量到 Variables 框；(3) Discriptive: 分析是否適合做因子分析；(4) Extraction ：選擇構造因子變量的方法，默認主成分分析法。Extract 框：指定確定因子個數的標準；(5) Rotation ：擇因子載荷矩陣的旋轉方法。默認是不進行旋轉。一般可以選擇Varimax選項采用方差極大法旋轉。(6) Scores Save asvariables 將因子