新大計量地理學課件08地理系統(tǒng)要素關系的主成分分析

第八章地理系統(tǒng)要素關系的主成分分析第八章

地理系統(tǒng)要素關系的

主成分分析主成分分析的概述主成分分析的基本原理矩陣的特征值與特征向量主成分分析的解法主成分分析應用實例第八章地理系統(tǒng)要素關系的主成分分析§1主成分分析的概述一、問題的引出二、思考三、概述第八章地理系統(tǒng)要素關系的主成分分析§2主成分分析的基本原理一、主成分分析的意義概念~是把原來多個指標化為少數(shù)幾個綜合指標的一種統(tǒng)計方法。是一種數(shù)學的排序方法。目的將原來的一組變量（指標）變換成另外一組分量的變量；把具有許多變量的高維空間通過數(shù)學方法變換成較低維的空間。第八章地理系統(tǒng)要素關系的主成分分析§2主成分分析的基本原理一、主成分分析的意義假設n個地理區(qū)域，p個指標，則有np個觀測數(shù)據(jù)。用較少的綜合指標代表原來較多的指標能盡量多的反映原有信息；彼此之間獨立。選取原則：原指標的線性組合。第八章地理系統(tǒng)要素關系的主成分分析§2主成分分析的基本原理二、主成分分析的數(shù)學模型原始數(shù)據(jù)矩陣12…n地區(qū)12…m指標第八章地理系統(tǒng)要素關系的主成分分析

變換后坐標的性質：n個點的坐標z1、z2的相關幾乎為0；二維平面上n個點的波動大部分可歸結為z1軸上的波動，而z2軸上的波動較小?！?主成分分析的基本原理二、主成分分析的數(shù)學模型x1z2x2z1第八章地理系統(tǒng)要素關系的主成分分析§2主成分分析的基本原理二、主成分分析的數(shù)學模型則稱z1、z2是原指標x1、x2的主成分。若長軸方向反映整個信息的75%，則z1就是x1和x2的綜合指標。

式中：l11、l12為x1和x2對z1這個綜合指標的權值，或變量x1和x2的回歸系數(shù)。第八章地理系統(tǒng)要素關系的主成分分析§2主成分分析的基本原理二、主成分分析的數(shù)學模型長軸為第一主成分z1

，短軸為第二主成分z2

數(shù)據(jù)點對于原指標和對主成分的值分別為：則有：75%25%第八章地理系統(tǒng)要素關系的主成分分析§2主成分分析的基本原理二、主成分分析的數(shù)學模型若有p個指標x1，x2，…，xp，綜合成m個指標z1，z2，…，zm(m≤p)，可表示為：第八章地理系統(tǒng)要素關系的主成分分析§2主成分分析的基本原理二、主成分分析的數(shù)學模型系數(shù)lij的決定原則：zi與zj（i≠j，i,j=1,2,…,m）互相無關；z1是x1,x2,…,xp的一切線性組合中方差最大的；z2是與z1不相關的x1,x2,…,xp的所有線性組合中方差最大的；…；zm是與z1,z2,…,zm-1都不相關的x1,x2,…,xp的所有線性組合中方差最大的。z1，z2，…，zm分別稱為原指標的第一，第二，…，第m主成分。第八章地理系統(tǒng)要素關系的主成分分析§2主成分分析的基本原理二、主成分分析的數(shù)學模型從幾何上看，找主成分的問題就是找出p維空間中橢球體的主軸問題，就是要在x1~xp的相關矩陣中m個較大特征值所對應的特征向量。第八章地理系統(tǒng)要素關系的主成分分析補：矩陣的特征值與特征向量一、矩陣的特征值定義：設A為n階矩陣，λ是一個數(shù)，如果方程Ax=λx（1）存在非零解向量，則稱λ為A的一個特征值，相應的非零解向量x稱為與特征值λ對應的特征向量。將（1）式改寫為第八章地理系統(tǒng)要素關系的主成分分析補：矩陣的特征值與特征向量一、矩陣的特征值對應的n元齊次線性方程組存在非零解的充要條件為第八章地理系統(tǒng)要素關系的主成分分析補：矩陣的特征值與特征向量一、矩陣的特征值λI-A為A的特征矩陣；|λI-A|為λ的n次多項式，稱為A的特征多項式；|λI-A|=0稱為A的特征方程。若λ是|λI-A|的ni重根，則λ稱為A的ni重特征值（根）。第八章地理系統(tǒng)要素關系的主成分分析補：矩陣的特征值與特征向量例：求矩陣A的特征值與特征向量特征方程為化簡得故λ1=4,λ2=-2是A的兩個特征值。第八章地理系統(tǒng)要素關系的主成分分析補：矩陣的特征值與特征向量例：求矩陣A的特征值與特征向量（1）λ1=4得基礎解系（1）λ2=-2得基礎解系第八章地理系統(tǒng)要素關系的主成分分析補：矩陣的特征值與特征向量二、特征值與特征向量的基本性質n階矩陣A與它的轉置矩陣AT有相同的特征值。n階矩陣A互不相同的特征值λ1,λ2,…,λm對應的特征向量x1,x2,…,xm線性無關。第八章地理系統(tǒng)要素關系的主成分分析補：隨機變量的數(shù)字特征1.均值離散隨機變量ξ可能取的值是x1，x2，…，xn，…設p(ξ=xk)=pk(k=1,2,…)，則稱為ξ的均值。對于連續(xù)型變量ξ，設概率密度為p(x)，則稱為ξ的均值。均值也叫數(shù)學期望。第八章地理系統(tǒng)要素關系的主成分分析補：隨機變量的數(shù)字特征2.方差如果隨機變量ξ的數(shù)學期望Eξ存在，稱ξ-Eξ為隨機變量ξ的離差。方差稱為標準差或均方差，記作σ。第八章地理系統(tǒng)要素關系的主成分分析補：隨機變量的數(shù)字特征2.方差若ξ是離散型變量，則若ξ是連續(xù)型變量，則第八章地理系統(tǒng)要素關系的主成分分析補：隨機變量的數(shù)字特征3.協(xié)方差和相關系數(shù)設ξ和η是兩個隨機變量，則叫做ξ，η的協(xié)方差，記作相關系數(shù)：第八章地理系統(tǒng)要素關系的主成分分析§3主成分分析的解法計算方差及協(xié)方差得方差-協(xié)方差矩陣x1x220101020向量Ⅱ向量Ⅰ3030第八章地理系統(tǒng)要素關系的主成分分析§3主成分分析的解法p階方陣的特征向量給出橢圓主軸的方向，對應的特征值表示主軸的長度。主成分分析的實質就是求出方差-協(xié)方差矩陣的特征值及其對應的特征向量。第八章地理系統(tǒng)要素關系的主成分分析x1x220101020向量Ⅱ向量Ⅰ3030ⅠⅡ由方差-協(xié)方差確定的橢圓第一主成分：特征向量為Ⅰ=Ⅱ=λⅠ=37.9第二主成分：特征向量為λⅡ=6.5第八章地理系統(tǒng)要素關系的主成分分析x1x220101020向量Ⅱ向量Ⅰ3030ⅠⅡ由方差-協(xié)方差確定的橢圓變量x1的方差：20.3變量x2的方差：24.120.3+24.1=44.4=37.9+6.546%54%86%14%第八章地理系統(tǒng)要素關系的主成分分析主成分得分：（P149）§3主成分分析的解法主成分z1，z2的表達式第八章地理系統(tǒng)要素關系的主成分分析§3主成分分析的解法主成分分析的步驟1.原始數(shù)據(jù)的標準化處理其中第八章地理系統(tǒng)要素關系的主成分分析§3主成分分析的解法主成分分析的步驟2.計算相關系數(shù)矩陣R3.計算特征值和特征向量對應于λk的特征向量第八章地理系統(tǒng)要素關系的主成分分析§3主成分分析的解法主成分分析的步驟4.計算第k個特征值的貢獻率和累計貢獻率