新大計(jì)量地理學(xué)課件08地理系統(tǒng)要素關(guān)系的主成分分析

第八章地理系統(tǒng)要素關(guān)系的主成分分析第八章

地理系統(tǒng)要素關(guān)系的

主成分分析主成分分析的概述主成分分析的基本原理矩陣的特征值與特征向量主成分分析的解法主成分分析應(yīng)用實(shí)例第八章地理系統(tǒng)要素關(guān)系的主成分分析§1主成分分析的概述一、問題的引出二、思考三、概述第八章地理系統(tǒng)要素關(guān)系的主成分分析§2主成分分析的基本原理一、主成分分析的意義概念~是把原來多個(gè)指標(biāo)化為少數(shù)幾個(gè)綜合指標(biāo)的一種統(tǒng)計(jì)方法。是一種數(shù)學(xué)的排序方法。目的將原來的一組變量（指標(biāo)）變換成另外一組分量的變量；把具有許多變量的高維空間通過數(shù)學(xué)方法變換成較低維的空間。第八章地理系統(tǒng)要素關(guān)系的主成分分析§2主成分分析的基本原理一、主成分分析的意義假設(shè)n個(gè)地理區(qū)域，p個(gè)指標(biāo)，則有np個(gè)觀測數(shù)據(jù)。用較少的綜合指標(biāo)代表原來較多的指標(biāo)能盡量多的反映原有信息；彼此之間獨(dú)立。選取原則：原指標(biāo)的線性組合。第八章地理系統(tǒng)要素關(guān)系的主成分分析§2主成分分析的基本原理二、主成分分析的數(shù)學(xué)模型原始數(shù)據(jù)矩陣12…n地區(qū)12…m指標(biāo)第八章地理系統(tǒng)要素關(guān)系的主成分分析

變換后坐標(biāo)的性質(zhì)：n個(gè)點(diǎn)的坐標(biāo)z1、z2的相關(guān)幾乎為0；二維平面上n個(gè)點(diǎn)的波動(dòng)大部分可歸結(jié)為z1軸上的波動(dòng)，而z2軸上的波動(dòng)較小?！?主成分分析的基本原理二、主成分分析的數(shù)學(xué)模型x1z2x2z1第八章地理系統(tǒng)要素關(guān)系的主成分分析§2主成分分析的基本原理二、主成分分析的數(shù)學(xué)模型則稱z1、z2是原指標(biāo)x1、x2的主成分。若長軸方向反映整個(gè)信息的75%，則z1就是x1和x2的綜合指標(biāo)。

式中：l11、l12為x1和x2對z1這個(gè)綜合指標(biāo)的權(quán)值，或變量x1和x2的回歸系數(shù)。第八章地理系統(tǒng)要素關(guān)系的主成分分析§2主成分分析的基本原理二、主成分分析的數(shù)學(xué)模型長軸為第一主成分z1

，短軸為第二主成分z2

數(shù)據(jù)點(diǎn)對于原指標(biāo)和對主成分的值分別為：則有：75%25%第八章地理系統(tǒng)要素關(guān)系的主成分分析§2主成分分析的基本原理二、主成分分析的數(shù)學(xué)模型若有p個(gè)指標(biāo)x1，x2，…，xp，綜合成m個(gè)指標(biāo)z1，z2，…，zm(m≤p)，可表示為：第八章地理系統(tǒng)要素關(guān)系的主成分分析§2主成分分析的基本原理二、主成分分析的數(shù)學(xué)模型系數(shù)lij的決定原則：zi與zj（i≠j，i,j=1,2,…,m）互相無關(guān)；z1是x1,x2,…,xp的一切線性組合中方差最大的；z2是與z1不相關(guān)的x1,x2,…,xp的所有線性組合中方差最大的；…；zm是與z1,z2,…,zm-1都不相關(guān)的x1,x2,…,xp的所有線性組合中方差最大的。z1，z2，…，zm分別稱為原指標(biāo)的第一，第二，…，第m主成分。第八章地理系統(tǒng)要素關(guān)系的主成分分析§2主成分分析的基本原理二、主成分分析的數(shù)學(xué)模型從幾何上看，找主成分的問題就是找出p維空間中橢球體的主軸問題，就是要在x1~xp的相關(guān)矩陣中m個(gè)較大特征值所對應(yīng)的特征向量。第八章地理系統(tǒng)要素關(guān)系的主成分分析補(bǔ)：矩陣的特征值與特征向量一、矩陣的特征值定義：設(shè)A為n階矩陣，λ是一個(gè)數(shù)，如果方程Ax=λx（1）存在非零解向量，則稱λ為A的一個(gè)特征值，相應(yīng)的非零解向量x稱為與特征值λ對應(yīng)的特征向量。將（1）式改寫為第八章地理系統(tǒng)要素關(guān)系的主成分分析補(bǔ)：矩陣的特征值與特征向量一、矩陣的特征值對應(yīng)的n元齊次線性方程組存在非零解的充要條件為第八章地理系統(tǒng)要素關(guān)系的主成分分析補(bǔ)：矩陣的特征值與特征向量一、矩陣的特征值λI-A為A的特征矩陣；|λI-A|為λ的n次多項(xiàng)式，稱為A的特征多項(xiàng)式；|λI-A|=0稱為A的特征方程。若λ是|λI-A|的ni重根，則λ稱為A的ni重特征值（根）。第八章地理系統(tǒng)要素關(guān)系的主成分分析補(bǔ)：矩陣的特征值與特征向量例：求矩陣A的特征值與特征向量特征方程為化簡得故λ1=4,λ2=-2是A的兩個(gè)特征值。第八章地理系統(tǒng)要素關(guān)系的主成分分析補(bǔ)：矩陣的特征值與特征向量例：求矩陣A的特征值與特征向量（1）λ1=4得基礎(chǔ)解系（1）λ2=-2得基礎(chǔ)解系第八章地理系統(tǒng)要素關(guān)系的主成分分析補(bǔ)：矩陣的特征值與特征向量二、特征值與特征向量的基本性質(zhì)n階矩陣A與它的轉(zhuǎn)置矩陣AT有相同的特征值。n階矩陣A互不相同的特征值λ1,λ2,…,λm對應(yīng)的特征向量x1,x2,…,xm線性無關(guān)。第八章地理系統(tǒng)要素關(guān)系的主成分分析補(bǔ)：隨機(jī)變量的數(shù)字特征1.均值離散隨機(jī)變量ξ可能取的值是x1，x2，…，xn，…設(shè)p(ξ=xk)=pk(k=1,2,…)，則稱為ξ的均值。對于連續(xù)型變量ξ，設(shè)概率密度為p(x)，則稱為ξ的均值。均值也叫數(shù)學(xué)期望。第八章地理系統(tǒng)要素關(guān)系的主成分分析補(bǔ)：隨機(jī)變量的數(shù)字特征2.方差如果隨機(jī)變量ξ的數(shù)學(xué)期望Eξ存在，稱ξ-Eξ為隨機(jī)變量ξ的離差。方差稱為標(biāo)準(zhǔn)差或均方差，記作σ。第八章地理系統(tǒng)要素關(guān)系的主成分分析補(bǔ)：隨機(jī)變量的數(shù)字特征2.方差若ξ是離散型變量，則若ξ是連續(xù)型變量，則第八章地理系統(tǒng)要素關(guān)系的主成分分析補(bǔ)：隨機(jī)變量的數(shù)字特征3.協(xié)方差和相關(guān)系數(shù)設(shè)ξ和η是兩個(gè)隨機(jī)變量，則叫做ξ，η的協(xié)方差，記作相關(guān)系數(shù)：第八章地理系統(tǒng)要素關(guān)系的主成分分析§3主成分分析的解法計(jì)算方差及協(xié)方差得方差-協(xié)方差矩陣x1x220101020向量Ⅱ向量Ⅰ3030第八章地理系統(tǒng)要素關(guān)系的主成分分析§3主成分分析的解法p階方陣的特征向量給出橢圓主軸的方向，對應(yīng)的特征值表示主軸的長度。主成分分析的實(shí)質(zhì)就是求出方差-協(xié)方差矩陣的特征值及其對應(yīng)的特征向量。第八章地理系統(tǒng)要素關(guān)系的主成分分析x1x220101020向量Ⅱ向量Ⅰ3030ⅠⅡ由方差-協(xié)方差確定的橢圓第一主成分：特征向量為Ⅰ=Ⅱ=λⅠ=37.9第二主成分：特征向量為λⅡ=6.5第八章地理系統(tǒng)要素關(guān)系的主成分分析x1x220101020向量Ⅱ向量Ⅰ3030ⅠⅡ由方差-協(xié)方差確定的橢圓變量x1的方差：20.3變量x2的方差：24.120.3+24.1=44.4=37.9+6.546%54%86%14%第八章地理系統(tǒng)要素關(guān)系的主成分分析主成分得分：（P149）§3主成分分析的解法主成分z1，z2的表達(dá)式第八章地理系統(tǒng)要素關(guān)系的主成分分析§3主成分分析的解法主成分分析的步驟1.原始數(shù)據(jù)的標(biāo)準(zhǔn)化處理其中第八章地理系統(tǒng)要素關(guān)系的主成分分析§3主成分分析的解法主成分分析的步驟2.計(jì)算相關(guān)系數(shù)矩陣R3.計(jì)算特征值和特征向量對應(yīng)于λk的特征向量第八章地理系統(tǒng)要素關(guān)系的主成分分析§3主成分分析的解法主成分分析的步驟4.計(jì)算第k個(gè)特征值的貢獻(xiàn)率和累計(jì)貢獻(xiàn)率