配套課件-《統(tǒng)計分析方法及應用》

第一章

一元統(tǒng)計基礎知識§1.1一元分布及數(shù)字特征§1.2參數(shù)估計§1.3假設檢驗§1.1一元分布及數(shù)字特征一、隨機變量與概率分布函數(shù)二、概率分布的類型三、隨機變量的數(shù)學期望和方差四、一些重要的一元分布五、其他數(shù)字特征一、隨機變量與概率分布函數(shù)隨機變量x的(概率)分布函數(shù)定義為F(a)=P(x≤a) 分布函數(shù)F(x)具有下述性質： (1)F(x)是非降函數(shù)，即若x1<x2，則F(x1)≤F(x2)； (2) ； (3)F(x)是右連續(xù)函數(shù)，即F(x+0)=F(x)。二、概率分布的類型1.離散型分布2.連續(xù)型分布1.離散型分布隨機變量x的分布列：P(x=ak)=pk，k=1,2,?分布列具有如下兩個性質：(1)pk≥0，k=1,2,?；(2) 。x的分布函數(shù)可表示為2.連續(xù)型分布若隨機變量x的分布函數(shù)可以表示成

對一切a∈R成立，則稱x為連續(xù)型隨機變量，稱f(x)為x的(概率)密度函數(shù)。對f(x)的連續(xù)點必有F′(x)=f(x)。密度函數(shù)f(x)具有如下兩個性質： (1)f(x)≥0； (2) 。

三、隨機變量的數(shù)學期望和方差離散型：連續(xù)型：數(shù)學期望和方差的性質數(shù)學期望的性質： (1)設c是常數(shù)，則E(c)=c； (2)E(kx)=kE(x)； (3)E(x1+x2+?+xn)=E(x1)+E(x2)+?+E(xn)方差的性質： (1)設c是常數(shù)，則V(c)=0。 (2)V(kx)=k2V(x) (3)設x1,x2,?,xn相互獨立，則V(x1+x2+?+xn)=V(x1)+V(x2)+?+V(xn)四、一些重要的一元分布1.二項分布2.超幾何分布3.泊松分布4.正態(tài)分布5.卡方分布6.t分布7.F分布五、其他數(shù)字特征1.變異系數(shù)2.中位數(shù)3.分位數(shù)4.眾數(shù)5.矩6.偏度7.峰度1.變異系數(shù)變異系數(shù)：變異系數(shù)沒有單位。x改變?yōu)閗x(k>0為常數(shù))后，變異系數(shù)不變。標準差(或方差)是反映隨機變量絕對變異性的量，而變異系數(shù)則是反映隨機變量相對變異性的量。2.中位數(shù)中位數(shù)(median)是另外一個反映隨機變量取值中心位置的量。若m滿足

則稱m為連續(xù)型隨機變量x的中位數(shù)。與均值不同，中位數(shù)在理論上總是存在的。當隨機變量的分布對稱時，中位數(shù)與均值(如果存在)重疊。圖1.1.6中位數(shù)m在分布函數(shù)中的位置圖1.1.7中位數(shù)m在密度函數(shù)中的位置3.分位數(shù)分位數(shù)(quantile)是反映隨機變量取值相對位置的一個量。若

則稱x1?p為連續(xù)型隨機變量x的下側p分位數(shù)，簡稱p分位數(shù)，稱xp為x的上側p分位數(shù)p=0.5時的分位數(shù)x0.5正是中位數(shù)m。圖1.1.8x的p分位數(shù)和上側p分位數(shù)4.眾數(shù)若x是一個離散型隨機變量，則使概率P(x=a)達到最大的a值稱為隨機變量x的眾數(shù)(mode)；若x是一個連續(xù)型隨機變量，則使密度函數(shù)f(a)達到最大的a值稱為x的眾數(shù)，記作mo。眾數(shù)也是一個反映隨機變量取值位置的量。隨機變量的眾數(shù)不一定只有一個，可能有兩個或兩個以上。例1.1.1正態(tài)分布N(μ,σ2)的眾數(shù)、中位數(shù)和均值都是μ，三者重疊。5.矩若E|x|k<∞，則E(xk)稱為x的k階(原點)矩，記作μk；若E|x?μ|k<∞，則稱E(x?μ)k為x的k階中心矩，記作υk。一階原點矩就是數(shù)學期望，二階中心矩就是方差。一般低階矩用得較多，高于四階的矩極少使用。

若高階矩E(xk+1)存在，則低階矩E(xk),E(xk?1),?也一定都存在。6.偏度偏度(skewness)是反映隨機變量分布形狀的一個量，它度量了分布的偏斜程度及偏向。稱

為x的偏度系數(shù)，簡稱偏度。對稱分布的sk=0；若sk>0，則稱x的分布是正偏(或右偏)的，說明分布在右方向的尾部比在左方向的尾部有拉長的趨勢；若sk<0,則稱x的分布是負偏(或左偏)的，說明分布在左方向的尾部比在右方向的尾部有拉長的趨勢；|sk|越大，說明分布偏斜得越厲害。圖1.1.9偏度sk對分布形狀的影響7.峰度峰度(kurtosis)是另一個反映隨機變量分布形狀的量，它度量了分布尾部的厚度。稱

為x的峰度系數(shù)，簡稱峰度。若令

，則峰度ku=E(x*4)?3同偏度一樣，峰度也是一個沒有單位的數(shù)值。峰度ku的取值范圍是[?2,∞]。正態(tài)分布的峰度為零。若ku>0，則說明隨機變量x分布的尾部比正態(tài)分布的尾部粗，并且ku值越大，傾向認為尾部越粗；若ku<0，則說明x分布的尾部比正態(tài)分布的尾部細，且|ku|值越大，傾向認為尾部越細。峰度ku可用來比較已標準化了的各隨機變量的分布尾部厚度。§1.2參數(shù)估計一、統(tǒng)計量和抽樣分布二、估計量的性質三、置信區(qū)間的基本原理四、總體均值的置信區(qū)間五、兩個總體均值之差的置信區(qū)間六、正態(tài)總體方差的置信區(qū)間七、兩個正態(tài)總體方差之比的置信區(qū)間一、統(tǒng)計量和抽樣分布1.統(tǒng)計量2.的抽樣分布1.統(tǒng)計量樣本均值：樣本方差：

樣本標準差：樣本變異系數(shù)樣本偏度樣本峰度次序統(tǒng)計量：x(1)≤x(2)≤?≤x(n)最小次序統(tǒng)計量：最大次序統(tǒng)計量：極差=x(n)?x(1) 樣本中位數(shù)樣本p分位數(shù)下樣本四分位數(shù)：Q1=0.25樣本分位數(shù)上樣本四分位數(shù)：Q3=0.75樣本分位數(shù)四分位數(shù)間距：Q3?Q1例1.2.1表1.2.1列出了上海財經大學統(tǒng)計與管理學院某年級所有修讀的93名學生的《多元統(tǒng)計分析》期末考試成績期末考試成績占總成績的60%。等資料。在后面的統(tǒng)計推斷中，為了說明起見，我們將該組數(shù)據(jù)看成是從一個很大的總體中抽取的一個樣本。表1.2.1 某年級93名學生的《多元統(tǒng)計分析》期末考試成績課程序號n性別sex期末成績x課程序號n性別sex期末成績x課程序號n性別sex期末成績x1女9632女9563女772男7833女10064女963男9934女6765女974男9235女8866女695男9336女8967男936男8337女8968男777男6238女7469男928男5539女6270男609男8240女8571男8510男9241女8172男9411男9342女9873男6712男7143女8374男5013男8944女9675女7414男5045女9776女9015男9246女9877女8316男4047女9578女9217男5848女6079女8118男7049女7580女9119男7050女5181女9120男7751女8382女9721男8152女8483女8822男4053女4084女9423男8754女8485女9824男9155女8886女9125男8356女9087女7826女3857女8788女8727女9658女8689男10028女9059女8190男9529女9360女6991女9830女8661女9892女8331女8662女8093女68輸出1.2.1矩統(tǒng)計量表輸出1.2.2樣本分位數(shù)表2.的抽樣分布(1)正態(tài)總體的情形

設x1,x2,?,xn是來自于總體N(μ,σ2)的一個樣本，則有(2)非正態(tài)總體的情形

中心極限定理

設x1,x2,?,xn是來自于總體x的一個樣本，E(x)=μ,V(x)=σ2(>0)，則隨著樣本容量n的無限增大，樣本均

值

經標準化之后的分布，將以標準正態(tài)分布N(0,1)

為極限。即對任意的實數(shù)y，有二、估計量的性質1.無偏性2.有效性3.一致性(或稱相合性)1.無偏性如果

則稱

為θ的無偏估計，否則就稱為有偏估計，稱

為估計的偏差(bias)。樣本均值

是總體均值μ的無偏估計(即 )；樣本方差s2是總體方差σ2的無偏估計(即 )，但樣本標準差s卻是總體標準差σ的有偏估計。2.有效性設

和

都是未知參數(shù)θ的無偏估計，若

且至少對一個θ0∈Θ有嚴格不等號成立，則稱估計量

比

有較高的效率，簡稱

比

有效(efficient)。如果θ的某個無偏估計

是θ的所有無偏估計中最有效的一個，即對θ的任一無偏估計

有

則稱

為θ的一致最小方差無偏估計。3.一致性(或稱相合性)如果未知參數(shù)θ的估計量

隨著樣本容量n的不斷增大，而無限地逼近于真值θ，則稱

為θ的一致估計，或稱相合估計。估計量的一致性是在大樣本情形下提出的一種要求，而對于小樣本，它不能作為評價估計量好壞的準則。三、置信區(qū)間的基本原理設

和

是兩個統(tǒng)計量，給定1?α(0<α<1)，若

則稱隨機區(qū)間

是未知參數(shù)θ的置信度為1?α的置信區(qū)間。置信區(qū)間好壞的評價準則： (1)置信度。希望隨機區(qū)間

包含真值θ的概率

越大越好。 (2)精確度。希望隨機區(qū)間

的平均長度

越短越好。若統(tǒng)計量

滿足

則稱

是θ的置信度為1?α的單側置信下限。若統(tǒng)計量

滿足

則稱

是θ的置信度為1?α的單側置信上限。四、總體均值的置信區(qū)間1.正態(tài)總體情形2.非正態(tài)總體的大樣本情形1.正態(tài)總體情形當σ2已知時，μ的1?α置信區(qū)間為

其中uα/2為N(0,1)的上α/2分位點。當σ2未知時，μ的1?α置信區(qū)間

這里

為樣本方差，tα/2(n?1)為t(n?1)的上α/2分位點。2.非正態(tài)總體的大樣本情形當n很大時，若σ2已知，則總體均值μ的1?α近似置信區(qū)間為若σ2未知，則總體均值μ的1?α近似置信區(qū)間為五、兩個總體均值之差的置信區(qū)間設

是取自總體x的容量為n1的樣本，E(x)=μ1,V(x)= 是取自總體y的容量為n2的樣本，E(y)=μ2，V(y)=，且兩個樣本相互獨立。令1.兩個正態(tài)總體情形2.兩個非正態(tài)總體的大樣本情形1.兩個正態(tài)總體情形若

已知，則μ1?μ2的1?α置信區(qū)間為若

未知，但

，則μ1?μ2的1?α置信區(qū)間為

其中2.兩個非正態(tài)總體的大樣本情形當n1和n2都很大時，若

已知，則μ1?μ2的1?α置信區(qū)間近似為若

未知，則μ1?μ2的1?α置信區(qū)間近似為六、正態(tài)總體方差的置信區(qū)間設x1,x2,?,xn是來自總體N(μ,σ2)的一個樣本，μ未知，則σ2的1?α置信區(qū)間為σ的1?α置信區(qū)間為七、兩個正態(tài)總體方差之比的置信區(qū)間設

是來自總體

的一個樣本，

是來自總體

的一個樣本，且兩個樣本獨立，又

為兩個樣本方差，μ1,μ2皆未知，則

的1?α置信區(qū)間為σ1/σ2的1?α置信區(qū)間為§1.3假設檢驗一、假設檢驗的基本思想二、單個總體均值的檢驗三、關于檢驗的p值四、假設檢驗與置信區(qū)間的關系五、兩個總體均值的比較檢驗六、基于成對數(shù)據(jù)的比較兩個總體均值的檢驗七、正態(tài)總體方差的檢驗八、比較兩個正態(tài)總體方差的檢驗一、假設檢驗的基本思想（雙側）假設檢驗問題形式：H0：μ=μ0，H1：μ≠μ0 單側假設檢驗問題形式：H0：μ≤μ0，H1：μ>μ0(或H0：μ=μ0，H1：μ>μ0)和H0：μ≥μ0，H1：μ<μ0(或H0：μ=μ0，H1：μ<μ0)二、單個總體均值的檢驗1.正態(tài)總體2.大樣本情形下的非正態(tài)總體1.正態(tài)總體(1)若σ2已知，則構造檢驗統(tǒng)計量

當μ=μ0時，u~N(0,1)，由此可得下述各假設檢驗問題的拒絕規(guī)則：(i)H0：μ=μ0，H1：μ≠μ0若|u|≥uα/2，則拒絕H0(ii)H0：μ≤μ0，H1：μ>μ0(或H0：μ=μ0，H1：μ>μ0)若u≥uα，則拒絕H0(iii)H0：μ≥μ0，H1：μ<μ0(或H0：μ=μ0，H1：μ<μ0)若u≤?uα，則拒絕H0(2)若σ2未知

應取檢驗統(tǒng)計量

當μ=μ0時，t~t(n?1)，于是可得以下各假設檢驗問題的拒絕規(guī)則：(i)H0：μ=μ0，H1：μ≠μ0若|t|≥tα/2(n?1)，則拒絕H0(ii)H0：μ≤μ0，H1：μ>μ0(或H0：μ=μ0，H1：μ>μ0)若t≥tα(n?1)，則拒絕H0(iii)H0：μ≥μ0，H1：μ<μ0(或H0：μ=μ0，H1：μ<μ0)若t≤?tα(n?1)，則拒絕H0三、關于檢驗的p值以正態(tài)總體的如下假設檢驗問題為例。H0：μ=μ0，H1：μ≠μ0

其拒絕規(guī)則為：若|u|≥uα/2，則拒絕H0用U表示隨機變量時的u，u本身表示取值時的u，則稱P(|U|≥|u|)為檢驗的p值，記為p。|u|≥uα/2?p=P(|U|≥|u|)≤P(|U|≥uα/2)=α

故上述拒絕規(guī)則等價于：若p≤α，則拒絕H0四、假設檢驗與置信區(qū)間的關系在顯著性水平α下接受H0：μ=μ0

? ?μ0落在μ的1?α置信區(qū)間內。假設檢驗與置信區(qū)間的這種關系具有普遍性。例1.3.1在例1.2.1中，當σ2未知時，求總體均值μ的0.95置信區(qū)間和在α=0.05下對H0：μ=85，H1：μ≠85進行檢驗。輸出1.3.1總體均值μ的0.95置信區(qū)間及檢驗結果五、兩個總體均值的比較檢驗設

是取自總體x的樣本，E(x)=μ1,V(x)= 是取自總體y的樣本，E(y)=μ2,V(y)=，且兩個樣本相互獨立。給定顯著性水平α。1.兩個正態(tài)總體情形2.兩個非正態(tài)總體的大樣本情形1.兩個正態(tài)總體(1)若

已知，則構造檢驗統(tǒng)計量

當μ1=μ2時，u~N(0,1)，下述各假設檢驗問題的拒絕規(guī)則為：(i)H0：μ1=μ2，H1：μ1≠μ2若|u|≥uα/2，則拒絕H0(ii)H0：μ1≤μ2，H1：μ1>μ2(或H0：μ1=μ2，H1：μ1>μ2)若u≥uα，則拒絕H0(iii)H0：μ1≥μ2，H1：μ1<μ2(或H0：μ1=μ2，H1：μ1<μ2)若u≤?uα，則拒絕H0(2)若

未知，但

取檢驗統(tǒng)計量

當μ1=μ2時，t~t(n1+n2?2)，于是可得以下各假設檢驗問題的拒絕規(guī)則：(i)H0：μ1=μ2，H1：μ1≠μ2若|t|≥tα/2(n1+n2?2)，則拒絕H0(ii)H0：μ1≤μ2，H1：μ1>μ2(或H0：μ1=μ2，H1：μ1>μ2)若t≥tα(n1+n2?2)，則拒絕H0(iii)H0：μ1≥μ2，H1：μ1<μ2(或H0：μ1=μ2，H1：μ1<μ2)若t≤?tα(n1+n2?2)，則拒絕H0(3)若

未知，且

一般情況下，檢驗的顯著性水平只是近似地為α。取檢驗統(tǒng)計量

當μ1=μ2時，t近似地服從t(v)，其中

必須將其四舍五入成整數(shù)。其拒絕規(guī)則完全類似于前面的相應各式，只需把t分布的自由度改為v即可。例1.3.2在例1.2.1中，設男生總體具有均值μ1和方差

，女生總體具有均值μ2和方差

，求μ1?μ2的0.95置信區(qū)間和在α=0.05下對H0：μ1=μ2，H1：μ1≠μ2進行檢驗。輸出1.3.2男、女生總體均值的比較推斷結果六、基于成對數(shù)據(jù)的比較兩個總體均值的檢驗數(shù)據(jù)的成對出現(xiàn)避免了作為抽樣誤差來源之一的兩個樣本個體之間的差異，從而減少了抽樣誤差，以致往往得到比獨立樣本方法更精確的統(tǒng)計推斷結論。設總體x和總體y的數(shù)學期望分別為μ1和μ2，從這兩個總體中抽取一個成對的樣本(x1,y1),(x2,y2),?,(xn,yn)。令δ=μ1?μ2，di=xi?yi(i=1,2,?,n)，這樣d1,d2,?,dn可看作是從某個均值為δ的總體d中抽取的一個樣本，從而可按本節(jié)第二部分介紹的方法進行假設檢驗。七、正態(tài)總體方差的檢驗設x1,x2,?,xn是來自總體N(μ,σ2)的一個樣本，μ未知，則構造檢驗統(tǒng)計量

當

時，χ2~χ2(n?1)。給定α，各假設的拒絕規(guī)則如下：(i)若

，則拒絕H0(ii)若

，則拒絕H0(iii)若

，則拒絕H0例1.3.3在例1.2.1中，假定總體分布為N(μ,σ2)，其中μ未知，求總體方差σ2的0.95置信區(qū)間和在α=0.05下對

進行檢驗。輸出1.3.3正態(tài)總體方差σ2的0.95置信區(qū)間及檢驗結果八、比較兩個正態(tài)總體方差的檢驗構造檢驗統(tǒng)計量

當

時，F(xiàn)~F(n1?1,n2?1)。給定α，各拒絕規(guī)則為：(i)若F≤F1?α/2(n1?1,n2?1)或F≥Fα/2(n1?1,n2?1)，則拒絕H0(ii)若F≥Fα(n1?1,n2?1)，則拒絕H0(iii)若F≤F1?α(n1?1,n2?1)，則拒絕H0例1.3.4在例1.2.1中，設男生和女生的總體分布分別為

和

，μ1和μ2皆未知，求

的0.95置信區(qū)間以及在α=0.05下對

進行檢驗。輸出1.3.4兩個正態(tài)總體方差之比的0.95置信區(qū)間及檢驗結果第二章矩陣代數(shù)§2.1定義§2.2矩陣的運算§2.3行列式§2.4矩陣的逆§2.5矩陣的秩§2.6特征值、特征向量和矩陣的跡§2.7正定矩陣和非負定矩陣§2.1定義p×q矩陣：p維列向量：q維行向量：

a′=(a1,a2,?,aq)向量a的長度：單位向量：若A的所有元素全為零，則稱A為零矩陣，記作A=0pq或A=0。若p=q，則稱A為p階方陣，a11,a22,?,app稱為它的對角線元素，其他元素aij(i≠j)稱為非對角線元素。若方陣A的對角線下方的元素全為零，則稱A為上三角矩陣。顯然，aij=0,i>j。若方陣A的對角線上方的元素全為零，則稱A為下三角矩陣。顯然，aij=0,i<j。若方陣A的所有非對角線元素均為零，則稱A為對角矩陣，簡記為A=diag(a11,a22,?,app)。若p階對角矩陣A的所有p個對角線元素均為1，則稱A為p階單位矩陣，記作A=Ip或A=I。若將矩陣A的行與列互換，則得到的矩陣稱為A的轉置，記作A′，即若方陣A滿足A′=A，則稱A為對稱矩陣。顯然，aij=aji?！?.2矩陣的運算若A=(aij)：p×q，B=(bij)：p×q,則A與B的和定義為A+B=(aij+bij)：p×q若c為一常數(shù)，則它與A的積定義為cA=(caij)：p×q若A=(aij)：p×q，B=(bij)：q×r,則A與B的積定義為運算規(guī)律(1)(A+B)′=A′+B′。(2)(AB)′=B′A′。(3)A(B1+B2)=AB1+AB2。(4) 。(5)c(A+B)=cA+cB。若兩個p維向量a和b滿足a′b=a1b1+a2b2+?+apbp=0

則稱a和b正交。幾何上，正交向量之間相互垂直。若方陣A滿足AA′=I，則稱A為正交矩陣。顯然，

，

i=1,2,?,p，即A的p個行向量為單位向量；

，即A的p個行向量相互正交。又從A′A=I得： (j≠k)，即A的p個列向量也是一組正交單位向量。正交矩陣A的幾何意義將p維向量x看作是在Rp中的一個點，則x的各分量是該點在相應各坐標軸上的坐標。正交陣A的行列式非1即?1。若|A|=1，則正交變換y=Ax意味著對原p維坐標系作一剛性旋轉(或稱正交旋轉)，y的各分量正是該點在新坐標系下的坐標；若|A|=?1，則包含了一個反射的坐標軸。當p=2時，按逆時針方向將直角坐標系x1Ox2旋轉一個角度θ，所得新坐標系y1Oy2與原坐標系之間的變換為

當p=3時同樣有著直觀的幾何展示。由于y′y=(Ax)′(Ax)=x′A′Ax=x′x

故在新、舊坐標系下，該點到原點的距離保持不變。矩陣的分塊設A=(aij)：p×q,將它分成四塊，表示成

其中A11：k×l，A12：k×(q?l)，A21：(p?k)×l， A22：(p?k)×(q?l)。若A和B有相同的分塊，則若C為q×r矩陣，分成

其中C11：l×m，C12：l×(r?m)，C21：(q?l)×m，C22：(q?l)×(r?m)，則有例2.2.2用矩陣分塊方法證明正交矩陣A：p×p的p個列向量和p個行向量都是一組正交單位向量。證明

將矩陣A分別按列向量和行向量分塊，并記

由A′A=I，得

于是

故有

即a1,a2,?,ap為一組正交單位向量。同理，由AA′=I可證a(1),a(2),?,a(p)也是一組正交單位向量。§2.3行列式p階方陣A=(aij)的行列式定義為

這里

表示對1,2,?,p的所有排列求和，τ(j1j2?jp)

是排列j1,j2,?,jp中逆序的總數(shù)，稱它為這個排列的逆序數(shù)，一個逆序是指在一個排列中一對數(shù)的前后位置與大小順序相反，即前面的數(shù)大于后面的數(shù)。例如，τ(3142)=1+τ(1342)=3+τ(1234)=3。行列式的一些基本性質(1)若A的某行(或列)為零，則|A|=0。(2)|A′|=|A|。(3)若將A的某一行(或列)乘以常數(shù)c，則所得矩陣的行列式為c|A|。(4)若A是一個p階方陣，c為一常數(shù)，則|cA|=cp|A|。(5)若互換A的任意兩行(或列)，則行列式符號改變。(6)若A的某兩行(或列)相同，則行列式為零。(7)若將A的某一行(或列)的倍數(shù)加到另一行(或列)，則所得行列式不變。(8)若A的某一行(或列)是其他一些行(或列)的線性組合，則行列式為零。(9)若A為上三角矩陣或下三角矩陣或對角矩陣，則

(10)若A和B均為p階方陣，則|AB|=|A||B|。(11)|AA′|≥0。(12)若A與B都是方陣，則代數(shù)余子式設A為p階方陣，將其元素aij所在的第i行與第j列劃去之后所得(p?1)階矩陣的行列式，稱為元素aij的余子式，記為Mij。Aij=(?1)i+jMij稱為元素aij的代數(shù)余子式。有以下公式成立§2.4矩陣的逆若方陣A滿足|A|≠0，則稱A為非退化方陣；若|A|=0,則稱A為退化方陣。設A=(aij)是一非退化方陣，若方陣C滿足AC=I，則稱C為A的逆矩陣，記為C=A?1，A?1必是一個非退化矩陣。令B′=(Aij)/|A|

其中Aij是aij的代數(shù)余子式，則容易驗證AB=BA=I。由于C=BAC=B，因此A?1是惟一的，且(A?1)?1=A。逆矩陣的基本性質(1)AA?1=A?1A=I。(2)(A′)?1=(A?1)′。(3)若A和C均為p階非退化方陣，則(AC)?1=C?1A?1(4)|A?1|=|A|?1。(5)若A是正交矩陣，則A?1=A′。(6)若A=diag(a11,a22,?,app)非退化(即aii≠0，i=1,2,?,p)，則

(7)若A和B為非退化方陣，則§2.5矩陣的秩一組同維向量a1,a2,?,an，若存在不全為零的常數(shù)c1,c2,?,cn，使得c1a1+c2a2+?+cnan=0

則稱該組向量線性相關。若向量a1,a2,?,an不線性相關，就稱為線性無關。矩陣A的線性無關行向量的最大數(shù)目稱為行秩，其線性無關列向量的最大數(shù)目稱為列秩。矩陣的行秩和列秩必相等，故統(tǒng)一將其稱為A的秩，記作rank(A)。矩陣秩的基本性質(1)rank(A)=0，當且僅當A=0。(2)若A為p×q矩陣,且A≠0，則1≤rank(A)≤min{p,q}(若rank(A) =p,則稱A為行滿秩的；若rank(A)=q,則稱A為列滿秩的)。(3)rank(A)=rank(A′)。(4)

。(5)rank(AB)≤min{rank(A),rank(B)}。(6)若A和C為非退化方陣，則rank(ABC)=rank(B)(7)p階方陣A是非退化的，當且僅當rank(A)=p(稱作A滿秩)。(8)rank(AA′)=rank(A′A)=rank(A)?！?.6特征值、特征向量和矩陣的跡一、特征值和特征向量二、矩陣的跡一、特征值和特征向量設A是p階方陣，若對于一個數(shù)λ，存在一個p維非零向量x，使得Ax=λx，則稱λ為A的一個特征值或特征根，而稱x為A的屬于特征值λ的一個特征向量。依該定義有，(A?λI)x=0，而x≠0，故必有|A?λI|=0 |A?λI|是λ的p次多項式，稱為特征多項式。上式有p個根 (可能有重根)，記作λ1,λ2,?,λp，它們可能為實數(shù)，也可能為復數(shù)(雖然A是實數(shù)矩陣)。反過來，若λi是上式的一個根，則A?λiI為退化矩陣，故存在一個p維非零向量xi，使得(A?λiI)xi=0

即λi是A的一個特征值，而xi是相應的特征向量。今后，一般取xi為單位向量，即滿足xi′xi=1。特征值和特征向量的基本性質(1)A和A′有相同的特征值。(2)若A和B分別是p×q和q×p矩陣，則AB和BA有相同的非零特征值。(3)若A為實對稱矩陣，則A的特征值全為實數(shù)，p個特征值按大小依次表示為λ1≥λ2≥?≥λp。若λi≠λj，則相應的特征向量xi和xj必正交，即xi′xj=0。(4)若A=diag(a11,a22,?,app)，則a11,a22,?,app為A的p個特征值，相應的特征向量分別為e1=(1,0,?,0)′，e2=(0,1,0,?,0)′，?，ep=(0,?,0,1)′。(5)

，即A的行列式等于其特征值的乘積?？梢姡珹

為非退化矩陣，當且僅當A的特征值均不為零；A為退化矩陣，當且僅當A至少有一個特征值為零。例2.6.4設方陣A：p×p的p個特征值為λ1,λ2,?,λp，試證：

①若A可逆，相應于λ1,λ2,?,λp的特征向量分別為x1,x2,?,xp，則A?1的p個特征值為

，相應的特征向量仍為x1,x2,?,xp；

②若A為正交矩陣，則A的特征值為1或?1。(6)若A為p階對稱矩陣，則存在正交矩陣T及對角矩陣Λ=diag(λ1,λ2,?,λp)，使得A=TΛT′上式兩邊右乘T，得AT=TΛ

將T按列向量分塊，并記作T=(t1,t2,?,tp)，于是有(At1,At2,?,Atp)=(λ1t1,λ2t2,?,λptp)

故Ati=λiti，i=1,2,?,p

這表明λ1,λ2,?,λp是A的p個特征值，而t1,t2,?,tp為相應的(一組正交單位)特征向量。

稱之為A的譜分解。(7)若A為p×q實數(shù)矩陣，則存在p階正交矩陣U和q階正交矩陣V，使得A=UΛV′

其中Λ的(i,i)元素λi≥0，i=1,2,?,min(p,q)，其他元素均為零。正數(shù)λi稱為A的奇異值，上述分解式稱為奇異值分解。設rank(A)=k

，則矩陣Λ中只有k個正數(shù)，記為λ1,λ2,?,λk。將正交矩陣U和V按列分塊有，U=(u1,u2,?,up)，V=(v1,v2,?,vq)，令U1=(u1,u2,?,uk)，V1=(v1,v2,?,vk)，Λ1=diag(λ1,λ2,?,λk),則得到奇異值分解的另一表達式：

這里u1,u2,?,uk是一組p維正交單位向量，v1,v2,?,vk是一組q維正交單位向量，即有U1′U1=V1′V1=I。由A=UΛV′知，AA′=UΛ2U′，A′A=VΛ2V′，于是AA′ui=λi2ui，i=1,2,?,pA′Avi=λi2vi，i=1,2,?,q

即

是AA′的p個特征值，u1,u2,?,up

是相應的特征向量；

是A′A

的q個特征值，v1,v2,?,vq

是相應的特征向量。二、矩陣的跡設A為p階方陣，則它的對角線元素之和稱為A的跡，記作tr(A)，即tr(A)=a11+a22+?+app方陣的跡具有下述基本性質：(1)tr(AB)=tr(BA)。特別地，tr(ab′)=b′a。(2)tr(A)=tr(A′)。(3)tr(A+B)=tr(A)+tr(B)。(4)

。(5)設λ1,λ2,?,λp為方陣A的特征值，則tr(A)=λ1+λ2+?+λp§2.7正定矩陣和非負定矩陣設A是p階對稱矩陣，x是一p維向量，則x′Ax稱為A的二次型。若對一切x≠0，有x′Ax>0，則稱A為正定矩陣，記作A>0；若對一切x，有x′Ax≥0，則稱A為非負定矩陣，記作A≥0。正定矩陣和非負定矩陣的基本性質(1)設A是對稱矩陣，則A是正定(或非負定)矩陣，當且僅當A的所有特征值均為正(或非負)。(2)設A≥0，則A的秩等于A的正特征值個數(shù)。(3)若A>0，則A?1>0。(4)設A≥0，則A>0，當且僅當|A|≠0。(5)若A>0(或≥0)，則|A|>0(或≥0)。(6)BB′≥0，對一切矩陣B成立。(7)若A>0(或≥0)，則存在>0(或≥0)，使得

稱為A的平方根矩陣。第三章多元統(tǒng)計基礎知識§3.1隨機向量§3.2多元正態(tài)分布§3.3圖示法§3.1隨機向量一、多元分布二、數(shù)字特征三、歐氏距離和馬氏距離一、多元分布一個向量，若它的分量都是隨機變量，則稱之為隨機向量。隨機變量x的分布函數(shù)：隨機向量

的（概率）分布函數(shù)：多元概率密度函數(shù)一元的連續(xù)型情形：多元的連續(xù)型情形：多元密度f(x1,

?,xp)的性質：二、數(shù)字特征1.數(shù)學期望（均值）

2.協(xié)方差矩陣3.相關矩陣1.數(shù)學期望（均值）隨機向量的數(shù)學期望

記為μ=(μ1,μ2,?,μp)′。隨機矩陣X=(xij)的數(shù)學期望隨機矩陣X的數(shù)學期望的性質(1)設a為常數(shù)，則E(aX)=aE(X)(2)設A,B,C為常數(shù)矩陣，則E(AXB+C)=AE(X)B+C特別地，對于隨機向量x，有E(Ax)=AE(x)(3)設X1,X2,?,Xn為n個同階的隨機矩陣，則E(X1+X2+?+Xn)=E(X1)+E(X2)+?+E(Xn)2.協(xié)方差矩陣協(xié)方差定義為若Cov(x,y)=0，則稱x和y不相關。兩個獨立的隨機變量必然不相關，但兩個不相關的隨機變量未必獨立。當x=y時，協(xié)方差即為方差，也就是

的協(xié)方差矩陣（簡稱協(xié)差陣）定義為 x和y的協(xié)方差矩陣與y和x的協(xié)差陣互為轉置關系，即有若Cov(x,y)=0，則稱x和y不相關。兩個獨立（即取值互不影響）的隨機向量必然不相關，但兩個不相關的隨機向量未必獨立。x=y時的協(xié)差陣Cov(x,x)稱為x的協(xié)差陣，記作V(x)，即V(x)亦記作Σ=(σij)，其中σij=Cov(xi,xj)。 協(xié)差陣Σ既包含了x各分量的方差，也包含了每兩個分量之間的協(xié)方差。顯然，Σ是一個對稱矩陣。例3.1.1隨機向量一分為二后，其協(xié)差陣分為四塊：

其中，對角線塊為子向量的協(xié)差陣，非對角線塊為兩個子向量之間的協(xié)差陣。熟悉這四塊子矩陣的含義很有益處。協(xié)差陣的性質(1)協(xié)差陣是非負定陣，即Σ≥0。推論若|Σ|≠0，則Σ>0。(2)設A為常數(shù)矩陣，b為常數(shù)向量，則當p=1時，上述等式就是我們熟知的如下等式：(3)設A和B為常數(shù)矩陣，則例3.1.2設隨機向量x=(x1,x2,x3)′的數(shù)學期望和協(xié)方差矩陣分別為

令y1=2x1?x2+4x3,y2=x2?x3,y3=x1+3x2?2x3,試求y=(y1,y2,y3)′的數(shù)學期望和協(xié)方差矩陣。3.相關矩陣隨機變量x和y的相關系數(shù)定義為

的相關陣定義為若ρ(x,y)=0，則表明x和y不相關。

x=y時的相關陣ρ(x,x)稱為x的相關陣，記作R=(ρij)，這里ρij=ρ(xi,xj),ρii=1。即R=(ρij)和Σ=(σij)之間有關系式：R=D?1ΣD?1

其中

；R和Σ的相應元素之間的關系式為

前述關系式即為標準化變換在數(shù)據(jù)處理時，常常因各變量的單位不完全相同而需要對每個變量作標準化變換，最常用的標準化變換是令記，于是

即標準化后的協(xié)差陣正好是原始向量的相關陣?？梢?，相關陣R也是一個非負定陣。三、歐氏距離和馬氏距離1.歐氏距離2.馬氏距離1.歐氏距離

之間的歐氏距離為平方歐氏距離為

到總體π的平方歐氏距離定義為平均大小等于不適合直接使用歐氏距離的例子下面是各國家和地區(qū)男子徑賽記錄的數(shù)據(jù)（1984年）：國家和地區(qū)100米（秒）200米（秒）400米（秒）800米（分）1500米（分）5000米（分）10000米（分）馬拉松（分）阿根廷10.3920.8146.841.813.714.0429.36137.72澳大利亞10.3120.0644.841.743.5713.2827.66128.3奧地利10.4420.8146.821.793.613.2627.72135.9比利時10.3420.6845.041.733.613.2227.45129.95百慕大10.2820.5845.911.83.7514.6830.55146.62巴西10.2220.4345.211.733.6613.6228.62133.13緬甸10.6421.5248.31.83.8514.4530.28139.95加拿大10.1720.2245.681.763.6313.5528.09130.15智利10.3420.846.21.793.7113.6129.3134.03中國10.5121.0447.31.813.7313.929.13133.53哥倫比亞10.4321.0546.11.823.7413.4927.88131.35?????????一、歐氏距離向量的各分量如果單位不全相同，則上述歐氏距離一般就沒有意義。即使單位全相同，但如果各分量的變異性差異很大，則變異性大的分量在歐氏距離的平方和中起著決定性的作用，而變異性小的分量卻幾乎不起什么作用。在實際應用中，為了消除單位的影響和均等地對待每一分量，我們常須先對各分量作標準化變換，然后再計算歐氏距離。令

，則由于

，故平方和中各項的平均取值均為1，從而各分量所起的平均作用都一樣。歐氏距離經變量的標準化之后能夠消除各變量的單位或方差差異的影響，但不能消除變量之間相關性的影響，以致有時用歐氏距離顯得不太合適。為此，我們引入一個由印度著名統(tǒng)計學家馬哈拉諾比斯（Mahalanobis，1936年）提出的“馬氏距離”的概念。2.馬氏距離

之間的平方馬氏距離定義為到總體π的平方馬氏距離定義為特點(1)馬氏距離不受變量單位的影響，是一個無單位的數(shù)值。比例單位變換如x的分量是長度、重量、速度、費用和用時等，則變量的單位變換可表達為

其中。帶有常數(shù)項的單位變換例子攝氏溫度與華氏溫度的換算公式：

F＝(C×9／5)＋32，C＝(F－32)×5／9

式中F——華氏溫度，C——攝氏溫度。

特點(1)的證明

x1,x2經單位變換后為y1,y2，即有特點(2)

馬氏距離是x和y經“標準化”之后的歐氏距離，即

其中

，它們的均值

皆為0，協(xié)差陣皆為單位陣I。特點(3)若

，則即當各分量不相關時馬氏距離即為各分量經標準化后的歐氏距離?！?.2多元正態(tài)分布一、多元正態(tài)分布的定義二、復相關系數(shù)和偏相關系數(shù)三、極大似然估計及估計量的性質一、多元正態(tài)分布的定義一元正態(tài)分布N(μ,σ2)的概率密度函數(shù)為若隨機向量

的概率密度函數(shù)為

則稱x服從p元正態(tài)分布，記作x~Np

(μ,Σ)，其中，參數(shù)μ和Σ分別為x的均值和協(xié)差陣。例3.2.1（二元正態(tài)分布）設x~N2(μ,Σ)，這里

易見，ρ是x1和

x2的相關系數(shù)。當|ρ|<1時，可得x的概率密度函數(shù)為二元正態(tài)分布的密度曲面圖下圖是當時二元正態(tài)分布的鐘形密度曲面圖。二元正態(tài)分布等高線等高（橢圓）線：上述等高線上的密度值二元正態(tài)分布的密度等高線族

（使用SAS/INSIGHT，由10000個二維隨機數(shù)生成）

二、復相關系數(shù)和偏相關系數(shù)1.復相關系數(shù)2.偏相關系數(shù)1.復相關系數(shù)（簡單）相關系數(shù)度量了一個隨機變量x1與另一個隨機變量x2之間線性關系的強弱。復相關系數(shù)度量了一個隨機變量x1與一組隨機變量x2,?,xp之間線性關系的強弱。將x,Σ(>0)剖分如下：

x1和x2的線性函數(shù)間的最大相關系數(shù)稱為x1和x2間的復(或多重)相關系數(shù)(multiplecorrelationcoefficient)，記作ρ1?2,?,p,它度量了一個變量x1與一組變量x2,?,xp間的相關程度?？赏茖С隼?.3.1隨機變量x1,?,xp的任一線性函數(shù)F=l1x1+?+lpxp與x1,?,xp的復相關系數(shù)為1。證明二、偏相關系數(shù)將x,Σ(>0)剖分如下：

稱為給定x2時x1的偏協(xié)方差矩陣。記，稱為偏協(xié)方差，它是剔除了的（線性）影響之后，xi和xj之間的協(xié)方差。給定x2時xi

和xj的偏相關系數(shù)（partialcorrelationcoefficient）定義為

其中。ρij?k+1,?,p度量了剔除xk+1,?,xp的（線性）影響之后，xi和xj間相關關系的強弱。三、極大似然估計及估計量的性質1.μ和Σ的極大似然估計2.相關系數(shù)的極大似然估計3.估計量的性質設x~Np(μ,Σ),Σ>0，x1,x2,?,xn是從總體x中抽取的一個簡單隨機樣本（今后簡稱為樣本），即滿足：x1,x2,?,xn獨立，且與總體分布相同。令

稱之為（樣本）數(shù)據(jù)矩陣或觀測值矩陣。1.μ和Σ的極大似然估計極大似然估計是通過似然函數(shù)來求得的，似然函數(shù)可以是樣本聯(lián)合概率密度f(x1,x2,?,xn)的任意正常數(shù)倍，我們不妨取成相等，記為L(μ,Σ)?？删唧w表達為：一元正態(tài)情形：多元正態(tài)情形：

其中稱為樣本均值向量（簡稱為樣本均值），

稱為樣本離差矩陣。2.相關系數(shù)的極大似然估計(1)簡單相關系數(shù)(2)復相關系數(shù)(3)偏相關系數(shù)(1)簡單相關系數(shù)相關系數(shù)ρij的極大似然估計為

其中

。稱S為樣本協(xié)方差矩陣、rij為樣本相關系數(shù)、

為樣本相關矩陣。(2)復相關系數(shù)將x,Σ(>0),S剖分如下：

則復相關系數(shù)ρ1?2,?,p的極大似然估計為r1?2,?,p,稱之為樣本復相關系數(shù)。其中

(3)偏相關系數(shù)將x,Σ(>0),S剖分如下：

則偏相關系數(shù)ρij?k+1,?,p的極大似然估計為rij?k+1,?,p，稱之為樣本偏相關系數(shù)，其中

。

3.估計量的性質設是未知參數(shù)??（可以是一個向量或矩陣）的一個估計量，如果，則稱估計量是被估參數(shù)??的一個無偏估計，否則就稱為有偏的。樣本均值是總體均值μ的無偏估計，即有由于，故不是Σ的無偏估計。

若將該估計量稍加修正為

則S將是Σ的一個無偏估計，即有E(S)=Σ。例3.2.3今對31個人進行人體測試，考察或測試的七個指標是：年齡(x1)、體重(x2)、肺活量(x3)、1.5英里跑的時間(x4)、休息時的脈搏(x5)、跑步時的脈搏(x6)和跑步時記錄的最大脈搏(x7)。數(shù)據(jù)列于表3.2.1。現(xiàn)欲對這些指標作一些相關分析。表3.2.1 人體的測試數(shù)據(jù)指標編

號x1x2x3x4x5x6x714489.4744.60911.376217818224075.0745.31310.076218518534485.8454.2978.654515616844268.1559.5718.174016617253889.0249.8749.225517818064777.4544.81111.635817617674075.9845.68111.957017618084381.1949.09110.856416217094481.4239.44213.0863174176103881.8760.0558.6348170186114473.0350.54110.1345168168124587.6637.38814.0356186192134566.4544.75411.1251176176144779.1547.27310.647162164155483.1251.85510.3350166170164981.4249.1568.9544180185175169.6340.83610.9557168172185177.9146.6721048162168194891.6346.77410.2548162164204973.3750.38810.0876168168215773.3739.40712.6358174176225479.3846.0811.1762156165235276.3245.4419.6348164166245070.8754.6258.9248146155255167.2545.11811.0848172172265491.6339.20312.8844168172275173.7145.7910.4759186188285759.0850.5459.9349148155294976.3248.6739.456186188304861.2447.9211.552170176315282.7847.46710.553170172§3.3圖示法一、盒形圖二、散點圖三、旋轉圖一、盒形圖盒形圖（Boxplot，亦稱箱線圖）是用簡潔的方式概括數(shù)據(jù)的一種圖形，主要由一個矩形盒和兩條須線（whisker）構成。矩形盒的兩側邊界分別是下四分位數(shù)和上四分位數(shù)，盒中間的一條垂線是中位數(shù)。圖3.3.1多元統(tǒng)計分析期末成績的盒形圖盒形圖在分析來自若干個組的數(shù)據(jù)時尤為有用。這時，每一組可作一個盒形圖，然后再比較組與組的差別。(1)在圖3.3.2（2）中，菱形中垂直的對角線表示樣本均值的位置，水平的對角線長度是兩倍的樣本標準差。該圖很容易被用來對兩組的均值及標準差進行直觀比較。(2)圖3.3.2男、女生分組的多元統(tǒng)計分析期末成績盒形圖二、散點圖1.散點圖與盒形圖相配2.散點圖矩陣1.散點圖與盒形圖相配例3.3.1表3.3.1給出了表1.2.1中的93名學生在前一學期修讀的《抽樣技術》期末考試成績。表3.3.1表1.2.1中93名學生的《抽樣技術》期末考試成績課程序號n期末成績y課程序號n期末成績y課程序號n期末成績y課程序號n期末成績y194257549857388287266050787448399279151937593499289752967698599299353607779682304554877896775319755957998848329656758096968339857908196107734765885829611923595598183761243368460828442139137956191859914723856628886981569396963888772168440856474888417834183659689941892428666839084198743856796919820774494688592932177459069789384228846817026239447957185249948737296圖3.3.3兩門課程期末成績的散點圖及所配的盒形圖2.散點圖矩陣觀測散點圖矩陣，可以得到關于異常數(shù)據(jù)以及變量間關系的直觀印象。圖3.3.4散點圖矩陣三、旋轉圖旋轉圖是一個三維圖。觀測旋轉圖，可以動態(tài)、持續(xù)地進行直到獲得足夠的信息，這樣的圖可以使我們迅速地識別出那些與其他數(shù)據(jù)不一致的觀測值和可能嚴重影響（基于正常數(shù)據(jù)的）有關分析及推斷的異常值。圖3.3.5旋轉圖第四章

非參數(shù)方法§4.1擬合優(yōu)度檢驗§4.2獨立性檢驗§4.3符號檢驗§4.4威爾科克森符號秩檢驗§4.5威爾科克森秩和檢驗§4.6QQ圖§4.1擬合優(yōu)度檢驗一、分類數(shù)據(jù)的χ2檢驗二、分布擬合的χ2檢驗一、分類數(shù)據(jù)的χ2檢驗假定一個總體可分為k個類A1,A2,?,Ak，并設類Ai在總體中所占的比例為P(Ai)(i=1,2,?,k)，且

。又設p1,p2,?,pk是一組給定的數(shù)值，滿足pk>0(i=1,2,?,k)，

。欲檢驗 H0：P(Ai)=pi，i=1,2,?,kH1：P(Ai)≠pi，至少存在一個I容量為n的樣本中屬于類Ai的頻數(shù)為fi(i=1,2,?,k)，有

。皮爾遜(K.Pearson，1900)提出了一個檢驗統(tǒng)計量

并指出，當H0為真且n充分大(通常還要求npi≥5,i=1,2,?,k)時，χ2近似服從χ2(k?1)分布。該檢驗稱為χ2擬合優(yōu)度檢驗(chi?squaregoodnessoffittest)。對給定的顯著性水平α，其拒絕規(guī)則為：若

，則拒絕H0例4.1.1在一正20面體的20個面上，分別標以數(shù)字0～9，每個數(shù)字在兩個對稱的面上標出。為檢驗其勻稱性，共作800次投擲試驗，各數(shù)字朝正上方的次數(shù)列于表4.1.1：

試問該正20面體是否勻稱(α=0.05)。表4.1.1 正20面體的800次投擲試驗中，各數(shù)字朝正上方的觀測頻數(shù)數(shù)

字0123456789觀測頻數(shù)74928379807377757691以Ai表示數(shù)字i朝正上方，i=1,2,?,9。要檢驗

當H0為真時，

。表4.1.2 正20面體勻稱性的χ2檢驗統(tǒng)計量計算過程數(shù)字i0123456789觀測頻數(shù)fi74928379807377757691期望頻數(shù)80808080808080808080fi?npi?6123?10?7?3?5?411(fi?npi)2361449104992516121(fi?npi)2/npi0.451.80.11250.0125