數理統(tǒng)計復習總結

1、1統(tǒng)計量與抽樣分布基本概念：統(tǒng)計量、 總體X的樣本X1,樣本矩、經驗分布函數，Xn,則X2,T(X1 , X2,，Xn)即為統(tǒng)計量2樣本均值樣本方差s2(Xi2X)修正樣本方差*2S nn(Xi12X)樣本k階原點矩AkXik,(k1,2,.)樣本k階中心矩Bk(XiX)k,(k 1,2,.)經驗分布函數Fn(X)Vn(X)n ,()其中Vn(X)表示隨機事件X顯然 Vn(x) B(n, F(x)，則有 EFn(x)1F(x) DFn(x)-F(X)1nx出現的次數F(x)補充:ES；n 1*2DX ESnnDXEX22DX (EX)S；Xi2X21二項分布B(n ,p):PXkk kCn p

2、(1p)nk,(k0,1,., n)泊松分布P()：PXk-e k!,(k0,1,.)EXDX均勻分布U(a,b):f(x)1,(ax b)b aab12EX -DX(ba)212指數分布f (x) eX r,(x0)F(x) 1 eEX=np DX=np(1-p)kX,(X0)EX - DX -2正態(tài)分布N(2 1):f(x) T2-exP(x )2TEXDX 2E(nSn) n1 ES： 口 n2 D(彎)2(n 1)DSn22(n 1) 42n0時,EX 0 EX22 EX434 EX2DX (1 -)統(tǒng)計量：充分統(tǒng)計量、因子分解定理、完備統(tǒng)計量、指數型分布族T是B的充分統(tǒng)計量f (為旳

3、兇丁 t)與B無關T是B的完備統(tǒng)計量要使 Eg(T)=O必有 g(T)=0L(f (Xi；h(x1)X2,.l Xn)g(T(xn X2,.,Xn)；)且 h非負T是B的充分統(tǒng)計量f(Xi；C()eXP b( )T (X1, X2,., Xn) h(X1,X2,., Xn)T 是 B 的充分完備統(tǒng)計量f(Xi；C()expd( )Ti(Xi,X2,.,Xn) b2( )T2(Xi,X2,.,Xn)h(Xi,X2,.,Xn)抽樣分布：2分布，t分布，F分布，分位數，正態(tài)總體樣本均值和方差的分布，非正態(tài)總(T)是1 ?(1, 2)的充分完備統(tǒng)計量體樣本均值的分布2分布：2 X12 X；X；2(n)

4、f (x)22x n1e 2x2 (x(n)0)2 2E n D 2nT分布：TY/nt(n)當 n2 時，ET=0 DTF分布：Fx/嚴 F(n 1, rh)/門2F( n2,nj補充:Z=X+Y的概率密度fz(z)率密度f (x, z x)dx f (z y, y)dy f(x,y)是 X和 Y 的聯(lián)合概YZX的概率密度fz(z)f (x, xz) xdx似然方程無解時，求出的定義域中使得似然函數最大的值，即為最大似然估計y g(x)的概率密度 fy(y)fx(g 1(y)|g 1(y)函數：()xdx(1)()(n) (n 1)!, (1) 1i 11B 函數：B( ,) o x 1(1

5、 x) 1dx B(次序統(tǒng)計量及其分布：次序統(tǒng)計量、樣本中位數、樣本極差RX(k)的分布密度：fjx)F(x)k11 F(x)n kf(x),(k 1,2,., n)(k 1)! (n k)!X(1)的分布密度：f“)(x) n f(x)1 F(x)n1X(n)的分布密度：f“(x)nf(x)F(x)n 12參數估計點估計與優(yōu)良性:概念、無偏估計、均方誤差準則、相合估計(一致估計)、漸近正態(tài)估計$的均方誤差：MSE($, )E($)2 D$ (E$)2若$是無偏估計，則MSE($, ) D$對于的任意一個無偏估計量 $，有D $*D$，則$是 的最小方差無偏估計， 記MVUE相合估計(一致估計

6、):lim E n lim D$n0nn點估計量的求法：矩估計法、最大似然估計法矩估計法： 求出總體的k階原點矩：ak EXkxkdF(x; 1, 2,., m)解方程組ak1 X (k=1,2,m)，得 $k $k(X1,X2,Xn)即為所求 n i 1最大似然估計法:寫出似然函數L()f(Xi；i 1)，求出InL及似然方程In L0 i=1,2,.,mi $ 解似然方程得到$i(X1,X2,.,Xn)，即最大似然估計$i(X1,X2,.,Xn)i=1,2,.,m補充：和有效估計：最小方差無偏估計、有效估計T是 的充分完備統(tǒng)計量，$是 的一個無偏估計$*E($|T)為的惟一的MVUE最小方

7、差無偏估計的求解步驟：求出參數的充分完備統(tǒng)計量 T求出ET g()，則$ g 1(T)是的一個無偏估計或求出一個無偏估計，然后改寫成用T表示的函數綜合，Eg 1(T)T g 1(T)是的MVUE或者:求出 的矩估計或 ML估計，再求效率，為 1則必為MVUET是g()的一個無偏估計，則滿足信息不等式DT(X) 2其中nl()八1( ) E2lnf(X;)或 I( ) E2ln f(X;)o，f(x；)為樣本的聯(lián)合分布。最小方差無偏估計達到羅-克拉姆下界有效估計量效率為1無偏估計$的效率：e( $)nI()D$是 的最大似然估計，且 $是的充分統(tǒng)計量的有效估計區(qū)間估計：概念、正態(tài)總體區(qū)間估計 體

8、參數和區(qū)間估計(期望、方差、均值差、方差比)及單側估計、非正態(tài)總一個總體的情況：XN(2)2已知，求的置信區(qū)間:X-nN(02未知，求的置信區(qū)間:XS* n t(n 1)*Sn + / j=t (n n 21)已知，求2的置信區(qū)間:n(Xi)2i 12(n)(Xi)2i 12n(Xi )2i 112_(n)2未知，求2的置信區(qū)間:n(Xii 1X)22(n1)n(Xii 1TTn 1)2X)2n2(Xi X)2i 12 (n 1)22 2兩個總體的情況：X N( 1, 1 )，Y N( 2,2)， 求 i 2 的 區(qū) 間 估 計Y ( i 2)22i2 N(0,1)X Y ( i 2)ni22

9、u2n2nin22未知時,2的區(qū)間估計:2)ng n22)(ni2未知時,*2S2n2*2SiniI)Sim (n2 i)S2n2t(mn221 :2 :2nin22)21221,ni1)*2S m*2S2n2Fi_(n2 i,ni2i)2122*2Sini F (n2 i,ni i)S2n2 2非正態(tài)總體的區(qū)間估計:X當n 時，X =Sn/亦N(0,i)limnSn i,故用Sn代替Sn-i N(0,I)3統(tǒng)計決策與貝葉斯估計統(tǒng)計決策的基本概念：三要素、統(tǒng)計決策函數及風險函數三要素：樣本空間和分布族、行動空間(判決空間)、損失函數L(,d)統(tǒng)計決策函數d(X):本質上是一個統(tǒng)計量，可用來估計

10、未知參數風險函數：R( ,d) E L( ,d(X)是關于 的函數貝葉斯估計：先驗分布與后驗分布、貝葉斯風險、貝葉斯估計求樣本X=(Xi,X2,.,Xn)的分布:q(x|nf (xi | )i i樣本X與 的聯(lián)合概率分布:f (x,h( |x)m(x)q(x| )()求f (x,)關于x的邊緣密度m(x)f(x, )d正態(tài)總體均值與方差的假設檢驗:t檢驗、X2檢驗、F檢驗、單邊檢驗的后驗密度為：h( | x)m(x)2取 L( ,d)( d)時的貝葉斯估計為：$ E( |x)h( |x)dR( ,d) E ( d)2貝葉斯風險為：RB(d) ER( ,d) E ( d)2h( |x)d取 L(

11、 ,d)()(d)2時，貝葉斯估計為：$ )兇E ( )|x補充：C()的貝葉斯估計：取損失函數 L( ,d) (C( ) d)2，則貝葉斯估計為C( ) EC( )|x C( )h( |x)df(x, )d$ E( |x) h( | x)df(x, )dm(x)f(x, )d估計對決策空間中的決策函數di(x),d2(x),，分別求出在上的最大風險值 maxR( ,d)在所有的最大風險值中選取相對最小值，此值對應的決策函數就是最小最大決策函數。4假設檢驗基本概念：零假設(Ho)與備選假設(Hi)、檢驗規(guī)則、兩類錯誤、勢函數 零假設通常受到保護，而備選假設是當零假設被拒絕后才能被接受。檢驗規(guī)則

12、：構造一個統(tǒng)計量T(Xi,X2,.,X3)，當Ho服從某一分布，當 Ho不成立時，T的偏大偏小特征。據此，構造拒絕域W第一類錯誤(棄真錯誤):PTW| H。為真第二類錯誤(存?zhèn)五e誤):PTW|H。為假勢函數：()E (X) PX W (X)1, XW0, XW當0時，()為犯第類錯誤的概率當i時，1()為犯第二類錯誤的概率一個總體的情況:N(2)2已知，檢驗H。:Hi :X o：阿)o未知，檢驗Ho：Hi :*- t(nSn；n1)已知，檢驗Ho：Hi：n(Xii i2)22(n)未知，檢驗Ho：Hi：n(Xi X)2i i(n 1)兩個總體的情況:N(i2)，YN(；)2未知時，檢驗H o：

13、 i 2Hi :nin2(ni n22)ni i)Si2(n2 i)S2n:2未知時，檢驗Ho：12nin2單邊檢驗：舉例說明，構造Ui時Uit(nin22)2 Hi：i22已知，檢驗Ho：*2%込F(niS2n2imi)Hi：N(0,i)，給定顯著性水平，有 PUi u 。當Ho成立defU，因此PUu PUi u 。故拒絕域為非參數假設檢驗方法：2擬合優(yōu)度檢驗、科爾莫戈羅夫檢驗、斯米爾諾夫檢驗W U u m22擬合優(yōu)度檢驗：H o ： PiPioHi ： PiPo W(Ni n pQnpo2(m r i)其中Ni表示樣本中取值為i的個數，r表示分布中未知參數的個數科爾莫戈羅夫檢驗：Ho：F

14、(x) Fo(x)Hi： F(x) Fo(x)實際檢驗的是Fn(x) F(x)W limnsup |Fn(x) F(x)XDn, 斯米爾諾夫檢驗： H0:F(x)G(x) H1: F(x)G(x)實際檢驗的是Fn(x)Gn(x)似然比檢驗W limnsup Fn(x) GXn2(x)Dm?，明確零假設和備選假設：H。：0 H1 :構造似然比:匚(花，Xn)Lo(X1，,Xn)SUpL(X1，Xn；)SUpL(X1，Xn；)0拒絕域：W (Xi，,Xn)5方差分析單因素方差分析:Xij數學模型、離差平方和分解、顯著性檢驗、參數估計數學模型 jjiN(0, 2) 各耳相互獨立ij,(i=1,2,.

15、,m;j=1,2,.,ni) Ho：12ni總離差平方和Qt2(Xij X)j 1QtQeQa組內離差平方和Qeni_2(Xij Xi)2j 1E(生)n r組間離差平方和2ni(Xi X)當Ho成立時,qaE(J構造統(tǒng)計量F1)r)1,nr)，當Ho不成立時,有偏大特征Xi XkN(十)2)且Q2(n r)Xi Xk ( ili :嚴Q t(n r)應用:若原始數據比較大而且集中，可減去同一數值 Xjj Xij k再解題輔助量：P 1(n iXQ2,Q1丄(Xij)2,Ri 1 ni j 1qa q p,qeQ,Qt r p兩因素方差分析：數學模型、離差平方和分解、顯著性檢驗niXiji數學

16、模型jjN(0, 2)各耳相互獨立ijH01:H02 :總離差平方和qt(Xijj 1X)QtQeQbQani組內離差平方和qe(Xij Xi? X?j Xi)2j 1Qe因素B引起的離差平方和QbX)2因素A引起的離差平方和Qas*?X)2輔助量：P構造統(tǒng)計量:Xij1 j 1,QiXijQiP,QbQiip,QeQiFbQa (r1)Qe (r 1)(s 1)Qb (s 1)Qe (r 1)(s 1)Xij2E(r 1)(s 1)當Ho成立時,當Ho成立時, QiiQii6回歸分析元線性回歸：回歸模型、未知參數的估計b *2)Yxii回歸模型：iN(0,2)i=1,2,., n.各i相互獨

17、立A F(rQe(3、a、1,(r1,(r1)(s1)(sE (仝s 1E2rXiji 1,RsX2ijj 11)1)b 2)、參數估計量的分布(3a YO b 2(,)的估計:(1(Xi X)(Yi Y) i 1n(Xii 1X)2(,)分布:N(，-n)2(Xi X)/L 2)(Xi x)2i 1n(Yn i iY)2n_(X X)2)i 1*2jlnY Xi回歸模型：多元線性回歸：回歸模型、參數估計、分布i2i N(0, In)i=1,2,n.各i相互獨立參數估計：XtY (XtX)卩卩(XTX) 1xty7多元分析初步定義及性質：定義、性質X Np(,)其中 為X的均值向量，為X的協(xié)方差矩陣Y=CX+b 則