概率論與數(shù)理統(tǒng)計主要內(nèi)容小結

1、概率論與數(shù)理統(tǒng)計主要內(nèi)容小結概率部分1、全概率公式與貝葉斯公式全概率公式：2XXP(A) P(A|Bi) P(Bi)P(A|B2)P(B2)P(A|Bn) P(Bn)其中Bi,B2,Bn是空間S的一個劃分。貝葉斯公式:P(Bi|A)P(Bi) P(A|Bi)nP(Bj) P(A|Bj)j 1其中Bi,B2,Bn是空間S的一個劃分。2、互不相容與互不相關A, B互不相容A B,P(A B) 0事件A,B互相獨立P(A B) P(A)(B);兩者沒有必然聯(lián)系3、幾種常見隨機變量概率密度與分布律 分布，指數(shù)分布，正態(tài)分布。:兩點分布,二項分布，泊松分布，均勻分布，二項-b(1, P),即二點分布，則

2、分布律為PxkPk(1 P)1 k,k 0,1.-b(n, p),即二項分布，則分布律為Pxkckp k(iP)nk,k 0,1,., n.(),即泊松分布，則分布律為Pxkk,k k!0,1,U (a, b),即均勻分布，則概率密度為f(X)17一,x b a0,其它(a,b)-E(),即指數(shù)分布，則概率密度為f(X)倚,X0,其它 N( , 2),即正態(tài)分布，則則概率密度為f(x) -jXeV2連續(xù)性隨機變量 X分布函數(shù)性質：(i) F( )1，F(xiàn)()0 , (ii)分布函數(shù)連續(xù)對連續(xù)性隨機變量X，已知概率密度f (x)，則分布函數(shù)為F(x)xf (t)dt ；已知分布函數(shù)為F (x)，則

3、概率密度f(x) F (x).對連續(xù)性隨機變量X，已知概率密度f(x),區(qū)間概率PxLLf(x)dx4、連續(xù)函數(shù)隨機變量函數(shù)的概率密度設連續(xù)隨機變量X的概率密度為fx(x),Y g(X)也是連續(xù)型隨機變量，求丫的概率密度求法(i)利用以下結論計算：如果函數(shù)g(x)處處可導，且恒有 g (x)0 (或g (x)0)，則 丫概率密度為:fY(y)fXh(y)|h(y)|,0,其他其中，h(y)是g(x)的反函數(shù)，且有ming( ), g( ), maxg(),g().(ii)利用分布函數(shù)計算：先求 yg(x)值域，再在該值域求 丫的分布函數(shù)F(y) PYy Pg(X)y PX B fx(x)dxx

4、 B則有fY(y)(y).常用求導公式fY(y)F (y)(y)(y) f(x)dxf( (y) (y) f( (y) (y)5、二維隨機變量分布律對于二維連續(xù)性隨機變量 (X ,Y)，其聯(lián)合概率密度為f (x, y),其聯(lián)合分布函數(shù)為F(x,y),則 F(x, y)x yf (u,v)dvdu,概率密度性質:(i) f(x,y) 0, (ii)f(u,v)dvdu 1已知概率密度邊緣分布函數(shù)為Fx (x)f (x, y),求區(qū)域概率有 P( x, y) D f (x,y)dydx,Dy f (u,v)dudv,f (u, v)dvdu, FX (y)邊緣概率密度為fX (x)f (x, y)

5、dx.條件分布函數(shù)為FXY(x| y)X f(u,y)du, FY|x(y|x)fY(y)y f(x,v)dv,fx(X)條件概率密度為fXY(x| y)f(x,y),fY|x(y|x)f(x, y)對于離散情形，設聯(lián)合分布律為邊緣概率密度為P XxifY(y)fx(X)PXPij1Xi,Y yjPi.，PYPijyji 1PijP.j條件概率密度為 PY yj |XXi |Yyjp.j6、二維隨機變量函數(shù)的分布設二維隨機變量(X,Y)概率密度為f(x, y)，分布函數(shù)為F(x, y)(i) Z=X+Y,則Z的概率密度為fz(z)f(z y,y)dyf (x,z x)dx當X,Y相互獨立時,f

6、z(z)fx(z y)fY(y)dyfx(x)fY(z x)dx(ii) M=maxX,Y 與 N=minX,Y當X,Y相互獨立時，F(xiàn)m(z)Fx(z)Fy (z)，F(xiàn)n(z)1(1Fx(z) )(1Fy(z)7、數(shù)學期望(i)求法：連續(xù)隨機變量 X概率密度為f (X)，貝y E(X)xf (x)dx ；若 Y g(X),則E(Y) g(x)f (x)dx.離散隨機變量分布律為Px Xk Pk ,則E(X)XkPk ；若 Y g(X),則k 1E(X)g(Xk) Pk.k 1若有二維的隨機變量(X, Y),其聯(lián)合概率密度為f(x,y),若 Y g(X,Y),則E(Y)g(x, y) f (x,

7、 y)dydx.(ii)性質：E(C) C,E(CX) CE(X),E(X Y) E(X) E(Y)E(k1X1 k2X2knXn) k1E(X1)k2E(X2)knE(Xn)X,丫相互獨立，則有E(XY)E(X)E( Y).8、方差定義：D(X)EXE(X)2，標準差(均方差)計算：D(X)E(X2) E(X)2性質：D(C)0,D(X C)D(X), D(CX)D(XY) D(X)D( Y)2E(X EX)(YJD(X).EY).E(X)常見分布的數(shù)學期望和方差：兩點分布:C2D(X).P,D(X) p(1p). b(n,p),即二項分布，則E(X)np ,D(X)np(1 p).(),即

8、泊松分布，則E(X),D(X)U (a,b),即均勻分布，貝y E(X)a b，D(X)(b a)212-E(),即指數(shù)分布，則E(X),D(X) N( ,2),即正態(tài)分布，則 E(X) ,D(X)9、協(xié)方差與相關系數(shù)定義：協(xié)方差：Cov(X,Y) E X E(X)Y E(Y) E(XY) E(X)E(Y).相關系數(shù)：XYTDoiDk則有C。心)XY質顧.性質：Cov(X,Y) Cov(Y,X),Cov(X,X) D(X),Cov(X, a) 0Cov(aX,b Y) abCov(X, Y),Cov(X1 X2, Y) Cov(X1, Y) Cov(X2, Y)D(X Y) D(X) D(Y)

9、 2Cov(X, Y)如果X ,Y相互獨立，則有D(X Y) D(X) D(Y)| XY |1,且丨 XY |1a,b,使 PY a bX 1.10、獨立與不相關關系XY 0 X,Y不相關Cov(X,Y) 0 E(X, Y) E(X)E( Y)X,丫相互獨立F(x,y) F(x)F(y) f(x)f (y) E(X,Y)E(X)E( Y)F為分布函數(shù)，而f為概率密度般情況下，X,Y相互獨立X,Y不相關，但反之不成立;特殊情況，當(X,Y) N( 1,2； 12,；)時，X, 丫相互獨立X,Y不相關并且此時E(X)1,E(Y)22；D(X)1 ,D( Y)22 ; XY,Cov(X, Y) 1

10、2.11、切比雪夫(Chebyshev)不等式：設隨機變量X的期望與方差為E(X) ,D(X)則對任意正數(shù)0，有P| X E(X)|旦丄，即 P| X |進一步有：P| X E(X) |1 Dl,即P|12、兩個中心極限定理定理1 (獨立同分布的中心極限定理)設隨機變量X1,X2,Xn,相互獨立，服從同一分布，有相同的數(shù)學期望和方差:E(Xk),D(Xk)0,k1,2,，則nnXk E( Xk)當n充分大時，Yn k 1 n k二Jd/ Xk)¥ k 1nXk ni 1石近似 N(0,1).定理2 (棣莫弗-拉普拉斯定理)設隨機變量n,n 1,2服從參數(shù)為n, p(0 p 1)的二項

11、n np設X為總體,X1, X2, Xn是來自總體X的樣本,定義分布，則當n充分大時，n " 近似 N(0,1)Jrip(1 p)統(tǒng)計部分1、常用統(tǒng)計量樣本平均值：X樣本方差：S2Xi X)2n 1 i 14 n 七Xi2 n 1 i 1nX2)，1 n(Xi樣本標準差(均方差)：S¥ n 1 i 1X)21 n樣本 k 階矩：Ak1Xik,k 1,2,n i 12、常用正態(tài)總體相關的統(tǒng)計量(1)2分布定義：設 Xi N(0,1),i1,2, nnXi2i 12(n),特別 Xi2 2(1).性質(i)可加性：設X 2(n 1), Y2(n2),則 X2(nin2).(ii

12、)設 X (n),則 EXn,D(X)2n.(iii)特例：設 Xi N(,2),則 4i 1n(Xi )2(n).2 t分布定義：設X N(0,1),Y(n),且X,Y相互獨立，則統(tǒng)計量丁二t(n). VY/n性質(i)概率密度為偶函數(shù)，關于y軸對稱；當n趨于無窮大，該統(tǒng)計量趨于標準的正態(tài)分布;(ii)對于分位點有：t1(n)t (n). F分布定義：設U(n i),V (n 2),且U,V相互獨立，則統(tǒng)計量 F五F(ni，n2).性質(i)對于分位點有：F, (m,門2)1F (n2, nJ3、正態(tài)總體樣本均值與樣本方差分布單個總體情形：設 X為總體，且服從X N( , 2), X1,X2

13、,Xn是來自總體X的樣本，X,S2分別是樣本均值與樣本方差，有以下結論:,而且有(i) E(X) E(X) ,D(X),E(S2) D(X)n nnnnCiXii 1N( Cii 1c2i 1i2).(ii) X N(,)，即n-N(0,1)；且1 n -(Xii 1-2 (n 1)S2 X)2 _A2(n 1)兩個正態(tài)總體情形：設X1，X2， Xn1是來自X N(12 )的樣本，丫1，丫2,Yn2是來)的樣本，且兩樣本相互獨立， X,Y為兩樣本均值,S2, s；為兩樣本方差,則有(i) XY N(212 ,n12二).n2(ii)Y ( 12)6t(n1 n2 2)，丨1 1 Sw JV n

14、1n2Sw1)S2(n2 1)S2n1n2(iii)S2/S；2/2 F(n11 / 21, n21)4.點估計(1)矩估計法設概率密度f(x；k)或分布律PX x p(x;k)中含k個參數(shù)需要估計。(i)求總體前k階矩E(X)E(X2)1 ( 1， 2 ,2 (1 J 2,，k)，k)(ii)kE(X )由以上方程解得k)1(2 (2,2,k)k)12kk (1 J2 Jk )(iii)以樣本i階矩Ai代替i,i 1,2, ,n即得估計量i i(, A，,Ak).(2)最大似然估計 定義：給定一組樣本觀測值 (X-X2， xn)，使該觀測值概率取最大的參數(shù)值為所求參數(shù)估計值。兩種求法：I直接

15、用最大似然法估計計算n(i)寫出似然函數(shù) 連續(xù)情形：L()f(Xi；)，離散情形：L( )p(Xi；)i 1i 10解出 估計值；若求導不行，則用直接分析法(ii)求使似然函數(shù)取最大值的參數(shù) 兩種方法：取對數(shù)，求導數(shù)，令導數(shù)為 (iii)由上寫出估計值，再表示出估計量II利用不變性計算若求函數(shù)u u()的最大似然估計，其中 u是單調(diào)函數(shù)，可先求最大似然估計，然后 利用不變性知u()是u()的最大似然估計。5.估計量評價標準無偏性:是的估計量，如果E(),則是的無偏估計量;有效性:1, ?2是的無偏估計量，如果 D( 1)D( ?2)，則1較?2更有效;一致性:是 的估計量，當樣本容量趨于無窮大

16、,依概率收斂于6.置信區(qū)間基本的重要概念:置信水平：是參數(shù)落在置信區(qū)間()的概率，即P(")兩統(tǒng)計量分別為雙則置信下限與置信上限，1為置信水平。例如置信水平為95%，則 10.95.置信區(qū)間幾種情形: 單個總體情形2已知,的置信區(qū)間，樞軸量N(0,1)雙側置信區(qū)間:(X 尸Z )，雙則置信上、下限: vn 2X, XVn2單側置信區(qū)間:(X,Vn單側置信上、下限：X Z , XTnVn當2未知， 的置信區(qū)間，樞軸量tXSt(n 1)雙側置信區(qū)間：（X孚t (nVn 21),雙則置信上、下限:(n1), X字t (n 1).Vn 2單側置信區(qū)間：（X廠t (n 1), Vn,X1)單側

17、置信上、下限:_ sX -St (nVn1),負t Jn(n1)當未知,2的置信區(qū)間，樞軸量(n1)S222(n1)雙側置信區(qū)間:（n OS2g二）,雙則置信上、下限1 （n 1）1 2(n21)'(n 1)S2 (n 1)S2 (n 1)， (n 1)2 2單側置信區(qū)間:(01)S21），（喺單側置信上、下限:(n 1)S2 (n 1)S21 (n 1)' (n 1)兩個總體情形:2未知，12/22的置信區(qū)間，樞軸量F(n11,n2 1)雙側置信區(qū)間:'S2F_( n1 1,n21)2S2雙則置信上、下限： 1S2s； F (m 1,n2 1)，1 2s2S； F(r

18、n 1,n2 1/ S| F (n1也 1)'1 22S2單側置信區(qū)間：(噲 F1 (n1 1,n2 1)臨 F(n1 1,n2 1)，S2單側置信上、下限:S2sFFi (ni 1,n2 1)' STfE 1川2 1)S2在求解置信區(qū)間時,先分清總體屬于那種情況，然后寫出置信區(qū)間，再代數(shù)值。7.假設檢驗假設檢驗的基本原理：小概率事件在一次觀測實驗中幾乎不可能發(fā)生顯著性水平：小概率事件發(fā)生的概率，也是拒絕域對應事件概率，顯著性水平越大，拒絕域越大。兩類錯誤：對原假設Ho,備擇假設H1，第一類錯誤H1不真，接受H1，第二類錯誤Ho不真，接受Ho，為減少兩類錯誤，需增加樣本容量。假設檢驗的基本步驟：（i）提出假設；（ii）選取檢驗統(tǒng)計量；（iii）確定拒絕域；（iv）計算觀測值（v）并作出拒絕與接收原假設判斷P值檢驗：計算P值，與顯著性水平 比較，P值小于 拒絕原假設，否則就接收原假設;p值計算方法是將觀測值作為拒絕域臨界點，代入拒絕域事件計算其概率。 假設檢驗的情形：見書中164表，請復印下來，以便記憶，重點是1、2、3、7種情形，其余的也最好熟記。特別要注意，對假設檢驗問題，首先只看總體，是單個總體，還是兩個總體