概率論核心概念及公式

1、概率論與數(shù)理統(tǒng)計核心公式第1章隨機事件及其概率(1)排 列組合 公式Pmn 二從m個人中挑出n個人進(jìn)行排列的可能數(shù)。(m n)!Cm m一 從m個人中挑出n個人進(jìn)行組合的可能數(shù)。n!(m n)!加 法和乘 法原理加法原理(兩種方法均能完成此事)m+n某件事由兩種方法來完成，第一種方法可加種方法完成，第二種方法可加種方 法來完成，則這件事可由m+n種方法來完成。乘法原理(兩個步驟分別不能完成這件事mx n某件事由兩個步驟來完成，第一個步驟可加種方法完成，第二個步驟可加 種方 法來完成，則這件事口由mx n種方法來完成。 一些常 見排列重復(fù)排列和非重復(fù)排列(有序) 對立事件(至少有一個) 順序問題

2、隨 機試驗 和隨機 事件如果一個試驗在相同條件卜可以重復(fù)進(jìn)行，而每次試驗的可能結(jié)果不止一個，但Z 進(jìn)行一次試驗之前卻不能斷言它出現(xiàn)哪個結(jié)果，則稱這種試驗為隨機試驗。試驗的可能結(jié)果稱為隨機事件。基 本事 件、樣 本空間 和事件在一個試驗下，不管事件有多少個，總可以從其中找出這組事件，它具做門 性質(zhì)：每進(jìn)行一次試驗，必須發(fā)生且只能發(fā)生這一組中的一個事件；任何事件，都是由這一組中的部分事件組成的。這組事件中的每一個事件稱為基本事件，用來表示?；臼录娜w，稱為試驗的樣本空間，用表示。一個事件就是由 中的部分點(基本事件)組成的集合。通常用大寫字用，B,C,表示事件，它們是 的子集。為必然事件，？為

3、/、可能事件。不可能事件(？)的概率為零，而概率為零的事件/、一定是不可能事件；同理，也 事件(Q)的概率為1,而概率為1的事件也不一定是必然事件。事 件的關(guān) 系與運 算關(guān)系：如果事件A的組成部分也是事件B的組成部分，(A發(fā)生必有事件B發(fā)生)：A B 如果同時有A B, B A,則稱事件A匕事件B等價，或稱A等于B： A=B A B中至少有一個發(fā)生的事件:A B,或者A+R居于A而/、居于B的部分所構(gòu)成的事件，稱朋與B的差，記為A-B,也可表示為 A-AB<者aB,它表示A發(fā)生而B不發(fā)生的事件。A B同時發(fā)生：AB或者AB AB=?則表示A與B不可能同時發(fā)生，稱事flA與事 件B互不相容

4、或者互斥?；臼录腔ゲ幌嗳莸摹?A稱為事件A的逆事件，或稱A的對立事件，記為。它表示A不發(fā)生的事件。互斥 未必對立。運算：結(jié)合率：A(BC)=(AB)C A (BUC)=(AU B)UC分配率：(AB)UC=(AUC)A(BUC) (A UB)AC=(AC)J(BC)德摩根率：AB AB，A BAB概 率的公 理化定設(shè)為樣本空間，為事件，對每一個事件都有一個實JP(A),若滿足下列三個條 件：1° 0<P(A)< 1,義2 P(Q) =130對于兩兩互/、相容的事件”有常稱為可列(完全)可加性。則稱P(A)為事件的概率。古 典概型11 , 2n ,12 P( 1) P(

5、 2)P( n) -on設(shè)任一事件，它是由1, 2 m組成的，則有P(A)=( 1) ( 2)( m) =P( 1) P( 2)P( m)mA所包含的基本事件數(shù)n基本事件總數(shù)幾 何概型若隨機試驗的結(jié)果為無限/、可數(shù)并且每個結(jié)果出現(xiàn)的可能性均勻，同時樣本空間耳 的每一個基本事件可以使用一個有界區(qū)域來描述，則稱此隨機試驗為幾何概型。X 件A,P(A) L，。其中L為幾何度量(長度、面積、體積)(10)加法公 式P(A+B尸P(A)+P(B)-P(AB)當(dāng) P(ABA0 時,P(A+B)=P(A)+P(B)(11)減法公 式P(A-B)=P(A)-P(AB)當(dāng) B A時，P(A-B尸P(A)-P(B

6、)當(dāng) A=Q時，P(b)=1- P(B)(12)條件概 率定義設(shè)A B是兩個事件，且P(A)>Q則稱J )為事件A發(fā)生條件下，事件B發(fā)P(A)生的條件概率，記為P(B/A)P(A) 0條件概率是概率的一種，所后概率的性質(zhì)都適合于條件概率。例如 P(Q/B)=1 P(b/A)=1-P(B/A)(13)乘法公 式乘法公式：P(AB) P(A)P(B/A)更一般地，對事件A, A A 若P(AA - A-1)>0,則有0(14)獨立性兩個事件的獨立性設(shè)事件、滿足，則稱事件、是相互獨立的。若事件、相互獨立，且，則有若事件、相互獨立，則可得到與、與、與也都相互獨立。 必然事件和不可能事件？與

7、任何事件都相互獨立。?與任何事件都互斥。多個事件的獨立性設(shè)AB久三個事件，如果滿足兩兩獨立的條件，P(AB)=P(A)P(B) P(BC尸P(B)P(C) P(CA)=P(C)P(A)并且同時滿足P(ABC尸P(A)P(B)P(C)那么A、B C相互獨立。對于n個事件類似。(15) 全概公 式設(shè)事件滿足1。兩兩互不相容,，2 ,則有0(16)貝葉斯 公式設(shè)事件,，及滿足1。，兩兩互不相容，>0, 1, 2, ,2,則P(Bi)P(A/ Bi)P舊/A)n,i=1,2,n。P(Bj)P(A/Bj) j 1此公式即為貝葉斯公式。P(Bi), (, ,),通常叫先驗概率。P(Bi/A), (,

8、 ,),通常稱為后驗概率。 貝葉斯公式反映了 “因果”的概率規(guī)律，并作出了 “由果朔因”的推斷。(17) 伯努利 概型我們作了次試驗，且滿足每次試驗只啟兩種可能結(jié)果，發(fā)生或不發(fā)生；次試驗是重復(fù)進(jìn)行的，即發(fā)生的概率每次均一樣；每次試驗是獨立的即每次試驗發(fā)生與否與其他次試驗發(fā)生與否是互不影口 1 的。這種試驗稱為伯努利概型，或稱為重伯努利試驗。用表示每次試驗發(fā)生的概率，則發(fā)生的概率為，用表示重伯努利試驗中出現(xiàn)次的前 率，,0第二章隨機變量及其分布(1)離散 型隨機變 量的分布 律設(shè)離散型隨機變量的可能取值為X(k=1,2,)且取各個值的概率，即事件(X=X)的概率為P(X=x)=p<, k=

9、1,2，則稱上式為離散型隨機變量的概率分布或分布律。有時也用分布列的形式給 出：0顯然分布律應(yīng)滿足卜列條件：(1),。(2)連續(xù) 型隨機變 量的分布 密度設(shè)是隨機變量的分布函數(shù)，若存在非負(fù)函數(shù)，對任意實數(shù)，有則稱為連續(xù)型隨機變量。稱為的概率密度函數(shù)或密度函數(shù)，簡稱概率密度。密度函數(shù)具有卜間4個性質(zhì)：1°。20(3)離散 與連續(xù)型 隨機變量 的關(guān)系P(X x) P(x X x dx) f (x)dx積分元f (x)dx在連續(xù)型隨機變量理論中所起的作用匕在離散型隨機變量理論中 所起的作用相類似。(4)分布 函數(shù)設(shè)X為隨機變量，x是任意實數(shù)，則函數(shù)F(x) P(X x)稱為隨機變量X的分布

10、函數(shù)，本質(zhì)上是一個累積函數(shù)。P(a X b) F(b) F(a)可以得到X落入?yún)^(qū)間(a,b的概率。分布函數(shù)F(x)表示隨機變量落入?yún)^(qū)間(-8, x內(nèi)的概率。分布函數(shù)具肩如下性質(zhì)：1。0 F(x) 1,x；2F(x)是單調(diào)/、減的函數(shù)，眼1 x2時，有F(xi) F(x2)；3。F( ) xlim F(x)0,F()xlimF(x) 1；4°F(x 0) F(x),即F(x)是右連續(xù)的；5°P(X x) F(x)F(x0)。對于離散型隨機變量，F(xiàn)(x)Pk ;xk xx對于連續(xù)型隨機變量，F(xiàn)(x)f(x)dx。八大 分布0-1分布P(X=1)=p, P(X=0)=q二項分布在

11、n重貝努里試驗中，設(shè)事件A發(fā)生的概率為p。事件A發(fā)生的次 數(shù)是隨機變量，設(shè)為X ,則X可能取值為0,1,2, , n o P(X k) Pn(k) Cnkpkqnk,其中 q 1 p,0 p 1,k 0,1,2, ,n,則稱隨機變量X服從參數(shù)為n , p的二項分布。記為X B(n, p)。 當(dāng)n 1 時，P(X k) pkq1k, k 0.1,這就是(0-1)分布， 所以(0-1)分布是二項分布的特例。泊松分布設(shè)隨機變量X的分布律為kP(X k) e ,0, k 0,1,2,k!則稱隨機變量X服從參數(shù)為的泊松分布，記為X ()或者P()。泊松分布為二項分布的極限分布np=X , noo)0超幾

12、何分布C； ?cN M k 0,1,2 ,l1-* / XX1 M Ml N Ml7 77Cn ,l min(M ,n)隨機變量X服從參數(shù)為n,N,M的超幾何分布,記為H(n,N,M)。幾何分布P(X k) qk 1 p,k 1,2,3,，其中 p>0, q=1-p= 隨機變量X服從參數(shù)為p的幾何分布，記為G(p)。均勻分布設(shè)隨機變量的值只落在a, b內(nèi)，其密度函數(shù)在(a, b上為常數(shù)1,即 b a1_awxwbf(x)b a，甘.0其他，則稱隨機變量在a, b上服從均勻分布，記為XU(a b)。分布函數(shù)為0 0,x<a,a < x< b<1,x>b。<

13、;當(dāng)a&xi<%&b時，X落在區(qū)間()內(nèi)的概率為P(x1 X x2) x2-x1。b a指數(shù)分布,0, L其中，則稱隨機變量X服從參數(shù)為的指數(shù)分布。X的分布函數(shù)為J , x<0。記住積分公式： xne xdx n!0正態(tài)分布設(shè)隨機變量的密度函數(shù)為1(X2 a)f ( x)一 e其中、為常數(shù)，則稱隨機變量服從參數(shù)為、的正態(tài)分布或高興 (GausS分布，記為。具啟如下性質(zhì)：1°的圖形是關(guān)于對稱的；-1 ，一，一2 當(dāng)時，f()國一為最大值；若，則的分布函數(shù)為0 0參數(shù)、時的正態(tài)分布稱為標(biāo)準(zhǔn)正態(tài)分布，記為，其密度函數(shù)記為,X,分布函數(shù)為1 x -(x)t e 2

14、 dt。V2是不可求積函數(shù)，具函數(shù)值，已編制成表可供查用。_， 、, _，、L -、1(-x) = 1-(x)且(0)=。X 2如果XN( , 2),則N(0,1)。P(x1 X x2)x 0(6)分位 數(shù)下分位表：P(X)=；上分位表：P(X)= 0(7)函數(shù) 分布離散型已知X的4XP(X xi) Y g(X)Y/布列為x1, x2, xn,p1, p2, pn,的分布列(yig(x"立/、相等)如下：g(x1), g(x2), g(xn),P(Y y)若由某些gP1,P2, pn,(xi)相等，則應(yīng)將對應(yīng)的pi相加作為g(xi)的概率。連續(xù)型先利用X的概率密度fX(x)寫出Y的分

15、布函數(shù)F(y) =P(g(X)Wy), 再利用變上下限積分的求導(dǎo)公式求出Y(y)。第三章二維隨機變量及其分布(1)聯(lián)合 分布如果二維隨機向量 (X, Y)的所有可能取值為至多可列個有 序?qū)?x,y),則稱 為離散型隨機量。設(shè)=(X, Y)的所有可能取值為(xi, yj)(i,j 1,2,)，且事件 二(,丫上)的概率為口,，稱P(X,Y) (Xi,yj) Pj(i, j 1,2,)為二(X, Y)的分布律或稱為X和Y的聯(lián)合分布律。聯(lián)合分布有 時也用下面的概率分布表來表示：VIy2yjx1P11P125x2P21P22PjXP1PjN里Pj具切卜回兩個性質(zhì):(1) Po>0 (i,j=1,

16、2,);Pij 1.對于二維隨機向量 (X,Y),如果存在非負(fù)函數(shù)f(x,y)( xy )，使對任意一個其鄰邊分別平行于坐標(biāo)軸的矩形區(qū)域D,即D=(X,Y)|a<x<b,cvyvdW P(X,Y) D f (x, y)dxdy,D則稱為連續(xù)型隨機向量；并稱f(x,y)為=(X, Y)的分布密度 或稱為X和Y的聯(lián)合分布密度。分布密度f(x,y)具有下面兩個性質(zhì)： f(x,y) >0;(2) f (x, y)dxdy 1.(2)二維 隨機變量 的本質(zhì)(3)聯(lián)合 分布函數(shù)(X x,Y y) (X x Y y)設(shè)(X, Y)為二維隨機變量，對于任意實麴,y,二元函數(shù)F(x, y) P

17、X x,Y y稱為二維隨機向量(X, Y)的分布函數(shù)，或稱為隨機變量X和Y的聯(lián)合分布函數(shù)。分布函數(shù)是一個以全平面為其定義域，以事件( 1, 2)1 X( 1) x, Y( 2) y的概率為函數(shù)值的一個實值函數(shù)。分布函數(shù)F(x,y)具有以下的基本性質(zhì)：(1) 0 F(x, y) 1;(2) F (x,y)分別對x和y是非減的，即當(dāng) x2>x1時，有 F gy) >F(x1,y);當(dāng) y2>y1時，有 F(x,y2) >F(x,y 1);(3) F (x,y)分別對x和y是右連續(xù)的，即F(x, y) F(x 0, y),F(x,y) F(x, y 0);(4) F()F(

18、,y) F(x, ) 0,F()1.(5)又t于xiX2, yiy2,F(X2, y2) F(X2, yi) F(x1，y) F(x1，y1) 0.(4)離散 型與連續(xù) 型的關(guān)系P(X x, Y y) P(x X x dx, y Y y dy) f (x, y)dxdy(5)邊緣 分布離散型X的邊緣分布為P? P(Xxi)Pj(i,j 1,2,).jY的邊緣分布為P?jP(Yyj)Pj(i,j 1,2, )o連續(xù)型X的邊緣分布密度為fX(x)f(x, y)dy;Y的邊緣分布密度為fY(y)f(x,y)dx(6)條件 分布離散型在已知X=x的條件下，Y取值的條件分布為PijP(Y yj |X x

19、)；Pi?在已知Y=y的條件下，X取值的條件分布為PjP(X xi|Y yj), P?j連續(xù)型在已知Y=y的條彳下，X的條件分布密度為f (x, y)f(x|y);二； fY(y)在已知X=x的條彳下，Y的條件分布密度為f (x, y)f(y |x)',力fX(x)獨立 性一M型F(X,Y)=F(x)F”)離散型PjPi?P?j后零不獨立連續(xù)型f(x,y)=f G)f <y)直接判斷，充要條件：可分離義量正概率密度區(qū)間為矩形二維正態(tài)分 布221x i2 (x i)(y2 ) y 212(12)11 22f(x,y):e,21 2 寸12=0隨機變量的 函數(shù)若X,X2，X,Xm+1

20、X相互獨立，h,g為連續(xù)函數(shù)，則： h (X, K,斌 和g (Xm+X)相互獨立。特例：若*與丫獨立，則：h (X)和g (Y)獨立。例如：若X與Y獨立，則：3X+1和5Y-2獨立。(8)二維 均勻分布設(shè)隨機向量區(qū)Y)1Sd f (x, y)0,的分布密度函數(shù)為(x,y) d其他其中SD為區(qū)域D的面積，則稱g Y)服從D上的均勻分布，記為X Y)U (D)。圖(9)二維 正態(tài)分布設(shè)隨機向量區(qū)Y)的分布密度函數(shù)為221 x i 2 (x i)(y2) y 212(12)11 22f (x, y)J21 2 V1e,2其中1,2,10,20,1 I 1是5個參數(shù)，則稱(X, Y)服從一維正態(tài)分布

21、,記為(X,Y) -N ( 1,22 )2, 1 ,2 ,八由邊緣密度的計算公式，可以推出二維正態(tài)分布的兩個邊緣分布仍為正態(tài)分布 即XN ( 1，12),YN( 2, 2).但是若XN( 1，12),YN( 2, 2), (X, Y)未必是二維正態(tài)分布。(10)函數(shù) 分布Z=X+Y根據(jù)定義計算：Fz(z) P(Z z) P(X Y z)對于連續(xù)型，fz(z) = f (x,z x)dx兩個獨立的正態(tài)分布的和仍木正態(tài)分布 (12, 12)。n個相互獨立的正態(tài)分布的線性組合，仍服從正態(tài)分布。222Ci i2Ci2 2iiZ=max,min(Xi,X2, X)若X1,X2Xn相互獨立，其分布函數(shù)分別

22、為Fx1(x), Fx2 (x)Fxn(x),貝UZ=max,min(XX2,X)的分布函數(shù)為：Fmax(x) Fx1(x)?Fx2(x) F%(x)Fmin (x)1 1 Fx1(x)?1 Fx2(x)1 Fxn(x)2分布設(shè)n個隨機變量X 1, X 2, ,Xn相互獨立，且服從標(biāo)準(zhǔn)正態(tài)分布， 可以證明它們的平方和n 2WXii 1 的分布醬度為1- 1 unu2 e 2 u 0,f(u) 22 n20,u 0.我們稱隨機變量WK從自由度為n的2分布，記為M 2(n), 其中n 1n2Xj一x2 e dx.20所謂自由度是指獨立正態(tài)隨機變量的個數(shù)匕是隨機變量分布 中的一個重要參數(shù)。2分布滿足

23、可加性：設(shè)Yi2(n)則 k 2 ZYi (n1 n2nk).i 1t分布設(shè)X, Y是兩個相互獨立的隨機變量，且X-N(0,1),Y 2(n),可以證明函數(shù)XTJ4丫 /n的概率密度為n 1n 1r2t22f(t)1(t).nn，n 一2我們稱隨機變量T服從自由度為n的t分布，記為Tt(n)。t1 (n) t (n)F分布00X / n1設(shè)X 2(njY 2(叫)，且X與Y獨立，可以證明F -Y / n2的概率密度函數(shù)為n1n2nini n22ni 下 g l ni八f(v)y 1y,y 0f(y)nin2n21220,y 0我們稱隨機變量F服從第一個自由度為ni,第二個自由度為n2的F分布，

24、記為Ff(n i, n 2).l ，、iFi (ni，n2) L .、F (n2, ni)第四章 隨機變量的數(shù)字特征(i) 一維 隨機 變量 的數(shù) 字特 征離散型連續(xù)型期望期望就是平均值設(shè)X是離散型隨機變量，其分 布律為 P(X Xk)=pk,k=i,2，,n,nE(X)XkPkk i(要求絕對收斂)設(shè)X是連續(xù)型隨機變量，其概 率密度為f(X),E(X) Xf (X)dX(要求絕對收斂)函數(shù)的期望Y=g(X) nE(Y)g(Xk)Pkk iY=g(X)E(Y) g(X)f(X)dX、.、.廣.力左D(X)=EX-E(X)f,標(biāo)準(zhǔn)差(X) Jd(X),_2D(X)Xk E(X) Pkk2 -D(

25、X) x E(X) f(X)dX矩對于正整數(shù)k,稱隨機變量X 的k次幕的數(shù)學(xué)期望為X的k 階原點矩，記為Vk,即,kV k=E(X)=xi Pi ,ik=i,2, .對于正整數(shù)k,稱隨機變量X 與E (X)差的k次幕的數(shù)學(xué)期 望為X的k階中心矩，記為 即kk E(X E(X) .=(Xi E(X)kPi ik=i,2,.對于正整數(shù)k,稱隨機變量X 的k次幕的數(shù)學(xué)期望為X的k 階原點矩，記為Vk,即v k=E(X)=Xkf(X)dX,k=i,2,.對于正整數(shù)k,稱隨機變量X 與E (X)差的k次幕的數(shù)學(xué)期 望為X的k階中心矩，記為 即kk E(X E(X) .=(X E(X)k f(X)dX,k

26、=i,2，.切比雪夫不等式設(shè)隨機變量X具有數(shù)學(xué)期望E (X)=N ,方差D (X)= J,則對 于任意正數(shù)e ,有下列切比雪夫不等式2P(X |)2切比雪夫不等式給出了在未知X的分布的情況下，對概率P(X的一種估計，它在理論上有重要意義。w tt) 乃為性>> 有見布期和差期的質(zhì) I方的質(zhì) I常分的B方E(C)=CE(CX尸CE(X)nE(X+Y尸E(X)+E(Y) E(Ci Xi)i 1nCiE(Xi) i 1E(XY)=E(X) E(Y),充分條件：X和Y獨立；充要條件：X和Y不相關(guān)。D(C)=Q E(C)=CD(aX)=c2D(X); E(aX)=aE(X)D(aX+b)=

27、CD(X); E(aX+b)=aE(X)+bD(X)=E(X)-E2(X)D(X± Y)=D(X)+D(Y)充分條件：X和Y獨立；充要條件：X和Y不相關(guān)。D(X±Y)=D(X)+D(Y) ±2E(X-E(X)(Y-E(Y),無條件成立。 而E(X+Y尸E(X)+E(Y)無條件成立。維機量數(shù)特 二隨變的字征期望、.、.廣. 力左0-1 分布 B(1,p)Pp(1 p)二項分布B(n, p)npnp(1 p)泊松分布P()幾何分布G(p)1P1 p2 p超幾何分布H(n,M ,N)nMNnM , M N n1NN N 1均勻分布U (a,b)a b2(b a)212指

28、數(shù)分布e()11正態(tài)分布N ( , 2)22分布n2nt分布0(n>2) n 2期望nE(X)Xi Pi?i 1 nE(Y)yj p?jj 1E(X) xfX(x)dxE(Y)yfY(y)dy函數(shù)的期望EG(X,Y) =G(Xi,yj)pjEG(X,Y) =G(x, y) f (x, y)dxdy_力差_2D(X)Xi E(X) pi?_2D(Y)上Xj E(Y) p?j2 -D(X)x E(X) fx(x)dx2 -D(Y)y E(Y) fY(y)dy協(xié)力差對于隨機變量X與Y,稱它們的二階混合中心矩ii為X與Y的協(xié)萬差或相關(guān)矩，記為xy或cov(X,Y),即XY 11 E(X E(X)

29、(Y E(Y).與記號XY相對應(yīng)，X與Y的方差D (X與D (Y也可分別記為XX 與 YY 0相關(guān)系數(shù)對于隨機變量X與Y,如果D (X >0, D(Y)>0,則稱XYJD(X)JD(Y)為X與Y的相關(guān)系數(shù)，記作XY (有時可簡記為)0| 產(chǎn)1,當(dāng)|=1時，稱X與Y完全相關(guān)：P(X aY b) 1人，必正相關(guān)，當(dāng) 1時(a 0)，元全相關(guān)上七口"立 口4負(fù)相關(guān)，當(dāng)1時(a 0),而當(dāng) 0時，稱X與Y不相關(guān)。以卜五個命題是等價的： XY 0 ； cov(X,Y)=0; E(XY尸E(X)E(Y); D(X+Y)=D(X)+D(Y); D(X-Y)=D(X)+D(Y).協(xié)方差矩

30、陣XXXYYXYY混合矩對于隨機變量X與Y,如果有E(XkYl)存在，則稱之為X與Y 的k+l階混合原點矩，記為kl ; k+l階混合中心矩記為：klUkl E(X E(X) (Y E(Y). 協(xié)方 差的 性質(zhì)cov (X, Y)=cov (Y, X); cov(aX,bY)=ab cov(X,Y); cov(Xi+X, Y)=cov(X i,Y)+cov(X2,Y); cov(X,Y)=E(XY)-E(X)E(Y).7)立不關(guān)1獨和相若隨機變量X與YIM",則XY 0;反之不真。若(X, Y) -N ( 1，2，12,二)，則X與Y相互獨立的充要條件是X和Y不相關(guān)。第五章 大數(shù)定律

31、和中心極限定理(1)大數(shù)定律X切比 雪夫 大數(shù) 定律設(shè)隨機變量X, X,相互獨立，均具有有限方差，且被同一常數(shù)C所界：D (X) <C(i=1,2,)，則對于任意的正數(shù)e ,有1 n 1 n lim P - Xi - E(Xi) n n i 1 n i 11.特殊情形：若X,凡 具有相同的數(shù)學(xué)期望E (X)二，則上式 成為lim P - Xi nn1.伯努 利大 數(shù)定 律設(shè)仙是n次獨立試驗中事件A發(fā)生的次數(shù)，p是事件A在每次 試驗中發(fā)生的概率，則對于任意的正數(shù)e ,有l(wèi)im P p 1.n n伯努利大數(shù)定律說明，當(dāng)試驗次數(shù)n很大時，事件A發(fā)生的頻率與 概率有較大判別的可能性很小，即lim

32、 P n0.這就以嚴(yán)格的數(shù)學(xué)形式描述了頻率的穩(wěn)定性。辛欽 大數(shù) 定律設(shè)Xi, X ，X,是相互獨立同分布的隨機變量序列用E (X) 二小，則對于任意的正數(shù)e有l(wèi)im P Xi1.n-(2)中心極限止 理2X N(,)n維林伯定 列一德格理設(shè)隨機變量X, X 相互獨立，服從同一分布，且具有相的數(shù)學(xué)期望和方差：E(Xk),D(Xk)2 0(k 1,2,)，則(3)二項定理莫一普斯理棣弗拉拉定隨機變量n Xk n丫k_1Yn- n的分布函數(shù)Fn(x)對任意的實數(shù)x,有nXk n_ . ._ k 1lim Fn(x) lim P xnnv n1、2t2e 2 dt.此定理也稱為獨立同分布的中心極限定理

33、設(shè)隨機變量Xn為具有參數(shù)n, p(0<p<1)的二項分布,實數(shù)x,有l(wèi)im P nXn np np(1 p)1<2t2 x - e 2 dt.則對于任意若當(dāng)Nk n k CM CN M時,Mp(n,k不變)則N，Cn pk (1 p)nk (N ).超幾何分布的極限分布為二項分布(4)泊松定理若當(dāng)n 時,np0,則k八 kk/、nkCnP(1 p)e(n).k!其中k=0, 1, 2,，n,。二項分布的極限分布為泊松分布。第六章樣本及抽樣分布(1)數(shù)理 統(tǒng)計的基 本概念總體在數(shù)理統(tǒng)計中，常把被考察對象的某一個(或多個)指標(biāo)的全體稱 為總體(或母體)。我們總是把總體看成一個具有

34、分布的隨機變量 (或隨機向量)。個體總體中的每一個單元稱為樣品(或個體J樣本我們把從總體中抽取的部分樣/1, X2, , Xn稱為樣本。樣本中所 含的樣品數(shù)稱為樣本容量,一般用n表示。在一般情況下，總是把 樣本看成是n個相互獨立的且與總體有相同分布的隨機變量這樣 的樣本稱為簡單隨機樣本。在泛指任一次抽取的結(jié)果時，Xi,X2, ,Xn表小n個隨機變量(樣本)；在具體的一次抽取之后, Xi, X2 , ,Xn表小n個具體的數(shù)值(樣本值)我們稱之為樣本的 兩重性。樣本曲數(shù)和 統(tǒng)計量設(shè)Xi,X2, ,Xn為總體的一個樣本，稱 (Xi,X2, Xn)為樣本函數(shù)，其中 為一個連續(xù)函數(shù)。如果 中不包含任何未

35、知參 數(shù)，則稱(Xi,X2, ,Xn)為一個統(tǒng)計量。常見統(tǒng)計量 及其性質(zhì) -i n樣本均值X 一 Xi.n i ii nWWtS2 (Xi X)2.n i i i樣本標(biāo)準(zhǔn)差S .1 (Xi X)2.n n i i i樣本k階原點矩 i n l Mk -Xk,k i,2,.n i i樣本k階中心矩i nMk 一(XiX)k,k 2,3,.n i i_2E(X), D(X)一,nE(S2)2,E(S*2)2,n nn_一.21、2其中S*一(XiX),為二階中心矩。n i i(2)正態(tài) 總體下的 四大分布正態(tài)分布設(shè)Xi,X2, ,Xn為來自正態(tài)思體N( , 2)的一個樣本，則樣本函 數(shù)def xu

36、= N(0,i)./、' nt分布設(shè)Xi,X2,Xn為來自正態(tài)總體N( , 2)的一個樣本，則樣本函數(shù)def Xt= t(n 1), s/ v'n其中t(n-1)表示自由度為n-1的t分布。2分布設(shè)Xi,X2, ,Xn為來自正態(tài)總體N( , 2)的一個樣本，則樣本函 數(shù)def(n 1)S22/ 八w-2(n 1),其中2(n 1)表示自由度為n-1的2分布。F分布設(shè)X1,X2, ,Xn為來自正態(tài)思體N( , 1 )的一個樣本，而y1, y2, ,yn為來自正態(tài)思體N( , 2)的一個樣本，則樣本函數(shù)def S12 /12F=22F(n1 1,n2 1), S；/ 2其中21n1

37、- 221n2 2S； (Xi x) ,S2(yi y);n11 i 1n21 i 1F(5 1,n2 1)表示第一自由度為R 1,第二自由度為明1的 F分布。(3)正態(tài) 總體下分 布的性質(zhì)X與S2獨立。第七章參數(shù)估計(1)點 估計矩估計設(shè)總體X的分布中包含有未知數(shù)1, 2, , m,則其分布函數(shù)可以表 成 F(x; 1, 2, m).它的 k 階原點矩 Vk E(Xk)(k 1,2,m)中也包含了未知參數(shù)1, 2, m ,即Vk Vk( 1, 2, m)。又設(shè)X1,X2, ,Xn為總體X的n個樣本值，其樣本的k階原點矩為 1 nXik (k 1,2,m).n i 1這樣，我們按照“當(dāng)參數(shù)等于

38、其估同時,總體矩等于相應(yīng)的樣本矩” 的原則建立方程，即有1 n5(1,2, , m) Xi ,n i 11 n 2V2( 1 , 2 , m) xi ,n i 11 n、，/vmvm( 1, 2 , , m)xi .n i 1由上面的m個方程中，解出的m個未知參數(shù)(1, 2, , m)即為參數(shù) (1 , 2 , m)的矩估”里。若 為 的矩估計，g(x)為連續(xù)函數(shù)，則g(?)為g()的矩估計。極大似 然估計當(dāng)總體X為連續(xù)型隨機變量時，設(shè)其分布密度為f(X； 1,2, m),其中1，2，, m為未知參數(shù)。又設(shè)Xi ,X2 , ,Xn為息體的一個樣本，稱 nL( 1, 2, m)f(Xi； 1,2

39、, m)i 1為樣本的似然函數(shù)，簡記為Ln.當(dāng)總體X為離型隨機變量時，設(shè)其分布律為PX X P(X； 1 , 2, m),則稱nL(X1 , X2 , ,Xn； 1 , 2 , , m)p(Xi； 1 , 2 , , m)i 1為樣本的似然函數(shù)。若似然函數(shù)13？2, ,Xn； 1, 2, , m)在1, 2, , m處取到最大值，則稱12m分別為1, 2, m的最大似然估計值，相1 , , m應(yīng)的統(tǒng)計量稱為最大似然估同。ln Ln-0,i 1,2, ,mi 1 i i若 為 的極大似然估計，g(X)為單調(diào)函數(shù)，則g(。為g()的極 大似然估計。估同的無偏性設(shè)(X1,X2, ,Xn)為未知參數(shù)

40、的估計量。若£ ()=，則評選標(biāo)稱為的無偏估U里。準(zhǔn)E (X) =E (X), E (S2) =D (X)后效性以 11(X1，X,2, ,Xn)和 22(X1, X,2, ,Xn)E木知參數(shù)的兩個無偏估”里。右D( 1) D( 2)，則稱1比2有效。一B性設(shè)n是 的一串估計量，如果對于任意的正數(shù)，都有l(wèi)im P(| n |) 0,則稱n為的一致估同(或相合估同)若為的無偏估計，且D(?) 0(n)，則為的一致估計。只要總體的E(X川口 D(X)存在，一切樣本矩和樣本矩的連續(xù)函數(shù)都是 相應(yīng)總體的TH古代。區(qū)置信區(qū)設(shè)總體X含有一個待估的未知參數(shù)。如果我們從樣本Xi,X,2 , ,Xn間估計問和置出發(fā)，找出兩個統(tǒng)計量1 i(Xi,X,2, ,Xn)與信度22 ( X1, X, 2 , , Xn ) ( 12 ) ,使得區(qū)間1, 2以1(01)的概率包含這個待估參數(shù)，即P 12 1,那么稱區(qū)間1, 2為 的置信區(qū)間，1為該區(qū)間的置信度(或置信水平)。單正態(tài) 總體的 期望和 方差的 區(qū)間估 計設(shè)Xi,X,2, ,Xn為總體XN( , 2)的一個樣本，在置