概率論與數(shù)理統(tǒng)計期末考試復習資料

第1章隨機事件及其概率

（1）排列組合公式

從m個人中挑出n個人進行排列的可能數(shù)。

從m個人中挑出n個人進行組合的可能數(shù)。

（2）加法和乘法原理

加法原理（兩種方法均能完成此事）：m+n

某件事由兩種方法來完成，第一種方法可由m種方法完成，第二種方法可由n種方法來完成，則這件事可由m+n種方法來完成。

乘法原理（兩個步驟分別不能完成這件事）：m×n

某件事由兩個步驟來完成，第一個步驟可由m種方法完成，第二個步驟可由n種方法來完成，則這件事可由m×n種方法來完成。

（3）一些常見排列

重復排列和非重復排列（有序）

對立事件（至少有一個）

順序問題

（4）隨機試驗和隨機事件

如果一個試驗在相同條件下可以重復進行，而每次試驗的可能結果不止一個，但在進行一次試驗之前卻不能斷言它出現(xiàn)哪個結果，則稱這種試驗為隨機試驗。

試驗的可能結果稱為隨機事件。

（5）基本事件、樣本空間和事件

在一個試驗下，不管事件有多少個，總可以從其中找出這樣一組事件，它具有如下性質：

①每進行一次試驗，必須發(fā)生且只能發(fā)生這一組中的一個事件；

②任何事件，都是由這一組中的部分事件組成的。

這樣一組事件中的每一個事件稱為基本事件，用來表示。

基本事件的全體，稱為試驗的樣本空間，用表示。

一個事件就是由中的部分點（基本事件）組成的集合。通常用大寫字母A，B，C，…表示事件，它們是的子集。

為必然事件，?為不可能事件。

不可能事件（?）的概率為零，而概率為零的事件不一定是不可能事件；同理，必然事件（Ω）的概率為1，而概率為1的事件也不一定是必然事件。

（6）事件的關系與運算

①關系：

如果事件A的組成部分也是事件B的組成部分，（A發(fā)生必有事件B發(fā)生）：

如果同時有，，則稱事件A與事件B等價，或稱A等于B：A=B。

A、B中至少有一個發(fā)生的事件：AB，或者A+B。

屬于A而不屬于B的部分所構成的事件，稱為A與B的差，記為A-B，也可表示為A-AB或者，它表示A發(fā)生而B不發(fā)生的事件。

A、B同時發(fā)生：AB，或者AB。AB=?，則表示A與B不可能同時發(fā)生，稱事件A與事件B互不相容或者互斥?；臼录腔ゲ幌嗳莸?。

-A稱為事件A的逆事件，或稱A的對立事件，記為。它表示A不發(fā)生的事件?；コ馕幢貙α?。

②運算：

結合率：A(BC)=(AB)CA∪(B∪C)=(A∪B)∪C

分配率：(AB)∪C=(A∪C)∩(B∪C)(A∪B)∩C=(AC)∪(BC)

德摩根率：，

（7）概率的公理化定義

設為樣本空間，為事件，對每一個事件都有一個實數(shù)P(A)，若滿足下列三個條件：

1°0≤P(A)≤1，

2°P(Ω)=1

3°對于兩兩互不相容的事件，，…有

常稱為可列（完全）可加性。

則稱P(A)為事件的概率。

（8）古典概型

1°，

2°。

設任一事件，它是由組成的，則有

P(A)==

（9）幾何概型

若隨機試驗的結果為無限不可數(shù)并且每個結果出現(xiàn)的可能性均勻，同時樣本空間中的每一個基本事件可以使用一個有界區(qū)域來描述，則稱此隨機試驗為幾何概型。對任一事件A，

。其中L為幾何度量（長度、面積、體積）。

（10）加法公式

P(A+B)=P(A)+P(B)-P(AB)

當P(AB)＝0時，P(A+B)=P(A)+P(B)

（11）減法公式

P(A-B)=P(A)-P(AB)

當BA時，P(A-B)=P(A)-P(B)

當A=Ω時，P()=1-P(B)

（12）條件概率

定義設A、B是兩個事件，且P(A)>0，則稱為事件A發(fā)生條件下，事件B發(fā)生的條件概率，記為。

條件概率是概率的一種，所有概率的性質都適合于條件概率。

例如P(Ω/B)=1P(/A)=1-P(B/A)

（13）乘法公式

乘法公式：

更一般地，對事件A1，A2，…An，若P(A1A2…An-1)>0，則有

…………。

（14）獨立性

①兩個事件的獨立性

設事件、滿足，則稱事件、是相互獨立的。

若事件、相互獨立，且，則有

若事件、相互獨立，則可得到與、與、與也都相互獨立。

必然事件和不可能事件?與任何事件都相互獨立。

?與任何事件都互斥。

②多個事件的獨立性

設ABC是三個事件，如果滿足兩兩獨立的條件，

P(AB)=P(A)P(B)；P(BC)=P(B)P(C)；P(CA)=P(C)P(A)

并且同時滿足P(ABC)=P(A)P(B)P(C)

那么A、B、C相互獨立。

對于n個事件類似。

（15）全概公式

設事件滿足

1°兩兩互不相容，，

2°，

則有

。

（16）貝葉斯公式

設事件，，…，及滿足

1°，，…，兩兩互不相容，>0，1，2，…，，

2°，，

則

，i=1，2，…n。

此公式即為貝葉斯公式。

，（，，…，），通常叫先驗概率。，（，，…，），通常稱為后驗概率。貝葉斯公式反映了“因果”的概率規(guī)律，并作出了“由果朔因”的推斷。

（17）伯努利概型

我們作了次試驗，且滿足

每次試驗只有兩種可能結果，發(fā)生或不發(fā)生；

次試驗是重復進行的，即發(fā)生的概率每次均一樣；

每次試驗是獨立的，即每次試驗發(fā)生與否與其他次試驗發(fā)生與否是互不影響的。

這種試驗稱為伯努利概型，或稱為重伯努利試驗。

用表示每次試驗發(fā)生的概率，則發(fā)生的概率為，用表示重伯努利試驗中出現(xiàn)次的概率，

，。

第二章隨機變量及其分布

（1）離散型隨機變量的分布律

設離散型隨機變量的可能取值為Xk(k=1,2,…)且取各個值的概率，即事件(X=Xk)的概率為

P(X=xk)=pk，k=1,2,…，

則稱上式為離散型隨機變量的概率分布或分布律。有時也用分布列的形式給出：

。

顯然分布律應滿足下列條件：

（1），，（2）。

（2）連續(xù)型隨機變量的分布密度

設是隨機變量的分布函數(shù)，若存在非負函數(shù)，對任意實數(shù)，有

，

則稱為連續(xù)型隨機變量。稱為的概率密度函數(shù)或密度函數(shù)，簡稱概率密度。

密度函數(shù)具有下面4個性質：

1°。

2°。

（3）離散與連續(xù)型隨機變量的關系

積分元在連續(xù)型隨機變量理論中所起的作用與在離散型隨機變量理論中所起的作用相類似。

（4）分布函數(shù)

設為隨機變量，是任意實數(shù)，則函數(shù)

稱為隨機變量X的分布函數(shù)，本質上是一個累積函數(shù)。

可以得到X落入?yún)^(qū)間的概率。分布函數(shù)表示隨機變量落入?yún)^(qū)間（–∞，x]內的概率。

分布函數(shù)具有如下性質：

1°；

2°是單調不減的函數(shù)，即時，有；

3°，；

4°，即是右連續(xù)的；

5°。

對于離散型隨機變量，；

對于連續(xù)型隨機變量，。

（5）八大分布

0-1分布

P(X=1)=p,P(X=0)=q

二項分布

在重貝努里試驗中，設事件發(fā)生的概率為。事件發(fā)生的次數(shù)是隨機變量，設為，則可能取值為。

，其中，

則稱隨機變量服從參數(shù)為，的二項分布。記為。

當時，，，這就是（0-1）分布，所以（0-1）分布是二項分布的特例。

泊松分布

設隨機變量的分布律為

，，，

則稱隨機變量服從參數(shù)為的泊松分布，記為或者P()。

泊松分布為二項分布的極限分布（np=λ，n→∞）。

超幾何分布

隨機變量X服從參數(shù)為n,N,M的超幾何分布，記為H(n,N,M)。

幾何分布

，其中p≥0，q=1-p。

隨機變量X服從參數(shù)為p的幾何分布，記為G(p)。

均勻分布

設隨機變量的值只落在[a，b]內，其密度函數(shù)在[a，b]上為常數(shù)，即

a≤x≤b

其他，

則稱隨機變量在[a，b]上服從均勻分布，記為X~U(a，b)。

分布函數(shù)為

a≤x≤b

0，x<a，

1，x>b。

當a≤x1<x2≤b時，X落在區(qū)間（）內的概率為

。

指數(shù)分布

,

0,,

其中，則稱隨機變量X服從參數(shù)為的指數(shù)分布。

X的分布函數(shù)為

,

x<0。

記住積分公式：

正態(tài)分布

設隨機變量的密度函數(shù)為

，，

其中、為常數(shù)，則稱隨機變量服從參數(shù)為、的正態(tài)分布或高斯（Gauss）分布，記為。

具有如下性質：

1°的圖形是關于對稱的；

2°當時，為最大值；

若，則的分布函數(shù)為

。。

參數(shù)、時的正態(tài)分布稱為標準正態(tài)分布，記為，其密度函數(shù)記為

，，

分布函數(shù)為

。

是不可求積函數(shù)，其函數(shù)值，已編制成表可供查用。

Φ(-x)＝1-Φ(x)且Φ(0)＝。

如果~，則~。

。

（6）分位數(shù)

下分位表：；

上分位表：。

（7）函數(shù)分布

離散型

已知的分布列為

，

的分布列（互不相等）如下：

，

若有某些相等，則應將對應的相加作為的概率。

連續(xù)型

先利用X的概率密度fX(x)寫出Y的分布函數(shù)FY(y)＝P(g(X)≤y)，再利用變上下限積分的求導公式求出fY(y)。

第三章二維隨機變量及其分布

（1）聯(lián)合分布

離散型

如果二維隨機向量（X，Y）的所有可能取值為至多可列個有序對（x,y），則稱為離散型隨機量。

設=（X，Y）的所有可能取值為，且事件{=}的概率為pij,,稱

為=（X，Y）的分布律或稱為X和Y的聯(lián)合分布律。聯(lián)合分布有時也用下面的概率分布表來表示：

Y

X

y1

y2

…

yj

…

x1

p11

p12

…

p1j

…

x2

p21

p22

…

p2j

…

xi

pi1

…

…

這里pij具有下面兩個性質：

（1）pij≥0（i,j=1,2,…）；

（2）

連續(xù)型

對于二維隨機向量，如果存在非負函數(shù)，使對任意一個其鄰邊分別平行于坐標軸的矩形區(qū)域D，即D={(X,Y)|a<x<b,c<y<d}有

則稱為連續(xù)型隨機向量；并稱f(x,y)為=（X，Y）的分布密度或稱為X和Y的聯(lián)合分布密度。

分布密度f(x,y)具有下面兩個性質：

f(x,y)≥0;

（2）

（2）二維隨機變量的本質

（3）聯(lián)合分布函數(shù)

設（X，Y）為二維隨機變量，對于任意實數(shù)x,y,二元函數(shù)

稱為二維隨機向量（X，Y）的分布函數(shù)，或稱為隨機變量X和Y的聯(lián)合分布函數(shù)。

分布函數(shù)是一個以全平面為其定義域，以事件的概率為函數(shù)值的一個實值函數(shù)。分布函數(shù)F(x,y)具有以下的基本性質：

（1）

（2）F（x,y）分別對x和y是非減的，即

當x2>x1時，有F（x2,y）≥F(x1,y);當y2>y1時，有F(x,y2)≥F(x,y1);

（3）F（x,y）分別對x和y是右連續(xù)的，即

（4）

（5）對于

.

（4）離散型與連續(xù)型的關系

（5）邊緣分布

離散型

X的邊緣分布為

；

Y的邊緣分布為

。

連續(xù)型

X的邊緣分布密度為

Y的邊緣分布密度為

（6）條件分布

離散型

在已知X=xi的條件下，Y取值的條件分布為

在已知Y=yj的條件下，X取值的條件分布為

連續(xù)型

在已知Y=y的條件下，X的條件分布密度為

；

在已知X=x的條件下，Y的條件分布密度為

（7）獨立性

一般型

F(X,Y)=FX(x)FY(y)

離散型

有零不獨立

連續(xù)型

f(x,y)=fX(x)fY(y)

直接判斷，充要條件：

①可分離變量

②正概率密度區(qū)間為矩形

二維正態(tài)分布

＝0

隨機變量的函數(shù)

若X1,X2,…Xm,Xm+1,…Xn相互獨立，h,g為連續(xù)函數(shù)，則：

h（X1，X2,…Xm）和g（Xm+1,…Xn）相互獨立。

特例：若X與Y獨立，則：h（X）和g（Y）獨立。

例如：若X與Y獨立，則：3X+1和5Y-2獨立。

（8）二維均勻分布

設隨機向量（X，Y）的分布密度函數(shù)為

其中SD為區(qū)域D的面積，則稱（X，Y）服從D上的均勻分布，記為（X，Y）～U（D）。

例如圖3.1、圖3.2和圖3.3。

y

1

D1

O1 x

圖3.1

y

D2

1

1

O 2x

圖3.2

y

D3

d

c

Oabx

圖3.3

（9）二維正態(tài)分布

設隨機向量（X，Y）的分布密度函數(shù)為

其中是5個參數(shù)，則稱（X，Y）服從二維正態(tài)分布，

記為（X，Y）～N（

由邊緣密度的計算公式，可以推出二維正態(tài)分布的兩個邊緣分布仍為正態(tài)分布，

即X～N（

但是若X～N（，(X，Y)未必是二維正態(tài)分布。

（10）函數(shù)分布

Z=X+Y

根據(jù)定義計算：

對于連續(xù)型，fZ(z)＝

兩個獨立的正態(tài)分布的和仍為正態(tài)分布（）。

n個相互獨立的正態(tài)分布的線性組合，仍服從正態(tài)分布。

，

Z=max,min(X1,X2,…Xn)

若相互獨立，其分布函數(shù)分別為，則Z=max,min(X1,X2,…Xn)的分布函數(shù)為：

分布

設n個隨機變量相互獨立，且服從標準正態(tài)分布，可以證明它們的平方和

的分布密度為

我們稱隨機變量W服從自由度為n的分布，記為W～，其中

所謂自由度是指獨立正態(tài)隨機變量的個數(shù)，它是隨機變量分布中的一個重要參數(shù)。

分布滿足可加性：設

則

t分布

設X，Y是兩個相互獨立的隨機變量，且

可以證明函數(shù)

的概率密度為

我們稱隨機變量T服從自由度為n的t分布，記為T～t(n)。

F分布

設，且X與Y獨立，可以證明的概率密度函數(shù)為

我們稱隨機變量F服從第一個自由度為n1，第二個自由度為n2的F分布，記為F～f(n1,n2).

第四章隨機變量的數(shù)字特征

（1）一維隨機變量的數(shù)字特征

離散型

連續(xù)型

期望

期望就是平均值

設X是離散型隨機變量，其分布律為P()＝pk，k=1,2,…,n，

（要求絕對收斂）

設X是連續(xù)型隨機變量，其概率密度為f(x)，

（要求絕對收斂）

函數(shù)的期望

Y=g(X)

Y=g(X)

方差

D(X)=E[X-E(X)]2，

標準差

，

矩

①對于正整數(shù)k，稱隨機變量X的k次冪的數(shù)學期望為X的k階原點矩，記為vk,即

νk=E(Xk)=,k=1,2,….

②對于正整數(shù)k，稱隨機變量X與E（X）差的k次冪的數(shù)學期望為X的k階中心矩，記為，即

=，k=1,2,….

①對于正整數(shù)k，稱隨機變量X的k次冪的數(shù)學期望為X的k階原點矩，記為vk,即

νk=E(Xk)=

k=1,2,….

②對于正整數(shù)k，稱隨機變量X與E（X）差的k次冪的數(shù)學期望為X的k階中心矩，記為，即

=

k=1,2,….

切比雪夫不等式

設隨機變量X具有數(shù)學期望E（X）=μ，方差D（X）=σ2，則對于任意正數(shù)ε，有下列切比雪夫不等式

切比雪夫不等式給出了在未知X的分布的情況下，對概率

的一種估計，它在理論上有重要意義。

（2）期望的性質

E(C)=C

E(CX)=CE(X)

E(X+Y)=E(X)+E(Y)，

E(XY)=E(X)E(Y)，充分條件：X和Y獨立；

充要條件：X和Y不相關。

（3）方差的性質

D(C)=0；E(C)=C

D(aX)=a2D(X)；E(aX)=aE(X)

D(aX+b)=a2D(X)；E(aX+b)=aE(X)+b

D(X)=E(X2)-E2(X)

D(X±Y)=D(X)+D(Y)，充分條件：X和Y獨立；

充要條件：X和Y不相關。

D(X±Y)=D(X)+D(Y)±2E[(X-E(X))(Y-E(Y))]，無條件成立。

而E(X+Y)=E(X)+E(Y)，無條件成立。

（4）常見分布的期望和方差

期望

方差

0-1分布

p

二項分布

np

泊松分布

幾何分布

超幾何分布

均勻分布

指數(shù)分布

正態(tài)分布

n

2n

t分布

0

(n>2)

（5）二維隨機變量的數(shù)字特征

期望

函數(shù)的期望

＝

＝

方差

協(xié)方差

對于隨機變量X與Y，稱它們的二階混合中心矩為X與Y的協(xié)方差或相關矩，記為，即

與記號相對應，X與Y的方差D（X）與D（Y）也可分別記為與。

相關系數(shù)

對于隨機變量X與Y，如果D（X）>0,D(Y)>0，則稱

為X與Y的相關系數(shù)，記作（有時可簡記為）。

||≤1，當||=1時，稱X與Y完全相關：

完全相關

而當時，稱X與Y不相關。

以下五個命題是等價的：

①；

②cov(X,Y)=0;

③E(XY)=E(X)E(Y);

④D(X+Y)=D(X)+D(Y);

⑤D(X-Y)=D(X)+D(Y).

協(xié)方差矩陣

混合矩

對于隨機變量X與Y，如果有存在，則稱之為X與Y的k+l階混合原點矩，記為；k+l階混合中心矩記為：

（6）協(xié)方差的性質

cov(X,Y)=cov(Y,X);

cov(aX,bY)=abcov(X,Y);

cov(X1+X2,Y)=cov(X1,Y)+cov(X2,Y);

cov(X,Y)=E(XY)-E(X)E(Y).

（7）獨立和不相關

若隨機變量X與Y相互獨立，則；反之不真。

若（X，Y）～N（），

則X與Y相互獨立的充要條件是X和Y不相關。

第五章大數(shù)定律和中心極限定理

（1）大數(shù)定律

切比雪夫大數(shù)定律

設隨機變量X1，X2，…相互獨立，均具有有限方差，且被同一常數(shù)C所界：D（Xi）<C(i=1,2,…),則對于任意的正數(shù)ε，有

特殊情形：若X1，X2，…具有相同的數(shù)學期望E（XI）=μ，則上式成為

伯努利大數(shù)定律

設μ是n次獨立試驗中事件A發(fā)生的次數(shù)，p是事件A在每次試驗中發(fā)生的概率，則對于任意的正數(shù)ε，有

伯努利大數(shù)定律說明，當試驗次數(shù)n很大時，事件A發(fā)生的頻率與概率有較大判別的可能性很小，即

這就以嚴格的數(shù)學形式描述了頻率的穩(wěn)定性。

辛欽大數(shù)定律

設X1，X2，…，Xn，…是相互獨立同分布的隨機變量序列，且E（Xn）=μ，則對于任意的正數(shù)ε有

（2）中心極限定理

列維－林德伯格定理

設隨機變量X1，X2，…相互獨立，服從同一分布，且具有相同的數(shù)學期望和方差：，則隨機變量

的分布函數(shù)Fn(x)對任意的實數(shù)x，有

此定理也稱為獨立同分布的中心極限定理。

棣莫弗－拉普拉斯定理

設隨機變量為具有參數(shù)n,p(0<p<1)的二項分布，則對于任意實數(shù)x,有

（3）二項定理

若當，則

超幾何分布的極限分布為二項分布。

（4）泊松定理

若當，則

其中k=0，1，2，…，n，…。

二項分布的極限分布為泊松分布。

第六章樣本及抽樣分布

（1）數(shù)理統(tǒng)計的基本概念

總體

在數(shù)理統(tǒng)計中，常把被考察對象的某一個（或多個）指標的全體稱為總體（或母體）。我們總是把總體看成一個具有分布的隨機變量（或隨機向量）。

個體

總體中的每一個單元稱為樣品（或個體）。

樣本

我們把從總體中抽取的部分樣品稱為樣本。樣本中所含的樣品數(shù)稱為樣本容量，一般用n表示。在一般情況下，總是把樣本看成是n個相互獨立的且與總體有相同分布的隨機變量，這樣的樣本稱為簡單隨機樣本。在泛指任一次抽取的結果時，表示n個隨機變量（樣本）；在具體的一次抽取之后，表示n個具體的數(shù)值（樣本值）。我們稱之為樣本的兩重性。

樣本函數(shù)和統(tǒng)計量

設為總體的一個樣本，稱

（）

為樣本函數(shù)，其中為一個連續(xù)函數(shù)。如果中不包含任何未知參數(shù)，則稱（）為一個統(tǒng)計量。

常見統(tǒng)計量及其性質

樣本均值

樣本方差

樣本標準差

樣本k階原點矩

樣本k階中心矩

，，

，,

其中，為二階中心矩。

（2）正態(tài)總體下的四大分布

正態(tài)分布

設為來自正態(tài)總體的一個樣本，則樣本函數(shù)

t分布

設為來自正態(tài)總體的一個樣本，則樣本函數(shù)

其中t(n-1)表示自由度為n-1的t分布。

設為來自正態(tài)總體的一個樣本，則樣本函數(shù)

其中表示自由度為n-1的分布。

F分布

設為來自正態(tài)總體的一個樣本，而為來自正態(tài)總體的一個樣本，則樣本函數(shù)

其中

表示第一自由度為，第二自由度為的F分布。

（3）正態(tài)總體下分布的性質

與獨立。

第七章參數(shù)估計

（1）點估計

矩估計

設總體X的分布中包含有未知數(shù)，則其分布函數(shù)可以表成它的k階原點矩中也包含了未知參數(shù)，即。又設為總體X的n個樣本值，其樣本的k階原點矩為

這樣，我們按照“當參數(shù)等于其估計量時，總體矩等于相應的樣本矩”的原則建立方程，即有

由上面的m個方程中，解出的m個未知參數(shù)即為參數(shù)（）的矩估計量。

若為的矩估計，為連續(xù)函數(shù)，則為的矩估計。

極大似然估計

當總體X為連續(xù)型隨機變量時，設其分布密度為，其中為未知參數(shù)。又設為總體的一個樣本，稱

為樣本的似然函數(shù)，簡記為Ln.

當總體X為離型隨機變量時，設其分布律為，則稱

為樣本的似然函數(shù)。

若似然函數(shù)在處取到最大值，則稱分別為的最大似然估計值，相應的統(tǒng)計量稱為最大似然估計量。

若為的極大似然估計，為單調函數(shù)，則為的極大似然估計。

（2）估計量的評選標準

無偏性

設為未知參數(shù)的估計量。若E（）=，則稱為的無偏估計量。

E（）=E（X），E（S2）=D（X）

有效性

設和是未知參數(shù)的兩個無偏估計量。若，則稱有效。

一致性

設是的一串估計量，如果對于任意的正數(shù)，都有

則稱為的一致估計量（或相合估計量）。

若為的無偏估計，且則為的一致估計。

只要總體的E(X)和D(X)存在，一切樣本矩和樣本矩的連續(xù)函數(shù)都是相應總體的一致估計量。

（3）區(qū)間估計

置信區(qū)間和置信度

設總體X含有一個待估的未知參數(shù)。如果我們從樣本出發(fā)，找出兩個統(tǒng)計量與，使得區(qū)間以的概率包含這個待估參數(shù)，即

那么稱區(qū)間為的置信區(qū)間，為該區(qū)間的置信度（或置信水平）。

單正態(tài)總體的期望和方差的區(qū)間估計

設為總體的一個樣本，在置信度為下，我們來確定的置信區(qū)間。具體步驟如下：

（i）選擇樣本函數(shù)；

（ii）由置信度，查表找分位數(shù)；

（iii）導出置信區(qū)間。

已知方差，估計均值

（i）選擇樣本函數(shù)

(ii)查表找分位數(shù)

（iii）導出置