概率論與數(shù)理統(tǒng)計(jì)知識(shí)點(diǎn)總結(jié)(免費(fèi)超詳細(xì)版)

1、概率論與數(shù)理統(tǒng)計(jì)第一章概率論的基本概念§ 2 樣本空間、隨機(jī)事件1 事件間的關(guān)系 A B 則稱事件B包含事件A，指事件A發(fā)生必然導(dǎo)致事件 B發(fā)生ABxxA或xB稱為事件A與事件B的和事件，指當(dāng)且僅當(dāng)A , B中至少有一個(gè)發(fā)生時(shí)，事件 A B發(fā)生ABxxA且xB稱為事件A與事件B的積事件，指當(dāng) A , B同時(shí)發(fā)生時(shí)，事件 A B發(fā)生A B xx A且x B稱為事件A與事件B的差事件，指當(dāng)且僅當(dāng) A發(fā)生、B不發(fā)生時(shí)，事件 A B發(fā)生A B，則稱事件A與B是互不相容的，或互斥的，指事件 A與事件B不能同時(shí)發(fā)生，基本事件是兩兩互不相容的A B S且 A B，則稱事件 A與事件B互為逆事件，又

2、稱事件A與事件B互為對(duì)立事件2 .運(yùn)算規(guī)則 交換律ABBA A BBA結(jié)合律(AB)CA (BC)(A B)C A(B C)分配律A(BC)(A B)(AC)A(BC)(A B)(A,C)徳摩根律A BAB AB AB§ 3 .頻率與概率定義 在相同的條件下，進(jìn)行了n次試驗(yàn)，在這n次試驗(yàn)中，事件 A發(fā)生的次數(shù)nA稱為事件A發(fā)生的頻數(shù)，比值nA：n稱為事件A發(fā)生的頻率概率：設(shè)E是隨機(jī)試驗(yàn)，S是它的樣本空間，對(duì)于E的每一事件A賦予一個(gè)實(shí)數(shù)，記為P( A), 稱為事件的概率1 概率P(A)滿足下列條件：(1) 非負(fù)性：對(duì)于每一個(gè)事件 A 0 P(A) 1(2) 規(guī)范性：對(duì)于必然事件S P(

3、S) 1(3)可列可加性：設(shè)Ai,A2, ,An是兩兩互不相容的事件， 有P( Ak)P(Ak) (n可k 1k 1以取 )2.概率的一些重要性質(zhì)：(i)P( )0(ii )若Ai, A2, An是兩兩互不相容的事件，則有nP( Ak)nP(Ak) (n可以取3#P(B) P(A)，P(B) P(A)(iii )設(shè)A，B是兩個(gè)事件若 A B，則P(B A)(iv) 對(duì)于任意事件 A，P(A) 1(v) P(A)1 P(A) (逆事件的概率)(vi)對(duì)于任意事件 A，B 有 P(A B) P(A) P(B) P(AB)§ 4等可能概型(古典概型)等可能概型：試驗(yàn)的樣本空間只包含有限個(gè)元

4、素，試驗(yàn)中每個(gè)事件發(fā)生的可能性相同若事件 a 包含 k 個(gè)基本 事件，即 a 兔 2ek，里，ik是12 n中某k個(gè)不同的數(shù)，則有kP(A) Peijj 1k A包含的基本事件數(shù) n S中基本事件的總數(shù)§ 5.條件概率(1) 定義：設(shè)A,B是兩個(gè)事件，且P(A) 0，稱P(B|A) P(AB)為事件A發(fā)生的條P(A)件下事件B發(fā)生的條件概率(2) 條件概率符合概率定義中的三個(gè)條件1。非負(fù)性：對(duì)于某一事件 B，有P(B| A) 02。規(guī)范性：對(duì)于必然事件 S，P(S| A) 13 可列可加性：設(shè) B1,B2,是兩兩互不相容的事件，則有P( Bi A ) P(Bi A )i 1i 1(3

5、) 乘法定理設(shè)P(A) 0，則有P(AB) P(B)P(A| B)稱為乘法公式4(4) 全概率公式： P(A)貝葉斯公式:P(Bk | A)P(BQP(A|BQnP(Bi)P(A|Bi)i 15#§ 6 .獨(dú)立性 定義 設(shè)A , B是兩事件，如果滿足等式 P(AB) P(A)P(B)，則稱事件A,B相互獨(dú)立定理一設(shè)A , B是兩事件，且 P(A) 0,若A, B相互獨(dú)立，則 P(B| A) P B定理二若事件A和B相互獨(dú)立，則下列各對(duì)事件也相互獨(dú)立：A與B ,A與B ,A與B第一章隨機(jī)變量及其分布§ 1隨機(jī)變量定義設(shè)隨機(jī)試驗(yàn)的樣本空間為S e. XX(e)是定義在樣本空間S

6、上的實(shí)值單值函 數(shù)，稱X X(e)為隨機(jī)變量§ 2離散性隨機(jī)變量及其分布律1. 離散隨機(jī)變量：有些隨機(jī)變量，它全部可能取到的值是有限個(gè)或可列無(wú)限多個(gè)，這種隨 機(jī)變量稱為離散型隨機(jī)變量P(X Xk) Pk滿足如下兩個(gè)條件(1) Pk 0,( 2)Pk =1k 12. 三種重要的離散型隨機(jī)變量(1) (0- 1)分布設(shè)隨機(jī)變量 X 只能取 0 與 1 兩個(gè)值，它的分布律是 P(X k) pk(1-p)1-k, k 0,1 (0 p 1)，則稱X服從以P為參數(shù)的(0- 1)分布或 兩點(diǎn)分布。(2) 伯努利實(shí)驗(yàn)、二項(xiàng)分布設(shè)實(shí)驗(yàn)E只有兩個(gè)可能結(jié)果：A與A，則稱E為伯努利實(shí)驗(yàn)設(shè)P(A) p (0

7、 p 1), 此時(shí)P(A) 1-p .將e獨(dú)立重復(fù)的進(jìn)行n次，則稱這一串重復(fù)的獨(dú)立實(shí)驗(yàn)為n重伯努利實(shí)驗(yàn)。P(X k) n pkqn-k, k 0,1,2, n 滿足條件(1) Pk0, (2)Pk =1 注意kk 1#到n pkqn-k是二項(xiàng)式(p q)n的展開式中出現(xiàn)pk的那一項(xiàng)，我們稱隨機(jī)變量X服從參數(shù)k為n，p的二項(xiàng)分布。(3 )泊松分布設(shè)隨機(jī)變量X所有可能取的值為0,1,2，而取各個(gè)值的概率為ke-P(X k) ,k 0,1,2 ,其中 0是常數(shù)，則稱X服從參數(shù)為的泊松分布記為k!X ()§ 3隨機(jī)變量的分布函數(shù)定義 設(shè)X是一個(gè)隨機(jī)變量，x是任意實(shí)數(shù)，函數(shù) F(x) PX x

8、,- x稱為X的分布函數(shù)分布函數(shù)F(x) P(X x),具有以下性質(zhì)(1) F(x)是一個(gè)不減函數(shù) (2 )0 F(x) 1,且 F( ) 0,F( ) 1(3) F(x 0)F(x),即F(x)是右連續(xù)的§ 4連續(xù)性隨機(jī)變量及其概率密度連續(xù)隨機(jī)變量：如果對(duì)于隨機(jī)變量X的分布函數(shù)F (x),存在非負(fù)可積函數(shù) f (x)，使x對(duì)于任意函數(shù)x有F(x) f (t) dt,則稱x為連續(xù)性隨機(jī)變量，其中函數(shù)f(x)稱為X的概率密度函數(shù)，簡(jiǎn)稱概率密度0, (2) f(x)dx 1 ；1概率密度f(wàn) (x)具有以下性質(zhì)，滿足(1) f(x)(3) P(X1X X2)J(x)dx ；(4 )若f(x

9、)在點(diǎn)x處連續(xù)，則有F(x) f (x)060#2,三種重要的連續(xù)型隨機(jī)變量(1)均勻分布若連續(xù)性隨機(jī)變量 X具有概率密度f(wàn)(x)1b- a0其他b，則成X在區(qū)間(a,b)上服從0#0#均勻分布記為X U (a，b)(2)指數(shù)分布若連續(xù)性隨機(jī)變量 X的概率密度為f (x)丄ex，x.，其他0 其中 0為常數(shù)，則稱X0#07服從參數(shù)為 的指數(shù)分布。(3 )正態(tài)分布0#若連續(xù)其中，特別，當(dāng)0,1時(shí)稱隨機(jī)變量X服從標(biāo)準(zhǔn)正態(tài)分布（X ）2型隨機(jī)變量 X 的概率密度為f （x）1一，（）廳（0）為常數(shù)，則稱X服從參數(shù)為，的正態(tài)分布或高斯分布，記為，2）8#§ 5隨機(jī)變量的函數(shù)的分布定理設(shè)隨機(jī)變

10、量X具有概率密度f(wàn)x(x),-,又設(shè)函數(shù)g（x）處處可導(dǎo)且恒有g(shù)(x)y= g(X)是連續(xù)型變量，其概率密度為fv(y)fxh(y)0h(y), y，其他第三章多維隨機(jī)變量#§ 1二維隨機(jī)變量定義設(shè)E是一個(gè)隨機(jī)試驗(yàn)，它的樣本空間是Se. XX（e）和Y Y（e）是定義在S上#的隨機(jī)變量，稱 X X（e）為隨機(jī)變量，由它們構(gòu)成的一個(gè)向量（ X，Y）叫做二維隨機(jī)變量設(shè)（X，Y ）是二維隨機(jī)變量，對(duì)于任意實(shí)數(shù)x， y，二元函數(shù)F(x，y)P(X x)(Yy）記成PX x，丫 y稱為二維隨機(jī)變量（X，Y ）的分布函數(shù)如果二維隨機(jī)變量（X，Y）全部可能取到的值是有限對(duì)或可列無(wú)限多對(duì)，則稱（X，

11、Y ）是離散型的隨機(jī)變量。我們稱P（X xi，Yyj）Pij，i，j 1,2，為二維離散型隨機(jī)變量（X，Y ）的分布律。對(duì)于二維隨機(jī)變量（X, Y）的分布函數(shù)F （x，y），如果存在非負(fù)可積函數(shù)f(x, y)，y x使對(duì)于任意x, y有f （x， y）f （u， v） dudv,則稱（X , Y）是連續(xù)性的隨機(jī)變量，函數(shù)f （x，y）稱為隨機(jī)變量（X，Y）的概率密度，或稱為隨機(jī)變量X和Y的聯(lián)合概率密度。§ 2邊緣分布二維隨機(jī)變量（X，Y ）作為一個(gè)整體，具有分布函數(shù)F （x，y） 而X和Y都是隨機(jī)變量，各自也有分布函數(shù)，將他們分別記為FX（x）, FY（y），依次稱為二維隨機(jī)變量 （

12、X，Y）關(guān)于X和關(guān)于Y的邊緣分布函數(shù)。P?jPijPYyi，j 1,2,Pi? Pij PX Xi, i 1,2,j 1分別稱pi? P?j為(X，Y)關(guān)于X和關(guān)于Y的邊緣分布律。fX (x) f (x, y)dyfY(y)f (x, y) dx分別稱 fX(x),9#fY(y)為X, Y關(guān)于X和關(guān)于Y的邊緣概率密度。§ 3條件分布定義 設(shè)(X，Y )是二維離散型隨機(jī)變量，對(duì)于固定的若PYyj°，則稱PX 人丫 比 墜空 jjPY yjPij .,iP?j1,2,為在Yy j條件下隨機(jī)變量X的條件分布律，同樣PY yj X XiPX Xi,Yyj px 燈Pij,j 1,2

13、,Pi?#為在X Xi條件下隨機(jī)變量 X的條件分布律。設(shè)二維離散型隨機(jī)變量(X，Y)的概率密度為f (x, y)，( X，Y )關(guān)于Y的邊緣概#率密度為fY(y)，若對(duì)于固定的y，fY(y)°，則稱f(x, y)為在Y=y的條件下X的條件 fy(y)概率密度，記為fX |y (x y) = f (x, y)1 J(y)§ 4相互獨(dú)立的隨機(jī)變量定義設(shè)F (x，y)及FX (x)，F(xiàn)Y(y)分別是二維離散型隨機(jī)變量(X，Y)的分布函數(shù)及邊緣分布函數(shù)若對(duì)于所有x,y有PX x,Y y PX xPY y，即Fx, y Fx (x)Fy (y)，則稱隨機(jī)變量X和Y是相互獨(dú)立的。對(duì)于二

14、維正態(tài)隨機(jī)變量(X，Y)，X和Y相互獨(dú)立的充要條件是參數(shù)0§ 5兩個(gè)隨機(jī)變量的函數(shù)的分布1，Z=X+Y的分布設(shè)(X,Y)是二維連續(xù)型隨機(jī)變量，它具有概率密度f(wàn)(X, y).則Z=X+Y仍為連續(xù)性隨機(jī)變量，其概率密度為fX 丫 f (z y, y) dy或fX Y (z) f (x,z x) dx又若X和Y相互獨(dú)立，設(shè)(X , Y )關(guān)于X , Y的邊緣密度分別為 fX (x), fY (y)則fx Y(z)fx(z y) fY(y)dy 和 fx 丫 fx(x) fy(z x)dx這兩個(gè)公式稱為fx , fY的卷積公式有限個(gè)相互獨(dú)立的正態(tài)隨機(jī)變量的線性組合仍然服從正態(tài)分布Y2，Z的分

15、布、ZXY的分布XY設(shè)(X,Y)是二維連續(xù)型隨機(jī)變量，它具有概率密度f(wàn) (x, y)，則Z ，Z XYX仍為連續(xù)性隨機(jī)變量其概率密度分別為fY x(z) xf (x,xz)dxfxY (z)1f (x,-)dx又若x和Y相互獨(dú)立，設(shè)(X，Y )關(guān)于X，Y的邊緣密度分別XX為 fx (x), fY(y)則可化為 fY x (z) fx (x) fY (xz)dxfxY ( z)7fx(x)fY(J)dx10#Fx(x),FY(y)由于3 M maxX，Y及 N min X ,Y的分布設(shè)X，Y是兩個(gè)相互獨(dú)立的隨機(jī)變量，它們的分布函數(shù)分別為M maxX，Y不大于z等價(jià)于X和Y都不大于z故有PM z

16、PX乙丫 z又由于X和Y相互獨(dú)立，得到 M maxX，Y的分布函數(shù)為Fmax(z)Fx(z)Fy(z)N minX,Y的分布函數(shù)為 Fmin (z) 1 1 Fx (z) 1 Fy(z)第四章隨機(jī)變量的數(shù)字特征定義設(shè)離散型隨機(jī)變量X的分布律為PXXk§ 1 數(shù)學(xué)期望Pk, k=1,2，若級(jí)數(shù) XkPk絕對(duì) k 1收斂，則稱級(jí)數(shù)XkPk的和為隨機(jī)變量 X的數(shù)學(xué)期望，記為E(X),即E(X)xk Pkk 1i設(shè)連續(xù)型隨機(jī)變量 X的概率密度為f (X)，若積分xf(x)dx絕對(duì)收斂，則稱積分xf(x)dx的值為隨機(jī)變量X的數(shù)學(xué)期望，記為E(X)，即E(X) xf(x)dx定理 設(shè)Y是隨機(jī)變

17、量X的函數(shù)Y= g(X)(g是連續(xù)函數(shù))(i)如果X是離散型隨機(jī)變量，它的分布律為PX xk pk , k=1,2，若g(xk)pkk 1絕對(duì)收斂則有 E(Y) E(g(X)g(xk)pkk 1(ii)如果X是連續(xù)型隨機(jī)變量，它的分概率密度為 f (x)，若 g(x) f (x)dx絕對(duì)收斂則有 E(Y) E(g(X) g(x)f(x)dx數(shù)學(xué)期望的幾個(gè)重要性質(zhì)1設(shè)C是常數(shù)，則有E(C) C2設(shè)X是隨機(jī)變量，C是常數(shù)，則有E(CX) CE(X)3設(shè)X,Y是兩個(gè)隨機(jī)變量，則有 E(X Y) E(X) E(Y);4設(shè)X, Y是相互獨(dú)立的隨機(jī)變量，則有E(XY) E(X)E(Y)§ 2方差

18、2 2定義 設(shè)X是一個(gè)隨機(jī)變量，若 E X E(X) 存在，則稱E X E(X) 為X的方2匚差，記為D (x )即D ( x) = E X E(X) ，在應(yīng)用上還引入量,D(x)，記為(X), 稱為標(biāo)準(zhǔn)差或均方差。2 2 2D(X) E(X E(X)2 E(X2) (EX)2方差的幾個(gè)重要性質(zhì)1設(shè)C是常數(shù)，則有D(C) 0,22設(shè)X是隨機(jī)變量，C是常數(shù)，則有 D(CX) C D(X) , D(X C) D(X)3 設(shè) X,Y 是兩個(gè)隨機(jī)變量，則有 D(X Y) D(X) D(Y) 2E(X - E(X)(Y - E(Y)特別，若X,Y相互獨(dú)立，則有 D(X Y) D(X) D(Y)4 D(X

19、) 0的充要條件是X以概率1取常數(shù)E(X)，即PX E(X)1切比雪夫不等式：設(shè)隨機(jī)變量 X具有數(shù)學(xué)期望E(X) 2，則對(duì)于任意正數(shù)，不等式PX -成立§ 3協(xié)方差及相關(guān)系數(shù)定義 量EX E(X)Y E(Y)稱為隨機(jī)變量 X與Y的協(xié)方差為Cov(X,Y)，即Cov(X,Y) E(X E(X)(YE(Y) E(XY) E(X)E(Y)工Cov(X，Y)而 xy 稱為隨機(jī)變量X和Y的相關(guān)系數(shù)*D(x)佢YT對(duì)于任意兩個(gè)隨機(jī)變量 X和Y, D(X Y) D(X) D(Y) 2Cov(X,Y)協(xié)方差具有下述性質(zhì)lCov(X,Y) Cov(Y,X), Cov(aX,bY) abCov(X,Y)

20、2Cov(X! X2,Y) Cov(X!,Y) Cov(X2,Y)定理 1XY 12 XY 1的充要條件是，存在常數(shù) a,b使PY a bx 1當(dāng) xy 0時(shí)，稱X和Y不相關(guān)附：幾種常用的概率分布表分布參數(shù)分布律或概率密度數(shù)學(xué)期望方差兩點(diǎn)分 布0 p 1PX k) pk(1 p)i,k 0,1，pp(1 p)二項(xiàng)式 分布n 10 p 1P(X k) Cn pk(1 p)n k,k 0,1, n，npnp(1 p)泊松分 布0keP(X k) ,k 0,1,2,k!幾何分 布0 p 1k 1P(X k) (1 p) p,k 1,2,丄p1 p2 p均勻分 布a b1 . 一、,a x bf(x) b a，0 ，