概率論與數(shù)理統(tǒng)計(jì)知識(shí)點(diǎn)總結(jié)(免費(fèi)超詳細(xì)版)

1、概率論與數(shù)理統(tǒng)計(jì)第一章概率論的基本概念§ 2樣本空間、1 事件間的關(guān)系隨機(jī)事件A B 則稱事件 B 包含事件A ，指事件 A 發(fā)生必然導(dǎo)致事件 B 發(fā)生A B x xA 或 x B 稱為事件A 與事件的和事件，指當(dāng)且僅當(dāng)A ， B 中至少有一個(gè)發(fā)生時(shí)，事件A B 發(fā)生A B x xA 且 x B 稱為事件A 與事件的積事件，指當(dāng) A ，同時(shí)發(fā)生時(shí)，事件 A B 發(fā)生A B xx A且 x B 稱為事件A 與事件的差事件，指當(dāng)且僅當(dāng)A 發(fā)生、 B 不發(fā)生時(shí)，事件 A B 發(fā)生A B ，則稱事件 A 與 B 是互不相容的， 或互斥的， 指事件 A 與事件B 不能同時(shí)發(fā)生，基本事件是兩兩互

2、不相容的A B S A B ，則稱事件 且A 與事件 B 互為逆事件，又稱事件A 與事件 B 互為對(duì)立事件2 運(yùn)算規(guī)則交換律 A BBA ABBA結(jié)合律 (AB)C A(BC)( A B)CA(B C)分配律 A (BC) (AB)( AC)A (BC)(A B)( AC)徳摩根律 ABA BABA B§ 3頻率與概率定義在相同的條件下，進(jìn)行了n 次試驗(yàn)，在這n 次試驗(yàn)中，事件A 發(fā)生的次數(shù) n 稱為事件AA 發(fā)生的 頻數(shù) ，比值nnA稱為事件A 發(fā)生的頻率概率：設(shè) E 是隨機(jī)試驗(yàn)， S 是它的樣本空間，對(duì)于 E 的每一事件 A賦予一個(gè)實(shí)數(shù)， 記為 P( A)，稱為事件的概率1概率

3、P( A)滿足下列條件：1) 非負(fù)性 ：對(duì)于每一個(gè)事件 A 0 P( A) 12)規(guī)范性 ：對(duì)于必然事件 S P (S) 11n n有 PAk )P( A )( n 可kk 1 k 1(ii )若 A1, A2 , ,A 是兩兩互不相容的事件，則有 nAk )k 1P( A ) k k 1n 可以取( 3)可列可加性 ：設(shè) A1, A2 , ,A 是兩兩互不相容的事件， n以取 )2 概率的一些重要性質(zhì)：(i ) P( ) 0iii )設(shè) A，B 是兩個(gè)事件若 A B ，則 P(B A) P( B) P( A) ， P( B) P(A)iv)對(duì)于任意事件A ， P(A) 1v ) P( A)

4、1 P(A) (逆事件的概率)vi)對(duì)于任意事件A，B 有 P(A B) P( A) P( B) P( AB)§4 等可能概型(古典概型)等可能概型：試驗(yàn)的樣本空間只包含有限個(gè)元素，試驗(yàn)中每個(gè)事件發(fā)生的可能性相同若事件A 包 含k個(gè)基本事件，即Aei e 1 i 2e ，里 ikk是，中某個(gè)不同的數(shù)，則有i1 i 2, ，i k 1,2nkkAP( A)P e j 包含的基本事件數(shù)j 1 i nS 中基本事件的總數(shù)5條件概率1) 定義： 設(shè) A,B 是兩個(gè)事件，且 P( A) 0 ，稱 P(B | A) 為事件 A 發(fā)生的條P(A)件下事件 B 發(fā)生的 條件概率2) 條件概率符合概率

5、定義中的三個(gè)條件。非負(fù)性：對(duì)于某一事件 B，有 P(B | A) 0 1規(guī)范性：對(duì)于必然事件S， P(S | A) 1 23 可 列 可 加 性 ：設(shè) B1, B2,是 兩 兩 互 不 相 容 的 事 件 ， 則 有P( Bi A ) P(B A ) ii 1 i 13)乘法定理設(shè) P( A) 0 ，則有 P(AB)P(B)P( AB) 稱為乘法公式n4) 全概率公式： P( A) P(B i )P( A | B ) ii 1P(B )P(A | B )貝葉斯公式：P( B | A) k kk nP( B )P( A | B )i ii 1§ 6 獨(dú)立性定義 設(shè) A ，B是兩事件，如

6、果滿足等式 P(AB) P(A)P(B) ，則稱事件A,B 相互獨(dú)立定理一設(shè) A ，B 是兩事件，且P( A) 0 ，若 A ，B 相互獨(dú)立，則 P(B | A)P B 定理二若事件A 和 B 相互獨(dú)立，則下列各對(duì)事件也相互獨(dú)立：A 與B ，A B AB與 ， 與第二章隨機(jī)變量及其分布1 隨機(jī)變量定義設(shè)隨機(jī)試驗(yàn)的樣本空間為S e. X X(e) 是定義在樣本空間 S 上的實(shí)值單值函數(shù)， 稱 X X(e) 為隨機(jī)變量§2 離散性隨機(jī)變量及其分布律1 離散隨機(jī)變量：有些隨機(jī)變量，它全部可能取到的值是有限個(gè)或可列無(wú)限多個(gè)，這種隨機(jī)變量稱為離散型隨機(jī)變量P( Xxk )p 滿足如下兩個(gè)條件(

7、 k1 ) pk 0 ，(2)P =1k k 12 三種重要的離散型隨機(jī)變量( 1) 0 -1 分布設(shè)隨機(jī)變量X 只 能 取 0與1 兩個(gè) 值 ， 它 的 分 布 律 是k1-kpP( X k)p(1-p) ，k 0,1 (01) ，則稱X 服從以 p 為參數(shù)的 0 - 1 分布或兩點(diǎn)分布。( 2 )伯努利實(shí)驗(yàn)、二項(xiàng)分布設(shè)實(shí)驗(yàn) E 只有兩個(gè)可能結(jié)果： A 與 A ，則稱 E 為伯努利實(shí)驗(yàn) .設(shè) P(A) p (0 p 1) ，此時(shí) P(A ) 1- p .將 E 獨(dú)立重復(fù)的進(jìn)行 n 次，則稱這一串重復(fù)的獨(dú)立實(shí)驗(yàn)為 n 重伯努利實(shí)驗(yàn)。nP =1 注意到k n-kk 1 k滿足條件(1 ) pk

8、0 ，( 2)p q k 0 ,1,2 nP(X k)k3kqn-k 是二項(xiàng)式X 服從參數(shù)為q 的展開式中出現(xiàn)p 的那一項(xiàng)，我們稱隨機(jī)變量 )n， p 的二項(xiàng)分布。( 3 )泊松分布設(shè)隨 機(jī) 變 量 X可 能 取 的值為0,1,2 ? ， 而取 各 個(gè)值的 概k -eP(X k) , k 0,1,2 , 其中k!0 是常數(shù)，則稱X 服從參數(shù)為的泊松分布記為()3 隨機(jī)變量的分布函數(shù)定義設(shè)X 是一個(gè)隨機(jī)變量， x 是任意實(shí)數(shù)，函數(shù)F( x) PXx,稱為 X 的分布函數(shù)分 布 函 數(shù) F(x) P( X x) ， 具 有以下性 質(zhì) (1)F(x) 是0 F(x) 1，且 F () 0, F (

9、) 13)F ( x 0)F ( x), 即 F(x)是右連續(xù)的4 連續(xù)性隨機(jī)變量及其概率密度連續(xù)隨機(jī)變量：如果對(duì)于隨機(jī)變量X 的分布函數(shù)F( x)，存在非負(fù)可積函數(shù)f (x) ，使對(duì)于x 任意函數(shù) x 有 F(x)dt,則稱 x 為連續(xù)性隨機(jī)變量，其中函數(shù)f(x) 稱為 X 的概率密度函數(shù)，簡(jiǎn)稱概率密度1 概率密度 f (x) 具有以下性質(zhì)，滿足( 1) f (x) 0, (2)f (x)dx 1 ；3)P(x 1 X x2 )f (x)dx ；(4 )若 f (x)在點(diǎn)處連續(xù)，則有F (x)f (x)2,三種重要的連續(xù)型隨機(jī)變量(1)均勻分布若連續(xù)性隨機(jī)變量 X 具有概率密度f(wàn) (x)b-

10、b，則X成在區(qū)間(a,b)上服從其他均勻分布 .為記 X U(a， b)(2)指數(shù)分布1若連續(xù)性隨機(jī)變量 X 的概率密度為xxe. 0f ( x)X其中0 為常數(shù)，則稱0，其他服從參數(shù)為 的指數(shù)分布。（ 3 ）正態(tài)分布4若連續(xù)其中0） 為常數(shù)，則稱X服從參數(shù)為 ，的正態(tài)分布或高斯分布，記為特別，當(dāng)0，1 時(shí)稱隨機(jī)變量X 服從標(biāo)準(zhǔn)正態(tài)分布§5 隨機(jī)變量的函數(shù)的分布定理設(shè)隨機(jī)變量X 具有概率密度f(wàn) ( )，-x, 又設(shè)函數(shù)g（x） 處處可導(dǎo)且恒有Y=g( X )是連機(jī)變量其概率密度f(wàn) (y)Yh( y)0),y其他機(jī) 變 量 X 的 概 率 密 度 為f （x）第三章多維隨機(jī)變量

11、7;1 二維隨機(jī)變量定義設(shè) E 是一個(gè)隨機(jī)試驗(yàn)，它的樣本空間是S e.X X(e) 和Y Y（e） 是定義在 S的隨機(jī)變量，稱 X X（e） 為隨機(jī)變量，由它們構(gòu)成的一個(gè)向量（X ，Y ）叫做二維隨機(jī)變量設(shè)（X ，Y ）是二維 隨 機(jī) 變 量 ，對(duì) 于 任 意 實(shí) 數(shù) x ， y ，二元函數(shù)F( x，y) P(X x)(Yy) 記成 PXx，Y y 稱為二維隨機(jī)變量（ X ，Y）的分布函數(shù)如果二維隨機(jī)變量（X，Y ）全部可能取到的值是有限對(duì)或可列無(wú)限多對(duì)，則稱（ X ，Y ）是離散型的隨機(jī)變量。我們稱 （，Y1,2，y ) ，i， jP X xip j ij為二維離散型隨機(jī)變量（X， Y ）的

12、分布律。對(duì)于二維隨機(jī)變量（ X ，Y ）的分布函數(shù) F （x， y），如果存在非負(fù)可積函數(shù)f（ x，y），y x使對(duì)于任意 x，y 有 F（x，y）f （ u， v） dudv ，則稱（ X ，Y ）是連續(xù)性的隨機(jī)變量，X ， Y ）的概率密度，或稱為隨機(jī)變量X 和 Y 的聯(lián)合概率密函數(shù) f（ x， y）稱為隨機(jī)變量（ 度。§2 邊緣分布二維隨機(jī)變量 （X，Y ）作為一個(gè)整體， 具有分布函數(shù) F（x，y）.而 X 和 Y 都是隨機(jī)變量， 各自也有分布函數(shù)， 將他們分別記為 F（ x）, （ y）XFY，依次稱為二維隨機(jī)變量 （ X ，Y）關(guān)于 X 和關(guān)于 Y 的邊緣分布函數(shù)。p p

13、PX x ， i 1,2 pp PY y ，j 1,2， 分別稱ijiji 1p p j 為( X ， Y )關(guān)于 X 和關(guān)于 Y 的 邊緣分布律。 ifX (x)f (x, y)dy fY (y)f (x, y)dx 分別稱 f X (x) ，fY ( y) 為X，Y 關(guān)于 X 和關(guān)于 Y 的 邊緣概率密度 。§3 條件分布定義設(shè)( X ，Y )是二維離散型隨機(jī)變量，對(duì)于固定的j，若 PYy 0,jPX x ,Yipij則稱P X1,2, 為在 Yy j 條件下 iPY y j隨機(jī)變量 X 的條件分布律，同樣PYP Xx ,Yipij1,2,P X為在 X x 條件下隨機(jī)變量 X

14、i的條件分布律。設(shè)二維離散型隨機(jī)變量( X ，Y )的概率密度為f (x, y) ，Y )關(guān)于 Y 的邊緣概率密度為 fY ( y) ，若對(duì)于固定的y，fY ( y) 0，則稱ff ( x, y) 為在 Y ( y)Y=y的條件下 X 的條件概率密度，記為 f (x y)XYf ( x,f y)Y ( y)4 相互獨(dú)立的隨機(jī)變量定義設(shè) F(x，y)及 FX (x) ， FY ( y) 分別是二維離散型隨機(jī)變量(X ， Y )的分布函數(shù)及邊緣分布函數(shù).若對(duì)于所有 x,y 有PX x,Y y P X xPYy ，即F x, y FX ( x)FY (y) ，則稱隨機(jī)變量 X 和 Y 是相互獨(dú)立的。

15、對(duì)于二維正態(tài)隨機(jī)變量(X ，Y )，X 和 Y 相互獨(dú)立的充要條件是參數(shù)§5 兩個(gè)隨機(jī)變量的函數(shù)的分布1， Z=X+Y 的分布仍為連續(xù)性隨機(jī)x) dxf Y (y) 則設(shè) (X,Y) 是二維連續(xù)型隨機(jī)變量， 它具有概率密度f(wàn) (x, y) . 則 Z=X+Y變量，其概率密度為 f X Y (z) f (z y, y)dy 或fX Y (z) f (x, z 又若 X 和 Y 相互獨(dú)立，設(shè)( X，Y )關(guān)于 X ，Y 的邊緣密度分別為fX ( x),6fX Y ( z) fX ( z y)f(Y y)dy 和 fX Y (z)fX (x)fY (z x)dx 這兩個(gè)公式稱為fX , f

16、 的卷積公式 Y有限個(gè)相互獨(dú)立的正態(tài)隨機(jī)變量的線性組合仍然服從正態(tài)分布Y2， Z的分布、 Z XY 的分布X設(shè) (X,Y) 是二維連續(xù)型隨機(jī)變量，它具有概率密度f(wàn) ( x, y) ，則YZ XY仍為連續(xù)性隨機(jī)變量其概率密度分別 為x f x xz dx)f XY ( z)1f (x,xz)dx 又若 X 和xY 相互獨(dú)立，設(shè)(X，關(guān)于 X， Y的邊緣密度分別為 fX ( x), f (y) 則可化為 fY X (z)f XY (z)f X (x) f Y (f X (x) f Y ( xz)dx ) Yz dxmaxX ，Y及 N min X ,Y 的分布由于Y 是兩個(gè)相互獨(dú)立的隨機(jī)變量，它們

17、的分布函數(shù)分別maxX ， Y 不大于 z 等價(jià)于 X 和 Y 都不大于z 故有PMX 和 Y 相互獨(dú)立，得到 M maxX ，Y 的分布函數(shù)為min X ,Y 的分布函數(shù)為 F min (z) 11 FX ( z) 1FY ( z)( x), F (y)Xz)Fmax由于PXz,Y( ) ( ) z FX z F Yz 又第四章隨機(jī)變量的數(shù)字特征1數(shù)學(xué)期望定義設(shè) 離散型隨機(jī)變量X 的分布律為 P Xxk pk ， k=1,2 ，? 若級(jí)數(shù)xk絕對(duì)收斂，則稱級(jí)數(shù)xkp 的和為隨機(jī)變量 kX 的數(shù)學(xué)期望，記為 E( X ) ，即 E( X)xk pk設(shè) 連續(xù)型隨機(jī)變量 X 的概率密度為 f (x

18、) ，若積分xf ( x)d x 絕對(duì)收斂，則稱積分xf ( x)dx 的值為隨機(jī)變量 X 的數(shù)學(xué)期望，記為 E(X ) ，即 E(X )xf ( x)dx定理設(shè) Y 是隨機(jī)變量 X 的函數(shù) Y= g( X ) (g 是連續(xù)函數(shù) )PXg(x )i )如果X 是 離散型隨機(jī)變量 ，它的分布律為x k p ， k=1,2 ， ? 若k k 1k pk絕對(duì)收斂則有 E(Y) E(g(X )ii )如果 X 是 連續(xù)型隨機(jī)變量有 E(Y ) E(g ( X )g( xk )pk k 1，它的分概率密度為f (x) ，若g( x) f (x)dx 絕對(duì)收則斂g( x) f ( x)dx數(shù)學(xué)期望的幾個(gè)重

19、要性質(zhì) 1 設(shè) C 是常數(shù)，則有 E(C ) C2 設(shè) X 是隨機(jī)變量， C 是常數(shù)，則有 E (CX ) CE(X )3 設(shè) X,Y 是兩個(gè)隨機(jī)變量，則有 E(X Y) E(X) E(Y) ；§2 方差22 定義設(shè) X 是一個(gè)隨機(jī)變量，若 E X E X 存在，則稱4 設(shè) X，Y 是相互獨(dú)立的隨機(jī)變量，則有 E( XY ) E(X )E(Y) ( ) E X E( X ) X為 的方差，記為D ( x )即 D( x)2= E ( ) ，在應(yīng)用上還引入量 X E X標(biāo)準(zhǔn)差或均方差。2 ( ) ( ) 22D( X) E(X E(X ) E X EX方差的幾個(gè)重要性質(zhì)1 設(shè) C 是常

20、數(shù)，則有D (C) 0,D(x) ，記為( x) ，稱為2 設(shè) X 是隨機(jī)變量，C 是常數(shù)，則有 D (CX )C ( ) ， D(X C) 2D XD(X)- E(Y) 特4 D( X )0 的充要條件是X 以概率 1 取常數(shù) E(X) ，即 P XE(X ) 1切比雪夫不等式：設(shè)隨機(jī)變量X 具有數(shù)學(xué)期望E(X )2，則對(duì)于任意正數(shù) ，不等式3 設(shè) X,Y 是兩個(gè)隨機(jī)變量，則有 D (X Y) D(X) D(Y) 2E(X - E(X)(Y別，若 X,Y 相互獨(dú)立，則有 D(X Y) D(X) D(Y )P X -2成立23 協(xié)方差及相關(guān)系數(shù)定義量 E X E( X ) Y E(Y ) 稱為

21、隨機(jī)變量 X 與 Y 的協(xié)方差為 Cov (X ,Y) ，即Cov( X ,Y) E( X E( X )(Y E(Y ) E( XY) E( X )E (Y)Cov11(X ，Y)而XY稱為隨機(jī)變量X 和 Y 的相關(guān)系數(shù)D(X) D(Y)對(duì)于任意兩個(gè)隨機(jī)變量 X 和 Y ， ) ( ) ( ) 2 ( , ) D(X Y D X D Y Cov X Y協(xié)方差具有下述性質(zhì)1 Cov ( X ,Y) Cov (Y , X ), Cov (aX , bY) abCov ( X ,Y)2 Cov( X1 X2 ,Y) Cov( X1,Y) Cov( X2,Y)定理 1 1XY當(dāng) XYXY 1的充要條件是，存在常數(shù) a,b 使 PY a bx 10 時(shí)，稱 X 和 Y 不相關(guān)附：幾種常用的概率分布表分布參數(shù)分布律或概率密度數(shù)學(xué)期望方差兩點(diǎn)分P X k) p (1 p)k1 k0,1p(1 p)二項(xiàng)式PXn k(k) C n p (1 p) npk 0 ,1, np(1 p)npk knp(1 p)分布泊松分布P(X k),0,1, 2,k幾何