概率論與數(shù)理統(tǒng)計重點(diǎn)筆記

1、概率論與數(shù)理統(tǒng)計復(fù)習(xí)1第一章概率論的基本概念一.基本概念隨機(jī)試驗 E:(1)可以在相同的條件下重復(fù)地進(jìn)行；(2)每次試驗的可能結(jié)果不止一個，并且能事先 明確試驗的所有可能結(jié)果；(3)進(jìn)行一次試驗之前不能確定哪一個結(jié)果會出現(xiàn).樣本空間 S: E 的所有可能結(jié)果組成的集合.樣本點(diǎn)(基本事件):E 的每個結(jié)果.隨機(jī)事件(事件)：樣本空間 S 的子集.必然事件(S):每次試驗中一定發(fā)生的事件.不可能事件():每次試驗中一定不會發(fā)生的事件.二. 事件間的關(guān)系和運(yùn)算1. A B(事件 B 包含事件 A )事件 A 發(fā)生必然導(dǎo)致事件 B 發(fā)生.2. AUB(和事件)事件 A 與 B 至少有一個發(fā)生.3. A

2、AB=AB(積事件)事件 A 與 B 同時發(fā)生.4. A- B(差事件)事件 A 發(fā)生而 B 不發(fā)生.5. AB= (A 與 B 互不相容或互斥)事件 A 與 B 不能同時發(fā)生.6. AB= 且 AUB=S (A 與 B 互為逆事件或?qū)α⑹录?表示一次試驗中 A 與 B 必有一個且僅有一個發(fā)生.B=A, A=B .運(yùn)算規(guī)則交換律結(jié)合律分配律德？摩根律A B A B A B A B三. 概率的定義與性質(zhì)1.定義 對于 E 的每一事件 A 賦予一個實數(shù)，記為 P(A),稱為事件 A 的概率.(1)非負(fù)性 P(A) 0；(2)歸一性或規(guī)范性P(S)=1；(3)可列可加性對于兩兩互不相容的事件AI,A

3、2,(AiAj= , i 工 j, i,j=1,2,),P(AiUA2U )=P( AJ+P(A2)+2. 性質(zhì)2(1) P( ) = 0 , 注意：A 為不可能事件弍 x P(A)=0 .若 A 與 B, A 與B,A與 B, ,A與B中有一對相互獨(dú)立，則另外三對也相互獨(dú)立3有限可加性對于 n 個兩兩互不相容的事件AI,A2,An,P(AiuA2uUAn)二P(AI)+P(A2)+P(An)(有限可加性與可列可加性合稱加法定理)(3)若AB,則 P(A) P(B), P(B-A)=P(B)-P(A).(4)對于任一事件 A, P(A) 0).2乘法定理P(AB)=P(A) P (B|A) (

4、P(A)0); P(AB)=P(B) P (A|B) (P(B)0).P(AAAn)=P(A1)P(A2|A1)P(A3|A1A2)P(A jAHAn-1)(n2, P(AAAn-1) 0)3. B1,B2,Bn是樣本空間 S 的一個劃分(BiBjp,i 工 j,i,j=1,2,n, B1UB2UUBn=S)，則n當(dāng) P(Bi)0 時,有全概率公式 P(A)=P BiP ABii 1PAB當(dāng) P(A)0, P(Bi)0 時,有貝葉斯公式 P(Bi|A)=廠iP AP BiP0P BiP ABi4六.事件的獨(dú)立性1兩個事件 A,B,滿足 P(AB) = P(A) P(B)時，稱A,B為相互獨(dú)立的

5、事件(1)兩個事件 A,B 相互獨(dú)立 P(B)= P (B|A).2三個事件 A,B,C 滿足 P(AB)二P(A) P(B), P(AC)二P(A) P(C), P(BC)二P(B) P(C),稱 A,B,C 三事 件兩兩相互獨(dú)立.若再滿足 P(ABC) =P(A) P(B) P(C),則稱 A,B,C 三事件相互獨(dú)立.3.n 個事件AI,A2,An,如果對任意 k (1k n),任意 1 iii2ik n.有P AhA% P AhP Aj P他，則稱這 n 個事件AI,A2,An相互獨(dú)立第二章隨機(jī)變量及其概率分布一 隨機(jī)變量及其分布函數(shù)1.在隨機(jī)試驗 E 的樣本空間 S=e上定義的單值實值

6、函數(shù) X=X (e)稱為隨機(jī)變量.2隨機(jī)變量 X 的分布函數(shù) F(x)=PX x , x 是任意實數(shù).其性質(zhì)為：(1)0 F(x) 1-fFO=0,F( 乂)=1. (2)F(x)單調(diào)不減，即若 xiX2，則 F(xi) F(X).(3)F(x)右連續(xù)，即 F(x+O)=F(x). (4)PxiXx2=F(x2)-F(XI).二離散型隨機(jī)變量(只能取有限個或可列無限多個值的隨機(jī)變量)1離散型隨機(jī)變量的分布律PX= xk= pk(k=1,2，)也可以列表表示.其性質(zhì)為：(1)非負(fù)性O(shè)WPk 1 ;歸一性pk1.k 12離散型隨機(jī)變量的分布函數(shù)F(x)=Pk為階梯函數(shù)，它在 x=xk(k=1,2，

7、)處具有跳躍點(diǎn)，Xkx其跳躍值為 pk=PX=xk.3三種重要的離散型隨機(jī)變量的分布(1) X(0-1)分布 PX=1= p ,PX=0=1 - (0p1).(2) Xb(n,p)參數(shù)為 n,p 的二項分布 PX=k= pk1 pn k(k=0,1,2，,n) (0p0)k!若 A 與 B, A 與B,A與 B, ,A與B中有一對相互獨(dú)立，則另外三對也相互獨(dú)立5三連續(xù)型隨機(jī)變量1.定義 如果隨機(jī)變量 X 的分布函數(shù) F(x)可以表示成某一非負(fù)函數(shù) f(x)的積分 F(x)=xf t dt,- 乂 0 ;(2)歸一性f(x)dx=1 ;PxiXx2=：f(x)dx;若f (x)在點(diǎn) x 處連續(xù)則

8、 f (x)=F/(x).注意：連續(xù)型隨機(jī)變量 X 取任一指定實數(shù)值 a 的概率為零，即 PX= a=0 .特別，=0,2=1 時，稱 X 服從標(biāo)準(zhǔn)正態(tài)分布，記為 XN (0,1),其概率密度.x2t21 - 1 -(x)-e2,標(biāo)準(zhǔn)正態(tài)分布函數(shù)(x) -xe2dt, (-x)=1-(x).V2V2Xxx若 X N ( ,2),則 Z=N (0,1), PX1X z = PZz/2= 則點(diǎn) z，-z , z/ 2分別稱為標(biāo)準(zhǔn)正態(tài)分布的上，下, 雙側(cè)分位點(diǎn).注意：(z )=1- , z1-= -z .四隨機(jī)變量 X 的函數(shù)丫二g (X)的分布1離散型隨機(jī)變量的函數(shù)Xx1X2 xkPkP1P2 P

9、k丫=g(x)g(x” g(x2)g(xk)3三種重要的連續(xù)型隨機(jī)變量的分布(1)XU (a,b)區(qū)間(a,b)上的均勻分布(2)X 服從參數(shù)為 的指數(shù)分布.f xf(x)1 b a0a x b其它.4x/若 x00若 x(0).0f(x)1(x )2e2- x0.、2若 A 與 B, A 與B,A與 B, ,A與B中有一對相互獨(dú)立，則另外三對也相互獨(dú)立7若 g(xk) (k=1,2,)的值全不相等，則由上表立得 Y=g(X)的分布律.若 g(xk) (k=1,2,)的值有相等的，則應(yīng)將相等的值的概率相加，才能得到 Y=g(X)的分布律.2連續(xù)型隨機(jī)變量的函數(shù)若 X 的概率密度為 fx(x),

10、則求其函數(shù) Y二g(X)的概率密度 fY(y)常用兩種方法：8(1)分布函數(shù)法 先求 Y 的分布函數(shù) FY(y)=PY y=Pg(X) y=yfxx dxky八k其中k(y)是與 g(X) 0 (或 g/(x)0 ),則 Y=g (X)是連續(xù)型隨機(jī)變量，其其中 h(y)是 g(x)的反函數(shù)，二min (g (- ),g ( )= max (g (- ),g ().如果 f (x)在有限區(qū)間a,b以外等于零，則 =min (g (a),g (b)= max (g (a),g (b).第三章二維隨機(jī)變量及其概率分布一. 二維隨機(jī)變量與聯(lián)合分布函數(shù)1定義 若 X 和丫是定義在樣本空間 S 上的兩個隨

11、機(jī)變量，則由它們所組成的向量(X,Y)稱為 二維隨機(jī)向量或二維隨機(jī)變量.對任意實數(shù) x,y,二元函數(shù) F(x,y)=PX x,Y y稱為(X,Y)的(X 和丫的聯(lián)合)分布函數(shù).2分布函數(shù)的性質(zhì)(1) F(x,y)分別關(guān)于 x 和 y 單調(diào)不減.(2) 0 F(x,y) 1 , F(x,- )=0, F(- ,y)=0, F(-，- )=0, F( , )=1 .(3) F(x,y)關(guān)于每個變量都是右連續(xù)的，即 F(x+0,y)= F(x,y),F(x,y+O)= F(x,y).(4) 對于任意實數(shù) x1x2, y1y2Px1X x2, y1Y y2= F(X2,y2)- F(X2,y“- F(

12、X1,y2)+ F(X1,y”二. 二維離散型隨機(jī)變量及其聯(lián)合分布律1定義 若隨機(jī)變量(X,Y)只能取有限對或可列無限多對值(xi,yj) (i ,j =1,2，)稱(X,Y)為二 維離散型隨機(jī)變量并稱 PX= xi,丫二yj= pi j為(X,Y)的聯(lián)合分布律.也可列表表示.2性質(zhì)(1)非負(fù)性 OWpi j 0 . (2)歸一性若 f (x,y)在點(diǎn)(x,y)連續(xù)，則f (x,y)F(x, y)x y若G 為 xoy 平面上一個區(qū)域 則P(x,y) G f (x,y)dxdy.G四邊緣分布2二維離散型隨機(jī)變量(X,Y)3二維連續(xù)型隨機(jī)變量(X,Y)五.相互獨(dú)立的隨機(jī)變量1定義 若對一切實數(shù)

13、x,y,均有 F(x,y)=FX(x)FY(y),則稱 X 和丫相互獨(dú)立.pi j= pi- pj( i ,j =1,2，)對一切 Xi,yj成立.f (x,y)=fX(x)fY(y)對(X,Y)所有可能取值(x,y)都成立.六.條件分布1.二維離散型隨機(jī)變量的條件分布定義 設(shè)(X,Y)是二維離散型隨機(jī)變量，對于固定的 j,若 PY二yj0,則稱f(x,y)dxdy 1.1. (X,Y)關(guān)于 X 的邊緣分布函數(shù)FX(x) = PX x , Y0,則稱P Y=yj|X=xiPX x丫yjRPXXi時p (1- p)為在 X=Xi條件下隨機(jī)變量Y 的條件分布律.第四章 隨機(jī)變量的數(shù)字特征一 數(shù)學(xué)期

14、望和方差的定義離散型隨機(jī)變量數(shù)學(xué)期望(均值)E(X)方差 D(X)=EX-E(X)1 2 34=E(X2)-E(X)2xipi(級數(shù)絕對收斂)i1XiE(X)2Pii 1(級數(shù)絕對收斂)連續(xù)型隨機(jī)變量概率密度 f (x)xf(x)dx(積分絕對收斂)函數(shù)數(shù)學(xué)期望 E(Y)=Eg(X)g(xi)pi(級數(shù)絕對收斂)i 1標(biāo)準(zhǔn)差(X)=VD(X).二數(shù)學(xué)期望與方差的性質(zhì)x E(X)2f (x)dx(積分絕對收斂)g(x) f (x)dx(積分絕對收斂)122.X b (n ,p)(0p1)n p (1- p)3.X ()4.X U(a,b)5.X 服從參數(shù)為的指數(shù)分布(a+b)/2(b-a)2/1

15、226.X N ( ,2)四矩的概念隨機(jī)變量 X 的 k 階(原點(diǎn))矩 E(Xk)k=1,2,隨機(jī)變量 X 的 k 階中心矩 EX-E(X)k隨機(jī)變量 X 和丫的 k+l 階混合矩 E(XkYl)1=1,2,隨機(jī)變量 X 和丫的 k+l 階混合中心矩 EX-E(X)kY-E(Y)丨第六章樣本和抽樣分布一 .基本概念總體 X 即隨機(jī)變量 X；樣本 Xi,X2，,Xn是與總體同分布且相互獨(dú)立的隨機(jī)變量；樣本值Xi,X2，,xn為實數(shù)；n 是樣本容量.統(tǒng)計量是指樣本的不含任何未知參數(shù)的連續(xù)函數(shù) 如:1n樣本均值X-Xi樣本方差S2ni i樣本標(biāo)準(zhǔn)差 S1n .樣本 k 階矩Ak Xik( k=1,2

16、，)ni 11n.樣本 k 階中心矩Bk (XiX)k( k=1,2,)ni 1二抽樣分布即統(tǒng)計量的分布1.X的分布 不論總體 X 服從什么分布，E (X) = E(X) , D (X) = D(X) / n .特別，若 X N ( ,2)貝 SX N ( ,2/n).n2.2分布(1)定義 若 XN (0,1)，則丫二Xi22( n)自由度為 n 的2分布.i 1性質(zhì) 若丫2(n),則 E(Y) = n , D(Y) = 2n .若 Y12(n1) Y22(n2)，則丫什丫22(n1+ n2).13PF F (ni, n2) PF Fi(n1, n?)14(3)分位點(diǎn) 若 Y2(n),01，

17、則滿足PY2(n) PYf(n) P(Y爲(wèi)(n)(Yf以n)的點(diǎn)2(n), j (n), 72(n)和f/2(n)分別稱為2分布的上、下、雙側(cè)分位點(diǎn).3. t 分布X(1)- 定義 若 XN (0,1),Y2(n),且X,Y 相互獨(dú)立則 t=-1(n)自由度為 n 的 t 分布.xY n(2)性質(zhì)n-K時,t 分布的極限為標(biāo)準(zhǔn)正態(tài)分布.2XN ( ,2)時，3兩個正態(tài)總體XS nt (n-1).樣本均值相互獨(dú)立的樣本樣本萬差X N (1,12)且12=22=2X1,X2，-,Xn1XS12Y N (2,22)Y1，丫2，-,Yn2YS22則(XY)(12)t 亦2-2),其中SW(n11)S1

18、2(n21恵S丄丄n22Sw.n1心(3)分位點(diǎn)若 t t (n) ,0 1 ,則滿足Pt t (n) Pt t (n) Pt t以n)的點(diǎn)t (n), t (n), t/2(n)分別稱 t 分布的上、下、雙側(cè)分位點(diǎn).注意：t1-(n) = - t (n).4.F 分布U n(1)定義 若 U2(n1), V2(n2),且 U,V 相互獨(dú)立，則 F -1F(m,n2)自由度為(n1, n2)的 F 分布.S2/S2(2) 性質(zhì)(條件同 3.(2)SF(n1-1,n2-1)1 2若 X N (2(n-1),且X與 S2相互獨(dú)立.15(3) 分位點(diǎn) 若 F F(n1,n2) ,01,則滿足PF F

19、 (ni, n2) PF Fi(n1, n?)16P(F F/2(n1?n2) (FF! /2(n1?n2)的點(diǎn)F (nn2),F1(n1, n2),F/2(nn2)和F1 /2(nn2)分別稱為 F 分布的上、下、雙側(cè)第七章參數(shù)估計一點(diǎn)估計 總體 X 的分布中有 k 個待估參數(shù)1,2,X1,X2，,Xn是 X 的一個樣本,X1,X2，,xn是樣本值.1矩估計法11(1,2,k)11(1,2,k)先求總體矩22(1,2,k)解此方程組，得到22(1,2,k),kk(1,2,k)kk(1,2,k)11( A1, A2,Ak)以樣本矩 Ai取代總體矩i( 1=1,2，,k)得到矩估計量22(A1,

20、 A2,Ak),kk(A1, A2,Ak)若代入樣本值則得到矩估計值2最大似然估計法若總體分布形式(可以是分布律或概率密度)為 P(X,1,2,k),稱樣本 X1,X2，,Xn的聯(lián)n合分布L(1,2,k) p(xi,1,2,k)為似然函數(shù).取使似然函數(shù)達(dá)到最大值的i 11,2,k,稱為參數(shù)1,2，,k的最大似然估計值，代入樣本得到最大似然估計量若 L(1,2,k)關(guān)于1,2,k可微，則一般可由II似然方程組 0或 對數(shù)似然方程組 -0(i =1,2, - ,k)求出最大似然估計.分位點(diǎn).、卜 、八注意:F11(n1,n2)吋而k17ii3估計量的標(biāo)準(zhǔn)PF F (ni, n2) PF Fi(n1, n?)183.兩個正態(tài)總體(1)均值差1-2其它參數(shù)2 21，2已知W 及其分布X Y(12)N(0,1)22:12,n1門2(1) 無偏性若 E()=,則估計量稱為參數(shù)的無偏估計量.不論總體 X 服從什么分布,E (X )= E(X) , E(S2)=D(X), E(AQ二k=E(Xk),即樣本均值 X ,樣本方差 S2,樣本 k 階矩 Ak分別是總體均值 E(X), 方差 D(X)，總體 k 階矩k的無偏估計，(2) 有效性若 E(1)=E(2)=,而 D(1) D(2),則稱估計量1比2有效.P(3) 致性(相合性)若 nx時，則稱估計量 是參數(shù)