概率論數(shù)理統(tǒng)計(jì)的基本概念課件

1、數(shù)理統(tǒng)計(jì)概率論和數(shù)理統(tǒng)計(jì)盡管兩者有密切的聯(lián)系，但本質(zhì)上是兩門不同的課程。概率論是理論基礎(chǔ)課，解決理論問(wèn)題；數(shù)理統(tǒng)計(jì)是應(yīng)用專業(yè)課，解決實(shí)際問(wèn)題。概率論更注重邏輯和體系的嚴(yán)密，是一門真正的數(shù)學(xué)課。數(shù)理統(tǒng)計(jì)則對(duì)同一個(gè)具體問(wèn)題也沒(méi)有一個(gè)最佳的答案，我們往往需要憑經(jīng)驗(yàn)選擇“較優(yōu)”的方法，不是純粹的數(shù)學(xué)。學(xué)習(xí)方法也不同。概率論注重邏輯推導(dǎo)，而數(shù)理統(tǒng)計(jì)則是以解決問(wèn)題為導(dǎo)向，黑貓白貓，捉住老鼠就是好貓；以案例為中心。數(shù)理統(tǒng)計(jì)的基本概念引 言 概率論的許多問(wèn)題中，隨機(jī)變量的概率分布通常是已知的， 隨機(jī)變量及其所伴隨的概率分布全面描述了隨機(jī)現(xiàn)象的統(tǒng)計(jì)性規(guī)律，而一切計(jì)算與推理都是在這已知的基礎(chǔ)上得出來(lái)的。 但實(shí)際中

2、，情況往往并非如此，一個(gè)隨機(jī)現(xiàn)象所服從的分布可能是完全不知道的，或者知道其分布概型，但是其中的某些參數(shù)是未知的。例如： 某公路上行駛車輛的速度服從什么分布是未知的； 電視機(jī)的使用壽命服從什么分布是未知的； 產(chǎn)品是否合格服從兩點(diǎn)分布，但參數(shù)合格率p是未知的； 數(shù)理統(tǒng)計(jì)的任務(wù)則是以概率論為基礎(chǔ)，根據(jù)試驗(yàn)所得到的數(shù)據(jù)，對(duì)研究對(duì)象的客觀統(tǒng)計(jì)規(guī)律性做出合理的推斷。一言蔽之：數(shù)理統(tǒng)計(jì)方法具有“用局部推斷整體”的特征 . 在數(shù)理統(tǒng)計(jì)中，不是對(duì)所研究的對(duì)象全體 ( 稱為總體)進(jìn)行觀察，而是抽取其中的部分(稱為樣本)進(jìn)行觀察獲得數(shù)據(jù)（抽樣），并通過(guò)這些數(shù)據(jù)對(duì)總體進(jìn)行推斷.實(shí)際生活中的問(wèn)題：長(zhǎng)期的生產(chǎn)經(jīng)驗(yàn)告訴我們

3、，水泥廠成品打包機(jī)裝袋的重量X服從正態(tài)分布。如何得到該正態(tài)分布的具體形式，即兩參數(shù)確切的值？把打包機(jī)使用周期內(nèi)所有的數(shù)據(jù)全部記錄下來(lái)，可近似看做一個(gè)連續(xù)的密度函數(shù)抽取50包水泥，重量分別記為：X1，X2，X50因?yàn)橐阎篍X=，VarX=2考慮：希望和2比較接近總體樣本統(tǒng)計(jì)量總體、樣本和統(tǒng)計(jì)量 總體與樣本 在數(shù)理統(tǒng)計(jì)中，把研究對(duì)象的全體稱為總體，而把組成總體的每個(gè)單元稱為個(gè)體?？傮w可以認(rèn)為是一個(gè)隨機(jī)變量。因?yàn)槲覀冊(cè)诔闃又盁o(wú)法預(yù)測(cè)個(gè)體或樣本的取值，或者每次抽取的值并不相同，所以每個(gè)個(gè)體也是一個(gè)隨機(jī)變量，而樣本是n維隨機(jī)向量。若干個(gè)體構(gòu)成的集合稱為樣本 。若樣本中包含n個(gè)個(gè)體，則n 稱為這個(gè)樣本

4、的容量. 一旦取定一組樣本 X1， ,Xn ,得到 n 個(gè)具體的數(shù) (x1, x2, , xn)，稱為樣本的一次觀測(cè)值，簡(jiǎn)稱樣本值 .隨機(jī)抽樣方法的基本要求 獨(dú)立性每次抽樣的結(jié)果既不影響其余各次抽 樣的結(jié)果，也不受其它各次抽樣結(jié)果的影響。 滿足上述兩點(diǎn)要求的樣本稱為簡(jiǎn)單隨機(jī)樣本.獲得簡(jiǎn)單隨機(jī)樣本的抽樣方法叫簡(jiǎn)單隨機(jī)抽樣. 代表性樣本( )的每個(gè)分量 與總體 具有相同的分布。 從簡(jiǎn)單隨機(jī)樣本的含義可知，樣本 是來(lái)自總體 、與總體 具有相同分布的，相互獨(dú)立的隨機(jī)變量. 簡(jiǎn)單隨機(jī)樣本是應(yīng)用中最常見(jiàn)的情形，今后，當(dāng)說(shuō)到“X1,X2,Xn是取自某總體的樣本”時(shí)，若不特別說(shuō)明，就指簡(jiǎn)單隨機(jī)樣本.若總體的分

5、布函數(shù)為F(x)、分布密度函數(shù)為f(x)。由于簡(jiǎn)單隨機(jī)抽樣中對(duì)每個(gè)樣本的觀測(cè)相互獨(dú)立，故簡(jiǎn)單隨機(jī)樣本視為隨機(jī)向量，其聯(lián)合分布函數(shù)為其簡(jiǎn)單隨機(jī)樣本的聯(lián)合分布密度函數(shù)為=F(x1) F(x2) F(xn) =f(x1) f(x2) f(xn) 簡(jiǎn)單隨機(jī)抽樣的例子 例如：要通過(guò)隨機(jī)抽樣了解一批產(chǎn)品的次品率，如果每次抽取一件產(chǎn)品觀測(cè)后放回原來(lái)的總量中，則這是一個(gè)簡(jiǎn)單隨機(jī)抽樣。 但實(shí)際抽樣中，往往是不再放回產(chǎn)品，則這不是一個(gè)簡(jiǎn)單隨機(jī)抽樣。但當(dāng)總量N很大時(shí)，可近似看成是簡(jiǎn)單隨機(jī)抽樣。統(tǒng)計(jì)量的定義 定義 設(shè)（ ）為總體X的一個(gè)樣本， 為不含任何未知參數(shù)的連續(xù)函數(shù)，則稱 為樣本（ ）的一個(gè)統(tǒng)計(jì)量。則 例如：

6、設(shè) 是從正態(tài)總體 中抽取的一個(gè)樣本，其中 為已知參數(shù), 為未知參數(shù)，是統(tǒng)計(jì)量 不是統(tǒng)計(jì)量 每個(gè)樣本都是一個(gè)隨機(jī)變量，而統(tǒng)計(jì)量是樣本的函數(shù)，也是隨機(jī)變量。注意統(tǒng)計(jì)量是隨機(jī)變量！幾個(gè)最常用的統(tǒng)計(jì)量 樣本均值：設(shè) 是總體 的一個(gè)樣本，樣本方差：修正樣本方差：樣本k階原點(diǎn)矩：樣本k階中心矩：用概率方法來(lái)探討一個(gè)統(tǒng)計(jì)量在推斷總體時(shí)，往往要知道統(tǒng)計(jì)量的分布或者近似分布。注意：統(tǒng)計(jì)量的函數(shù)仍然是統(tǒng)計(jì)量。比如：當(dāng)已知時(shí)：當(dāng)2已知時(shí)：統(tǒng)計(jì)量的數(shù)字特征先來(lái)看最簡(jiǎn)單的統(tǒng)計(jì)量：樣本均值與樣本方差證明：（1）利用期望的性質(zhì)及獨(dú)立性（2）三個(gè)非常有用的統(tǒng)計(jì)量的連續(xù)型分布，即 2分布t 分布F分布數(shù)理統(tǒng)計(jì)的三大抽樣分布(都

7、是連續(xù)型).它們都是正態(tài)分布某個(gè)統(tǒng)計(jì)量的抽樣分布，有直接的數(shù)理統(tǒng)計(jì)背景：需要怎樣的統(tǒng)計(jì)量，就需要研究相應(yīng)的分布。抽樣分布統(tǒng)計(jì)量是樣本的函數(shù)，是一個(gè)隨機(jī)變量。統(tǒng)計(jì)量的分布稱為抽樣分布。分布 （讀作卡方分布） 定義 設(shè)總體 ， 是 的一個(gè)樣本, 則稱統(tǒng)計(jì)量 服從自由度為n的 分布，記作自由度是指獨(dú)立隨機(jī)變量的個(gè)數(shù)分布的密度函數(shù)為 其中Gamma函數(shù) (x) 通過(guò)下面積分定義一般的，若X的分布密度函數(shù)為則稱X服從參數(shù)為0和0的分布，記為X (, )。不難看出其圖形隨自由度的不同而有所改變.分布密度函數(shù)的圖形 2分布的性質(zhì) 設(shè)X 2(n)，則EX=n，VarX=2n.證明：只證明期望的性質(zhì) 2分布的可

8、加性若 且X1, X2相互獨(dú)立，則證明：令即由中心極限定理獨(dú)立同分布，且有 若 n 則當(dāng) n 趨于無(wú)窮時(shí)，近似的有 定理 設(shè)(X1,X2,Xn)為來(lái)自正態(tài)總體 XN( , 2)的樣本，則(1)(2)卡方分布的應(yīng)用(3) 樣本均值 和樣本方差 獨(dú)立只證明（1）： 為X1,X2,Xn的線性組合，故仍然服從正態(tài)分布，而故(2)式的自由度為什么是 n-1？從表面上看，是n個(gè)正態(tài)隨機(jī)變量 的平方和，但實(shí)際上它們不是獨(dú)立的，它們之間有一種線性約束關(guān)系：這表明，當(dāng)這個(gè)n個(gè)正態(tài)隨機(jī)變量中有n-1個(gè)取值給定時(shí)，剩下的一個(gè)的取值就跟著唯一確定了，故在這n項(xiàng)平方和中只有n-1項(xiàng)是獨(dú)立的.所以(2)式的自由度是n-1

9、.(1) 定理（抽樣分布基本定理） 設(shè)(X1,X2,Xn)為來(lái)自正態(tài)總體 XN(0 , 1)的樣本，則樣本均值 與樣本方差 Sn2 相互獨(dú)立； (2)特別的，有：t分布定義： 設(shè)隨機(jī)變量 XN(0,1)，Y 2(n) ，且X與Y相互獨(dú)立，則稱統(tǒng)計(jì)量 服從自由度為 n 的 t 分布，記作t 分布的概率密度函數(shù)為T t(n).其形狀類似標(biāo)準(zhǔn)正態(tài)分布，關(guān)于 x=0 對(duì)稱.當(dāng) n 較大時(shí)， t分布近似于標(biāo)準(zhǔn)正態(tài)分布.t 分布的數(shù)學(xué)期望與方差設(shè) Tt (n)，則定理設(shè)(X1，X2，Xn)為來(lái)自正態(tài)總體 XN( ， 2)的樣本，則統(tǒng)計(jì)量證故由于t分布的應(yīng)用由t分布定義得又由于與 相互獨(dú)立，且 定理 設(shè)(X

10、1, X2, , Xn1)和(Y1, Y2, , Yn2) 分別是來(lái)自正態(tài)總體 N(1 , 2) 和 N(2 , 2) 的樣本，且它們相互獨(dú)立，則統(tǒng)計(jì)量其中、分別為兩總體的樣本方差.證明：因此由已知條件可得故又因?yàn)楣室虼薋分布服從第一自由度為 n1，第二自由度為 n2 的F分布，定義 設(shè)隨機(jī)變量 X 2(n1)、Y 2(n2)，且相互獨(dú)立，則稱隨機(jī)變量 記作ZF(n1, n2).顯然，若 Z F(n1, n2)，則 1/Z F(n2, n1).F分布的分布密度函數(shù)：其中定理 為正態(tài)總體 設(shè) 為正態(tài)總體 的樣本容量和樣本方差；的樣本容量和樣本方差；且兩個(gè)樣本相互獨(dú)立，則統(tǒng)計(jì)量卡方分布的應(yīng)用證明由

11、已知條件知且相互獨(dú)立，由F 分布的定義有三大抽樣分布的總結(jié)卡方分布t分布F分布正態(tài)分布的平方和正態(tài)分布和卡方分布開(kāi)根號(hào)的商兩個(gè)卡方分布的商 例1 設(shè)總體 XN(0,1)， X1, X2, , Xn為簡(jiǎn)單隨機(jī)樣本，試問(wèn)下列統(tǒng)計(jì)量各服從什么分布？解(1)因?yàn)?XiN(0,1)，i=1, 2, , n.所以X1 X2 N(0, 2)，故t(2). 例1 設(shè)總體 XN(0,1)， X1, X2, , Xn為簡(jiǎn)單隨機(jī)樣本，試問(wèn)下列統(tǒng)計(jì)量各服從什么分布？續(xù)解(2)因?yàn)閄1N(0,1)，故t(n-1). 例1 設(shè)總體 XN(0,1)， X1, X2, , Xn為簡(jiǎn)單隨機(jī)樣本，試問(wèn)下列統(tǒng)計(jì)量各服從什么分布？續(xù)

12、解(3)因?yàn)樗訤(3, n-3).例2 若 Tt(n)， 問(wèn)T 2服從什么分布？解因?yàn)?Tt(n)， 可以認(rèn)為其中UN(0,1)， V2(n)， U22(1)， F(1, n). 當(dāng)已知當(dāng)2已知當(dāng)，2已知有關(guān)三大分布在區(qū)間估計(jì)中應(yīng)用的重要注解統(tǒng)計(jì)量N(0,1)2(n-1)t(n-1)思考：如果參數(shù)值未知，情況如何？分布仍然滿足，與參數(shù)選取無(wú)關(guān)在參數(shù)的區(qū)間估計(jì)中有著關(guān)鍵性的應(yīng)用已知：XN(,2)另外幾個(gè)比較常用的統(tǒng)計(jì)量及其分布順序統(tǒng)計(jì)量：樣本極差：樣本中位數(shù)：經(jīng)驗(yàn)分布函數(shù)絕大多數(shù)統(tǒng)計(jì)問(wèn)題的背景是已經(jīng)知道分布的類型，但是不確定分布的參數(shù)。但是有些情況下分布的類型也不清楚，此時(shí)就需要引入經(jīng)驗(yàn)分布函數(shù)。 設(shè)總體X的分布函數(shù)為FX，利用伯努利大數(shù)定律可以證明，對(duì)于任意0，有 故當(dāng)樣本容量 n 足夠大時(shí)，經(jīng)驗(yàn)分布函數(shù)與總體的分布函數(shù)差距很小