簡單隨機抽樣

簡單隨機抽樣：代表性：中每一個與所考察的總體有相同的分布。2.獨立性：是相互獨立的隨機變量。

樣本及抽樣分布

假如總體的分布函數(shù)為簡單隨機樣本的聯(lián)合分布函數(shù)為概率密度為：

樣本平均值：樣本方差：

統(tǒng)計量：由樣本構造的一些函數(shù)，不含任何未知參數(shù)。完全由樣本決定的量。

樣本標準差：樣本k階（原點）矩：樣本k階中心矩：經驗分布函數(shù)定義：設是取自總體X～F（x）的一個樣本，把樣本觀察值從小到大排列為稱函數(shù)為總體X的經驗分布函數(shù)。

格里汶科（Glivenko）在1933年證明了以下的結果：對于任一實數(shù)，當時以概率1一致收斂于分布函數(shù)

例：從一批標準重量為500g的罐頭中，隨機抽取8聽，測得誤差如下（單位：g）:8，－4，6，－7，－2，1，0，1求經驗分布函數(shù)，并作出圖形。解：將樣本值按大小順序排列為－7〈－4〈－2〈0〈1＝1〈6〈8則樣本經驗分布函數(shù)為

抽樣分布：統(tǒng)計量的分布稱為“抽樣分布”。精確抽樣分布：

總體X的分布已知，如對于任一n,都能導出統(tǒng)計量的明顯表達式，這種分布稱為精確抽樣分布。它常用于小樣本的統(tǒng)計推斷問題。

漸近分布：在樣本容量n無限大時，能獲得統(tǒng)計量的極限分布，這種分布稱為漸近分布。它常用于大樣本的統(tǒng)計推斷問題。幾個常用統(tǒng)計量的分布（1）分布～N（0，1），則稱統(tǒng)計量服從自由度為n的分布，記為自由度為上式右端包含的獨立變量的個數(shù)。設概率密度圖形。

由分布的可加性：設并且獨立，則有：

分布的數(shù)學期望和方差：若

分布的分位點：表只詳列到n=45為止。費歇曾證明，當n充分大時，近似地有：（2）t分布設且X,Y獨立，則稱隨機變量：

服從自由度為n的t分布，記為t～t(n)。

圖形關于t=0對稱，當n充分大時其圖形類似于標準正態(tài)概率密度的圖形。

t分布的分位點：

由圖形的對稱性知。

（3）F分布

設且獨立，則稱隨機變量服從自由度為的F分布，記為

的圖形。由定義可知F分布的分位點

定理一：設是來自正態(tài)總體的樣本，是樣本均值，則有：（4）正態(tài)總體的樣本均值與樣本方差的抽樣分布

定理二：設是總體的樣本，,分別是樣本均值和樣本方差，2°與獨立。

則有：1°

定理三：設是總體的樣本，,分別是樣本均值和樣本方差，則有：定理四：設分別是來自正態(tài)總體的樣本，且這兩個樣本相互獨立。設分別是這兩個樣本的樣本均值，分別是這兩個樣本的樣本方差，則有

1°

2°其中例

設總體X服從正態(tài)分布是來自總體X的簡單隨機樣本，則隨機變量服從什么分布，自由度是多少。

[分析]根據簡單隨機樣本的性質，相互獨立，服從同分布易見也相互獨立，并且由于故從而有即，因此Y服從F分布，自由度為（10，5）。

估計量優(yōu)良性常用的幾條標準：

無偏心、有效性、相合性。（1）無偏性

（2）有效性（3）相合性第七章參數(shù)估計兩種基本方法：點估計、區(qū)間估計。

是總體均值樣本方差

是總體方差σ2的無偏估計。

樣本均值的無偏估計；樣本二階中心矩不是σ2的無偏估計，S也不是σ的無偏估計。

最小方差無偏估計：

為的任一無偏估計。

尋求估計量的方法:

矩估計法

最大似然估計法

（1）矩估計法:

用樣本各階矩去估計總體各階矩。概率密度為分布律為它的前k階矩可以解出以樣本矩分別代替上式中的就有分別作為的估計量。例5：設總體X的均值都存在，且有。但均為未知，又設是來自總體X的一個樣本，求的矩估計量。

解：總體一階矩：總體二階矩：由矩法，用樣本矩去估計總體矩，令:

＝A1

解得：

所得結果表明，總體均值與方差的矩估計量的表達式不因總體分布不同而異。

總結：矩估計法的優(yōu)點是簡便易行，并不需要事先知道總體的分布；

缺點是：在總體分布類型已知的場合，沒有充分利用分布提供的信息。一般場合下，矩估計量不具有唯一性。

由費希爾（R.A.Fisher）引進的最大似然估計法，就是固定樣本觀察值，在取值的可能范圍內挑選使似然函數(shù)達到最大的參數(shù)值，作為參數(shù)的估計值，即取使稱為參數(shù)的最大似然估計值，而相應的統(tǒng)計量稱為參數(shù)的最大似然估計量。

（2）最大似然估計法

設是來自總體X的一個樣本，則的聯(lián)合密度為：設是相應于樣本的一個樣本值，則隨機點落在點的鄰域（邊長分別為的n維立方體）內的概率近似地為其值隨的取值而變化。與離散型的情況一樣，取的估計值使概率取到最大值。

的最大值。這里稱為樣本的似然函數(shù)。若：則稱為的最大似然估計值，稱為的最大似然估計量?？紤]函數(shù)：可從方程：解得。也可以從方程：

求得。從后一方程求解往往比較方便，稱為對數(shù)似然方程。

例：設試求參數(shù)P的最大似然估計量。是樣本的一個樣本值。X的分布律為：似然函數(shù)為：取對數(shù)

是來自總體X的一個樣本，解：設令

解得p的最大似然估計值：p的最大似然估計量為：這一估計量與矩估計量是相同的。例：設為未知參數(shù)是來自總體X的一個樣本值。求的最大似然估計量。解：X的概率密度為：似然函數(shù)為：取對數(shù)令解得得的最大似然估計量為：它們與相應的矩估計量相同。

求最大似然估計值的一般步驟是：由總體分布導出樣本的聯(lián)合分布律函數(shù)（或聯(lián)合概率密度）；2.把樣本聯(lián)合分布律函數(shù)（或聯(lián)合概率密度）中自變量看成已知常數(shù)，而把參數(shù)看作自變量，得到似然函數(shù)3.求似然函數(shù)的最大值點（常常轉化為求

的最大值點）；4.在最大值點的表達式中，用樣本值代入就得參數(shù)的最大似然估計值。

一般，用最大似然法所得的估計的性質比用矩法所得的要好，故通常多用最大似然法。

由所有產品的失效時間所組成的樣本。完全樣本:2基于截尾樣本的最大似然估計常用的兩種截尾壽命試驗：一種是定時截尾壽命試驗此時m是一個隨機變量，所得的樣本稱為定時截尾樣本。

2.另一種是定數(shù)截尾壽命試驗所得的樣本稱為定數(shù)截尾樣本。有二個要求：要求以很大的可能被包含在區(qū)間2.估計的精度要盡可能高，即要求區(qū)間的長度內，即：概率要盡可能大。盡可能小。3區(qū)間估計

置信區(qū)間：稱隨機區(qū)間是的置信水平為的置信區(qū)間。

和置信上限，稱為置信水平。

分別稱為雙側置信區(qū)間的置信下限

可以得到未知參數(shù)的任何置信水平小于1的置信區(qū)間置信水平愈高，相應的區(qū)間平均長度愈長（在同樣的樣本容量下）。在同樣的置信水平下，樣本容量愈大，區(qū)間平均長度愈短。

求置信區(qū)間的步驟如下：明確問題，求什么參數(shù)的置信區(qū)間？置信水平

是多少？2.尋找參數(shù)的一個良好的點估計W。3.尋找（或構造）一個待估參數(shù)θ和估計量W的函數(shù)

S(W,θ),其分布為已知，并且不依賴于任何未知數(shù)。

稱S(W,θ)為樞軸量。如

4.對于給定的置信水平分布，確定常數(shù)a,b使得5.對“”作等價變形，得到如下形式：則就是參數(shù)的置信水平為，根據S(W,θ)的的置信區(qū)間。4正態(tài)總體均值與方差的區(qū)間估計（一）單個總體1°均值（1）

的情況的置信區(qū)間為已知（2）考慮到是的無偏估計，將上式中的換成，取樞軸量對給定的置信水平，查t分布分位數(shù)表的使

為未知即于是，得到了的一個置信水平為的置信區(qū)間或在實際問題中，總體方差未知的情況居多。（3）總體分布未知，但樣本容量n很大此時由中心極限定理，知因此若總體方差已知時，得到的一個置信水平為的近似置信區(qū)間但一般未知，用S近似代替，這樣得到的一個置信水平為的近似置信區(qū)間近似服從N(0,1)2°方差例：設為總體的樣本，未知，求參數(shù)的置信水平為

解：的無偏點估計為樣本方差S2。已知的置信區(qū)間的置信區(qū)間。對給定的置信水平，查分布上分位點表可得即得到方差的一個置信水平為的置信區(qū)間標準差的一個置信水平為的置信區(qū)間

（二）兩個總體1°兩個總體均值差的情況

的置信區(qū)間具體步驟為：

(1)兩總體均為正態(tài)，設，分別為的無偏估計，故的無偏估計量是由的獨立性以及得：或

已知。對給定的置信水平1—，查標準正態(tài)分布函數(shù)表得使即得的一個置信水平為1—的置信區(qū)間：(2)兩總體均為正態(tài)，但為未知。

其中，從而可得的一個置信水平為1—的置信區(qū)間為：

(3)兩總體分布未知，但用去估計根據中心極限定理，近似有類似可得的一個置信水平為1—的近似置信區(qū)間為：很大。2°兩個總體方差比由第六章定理四：不依賴任何未知參數(shù)。由此得：即：的置信區(qū)間對于任意滿足隨機區(qū)間是的置信水平為的單側置信區(qū)間，稱為的置信水平為的單側置信下限。

6單側置信區(qū)間又若統(tǒng)計量，對于任意滿足稱隨機區(qū)間是的置信水平為的單側置信區(qū)間，稱為的置信水平為的單側置信上限。

概率反證法的邏輯是：假設原假設成立，如果小概率事件在一次試驗中發(fā)生，就可以有很大的把握否定原假設。在假設檢驗中，稱這個小概率為顯著性水平。第八章假設檢驗

具體有兩類假設檢驗問題：（1）對參數(shù)的假設檢驗。（2）對總體分布的假設檢驗。假設檢驗的一般步驟：（1）提出原假設及備擇假設（對立假設）（2）選取一個適當?shù)慕y(tǒng)計量T，在（3）根據給定顯著性水平（4）算出統(tǒng)計量T的實測值，將實測值與拒絕域對照

，若實測值落入拒絕域，則否定原假設否則，就認為差異不顯著而不能否定原假設。

成立的條件下求出它的分布（或近似分布）；，求出拒絕域C；兩類錯誤及其概率

第一類錯誤：第二類錯誤：

顯著性檢驗

控制犯第1類錯誤的概率加以，使它不大于,而不考慮犯第II類錯誤的概率的檢驗，稱為顯著性檢驗。不管在什么情況下，為了保證都不應太小。

不致太大，樣本容量

雙側檢驗與單側檢驗假設檢驗

其中，表示可能大于，也可能小于的拒絕域分別在兩側。在上述例1中，拒絕域為，－），（，＋在很多情況下，會提出如下形式的原假設：對應的備擇假設是稱這類假設檢驗為單側假設檢驗或單邊假設檢驗。

，這類檢驗（－），稱這類假設檢驗為雙側假設檢驗。正態(tài)總體均值、方差的檢驗法（顯著性水平為）原假設H0檢驗統(tǒng)計量備擇假設H1拒絕域原假設H0檢驗統(tǒng)計量備擇假設H1拒絕域例題：例1：某種元件的壽命X（以小時計）服從正態(tài)分布159280101212224379179264222362168250149260485170問是否有理由認為元件的平均壽命大于225（小時）？（解：檢驗假設（原假設取與題意相反的假設）因為均未知，用t檢驗法，其拒絕域為：均未知。現(xiàn)測得16只元件的壽命如下：）算得即有：t沒有落在拒絕域中，故接受H0，即認為元件的平均壽命不大于225小時。

3分布擬合檢驗皮爾遜的

專用于檢驗分布是否為正態(tài)的“偏度、峰度檢驗法”。

檢驗法（一）檢驗法檢驗法是在總體的分布未知時，根據它的n個樣本總體X的分布函數(shù)不是若總體X為離散型，則:總體X的分布律為若總體X為連續(xù)型，則總體X的概率密度為

來檢驗總體分布假設的一種方法。原假設為：總體X的分布函數(shù)為（可以不寫出）分布擬合的（1）將總體X的可能取值范圍或全體的小區(qū)間或子集，記作（2）把落入第i個小區(qū)間的樣本值的個數(shù)記作稱為實測頻數(shù)。所有實測頻數(shù)之和（3）當為真時，可以根據計算事件的概率，得到，于是就是落入的樣本值的理論頻數(shù)。

檢驗法基本思想和步驟如下：分成k個互不重迭等于樣本容量n。所假設的X的分布函數(shù)來顯然，實測頻數(shù)與理論頻數(shù)

皮爾遜引進了如下統(tǒng)計量表示經驗分布與理論分布之間的差異：其中是隨機變量，在理論分布已給定的情況下，之間的差標志著經驗分布與理論分布之間的差異的大小。是常量。皮爾遜證明了如下定理：如原假設中的理論分布已經完全給定，那么當時，統(tǒng)計量

＝＝的分布近似服從個自由度的分布。

如果理論分布估計量來代替（一般用最大似然估計值來代替）。那么當時，統(tǒng)計量的分布近似服從由度的根據這個定理，對于給定的顯著性水平，查分布分位數(shù)表可得臨界值，使得即中有r個未知參數(shù)，則需用相應的個自分布。為小概率事件。得拒絕域為根據所給樣本值計算，如果的值大于，則否定假設；否則認為差異不夠顯著而接受。這就是注意，皮爾遜定理是在n無限大時推導出來的，因而在使用時要注意n要足夠大以及根據計算實踐經驗，要求，以及每一個都不小于5。滿足這個條件。

擬合檢驗法。不太小這兩個條件。否則應適當合并區(qū)間，使

一元回歸分析：在回歸分析中，變量只有兩個；

多元回歸分析：變量在二個以上；

線性回歸：變量間呈線性關系；

非線性回歸：變量間不具有線性關系。

回歸分析就是研究相關關系的一種重要的數(shù)理統(tǒng)計方法。即從數(shù)量的角度去研究這種關系。第九章回歸分析與方差分析1．一元線性回歸分析

對一組X的值Y相應的觀察值

這n對數(shù)據可作出一個散點圖，可直觀地描述兩變量之間的關系。根據散點圖，有以下幾個問題：（1）兩變量之間的關系是否密切，或者說能否由X來估計Y；（2）兩變量之間的關系是呈一條直線還是某種曲線；（3）是否存在其他規(guī)律。

作獨立觀察，得到隨機變量，構成n對數(shù)據。（一）一元線性回歸為了研究和之間的關系，假定有以下結構：其中a和b是未知常數(shù)，稱為回歸系數(shù)，得率的影響。

表示隨機因素對實際中常假定服從正態(tài)分布，即通常稱上式表明，Y由兩部分組成：一部分是x的線性函數(shù)

另一部分是隨機誤差，是人們不可控制的。

（1.1）為一元線性回歸模型。回歸方程：該樣本的構造可由方程來描述，這里，它是不能觀察的。

n次獨立觀察，得一樣本：對應的樣本值記為：是第i次觀察時隨機誤差所取的值，

回歸分析的任務是利用n組獨立觀察數(shù)據來估計a和b,以估計值的代替a，b，稱其為經驗回歸方程。

得回歸方程1．用最小二乘法估計偏差的平方和最小二乘法認為：尋找這就是最小二乘法的基本思想。

，使上述平方和達到最小。對作了n次觀察或試驗，得到n對數(shù)據找一條直線當取值時，應取值而實際觀察到的為，這樣，形成了偏差（圖）盡可能地擬合這些數(shù)據。

根據最小二乘法思想，類似地提出了如下的目標量它是所有實測值與回歸值設法求出的估計值，使得到的回歸直線是在所有直線中最小的一條。

的偏差平方和。達到最小，由此用求極值法，求出使達到最小的。即解方程得其中：得到回歸方程（1.8）為了計算上的方便，引入下述記號：這樣，的估計值可寫成（1.10）

（1.9）求出回歸方程，問題尚未結束。由于是從觀察得到的回歸方程，它會隨觀察結果的不同而改變，并且它只反映了由的變化引起的（1）回歸方程是否有意義？即的變化是否真的對（2）如果方程真有意義，用它預測的偏差能否估計？

的變化，沒有包含誤差項。因此會問這樣的問題：有影響？因此，要對回歸效果作出檢驗。時，預測值與真值2．回歸方程的顯著性檢驗對任意的一組觀察值最小二乘法，形式上求得對

如果與

因此，需要考察與是否確有線性關系，這就是，都可以用的回歸方程。沒有線性關系，這種形式的回歸方程就沒有意義。回歸效果的檢驗問題。

與殘差平方和

反映了由于的變化引起的的差異，體現(xiàn)了對的影響；

反映了自變量以外的隨機因素對的影響。為

若它不是顯著地大，表明所選的并不是一個重要的

回歸平方和的影響部分與隨機因素影響部分的比值;因素，它的作用與隨機因素的作用相當，于是得到的回歸方程就沒有意義。

如果它顯著地大，表明關于回歸方程的顯著性檢驗問題

可以證明，當?shù)年P系中b=0時，有

的作用是顯著地比隨機因素大，這樣方程才有意義。b是否等于0的檢驗問題用來檢驗b的絕對值是否大于0;或者說檢驗回歸方程給定顯著性水平便可判斷回歸方程是否有意義。即要檢驗假設檢驗統(tǒng)計量為是否有意義。，查F分布分位數(shù)表，求出否定域，拒絕域為

也可用t檢驗法來檢驗回歸方程是否有意義，假設且與獨立（見附錄5°），故有即這里又使用t檢驗法來進行檢驗。有（見附錄2°）：當H0為真時b=0，此時即得H0的拒絕域為當假設就認為回歸效果不顯著。

被拒絕時，認為回歸效果是顯著的，反之，3.預測（我們無法確切知道的值。因此，只能估計的范圍。通常假定這樣通過對的估計，就可知道

的估計）當檢驗認為回歸方程確有意義，則可用來預測或控制。的取值范圍。假定是在模型的條件下進行的一次試驗結果，可以證明有：

因此，

給定的置信水平，有的置信區(qū)間為其中于是根據書上（用相關系數(shù)檢驗法），也有即給定置信水平，有

讓（換為）變動，有：或置信區(qū)間其中事實上，當n很大且靠近時，有即服從，用正態(tài)分布的性質有或作為實際應用時的近似預報。

總結：回歸方程計算

（2）進行統(tǒng)計檢驗：對給定的臨界值，如果則拒絕假設，說明一元線性回歸成立。如果則接受假設，說明一元線性回歸不成立。，由F分布表查出自由度為（1，n-2）（3）對回歸直線進行預測。

其中：4．可線性化的一元非線性回歸兩個變量之間并不一定是線性關系，而是某種曲線關系。應該用曲線來擬合。用適當?shù)淖兞看鷵Q，把它線性化。具體做法是：根據觀察值畫出散點圖，通過散點圖與常見曲線進行比較，經驗地選擇曲線類型。

以下幾種曲線都可以通過變量代換轉化為線性回歸：（2）冪函數(shù)：（3）雙曲線：或（4）對數(shù)函數(shù)：（1）指數(shù)函數(shù)：解題步驟：（1）若在原模型下，例如在原模型下，對于

（2）求出在新模型其中（3）利用上節(jié)的方法來估計（4）在得到Y關于的回歸方程后，再將原自變量代回，就得到Y關于的回歸方程。它的圖形是一條有樣本下的樣本或對Y進行預測。曲線，也稱為曲線回歸方程。2多元線性回歸在實際問題中，隨機變量Y往往與多個普通變量有關，研究這類關系問題稱為多元回歸問題。

（1）多元線性回歸的數(shù)學模型假設變量與另外個變量線性的，它的第i次試驗數(shù)據為這一組數(shù)據可以假設有如下的形式：其中是個待估參數(shù)，是這就是多元回歸的數(shù)學模型。

的內在關系是個可控變量，（2）參數(shù)估計與一元線性回歸類似，用最小二乘法來求未知參數(shù)的點估計（也可以用最大似然估計法來估計），找出當時，使上式兩邊對求偏導數(shù)，并令它們等于零，得

達到最小。化簡得

該方程組稱為正規(guī)（則）方程組，為了求解的方便，將上式寫成矩陣的形式，為此，引入矩陣：因

的逆陣（設存在）得到解

于是有這就是正規(guī)方程組的矩陣形式，在上式兩邊左乘這就是所要求的的估計，得到經驗回歸方程稱為元經驗線性回歸方程，簡稱回歸方程。

的樣本之間相互獨立。

其中與方差分析的數(shù)學模型。

設不同水平Aj下均為未知參數(shù)。稱為單因素試驗3單因素試驗的方差分析名詞：試驗指標、因素、單因素試驗、水平方差分析的任務是對模型：1°檢驗s個總體的估計。

的均值是否相等，（3.2）不全相等。2°作出未知參數(shù)即檢驗假設3°求出的區(qū)間估計。將的加權平均值記為（3.3），稱為總平均，再引入此時有表示水平下的總體平均值與總平均的差異，習慣上將稱為水平的效應。

其中(3.4)即假設等價于假設

（3.2）′

（3.1）′模型可改寫成：（二）平方和的分解

總偏差平方和：

其中總偏差平方和的分解：其中（3.10）

（即水平下的樣本平均值）（3.8）（3.9）（3.7）與的比值反映了兩種差異所占的比重，若問：的比值大到什么程度，可以否定因此，統(tǒng)計量可用來檢驗因素的效應是否顯著。

的比值越大，說明因素的各個水平不同引起的差異顯著。？當H0為真時拒絕域具有形式（四）假設檢驗問題的拒絕域由此得檢驗問題（3.2）′的拒絕域為如果，則拒絕如果，則接受上述分析的結果可排成表9.5的形式，稱為方差分析表。

（3.20），此時說明因素對指標起顯著影響；，此時說明因素A的不同水平對結果影響不顯著。表9.5單因素試驗方差分析表方差來源平方和自由度均方F值因素ASAs-1誤差SEn-s總和STn-1表中分別稱為SA,SE的均方。影響試驗結果的因素不止一個，要用雙因素或多因素的方差分析；確定哪些因素是主要的，它們對試驗結果的影響是否顯著；它們之間是否有交互作用。4雙因素試驗的方差分析（一）雙因素等重復試驗（有交互作用）的方差分析設有兩個因素A，B作用于試驗的指標。因素B有s個