理學(xué)概率論與數(shù)理統(tǒng)計(jì)教程

[理學(xué)]概率論與數(shù)理統(tǒng)計(jì)教程茆詩(shī)松匯報(bào)人：AA2024-01-19目錄CONTENTS概率論基本概念隨機(jī)變量及其分布多維隨機(jī)變量及其分布數(shù)理統(tǒng)計(jì)基本概念與方法假設(shè)檢驗(yàn)與方差分析回歸分析初步01概率論基本概念基本事件0102030405所有可能結(jié)果的集合，常用大寫(xiě)字母S表示。樣本空間的子集，即某些可能結(jié)果的組合。包含樣本空間中所有樣本點(diǎn)的事件。只包含一個(gè)樣本點(diǎn)的事件。不包含任何樣本點(diǎn)的事件。樣本空間與事件事件樣本空間不可能事件必然事件描述事件發(fā)生的可能性大小的數(shù)值，常用P(A)表示事件A的概率。非負(fù)性、規(guī)范性（必然事件的概率為1，不可能事件的概率為0）、可加性（互斥事件的概率和等于它們并的概率）。概率定義及性質(zhì)概率性質(zhì)概率定義條件概率與獨(dú)立性條件概率在給定另一事件發(fā)生的情況下，某一事件發(fā)生的概率，記作P(A|B)。事件的獨(dú)立性如果兩個(gè)事件的發(fā)生互不影響，則稱(chēng)這兩個(gè)事件是獨(dú)立的。對(duì)于獨(dú)立事件A和B，有P(A|B)=P(A)和P(B|A)=P(B)。全概率公式貝葉斯公式全概率公式與貝葉斯公式在全概率公式的基礎(chǔ)上，可以推導(dǎo)出貝葉斯公式，用于計(jì)算條件概率P(Bi|A)，即已知事件A發(fā)生的條件下，事件Bi發(fā)生的概率。具體表達(dá)式為P(Bi|A)=[P(A|Bi)P(Bi)]/P(A)。如果事件B1,B2,...,Bn構(gòu)成一個(gè)完備事件組，且都具有正概率，則對(duì)任一事件A，有P(A)=P(A|B1)P(B1)+P(A|B2)P(B2)+...+P(A|Bn)P(Bn)。02隨機(jī)變量及其分布定義隨機(jī)變量是定義在樣本空間上的實(shí)值函數(shù)，它將樣本空間中的每一個(gè)樣本點(diǎn)映射到一個(gè)實(shí)數(shù)。分類(lèi)隨機(jī)變量可分為離散型隨機(jī)變量和連續(xù)型隨機(jī)變量。離散型隨機(jī)變量取值可列，而連續(xù)型隨機(jī)變量取值充滿(mǎn)一個(gè)區(qū)間。隨機(jī)變量定義及分類(lèi)離散型隨機(jī)變量的分布律描述了隨機(jī)變量取各個(gè)值的概率。分布律定義常見(jiàn)的離散型隨機(jī)變量分布有伯努利分布、二項(xiàng)分布、泊松分布等。常見(jiàn)分布離散型隨機(jī)變量分布律連續(xù)型隨機(jī)變量的概率密度函數(shù)是一個(gè)非負(fù)可積函數(shù)，其在某區(qū)間內(nèi)的積分值等于隨機(jī)變量落在該區(qū)間內(nèi)的概率。概率密度函數(shù)定義常見(jiàn)的連續(xù)型隨機(jī)變量分布有均勻分布、指數(shù)分布、正態(tài)分布等。常見(jiàn)分布連續(xù)型隨機(jī)變量概率密度函數(shù)函數(shù)分布定義隨機(jī)變量函數(shù)的分布描述了由隨機(jī)變量構(gòu)成的函數(shù)的取值概率分布情況。求法求隨機(jī)變量函數(shù)的分布通常需要先確定原隨機(jī)變量的分布，然后根據(jù)函數(shù)關(guān)系進(jìn)行變換和計(jì)算。隨機(jī)變量函數(shù)分布03多維隨機(jī)變量及其分布二維隨機(jī)變量聯(lián)合分布設(shè)$(X,Y)$是二維隨機(jī)變量，對(duì)于任意實(shí)數(shù)$x,y$，二元函數(shù)$F(x,y)=P{(Xleqslantx)cap(Yleqslanty)}$稱(chēng)為二維隨機(jī)變量$(X,Y)$的聯(lián)合分布函數(shù)。聯(lián)合分布函數(shù)如果二維隨機(jī)變量$(X,Y)$的聯(lián)合分布函數(shù)$F(x,y)$可微，則稱(chēng)函數(shù)$f(x,y)$為$(X,Y)$的聯(lián)合概率密度。聯(lián)合概率密度VS二維隨機(jī)變量$(X,Y)$關(guān)于$X$的邊緣分布函數(shù)定義為$F_X(x)=F(x,infty)$，關(guān)于$Y$的邊緣分布函數(shù)定義為$F_Y(y)=F(infty,y)$。條件分布函數(shù)設(shè)二維隨機(jī)變量$(X,Y)$的聯(lián)合分布函數(shù)為$F(x,y)$，關(guān)于$Y$的邊緣分布函數(shù)為$F_Y(y)$。若對(duì)于固定的$y$，$F_Y(y)>0$，則稱(chēng)$F_{X|Y}(x|y)=frac{F(x,y)}{F_Y(y)}$為在$Y=y$條件下$X$的條件分布函數(shù)。邊緣分布函數(shù)邊緣分布與條件分布如果二維隨機(jī)變量$(X,Y)$的聯(lián)合分布函數(shù)等于各自邊緣分布函數(shù)的乘積，即$F(x,y)=F_X(x)F_Y(y)$，則稱(chēng)隨機(jī)變量$X$和$Y$是相互獨(dú)立的。如果二維隨機(jī)變量$(X,Y)$不是相互獨(dú)立的，則稱(chēng)它們是相關(guān)的?？梢酝ㄟ^(guò)計(jì)算相關(guān)系數(shù)來(lái)衡量它們之間的線(xiàn)性相關(guān)程度。獨(dú)立性相關(guān)性獨(dú)立性及相關(guān)性多維隨機(jī)變量的函數(shù)設(shè)$(X_1,X_2,ldots,X_n)$是$n$維隨機(jī)變量，如果存在一個(gè)$n$元實(shí)值函數(shù)$g(x_1,x_2,ldots,x_n)$，使得$Z=g(X_1,X_2,ldots,X_n)$是一個(gè)一維隨機(jī)變量，則稱(chēng)$Z$是$(X_1,X_2,ldots,X_n)$的函數(shù)。要點(diǎn)一要點(diǎn)二多維隨機(jī)變量函數(shù)的分布多維隨機(jī)變量函數(shù)的分布可以通過(guò)求解其分布函數(shù)或概率密度來(lái)得到。具體方法包括直接法、變換法和卷積法等。多維隨機(jī)變量函數(shù)分布04數(shù)理統(tǒng)計(jì)基本概念與方法總體研究對(duì)象的全體個(gè)體組成的集合，具有共同的分布規(guī)律。樣本從總體中隨機(jī)抽取的一部分個(gè)體組成的集合，用于推斷總體的性質(zhì)。樣本容量樣本中個(gè)體的數(shù)目，對(duì)統(tǒng)計(jì)推斷的精度和可靠性有重要影響。總體與樣本統(tǒng)計(jì)量統(tǒng)計(jì)量的性質(zhì)統(tǒng)計(jì)量及其性質(zhì)由樣本觀測(cè)值計(jì)算得到的用于描述樣本特征的量，如樣本均值、樣本方差等。包括無(wú)偏性、有效性和一致性等，用于評(píng)價(jià)統(tǒng)計(jì)量的優(yōu)良程度。大數(shù)定律當(dāng)樣本容量足夠大時(shí)，樣本均值趨近于總體均值，為統(tǒng)計(jì)推斷提供了理論依據(jù)。中心極限定理當(dāng)樣本容量足夠大時(shí)，不論總體分布如何，樣本均值的分布近似于正態(tài)分布，為參數(shù)估計(jì)和假設(shè)檢驗(yàn)提供了重要工具。抽樣分布定理點(diǎn)估計(jì)用樣本統(tǒng)計(jì)量的某個(gè)具體數(shù)值來(lái)估計(jì)總體參數(shù)的方法，如最大似然估計(jì)、最小二乘估計(jì)等。區(qū)間估計(jì)根據(jù)樣本統(tǒng)計(jì)量的抽樣分布和概率理論，構(gòu)造出包含總體參數(shù)真值的置信區(qū)間的方法。置信區(qū)間具有概率意義，表示參數(shù)真值落在該區(qū)間內(nèi)的概率大小。參數(shù)估計(jì)方法05假設(shè)檢驗(yàn)與方差分析原假設(shè)與備擇假設(shè)01在假設(shè)檢驗(yàn)中，原假設(shè)（H0）通常表示總體參數(shù)等于某個(gè)特定值或兩個(gè)總體參數(shù)相等，而備擇假設(shè)（H1）則表示總體參數(shù)不等于該特定值或兩個(gè)總體參數(shù)不相等。檢驗(yàn)統(tǒng)計(jì)量與拒絕域02檢驗(yàn)統(tǒng)計(jì)量是根據(jù)樣本數(shù)據(jù)計(jì)算出的用于判斷原假設(shè)是否成立的統(tǒng)計(jì)量。拒絕域是檢驗(yàn)統(tǒng)計(jì)量取值的范圍，當(dāng)檢驗(yàn)統(tǒng)計(jì)量落入拒絕域時(shí)，我們拒絕原假設(shè)。顯著性水平與第一類(lèi)錯(cuò)誤03顯著性水平（α）是事先設(shè)定的一個(gè)概率值，用于控制第一類(lèi)錯(cuò)誤（即錯(cuò)誤地拒絕原假設(shè)）的概率。假設(shè)檢驗(yàn)基本原理用于檢驗(yàn)單個(gè)總體均值是否等于某個(gè)特定值。通過(guò)計(jì)算樣本均值與特定值的差異，并除以樣本標(biāo)準(zhǔn)誤差，得到t統(tǒng)計(jì)量。根據(jù)t分布表或計(jì)算得到的p值進(jìn)行決策。單樣本t檢驗(yàn)用于比較兩個(gè)獨(dú)立樣本或配對(duì)樣本的均值是否存在顯著差異。對(duì)于獨(dú)立樣本t檢驗(yàn)，需要計(jì)算兩個(gè)樣本的均值差并除以合并標(biāo)準(zhǔn)誤差；對(duì)于配對(duì)樣本t檢驗(yàn)，需要計(jì)算每對(duì)數(shù)據(jù)的差值均值并除以差值的標(biāo)準(zhǔn)誤差。根據(jù)t分布表或計(jì)算得到的p值進(jìn)行決策。雙樣本t檢驗(yàn)單樣本t檢驗(yàn)和雙樣本t檢驗(yàn)F檢驗(yàn)用于比較兩個(gè)或多個(gè)總體方差是否存在顯著差異。通過(guò)計(jì)算各組方差之間的比值，得到F統(tǒng)計(jì)量。根據(jù)F分布表或計(jì)算得到的p值進(jìn)行決策。χ^2檢驗(yàn)主要用于檢驗(yàn)分類(lèi)變量之間的獨(dú)立性或擬合優(yōu)度。通過(guò)計(jì)算實(shí)際觀測(cè)值與理論期望值之間的差的平方和，得到χ^2統(tǒng)計(jì)量。根據(jù)χ^2分布表或計(jì)算得到的p值進(jìn)行決策。F檢驗(yàn)和χ^2檢驗(yàn)123單因素方差分析方差分析基本原理多因素方差分析方差分析原理及應(yīng)用方差分析是一種通過(guò)比較不同組別之間均值的差異來(lái)檢驗(yàn)總體均值是否存在顯著差異的方法。它將總變異分解為組內(nèi)變異和組間變異兩部分，通過(guò)比較兩者的大小來(lái)判斷組別之間的差異是否顯著。用于研究單個(gè)因素對(duì)因變量的影響。通過(guò)計(jì)算各組均值之間的差異以及組內(nèi)變異，得到F統(tǒng)計(jì)量并進(jìn)行決策。用于研究多個(gè)因素對(duì)因變量的影響以及因素之間的交互作用。通過(guò)構(gòu)建包含多個(gè)因素的模型，并進(jìn)行逐步回歸分析或多元方差分析等方法進(jìn)行決策。06回歸分析初步變量關(guān)系描述模型建立模型假設(shè)一元線(xiàn)性回歸模型建立通過(guò)散點(diǎn)圖等工具直觀展示兩個(gè)變量之間的關(guān)系，為建立一元線(xiàn)性回歸模型提供依據(jù)。根據(jù)最小二乘法原理，建立一元線(xiàn)性回歸模型，即$y=beta_0+beta_1x+epsilon$，其中$beta_0$和$beta_1$為待估參數(shù)，$epsilon$為隨機(jī)誤差項(xiàng)。為確保模型的適用性和有效性，需要滿(mǎn)足一些基本假設(shè)，如誤差項(xiàng)的獨(dú)立性、同方差性等。采用最小二乘法進(jìn)行參數(shù)估計(jì)，得到$beta_0$和$beta_1$的估計(jì)值$b_0$和$b_1$，并計(jì)算相關(guān)統(tǒng)計(jì)量如$R^2$、$F$值等。參數(shù)估計(jì)通過(guò)構(gòu)造$t$統(tǒng)計(jì)量或$F$統(tǒng)計(jì)量，對(duì)回歸系數(shù)進(jìn)行顯著性檢驗(yàn)，判斷自變量對(duì)因變量的影響是否顯著。假設(shè)檢驗(yàn)對(duì)殘差進(jìn)行圖形化展示和統(tǒng)計(jì)分析，檢驗(yàn)?zāi)Ｐ图僭O(shè)的合理性。殘差分析參數(shù)估計(jì)與假設(shè)檢驗(yàn)預(yù)測(cè)利用已建立的回歸模型，對(duì)新的自變量數(shù)據(jù)進(jìn)行預(yù)測(cè)，得到因變量的預(yù)測(cè)值及置信區(qū)間?？刂聘鶕?jù)預(yù)測(cè)結(jié)果和實(shí)際需求，制定相應(yīng)的控制措施，如調(diào)整自變量取值范圍、優(yōu)化模型參數(shù)等。應(yīng)用舉例結(jié)合具體案例，展示一元線(xiàn)性回歸模型在預(yù)測(cè)和控