東北林業(yè)大學(xué)概率課件

東北林業(yè)大學(xué)概率課件概率論簡介概率的基本性質(zhì)隨機(jī)變量及其分布隨機(jī)過程與馬爾科夫鏈貝葉斯統(tǒng)計(jì)推斷概率論中的重要定理與概念contents目錄01概率論簡介概率論的基本概念指在一定條件下進(jìn)行的試驗(yàn)，其結(jié)果具有不確定性。所有可能試驗(yàn)結(jié)果的集合。樣本空間中的一個(gè)子集，表示某些特定結(jié)果的集合。衡量事件發(fā)生可能性的數(shù)值，取值范圍為0到1。隨機(jī)試驗(yàn)樣本空間事件概率早期的概率論思想可以追溯到中世紀(jì)歐洲的賭博游戲。概率論的起源古典概率現(xiàn)代概率論17世紀(jì)中葉，概率論逐漸發(fā)展成為一門科學(xué)，主要研究確定性事件的概率計(jì)算。19世紀(jì)末至20世紀(jì)初，概率論開始研究隨機(jī)現(xiàn)象，引入了測度論和積分論等數(shù)學(xué)工具。030201概率論的發(fā)展歷程統(tǒng)計(jì)學(xué)物理學(xué)工程學(xué)金融學(xué)概率論的應(yīng)用領(lǐng)域01020304概率論是統(tǒng)計(jì)學(xué)的基礎(chǔ)，用于數(shù)據(jù)分析和推斷。概率論在量子力學(xué)、統(tǒng)計(jì)物理等領(lǐng)域有廣泛應(yīng)用。概率論用于可靠性工程、質(zhì)量控制等方面。概率論在金融風(fēng)險(xiǎn)評估、投資組合優(yōu)化等方面有重要應(yīng)用。02概率的基本性質(zhì)互斥事件的概率加法性質(zhì)如果兩個(gè)事件是互斥的，即兩個(gè)事件不能同時(shí)發(fā)生，那么這兩個(gè)事件的概率之和等于它們包含樣本點(diǎn)個(gè)數(shù)之和除以總樣本點(diǎn)個(gè)數(shù)。完備事件的概率加法性質(zhì)如果兩個(gè)事件是完備的，即它們包含了樣本空間中所有的樣本點(diǎn)，那么它們的概率之和等于1。概率的加法性質(zhì)獨(dú)立事件的概率乘法性質(zhì)如果兩個(gè)事件是獨(dú)立的，那么它們的概率之積等于它們包含樣本點(diǎn)個(gè)數(shù)之積除以總樣本點(diǎn)個(gè)數(shù)。條件概率的乘法性質(zhì)在事件B發(fā)生的條件下，事件A發(fā)生的概率為P(A|B)=P(A∩B)/P(B)，其中P(A∩B)表示事件A和事件B同時(shí)發(fā)生的概率。概率的乘法性質(zhì)在事件B發(fā)生的條件下，事件A發(fā)生的概率為P(A|B)。條件概率的定義如果兩個(gè)事件是獨(dú)立的，那么一個(gè)事件的發(fā)生與否不會(huì)影響到另一個(gè)事件發(fā)生的概率。獨(dú)立事件的性質(zhì)如果兩個(gè)事件在某個(gè)條件下是獨(dú)立的，那么它們的條件概率也是獨(dú)立的。條件獨(dú)立的概念條件概率與獨(dú)立性03隨機(jī)變量及其分布離散隨機(jī)變量是在一定范圍內(nèi)可以一一列舉出來的隨機(jī)變量，通常用X表示。定義例如，拋一枚硬幣，正面朝上和反面朝上出現(xiàn)的次數(shù)就是離散隨機(jī)變量。例子離散隨機(jī)變量的分布律是指一個(gè)概率質(zhì)量函數(shù)，它描述了隨機(jī)變量取每個(gè)可能值的概率。分布律離散隨機(jī)變量

連續(xù)隨機(jī)變量定義連續(xù)隨機(jī)變量是在一定區(qū)間內(nèi)可以取任何值，并且其取值具有連續(xù)性的隨機(jī)變量，通常用X表示。例子例如，人的身高、體重等都是連續(xù)隨機(jī)變量。概率密度函數(shù)連續(xù)隨機(jī)變量的概率密度函數(shù)描述了隨機(jī)變量取任意一個(gè)值的概率，其值可以是0到正無窮大。例子例如，投擲兩枚骰子，每一枚骰子的點(diǎn)數(shù)都是一個(gè)隨機(jī)變量，而兩枚骰子的點(diǎn)數(shù)之和也是一個(gè)隨機(jī)變量，它是二維的。定義多維隨機(jī)變量是指具有兩個(gè)或兩個(gè)以上隨機(jī)變量的隨機(jī)現(xiàn)象，通常用向量表示。聯(lián)合分布多維隨機(jī)變量的聯(lián)合分布描述了所有隨機(jī)變量同時(shí)取值的概率，它可以用聯(lián)合概率密度函數(shù)或聯(lián)合分布律來表示。多維隨機(jī)變量04隨機(jī)過程與馬爾科夫鏈隨機(jī)過程是隨機(jī)變量在時(shí)間或空間上的變化。定義離散隨機(jī)過程和連續(xù)隨機(jī)過程。分類隨機(jī)過程的概率分布、數(shù)學(xué)期望、方差等統(tǒng)計(jì)特性。描述隨機(jī)過程的基本概念03應(yīng)用馬爾科夫鏈在自然語言處理、機(jī)器學(xué)習(xí)、統(tǒng)計(jì)學(xué)等領(lǐng)域有廣泛應(yīng)用。01定義馬爾科夫鏈?zhǔn)且环N特殊的隨機(jī)過程，其中下一個(gè)狀態(tài)只與當(dāng)前狀態(tài)有關(guān)，與過去狀態(tài)無關(guān)。02性質(zhì)馬爾科夫鏈具有無記憶性、齊次性、遍歷性等性質(zhì)。馬爾科夫鏈的定義與性質(zhì)123在馬爾科夫鏈中，如果一個(gè)概率分布不隨時(shí)間的推移而改變，則稱該分布為平穩(wěn)分布。平穩(wěn)分布在長期觀察馬爾科夫鏈后，該鏈將趨于平穩(wěn)分布。極限定理平穩(wěn)分布在統(tǒng)計(jì)學(xué)、經(jīng)濟(jì)學(xué)、生態(tài)學(xué)等領(lǐng)域有廣泛應(yīng)用，極限定理為這些領(lǐng)域提供了重要的理論基礎(chǔ)。應(yīng)用平穩(wěn)分布與極限定理05貝葉斯統(tǒng)計(jì)推斷貝葉斯定理預(yù)測先驗(yàn)概率后驗(yàn)概率貝葉斯定理與預(yù)測貝葉斯定理是概率論中的一個(gè)基本定理，它提供了在已知某些條件下，更新某個(gè)事件概率的方法。在事件發(fā)生前，我們對該事件的預(yù)測概率稱為先驗(yàn)概率?；谪惾~斯定理，我們可以利用已知的信息來預(yù)測未知事件的可能性。在事件發(fā)生后，我們根據(jù)新信息更新對該事件的預(yù)測概率稱為后驗(yàn)概率。參數(shù)估計(jì)是統(tǒng)計(jì)學(xué)中的一項(xiàng)重要任務(wù)，目的是估計(jì)未知參數(shù)的值。參數(shù)估計(jì)基于貝葉斯定理，我們可以將參數(shù)視為隨機(jī)變量，并為其指定一個(gè)概率分布，然后利用數(shù)據(jù)來更新該分布。貝葉斯估計(jì)在貝葉斯推斷中，我們通常會(huì)尋找使得后驗(yàn)概率最大的參數(shù)值作為估計(jì)值，這就是最大后驗(yàn)估計(jì)。最大后驗(yàn)估計(jì)除了估計(jì)單一的參數(shù)值，我們還可以利用貝葉斯推斷來估計(jì)參數(shù)的置信區(qū)間。置信區(qū)間貝葉斯推斷在參數(shù)估計(jì)中的應(yīng)用假設(shè)檢驗(yàn)假設(shè)檢驗(yàn)是統(tǒng)計(jì)學(xué)的另一項(xiàng)重要任務(wù)，目的是檢驗(yàn)?zāi)硞€(gè)假設(shè)是否成立。在貝葉斯推斷框架下，我們可以將假設(shè)檢驗(yàn)問題視為一個(gè)參數(shù)估計(jì)問題，然后利用貝葉斯定理來更新我們對參數(shù)的看法。在貝葉斯假設(shè)檢驗(yàn)中，我們通常會(huì)設(shè)定一個(gè)閾值，當(dāng)后驗(yàn)概率低于該閾值時(shí)，我們就拒絕原假設(shè)。這個(gè)閾值所對應(yīng)的區(qū)域被稱為拒絕域。除了判斷假設(shè)是否成立，我們還可以利用貝葉斯推斷來制定最佳決策。例如，在二分類問題中，我們可以計(jì)算每個(gè)決策的預(yù)期損失，然后選擇預(yù)期損失最小的決策。貝葉斯假設(shè)檢驗(yàn)拒絕域最佳決策貝葉斯推斷在假設(shè)檢驗(yàn)中的應(yīng)用06概率論中的重要定理與概念在獨(dú)立同分布的隨機(jī)變量序列中，當(dāng)樣本量趨于無窮大時(shí)，樣本平均值的概率分布趨近于真實(shí)平均值的概率分布。大數(shù)定律無論隨機(jī)變量的分布是什么，當(dāng)樣本量足夠大時(shí)，樣本平均值的分布趨近于正態(tài)分布。中心極限定理大數(shù)定律與中心極限定理一個(gè)著名的數(shù)學(xué)問題，涉及到概率論和組合數(shù)學(xué)，其解決推動(dòng)了數(shù)學(xué)的發(fā)展。費(fèi)馬提出的一個(gè)著名的數(shù)學(xué)定理，關(guān)于橢圓曲線和模形式，其證明是數(shù)學(xué)史上的重大突破。蒙提霍爾問題與費(fèi)馬大定理費(fèi)馬大定理蒙提霍爾問題基于貝葉斯概