極大似然估計(jì)課件

1、極大似然估計(jì) 極大似然估計(jì)是在總體類型已知條件下使用的一種參數(shù)估計(jì)方法 . 它首先是由德國(guó)數(shù)學(xué)家高斯在1821年提出的 ,費(fèi)歇在1922年重新發(fā)現(xiàn)了這一方法，并首先研究了這種方法的一些性質(zhì) .極大似然原理 在一次試驗(yàn)中，概率大的事件比概率小的事件容易發(fā)生。 極大似然法的基本思想 某位同學(xué)與一位獵人一起外出打獵 ，一只野兔從前方竄過 ，只聽一聲槍響，野兔應(yīng)聲倒下 。是誰打中的呢？如果要你推測(cè)，你會(huì)如何想呢?基本思想:若事件Ai 發(fā)生了,則認(rèn)為事件Ai在這n個(gè)可能結(jié)果中出現(xiàn)的概率最大。極大似然估計(jì)就是在一次抽樣中,若得到觀測(cè)值則選取若一試驗(yàn)有n個(gè)可能結(jié)果現(xiàn)做一試驗(yàn),作為的估計(jì)值。使得當(dāng)時(shí),樣本出現(xiàn)

2、的概率最大。 一個(gè)箱子里裝有黑、白球共9個(gè),我們從中隨機(jī)地?zé)o放回地抽取三個(gè)球，發(fā)現(xiàn)恰有2個(gè)黑球，請(qǐng)猜一下(估計(jì))箱子里有幾個(gè)黑球，幾個(gè)白球. 這是典型的“黑箱”問題.可以這樣來分析、推斷： 隨機(jī)所以能取得“二個(gè)黑球一個(gè)白球”這是由箱中球的狀況決定的.我們就從這個(gè)“信息”出發(fā). 箱中球的狀況 能取得二個(gè)黑球一個(gè)白球的(所有可能情形) 可能性大小 黑球數(shù) 白球數(shù) 1. 1 8 2 . 2 7 3. 3 6 4. 4 5 5. 5 4 6. 6 3 7. 7 2 8. 8 1 9. 9 0 10. 0 9 比較這些概率的大小 ，我們可以推斷箱中黑球數(shù)最有可能是6個(gè)(顯然，這個(gè)推斷不是絕對(duì)正確的)。

3、這是一種新的邏輯推理方法：根據(jù)概率最大，推斷 “事情”發(fā)生的原因是什么。極大似然估計(jì)法:設(shè)是的一個(gè)樣本值事件 發(fā)生的概率為為 的函數(shù)，形式已知(如離散型) X的分布列為的聯(lián)合分布列為：為樣本的似然函數(shù)。即取使得：與有關(guān), 記為稱為參數(shù)的極大似然估計(jì)值。稱為參數(shù)的極大似然估計(jì)量。達(dá)到最大的參數(shù)作為的估計(jì)值?，F(xiàn)從中挑選使概率樣本的似然函數(shù)若總體X屬連續(xù)型, 其概率密度的形式已知，為 待估參數(shù)；則的聯(lián)合密度：一般，關(guān)于可微，故可由下式求得：例：故似然函數(shù)為設(shè)是來自總體X的一個(gè)樣本，試求參數(shù) p 的極大似然估計(jì)值.解：設(shè)是一個(gè)樣本值。X的分布列為：而令解得p的極大似然估計(jì)值p的極大似然估計(jì)量令解得求極大似然估計(jì)的一般步驟：注：lnx 是 x 的嚴(yán)格單增函數(shù)，lnL 與L有相同的極大值，一般只需求lnL 的極大值.寫出似然函數(shù)2. 對(duì)似然函數(shù)取對(duì)數(shù) 3. 對(duì)i (i =1, m)分別求偏