極大似然估計

極大似然估計求估計的另方法01研究歷史求解步驟原理目錄030204基本信息極大似然估計方法（MaximumLikelihoodEstimate，MLE）也稱為最大概似估計或最大似然估計，是求估計的另一種方法，最大概似是1821年首先由德國數(shù)學家高斯（s）提出，但是這個方法通常被歸功于英國的統(tǒng)計學家。羅納德·費希爾（er）研究歷史研究歷史極大似然估計方法是求估計的另一種方法,1821年首先由德國數(shù)學家s（高斯）提出，但是這個方法通常被歸功于英國的統(tǒng)計學家er（羅納德·費希爾），他在1922年的論文Onthemathematicalfoundationsoftheoreticalstatistics,reprintedinContributionstoMathematicalStatistics(byer),1950,J.Wiley&Sons,NewYork中再次提出了這個思想，并且首先探討了這種方法的一些性質.極大似然估計這一名稱也是費希爾給的。這是一種仍然得到廣泛應用的方法。原理原理它是建立在極大似然原理的基礎上的一個統(tǒng)計方法，極大似然原理的直觀想法是，一個隨機試驗如有若干個可能的結果A，B，C，...，若在一次試驗中，結果A出現(xiàn)了，那么可以認為實驗條件對A的出現(xiàn)有利，也即出現(xiàn)的概率P(A)較大。極大似然原理的直觀想法我們用下面例子說明。設甲箱中有99個白球，1個黑球；乙箱中有1個白球．99個黑球。現(xiàn)隨機取出一箱，再從抽取的一箱中隨機取出一球，結果是黑球，這一黑球從乙箱抽取的概率比從甲箱抽取的概率大得多，這時我們自然更多地相信這個黑球是取自乙箱的。一般說來，事件A發(fā)生的概率與某一未知參數(shù)有關，取值不同，則事件A發(fā)生的概率也不同，當我們在一次試驗中事件A發(fā)生了，則認為此時的值應是t的一切可能取值中使達到最大的那一個，極大似然估計法就是要選取這樣的t值作為參數(shù)t的估計值，使所選取的樣本在被選的總體中出現(xiàn)的可能性為最大。

極大似然估計，只是一種概率論在統(tǒng)計學的應用，它是參數(shù)估計的方法之一。說的是已知某個隨機樣本滿足某種概率分布，但是其中具體的參數(shù)不清楚，參數(shù)估計就是通過若干次試驗，觀察其結果，利用結果推出參數(shù)的大概值。極大似然估計是建立在這樣的思想上：已知某個參數(shù)能使這個樣本出現(xiàn)的概率最大，我們當然不會再去選擇其他小概率的樣本，所以干脆就把這個參數(shù)作為估計的真實值。當然極大似然估計只是一種粗略的數(shù)學期望，要知道它的誤差大小還要做區(qū)間估計。求解步驟求解步驟1.求極大似然函數(shù)估計值的一般步驟：（1）寫出似然函數(shù)；（2）對似然函數(shù)取對數(shù)，并整理；（3）求導數(shù)；（4）解似然方程。2.利用高等數(shù)學中求多元函數(shù)的極值的方法，有以下極大似然估計法的具體做法：(1)根據(jù)總體的分布，建立似然函數(shù);(2)當L關于可微時，(由微積分求極值的原理）可由方程組:定出，稱以上方程組為似然方程.因為L與有相同的極大值點，所以也可由方程組1.若總體X為離散型，其概率分布列為其中為為未知參數(shù)。設是取自總體的樣本容量為n的樣本，則的聯(lián)合分布律為。又設的一組觀測值為，易知樣本取到觀測值的概率為這一概率隨的取值而變化，它是的函數(shù)，稱為樣本的似然函數(shù)。2.若總體X為連續(xù)型，其概率密度函數(shù)為，其中為未知參數(shù)。設是取自總體的樣本容量為n的簡單樣本，則的聯(lián)合概率密度函數(shù)為。又設的一組觀測值為，則隨機點落在點的鄰邊（邊長分別為的n維立方體）內的概率近似地為。考慮函數(shù)同樣，稱為樣本的似然函數(shù)。極大似然估計法原理