抗差估計-有偏估計課件

在觀測數(shù)據(jù)中出現(xiàn)0.2%的粗差時，最小二乘估值便失去了其最優(yōu)性，但0.2%的粗差概率完全正常，特別是在現(xiàn)代的大數(shù)據(jù)量自動測量中。所以經(jīng)典平差適用的范圍狹窄?？共罟烙嬛笇枷耄涸诳共钅芰托剩ㄖ腹乐底顑?yōu)性）中求得最佳平衡。一般要求其效率達到經(jīng)典平差效率的90%以上。是在抗差的前提下談效率?？共罟烙媽嵸|：犧牲最小二乘估計的最優(yōu)性，達到抵抗粗差污染的目的?？共罟烙嫷奶攸c：當觀測數(shù)據(jù)的實際分布偏離假定模型時的不敏感性。其對子樣分布要求不十分嚴格，只要子樣近似服從某一模型。若母體確實為正態(tài)時，抗差估計值無最小二乘估計值優(yōu)良。最小二乘估計的優(yōu)點：能夠抵御大量隨機小誤差對參數(shù)估值的影響；估值無偏，方差最小。估值的效率問題：可削弱大量小誤差對參數(shù)估值的影響?？共钅芰Φ臉酥荆汗乐的苋萑痰拇植顐€數(shù)?？共罟烙嫷倪m用范圍：在確定性模型中有大量正確的觀測值存在，僅有少數(shù)幾個是不正確的；統(tǒng)計模型就不一定了，如果軌跡模型是你自己定的，出界的點被認為是粗差而剔除，這是不正確的。所以抗差估計適合確定性模型而不適合擬合模型。數(shù)據(jù)偏離正態(tài)分布的原因：（1）有粗差（觀測、記錄、數(shù)據(jù)輸入等）（2）數(shù)據(jù)組合與舍入誤差（3）就算數(shù)據(jù)中無粗差存在，但其分布仍有微小明顯的偏離正態(tài)趨勢（4）觀測值之間并非完全獨立

F、t、u、2四種檢驗方法由于都取決于正態(tài)分布的母體，故對于偏離正態(tài)分布的數(shù)據(jù)檢驗是不可靠的。舉例：模型誤差的產(chǎn)生和分類模型誤差：模型與客觀實際的誤差，也分為粗差、系統(tǒng)誤差和偶然誤差。有粗差時用經(jīng)典平差模型或無粗差時用抗差模型，都會產(chǎn)生模型誤差。一、影響函數(shù)影響函數(shù)是用來判斷估計量對異常值敏感程度的指標，即一個附加的觀測值對估值的影響的大小。影響函數(shù)定義式：

影響函數(shù)的重要用途：（1）若影響函數(shù)無界，則一個粗差可徹底破壞估計量，此時該種方法就不具有抗差性；（2）大于某個限差的粗差應對平差結果不產(chǎn)生影響，即應設一個影響函數(shù)IF=0的誤差界；（3）影響函數(shù)可用圖形表示，直觀，重要。廣義極大似然估計－－M估計M估計－－經(jīng)典極大似然估計的推廣，最接近傳統(tǒng)的最小二乘估計。由于或選擇的不同，會得到不同的M估計法，其穩(wěn)健性也不同?；舅枷耄海?）平差仍采用經(jīng)典的最小二乘平差形式；（2）每次平差后根據(jù)殘差和有關參數(shù)構成下一步的權函數(shù)；（3）迭代中止時相應的殘差將直接指出粗差所在的位置。平差后有：保權區(qū)－－正常觀測值降權區(qū)－－非正常但可用的觀測值除權區(qū)－－含粗差的觀測值隨著估計函數(shù)選取的不同，構成了不同的權函數(shù)形式，形成了不同的選權迭代法。權函數(shù)

選取的要求：（1）平差后粗差觀測值的權應趨近于0，其余多余觀測值的權趨近于1；（2）迭代中止時，不含粗差的觀測值的權應等于驗前給定或驗后方差估求的，平差應回到通常的最小二乘法平差；（3）權函數(shù)的選擇應保證迭代盡快收斂。

由于粗差的分布不同，不能象偶然誤差一樣有一個統(tǒng)一的正態(tài)分布，有統(tǒng)一的處理方法。所以不同的粗差分布對應了不同的處理方法。1、Huber法2、一次范數(shù)最小法3、p范最小法4、丹麥法5、Hampel法1、Huber法2、一次范數(shù)最小法（L1估計）（中位數(shù)法）3、P范最小法（LP法）4、IGG法（周江文法）5、經(jīng)典最小二乘法（不具有抗差性）1546372ABH3H1H2如圖，為模擬水準網(wǎng)，7個觀測值配賦了隨機誤差，在第六條路線的觀測高差中附加了10mm的粗差。用各種算法結果列于下表。從表中看各種選權迭代法均有抗差性，而最小二乘法不具有抗差性。選權迭代法的缺陷：1、由于粗差的大小及位置未知，只能以殘差來研究，且目標函數(shù)選擇成為殘差v的函數(shù)，這并不一定符合實際。2、選權迭代法中，第一次按最小二乘平差求得的殘差受粗差的影響很大，由此將影響迭代的權函數(shù)P(v)的選擇，可能導致錯誤的收斂。3、為避免選權迭代法的初值受LS平差法的影響，可以采用線性規(guī)劃中的單純形法進行初值確定。圖解法的重要結論：可行解的區(qū)域為凸多邊形，其最優(yōu)解若存在，一定在某個極點（頂點）上。最優(yōu)解：能使線性規(guī)劃目標達到極值的可行解。單純形—凸類中的一種，在其內(nèi)部任意兩點間的連線仍處于圖形的內(nèi)部。單純形法—極點迭代法。沿著凸多面體的棱向另一個極點迭代，使目標函數(shù)的值逐次下降。從數(shù)學意義上講，若有一組解1）滿足（2）、（3）兩式，稱為基本可行解；2）同時滿足（1）、（2）和（3）三式，稱為最優(yōu)解。當觀測值是等權時，選權迭代法用權函數(shù)進行平差；當觀測值不等權時，選權迭代法用等價權進行平差。之所以稱以上三式為近似公式，是因為近似地視等價權為常數(shù)矩陣（其實等價權是隨機量，是殘差的函數(shù)）。粗差作為一種模型誤差，可以從兩種角度去描述它：1）將粗差歸入函數(shù)模型—數(shù)據(jù)探測法（也稱均值漂移模型）2）將粗差歸入隨機模型—穩(wěn)健估計法（也稱方差膨脹模型）假設觀測值中僅有一個有粗差，用該法檢測并剔除后，再建立新的平差系統(tǒng)重新平差后，再找出下一個粗差剔除，直到不含粗差。34

為什么要研究病態(tài)方程：

當誤差方程為病態(tài)時，即使觀測數(shù)據(jù)服從正態(tài)分布，其最小二乘估值也不理想，甚至很差，平差結果中方差雖然最小，但方差的值卻很大，即平差精度很差，而且解也相當?shù)牟环€(wěn)定。1、矩陣的條件數(shù)一、病態(tài)問題與條件數(shù)若系數(shù)陣A或常數(shù)項b的微小變化，會引起方程組的解x有巨大變化，則這種方程組稱為“病態(tài)方程組”。A稱為病態(tài)矩陣。定義不穩(wěn)定模型：觀測數(shù)據(jù)很小的誤差會引起待估參數(shù)很大的誤差。所以病態(tài)方程也是不穩(wěn)定模型。2、病態(tài)性程度的衡量方法解釋：復共線性復共線性，指的是平差參數(shù)之間具有近似相關關系，反映在誤差方程的設計矩陣上，就是列向量間的某些數(shù)據(jù)列可以由其余的數(shù)據(jù)列近似（非精確）地線性表示。

在最小二乘平差中，“復共線性”就是指“病態(tài)性”。3、病態(tài)方程產(chǎn)生原因1、參數(shù)選取原因。（參數(shù)近似相關或過度參數(shù)化）2、觀測原因。（樣本為局部采樣或接近重復采樣）3、模型選擇原因。（模型建立的方法不同，其病態(tài)程度不同）4、計算方面原因。（計算方法要穩(wěn)定，計算機字節(jié)長度應長一些）4、病態(tài)方程最小二乘估值的性質病態(tài)方程處理的觀測值可以是正態(tài)分布，但其LS估值并不理想，甚至很差。

雖然LS估計的方差在線性無偏類中是最小，但數(shù)值卻很大，并表現(xiàn)得相當不穩(wěn)定。

常用均方誤差MSE來評價病態(tài)情形下參數(shù)的估值質量。問題的適定性：人們根據(jù)已獲取的觀測數(shù)據(jù)和物理規(guī)律，列出的數(shù)學模型，當這些模型具有下述性質：

1、解存在；２、解唯一；３、解穩(wěn)定。則這個問題稱為適定性問題。不適定性：

不滿足上面三個條件中的任意一個或多個。不適定問題通常是病態(tài)的，但病態(tài)問題不一定就是不適定問題。不適定問題通常是求方程的穩(wěn)定近似解。5、什么樣的方程可能是病態(tài)的？1）行列式的值很大或很?。ㄈ缒承┬?、列近代相關）；2）元素間相差大數(shù)量級，且無規(guī)則；3）主元消去過程中出現(xiàn)小主元；4）特征值相差大數(shù)量級。1、病態(tài)方程的截斷奇異值解法奇異值分解技術(SingularValueDecomposintionTechnique，簡記為SVD法)通過截斷，適當去除（t-T）個大誤差項，恢復了一些解的主要特性，但也喪失了一些解的精確性。472、病態(tài)方程的正則化解法

可見，正則化方法的核心是通過附加“全部或部分參數(shù)（或其改正數(shù)）加權平方和極小”的條件，增加約束，補充（先驗）信息，來克服不適定性，使解唯一且穩(wěn)定。48