非線性模型參數(shù)的minimax估計(jì)

1、二次損失下Guass-Markov非線性模型系數(shù)的Minimax隨機(jī)優(yōu)化模型 吳雄韜 易艷春(衡陽(yáng)師范學(xué)院 數(shù)學(xué)系 湖南 衡陽(yáng) 421008)摘 要：本文借用線性模型系數(shù)的Minimax估計(jì)方法，在二次損失函數(shù)下運(yùn)用隨機(jī)優(yōu)化理論對(duì)Guass-Markov非線性模型的系數(shù)進(jìn)行了研究， 建立了非線性模型系數(shù)Minimax估計(jì)的隨機(jī)優(yōu)化模型.關(guān)鍵詞：Minimax估計(jì)；隨機(jī)優(yōu)化；二次損失函數(shù).中圖分類(lèi)號(hào)：O211.67 文章標(biāo)識(shí)碼 A0 引 言 考慮Guass-Markov非線性模型： (1.1)其中，為維未知參數(shù)向量，為不可觀測(cè)的隨機(jī)誤差，為隨機(jī)設(shè)計(jì)陣，為觀測(cè)向量，是包含隨機(jī)設(shè)計(jì)陣和參數(shù)的非線性函

2、數(shù).實(shí)際中，和是可測(cè)的 為了方便討論，引入如下記號(hào)： 近些年來(lái)，有關(guān)非線性模型系數(shù)的估計(jì)問(wèn)題越來(lái)越受到人們的重視，其理論也越來(lái)越成熟，其中Minimax估計(jì)方法源自馮.諾依曼的博奕理論，在研究線性模型參數(shù)的統(tǒng)計(jì)分析與決策問(wèn)題中應(yīng)用非常成熟，如文1,2在這個(gè)方面就做了很深入的探討，但在非線性模型理論研究方面一直還處在探討之中，如Alexander shaprir, J.R.Birg, J.Dupacov, R.Jagannatha, Efron B, Morris C等人在隨機(jī)優(yōu)化、大樣本近似隨機(jī)優(yōu)化、線性隨機(jī)規(guī)劃模型方面做了一定的研究.本文將在結(jié)合線性模型參數(shù)估計(jì)Minimax方法的基礎(chǔ)上利用

3、隨機(jī)優(yōu)化理論對(duì)非線性模型系數(shù)的Minimax估計(jì)進(jìn)行了研究. 得出了非線性模型系數(shù)的Minimax估計(jì)的隨機(jī)優(yōu)化模型.1 定義及符號(hào)說(shuō)明定義1.1、在模型（1-1）中，如果對(duì)于一切都有：則稱(chēng)是模型（1-1）系數(shù)估計(jì)的一個(gè)風(fēng)險(xiǎn)上界. 基金項(xiàng)目：湖南省教育廳一般項(xiàng)目資助. 2 易艷春（1974-），女，湖南常寧人，副教授，碩士，主要從事概率論與數(shù)理統(tǒng)計(jì)方面的研究.定義1.2 在模型（1-1）中，設(shè)是模型（1-1）參數(shù)的一個(gè)風(fēng)險(xiǎn)上界，如果存在參數(shù)的一個(gè)估計(jì)對(duì)于所有的有：則稱(chēng)是系數(shù)的一個(gè)Minimax估計(jì).1.3符號(hào)說(shuō)明：（為常數(shù)）; ;； ;； ；; ； （1.1） （1.2） （1.3） （1.4

4、） （1.5）2、定理與結(jié)論定理2.1 在二次損失下，模型（1-1）存在風(fēng)險(xiǎn)上界的充要條件是（1）當(dāng)時(shí)，對(duì)于一切，是一個(gè)風(fēng)險(xiǎn)上界； （2）當(dāng)時(shí)，對(duì)于一切，是一個(gè)風(fēng)險(xiǎn)上界；證明：因?yàn)?= （1）當(dāng)時(shí)，對(duì)于一切，顯然有； （2）當(dāng)時(shí)，對(duì)于一切，顯然有定理2.2 在二次損失下，非線性模型（1-1）中系數(shù)的Minimax估計(jì)為隨機(jī)優(yōu)化問(wèn)題的最優(yōu)解問(wèn)題. 證明：由定理2.1的（1）式知，當(dāng)時(shí)，對(duì)于一切，是模型（1-1）系數(shù)的一個(gè)風(fēng)險(xiǎn)上界，由Minimax估計(jì)定義可知，當(dāng)這個(gè)風(fēng)險(xiǎn)上界達(dá)到最小值時(shí)，就是非線性模型系數(shù)的Minimax估計(jì)，因此對(duì)應(yīng)問(wèn)題就可以轉(zhuǎn)化為如下相應(yīng)隨機(jī)優(yōu)化問(wèn)題的最優(yōu)解. （2.1）由定

5、理2.1的（2）式知，當(dāng)時(shí)，對(duì)于一切，是模型（1-1）系數(shù)的一個(gè)風(fēng)險(xiǎn)上界，因此對(duì)應(yīng)問(wèn)題就可以轉(zhuǎn)化為如下相應(yīng)隨機(jī)優(yōu)化問(wèn)題的最優(yōu)解. （2.2）下面對(duì)隨機(jī)優(yōu)化問(wèn)題的約束條件進(jìn)行轉(zhuǎn)化： 其中顯然成立，因?yàn)樗械碾S機(jī)優(yōu)化問(wèn)題都是在期望上討論問(wèn)題，因此，下面主要是把第二個(gè)條件進(jìn)行轉(zhuǎn)化= 即=因此，這個(gè)條件轉(zhuǎn)化為隨機(jī)優(yōu)化問(wèn)題的約束條件為： （2.3）由上面（2.3）我們知道，（2.1）、2.2）對(duì)應(yīng)問(wèn)題就可以轉(zhuǎn)化為如下相應(yīng)隨機(jī)優(yōu)化問(wèn)題的最優(yōu)解問(wèn)題.因此，在二次損失下模型（1-1）系數(shù)的Minimax估計(jì)問(wèn)題就可以轉(zhuǎn)化求如下隨機(jī)優(yōu)化模型的最優(yōu)解問(wèn)題： 定理2.3 在二次損失函數(shù)下，非線性模型（1-1）中系數(shù)

6、的Minimax估計(jì)為隨機(jī)優(yōu)化模型的最優(yōu)解.證明：由定理2.2知，在二次損失下模型（1-1）系數(shù)的Minimax估計(jì)問(wèn)題就可以轉(zhuǎn)化求如下隨機(jī)優(yōu)化模型的最優(yōu)解問(wèn)題： 下面我們來(lái)看看 再看看目標(biāo)函數(shù)表達(dá)式： =由于，因此與的最優(yōu)解相同。于是， 這就證明了在二次損失下，非線性模型（1-1）中系數(shù)的Minimax估計(jì)為隨機(jī)優(yōu)化模型 的最優(yōu)解.定理2.4 在二次損失函數(shù)下，非線性模型（1-1）中系數(shù)的Minimax估計(jì)為隨機(jī)優(yōu)化模型的最優(yōu)解等價(jià)于求隨機(jī)優(yōu)化子問(wèn)題的最優(yōu)解.證明：由定理2.3知，在二次損失函數(shù)下，非線性模型（1-1）中系數(shù)的Minimax估計(jì)為隨機(jī)優(yōu)化模型的最優(yōu)解，對(duì)于第一個(gè)目標(biāo)函數(shù)（為常

7、數(shù)，且），由于為常數(shù)，目標(biāo)函數(shù)的主要部分為，又由于，即，因此；對(duì)于第二個(gè)目標(biāo)函數(shù)，（為常數(shù)，且），由于為常數(shù)，目標(biāo)函數(shù)的主要部分為，又由于，即，因此，結(jié)合約束條件可以得到隨機(jī)優(yōu)化模型的最優(yōu)解等價(jià)于求隨機(jī)優(yōu)化子問(wèn)題的最優(yōu)解.參 考 文 獻(xiàn)1徐興忠. 二次損失下回歸系數(shù)的線性Minimax估計(jì).數(shù)學(xué)年刊,1993,14A(5):621-628.2喻勝華,何燦芝.一般Guass-Markov模型中可估函數(shù)的線性Minimax估計(jì). 應(yīng)用概率統(tǒng)計(jì),2003,19(2):203209.3Alexander shapriro and Anton kleywegt. Minimax analysis of

8、stochastic problems,Optimizat on Methods and software ,17：523-542.4. Desiging approximation schemes for stochastic optimization problems,in particular for stochstic programs with recourse.Mathematical Programming Study, 1986，27：54-102.5J.Dupacova. On minimax decision rule in stochastic linear progra

9、mming.In:A.Prekopa (Ed.),Studies on Mathematical programming, 1980，：.47-60.6R.Jagannathan.Minimax procedure for a class of linear programs under uncertainty. Oper. Research, 1977，25,173-177.7Efron B, Morris C. Families of minimax estimators of the mean of a multivariate normal distribution .Ann Stat

10、ist,1976, 4： 12-21.Under the Quadratic Funtion the Gauss-Markov nolinear Models Coffienient of Minimax Stocheastic optimization ModelWU xiong-tao YI yan-chun (Department of Mathematics and computer science,hengyang normal University, Hunan Hengyang 421008,china) Abstract:Under the quadratic loss function,this paper used the linear models coefficient of Minimax estimation method and studied the nonlinear Gauss-Markov models cofficient by applying the theory of stochastic optimal and set up