最大似然估計

1、 #因此，高斯M4(l)過程的確切対數(shù)似然函數(shù)為：T1T1丁滬Z(0)=log&(y;e)=-log(2)-ZloS(4)-L/el2f=ian如果給定參數(shù)的初始數(shù)值，可以利用疊代方法計算上述似然函數(shù)。這樣的計算可以對嘗試參數(shù)的優(yōu)劣進行比較。與條件似然函數(shù)不同的是，上述似然函數(shù)的表達(dá)式對任何參數(shù)0都是有效的，而不取決于是否該過程具有可逆M4(l)表示。5.5高斯必(q)過程的似然函數(shù)在討論了一階移動平均過程似然函數(shù)的基礎(chǔ)上，我們繼續(xù)討論M4過程的極人似然估計問題。高斯M4(g)過程的條件似然函數(shù)ConditionalLikelihoodFunction考慮一個高斯M4(q)過程：乙=+冇+0t

2、_!+02t_2+8q5_q,t此時一個簡單方法是考虎給定前q個初值的條件似然函數(shù)，假設(shè)初值為：0=-1=-2=W_g+1=0利用這些初值，我們對時刻t=,2,T,利用卜式進行疊代：習(xí)=yt一一習(xí)T-&2弘2-EqS-q利用向量表示gxl向量(勺,則條件對數(shù)似然函數(shù)為：Z(B)=log幾e-乙_2幼0=0(.乃,乃_1，乃-2廠-,丁1|0=0；)TTT=-log(2)-llog(q+知=0。對數(shù)給定的數(shù)值參數(shù)，計算機程序可以十分容易地獲得這些矩陣的數(shù)值。將這樣的矩陣分解帶入到M4(q)過程的似然函數(shù)中，得到：/丫&；3)=(2刃一小”2exp-jyD-這里：Ay=y-ji,的元素可以疊代計算

3、如下：A=兒_“，%=0?2-“)-21X1，y3=0；3_)_322_031%，K=3-)一一齊-2-一-我r因此，高斯M4(g)過程的確切對數(shù)似然函數(shù)為：T1T1Ty24)=log&(y;e)=-iog(2)-Zlos(4)-IL十L/elLf=ldn給定參數(shù)數(shù)值，可以計算上述似然函數(shù)的函數(shù)值。但是，給定樣本，計算上述函數(shù)的極人值的非線性優(yōu)化過程卻是比較復(fù)雜的。5.6高斯如泌49,q)過程的似然函數(shù)將自回歸過程和移動平均過程的方法結(jié)合起來，就可以討論移動平均過程的條件似然函數(shù)和確切似然函數(shù)問題。5.6.1條件似然函數(shù)ConditionalLikelihoodFunction考慮一個高斯AR

4、MA(p,q)過程：耳=c+佔+02乙-2+0pYp+習(xí)+勺%+02t_2+&qJ，ti.i.dN(0,yr-iyT-i，,力I丫0,;0)TTT-=_log(2)一ylog(2)一Z22口2b一種選擇是將尹和的初值設(shè)定為它們的預(yù)期值，即：cy,=,s=0,_1,_2,，_p+l-札-6=0,s=0,_1,_2,，_q+l然后對t=l,2,.,T,進行上述的疊代計算。另外，BoxandJenkins(1976)建議設(shè)定為零，但將y設(shè)定為它們的真實數(shù)值。因此,對上式的疊代可以從時點f=p+l開始，將兒、,”選取為真實的樣本觀測值，選取初值：P=P1=pq-H=0貝IJ對數(shù)條件似然函數(shù)可以計算為：z(o)=iogft-yT-yt-2-yp-yPyP-yyP=,兮-i=,疋事=)=_Izigs)_I