第5章高階統(tǒng)計(jì)分析課件

第5章高階統(tǒng)計(jì)分析清華大學(xué)自動(dòng)化系張賢達(dá)

第5章高階統(tǒng)計(jì)分析清華大學(xué)自動(dòng)化系張賢達(dá)1功率譜估計(jì)，Weiner濾波器都是以信號(hào)的相關(guān)函數(shù)為工具。相關(guān)函數(shù)的局限性模型的多重性：考慮功率譜由于,故即不同ARMA過(guò)程的功率譜具有相同形狀的功率譜。這一特性稱(chēng)為相關(guān)函數(shù)的多重性或模型的多重性。

功率譜估計(jì)，Weiner濾波器都是以信號(hào)的相關(guān)2兩個(gè)具有零均值和相同方差的高斯白色噪聲和指數(shù)分布白色噪聲顯然是不同的隨機(jī)過(guò)程，但它們的功率譜相同。用這樣兩個(gè)白色噪聲激勵(lì)同一個(gè)ARMA模型，產(chǎn)生的兩個(gè)ARMA過(guò)程顯然是不同的隨機(jī)過(guò)程，但它們的功率譜相同。兩個(gè)灰度圖相同的圖像有可能是不同的圖像。以上事實(shí)說(shuō)明,要準(zhǔn)確地刻畫(huà)隨機(jī)信號(hào),僅使用相關(guān)函數(shù)（二階統(tǒng)計(jì)量）是不夠的，還必須使用更高階的統(tǒng)計(jì)量。三階和更高階的統(tǒng)計(jì)量合稱(chēng)高階統(tǒng)計(jì)量。相關(guān)函數(shù)：刻畫(huà)信號(hào)的粗糙像高階統(tǒng)計(jì)量：刻畫(huà)信號(hào)的細(xì)節(jié)兩個(gè)具有零均值和相同方差的高斯白色噪聲和指數(shù)分布白色噪聲顯然35.1高階矩與高階累積量特別地，若，則稱(chēng)函數(shù)f(x)的Fourier反變換。函數(shù)g(x)的均值：是隨機(jī)變量x的特征函數(shù)。它實(shí)際上是概率密度1.單個(gè)隨機(jī)變量x的高階矩與高階累積量特征函數(shù)的k階偏導(dǎo)數(shù)5.1高階矩與高階累積量特別地，若4K階矩的定義：用特征函數(shù)描述K階原點(diǎn)矩：令則原點(diǎn)矩：中心矩：即由于K階矩由生成，故稱(chēng)特征函數(shù)為隨機(jī)變量x的矩生成函數(shù)(矩母函數(shù))，又稱(chēng)第一特征函數(shù)。K階矩的定義：用特征函數(shù)描述K階原點(diǎn)矩：令5第二特征函數(shù)：k階累積量(cumulant)：第二特征函數(shù)累積量生成函數(shù)或累積量模母函數(shù)第二特征函數(shù)：k階累積量(cumulant)：第二特征函數(shù)6k個(gè)隨機(jī)變量r.v.(randomvariable)第一聯(lián)合特征函數(shù)2.多個(gè)隨機(jī)變量的高階矩與高階累積量第一聯(lián)合特征函數(shù)的階偏導(dǎo)數(shù)k個(gè)隨機(jī)變量r.v.(randomvariable)第一7第二聯(lián)合特征函數(shù)k階聯(lián)合累積量：當(dāng)時(shí)，有k個(gè)隨機(jī)變量r階矩：第二聯(lián)合特征函數(shù)k階聯(lián)合累積量：當(dāng)8考查隨機(jī)信號(hào)，令隨機(jī)信號(hào)x(t)的k階矩：隨機(jī)信號(hào)x(t)的k階累積量：3.隨機(jī)信號(hào)的高階矩與高階累積量隨機(jī)信號(hào)的高階矩與高階累積量分別是多個(gè)隨機(jī)變量的高階矩與高階累積量的推廣考查隨機(jī)信號(hào)，令9高斯隨機(jī)變量的矩與累積量第一特征函數(shù)：K階矩第二特征函數(shù)：由于故有結(jié)論：高斯隨機(jī)變量的奇次階矩恒為零，偶次階矩僅決定于二階矩，而二階累積量與二階矩等價(jià)，所有高階累積量恒為零。高斯隨機(jī)變量的矩與累積量第一10？符號(hào)集矩—累積量轉(zhuǎn)換關(guān)系：高階矩的計(jì)算：定義式：估計(jì)式：?jiǎn)栴}：如何估計(jì)？符號(hào)集矩—累積量轉(zhuǎn)換關(guān)系：高階矩的計(jì)算：定義式：估計(jì)式：?jiǎn)?1集合的無(wú)序、非空、無(wú)交連分割(唯一性)(1)分割為1個(gè)子集合：(2)分割為2個(gè)子集合：矩—累積量轉(zhuǎn)換公式：若x(t)為零均值，則集合的無(wú)序、非空12(1)分割為1個(gè)子集合：矩—累積量轉(zhuǎn)換公式：(2)分割為2個(gè)子集合：(3)分割為3個(gè)子集合：(1)分割為1個(gè)子集合：矩—累積量13特別地，若具有零均值，則類(lèi)似地，對(duì)于零均值的隨機(jī)過(guò)程或信號(hào)，有特別地，若具有零均值，則類(lèi)似地，對(duì)于零均14四階累積量的估計(jì)：以上討論的是“實(shí)信號(hào)”,復(fù)信號(hào)的高階矩與高階累積量的定義不同，詳見(jiàn)后敘。三階累積量的估計(jì)：二階累積量的估計(jì)：累積量的估計(jì)公式：注釋?zhuān)核碾A累積量的估計(jì)：以上討論的是“實(shí)信號(hào)”,復(fù)信號(hào)的高階矩與高155.2矩與累積量的性質(zhì)性質(zhì)1:性質(zhì)2:矩和累積量相對(duì)于變?cè)菍?duì)稱(chēng)的，即是的排列5.2矩與累積量的性質(zhì)性質(zhì)1:性質(zhì)2:矩和累積量相對(duì)于變16例：僅需知道陰影部分的值，便可知道整個(gè)平面例：僅需知道陰影部分的值，便可知道整個(gè)平面17性質(zhì)3:可加性例.觀測(cè)數(shù)據(jù)，與獨(dú)立，性質(zhì)4:若與獨(dú)立，則與獨(dú)立，則高斯噪聲3階以上累積量恒為0又稱(chēng)為半不變量（semi-invariablecumulant）故稱(chēng)為“累積量”。四階矩沒(méi)有半不變性。性質(zhì)3:可加性例.觀測(cè)數(shù)據(jù)18性質(zhì)5:若中某個(gè)子集同其他子集獨(dú)立，則應(yīng)用：獨(dú)立同分布（i.i.d）過(guò)程(iid:independentlyidentificallydistributed)k階矩?zé)o此性質(zhì)。若為獨(dú)立同分布，則累積量其中Fourier變換常數(shù)高階譜與頻率無(wú)關(guān)，稱(chēng)為“高階白噪聲”（“白色光”）性質(zhì)5:若中某個(gè)子集同其他子集獨(dú)19而性質(zhì)6:常數(shù)而性質(zhì)6:常數(shù)20⑴對(duì)稱(chēng)性質(zhì)：線性系統(tǒng)i.i.d非高斯信號(hào)非高斯信號(hào)的產(chǎn)生途徑：⑵理論上可完全抑制高斯有色噪聲(“盲性”)⑶i.i.d過(guò)程容易建立線性系統(tǒng)理論線性系統(tǒng)高斯白噪聲非高斯信號(hào)結(jié)論：用高階累積量，而不用高階矩高階累積量的優(yōu)點(diǎn)：⑴對(duì)稱(chēng)性質(zhì)：線性系統(tǒng)i.i.d非高斯信號(hào)非高斯信號(hào)的產(chǎn)生途215.3高階譜功率譜的缺點(diǎn)：由功率譜只能恢復(fù),不可能恢復(fù)“模型的多重性”自相關(guān)函數(shù)辨識(shí)系統(tǒng)，無(wú)法辨識(shí)非最小相位系統(tǒng)“自相關(guān)函數(shù)等價(jià)性”“功率譜等價(jià)性”5.3高階譜功率譜的缺點(diǎn)：由功率譜只能恢復(fù)22高階譜（Higher-orderspectrum）又稱(chēng)多譜（polyspectrum），是信號(hào)多個(gè)頻率的能量譜。k-1維DFT,即三階譜稱(chēng)為雙譜(bispectrum)，意即兩個(gè)頻率的譜。四階譜稱(chēng)為三譜(trispectrum)，意即三個(gè)頻率的譜。條件：“絕對(duì)可求和”高階譜定義為k階累積量的二階譜即為功率譜，它是單個(gè)頻率的譜。高階譜（Higher-orderspectrum）又稱(chēng)多譜23⑴雙譜估計(jì)的直接方法：雙譜⑵雙譜估計(jì)的間接方法：2D-FT⑴雙譜估計(jì)的直接方法：雙譜⑵雙譜估計(jì)的間接方法：2D-F24非高斯信號(hào)(非正態(tài)分布的隨機(jī)信號(hào)的總稱(chēng))峰度高斯信號(hào)亞高斯信號(hào)(Sub-GaussianSignal)超高斯信號(hào)(Super-GaussianSignal)歸一化峰度亞高斯信號(hào)超高斯信號(hào)非高斯信號(hào)(非正態(tài)分布的隨機(jī)信號(hào)的總稱(chēng))峰度高斯信號(hào)亞高斯25歸零化：高斯信號(hào)：零峰度；亞高斯信號(hào)：負(fù)峰度；超高斯信號(hào)：正峰度歸零化：高斯信號(hào)：零峰度；265.4雙譜在目標(biāo)識(shí)別中的應(yīng)用特性：⑴保留了幅值特性⑵保留了相位特性⑶平移不變性應(yīng)用：⑴飛機(jī)目標(biāo)——機(jī)動(dòng)飛行希望目標(biāo)特性與飛機(jī)飛行姿態(tài)無(wú)關(guān)(平移不變性)⑵飛機(jī)的電磁波輻射和散射特性天線罩、發(fā)動(dòng)機(jī)、出去口、蒙皮材料(“相位特性”)⑶飛機(jī)尺寸(機(jī)長(zhǎng)、翼寬)(“幅值特性”)5.4雙譜在目標(biāo)識(shí)別中的應(yīng)用特性：⑴保留了幅值特性應(yīng)用：27積分雙譜(二維一維)⑶圓周積分雙譜(CIB:circularlyintegratedbispectrum)缺點(diǎn)：“平凡雙譜”和“交叉項(xiàng)”不可避免⑴徑向積分雙譜(RIB:radicallyintegratedbispectrum)⑵軸向積分雙譜(AIB:axisiallyintegratedbispectrum)特點(diǎn)：被選擇的積分路徑上所有雙譜的總作用“強(qiáng)”積分雙譜(二維一維)⑶圓周積分雙譜(CIB:28選擇雙譜：Fisher信息，類(lèi)可分度分子：類(lèi)間散布程度(希望：大)分母：類(lèi)內(nèi)散布程度(希望：小)特征向量——先驗(yàn)概率(等概率)第類(lèi)目標(biāo)對(duì)所有屬于自己的k組觀測(cè)數(shù)據(jù)的平均雙譜（每類(lèi)平均）所有類(lèi)目標(biāo)對(duì)屬于自己的k組觀測(cè)數(shù)據(jù)的總平均雙譜（全體平均）選擇雙譜：Fisher信息，類(lèi)可分度分子：類(lèi)間