基于多維獨(dú)立成分分析的數(shù)值仿真與分析

1、基于多維獨(dú)立成分分析的數(shù)值仿真與分析摘要:通過引入一個用于評價多維獨(dú)立成分分析(MICA)算法性能的指標(biāo)，進(jìn)行數(shù)值仿真來研究其分離性。將多維Amari分離誤差作為度量多維獨(dú)立成分分析算法性能的一個重要指標(biāo)，在比較分析研究vkMICA、cfMICA、MSOBI、SJADE等四個算法的分離性能的基礎(chǔ)上，使用隨機(jī)分布生成的字母信號進(jìn)行仿真與測試，直觀地顯示了MICA模型的分離效果和不確定性。研究結(jié)果顯示，MICA是一種非常有效的進(jìn)行多維源信號分析的方法。 關(guān)鍵詞:多維獨(dú)立成分分析；多維Amari； 數(shù)值仿真；信號測試 中圖分類號: TP301.6；O242.1 文獻(xiàn)標(biāo)志碼:A ? Numerical

2、 simulation and analysis based on ?multidimensional independent component analysis ? XIE Yong.hong?1?*?, ZHANG Guo.wei?2 ?(1.Department of Computer Science, Harbin Finance University, Harbin Heilongjiang 150030, China ;? 2.School of Electronics and Information Engineering, Xi?an Jiaotong University,

3、 Xi?an Shaanxi 710049, China Abstract: By introducing a indicator to evaluate performance of Multidimensional Independent Component Analysis (MICA) algorithm, the separation was studied by numerical simulation. Using multidimensional Amari separation error as an important indicator of a measurement

4、of multidimensional independent component analysis algorithm performance. In the comparative analysis of four algorithm named vkMICA, cfMICA, MSOBI, SJADE in the separation performance, a random distribution of letters signal was used for simulation and testing, and get a visual representation of MI

5、CA model of separation and uncertainty. The results show that MICA is a very effective method for multidimensional source signal analysis. By introducing an indicator to evaluate performance of Multidimensional Independent Component Analysis (MICA) algorithm, the separation was studied by numerical

6、simulation. The multidimensional Amari separation error was used as an important indicator of the measurement of MICA algorithm performance. In the comparative separation performance analysis of four algorithms named vkMICA, cfMICA, MSOBI, SJADE, a random distribution of letters signal was used for

7、simulation and testing, and a visual representation of MICA model of separation and uncertainty was got. The results show that MICA is a very effective method for multidimensional source signal analysis.?Key words: Multidimensional Independent Component Analysis (MICA); multidimensional Amari; numer

8、ical simulation; signal testing ? 0 引言? 法國學(xué)者Cardoso?1?于1998年首先給出了標(biāo)準(zhǔn)的多維獨(dú)立成分分析(Multidimensional Independent Component Analysis, MICA)定義，提出了加法模型并通過幾何參數(shù)化方法對MICA的算法進(jìn)行分解。MICA算法估計的系統(tǒng)框架如圖1所示。? 在圖1中，?A是混合矩陣，V是白化矩陣，U是局部的正交分離矩陣，B是利用算法最終確定的全局解混矩陣，它實際上是對A?1?的估計，而得到的y?是對源的估計。所以，MICA估計算法的中心任務(wù)就是確定分離矩陣?B，使得能夠?qū)υ碨【圖上是

9、小寫？】或混合矩陣A?實現(xiàn)有效地估計。對于MICA估計算法，可分為批處理(離線)和在線算法，把批處理算法結(jié)合獨(dú)立成分分析（Independent Component Analysis，ICA）算法，并將其推廣到多維的情況，從而討論四種MICA算法的分離性能，即基于向量峭度的不動點算法?2?(vector kurtosis based MICA, vkMICA)，基于第二特征函數(shù)Hessian矩陣聯(lián)合塊對角化的算法?3?(characteristic function based MICA, cfMICA)， 基于特征矩陣聯(lián)合塊對角化的算法?4?(Subspace JADE, SJADE)和基于

10、時延協(xié)方差矩陣聯(lián)合塊對角化的算法?5?(Multidimensional Second Order Blind Identification, MSOBI)。通過引入一個用于評價MICA算法性能的指標(biāo)，進(jìn)行數(shù)值仿真來研究其分離性。? 2.2 處理點數(shù)?K?的選取對算法的影響? 以cfMICA算法為例，使用式(7)所示的混合矩陣得到觀測信號?X(t)=As(t)，取處理點數(shù)K分別為K=10,20,100，對每個K分別運(yùn)行50次，得到混合矩陣的估計A?U，求取每個K?對應(yīng)的平均多維Amari分離誤差?E?(2)?(A?U?-1?A)，得到的結(jié)果如圖5所示。? 由圖5可知，對于不同的處理點數(shù)K，算法

11、的分離誤差E?(2)?(A?U?-1?A)約為0.05?9，且波動范圍不大，這說明在處理點選取為-0.025,0.025的均勻分布時，處理點的個數(shù)對于算法的性能并無明顯的影響，算法是比較穩(wěn)健的。但當(dāng)K=60?時，分離誤差是最小的，故在比較各算法的性能時，將選取此值。? 2.3 時延個數(shù)?L?的選取對算法的影響? 以MSOBI算法為例，仍然使用式(7)所示的混合矩陣得到觀測信號?X(t)=As(t)，取時延個數(shù)分別為L=10,20,100，對每個L分別運(yùn)行50次，得到混合矩陣的估計A?U，求取每個L?對應(yīng)的平均多維Amari分離誤差?E?(2)?(A?U?-1?A)，?得到的結(jié)果如圖6所示。?

12、4 結(jié)語? 本文檢測了MICA的四個算法的性能指標(biāo)，主要分析了處理點的個數(shù)的選取、不同時延個數(shù)的選取對算法的影響；在無噪聲和有噪聲條件下，基于聯(lián)合塊對角化(JBD)的CFMICA、SJADE、MSOBI三個算法都表現(xiàn)了一定的抗噪聲性能。但當(dāng)高能量的噪聲下，需要在算法處理前加上降噪處理環(huán)節(jié)。仿真與測試分析表明，四個算法均能夠在一定程度上完成對源信號的分離，在此基礎(chǔ)上，再進(jìn)行聯(lián)合塊對角化的協(xié)方差矩陣相應(yīng)增加，從而更好地反映了信號空間的“平均特征”，得到更好的分離效果。MICA的算法可以非常有效地進(jìn)行多維源信號分析，也是后期研究和實際應(yīng)用的內(nèi)容。 ? 圖片 圖12 以SJADE算法為例分析得到的對3

13、個字母信號的估計?參考文獻(xiàn):? 1 CARDOSO L J F. Multidimensional independent component analysisC/ Proceedings of the 1998 IEEE International Conference on Acoustics, Speech and Signal Processing. Piscataway: IEEE, 1998, 4: 1941-1944. ?2 SHARMA A, PALIWAL K K. Subspace independent component analysis using vector ku

14、rtois J. Pattern Recognition, 2006, 39(11):2227-2232. ?3 YEREDOR A. Blind source separation via the second characteristic functionJ. Signal Processing, 2000,80(5):897-902. ?4 THEIS F J. Towards a general independent subspace analysis C/ NIPS 2006: Twentieth Annual Conference on Neural Information Pr

15、ocessing Systems. S.l.: NIPS, 2006: 1-8.http:/books.nips.cc/papers/files/nips19/NIPS2006_0621.pdf ?5 THEIS F J. Blind signal separation into groups of dependent signals using joint block diagonalization C/ ISCAS 2005: IEEE International Symposium on Circuits and Systems. Kobe, Japan: s.n., 2005: 587

16、8-5881. ?6 梁勝杰,張志華, 崔立林,等.基于主成分分析與核獨(dú)立成分分析的降維方法J.系統(tǒng)工程與電子技術(shù),2011,33(9):2144-2148. ?7 吳小培,馮煥清,周荷琴,等.基于獨(dú)立分量分析的混合聲音信號分離J.中國科學(xué)技術(shù)大學(xué)學(xué)報,2001,31(1):68-73. ?8 楊福生,洪波.獨(dú)立分量分析的原理與應(yīng)用M .北京:清華大學(xué)出版社,2006. ?9 CHAWLA M P S. Detection of indeterminacies in corrected ECG signals using parameterized multidimensional indep

17、endent component analysis J. Computational and Mathematical Methods in Medicine, 2009,10(2):85-115. ?10 趙峰. 獨(dú)立成分分析改進(jìn)算法與仿真研究D. 大連:大連交通大學(xué), 2010. ?11 孟繼成，楊萬麟.獨(dú)立分量分析在模式識別中的應(yīng)用J.計算機(jī)應(yīng)用，2004,24(8):28-29,31. ?12 路威,張杭.基于獨(dú)立成分分析的MPSK信號調(diào)制制式自動識別J.系統(tǒng)仿真學(xué)報,2008,20(7):1846-1848,1891. ?13 聶琨坤,傅彥.用ICA提取高維科學(xué)數(shù)據(jù)的特征 J.計算機(jī)

18、科學(xué),2004,31(6):164-167. ?14 何元磊,劉代志,易世華,等.基于獨(dú)立成分分析的高光譜圖像異常檢測J.光學(xué)技術(shù),2011,37(2):203-207. ?15 HYVARINEN A, KARHUNEN J, OJA E.獨(dú)立成分分析M. 周宗潭，董國華，徐昕,等譯.北京:電子工業(yè)出版社,2007. ?16 馮燕,何明一,宋江紅,等.基于獨(dú)立成分分析的高光譜圖像數(shù)據(jù)降維及壓縮J.電子與信息學(xué)報,2007,29(12): 2871-2875. ?17 CHOI H, CHOI S. Relative gradient learning for independent subs

19、pace analysis C/ Proceedings of the 2006 International Joint Conference on Neural Networks. Washington, DC: IEEE, 2006: 3919-3924. ?18 HYVARINEN A, HOYER P O. Emergence of phase and shift invariant features by decomposition of natural images into independent feafture subspacesJ. Neural Computation,2

20、000,12(7):1705-1720. ?19 FEVOTTE C, THEIS F J. Orthonormal approximate joint block.diagonalization, GET/Telecom Paris 2007D007 R/OL. 2011-06-16. http:/service.tsi.enst.fr/cgi.bin/valipub download.cgi?dId=34. ?20 BACH F R, JORDAN M I. Finding clusters in independent component analysis, CSD.?02.?1209 R. Berkeley