主元分析法PCA及研究現(xiàn)狀

主元分析法PCA及研究現(xiàn)狀隨著工業(yè)與信息科學(xué)技術(shù)的快速發(fā)展、工業(yè)的生產(chǎn)規(guī)模越來就大，生產(chǎn)工藝以及生產(chǎn)流程變得越來越復(fù)雜，這對(duì)傳統(tǒng)的機(jī)理建模與控制策略提出了更大的挑戰(zhàn)，尤其是崔石油、化工、冶金、機(jī)械等行業(yè).在復(fù)雜的工業(yè)過程中，數(shù)據(jù)在觀模上從幾十個(gè)到成千個(gè)變量或節(jié)點(diǎn)，而且混雜的信息來源*高度的非線性、系統(tǒng)變量之阿的強(qiáng)耦合等特性適成了系統(tǒng)的復(fù)雜性大大的提髙?很難對(duì)工業(yè)過程的研究對(duì)數(shù)進(jìn)行精確的機(jī)理建?；蛘吆茈y采用單一的數(shù)學(xué)橫型的形式來表示?而龐大的工業(yè)往純數(shù)據(jù)與離線數(shù)據(jù)中含有大量的過程信息，期望獲得有菠地利用這些工業(yè)數(shù)據(jù)進(jìn)行建模,控制與監(jiān)控的新方法，這些都推動(dòng)舉于數(shù)鋸驅(qū)動(dòng)的方法的產(chǎn)生.數(shù)據(jù)驅(qū)動(dòng)的方法自產(chǎn)生以來，受到各界學(xué)者的廣泛關(guān)注并被應(yīng)用于各個(gè)領(lǐng)域的數(shù)據(jù)處哩與應(yīng)用中山叫在工業(yè)過程領(lǐng)域，有工業(yè)建?？刂普窘袥Q策居％調(diào)度陽刃及故漳診斷|5汨等幾個(gè)重娶分支，針對(duì)于各個(gè)分支存在的問題，許多學(xué)者圍繞著數(shù)盤駆動(dòng)的方法進(jìn)行廣泛的研究與深入的探討”所謂數(shù)據(jù)驅(qū)動(dòng)方法主要矍依據(jù)研究對(duì)象的歷史數(shù)據(jù)信息?在這些信息中查找井摘取有用的特征信息以描述對(duì)象的變化規(guī)律，建立對(duì)象的數(shù)據(jù)模型.而隨著計(jì)算機(jī)及數(shù)據(jù)存儲(chǔ)技術(shù)的發(fā)展，大量的歷史數(shù)攥信息被保存下來，不可能對(duì)每組數(shù)據(jù)都逐一進(jìn)行分折.數(shù)據(jù)驅(qū)動(dòng)方法的主要思想是選擇有效的數(shù)據(jù)分析方法，剔除兀余的信息并將高維的在線或者離線的數(shù)據(jù)信息用低維變量信息有效地表征’準(zhǔn)鋪的表征系統(tǒng)的特性，以實(shí)現(xiàn)對(duì)象在線的預(yù)測(cè)與監(jiān)控.近幾年來，許多學(xué)者將多元數(shù)據(jù)統(tǒng)計(jì)的方法應(yīng)用到數(shù)據(jù)驅(qū)動(dòng)的方法中，包括主元分析法(PCA).偏最小二來方注(PLS).獨(dú)立主元分析(ICA).因子分析(FAX以及支持向輦基(SVM).豐富并推動(dòng)了數(shù)據(jù)駆動(dòng)技術(shù)的發(fā)展以及在工業(yè)領(lǐng)域里面的應(yīng)用?其中最具代表性的是主元分析it(PCA)與偏最小二乘方法(PLS),其以提取主元’消除共拔性，降低系統(tǒng)維數(shù)的特性，將龐大的高維數(shù)據(jù)采用低維的數(shù)據(jù)信遲、表征，這為工業(yè)過程屮未知楔型的工業(yè)對(duì)象的建摸及控制器的設(shè)計(jì)提供了便制的工具，采用PLS等數(shù)據(jù)驅(qū)動(dòng)方法進(jìn)行建模與及控制器的設(shè)計(jì)對(duì)復(fù)雜工業(yè)過程系統(tǒng)的研究具有實(shí)際意義與應(yīng)用價(jià)值.主元分析方法（PCA）是最常用的多變量統(tǒng)計(jì)技術(shù)，其首先被Pearson1121在1901年提出，后來被HoteHingZ改進(jìn)，形成了具有降維特性和特征提取的多元統(tǒng)計(jì)方法?主元分析是釆用一種正交數(shù)學(xué)變換將一組可能相關(guān)變量的觀測(cè)值轉(zhuǎn)化成一組線性不相關(guān)的變量的值，該不相關(guān)變量被稱為主元.主元變量的個(gè)數(shù)小于或等于原變量的個(gè)數(shù).定義該變換使第一個(gè)主元具有最大可能的方差，后面的主元在保證與之前主元正交的情況下具有盡可能大的方差?僅當(dāng)數(shù)據(jù)是聯(lián)合正態(tài)分布時(shí)，主元之間是相互獨(dú)立的.PCA對(duì)原變量之間的相關(guān)度比較敏感，在不同的領(lǐng)域里又被稱為霍特林變換、離散KLT變換或適當(dāng)正交分解.PCA通過將數(shù)據(jù)投彩到低維的空間并最大可能地表征原數(shù)據(jù)的特性，來處理高維、噪聲、髙度相關(guān)性的數(shù)據(jù)，并成為過程監(jiān)控領(lǐng)域里最廣泛的數(shù)據(jù)驅(qū)動(dòng)技術(shù).到目詢?yōu)橹拱l(fā)展成為了一種進(jìn)行探索性數(shù)據(jù)分析以及與預(yù)測(cè)模型的有效工具，其通過采用協(xié)方差或相關(guān)性矩陣的特征提取，或采用一組數(shù)據(jù)矩陣的信號(hào)值分解的方法實(shí)現(xiàn)。近幾十年來，學(xué)者利用PCA的提取主元與降維的特性對(duì)其進(jìn)行了深入的研究，使PCA理論的發(fā)展并更廣泛的應(yīng)用于不同的學(xué)科領(lǐng)域.Wold,,4）等學(xué)者采用交叉檢驗(yàn)的方法來確定PCA主元個(gè)數(shù)，并將基于該方法的PCA用于模型預(yù)測(cè)中.Kul，s,首先將“時(shí)間滯后轉(zhuǎn)移”的方法引入到統(tǒng)計(jì)監(jiān)控領(lǐng)域，將先前的靜態(tài)PCA的監(jiān)控方法擴(kuò)展為動(dòng)態(tài)的PCA方法，以應(yīng)用于動(dòng)態(tài)多變量系統(tǒng)的干擾檢測(cè).某些復(fù)雜的化工過程或者工業(yè)流程中存在特定的非線性特性，而原有線性PCA很難適用于某些非線性場(chǎng)合，為了處理非線性數(shù)據(jù)，Kramer1'6'提出了一種基于自聯(lián)想神經(jīng)網(wǎng)絡(luò)的非線性PCA（NLPCA）,然而該方法采用的五層神經(jīng)網(wǎng)絡(luò)很難訓(xùn)練.Dong與McAvoy切改進(jìn)了Kramer的算法,將主元曲線與神經(jīng)網(wǎng)絡(luò)有機(jī)結(jié)合，提出另一種非線性PCA,其采用非線性優(yōu)化命題的求解來計(jì)算主元曲線和訓(xùn)練神經(jīng)網(wǎng)絡(luò)，其主元個(gè)數(shù)在神經(jīng)網(wǎng)絡(luò)訓(xùn)練之前預(yù)先設(shè)定，當(dāng)個(gè)數(shù)發(fā)生變化時(shí)整個(gè)訓(xùn)練過程從新開始.ScholkopffZH等人提出了另一種非線性的核PCA(KPCA)建模方法，KPCA利用積分因子和非線性核函數(shù)以有效地在高維特征空間里面計(jì)算主元，其首先通過非線性描述將輸入空間投影到特征空間，然后在特征空間里面計(jì)算主元，與其他的非線性PCA相比，其最大的優(yōu)點(diǎn)是不用求解復(fù)雜的非線性問題僅需要求解特征值問題，同時(shí)KPCA可采用不同的核，因此可處理更廣泛的非線性問題.復(fù)雜過程受到環(huán)境改變，設(shè)備的老化等因素彫響，或者是系統(tǒng)本身的過程模型具有時(shí)變的特性，工業(yè)生產(chǎn)過程通常表現(xiàn)出緩慢變化的特性，如催化劑的失活，傳感器與過程漂移等，表現(xiàn)在數(shù)據(jù)均值或方差的變化，變量之問的相關(guān)性的變化，大量主元的變化.針對(duì)時(shí)變系統(tǒng)的自適應(yīng)過程監(jiān)控問題，Wold1221論述采用指數(shù)加權(quán)滑動(dòng)平均(EWMA)濾波器與PCA結(jié)合，提出了EWA?PCA算法以實(shí)現(xiàn)模型更新.RigopoulosS在一個(gè)模擬造紙機(jī)描述中引入一個(gè)類似的移動(dòng)窗口的方案來更新模型.Ranna&I采用類似于EWA-PCA的分層PCA的方案用于自適應(yīng)批量監(jiān)控.Qin^l提出了完整的自適應(yīng)遞推算法應(yīng)該考慮的幾個(gè)方面，即基于方差和基于相關(guān)性的PCA的均值進(jìn)行遞推更新；有效地PCA計(jì)算方法包括采樣點(diǎn)的更新與塊單位的更新；當(dāng)大量的主元發(fā)生變化時(shí)，遞推更新主元；置信區(qū)間的遞推確定以便講行實(shí)時(shí)監(jiān)控.考慮到以上幾點(diǎn)，Qin提出兩種遞推的PCA(RPCA)用于自適應(yīng)的過程監(jiān)控.Kruger1261^出帶有記憶存儲(chǔ)的滑動(dòng)窗口的核PCA算法監(jiān)控算法，實(shí)現(xiàn)了KPCA的自適應(yīng)在線更新.自適應(yīng)PCA算法的提出為采用多變量數(shù)據(jù)統(tǒng)計(jì)方法的時(shí)變系統(tǒng)的監(jiān)控奠定了基礎(chǔ)，并使各種改進(jìn)的遞推PCA廣眨的應(yīng)用不同的實(shí)時(shí)系統(tǒng)中.間歇過程與連續(xù)過程相比而言，其具有離度的非線性，時(shí)變性、不確定性。對(duì)于多階段批處理過程，不同的階段存在不同的協(xié)方差結(jié)構(gòu)，因此考慮不同的階段采用不同的模型可達(dá)到更好的效果?許多學(xué)者針對(duì)問歇過程的情況進(jìn)行了PCA算法上的改進(jìn).Westerhuis1271提出多塊PCA算法，改善了PCA針對(duì)多變量模型的解釋性，Nomikos與MacGregor1281提出多階段主元分析法(MPCA),將間歇過程的三維數(shù)據(jù)%(/xJxK)展開成二維數(shù)據(jù)X(lxKJx)進(jìn)行PCA處理.Wold1291提出另一種MPCA,將一次間歇周期中的所有的數(shù)據(jù)構(gòu)成的向量作為樣本并轉(zhuǎn)化成為低維的主元向量，并在主成分和模型殘差空間分別進(jìn)行PCA過程檢測(cè).還有許多學(xué)者將非線性主元分析擴(kuò)展到問歇過程提出多相主元分析模型(MN1PCA)”)，而這些方法更關(guān)心系統(tǒng)的動(dòng)態(tài)特性