測(cè)井時(shí)間序列的支持向量機(jī)回歸預(yù)測(cè)2

測(cè)井時(shí)間序列的支持向量機(jī)回歸預(yù)測(cè)摘要統(tǒng)計(jì)學(xué)習(xí)理論是針對(duì)小樣本情況下的機(jī)器學(xué)習(xí)理論，其核心思想是通過控制學(xué)習(xí)機(jī)器的復(fù)雜度實(shí)現(xiàn)對(duì)學(xué)習(xí)機(jī)器推廣能力的控制。支持向量機(jī)能夠盡量提高學(xué)習(xí)機(jī)的推廣能力，即使由有限數(shù)據(jù)集得到的判別函數(shù)對(duì)獨(dú)立的測(cè)試集仍能夠得到較小的誤差。因此，本文把支持向量機(jī)用于測(cè)井時(shí)間序列的回歸預(yù)測(cè)。首先，介紹了時(shí)間序列和支持向量機(jī)的基礎(chǔ)理論。其次，詳細(xì)介紹了支持向量機(jī)的回歸原理和算法。最后，本文根據(jù)石油地質(zhì)勘探的實(shí)際問題，將支持向量機(jī)運(yùn)用測(cè)井曲線預(yù)測(cè)儲(chǔ)層參數(shù)——孔隙度。結(jié)果表明，該方法預(yù)測(cè)精度高，方法穩(wěn)定有效。支持向量機(jī)較好的解決了小樣本測(cè)井勘探的實(shí)際問題。關(guān)鍵詞：支持向量機(jī)；時(shí)間序列；回歸預(yù)測(cè)LoggingtimeseriessupportvectormachineregressionAbstract:Statisticaltheoryisacaseofmachinelearningtheorywhichisbasedonsmallsample.It’scoreideaisthemachinebycontrollingthecomplexityoflearningtoachievethepromotionoftheabilityoflearningmachinecontrol.Supportvectormachinetomaximizethegeneralizationabilityoflearningmachine,evenifalimiteddatasetobtainedfromthediscriminantfunctionontheindependenttestsetwillbesmallerstillerror.Therefore,thesupportvectormachineisusdtologgingtimeseriesregression.Firstofall,thisarticleintroducesthetheoryofthetime-seriesandthebasisofsupportvectormachine.Second,itintroducesdetailedinformationonthereturnofsupportvectormachinetheoryandalgorithm.Finally,thisarticleinaccordancewiththeactualgeologicalexplorationofoilwillbetheuseofsupportvectormachinepredictionofreservoirparameterslogging-porosity.Theresultsshowthathighpredictionaccuracyofthemethod,astableandefficientmethod.Supportvectormachinetoresolvebetterthesmallsampleofthepracticalproblemsloggingexploration.底Keywo滲rds欠：有sup月port漁vecto盡rmac先hines板；藍(lán)time鵝serie高s郵；嬸regr脅essio童n目錄腰第瓣1章況前男言聲1.1馬選題意義竹本課題的主陵要目的是研釣究支持向量醋機(jī)預(yù)測(cè)儲(chǔ)層臂巖性參數(shù)問渾題。在估計(jì)跌孔隙度的過早程中，測(cè)井質(zhì)的數(shù)目往往硬是固定且有猴限的，后支持向量機(jī)伴在解決小樣燈本問題中表舞現(xiàn)出許多特濱有的優(yōu)勢(shì)S慌VM方法的眾幾個(gè)主要優(yōu)逮點(diǎn)有：燙1.是專門黃針對(duì)有限樣脖本情況的，李其目標(biāo)是得浮到現(xiàn)有信息棵下的最優(yōu)解倆而不僅僅是陸樣本數(shù)趨于且無窮大時(shí)的遼最優(yōu)值；穗2.算法最右終將轉(zhuǎn)化成陷為一個(gè)二次愁型尋優(yōu)問題癢，從理論上注說，得到的辱將是全局最留優(yōu)點(diǎn)，解決喚了在神經(jīng)網(wǎng)鈴絡(luò)方法中無晴法避免的局瘡部極值問題摔；胞3.算法將捆實(shí)際問題通查過非線性變菌換轉(zhuǎn)換到高男維空間，在方高維空間中弱構(gòu)造線荒性逼近函數(shù)蟲來實(shí)現(xiàn)原空疊間中的非線鹿性逼近函數(shù)頂，特殊性質(zhì)摧能保證學(xué)習(xí)補(bǔ)機(jī)有較好的泄推廣能力，技同時(shí)，它巧嗚妙地解決了繁維數(shù)問題，懇使其算法復(fù)踩雜度與維數(shù)和無關(guān)。雪對(duì)于小樣本巴的分類問題陣,士SVM巖具有調(diào)節(jié)參悶數(shù)較少、運(yùn)將算速度快等壁優(yōu)點(diǎn)。通過袖地震或測(cè)井加等信息進(jìn)行惱油氣預(yù)測(cè)是腐一種典型的儀非線性分類氣器設(shè)計(jì)問題咽,它具有已硬知樣本數(shù)較逢少、屬性空穿間維數(shù)高、閘沒有明確的譽(yù)對(duì)應(yīng)關(guān)系模盡型等特點(diǎn)。洋因此，選擇檔支持向量機(jī)鄰對(duì)其進(jìn)行預(yù)截測(cè)。衣1.2柏研究現(xiàn)狀遍近十幾年來壽的測(cè)井技術(shù)咐，特別是2晶0世紀(jì)90奸年代后，取舉得了重大進(jìn)晨展。按照傳洋統(tǒng)的觀點(diǎn)，儉測(cè)井技術(shù)在侵油氣勘探與值開發(fā)中，僅黎僅對(duì)油氣層皇做些儲(chǔ)層儲(chǔ)篩集性能和含斜油氣性能(辱孔隙度、滲父透率、含油逮氣飽和度和徐油水的可動(dòng)鈴性)定量或致半定量的評(píng)研價(jià)工作，這束已遠(yuǎn)遠(yuǎn)跟不鼻上油氣工業(yè)庫迅猛發(fā)展的擇需要。而當(dāng)燥今測(cè)井工作記中評(píng)價(jià)油氣吳藏的理論、援方法技術(shù)有戚了長足的發(fā)幻展，解決地茄質(zhì)問題的領(lǐng)下域也在逐步售擴(kuò)大。90泡年代，統(tǒng)計(jì)湯學(xué)習(xí)理論洲(及Stati痕stica葵l物L(fēng)earn暮ing棄T斤heory擋，SLT苦)是一種處糠理小樣本的演統(tǒng)計(jì)理論，厭為研究有限艷樣本情況下施的統(tǒng)計(jì)模式桐識(shí)別和更廣擔(dān)泛的機(jī)器學(xué)值習(xí)問題建立絞了一個(gè)較好笑的理論框架誘，同時(shí)發(fā)展直了一種新的扶方法卵——峽支持向量機(jī)塞(學(xué)Suppo棍rtVe宵c(diǎn)tor炕Machi曾ne賠,簡(jiǎn)宰稱銜SVM特)，能較好床地解決小樣進(jìn)本學(xué)習(xí)問題僚。由于神經(jīng)批網(wǎng)絡(luò)等較新木興的機(jī)器學(xué)魂習(xí)方法的研昨究遇到一些敵重要的困難恰，比如如何佛確定網(wǎng)絡(luò)結(jié)轎構(gòu)的問題、同過學(xué)習(xí)與欠湯學(xué)習(xí)問題、哈局部極小點(diǎn)斜問題等，使竟得灣SVM美迅速發(fā)展和左完善，在解墻決小樣本、團(tuán)非線性及高懷維模式識(shí)別譜問題中表現(xiàn)略出許多特有惡的優(yōu)勢(shì)，并寨能夠推廣應(yīng)有用到函數(shù)擬瘡合等其他機(jī)斗器學(xué)習(xí)問題零中。告支持向量機(jī)活(庫SVM慣)是數(shù)據(jù)挖萬掘中的一個(gè)勁新方法，能計(jì)非常成功地荒處理回歸問生題(時(shí)間序掘列分析)和柏模式識(shí)別(思分類問題、俗判別分析)攻等諸多問題訪，并可推廣賤于預(yù)測(cè)和綜昆合評(píng)價(jià)等領(lǐng)榨域。鞠1.3秩論文內(nèi)容蕩具體來說，今《圣測(cè)井時(shí)間序偽列的士支持向量機(jī)霸的回歸預(yù)測(cè)羨》愈的研究內(nèi)容輝包括以下脾四親章：躬第一章：前激言。倡闡述支持向歷量機(jī)在測(cè)井匪屬性參數(shù)預(yù)響測(cè)地質(zhì)屬性機(jī)數(shù)據(jù)中的應(yīng)巷用研究課題淺提出的目的啦和意義，在猶綜合查閱各異類相關(guān)文獻(xiàn)指和分析專利例檢索及手工侵檢索結(jié)果的障基礎(chǔ)上評(píng)述掏國內(nèi)外研究慮概況和存在怎的問題，確我定本文研究記內(nèi)容的意義危和研究方法煮的可行性。兇第二章：測(cè)柄井時(shí)間序列泉。主要講述喇了時(shí)間序列儉的意義以及筒時(shí)間序列的廉預(yù)測(cè)方法，盛測(cè)井?dāng)?shù)據(jù)可崗以把它看成豪為時(shí)間序列汁。租第三章：支出持向量機(jī)的端原理和方法音。本章介紹維了支持向量妙機(jī)的基本原縮理，支持向練量分類，以灑及支持向量琴回歸。擁第四章：測(cè)上井時(shí)間序列退的支持向量裂機(jī)回歸渣預(yù)測(cè)。本章女是說研究的重點(diǎn)掩，主要依據(jù)睬測(cè)井屬性參墾數(shù)用支持向屈量機(jī)預(yù)測(cè)儲(chǔ)闖層屬性孔隙疫度，愛并得到預(yù)測(cè)東結(jié)果。土第仔2雅章塑測(cè)井時(shí)間序還列蓋2.1熊時(shí)間序列概換述鋪時(shí)間序列預(yù)莊測(cè)研究始于米20世紀(jì)8馬0年代初期暖。時(shí)間序列嫩預(yù)測(cè)方法從劫廣義上可減以分為定性阻預(yù)測(cè)和定量犬預(yù)測(cè)。定性凡預(yù)測(cè)是由預(yù)齡測(cè)者利用以授往的經(jīng)驗(yàn)，盆憑借直覺封做出的預(yù)感霉和猜測(cè)，具孕有較大的主爹觀性。定量役預(yù)測(cè)是指運(yùn)豎用數(shù)學(xué)或統(tǒng)亮計(jì)方法建感立數(shù)學(xué)模型正，對(duì)歷史統(tǒng)倦計(jì)數(shù)據(jù)進(jìn)行承分析，從而懶對(duì)未來的發(fā)蹄展做出預(yù)測(cè)找，預(yù)測(cè)結(jié)尖果的準(zhǔn)確性換與數(shù)學(xué)模型麻的選擇密切衛(wèi)相關(guān)。長期注以來，國內(nèi)賤外學(xué)者對(duì)時(shí)驕間序列預(yù)測(cè)喚的理論和方擠法已做了拴大量研究，計(jì)提出了各種未各樣的預(yù)測(cè)魄建模方法，壇這些方法大乘致可分為兩滴大類，一類章是以時(shí)間序磁列法為代表言的傳統(tǒng)方法掛，另一類是房以人工神經(jīng)意網(wǎng)絡(luò)法為代嘴表的新型人繩工智能方法窗。傳統(tǒng)方法散中主要有時(shí)漏間序列法、尼多元線性回絞歸法及傅立較葉展開法等腹，傳統(tǒng)方法遵比較成熟，廣算法簡(jiǎn)單，遲速度快。然糟而，傳統(tǒng)方要法都是線性佩模型方法，饞因此在遇到拖本質(zhì)非線性彼問題時(shí)就顯劍得無能為力飛。支持向量膨機(jī)在處理非恢線性問題時(shí)酷，首先將非吸線性問題轉(zhuǎn)獅化為高維空清間中的線性待問題，然后掘用一個(gè)核函炸數(shù)來代替高晝維空間中的堅(jiān)內(nèi)積運(yùn)算，證從而巧妙地催解決了復(fù)雜厭計(jì)算問題，見并且有效地議克服了維數(shù)褲災(zāi)難及局部貓極小問題。側(cè)時(shí)間序列是煩指按時(shí)間順衛(wèi)序排列的一倉組數(shù)據(jù)。從部統(tǒng)計(jì)意義上臘講，所謂時(shí)筍間序列就是肥將某一個(gè)指懇標(biāo)在不同時(shí)減間上的不同煤數(shù)值，按照固時(shí)間的先后可順序排列而心成的數(shù)列。踩這種數(shù)列由棚于受到各種盞偶然因素的么影響，往往安表現(xiàn)出某種慶隨機(jī)性，彼和此之間存在貍著統(tǒng)計(jì)上的臭依賴關(guān)系。沃從數(shù)學(xué)意義至上講，如果鳥我們對(duì)某一撇個(gè)變量或一插組變量若進(jìn)行觀察測(cè)舟量，在一系亞列時(shí)刻QUOTE咱得到的離散釣有序數(shù)集合QUOTE輪稱為離散數(shù)裙字時(shí)間序列向，即隨機(jī)過棕程的一次樣擾本實(shí)現(xiàn)。設(shè)QUOTE鳴是一個(gè)隨機(jī)茄過程，QUOTE扯是在時(shí)刻凱i腳對(duì)過程訴的觀測(cè)值，管則QUOTE乞稱為一次樣爸本實(shí)現(xiàn)，也香就是一個(gè)時(shí)土間序列。從幟系統(tǒng)意義上置講，時(shí)間序?yàn)V列就是某一隨系統(tǒng)在不同迅時(shí)間（地點(diǎn)泊，條件等）抓的響應(yīng)。這篩時(shí)間序列具喉有如下的特伯點(diǎn)：首先，下系序列中的乒數(shù)據(jù)或數(shù)據(jù)糞點(diǎn)的位置依寇賴于時(shí)間，廢即數(shù)據(jù)的取尤值依賴于時(shí)魯間的變化，垂但不一定是故時(shí)間屋t鎮(zhèn)的嚴(yán)格函數(shù)吸。其次，每挖一時(shí)刻上的截取值或數(shù)據(jù)撞點(diǎn)的位置具例有一定的隨董機(jī)性，不可緩能完全準(zhǔn)確珍地用歷史預(yù)仗測(cè)值。再次鄭，前后時(shí)刻半（不一定是功相鄰時(shí)刻）晌的數(shù)值或數(shù)由據(jù)點(diǎn)的位置艷有一定的相偉關(guān)性，這種忍相關(guān)性就是癢系統(tǒng)的動(dòng)態(tài)幅規(guī)律。最后飼，從整體上地看，時(shí)間序辣列往往呈現(xiàn)悅某種趨勢(shì)性角或出現(xiàn)周期辛性變化的現(xiàn)樣象。飲2.2闊時(shí)間序列的隊(duì)預(yù)測(cè)方法切鏟時(shí)間序列線援性預(yù)測(cè)方法甩一般來說，陪時(shí)間序列受效趨勢(shì)變化因碗素、季節(jié)變間化因素、循框環(huán)變化因素杜與不巾規(guī)則因素等畝四種因素的惑影響。70進(jìn)年代，由于于Box－J閱enkin斬s劣模型的內(nèi)提出，使得蹲時(shí)枯間序列方法四得以迅速發(fā)丟展，并很快嫩成為預(yù)測(cè)領(lǐng)竿域的主要方店法之一。主橋要方法有：肚1.移動(dòng)平他均法擺移動(dòng)平均是連預(yù)測(cè)技術(shù)中蔽的一種古老軟方法。它對(duì)縱一組給定的私歷史數(shù)據(jù)，餐計(jì)算其引平均值，并兵將這一平均怎值作為下一廈時(shí)期的預(yù)測(cè)映值。移動(dòng)平欲均分為移動(dòng)寇算術(shù)平均挎與移動(dòng)幾何已平均，以及炕移動(dòng)加權(quán)平評(píng)均。這種方捧法非常簡(jiǎn)單荷但其預(yù)測(cè)精飼度是撿比較低的。棒2.分解方速法復(fù)分解方法也業(yè)是一種歷史仙悠久的方法折，它的基本迫思想是將預(yù)蘿測(cè)數(shù)據(jù)分解艇為季控節(jié)因子、趨推勢(shì)因子、循惰環(huán)因子和誤雪差或隨機(jī)因刮子。這種方期法單獨(dú)使用蠻效果并不將好，但是它拜作為識(shí)別數(shù)紋據(jù)特性的一哈種方法，仍困然有雄其深刻的影必響力。目前芳的一墾些調(diào)整方法愿可視為是在松其思想上的幸延伸。淚3.季節(jié)系損數(shù)法首周期性演變炸的活動(dòng)是常冤見的事情。測(cè)隨著季節(jié)變告化而發(fā)生的職周期性的需價(jià)求變草化就是例子醬，如水果、患蔬菜、四季商服裝、啤酒明、冷飲的銷躲售量、火車籠乘客、旅游黎觀光的人數(shù)凝等。反映在烤時(shí)間序列資窄料上，統(tǒng)計(jì)脊數(shù)據(jù)呈現(xiàn)明楚顯的有規(guī)律扭的季節(jié)妙變動(dòng)。季節(jié)宏系數(shù)法就是言根據(jù)這一規(guī)蹤律進(jìn)行預(yù)測(cè)趨的方法。在秩實(shí)際預(yù)測(cè)時(shí)污，要用季室節(jié)系數(shù)修正診沒有考慮季仁節(jié)影響的預(yù)敗測(cè)值。發(fā)4.嘆Box－J扇enkin生s盾方法灣由于核Box網(wǎng)和Jenk呀ins的開與拓性工作，伐自回歸移動(dòng)舌平均(AR企IMA)模全型仍是時(shí)間飾序列分換析的中心課骨題，Box滅和贈(zèng)Jenki影ns描的著作《T愉imes問eries辨Anal型ysis：蛛Forec炸astin英g脆andC補(bǔ)ontro騰l》，曾一早度成為時(shí)間寺序列分析的畫主要方法。釋Box-J藍(lán)enkin抖s方法在統(tǒng)辰計(jì)學(xué)寨上是完善的掙，有牢固的痕理論基礎(chǔ)，嬌有一套完整撈的程式化的字建模方法。攪但同時(shí)這管種方法是復(fù)須雜的，對(duì)數(shù)維據(jù)的性質(zhì)也騾有一定的要老求。另外它充還要求研究威者有較高翁的專業(yè)知識(shí)丸，對(duì)問題有黃深刻的認(rèn)識(shí)壓。關(guān)于Bo釋x-Jen堂kins方邊法的預(yù)測(cè)精以度，對(duì)于不堵同的運(yùn)用環(huán)刮境有著不同倉的結(jié)論。但校是這些方法宴大都側(cè)重于走理論研究，投追求理論上赴的完善，以撥至于成許多方法很抵不實(shí)用，真凈正能夠用于流解決實(shí)際問倦題的很少?？缋缬糜跁r(shí)視間序列分析儉的大多數(shù)方腸法Box-伴Jenki莖ns方法，總均假設(shè)各變盾量之間是一細(xì)種線性關(guān)系籠，這種局限燒性使其在實(shí)亭際應(yīng)用中很層難準(zhǔn)確地進(jìn)遇行分析和預(yù)病測(cè)。因?yàn)樵诒瘜?shí)際的經(jīng)濟(jì)黨系統(tǒng)或工程蟲系統(tǒng)中，總債是或多或少峰地含有非線頸性因素，當(dāng)者非線性因素襯影響較小，劫或在某一范繩圍內(nèi)影響較敲小時(shí)，可以第采用線性模星型來描述或挪逼近。但當(dāng)蕩這種描述或附逼近得不到秩滿意的結(jié)果岡時(shí)，就應(yīng)該狹應(yīng)用非線性撐時(shí)序模型，悶或其它適宜秘的非線性方裂法。同時(shí)，請(qǐng)結(jié)構(gòu)的復(fù)雜朵給應(yīng)用上帶李來了很多困挎難，在預(yù)測(cè)蘿效果上也未牽有一致性的稅進(jìn)展。因此刷，近年來學(xué)團(tuán)者熔們更加注意榨解決在實(shí)際聯(lián)中存在的具礎(chǔ)體問題。軍跡時(shí)間序列的姻非線性預(yù)測(cè)脆方法揚(yáng)在過去的半捆個(gè)多世紀(jì)里甚，時(shí)間序列忠分析、預(yù)測(cè)貓得到了迅速檢的發(fā)展。特析別是對(duì)線性繼時(shí)間序列分宮析的研究，蜘己經(jīng)取得了氏系統(tǒng)和豐富墓的成果。但爺是對(duì)于非線神性時(shí)間序列滋分析的研究復(fù)，僅在近二受十多年里才對(duì)逐漸被重視痕起來。目前駝，非線性時(shí)列間序列已成沸為時(shí)間序列彩分析及預(yù)測(cè)摟理論發(fā)展的難一個(gè)重要研旦究方向?；旆蔷€性模型敬范圍極廣，源形式多樣，臘應(yīng)用起來難書度較大。目課前應(yīng)用較廣玉，成果較多搬的有雙線性叼模型(熱Bilin異ear厚)，條件異要方差模型(番ARCH搶)，和門限蕉自回歸模型夾(墊TRA蠢)等。這些腳是傳統(tǒng)牲的非線性時(shí)調(diào)間序列預(yù)測(cè)受方法，均屬趟于模型驅(qū)動(dòng)縮的方法，即開首先研究系配統(tǒng)的演化行德為，設(shè)定預(yù)跡測(cè)模型，估扶計(jì)、檢驗(yàn)?zāi)q型參數(shù)，最瓶后找出最佳禽模型?；@縱觀國內(nèi)外樣在這一方向湖上的研究，滲前期工作大療多局限于對(duì)肺幾類典型非鉆線性時(shí)間序眉列模型的參感數(shù)辨識(shí)算法筒和建模方法纖等進(jìn)行研究臘，一些代表短性的工作如蛋：射Nicho材l揮ls你和偉Quinn筐(濁1982)冒對(duì)隨機(jī)系數(shù)汪自回歸模型年的討論，勢(shì)Grang抹er,An軟derso勿n擋(1978墳)，以及棄Subba軌RaoG倒abr纖(1984掠)對(duì)雙線性恰模型的分析粘，輔Hagga葉n,Qza奇ki失(1981棍)關(guān)于指數(shù)等自回歸模型脖的討論，此偷外還有卻Ton風(fēng)g(潑1983)蠅關(guān)于門限自唉回歸模型的乏研究，吉Pries鎮(zhèn)tley裳(1980溪)的狀態(tài)依容賴模型等。裝慨自回歸移動(dòng)循平均(際ARMA桶)模型述在建立一個(gè)政實(shí)際時(shí)間序蠶列模型時(shí)，溜可能既有自麻回歸部分，幻又有移動(dòng)平暖均部分，如份：飲或者寫成算吼子形式：鳥簡(jiǎn)記此模型駛為腸，括號(hào)中的是第一個(gè)數(shù)據(jù)侍是自回歸階毀數(shù)，第二個(gè)膽數(shù)據(jù)改是勿移動(dòng)平均的誼階數(shù)，故稱抱之為竿階的自回歸咸移動(dòng)平均模收型。實(shí)際應(yīng)英用中層、前的值很少超例過3。脊對(duì)顆模型，我們東總假定梅和惜（作為變量節(jié)為倍的多項(xiàng)式）屆無公共因子杯，分別滿足勉平穩(wěn)性條件渡和可逆性條順件。如果聾滿足平穩(wěn)性抽條件，稱撿是平穩(wěn)的；手如果僵滿足可逆性政條件，稱腹是可逆的。具對(duì)平穩(wěn)的鴉模型，辣可表示為過最去各期誤差店的線性組合鼻；對(duì)可逆的模模型，勝可表示為過帳去各期數(shù)據(jù)焦的線性組合興。擁由于自回歸球模型不存在畜其它自變量狀，不受模型配變量槳“澡相互獨(dú)立傅”俊假定條件的毀約束。因此榆，用正AR奇模型及其原素理可以構(gòu)成矮多種模型以培消除或改進(jìn)膠普通回歸預(yù)兔測(cè)中由于自頓變量選擇、徑多重共線性斃、序列相關(guān)規(guī)等原因所造遺成的困難。嶼此外，在烏AR某模型中，各士種因素對(duì)預(yù)活測(cè)目標(biāo)的影挪響是通過它尤們?cè)诒瑫r(shí)間過程中目的綜合體現(xiàn)熱被考慮的，堪是將序列歷記史觀察值作礎(chǔ)為諸因素影就響與作用的令結(jié)果用于建診立其本身的愚歷史序列線押性回歸模型村的，因此，全用普通最小型二乘法就可貍以對(duì)模型進(jìn)享行估計(jì)和求填解。這一點(diǎn)堪,AR定模型比其它窩類型的時(shí)間獸序列模型都噸優(yōu)越，應(yīng)用拌得梅也最廣泛。貍僅適用于描叛述平穩(wěn)的時(shí)記間序列，而攻實(shí)際應(yīng)用中獅遇到的時(shí)間建序列往往是穿非平穩(wěn)的，距尤其是在經(jīng)貞濟(jì)管理中碰砌到的時(shí)間序辟列。盡管從畝實(shí)際應(yīng)用的漏角度看，用準(zhǔn)適當(dāng)?shù)淖曰仳_歸模型去近疾似一個(gè)穩(wěn)定響或不穩(wěn)定的碼時(shí)間序列，炎在理論和方琴法上都是可錘行的，但我飾們常用差分鏟化的方法將嗚非平穩(wěn)的序呀列化成平穩(wěn)式序列來求解茄。掉在時(shí)刻t用QUOTE暢對(duì)QUOTE幣的取值進(jìn)行衣預(yù)測(cè)，而QUOTE消是困一個(gè)未知的金隨機(jī)變量，銜由于QUOTE寨之間具有相喘關(guān)性，QUOTE士的概率分布災(zāi)是有條件的歌（即在QUOTE邁已給到定的條件下傭）。QUOTE你的期望也是警有條件的，寺一個(gè)直觀的很想法就是用QUOTE握的條件期望幕作為QUOTE知的預(yù)測(cè)值，除即：湯為了利用條貞件期望計(jì)算匹預(yù)測(cè)值，需鈴要先了解有誓關(guān)時(shí)間序列落和隨機(jī)擾動(dòng)薯的條件期望追所具有的性策質(zhì)：劑常量的條件其期望是其本續(xù)身。魄對(duì)ARMA繡序列而言，偵現(xiàn)在時(shí)刻與塘過去時(shí)刻的跡觀測(cè)值及擾邀動(dòng)的條件期振望是其本身冠，即：野2)未來擾登動(dòng)的條件期祖望為零，即塔：蒸3)未來取滑值的條件期廈望為未來取品值的預(yù)測(cè)值粒，即：稻ARMA冰（勺n,m狹）模型預(yù)測(cè)繭的一般結(jié)果鄙：扯由嗎ARMA工模型:魔可將QUOTE押表示為：浩非模始凱銷晶獵炕年廟沫屑灑(2.貓1)朋利用條件奧期望的性質(zhì)綱對(duì)（2.1武）求條件期冷望，當(dāng)QUOTE迅時(shí)有：御細(xì)氣徹涂坐QUOTEQUOTE部刮贈(zèng)鉛(2.2垂)箏當(dāng)k>m時(shí)趨，上式中的鈴滑動(dòng)平滑部藝分全部消失云，有：QUOTE央析少規(guī)(2.3)瓶式（2.3北）的通解為西（即預(yù)測(cè)函組數(shù)形式）為槳：QUOTE鋸轉(zhuǎn)萍伯獲(2.曲4)悠這里QUOTE掃,其中QUOTE湖的形式由酷模型特征方多程：模的根決定。寫當(dāng)預(yù)測(cè)原點(diǎn)鎖t給定時(shí)陶，系數(shù)QUOTE諸都是常數(shù)，勵(lì)并由模型的吸滑動(dòng)平均部綠分確定，隨汗著預(yù)測(cè)原點(diǎn)轟的變化，這堂些系數(shù)也將杜改變，以使槍預(yù)測(cè)值適應(yīng)茶于序列已觀因測(cè)部分的特御性。綜上所喪述，對(duì)于棋ARMA(朱n,m)鳴模型，自回姓歸部分決定冠了預(yù)測(cè)函數(shù)歷的形式，而女平滑部分則填用于確定預(yù)抖測(cè)函數(shù)中的宗系數(shù)。績有些時(shí)間序鎖列常呈現(xiàn)出槐一種特殊的蠅非平穩(wěn)性，揪稱之為齊次土非平穩(wěn)性：仙只要進(jìn)行一計(jì)次或多次差擔(dān)分就可以將產(chǎn)其化為平用穩(wěn)序列。差育分的次數(shù)稱勿為齊次化的咳階。這樣的論時(shí)間序列可穴用求和自回皆歸－移動(dòng)平賤均模型來描爹述。定義差分料引入差分算鹽子盼。澇階差分可定凡義為堅(jiān)，如二階差奶分=或者次階求和勇自回歸慶—載移動(dòng)平均模詠型為（2.5）武亦即質(zhì)是緒序列印。其中宋為求和階數(shù)貪，勻、時(shí)分別為勾序列的自回冬歸和移動(dòng)平板均的階數(shù)。吊式（難2.掏5歇）所示的求喝和自回歸－頌移動(dòng)平均模顆型用記號(hào)技表示。悅對(duì)這類非平江穩(wěn)的序列，勵(lì)我們假定數(shù)從1開始戲才有定義，研并且假定存的前禮個(gè)隨機(jī)變量干是均值為零濃，方差有限抖且與思不相關(guān)，因老而也與襖不相關(guān)。序活列爆可用它的初渴值債及平穩(wěn)序列娘表達(dá)。事實(shí)攀上，由于差從分的逆運(yùn)算碎是求和，所喝以禾，鴨提（宇2.門6刷）敢其中槐。我們不去農(nóng)推導(dǎo)上述公曉式，僅僅討陡論兩種最簡(jiǎn)應(yīng)單的情況。i)，此時(shí)，米從而式醉（僚2.似6驢）成立。師ii)勒，此時(shí)由上什式知俱同理有扯，代入整理暈知，皺對(duì)于乓序列，它可言以通過風(fēng)階差分化成瞇平穩(wěn)的普序列。罵絨季節(jié)型模型稀在許多的實(shí)晝際問題中，刊時(shí)間序列會(huì)固顯示出周京期變化的規(guī)違律，這種周尺期性是由于介季節(jié)變化或誦其他物理因搖素所致，我衛(wèi)們稱這類序脈列為季節(jié)性巡序列。季節(jié)蜜性時(shí)間序列掘的重要特征葵表現(xiàn)為周期固性。沃對(duì)于聞含有季節(jié)性蹲周期的時(shí)間告序列，也可嫁用季節(jié)差分李的方法將之嫂化成平穩(wěn)序貼列。例如，辯對(duì)月度波動(dòng)健，可以用月麥度差分稱對(duì)北作運(yùn)算片對(duì)季度波動(dòng)歌，可以用季老度差分播消除數(shù)據(jù)中竊的季節(jié)性影穴響。鮑克斯塵—逼詹金斯季節(jié)嶄模型為（2.7）棋若取鋤，則上述模板型可展殃開為蠅有時(shí)隨機(jī)干省擾項(xiàng)范也是與季節(jié)菌相關(guān)的。這鉗時(shí)，可以用催模型枝來描述。例岸如堆就描述了一棍個(gè)既有線性芒發(fā)展趨向、核又含月度周治期變動(dòng)的隨帆機(jī)型時(shí)間序振列模型。如逆能預(yù)測(cè)到般的長期趨勢(shì)憲時(shí)，擴(kuò)就是零均值槽了。換第嘩3北章支壓持向量機(jī)的樂原理和方法桂3.1疼SVM的基埋本思想像SVM雙是從線性可度分的情況下巷的最優(yōu)分類乒面發(fā)展而來塔的，其基本勿思想可用圖堵3幣-1何所示的二維凈情況說明。朵圖3-1趴最優(yōu)分宇類面的示意畢圖驅(qū)圖3磁-1鄭中，實(shí)心點(diǎn)葉和空心點(diǎn)代穩(wěn)表兩類數(shù)據(jù)朽樣本，雀H煌為分類希線，愛H巧1奉,H看2避分別為各類間中離分類線稻最近的數(shù)據(jù)俱樣本且平行科于分類線的畜直線，他們還之間的距離養(yǎng)叫做分類間新隔（聾margi澤n騎）。所謂最挽優(yōu)分類線，獻(xiàn)就是要求分電類線不但能菜將兩類正確熄分開，使訓(xùn)葡練錯(cuò)誤率為灶0滿，而且還要屠使分類間隔運(yùn)最大。前者剃保證經(jīng)驗(yàn)風(fēng)逮險(xiǎn)最?。皇古喾诸愰g隔最鞏大實(shí)際上就孩是使推廣性或界中的置信詠范圍最小，協(xié)從而使真實(shí)瞎風(fēng)險(xiǎn)最小。捉推廣到高維體空間，最優(yōu)叫分類線就成保了最優(yōu)分類賞面。糟附最優(yōu)分類面利設(shè)有兩類線件性可分的樣貸本集合：脈,座線性判別函嶄數(shù)的一般螞形式為恨，對(duì)應(yīng)的分瀉類面方程如搬下：剛將判別函數(shù)搶進(jìn)行歸一化桃，使兩類所返有樣本都滿芽足郵，此時(shí)離分量類面最近的正樣本脆，要求分類疊面對(duì)所有樣主本都能正確溉分類，即滿麗足：（3.1）圓此時(shí)分類間門隔等于訴，間墳隔最大等價(jià)暈于予最小。，滿巨足式（3侍.1殿）且使傅最小的分類糖面就是圖3壟-1捏中的最優(yōu)分品類線目H兄,確H1,H串2均上的數(shù)據(jù)樣核本叫做支持蔥向量（及Suppo域rtVe遞ctor,麻SV爬），因?yàn)樗苽冎瘟俗钫弮?yōu)分類面。藍(lán)因此，最優(yōu)慎分類面問題苗可以表示成培如下的約束輸優(yōu)化問題，體即在式（3脊.1沫）的約束下氣，求如下函電數(shù)的最小值弱：畏嗎s傲.t.青瞧冠動(dòng)肆(值3遞.2)驢為此，定義提如下的弟Lagra罪nge娘函數(shù)：（3.3）暑式中，違為然Lagra豈nge謠乘子。為求產(chǎn)Lagra待nge讓函數(shù)式（法3祥.3賢）的最小值怨，分別對(duì)葛求偏微分并減令他們等于疼0蔥，于是有：不根據(jù)上式和寄（饑2.2慚）的約束條括件徑，可以將上糧述最優(yōu)分類屠面的求解問于題轉(zhuǎn)化為如考下的凸二次挺規(guī)劃尋優(yōu)的步對(duì)偶問題：杠s.t.思抱席宿羽(嚷3完.4)潛式中QUOTE千為對(duì)應(yīng)的玻Lagra曲nge刮乘子，這是淋一個(gè)二次函吸數(shù)尋優(yōu)的問敘題，存在唯魚一解。若QUOTE娃為最優(yōu)解，震則有：QUOTE辭式中QUOTE架不為零的樣超本，即為支伙持向量。因珍此，最優(yōu)分貫類面的權(quán)系疤數(shù)向量是支葬持向量的線袋性組合。QUOTE訊是分類閾值孕，可由約束唐條件晃求解治，解上述問歷題后得到的沈最優(yōu)分類面體函數(shù)為：形妹廣義的最優(yōu)張分類面衡上面的方法姜在保證訓(xùn)練諸樣本全部被顛正確分類（頓即經(jīng)驗(yàn)風(fēng)險(xiǎn)提為零）的前碌提下，通過配最大化分類款間隔來獲得絞最好的推廣喜性能。當(dāng)最員優(yōu)分類面日不能把兩類壓點(diǎn)完全分開剪時(shí)，如果?？谕诮?jīng)驗(yàn)風(fēng)李險(xiǎn)和推廣性類能之間求得亡某種均衡，肆則可以通過筍引入松弛因文子接，允許錯(cuò)分窩樣本的存在膨，此時(shí)的分妻類面裝滿足：（3.5）誘當(dāng)貪時(shí)，樣本點(diǎn)情正確分類；球當(dāng)遺時(shí)，侍樣本點(diǎn)師被蛙錯(cuò)分。為此勺，在最小化謠目標(biāo)作中加入懲罰翁項(xiàng)勝，引入以下福目標(biāo)函數(shù)：（3.6）神式中，奇C狐是一個(gè)正素常數(shù)，稱為這懲罰因子。汽與線性可分冶情況類似。扎上式可通過明如下的二次突規(guī)劃來實(shí)現(xiàn)模：s.t.傷沖萬慘引喪(惰3洲.7)矛對(duì)非線性分述類問題，若救在原始空間還中的簡(jiǎn)單最爸優(yōu)分類面不撤能得到滿意勵(lì)的分類結(jié)果卻，則可以通飄過非線性變仇換轉(zhuǎn)化為某金個(gè)高維空間篩的線性問題儀。在變換空薦間求最優(yōu)分宰類面。變換糠可能比較復(fù)譜雜，在一般躁情況下不易昏實(shí)現(xiàn)，返SVM貧通過核函數(shù)廁變換巧妙地嶄解決了這平個(gè)問題。雞3.2甜支持向量回間歸只樹SVM朵回歸原理埋SVM游回歸問題與納分類問題有哥一些相似，追給定的數(shù)據(jù)晴樣本集合為倡：，其中，QUOTE針回歸問題就賽是尋找QUOTE慎上的一個(gè)函快數(shù)奇，以便用弟來推斷任一漿輸入x所y儀對(duì)應(yīng)的y值休。同支持向量的扔方法應(yīng)用到彼回歸問題中馳，保留了最左大間隔算芽法的所有的速主要特征，浪非線性函數(shù)僅可以通過核殿特征空間的嘩線性學(xué)習(xí)器猾得到。電SVM除回歸算法要立最小化一個(gè)花凸函數(shù)并且例他的解是稀迫疏的。還需蜻要定義一個(gè)掌損失函數(shù)，尺即饒不敏感損失焰函數(shù)，該函朋數(shù)可以忽略晶真實(shí)值某個(gè)竹上下范圍內(nèi)湊的誤差。痰匆線性支持向紐量回歸佩設(shè)數(shù)據(jù)樣本網(wǎng)為n維向量燃，某區(qū)域的友k壯個(gè)數(shù)據(jù)樣本奏及其值的表沾示為:別線性函數(shù)設(shè)厲為:竟優(yōu)化問題即討最小化：讀約束條件為蛇：QUOTEQUOTE歷其中QUOTE梯使函數(shù)更為渠平坦，從而制提高了泛化琴能力，QUOTE千為減小誤差辱，常數(shù)C對(duì)由兩者做出折須中。QUOTE扇為一正常數(shù)燦。QUOTE蓄與QUOTE念的差別小于想時(shí)不計(jì)入誤要差，大于QUOTE險(xiǎn)時(shí)計(jì)為QUOTE恢。這也是一計(jì)個(gè)凸二次優(yōu)態(tài)化問題，引厚入拉格朗日敲函數(shù)：其中，QUOTE膜函數(shù)L應(yīng)對(duì)QUOTE起最小化，對(duì)QUOTE左最大化。函丹數(shù)L的極值熔應(yīng)滿足條件劈：泡從而得到：甚(3.8)邁(給3.9置)酸熄涂QUOTEQUOTE頸由以上各式鐵可以得到優(yōu)丸化問題的對(duì)日偶形式，最獸大化函數(shù)：其約束為:天巨非線性支持準(zhǔn)向量回歸及非線性回歸息與線性回歸糊分類相似。繳首先，使用評(píng)一非線性映送射把數(shù)據(jù)映稼射到一個(gè)高準(zhǔn)維空間，再丸在高維空間蹦進(jìn)行線性回著歸。鋼其關(guān)鍵問題未是核函數(shù)K棕(x,y)古的使用。這趴里，優(yōu)化問嶺題的最腥大化函數(shù)為逝：貓約束條件為榮：惠函數(shù)圖可直接表示蠅成為：慣按照Kuh餐n絮–翠Tucke凳r定理有：QUOTE以（3.繳10隱）QUOTE巖（3.撞11籍）QUOTE令（3.略12延）區(qū)由著（3.攻10劉）（3.鍛11碰）籮可得QUOTE收,即任何一后組QUOTE奔和QUOTE請(qǐng)都不會(huì)同時(shí)幕為非0.儀由漆(3.芒8濁)壺(姜3.澇9牢)及(3熱.艙12灰)唐可得：酷由此可見，持對(duì)應(yīng)于QUOTE彩或QUOTE耗的QUOTE記與QUOTE頃的誤差可能琴大于QUOTE愚，對(duì)應(yīng)于QUOTE飯或QUOTE匠的QUOTE伙與QUOTE門的誤差必然疾等橡于QUOTE乞，即QUOTE糖或QUOTE盜，因此有：斑由以上兩式習(xí)可以求得b斜QUOTE楊支持向量回貍歸建根據(jù)某種概貫率分布QUOTE隙生成的樣本幼：艱支持向量回財(cái)歸（SVR領(lǐng)）問題就是減希望找到適駱當(dāng)?shù)膶?shí)值函再數(shù)QUOTE槳來擬合這些崖訓(xùn)練點(diǎn)，使浪得：蔑最小，其中遭c為損失函赤數(shù)。使觀測(cè)值QUOTE趁與函數(shù)預(yù)測(cè)寄值QUOTE唉之間的誤差文，我們用QUOTE血不敏感函數(shù)汽：哀來度量，即傷當(dāng)楚x么點(diǎn)的觀測(cè)值QUOTE塘與預(yù)測(cè)值QUOTE妖之間的誤差帖不超過事先饒給定的小正悔數(shù)QUOTE叨時(shí)，認(rèn)為該穩(wěn)函數(shù)對(duì)這些臉樣本點(diǎn)的擬鴉合是無差錯(cuò)畝的。吐由于QUOTE俘未知，不能茫直接最小化QUOTE易。因此考慮折最小化：星肯燕胳恭眠湊才姿胖而搞（倍3.屯13紛）彈其中QUOTE具表示函數(shù)QUOTE襯的復(fù)雜性，府后一項(xiàng)表示該訓(xùn)練集上的和平均損失，月常數(shù)C則體嘗現(xiàn)了函數(shù)類誦的復(fù)雜性和棚訓(xùn)練集上的貌平均損失之霉間的折中關(guān)乒系。匯最小化（眠鍋-1古）等價(jià)于最盲優(yōu)化問題：QUOTE臥（3.枯14鐵）逐上述問題的造對(duì)偶形式為浸：棒（浪3.班15房）領(lǐng)其中，QUOTE綿為核函數(shù)。始問題伴（咐3.掠15獄）仆的解為QUOTE花,從而：陶其中QUOTE飄的計(jì)算公式課為：QUOTE賣普通最小二信乘和嶺回歸頁都是QUOTE新的一種特殊羅情況，從這送個(gè)意義上講QUOTE凝是前者的一輝個(gè)推廣。容SVR啊是基于結(jié)構(gòu)綢風(fēng)險(xiǎn)最小化舌，而不是傳笛統(tǒng)意思上的欄經(jīng)驗(yàn)風(fēng)險(xiǎn)最她小化，可以賓保證良好的住預(yù)測(cè)能力。余筋v激-QUOTE物支持向量回杯歸則在QUOTE敲中，需要實(shí)欣現(xiàn)確定損失銷函數(shù)中的參升數(shù)丙。本節(jié)引能褲自動(dòng)計(jì)算QUOTE依的QUOTE眾?？紤]下面械的最優(yōu)化問鉗題：QUOTE剛其中，標(biāo)是一個(gè)非負(fù)球的常數(shù)。上訪述問題的對(duì)辣偶問題為：鳳其中，QUOTE幅和C為常數(shù)你。估計(jì)式為跪：弊墓費(fèi)借驗(yàn)雪(深3.劈16刑)QUOTE層具有以下性乎質(zhì):泰如果問題(菌3.紙16或)得到的QUOTE快不為零，則QUOTE食,其中p為為錯(cuò)誤樣本的壤個(gè)數(shù)，q為勤支持向量的額個(gè)數(shù)。它如柳果QUOTE許的解為QUOTE介,而標(biāo)事先取QUOTE輔為QUOTE姓和QUOTE側(cè)相同的C值乏，那么QUOTE憐得到的解為搞。QUOTE座3.2.吊6綠時(shí)間序列分次析姿基于QUOTE卻的時(shí)間序列票預(yù)測(cè)問題的戰(zhàn)數(shù)學(xué)描述如撐下：設(shè)逢為時(shí)間序列判數(shù)據(jù)以及周籌期為k的輸衣入：北定義預(yù)測(cè)函妄數(shù)：渾支持向量蒙機(jī)時(shí)間序列聰預(yù)測(cè)模型的艦最優(yōu)化問題收為：其中函數(shù):QUOTE位鈔（民3.17槽）幸為QUOTE聾不敏感損失架函數(shù)。豬（篩3.17甩）的對(duì)偶形蔑式為聽：登其中，QUOTE令為核函數(shù)，雄可以釋為輸尋入樣本QUOTE衰的相似度。農(nóng)上述問題是學(xué)凸二次規(guī)劃過，有唯一的薯全局最優(yōu)解貧。如果采用創(chuàng)線性核函數(shù)另，基于SV涼R的時(shí)間序舒列預(yù)測(cè)問題結(jié)的決策函數(shù)誠就是：印即統(tǒng)計(jì)學(xué)上道的K階自回盾歸模型（A些R[K]）竹3.3裳支持向量算若法甲辭支持向量機(jī)言的訓(xùn)練甘算法狗支持向量機(jī)封的最終求解燒問題歸結(jié)為喬一個(gè)有約束圖的二次型規(guī)孤劃（駁QP挪，師Quadr男atic混P期rogra設(shè)mming理）問題?？杉徱岳脴?biāo)準(zhǔn)板二次型優(yōu)化德技術(shù)來求解集這個(gè)優(yōu)化問偏題，如牛頓升法、共軛梯甜度法、內(nèi)點(diǎn)盲法等。但是袋，這些方法身只適合小樣澤本情況，當(dāng)煤樣本數(shù)目較而大時(shí)，算法灶復(fù)雜度會(huì)急陜劇增加，而牢且占用極大閃的系統(tǒng)內(nèi)存寨。為降低計(jì)賴算資源、提意高算法效率升，已經(jīng)提出周許多針對(duì)大弄規(guī)模樣本集輪的訓(xùn)練算法激：五（1）分塊宏算法（啦Chunk徒ing）舌（稈Corte蛛sand贊Vapn咽ik箏，1995習(xí)）膏1995年好，拘Corte豪s脂和窯Vapni喜k紀(jì)給出了一種權(quán)求解支持向熱量機(jī)二次襖規(guī)劃（巴QP佳）問題的分桐塊算法。其遣依據(jù)是支持競(jìng)向量機(jī)的最劇終求解結(jié)果軟只與支持向捷量有關(guān)，與使非支持向量旁無關(guān)。其實(shí)逐現(xiàn)過程是將惜初始據(jù)QP讓問題分解為丸一系列小規(guī)離模的兵QP總子問題，不茅斷的求解雞QP撕子問題，保趴留解中的支史持向量，并盡加入到新的付QP雀子問題中。忠每個(gè)業(yè)QP輸子問題都采貪用上次求解自的結(jié)果作為剝初始值。直刻到所有的端QP屠子問題求解兼完畢。這種價(jià)方法可以大煤大減小算法晝占用的系統(tǒng)千內(nèi)存。然而僵，當(dāng)樣本集浮中的支持向原量數(shù)目很大名時(shí)，其算法朽復(fù)雜度仍然憂很大映（2）子集財(cái)選擇算法衰(網(wǎng)Subse爽tSel點(diǎn)ectio賺nAlg綱orith票ms往)(拍Osuna辮,1997身;園Joac溪hims珠,1998蛋)為加快支授持向量機(jī)的鳳訓(xùn)練速度，籮Osuna譯（1997泡）提出了子庸集選擇算法雙。該方法首勵(lì)先將數(shù)據(jù)集俯分塊，從分籍塊數(shù)據(jù)中提營取支持向量顛，并加以保秀留，然后補(bǔ)除充新的樣本寬，反復(fù)運(yùn)算墾，直至所有凱的樣本都滿多足KKT（爸Karus毀h-Kuh鐘n-Tuc抵ker,f級(jí)orsh餡ort:K育KT誠）（圈Vapni敵k技，1995隊(duì)）收斂條件探。1998象年，興Joach丸ims姿指出，采用舊啟發(fā)式迭代遞策略會(huì)提高男算法的收斂燭速度，并提高出一種稱為音SVMli離ght夫的支持向量陶機(jī)分解學(xué)習(xí)流算法。該算唱法實(shí)際上是對(duì)子集選擇算儀法的推廣。籃（3）序列既最小優(yōu)化算醒法（持SMO，S基e日quent貢ialM謎inima潛lopt誠imiza市tion鋸）竭（針Platt概，1998酸）1998誠年，Pla毅tt提出了衡更為有效的丸支持向量機(jī)多訓(xùn)練算法，弊即序列最小虧優(yōu)化算法。篇其基本思想夢(mèng)是把一個(gè)大訂數(shù)據(jù)量的授QP棍分解為一系久列最小的劫Q(mào)P浪子優(yōu)化問題撐。該算法是稱分解算法的犯一個(gè)極端特?fù)芾Ｆ鋵?shí)現(xiàn)元過程為，每獅次針對(duì)兩個(gè)耀樣本的二次膽規(guī)劃問題，創(chuàng)直接采用解乒析方法求賣其最優(yōu)解，梳以提高死QP喊問題的求解至速度。疤Platt筆設(shè)計(jì)了一個(gè)嫌兩層嵌套循烘環(huán)過程實(shí)現(xiàn)芒其算法。在雞外環(huán)中采用廟啟發(fā)式方法哨尋找違背喇KKT鏈最優(yōu)條件的弊樣本，在內(nèi)怒環(huán)中對(duì)該樣判本的相應(yīng)貍Lagra周nge唯乘子進(jìn)行分奴析窄求解，完成蒸一次優(yōu)化。找不斷重復(fù)此煙過程，直至藥所有樣本都零滿足KKT煮條件。序列匪最小優(yōu)化算語法將工作樣飯本集的規(guī)模偵減少為兩個(gè)秘，直接導(dǎo)致薯了迭代次數(shù)腳的增加。所蜻以序列最小庭優(yōu)化算法實(shí)雕際上是將求探解優(yōu)化問題龍的耗費(fèi)轉(zhuǎn)嫁重到迭代運(yùn)算執(zhí)上。傻Platt亭指出，通過延核優(yōu)化方法皂可以大幅提院高序列最小陣優(yōu)化算法的最性能。該算歸法在訓(xùn)練線室性支持向量森機(jī)時(shí)，可以語獲得非常好煮的性能，但環(huán)在訓(xùn)練屆非線性支持以向量機(jī)時(shí)，表算法速度會(huì)動(dòng)大大減慢。形由于每一個(gè)著子規(guī)劃問題卷的解可以精搜確地給出，弓因此序貫極猾小優(yōu)化算法架既不需要額碎外的矩陣存到儲(chǔ)，而且不土用調(diào)用求解笛二次規(guī)劃的戀數(shù)值迭代程猴序，從而使怪它的收斂速辣度咱顯著提高。限SMO叫算法包括三顆個(gè)要點(diǎn)：最炸優(yōu)性KKT揭條件、計(jì)算宰解析解、工壘作樣本的選負(fù)擇。枕SMO繞算法中所需包的計(jì)算機(jī)內(nèi)膀存與訓(xùn)練樣嘩本數(shù)成線性拖關(guān)系，豬SMO疾算法已成為年訓(xùn)練支持向黑量機(jī)使用穩(wěn)立定的算法川。孝（4）增量院式算法（揭Cauwe熟nberg船hs寶，2001脈）泊Cauwe暈nberg講hs索（2001荷）提出了一玉種增覽量減量式學(xué)擁習(xí)方法，考剪慮了增加或序減少一個(gè)訓(xùn)獎(jiǎng)練樣本對(duì)青Lagra煉nge專系數(shù)和支持畏向量機(jī)的影括響，實(shí)驗(yàn)表汁明算法是有歌效的。在減淚少一個(gè)樣本裹時(shí)，給出了耍模型選擇算杠法步LOO（L伸eave豪oneo灑ut寧）的形象解仿釋。平Ralai伏vola夏（2001恭）提出覺了另一種增諷量式學(xué)習(xí)方吐法。其思想殺為基于高斯斯核的局部特灰性，只更新滑對(duì)學(xué)習(xí)機(jī)器掙輸出影響最面大的Lag疑range老系數(shù)，以減病少計(jì)算復(fù)雜溪度。另外，酒Suyke甚ns繁（2001戚）提出了一貴種周期最小煤二乘支持向父量機(jī)用于時(shí)泛間序列的預(yù)擴(kuò)測(cè)。炒3.著3.2故C躍-SVM桐算法及其變支形算法請(qǐng)對(duì)于非線性扣分類問題，菜一方面通過苗引進(jìn)松弛變切量放松約束榜，另一方面氣引進(jìn)輸入QUOTE測(cè)到耐Hilbe腹rt廢空間資H偷的變換QUOTE歌把數(shù)據(jù)樣本矮集濟(jì)：QUOTE宜映射為:QUOTE駁,得到如幻下的原始問報(bào)題：QUOTE疼世奇槽仇（3.萍17慣）凱若對(duì)應(yīng)于變砌換QUOTE聾的核函數(shù)為QUOTE轉(zhuǎn),則原始問持題的對(duì)偶問禽題為：鋸若暗K頓是正定核，乘則上式對(duì)偶畢問題必有解寨，且其解為QUOTE片,使得：帖其中，系數(shù)QUOTE汽只有當(dāng)相應(yīng)碧的數(shù)據(jù)樣本墓點(diǎn)QUOTE姻剛好使約束請(qǐng)式(扎3.17熄)等號(hào)成立蒜時(shí)才可能為緣零。憑由上述分析摩可建立窩C-褲支持向量機(jī)浙(C-SV拆M)當(dāng)，其對(duì)應(yīng)的羞數(shù)學(xué)描述如昂下：五設(shè)已知樣本扔數(shù)據(jù)集QUOTE隱，其中捏；QUOTE文選取適當(dāng)?shù)母夂撕瘮?shù)QUOTE慘和適當(dāng)?shù)膮⑼陻?shù)誰C蕩，構(gòu)造并求枕解最優(yōu)化州問題：忙求得最優(yōu)解QUOTE胳。扶選取QUOTE雄的一個(gè)正分泛量QUOTE女,并據(jù)此計(jì)逮算閾值廉：素限北構(gòu)造決策函洋數(shù)猜：昏在上述算化法的原始問押題中，目標(biāo)為函數(shù)是糟：陸也可以用QUOTE墳來代替QUOTE閱，這樣原始靈問題就變?yōu)榉福篞UOTEQUOTE曾容易證明，植該問題等價(jià)擴(kuò)于問題：毀且上面2式扶關(guān)于掏的解均非負(fù)慘。象與前面的分駁析推導(dǎo)類似妖，上面最優(yōu)伍化問題的對(duì)撈偶問題為：脾其中QUOTE嘆4屠)中的原始敢問題對(duì)QUOTE敏的解為QUOTE相可表示為：鞋據(jù)此可建立澆如下的匹C-呢支持向量分桃類機(jī)的一種球變形。途C-百支持向量分燦類機(jī)的變形導(dǎo)算法如下:排設(shè)已知訓(xùn)練海集溪：QUOTE范選取適當(dāng)?shù)恼珊撕瘮?shù)QUOTE書和適當(dāng)?shù)膮⒔窋?shù)忌C稠,構(gòu)造并求注解最優(yōu)化問油題：鹽其中QUOTE站求得慎最優(yōu)解QUOTE占。膝(映3及)留選取QUOTE弟的一個(gè)正分哨量QUOTE柴,并據(jù)此計(jì)伶算塔閾值蘇：蜜(4)構(gòu)造衰決策函數(shù)：占第4育章測(cè)井時(shí)怒間序列的支錦持向量機(jī)回吹歸令預(yù)測(cè)祥4.1伸引言撲儲(chǔ)層參數(shù)是蹄含油氣性的旁一個(gè)重要標(biāo)三志，儲(chǔ)層巖豪石滲透率和甚孔隙度分布衣的不均勻性測(cè)直接影響油形氣分布、運(yùn)嫩移和開采。攪對(duì)于勘探區(qū)趙塊，可以提形高鉆井成功競(jìng)率，減少勘妥探成本；對(duì)事于開發(fā)區(qū)塊潔，則為優(yōu)化掘鉆采方案提竭供了必要條問件。因此許局多地質(zhì)工作柱者致力于儲(chǔ)偶層參數(shù)的研掩究和預(yù)測(cè)。哨由于儲(chǔ)層分牲布的多相性電和非均勻性夢(mèng)，因此無論顛是直接或間怪接的測(cè)量孔捆隙度和滲透擔(dān)率都是一個(gè)濱非常困難和躬代價(jià)昂貴的律工作漫儲(chǔ)層參數(shù)與驢測(cè)井曲線或忙地震數(shù)據(jù)之專間關(guān)系是非嫩線性的，沒樓有明確的一鉆一對(duì)應(yīng)關(guān)系屈自從199鄙5年Vap糕nik及其飽合作者提出郊支持向量機(jī)炎[6～10論]的思想以約來撿,該算法已鴿經(jīng)在模式識(shí)故別領(lǐng)域得到墳了廣泛的應(yīng)童用,并且已品經(jīng)在文本分株類、圖像識(shí)埋別、手寫字您識(shí)別、蛋白懲質(zhì)同源檢測(cè)旦及基因表達(dá)聲[64]等銀方面取得了苦巨大的成功歷，對(duì)于小樣礦本的分類問諸題,蹦SVM揀具有調(diào)節(jié)參營數(shù)較少,運(yùn)狗算速度快等漸優(yōu)點(diǎn)手。哨通過測(cè)井等絨信息進(jìn)行油逢氣預(yù)測(cè)是一蝕種典型的非項(xiàng)線性分類器弄設(shè)計(jì)問題,臟它具有已知語樣本數(shù)較少樹等特點(diǎn)。目寶前國內(nèi)有學(xué)獻(xiàn)者已致力于盲支持向量機(jī)酷預(yù)測(cè)含油氣祖性這一領(lǐng)域圈的研究，其俯中最早的有聾：姚凱豐，聰李衍達(dá)；樂高友喜，袁全護(hù)社，其中這霉些預(yù)測(cè)所選羅擇的核函數(shù)壁是多項(xiàng)式核膊。模由測(cè)井?dāng)?shù)據(jù)緒預(yù)測(cè)儲(chǔ)層參屈數(shù)最常用的訴過程包括：甘①遙沿測(cè)井資料觀的目的層計(jì)公算出反映翁其特性的若舍干測(cè)井屬性亂(振幅、頻縣率、相位等界)；賠②少通過該層的攜井中測(cè)試儲(chǔ)槳層參數(shù)結(jié)果墻（孔隙度）鴿建立井中測(cè)舍井屬性與井軍中測(cè)試結(jié)果因的關(guān)系；類③妨利用這一關(guān)課系推斷出未御知井所有井書中儲(chǔ)層參數(shù)兔的結(jié)果。我湊們首先獲取仿學(xué)習(xí)樣本的痕信息，對(duì)于寒由測(cè)井屬性散預(yù)測(cè)孔隙度止和滲透率的殃問題，對(duì)得窯到的測(cè)井?dāng)?shù)認(rèn)據(jù)，首先選純擇一口或多哭口井，依據(jù)租深度開一窗叼口，在此窗香口內(nèi)每個(gè)一昏定的深度有女一組測(cè)井屬壟性數(shù)據(jù)，我哈們以此點(diǎn)深弱度和測(cè)井?dāng)?shù)元據(jù)組成訓(xùn)練干樣本點(diǎn)認(rèn)，以此點(diǎn)對(duì)逃應(yīng)的孔隙度滑或滲透率為吼，如果以多?？诰疄橛?xùn)練婦樣本我們?cè)邙B訓(xùn)練樣本點(diǎn)抬加上此井的擇水平坐標(biāo)。吳支持向量機(jī)譽(yù)通過對(duì)訓(xùn)練揀樣本的學(xué)習(xí)蛛獲得一定的定預(yù)測(cè)能力，殿訓(xùn)練后將預(yù)喬測(cè)的測(cè)井屬巖性數(shù)據(jù)作為龜輸入、輸出轎結(jié)果便是這蔽一深度孔隙泉度。支持向池量機(jī)企預(yù)測(cè)紐流程如圖因4枕.1。測(cè)井屬性數(shù)據(jù)的獲取測(cè)井屬性數(shù)據(jù)的獲取預(yù)測(cè)井屬性數(shù)據(jù)孔隙度SVM學(xué)習(xí)訓(xùn)練SVM的預(yù)測(cè)預(yù)測(cè)井孔隙度的輸出行圖4.1啊支持向量辣預(yù)測(cè)流程蝦4.2煎應(yīng)用實(shí)例拳測(cè)井是一門掃邊沿學(xué)科，笛它是將電磁釀學(xué)、聲學(xué)、微核物理學(xué)、標(biāo)熱學(xué)、光學(xué)牲、力學(xué)等學(xué)仁科的基本理筋論和測(cè)量方肆法，用于油稿氣井和其它特礦井中，依垃靠獲取的大碼量信息進(jìn)行饑資源評(píng)價(jià)。波在石油地質(zhì)廟中，通常根行據(jù)不同的測(cè)逢井曲線劃分逝沉積相，預(yù)狂測(cè)儲(chǔ)層孔隙辣度、滲透率局、預(yù)測(cè)巖性野、評(píng)估儲(chǔ)層笨油氣含量等蠅。根據(jù)測(cè)井將理論及其方成法，與孔隙已度相關(guān)的測(cè)硬井方法有聲嗽波測(cè)井、中腥子密度測(cè)井信和再巖石密度測(cè)容井。表4-1通井標(biāo)銳益致腔有繁效深度出撿崗算樣本數(shù)槽x13少3226.癢6——32瘋78.5國84質(zhì)x19罰3279.喜8——33毒12.5改132節(jié)x22膀3300腥.9——3鏈330.9擔(dān)91喇x40日3以299.6料——333默3.1顛130心x43拆3410歐.1——3沒462.9冰糠208拳每個(gè)深度點(diǎn)岸有測(cè)井?dāng)?shù)據(jù)寺，其中測(cè)井坡有深度、聲淡波時(shí)差、自蘇然電位、自吸然伽瑪、補(bǔ)繭償中子、巖先石密度、電覺阻率等11上種屬性。孔電隙度范是斷斷續(xù)續(xù)罷巖芯實(shí)測(cè)值竭。依據(jù)根據(jù)哀測(cè)井理論及梯典型相關(guān)性律分析優(yōu)選出索與孔隙度相淚關(guān)的6種屬憶性，分別影為深度、聲沉波時(shí)差、自臭然伽瑪、巖鄙石密度、電煤阻率、補(bǔ)償帖中子。然后爸將其分別標(biāo)園準(zhǔn)化，我們翁用單一的測(cè)掘井作為訓(xùn)練指樣本，但預(yù)雨測(cè)效果不是釣很好。蜂定量的預(yù)測(cè)攪結(jié)果見樣圖蕉4-1嫂，圖4-2已,圖4-3仆：障圖4-1討以x43，慰x13為訓(xùn)腥練樣本，S商VM預(yù)測(cè)x垃19井報(bào)圖4-2黎以x43，艱x13為訓(xùn)婚練樣本，S烤VM預(yù)測(cè)x桂22井姻圖4-3著以x43，忽x13為訓(xùn)門練樣本，S沸VM預(yù)測(cè)x黎40井惠從上面的圖甘及表中可以纏看出，支持截向量機(jī)預(yù)測(cè)拔x22時(shí)效準(zhǔn)果最好糠，還預(yù)測(cè)x40計(jì)井時(shí)效果最清差永。眼>>edi愚tsvm范train陳>>edi拖tsvm法class道ify捧>>edi謝tsvm遣predi揚(yáng)ct叨funct濫ion[祝svm_s狠truct揀,svI伏ndex]燕=sv刮mtrai溫n(課train磚ing,炭group誓names錢,var桿argin軍)京%SVMT利RAIN賀train降sas禁uppor饒tvec籍torm尋achin涉ecla釘ssifi婆er滅%S里VMStr攜uct=肉SVMT舊RAIN(貍TRAIN魯ING,G陡ROUP)艱trai嶄nsa蒸suppo返rtve累ctor仙machi姻ne乖%c絹lassi捷fier燭using卻data齡TRAI盈NING楊taken敘from灶two諷group嬌sgiv各enby答GROU襲P.諒%S南VMStr軋uctc瓣ontai號(hào)nsin鉗forma詞tion睜about害the淋train加edcl去assif芳iert昆hati產(chǎn)s衰%u夜sedb網(wǎng)ySVM搖CLASS勿IFYf記orcl玉assif虧icati崗on.G分ROUP篩isa蠟colum蕉nvec遇toro閃f司%v撞alues跳oft司hesa仁mele蘋ngth協(xié)asTR逼AININ蜘Gtha得tdef帶ines枯twog暖roups滲.Eac勸h示%e墨lemen向tof旺GROUP魄spec者ifies榆the隱group聾the始corre堤spond鼠ingr敬owof艱TRAI懷NING攪%b破elong儲(chǔ)sto.久GROU亦Pcan播bea大nume俱ricv考ector茅,as襖tring容arra紗y,or盆ace催ll聞%a而rray勺o(hù)fst贏rings岸.SVM巡TRAIN途trea近tsNa北Nsor倘empt懲ystr醋ings火inGR貨OUPa熄s慢%m斯issin剩gval會(huì)uesa聯(lián)ndig卷nores批the喝corre洞spond拴ingr扒owso痛fTR隆AININ牧G枯%S掉VMTRA呈IN(..稍.,'KE挑RNEL_軌FUNCT拒ION'尾,KFUN孩)all貧owsy仗outo全spec錯(cuò)ifyt視heke唇rnel澇%f華uncti夸onKF旱UNus吃edto慣map問thet詢r(jià)aini恭ngda罵tain罰toke出rnel奇space并.The襖%d扒efaul燕tker惜nelf需uncti舒onis咽the廈dotp內(nèi)roduc拉t.KF改UNca短nbe涉oneo壯fthe戶%f組ollow搶ings隨tring絲sor宋afun皺ction臭hand基le:%燒%周'l聽inear登'馬Lin機(jī)ear兩kern傘elor鳴dot良produ垃ct堂%調(diào)'q益uadra榴tic'胖Qua席drati貼cker水nel沫%衛(wèi)'p蕉olyno餃mial'權(quán)Pol種ynomi歇alke狠rnel獅(defa章ulto軍rder閥3)儉%丙'r喉bf'虎眉Gau酬ssian艘Radi乞alBa咳sisF致uncti混onke駐rnel森%逗'm賴lp'縫彎Mul丘tilay嘗erPe側(cè)rcept擴(kuò)ronk霞ernel觀(def脈ault衫scale惡1)信%肉遙func宏tion貢戴Aker村nelf滿uncti很onsp露ecifi清e(cuò)dus社ing@登,魚%劣宋販乎for膜exam麗ple@刑KFUN,售ora肯nano糾nymou棒sfun橡ction%臺(tái)%A報(bào)kern韻elfu餡nctio滋nmus歌tbe現(xiàn)ofth襖efor逝m%桌%希旬funct詞ionK虜=KF短UN(U,捕V)%繭%T疑here謊turne塌dval些ue,K漁,is忙amat血rixo薪fsiz勒eM-b居y-N,息w溫here驢Uand抓Vha觀veM魔%a驅(qū)ndN拒rows渡respe飲ctive每ly.伏IfKF南UNis譯para誰meter控ized,抵you發(fā)canu搞se霜%a煩nonym宿ousf奔uncti搬onst網(wǎng)ocap越ture紗thep膨roble吃m-dep腥enden苗tpar額amete趟rs.F屆or貌%e莫xampl緩e,su問ppose段that明your病kern呢elfu佳nctio穿nis%案%貴fu索nctio轉(zhuǎn)nk=熱kfun丟(u,v,維p1,p2塞)椅%樓帝k=斧tanh跑(p1*(替u*v')行+p2);%侵%Y槽ouca哲nset啞valu塞esfo梨rp1旬a(chǎn)ndp鎖2and扁then勢(shì)use曾anan創(chuàng)onymo頃usfu誤nctio哄n:腔%貧@(霞u,v)炊kfun(昏u,v,p匆1,p2)步.%灣%S增VMTRA辭IN(..攜.,'PO順LYORD緩ER',O傷RDER)江allo辭wsyo根uto描speci征fyth泰eord話erof減a粱%p加olyno括mial想kerne燃l.Th踢edef忠ault罷order情is3驗(yàn).%茫%S圓VMTRA貌IN(..答.,'ML煩P_PAR廢AMS',跟[P1P式2])a覆llows虛you養(yǎng)tosp請(qǐng)ecify銅the爹%p踐arame涼ters視ofth淺eMul娃tilay撲erPe偶rcept贊ron(斗mlp)險(xiǎn)kerne霜l.Th蜻emlp蝴kern部el更%r棟equir倡estw猛opar企amete炭rs,P忠1and蠟P2,遵where畏K=茶tanh(贈(zèng)P1*U*雹V'+褲P2)a始ndP1瓶%>闖0an灰dP2脅<0.綱Defau瓣ltva少lues鄭areP稼1初=1右andP辟2=-存1.%絞%S岡VMTRA娘IN(..贊.,'ME先THOD'醉,METH撕OD)a銷llows懂you吩tosp拐ecify肯the間metho刑duse永d態(tài)%t態(tài)ofin促dthe詢sepa曾ratin住ghyp暢erpla勢(shì)ne.O乳ption皇sare%稈%泳'Q焦P'Us媽equa連drati筑cpro拆gramm災(zāi)ing(責(zé)requi樣rest結(jié)heOp絮timiz享ation劫Tool滋box)省%圖'L汽S'Us坦elea釀st-sq醉uares宇meth駕o鐘d%膚%I蝴fyou哲have云the哪Optim與izati漆onTo俯olbox黃,the篩nthe愿QPm蔥ethod未ist穩(wěn)hede科fault期%m蹈ethod摔.If珠not,尿theo擁nlya抖vaila虜blem堆ethod愧isL制S.%執(zhí)%S胞VMTRA版IN(..濟(jì).,'QU音ADPRO餓G_OPT賢S',OP蜘TIONS蓬)all屋owsy廳outo限pass襖anO杠PTION卷S尋%s吃truct光urec辣reate高dusi甲ngOP樣TIMSE帽Tto削theQ境UADP態(tài)ROGf算uncti筑onwh伴enus俱ing濤%t偽he'Q瘦P'me膨thod.獨(dú)See滅help柳optim潑setf早ormo輝rede豈tails鳴.%姐%S饅VMTRA想IN(..站.,'SH螺OWPLO寇T',tr水ue),匙when冬used謝with駁two-d忌imens屬ional慘data罷,寄%c語reate諸sap匆loto芳fthe淋grou委pedd刪ataa伐ndpl欺otst笛hese筆parat狐ingl歐inef墨or低%t充hecl覆assif滑ier.%董%E斷x烏ample碑:血%對(duì)%巨Load咽thed棄ataa豈ndse伙lect鈴featu休resf拾orcl介assif仙icati拉on墊%歇lo揮adfi擔(dān)sheri索ris悶%優(yōu)da經(jīng)ta=深[meas叮(:,1)綁,mea冒s(:,2蝦)];抓%的%末Extra晃ctth要eSet瓣osac榨lass套%弄gr讀oups虧=ism苗ember展(spec美ies,'打setos匪a');捆%建%朋Rando癢mlys陶elect男trai哥ning始andt戀est筍sets撐域%黃[t殺rain,菌test盟]=c弟rossv特alind碼('hol里dOut'均,grou希ps);聯(lián)%掌cp帝=cl柴asspe煌rf(gr海oups)定;頂%諒%檢Usea貓line蜓a(bǔ)rsu協(xié)pport頁vect摩orma希chine策clas拴sifie穿r役%濱sv升mStru餐ct=亞svmtr今ain(d勸ata(t充rain,艇:),gr輪oups(橫train賠),'sh旁owplo找t',tr脖ue);拒%訊cl崗asses露=sv婚mclas籃sify(謙svmSt踩ruct,罪data(欲test,翼:),'s剃howpl辯ot',t如rue);撞%編%裁Seeh皆owwe僵llth粥ecla開ssifi劉erpe嬌rform毯ed寒%規(guī)cl倆asspe移rf(cp秤,clas盛ses,t困est);御%饅cp零.Corr末ectRa蒼te%潛%S銅eeal句soCL橫ASSIF反Y,KN袖NCLAS乖SIFY,揭QUAD赴PROG,騾SVMC睜LASSI如FY.妹%C景opyri滴ght2設(shè)004T橡heMa聰thWor怎ks,I吼nc.辛%$步Re興visio煮n:酸家2頃.1$時(shí)$Dat坐e:20木04/12淋/242桂0:43:臣35$啞%R昆efere贏nces:旁%穗[1]則Kecma躁n,V,鏈Lear討ning冬andS訪oftC炎o(hù)mput舊ing,稿%債黃MITP待ress,術(shù)揚(yáng)Cambr中idge傻,垂MA上.200厘1.殖%盟[2]星Suyke匠ns,J住.A.K.探,Van是Gest疊el,T劉.,De揚(yáng)Brab萬anter井,J.,首DeM名oor,酷B.,竟%牙災(zāi)Vande刺walle敬,J.徒,Lea午stSq礎(chǔ)uares校Supp垃ortV拖ector爽Mach漁ines,舊%袖勞World優(yōu)Scie貿(mào)ntifi率c,靈Singa葬pore眾,200幻2.徑%圍[3]門Schol觸kopf,督B.,婦Smola踢,A.J將.,Le縣arnin傍gwit捧hKer饑nels,叢%銅理MITP滲ress,晝鑼Cambr和idge牙,販MA闖.200供2.%閱%S投VMTRA倍IN(..且.,'KF結(jié)UNARG笨S',AR箭GS)a府llows躺you碧topa忌ssad屢ditio赴nal閘%a削rgume耽ntst祥oker親nelf轉(zhuǎn)uncti趁ons.排%set怎defa女ults躍plotf瘦lag=顧fals喊e;球qp_op狀ts=尖[];股kfuna凈rgs=遭{};啞setPo麗ly=分false批;use廢Poly依=fal核se;您setML僵P=f惕alse;遲useM培LP=譯false膀;進(jìn)if~i企sempt鍵y(whi呼ch('q開uadpr伴og'))很u仰seQua橫dprog卡=tr紡ue;else掛u街seQua職dprog匹=fa青l(xiāng)se;end蔬%兔set巴defau焰ltke殼rnel傷funct罩ion豎kfun躁=@li雨near_俯kerne雞l;命%che鑄ckin偶puts批ifna腦rgin分<2東e字rror(情nargc喇hk(2,榨Inf,n吉argin拾))end館numop略targs束=na陜r(jià)gin勉-2;蓬optar司gs=棕varar壽gin;葵%grp蟲2idx昌sorts遍anu技meric裝grou低ping文vara丙scend睬ing,賓anda協(xié)stri首nggr邁oupin銷g史%var姿byo戚rder呆off傅irst掀occur柏rence微[g,gr曬oupSt移ring]艘=gr墾p2idx敢(grou瓦pname澤s);賴%che勿ckgr捎oupi眉sav俘ector瘡--t盯hough蠢char幕inpu呼tis技speci奪al...昏if~i公svect吹or(gr故oupna冷mes)年&&~i極schar雕(grou嗽pname派s)暢e疊rror(奴'Bioi側(cè)nfo:s重vmtra臉in:Gr得oupNo枕tVect波or',.宣..同貸'G咱roup三must萌bea例vecto蕩r.');end聞%斗make看sure退that浪the燭data弱isco佛rrect羊lyor滴iente惱d.淘ifsi窩ze(gr輪oupna伯mes,1授)==廟1扎g蝕roupn言ames疤=gro增upnam誼es';end杠%mak份esur波edat菊ais案ther持ight場(chǎng)size蔽n=l百ength潤(grou慘pname膨s);繩ifsi雷ze(tr地ainin樓g,1)紙~=n第i魂fsiz挎e(tra辰ining旨,2)=堆=n苦縮tr灑ainin頭g=t樂raini志ng';else體朋er呆ror('踏Bioin億fo:sv然mtrai尺n:Dat蔽aGrou木pSize輸Misma籃tch',測(cè)...株言半'GR憤OUPa江ndTR喘AININ倍Gmus籃thav午ethe歐same陡numb粘erof搜rows卡.')假e島ndend鋪%NaN墓sare即trea鎖teda劑sunk微nown位class繼esan搶dare烘remo汽vedf胳romt忍hetr柴ainin挎g惠%dat封a屑nans籃=fin葉d(isn凱an(g)磨);逆ifle拘ngt姨h(nan扒s)>悼0椅t苦raini情ng(na越ns,:)邁=[]妻;熔g呼(nans捕)=[頭];end溝ngrou予ps=院lengt姑h(gro薪upStr彈ing);創(chuàng)ifng效roups棟>2超e混rror(尋'Bioi投nfo:s詞vmtra抹in:To凈oMany金Group翠s',..者.妹窮'S貪VMTRA蔑INon前l(fā)ysu歉pport巾scla尤ssifi泉catio指nint憂otwo盡grou無ps.\n扒GROUP畢cont段ains恰%ddi睛ffere扛ntgr僵oups.東'連,ngro疏ups)end膝%con格vert士to1,受-1.永g=1帶-(2薦*(g-斷1));域%han救dleo急ption喝alar固gumen栗ts施ifn域umopt勁args川>=1消i共frem吃(numo捉ptarg表s,2)=紫=1洽稿e(cuò)r菊ror('筐B(yǎng)ioin姥fo:sv乳mtrai善n:Inc被orrec悶tNumb完erOfA溝rgume塑nts',精...脆魔轉(zhuǎn)'In黑corre敲ctnu鉤mber游ofar紹gumen蹤tsto著%s.'今,mfil喊enam辟e);飼e強(qiáng)nd鴿o揉kargs裁={'公kerne辮l_fun愁ction墨','me房thod'爛,'sho嗽wplot然','kf件unarg份s','q謙uadpr尤og_op膏ts','暗polyo豆rder'擺,'mlp贊_para原ms'};完f甜orj=筆1:2:n拿umopt液args浮究pn慢ame=斥opta大rgs{j自};柄蝶pv壺al=悲optar奏gs{j+艇1};可妖k獄=str西match炸(lowe辭r(pna醋me),跟okarg哨s);%#另ok固ifis酸empty顛(k)坊慣扎err超or('B橋ioinf帝o:svm來train到:Unkn強(qiáng)ownPa冤ramet術(shù)erNam搞e',..橫.慈傘稼澆'Unk籮nown命param般eter用name:主%s.'肌,pnam碌e);鞠戲el咳seif犯lengt禁h(k)>援1泉竭悠err芬or('B撒ioinf塔o:svm懼train踐:Ambi刺guous獲Param旨eterN屯ame',斥...蹦唇掙撫'Amb沸iguou靠spar宵amete窄rnam好e:%s摸.',pn溫ame);培贏el蠻se謎吼繳swi煎tch(k負(fù))叔例迷唐case耽1%翻kern通el_fu曬nctio拐n板樹慮進(jìn)丟ifis理char(擇pval)虎密產(chǎn)撓益o握kfuns雅={'差linea珍r','q如uadra捎tic',反...而井健幕伍濱'r秘adial篇','rb鏡f','p箱olyno雹mial'熱,'mlp奶'};杜筋棵拉機(jī)f到unNum煉=st勞rmatc棍h(low珍er(pv搭al),錦okfun以s);%#索ok攪伯名舅凈i孩fise歷mpty(猾funNu炸m)燈亦柔壁曠慶fu做nNum柱=0;腿貓歉張亦e蕉nd頁扭勁過占s叼witch餡funN任um%慶maybe冠make揮this維less臘stri差ctin府the大f錯(cuò)uture恰體月刷汽幸ca靠se1因遮跌補(bǔ)怨圓佩kfu凳n=@朵linea燕r_ker足nel;蔽攔修肯羅工ca說se2拴特雨斤彩遣月kfu咽n=@煤quadr蝕atic_也kerne恨l;待夏摸狀攤漁ca焰se{3背,4}沙k幫fun=烤@rbf捏_kern兆el;闊鉛搜坑婚燃ca當(dāng)se5駱燭巧鞏拜輪藝kfu盯n=@胖poly_脈kerne黎l;障保叫吐喉表面use果Poly掏=tru創(chuàng)e;板乘帥稈糊淘ca舒se6港待擁墨咬葵麻kfu狂n=@很mlp_k絲ernel撲;惕胃勺瘡掛us皆eMLP帖=tru魄e;嗽司培北踩扇ot理herwi裹se君翻須鑒譽(yù)毒憂err吐or('B撞ioinf戶o:svm年train商:Unkn趟ownKe睡rnelF室uncti綢on',.邪..核姐價(jià)鄭燙捧坡觸'Unk蹤nown芽Kerne受lFun封ction夸%s.'乓,kfun驢);end偵矩波運(yùn)講elsei簽fisa狼(pva棒l,'f異uncti奔o(jì)n_ha墓ndle'躬)琴悄屑名辦k疏fun=長pval您;洲謎咬蹄總else壞納前介筒e匙rror(符'Bioi惑nfo:s流vmtra竿in:Ba尺dKern俱elFun凝ction桐',...梨有返涉階悅'T栗heke貨rnel烘funct尺ioni朗nput追does猜no哈tapp倡eart品obe填afun辰ction摸hand解le\no不rval穩(wěn)idfu摩nctio限nnam袍e.')把子燙晨敢end絡(luò)松覆要case賴2%洞meth喘od廣毒軌共歐ifst掀rncmp楚i(pva枯l,'qp氏',2)門遞漫冤行u拳seQua文dprog間=tr算ue;四繼頌抗盡i宇fise腸mpty(技which渣('qua任dprog義'))輛梅芝送肆器wa領(lǐng)rning磁('Bio曬info:竿svmtr坡ain:N獅oOpti妥m',..倚.裁涌店叔欄保揚(yáng)'Th鉤eOpt陷imiza州tion慌Toolb象oxis沖requ膨ired拼tous走ethe轎quad有ratic巴prog季rammi罷ngme詳thod.普')死瓦鋼份娘擾us惜eQuad頑prog回=fal悉se;end舒炒適祖振elsei緣fstr唇ncmpi超(pval城,'ls'狹,2)犬腳貼勾廊u騎seQua趁dprog豈=fa濁lse;烤危妨奮課else煌群漸坡唇e劣rror(看'Bioi燦nfo:s恨vmtra爸in:Un乳known選Metho投d',..置.寺妥紅輝販樹'U貫nknow宇nmet延hodo尸ption鋪%s.采Valid都meth步odsa渡re''覆QP''勤and'聚'LS''膜',pva迎l);永份舊臟崖end糟經(jīng)沖山case幣3%渾disp槐lay環(huán)鈔窯冬茶ifpv速al~=團(tuán)0匹編肯護(hù)乖i接fsiz溉e(tra妙ining淚,2)=板=2慣瑞畜湯棚畏pl鞏otfla踐g=t董rue;壽蠶收靈樸e滲lse賞淺鏟敲微warn妖ing('敵Bioin呢fo:sv壁mtrai晃n:Onl亡yPlot藝2D',.委..汗率虧男銹閘詠'Th饒edis紛play征optio蘆ncan么only探plot貿(mào)2Dt催rai