Hopfield 網(wǎng)絡(luò)在年用電量預(yù)測(cè)中的應(yīng)用研究.doc

精品論文推薦hopfield 網(wǎng)絡(luò)在年用電量預(yù)測(cè)中的應(yīng)用研究劉武寅 遼寧工程技術(shù)大學(xué)理學(xué)院，遼寧阜新 (123000) e-mail: 摘要：該文將偏最小二乘回歸模型(partial least square regression，pls)應(yīng)用于年用電量預(yù)測(cè)，并與基于最小二乘的多元線性回歸模型預(yù)測(cè)成果進(jìn)行對(duì)比，探討了偏最小二乘法在電 力負(fù)荷預(yù)測(cè)中的可行性和優(yōu)勢(shì)。通過(guò)四川省電網(wǎng)年用電量預(yù)測(cè)表明：偏最小二乘回歸法比一般最小二乘法優(yōu)，具有較強(qiáng)的實(shí)用性。關(guān)鍵詞：電力系統(tǒng)；多元線性回歸；偏最小二乘；最小二乘1. 引言西電東送，必須預(yù)測(cè)西部本身的用電量。準(zhǔn)確的負(fù)荷預(yù)測(cè)， 可經(jīng)濟(jì)合理地安排電網(wǎng)內(nèi) 部發(fā)電機(jī)組的生產(chǎn)計(jì)劃， 保持電網(wǎng)運(yùn)行的安全可靠， 降低發(fā)電成本，提高經(jīng)濟(jì)和社會(huì)效益。 但年用電量受人口、 國(guó)民生產(chǎn)總值、第一生產(chǎn)值、第二生產(chǎn)值及第三生產(chǎn)值影響。這些影 響因素之間存在嚴(yán)重的多重相關(guān)性。為了提高負(fù)荷預(yù)報(bào)精度，電力工作者作了大量的研究工作，嘗試了各種預(yù)測(cè)方法13。 回歸分析法在電力負(fù)荷預(yù)測(cè)中有著廣泛的用途。 在建立自變量集合與因變量間的回歸方程 中，一般常用最小二乘法，但若自變量間存在多重相關(guān)性時(shí)， 該法估計(jì)結(jié)果誤差較大且不 穩(wěn)定。 在這種情況下，應(yīng)用新的估計(jì)方法是十分必要的。瑞典化學(xué)家 s.wold 教授提出的被稱(chēng)為第二代回歸分析的偏最小二乘回歸是一種新的 多元統(tǒng)計(jì)數(shù)據(jù)分析方法。它是多元線性回歸、 典型相關(guān)分析和主成分分析的有機(jī)結(jié)合4， 較傳統(tǒng)的回歸分析、主成分回歸具有更大的優(yōu)勢(shì)，從而使模型精度、穩(wěn)健性、實(shí)用性都得到 提高。2. 偏最小二乘回歸模型42.1 概述在一般多元線性回歸模型中，有一組因變量y = y1 , y2 ,l, y p （ p 為因變量個(gè)數(shù)）- 8 -和自變量 x= x1 , x2 ,l, xn （ n 為自變量個(gè)數(shù)），當(dāng)數(shù)據(jù)總體滿足高斯馬爾科夫定理時(shí)，由最小二乘法有 b = x ( x t x ) 1 x t y ,式中 b 為估計(jì)的回歸系數(shù)。當(dāng) x 中的變量存在嚴(yán)重的多重相關(guān)性(變量本身物理意義決定了它們之間的相關(guān)性，或 由樣本點(diǎn)數(shù)量不足造成)，行列式( x t x )幾乎接近于零，求解 ( x t x ) 1 時(shí)會(huì)含有嚴(yán)重的舍 入誤差，使回歸系數(shù)估計(jì)值的抽樣變異性顯著增加。更有甚者，當(dāng)中的變量 x 完全相關(guān)時(shí)，（ x t x ) 是不可逆矩陣，無(wú)法求解回歸系數(shù)。此時(shí)，若仍沿用最小二乘法擬合回歸模型， 回歸結(jié)果將會(huì)出現(xiàn)許多反常現(xiàn)象，致使其精度、可靠性得不到保證。在實(shí)際工作中，變量的 多重相關(guān)性是普遍存在的。偏最小二乘法就能較好地解決這類(lèi)問(wèn)題。2.2 偏最小二乘回歸模型的思路偏最小二乘回歸是多元線性回歸、典型相關(guān)分析和主成分分析的集成和發(fā)展。其思路是： 首先，從自變量集合 x 中提取成分 t h （ h = 1,2,l ），各成分相互獨(dú)立；然后，建立這些成分與自變量 x 的回歸方程，其關(guān)鍵在于成分的提取。與主成分回歸不同的是，偏最小二乘回歸所提取的成分既能很好地概括自變量系統(tǒng)中的信息，又能最好地解釋因變量，并排除系 統(tǒng)中的噪聲干擾。因而有效地解決了自變量間多重相關(guān)性情況下的回歸建模問(wèn)題。2.3 偏最小二乘回歸模型的建模步驟2.3.1 原始數(shù)據(jù)標(biāo)準(zhǔn)化將原始自變量數(shù)據(jù)表 x = ( xij )n p 和因變量數(shù)據(jù)表y = ( yij )nq 進(jìn)行標(biāo)準(zhǔn)化處理，得到標(biāo) 準(zhǔn)化矩陣 e0 = (eij ) n p ， f0 = ( f ij ) nq ,其中xij x jeij =sx j, i = 1,2,l, n; j = 1,2,l, p ，(2-1)fijy y= ijj , i = 1, 2,l, n; j = 1, 2,l, q ，(2-2)sy jx j 、 y j 分別為矩陣 x 與 y 的第 j 列數(shù)據(jù)的平均值，sx j 、sy j 為矩陣 x 與 y 的第 j 列數(shù) 據(jù)的標(biāo)準(zhǔn)差。2.3.2 主成分提取 第一輪主成分提取tt求矩陣 e0 f0 f0 e0 的最大特征值所對(duì)應(yīng)單位特征向量 w1 ，得自變量的第 1 個(gè)主成分t1 = e0 w1 .tt求矩陣 f0 e0 e0 f0 的最大特征值所對(duì)應(yīng)單位特征向量 c1 ，得因變量的第 1 個(gè)主成分u1 = f0 c1 .求殘差矩陣e1 = e0p t1t1 ，(2-3)1 1f1 = f0 t r t ，(2-4)式(2-3)中 pe t t=0 1 ，式(2-4)中 r2f t t=0 1 .121t1t1在 pls 方法中稱(chēng) w1 為模型效應(yīng)權(quán)重， c1 為因變量權(quán)重, p1 為模型效應(yīng)載荷量。 新一輪主成分提取令 e0 = e1 ，f0 = f1 ，回到第 a 步，對(duì)殘差矩陣進(jìn)行新一輪的主成分提取和回歸分析。 設(shè)第 h 步的計(jì)算結(jié)果為th = eh 1 wh ，(2-5)u h = fh 1 ch ，(2-6)hh 1h he = e t p t ，(2-7)f = f t rthh 1h h，(2-8)e t tf t t式(2-5)至(2-8)中， h = 1,2, l , m, m ranke0 ， ph =h 1 h2t h， rh =h 1 h .2t h 主成分提取終止準(zhǔn)則判斷的準(zhǔn)則常用的有交叉有效性準(zhǔn)則和復(fù)測(cè)定系數(shù)準(zhǔn)則。本文將采用交叉有效性準(zhǔn)則5,6。復(fù)測(cè)定系數(shù)準(zhǔn)則可參考文獻(xiàn)5。把所有 n 個(gè)樣本點(diǎn)分成兩個(gè)部分:第一部分是除去某個(gè)點(diǎn) i 的所有樣本點(diǎn)集合(共 n 1個(gè)樣本點(diǎn))，用這個(gè)部分樣本點(diǎn)并使用 h 個(gè)成分?jǐn)M合一個(gè)回歸方程；第二部分是把剛才被排除的樣本點(diǎn) i 代入前面擬合的回歸方程，得到 y j 在樣本點(diǎn) i 上的擬合值，記為 y hj ( i ) 對(duì)于每一個(gè) i = 1,2,l, n ，重復(fù)上述測(cè)試，即可以定義 y j 的預(yù)測(cè)誤差平方和為 press hj ，有press hjn= ( yiji =1 y2hj ( i ) )，(2-9)定義 y 的預(yù)測(cè)誤差平方和為 pressh ，有ppress h = press hj .(2-10)i =1另外，再采用所有的樣本點(diǎn)，擬合含 h 個(gè)成分的回歸方程這時(shí)，記第 i 個(gè)樣本點(diǎn)的預(yù)測(cè)值為 y hji ，則可定義 y j 的誤差平方和為 ss hj ，有ss hj= ( yijyhji) 2 ,(2-11)定義y 的誤差平方和為 ssh ，有對(duì)每個(gè)因變量 yk ，定義pss h = ss hj .(2-12)i =1q 2 = 1 press hk hkss,(2-13)( h 1) k對(duì)于全部因變量y ，成分 th 的交叉有效性定義為q press hkpressq 2 = 1 k =1 = 1 h .(2-14)hq ss ( h 1)k =1ss ( h 1)當(dāng) q 2 (1 0.952 ) = 0.0975 時(shí)，認(rèn)為 t 的成分的邊際貢獻(xiàn)是顯著的hh2.3.3 建立回歸方程 建立數(shù)據(jù)標(biāo)準(zhǔn)化后的 pls 回歸方程將 t = ew = e w * (i = 1,2,l, m) 代入方程ii 1 i0 i1 1rr0ttf = t r t+ t 2 2+ l + t m m+ fm，(2-15)得 f0 關(guān)于 e0 的 pls 回歸方程f = ew* r t+ e w* r t+ l + ew* r t + f，(2-16)i 100 1 10 2 20 m mm其中 w* = (i wp )w , i = 1,2, l , m ，為單位矩陣。ik =1kki 關(guān)于原始變量的 pls 還原方程將方程還原成 (2-21)關(guān)于原始變量的 pls 回歸方程y k= ( y kp kisy kxi )p+ kisy kxi , k= 1,2, l , q ，(2-17)i =1sxii =1sxi其中 k 是矩陣 pqm*= w j r j 的第 k 個(gè)列向量， 是 的第 i 個(gè)分量。j =1kik3偏最小二乘回歸模型在年用電量預(yù)測(cè)中的應(yīng)用3.1 基本資料本文收集了四川省 19781998 年年用電量及其影響因素的資料7， 見(jiàn)表 1。 表中電量 單位為億 kwh，人口單位為萬(wàn)人， 產(chǎn)業(yè)值單位為億元。影響年用電量(自變量)的因子有國(guó) 民生產(chǎn)總值 x1，第一產(chǎn)業(yè)生產(chǎn)值 x2， 第二產(chǎn)業(yè)生產(chǎn)值 x3， 第三產(chǎn)業(yè)生產(chǎn)值 x4 和總?cè)丝?x5。 用 19781993 年資料建模，19941998 年資料進(jìn)行檢驗(yàn)。表 1 四川省年用電量及其影響因子的基本資料年份x1x2x3x4x5年用電量1978185.7682.2065.5538.017071.980.131979205.7691.9572.3141.507120.590.781980229.31101.6881.0546.587154.893.951981242.32108.0283.3650.947215.694.251982275.23125.3692.8457.037300.4100.291983311.00138.17105.6967.147336.9108.151984358.05156.11121.6880.277364.0116.371985421.15172.90148.11100.147419.3124.921986458.23181.20160.62116.417511.9129.831987530.86202.25187.88140.737613.2151.121988659.69241.95238.32179.427716.4159.921989744.98263.15266.16215.677803.2172.671990890.95321.41313.64255.907892.5177.1119911016.31339.00378.48298.837947.8188.1519921177.27372.04441.57363.667992.2194.3719931486.08449.38580.38456.328037.4218.9119942001.41597.37802.77601.278098.7247.5519952504.95725.461020.91758.588161.2273.5019962985.15860.021229.01896.128215.4292.1019973320.11919.281385.381015.458264.7299.1719983580.26941.241527.071111.958315.7304.083.2 多重相關(guān)性檢驗(yàn)計(jì)算自變量、因變量間的相關(guān)系數(shù)，見(jiàn)表 2。從表 2 中可以得出各自變量之間的相關(guān)系 數(shù)最高達(dá) 0.999，最低達(dá) 0.932。而因變量與自變量之間的相關(guān)系數(shù)最高大 0.990，最低達(dá) 0.960。 由此可知用電量與其影響因素之間存在著明顯的相關(guān)關(guān)系，同時(shí)自變量之間存在嚴(yán)重的自相 關(guān)性，這種自相關(guān)性有著嚴(yán)重的危害性。表 2 自變量、因變量間的相關(guān)系數(shù)r()x1x2x3x4x5yx11.0000.9950.9990.9990.9400.970x21.0000.9890.9910.9710.984x31.0000.9990.9320.960x41.0000.9410.965x51.0000.990y1.0003.3 第一主成分相關(guān)性檢驗(yàn)分別提取自變量集合與因變量集合的第一主成分，繪制第一主成分相關(guān)圖。繪制二者之 間的 t1 / u1 平面圖見(jiàn)圖 1，我們可以發(fā)現(xiàn)，所有樣本點(diǎn)在圖中的排列近似于一條直線，則說(shuō) 明 x 和 y 之間存在著較強(qiáng)的線性關(guān)系，并且計(jì)算得到二者之間的相關(guān)系數(shù)高達(dá) 0.990由此可知，用電量與其影響因素之間存在著明顯的相關(guān)關(guān)系。因此可以用偏最小二乘回歸模型進(jìn)行建模。圖 1 t1 / u1 平面圖3.4 對(duì)年用電量建立偏最小二乘回歸模型根據(jù)前面偏最小二乘建模步驟， 得到如下成果：3.4.1 第一成分 t11w = (0.4456,0.4519,0.4407,0.4429,0.4540)t1p = (0.4456,0.4510,0.4484,0.4494,0.4371)t*t1 = 0.4456x1 + 0.4519x2 + 0.4407 x3 + 0.4429x4 + 0.4540 x5y* 與 t1 的回歸方程為y * = r t= 0.4441t= 0.1979x* + 0.2007 x * + 0.1957 x* + 0.1967 x* + 0.2016x*1 11123451 1r = 0.964,f = 371.2 (r 為 y * = r t 回歸方程，f為計(jì)算的 f 檢驗(yàn)值)1q 2 = 0.907 0.0975 ，繼續(xù)計(jì)算：3.4.2 第二成分 t22w = (0.2326,0.0419,0.3657,0.3122,0.8444)tp = (0.2324,0.0644,0.3880,0.3049,0.8363)t2*t2 = 0.2232 x1 + 0.0514 x2 0.3564 x3 0.3028x4 + 0.8539 x5y* 與 t1，t2 的回歸方程為 *y = r t+ r t= 0.4441t+ 0.5117t= 0.0836x* + 0.2270x* + 0.0133x* + 0.0417 x* + 0.6390x *1 1r = 0.970,2 21212345f = 212.02q 2 = 0.565 0.0975 ，繼續(xù)計(jì)算：3.4.3 第三成分 t33w = (0.0047,0.6721,0.6657,0.2180,0.2398)t3p = (0.0261,1.003,0.4530,0.2563,0.3336)t*t3 = 0.0122 x1 0.6704 x2 + 0.6538x3 0.2282 x4 + 0.2683x5y* 與 t1，t2，t3 的回歸方程為 *y = r t+ r t+ r t= 0.0713x * 0.4510x * + 0.6745x * 0.1891x * + 0.9104 x *1 1 2 2 3 312 3 4 5r = 0.970,f = 177.73q 2 = 0.028 0.0975 ，計(jì)算結(jié)束。3.4.4 偏最小二乘回歸方程上面計(jì)算表明，提取 2 個(gè)主成分就足夠了。 偏最小二乘回歸方程如下： 標(biāo)準(zhǔn)化變量回歸方程 ： *y = 0.0836 x * + 0.2270 x * + 0.0133x * + 0.0417 x * + 0.6390x *1 2 3 4 5原始變量回歸方程 ：y = 518.7 + 0.0093x1 + 0.0881x2 + 0.0038x3 + 0.0141x4 + 0.0836 x5(3-1)3.5 模型評(píng)價(jià)3.5.1 累計(jì)解釋能力分析t1,t2 的累計(jì)解釋能力數(shù)值見(jiàn)表 3。 從表 3 可看出，t1,t2 對(duì)自變量和因變量的累計(jì)解釋能 力均達(dá)到 99%以上。可見(jiàn)，t1,t2 能很好地解釋自變量和因變量。累計(jì)解釋能力的計(jì)算公式如 下：di 1hh i jr ( x ; t ,l, t) =j =1r 2 ( x , t )表 3 累計(jì)解釋能力rdx1x2x3x4x5xyt10.9950.9980.9860.9910.9370.9810.967t21.0000.9990.9990.9990.9990.9990.9903.5.2 擬合、檢驗(yàn)分析為了對(duì)比，對(duì)相同資料建立一般最小二乘回歸模型，方程如下：y = 773.6 0.7277 x1 + 0.5914 x2 + 1.0722 x3 + 0.4704 x4 + 0.1206 x5(3-2)對(duì)式(3-1)、(3-2)進(jìn)行比較，可看出明顯的區(qū)別：式(3-1)中各回歸系數(shù)都為正值，表明年 用電量與各因變量正相關(guān)，與實(shí)際情況吻合；而且回歸系數(shù)大小能客觀反映各自變量對(duì)年用 電量的影響程度， 如第一產(chǎn)值 x2 和人口 x5 的回歸系數(shù)分別為 0.0881 和 0.0836，較其它大， 真實(shí)地刻劃了它們對(duì) y 的影響權(quán)重。式(3-2)中，y 與國(guó)民生產(chǎn)總值 x1 的回歸系數(shù)為-0.7277， 表明國(guó)民生產(chǎn)總值增加， 年用電量反而減小， 與實(shí)際矛盾；另外，人口對(duì)年用電量的影響 應(yīng)較大，而式(3-2)中 x5 的回歸系數(shù)僅為 0.1206，出入較大。從實(shí)際擬合和檢驗(yàn)進(jìn)一步比較分析。表 4 列出了兩種模型預(yù)測(cè)的結(jié)果，表 5 給出了兩種模型在擬合和檢驗(yàn)階段的合格率(小于給定相對(duì)誤差的年數(shù)與總年數(shù)的百分比)及確定性系 數(shù) dy。由表 4、表 5 可知，偏最小二乘回歸模型較最小二乘回歸模型優(yōu)。 可見(jiàn)，偏最小二 乘回歸模型更具有先進(jìn)性， 其計(jì)算結(jié)果更為可靠，它在實(shí)際系統(tǒng)中的可解釋性也更強(qiáng)。表 4 年用電量擬合和檢驗(yàn)結(jié)果階段實(shí)際值偏最小二乘回歸最小二乘回歸預(yù)測(cè)值相對(duì)誤差%預(yù)測(cè)值相對(duì)誤差%擬 合 階 段80.1382.17-2.5480.76-0.790.7887.353.7886.724.493.9591.402.7291.242.894.2597.23-3.1697.38-3.3100.29106.27-5.96106.94-6.6108.15110.97-2.61111.42-3.0116.37115.500.75114.381.7124.92122.571.88122.751.7129.83131.66-1.41132.91-2.3151.12143.105.31145.393.7159.92157.151.73159.850.0172.67167.682.89167.692.8177.11182.38-2.98176.530.3188.15190.56-1.28192.09-2.0194.37199.83-2.81198.00-1.8218.91215.121.73216.890.9檢 測(cè) 階 段247.55240.942.67243.441.66273.50265.163.05268.201.94292.10288.721.16292.71-0.21299.17303.44-1.43313.75-4.87304.08313.95-3.24340.89-12.11表 5 偏最小二乘回歸模型和最小二乘回歸模型 擬合和檢驗(yàn)結(jié)果標(biāo)準(zhǔn)偏最小二乘回歸模型最小二乘回歸模型擬合檢驗(yàn)擬合檢驗(yàn)e10%10010010080.0e20%100100100100dy0.9910.8870.9930.2454結(jié)論年用電量受人口、國(guó)民生產(chǎn)總值、第一生產(chǎn)值、第二生產(chǎn)值及第三生產(chǎn)值影響。 這些 影響因素之間存在嚴(yán)重的多重相關(guān)性。 用一般最小二乘回歸法建模存在著很大的誤差且物 理意義明顯不足。偏最小二乘回歸方法實(shí)現(xiàn)了多元線性回歸、 主成分分析和典型相關(guān)分析 的綜合，克服了自變量之間的多重相關(guān)性的問(wèn)題，因而更具有先進(jìn)性，其計(jì)算結(jié)果更為可靠， 它在實(shí)際系統(tǒng)中的可解釋性也更強(qiáng)。 該法簡(jiǎn)單， 計(jì)算快捷，可較好地運(yùn)用于電力系統(tǒng)年用 電量的預(yù)測(cè)中。參考文獻(xiàn)1 牛東曉，曹樹(shù)華，趙磊等. 電力負(fù)荷預(yù)測(cè)技術(shù)及其應(yīng)用m. 北京：中國(guó)電力出版社, 19982 謝開(kāi)貴，李春燕，周家啟.基于神經(jīng)網(wǎng)絡(luò)的負(fù)荷組合預(yù)測(cè)模型研究j. 中國(guó)電機(jī)工程學(xué)報(bào), 2002, 22(7)：85-893 冉啟文，單永正，王琪等. 電力系統(tǒng)短期負(fù)荷預(yù)報(bào)的小波神經(jīng)網(wǎng)絡(luò)-parima 方法j. 中國(guó)電機(jī)工程學(xué) 報(bào), 2003, 23(3)：38-424 包研科，李娜.數(shù)理統(tǒng)計(jì)與 matlab 數(shù)據(jù)處理m.沈陽(yáng)：東北大學(xué)出版社，20085 王惠文.偏最小二乘回歸方法及其應(yīng)用 m. 北京：國(guó)防工業(yè)出版