多元線性回歸擬合分析

1、楚雄師范學(xué)院2012年數(shù)學(xué)建模競(jìng)賽第一次實(shí)戰(zhàn)訓(xùn)練（一）第一題論文 題 目 多元非線性回歸擬合模型 姓 名 郜紅霞 楊環(huán) 劉發(fā)穩(wěn) 2012年8月20日 多元非線性回歸擬合模型摘要：本文推論了多元非線性數(shù)據(jù)擬合的通用數(shù)學(xué)模型,利用最小二乘法和極值原理,導(dǎo)出求解多元非線性回歸方程的規(guī)范方程組。并用矩陣形式對(duì)規(guī)范方程組進(jìn)行表述,在所表述的諸矩陣中,結(jié)構(gòu)矩陣是其基礎(chǔ)。用它可方便地轉(zhuǎn)化出其他矩陣,這將大大簡(jiǎn)化程序的編制和規(guī)范方程組的解算。計(jì)算機(jī)根據(jù)輸入數(shù)據(jù)自變量的個(gè)數(shù)和實(shí)驗(yàn)所作次數(shù)的多少,求解出相應(yīng)的多元非線性回歸方程及其評(píng)估方程質(zhì)量的數(shù)據(jù)。關(guān)鍵字： 規(guī)范方程；非線性回歸方程；最小二乘法；結(jié)構(gòu)矩

2、陣；極值原理；對(duì)稱矩陣；數(shù)據(jù)分析；計(jì)算機(jī)擬合；矩陣形式自變量。  1 問(wèn)題重述行YX1X2X3X4X5X614434979768152052290277031661293676115921300933945369262925824754816742941632026296315434141111974531056047510212861711485841720285951498727112-12421040015599915111741147362628191207121572511799451344045658419131951448092756392023215136272682

3、417134165301115293111325617610781028457266186171068782187276196009798711282662048067656213121962127938264410811022446563299168188234505410050111520524335535560801702545961537965193266306010810417827327483837871118233286177412566164265296058912171882833038864308110101763135134446579143323667134568916

4、23349388308713020734648112105123512343544957697254200363406135551301523729229454713131233868882105812092683940880556111119740461828854147225要求：1.檢驗(yàn)強(qiáng)影響點(diǎn)； 2.正態(tài)性檢驗(yàn)； 3.相關(guān)性檢驗(yàn)； 4.自變量的多重共線性檢驗(yàn)； 5.殘差的相關(guān)性分析，模型的合理分析。 6.預(yù)測(cè)=（470 81 82 50 13.7 225）'。2 問(wèn)題分析 先建立基礎(chǔ)的多元線性回歸方程，以初步確定輸入變量與輸出變量的關(guān)系，若預(yù)測(cè)效果不理想，則需要對(duì)方程進(jìn)行進(jìn)一步

5、優(yōu)化，考慮建立非線性回歸方程模型或其他更優(yōu)模型，反復(fù)進(jìn)行判斷和優(yōu)化，最后得到較理想的預(yù)測(cè)方程。并用一定的評(píng)價(jià)標(biāo)準(zhǔn)對(duì)得出的預(yù)測(cè)方程進(jìn)行判定，最后，用實(shí)驗(yàn)數(shù)據(jù)對(duì)模型預(yù)測(cè)的精度進(jìn)行驗(yàn)證。3 基本假設(shè)與符號(hào)說(shuō)明符號(hào)說(shuō)明多元線性回歸的輸入變量多元線性回歸的輸出變量 多元非線性回歸的輸入變量 多元線性回歸的輸出變量 回歸系數(shù)回歸系數(shù)估計(jì)值輸出變量估計(jì)值Q 殘差平方和E 擬合誤差無(wú)偏估計(jì)值方差R復(fù)相關(guān)系數(shù)SE標(biāo)準(zhǔn)誤差 4 模型建立3.1 問(wèn)題分析3.2 模型建立 （1）我們先假設(shè)輸入變量和輸出變量之間的關(guān)系是線性函數(shù)關(guān)系，建立多元線性回歸模型。î (2)為了在研究?jī)蓚€(gè)指定變量之間的相關(guān)關(guān)系的同時(shí)，

6、控制可能對(duì)其產(chǎn)生影響的其他變量，我們?cè)谘芯咳我鈨蓚€(gè)輸入變量的相互作用的判斷中，運(yùn)用了偏相關(guān)分析先對(duì)任意兩個(gè)輸入變量之間是否有交互作用進(jìn)行判斷。設(shè)隨機(jī)變量X、Y、Z之間彼此存在著相關(guān)關(guān)系，為了研究X和Y之間的關(guān)系，就必須在假定Z不變的條件下，計(jì)算和Y的偏相關(guān)系數(shù)，記為。在考察多個(gè)變量時(shí)，（i=1，2.，p）之間的p-1階偏相關(guān)關(guān)系可由如下的遞推式定義： 計(jì)算得出輸出變量的相關(guān)性檢驗(yàn)。（3）我們建立部分多元非線性回歸模型，來(lái)判斷在Y與的模型中有交互作用的的形式。e+ 其中，在判斷出的形式的形式后，我們建立所有與Y的多元非線性回歸模型。(4) 將數(shù)據(jù)錄入后，用SPSS13.0軟件得出未知系數(shù)，從而得

7、出之間的函數(shù)關(guān)系。然后再進(jìn)行參數(shù)估計(jì)，統(tǒng)計(jì)分析，假設(shè)檢驗(yàn)，回歸系數(shù)檢驗(yàn)，相關(guān)系數(shù)檢驗(yàn)，如果通過(guò)檢驗(yàn)，則得到較優(yōu)模型，若未通過(guò)檢驗(yàn)，則進(jìn)行進(jìn)一步調(diào)整優(yōu)化。 （5）參數(shù)估計(jì)在得出函數(shù)關(guān)系后，我們要對(duì)其進(jìn)行參數(shù)估計(jì)。 假設(shè)有n個(gè)獨(dú)立觀測(cè)的數(shù)據(jù)要確定回歸系數(shù) 由最小二乘法，即 求出估計(jì)值 bbéùéùéùêúêúêú=Y的估計(jì)值為： 擬合誤差稱為殘差平方和 （6） 統(tǒng)計(jì)分析 首先，求殘差平方和Q,并由此得的無(wú)偏估計(jì)。 然后，對(duì)Y的樣本方差進(jìn)行分解。 （7） 假設(shè)檢驗(yàn) 構(gòu)造F-統(tǒng)計(jì)量及

8、檢驗(yàn)的拒絕域： 拒絕域（8） 回歸系數(shù)的檢驗(yàn) 判斷每個(gè)自變量對(duì)的影響是否顯著。 其中，（9） 相關(guān)系數(shù)檢驗(yàn) 復(fù)相關(guān)系數(shù)R是衡量y與相關(guān)程度的指標(biāo)，R的值越接近于1，它們的相關(guān)程度越密切。5 問(wèn)題求解問(wèn)題1.首先用spss13.0畫出箱圖，粗略分析出強(qiáng)影響點(diǎn)有3,12,34。 然后再用馬氏距離和cook精確的計(jì)算強(qiáng)影響點(diǎn)。 馬氏距離公式： Cook公式：用spss13.0錄入數(shù)據(jù)結(jié)果如下：序號(hào)馬氏距離cook距離序號(hào)馬氏距離cook距離13.481340.00124212.859480.0091926.760130.00118225.820880.00797314.184950.00081235

9、.133280.0012543.16810.0093243.475490.0423754.829770.00097251.988530.0192364.193830266.975580.0003277.03770.0028270.478060.00485810.623870.00036287.336760.0039894.669190.03478295.264680.00278109.567810.00002302.543730.00128112.749570.00155312.404540.01858129.866940.09157322.449460.00372135.310180.008

10、8336.655230.01903147.2036503438.01355822.2362159.522520.80856353.053650.00568165.912370.00399364.374170.01539174.492650.04509373.384320.00037184.514720.00635385.25690.0791192.135360.00031392.828140.02569200.988760.01049402.490160.04144觀察出第34點(diǎn)為強(qiáng)影響點(diǎn)。杠桿值求解通過(guò)MATLAB6.5（附件1）解得結(jié)果如下：diag(p)ans =0.1143 0.198

11、3 0.3887 0.1062 0.1488 0.1325 0.2055 0.2974 0.1447 0.2703 0.0955 0.2780 0.1612 0.2097 0.2692 0.1766 0.1402 0.1408 0.0798 0.0504 0.0983 0.1743 0.1566 0.1141 0.0760 0.2039 0.0373 0.2131 0.1600 0.0902 0.0867 0.0878 0.1956 0.9997 0.1033 0.1372 0.1118 0.1598 0.09750.0889問(wèn)題2.用spss13.0畫出柱狀直方圖如下： 近似可以觀察出服從正

12、態(tài)分布。問(wèn)題3.運(yùn)用eviews檢測(cè)相關(guān)性如下：（相關(guān)系數(shù)矩陣）問(wèn)題4：用spss13.0對(duì)多重共線性分析如下：（多重共線性分析圖）經(jīng)檢測(cè)具有多重共線性。消除多重共線性后運(yùn)用eviews建立模型如下所示：最小二乘擬合結(jié)果 ASSIGN.ALLF 問(wèn)題5：運(yùn)用eviews對(duì)殘差自相關(guān)性檢驗(yàn)如下： （圖為殘差線圖）先做序列e為殘差序列，由圖可知?dú)埐畈痪哂凶韵嚓P(guān)性。問(wèn)題6.將已知值與所建立模型值畫圖，如圖所示：經(jīng)過(guò)分析，所建模型與實(shí)際問(wèn)題偏差不大，所以對(duì)=（470 81 82 50 13.7 225）的預(yù)測(cè)值Y為1404.9.參考文獻(xiàn)1王璐.SPSS統(tǒng)計(jì)分析基礎(chǔ)、應(yīng)用與實(shí)踐M.北京：化學(xué)工業(yè)出版社，2010 2杜強(qiáng).SPSS