多元線性回歸與相關

多元線性回歸與相關第1頁，課件共44頁，創(chuàng)作于2023年2月多元回歸——研究兩個或兩個以上的自變量對依變量的影響，并找出它們的聯(lián)系形式。多元線性回歸——方程次數(shù)為1；多元回歸多元非線性回歸——方程次數(shù)不為1。多元線性回歸模型：其中，——回歸估計值xi——自變量b0——常數(shù)項bi——偏回歸系數(shù)，表示當其它變量保持不變時，xi改變一個單位而引起y所改變的單位數(shù)。第2頁，課件共44頁，創(chuàng)作于2023年2月第一節(jié)多元線性回歸分析第3頁，課件共44頁，創(chuàng)作于2023年2月第4頁，課件共44頁，創(chuàng)作于2023年2月二元線性回歸模型(觀察到的y)回歸面0ix1yx2(x1,x2)}第5頁，課件共44頁，創(chuàng)作于2023年2月第6頁，課件共44頁，創(chuàng)作于2023年2月多元線性回歸方程的計算第7頁，課件共44頁，創(chuàng)作于2023年2月化簡后得：第8頁，課件共44頁，創(chuàng)作于2023年2月第9頁，課件共44頁，創(chuàng)作于2023年2月第10頁，課件共44頁，創(chuàng)作于2023年2月第11頁，課件共44頁，創(chuàng)作于2023年2月第12頁，課件共44頁，創(chuàng)作于2023年2月多元線性回歸關系的顯著性檢驗（F測驗）H0：=0HA：不全為零。（i＝1、2、…m）劃分式：SSy＝SS回＋SS離dfy＝df回＋df離其中，dfy＝n－1

df回＝mSS離＝SSy－SS回df離＝dfy－df回＝n－m－1第13頁，課件共44頁，創(chuàng)作于2023年2月其中，

叫做多元線性回歸估計標準誤第14頁，課件共44頁，創(chuàng)作于2023年2月上例，已知：SSy=7074.3077n=13m=2SP1y=472.9077SP2y=18.4154

b1=12.4164b2=4.6822解：dfy=n－1=12SS回=b1SP1y+b2SP2y=5958.0409

df回=m=2SS離=SSy－SS回=7074.3077－5958.0409=1116.2668

df離=n－m－1=10第15頁，課件共44頁，創(chuàng)作于2023年2月因為F>F0.01(2,10)，所以，否定H0，推斷回歸關系極顯著。第16頁，課件共44頁，創(chuàng)作于2023年2月偏回歸系數(shù)的顯著性檢驗H0：＝0HA：≠0㈠F測驗：偏回歸平方和偏回歸自由度dfi＝1第17頁，課件共44頁，創(chuàng)作于2023年2月上例，已知：b1=12.4164b2=4.6822C22=0.0258805C33=0.0069425

df離=11第18頁，課件共44頁，創(chuàng)作于2023年2月b1的檢驗：

b2的檢驗：結論：x1對y的影響極顯著；x2對y的影響極顯著。第19頁，課件共44頁，創(chuàng)作于2023年2月㈡t測驗：∵dfi＝1，∴

其中，叫做偏回歸系數(shù)標準誤。第20頁，課件共44頁，創(chuàng)作于2023年2月上例，

df=15－3－1=11結論同上。第21頁，課件共44頁，創(chuàng)作于2023年2月第22頁，課件共44頁，創(chuàng)作于2023年2月第23頁，課件共44頁，創(chuàng)作于2023年2月自變數(shù)的相對重要性

偏回歸系數(shù)bi本身并不能反映自變數(shù)的相對重要性，其原因有二：①bi是帶有具體單位的，單位不同則無從比較；②即使單位相同，若Xi的變異度不同，也不能比較。

第24頁，課件共44頁，創(chuàng)作于2023年2月對bi進行標準化，即在分子和分母分別除以Y和Xi的標準差，就可消除單位和變異度不同的影響，獲得一個表示Xi對Y相對重要性的統(tǒng)計數(shù)—通徑系數(shù)(pathcoefficient，記作pi)，又稱標準偏回歸系數(shù)。第25頁，課件共44頁，創(chuàng)作于2023年2月=1.3171=0.9576[例10.7]表10.1資料已在例10.1中獲得了最優(yōu)二元線性回歸方程，試計算每畝穗數(shù)和每穗粒數(shù)對y的通徑系數(shù)。

第26頁，課件共44頁，創(chuàng)作于2023年2月自變量的剔除

剔除原則：1.逐個剔除2.從偏回歸平方和最小者剔除起。方法：每剔除一個自變量后，應重新建立降一元的線性回歸方程，并對該方程再進行各偏回歸系數(shù)的顯著性檢驗。若還有不顯著者，必須按剔除原則再進行剔除，剔除后，還應重復上述過程，直到保留在方程中的所有偏回歸系數(shù)都顯著為止。此時的方程為相對最佳方程。第27頁，課件共44頁，創(chuàng)作于2023年2月多元線性回歸分析的完整步驟：第一步求一、二級統(tǒng)計數(shù)，建立正規(guī)方程組。第二步解正規(guī)方程組，建立多元線性回歸方程。第三步作回歸關系的顯著性檢驗。第四步作偏回歸系數(shù)的顯著性檢驗。第五步剔除不顯著的自變量。其中前三步是每次必作，第四步是在第三步顯著時才作；第五步是在第四步發(fā)現(xiàn)有不顯著的自變量時才作。第28頁，課件共44頁，創(chuàng)作于2023年2月第29頁，課件共44頁，創(chuàng)作于2023年2月第30頁，課件共44頁，創(chuàng)作于2023年2月

研究一個依變量與多個自變量之間的聯(lián)系程度的方法。定義：復相關系數(shù)∵0≤SS回≤SSy∴0≤R≤1一般R→1，表明y與所有xi關系密切；R→0，表明y與所有xi關系不密切。第31頁，課件共44頁，創(chuàng)作于2023年2月復相關系數(shù)的顯著性檢驗（F測驗）：H0：HA：第32頁，課件共44頁，創(chuàng)作于2023年2月復相關系數(shù)的F測驗與多元線性回歸關系的F測驗是等價的：第33頁，課件共44頁，創(chuàng)作于2023年2月另外，復相關系數(shù)的顯著性檢驗也可以將R直接與表10的Rα值相比較來作統(tǒng)計推斷。查表所用自由度df離＝n－m－1，變量個數(shù)為M＝m＋1。第34頁，課件共44頁，創(chuàng)作于2023年2月二、偏相關(一)偏相關系數(shù)偏相關系數(shù)：表示在其它M-2個變數(shù)都保持一定時，指定的兩個變數(shù)間相關的密切程度。偏相關系數(shù)以r帶右下標表示。如有X1、X2、X33個變數(shù)，則r12·3表示X3變數(shù)保持一定時，X1和X2變數(shù)的偏相關系數(shù)；第35頁，課件共44頁，創(chuàng)作于2023年2月若有M個變數(shù)，則偏相關系數(shù)共有M(M-1)/2個。偏相關系數(shù)的取值范圍是[-1，1]。偏相關系數(shù)解法是：由簡單相關系數(shù)rij(i，j=1，2，…，M)組成的相關矩陣：

第36頁，課件共44頁，創(chuàng)作于2023年2月求得其逆矩陣：令xi和xj的偏相關系數(shù)為rij·

，解得后即有

rij·（10·18）第37頁，課件共44頁，創(chuàng)作于2023年2月第38頁，課件共44頁，創(chuàng)作于2023年2月偏相關系數(shù)的計算用粘帖函數(shù)MINVERSE計算出相關系數(shù)矩陣的逆矩陣第39頁，課件共44頁，創(chuàng)作于2023年2月㈡偏相關系數(shù)的顯著性檢驗（t測驗）：H0：HA：t測驗：

偏相關系數(shù)標準誤第40頁，課件共44頁，創(chuàng)作于2023年2月查臨界t值的自由度df＝n－M（M——所研究的變量個數(shù)）另外，偏相關系數(shù)的顯著性檢驗也可以將偏相關系數(shù)直接與表10的臨界r值相比較來作統(tǒng)計推斷。查表所用自由度df＝n－M，變量個數(shù)為2。第41頁，課件共44頁，創(chuàng)作于2023年2月上例，ry1.2=0.9177**ry2.1=0.8592**r12.y=－0.9343**由df＝n－M＝13－3＝10，變量個數(shù)為2查表10得r0.05（10，2）＝0.576，r0.01（10，2）＝0.708結果見上。

第42頁，課件共44頁，創(chuàng)作于2023年2月ry1.2=0.9177**表明當每穗粒數(shù)x2保持不變時，每畝穗數(shù)x1與畝產(chǎn)量y之間具有極顯著的正相關。即每畝穗數(shù)愈多，畝產(chǎn)量愈高。ry2.1=0.8592**表明當每畝穗數(shù)x1保持不變時，每穗粒數(shù)x2與畝產(chǎn)量y之間具有極顯著的正相關。即每穗粒數(shù)愈多，畝產(chǎn)量愈高。r12.y=－0.9343**表明當畝產(chǎn)量y保持不變時，每畝穗數(shù)x1與每穗粒數(shù)x3之間具有極顯著的負相關。即每畝穗數(shù)愈多，每穗粒數(shù)愈少。第43頁，課件共44頁，創(chuàng)