管理統(tǒng)計(jì)學(xué)多元線性回歸分析案例應(yīng)用步驟解析及EXCEL操作詳解

1、多元線性回歸,1 多元線性回歸模型 2 回歸方程的擬合優(yōu)度 3 顯著性檢驗(yàn) 4 多重共線性 5 利用回歸方程進(jìn)行估計(jì)和預(yù)測 6 虛擬自變量的回歸,1 多元線性回歸模型,多元回歸模型與回歸方程 估計(jì)的多元回歸方程 參數(shù)的最小二乘估計(jì),多元回歸模型與回歸方程,多元回歸模型 (multiple regression model,一個因變量與兩個及兩個以上自變量的回歸 描述因變量 y 如何依賴于自變量 x1 ， x2 ， xp 和誤差項(xiàng) 的方程，稱為多元回歸模型 涉及 p 個自變量的多元回歸模型可表示為,b0 ，b1，b2 ，bp是參數(shù) 是被稱為誤差項(xiàng)的隨機(jī)變量 y 是x1,，x2 ， ，xp 的線性

2、函數(shù)加上誤差項(xiàng) 包含在y里面但不能被p個自變量的線性關(guān)系所解釋的變異性,多元回歸模型(基本假定,誤差項(xiàng)是一個期望值為0的隨機(jī)變量，即E()=0 對于自變量x1，x2，xp的所有值，的方差2都相同 誤差項(xiàng)是一個服從正態(tài)分布的隨機(jī)變量，即N(0,2)，且相互獨(dú)立,多元回歸方程 (multiple regression equation,描述因變量 y 的平均值或期望值如何依賴于自變量 x1， x2 ，xp的方程 多元線性回歸方程的形式為 E( y ) = 0+ 1 x1 + 2 x2 + p xp,b1，b2，bp稱為偏回歸系數(shù) bi 表示假定其他變量不變，當(dāng) xi 每變動一個單位時(shí)，y 的平均變

3、動值,二元回歸方程的直觀解釋,估計(jì)的多元回歸方程,估計(jì)的多元回歸的方程(estimated multiple regression equation,是 估計(jì)值 是 y 的估計(jì)值,用樣本統(tǒng)計(jì)量 估計(jì)回歸方程中的 參數(shù) 時(shí)得到的方程 由最小二乘法求得 一般形式為,參數(shù)的最小二乘估計(jì),參數(shù)的最小二乘法,求解各回歸參數(shù)的標(biāo)準(zhǔn)方程如下,使因變量的觀察值與估計(jì)值之間的離差平方和達(dá)到最小來求得 。即,參數(shù)的最小二乘法(例題分析,例】一家大型商業(yè)銀行在多個地區(qū)設(shè)有分行，為弄清楚不良貸款形成的原因，抽取了該銀行所屬的25家分行2002年的有關(guān)業(yè)務(wù)數(shù)據(jù)。試建立不良貸款(y)與貸款余額(x1)、累計(jì)應(yīng)收貸款(x2

4、)、貸款項(xiàng)目個數(shù)(x3)和固定資產(chǎn)投資額(x4)的線性回歸方程，并解釋各回歸系數(shù)的含義 用Excel進(jìn)行回歸,2 回歸方程的擬合優(yōu)度,多重判定系數(shù) 估計(jì)標(biāo)準(zhǔn)誤差,多重判定系數(shù),多重判定系數(shù)(multiple coefficient of determination,回歸平方和占總平方和的比例 計(jì)算公式為 因變量取值的變差中，能被估計(jì)的多元回歸方程所解釋的比例,修正多重判定系數(shù)(adjusted multiple coefficient of determination,用樣本容量n和自變量的個數(shù)p去修正R2得到 計(jì)算公式為 避免增加自變量而高估 R2 意義與 R2類似 數(shù)值小于R2,估計(jì)標(biāo)準(zhǔn)誤

5、差 Sy,對誤差項(xiàng)的標(biāo)準(zhǔn)差的一個估計(jì)值 衡量多元回歸方的程擬合優(yōu)度 計(jì)算公式為,3 顯著性檢驗(yàn),線性關(guān)系檢驗(yàn) 回歸系數(shù)檢驗(yàn)和推斷,線性關(guān)系檢驗(yàn),線性關(guān)系檢驗(yàn),檢驗(yàn)因變量與所有自變量之間的是否顯著 也被稱為總體的顯著性檢驗(yàn) 檢驗(yàn)方法是將回歸離差平方和(SSR)同剩余離差平方和(SSE)加以比較，應(yīng)用 F 檢驗(yàn)來分析二者之間的差別是否顯著 如果是顯著的，因變量與自變量之間存在線性關(guān)系 如果不顯著，因變量與自變量之間不存在線性關(guān)系,線性關(guān)系檢驗(yàn),提出假設(shè) H0：12p=0 線性關(guān)系不顯著 H1：1，2，p至少有一個不等于0,2. 計(jì)算檢驗(yàn)統(tǒng)計(jì)量F,3. 確定顯著性水平和分子自由度p、分母自由度n-p

6、-1找出臨界值F 4. 作出決策：若FF ，拒絕H0,回歸系數(shù)檢驗(yàn)和推斷,回歸系數(shù)的檢驗(yàn),對每一個自變量都要單獨(dú)進(jìn)行檢驗(yàn) 應(yīng)用 t 檢驗(yàn)統(tǒng)計(jì)量,回歸系數(shù)的檢驗(yàn)(步驟,提出假設(shè) H0： bi = 0 (自變量 xi 與 因變量 y 沒有線性關(guān)系) H1： bi 0 (自變量 xi 與 因變量 y有線性關(guān)系) 計(jì)算檢驗(yàn)的統(tǒng)計(jì)量 t,確定顯著性水平，并進(jìn)行決策 tt，拒絕H0； tt，不拒絕H0,回歸系數(shù)的推斷 (置信區(qū)間,回歸系數(shù)在(1-)%置信水平下的置信區(qū)間為,回歸系數(shù)的抽樣標(biāo)準(zhǔn)差,26,例：巴特勒運(yùn)輸公司,巴特勒運(yùn)輸公司的主營業(yè)務(wù)地域?yàn)楸镜?，為了建立更好的工作日程表，?jīng)理們計(jì)劃為他們的駕駛員

7、估計(jì)日常行駛時(shí)間,27,28,一元回歸結(jié)果,二元回歸結(jié)果,31,回歸系數(shù)的解釋,b1=0.0611 當(dāng)送貨次數(shù)不變時(shí)，行駛里程每增加1英里，行駛時(shí)間期望的估計(jì)值增加0.0611小時(shí)。 b2=0.9234 當(dāng)行駛里程不變時(shí)，送貨次數(shù)每增加1次，行駛時(shí)間期望的估計(jì)值增加0.9234小時(shí),4 多重共線性,多重共線性及其所產(chǎn)生的問題 多重共線性的判別 多重共線性問題的處理,33,例：房屋售價(jià),一個房地產(chǎn)經(jīng)紀(jì)人認(rèn)為房屋的售價(jià)可由房屋的面積、臥室的個數(shù)和潛在需求人數(shù)來預(yù)測。他隨機(jī)選取了100座房屋并收集數(shù)據(jù)如下,三元回歸結(jié)果,多重共線性及其產(chǎn)生的問題,多重共線性(multicollinearity,回歸模型中兩個或兩個以上的自變量彼此相關(guān) 多重共線性帶來的問題有 可能會使回歸的結(jié)果造成混亂，甚至?xí)逊治鲆肫缤?可能對參數(shù)估計(jì)值的正負(fù)號產(chǎn)生影響，特別是各回歸系數(shù)的正負(fù)號有可能同我們與其的正負(fù)號相反,多重共線性的識別,多重共線性的識別,檢測多重共線性的最簡單的一種辦法是計(jì)算模型中各對自變量之間的相關(guān)系數(shù)，并對各相關(guān)系數(shù)進(jìn)行顯著性檢驗(yàn) 樣本相關(guān)系數(shù)的絕對值大于0.7,即模型中自變量之間顯著相關(guān)，存在著多重共線性 如果出現(xiàn)下列情況，暗示存在多重共線性 模型中各對自變量之間顯著相關(guān)。