多元線性回歸預(yù)測模型和分析

1、多元線性回歸預(yù)測模型和分析1、多元線性回歸的模型 Ya+b1X1+b2X2+bmXm2、多元線性回歸的參數(shù)估計（最小二乘法） 3、多元線性回歸的誤差分析與統(tǒng)計檢驗4、多元線性回歸的預(yù)測2、多元線性回歸的參數(shù)估計如果在對變量Y與Xi(i1，2，m)的n次觀察中，獲得了如下數(shù)據(jù)：最小二乘法為最小。 對上式中的a、bi(i=1,2,m)分別求偏導(dǎo)，并令其等于零，經(jīng)整理后得： (4-14) (4-15)其中第一節(jié) 二元線性回歸預(yù)測以上討論了兩個變量因素之間的回歸預(yù)測問題。然而，客觀事物的變化往往受多種因素的影響，即使其中一個因素起著主導(dǎo)作用，但有時其他因素的作用也是不可忽視的。在實際問題中，大多數(shù)影響

2、因變量的因素不是一個，而是多個。我們把包括兩個或兩個以上自變量的回歸稱為多元回歸。這一節(jié)中，我們首先討論兩個自變量的模型，借以說明多元回歸的使用，然后推廣到三個或三個以上自變量的回歸模型。 一、二元回歸模型二、二元回歸方程 稱為常數(shù)， ， 稱為Y對 x 的回歸系數(shù) 三、參數(shù)估計1 、求估參數(shù)：用最小二乘法系數(shù)的計算公式為：2 、回歸系數(shù) 、 的含義 的含義： 的含義：3、 的方差和標準差估計標準差：同一元線性回歸的情況一樣，標準誤差是對y值與模型估計值之間的離差的一種度量，它是計算置信區(qū)間估計值和其他擬合優(yōu)度的基礎(chǔ)指標。其計算公式為：四、回歸方程和系數(shù)的檢驗 1復(fù)可決系數(shù)R2 2、復(fù)相關(guān)系數(shù)對

3、于多元線性回歸而言，多元相關(guān)系數(shù)R似乎是多余的，它并未提供任何新的信息，只是可決系數(shù)的平方根。 3 、回歸方程的顯著性檢驗4 、回歸系數(shù)的檢驗：t檢驗（個體檢驗） F檢驗（全檢驗）:5 、置信區(qū)間多元回歸的近似置信區(qū)間的估計方法同簡單回歸相類似，其置信區(qū)間的公式為： 置信區(qū)間式中，n是觀察值的個數(shù)；p是自變量的個數(shù)， 是自由度為n-p的t統(tǒng)計量數(shù)值表中的數(shù)值。二元線性回歸的例子【例】一家百貨公司在10個地區(qū)設(shè)有經(jīng)銷分公司。公司認為商品銷售額與該地區(qū)的人口數(shù)和年人均收入有關(guān)，并希望建立它們之間的數(shù)量關(guān)系式，以預(yù)測銷售額。有關(guān)數(shù)據(jù)如下表。試確定銷售額對人口數(shù)和年人均收入的線性回歸方程，并分析回歸方

4、程的擬合程度，對線性關(guān)系和回歸系數(shù)進行顯著性檢驗(=0.05)。銷售額、人口數(shù)和年人均收入數(shù)據(jù)地區(qū)編號銷售額（萬元）y人口數(shù)(萬人) x1年人均收入(元)x21234567891033.335.527.630.431.953.135.629.035.134.532.429.126.331.229.240.729.823.028.226.91250165014501310131015801490152016201570一個二元線性回歸的例子(Excel 輸出的結(jié)果)一個二元線性回歸的例子(計算機輸出結(jié)果解釋)銷售額與人口數(shù)和年人均收入的二元回歸方程為 多重判定系數(shù)R2= ；調(diào)整后的R2= 回歸方

5、程的顯著性檢驗F = 52.3498 FF，回歸方程顯著 回歸系數(shù)的顯著性檢驗t= 9.3548t，； t2 = 4.7962 t；兩個回歸系數(shù)均顯著顯著性檢驗1、t檢驗2、F檢驗3、多重共線性第三節(jié) 非線性回歸預(yù)測法基本概念非線性模型及其線性化方法一. 基本概念1. 因變量 y 與 x 之間不是線性相關(guān)關(guān)系2. 可通過變量代換轉(zhuǎn)換成線性相關(guān)關(guān)系用最小二乘法求出參數(shù)的估計值并非所有的非線性模型都可以化為線性模型二. 幾種常見的非線性模型 指數(shù)函數(shù)基本形式：線性化方法兩端取對數(shù)得：圖像lny = lna + b x令：y = lny， A=a 則有 y = A+ b x幾種常見的非線性模型 冪函

6、數(shù)基本形式：線性化方法兩端取對數(shù)得：lg y = lga+ b lg x令：y = lgy，x= lg x，則y = lga + b x圖像幾種常見的非線性模型 雙曲線函數(shù)基本形式：線性化方法令：y = 1/y，x= 1/x, 則有y = a + b x圖像幾種常見的非線性模型 對數(shù)函數(shù)基本形式：線性化方法x= lgx , 則有y = a + bx圖像b 0b 0 幾種常見的非線性模型 多項式函數(shù)基本形式：線性化方法x1 = x , x2 = x2 , ，xp = xp , 則有：y=a0+a1 x1+a2x2+ap xp圖像0舉例例1：某商品從進入市場起，由于質(zhì)量和成本的改變，變動了七次價格，每次價格變動的時間基本相等，總銷售量由逐漸上