《回歸分析方法》PPT課件.ppt

第4講 線性回歸分析,2012年9月,城市規(guī)劃數據分析方法,有趣的發(fā)現,英國著名的統計學家F.Galton及其弟子K.Pearson, 研究了1078對夫婦及其一個成年兒子的身高關系。他們以兒子身高作為縱坐標、夫婦平均身高為橫坐標作散點圖，結果發(fā)現二者的關系近似于一條直線。 經計算得到了如下方程：,由此方程可以看到 ：夫婦平均身高增加或減少一個單位，兒子的身高只增加或減少 0.516個單位。也就是說，子代的身高就不像父輩身高那樣分化 ，而是逐漸向平均身高回歸 。Galton引進“回歸”（regression)一詞來表達這種變化關系。不過后來人們研究其它變量間的關系時，并沒有發(fā)現如上所述的回歸現象，但仍沿用 “回歸” 的概念以紀念統計學家F.Galton。,“回歸”，指在依據大樣本數據作出的變量間關系的散點圖中，可以找到一條特定的直線或曲線，這樣就可以把這條直線或曲線叫做其它測量變量與被預測變量之間關系的回歸線，它能夠最理想的反映變量間的預測關系。,3.1 回歸分析的目的,相關分析揭示了要素之間的相關程度。然而，諸要素之間關系的進一步具體化，譬如某一要素與其它要素之間的關系若能用一定的函數形式予以近似地表達，那么其實用意義將會更大。 回歸分析方法，就是研究要素之間具體數量關系的一種強有力的工具，運用這種方法能夠建立反映要素之間具體數量關系的數學模型，即回歸模型。,3.2 一元線性回歸,定義：假設有兩個要素（變量）x和y，x為自變量，y為因變量。 一元線性回歸模型的基本結構形式為 上式代表x與y之間相關關系的擬合直線，稱為回歸直線； 是y 的估計值，亦稱回歸值。 擬合的好壞程度用擬合優(yōu)度（R2）度量,7,參數估計: 普通最小二乘法（ordinary least squares,OLS）: 最小二乘法的基本原則是：最優(yōu)擬合直線應該使各點到直線的距離的和最小，也可表述為距離的平方和最小。 假定根據這一原理得到的、估計值為 、 ，則直線可表示為 : 參數檢驗,一元線性回歸的步驟,利用散點圖或相關分析確定兩變量是否存在線性關系； 利用Excel、SPSS、Eview等軟件計算回歸方程的回歸常數和回歸系數，得到回歸方程；,進行擬合優(yōu)度檢驗。 判斷回歸方程對樣本數據的代表程度。檢驗的方法是使用判定系數R2，取值范圍在0R2 1。當其等于0時，x與y 沒有任何關系；當其為1 時，回歸線是完全擬合的，即所有散點均落在回歸線上；其越接近于1，回歸線擬合得越好。,GDP與人口,3.3 多元線性回歸,一個事件往往存在兩個或多個要素，它們之間也存在著相互影響、相互關聯的關系。因此，多元線性回歸模型更帶有普遍性的意義。,為常數,稱為回歸系數,F檢驗回歸方程擬合效果,GDP與人口,3.4 多項式回歸（二次多項式回歸）,假設有兩個要素（變量）x和y，x為自變量，y為因變量。 一元線性回歸模型的基本結構形式為。,例：太陽光的紫外線隨一日中時間的變化而變化，今測得某地 56 月份晴天一日內不同時間的紫外線強度如下，試作回歸分析。 畫散點圖，可以看出，紫外線強度與一日內的時間大致呈拋物線關系，便可得到擬合方程。,3.5多項式回歸（三次多項式回歸）,假設有兩個要素（變量）x和y，x為自變量，y為因變量。 一元線性回歸模型的基本結構形式為。,研究飼料的含磷量與飼料系數的關系，得如下數據，試進行回歸分析 含磷量x% 0.35 0.77 1.04 1.36 1.70 飼料系數y 2.65 2.01 1.77 2.25 4.27 配置拋物線方程，得方程1： 增加高次方項，并進行優(yōu)化篩選，得方程2： 顯然，方程 2 要好于方程 1，兩者的預測值也表明方程 2 要更接近于實測值：,多項式回歸（二次多項式回歸）,假設有兩個要素（變量）x和y，x為自變量，y為因變量。 一元線性回歸模型的基本結構形式為。,3.5 非線性回歸模型,非線性關系線性化的幾種情況: 對于指數曲線 ，令 , 可以將其轉化為直線形式： ，其中， ； 對于對數曲線 ，令 ， ，可以將其轉化為直線形式： ； 對于冪函數曲線 ，令 ， ，可以將其轉化為直線形式： 其中， ；, 對于雙曲線 ，令 ，轉化為直線形式： 對于S型曲線 ，可 轉化為直線形式： 對于冪乘積： ，只要令 ，就可以將其轉化為線性形式： 其中， ；, 對于對數函數和 只要令 ，就可以將其化為線性形式： 例:下表給出了某地區(qū)林地景觀斑塊面積（Area）與周長（Perimeter）的數據。下面我們建立林地景觀斑塊面積A與周長P之間的非線性回歸模型 。,（1）作變量替換，令： ， ，將上表中的原始數據進行對數變換，變換后得到的各新變量對應的觀測數據如下表所示。,（2） 以x為橫坐標、y為縱坐標，在平面直角坐標系中作出散點圖。很明顯，y與x呈線性關系。,（3）根據所得表中的數據，運用建立線性回歸模型的方法，建立y與x之間的線性回歸模型，得到： x與y的相關系數 高達0.9665。 （4）將上式還原成雙對數曲線，即,事實上，有關研究表明（Li，2000；徐建華等，2001），景觀形態(tài)具有分形特征，景觀斑塊的面積（Area）與周長（Perimeter）之間的數量關系都可以用雙對數關