統(tǒng)計學教程：第9章 相關與回歸分析

《統(tǒng)計學教程》第9章相關與回歸分析2024年7月9日/*《統(tǒng)計學》第9章相關與回歸分析9.1相關關系9.3.4多元線性回歸方程的

9.1.1相關關系的概念顯著性檢驗

9.1.2相關關系的度量9.3.5運用多元線性回歸方9.2一元線性回歸程進行估計

9.2.1一元線性回歸模型9.4非線性回歸的線性化

9.2.2一元線性回歸方程的最小二乘估計

9.2.3一元線性回歸方程的擬合優(yōu)度

9.2.4一元線性回歸方程的顯著性檢驗

9.2.5運用一元線性回歸方程進行估計9.3多元線性回歸

9.3.1多元線性回歸模型

9.3.2多元線性回歸方程的最小二乘估計

9.3.3多元線性回歸方程的擬合優(yōu)度第9章相關與回歸分析

9.1相關關系《統(tǒng)計學教程》2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.1相關關系9.1.1相關關系的概念1．

變量的函數(shù)關系和相關關系變量之間的數(shù)量關系可區(qū)分為確定性與不確定性兩類。數(shù)值型數(shù)據(jù)的確定性數(shù)量關系稱為函數(shù)關系。函數(shù)關系遵循嚴格的因果律。如在國民經(jīng)濟核算中“國內(nèi)生產(chǎn)總值=消費+積累+進出口凈額”，或者“國內(nèi)生產(chǎn)總值=固定資產(chǎn)折舊+勞動者報酬+企業(yè)盈利+生產(chǎn)稅凈額”，反映的是國民經(jīng)濟核算中的數(shù)量衡等關系，這些都是變量之間確定性的數(shù)量關系，即函數(shù)關系。數(shù)值型數(shù)據(jù)的不確定性的數(shù)量關系稱為統(tǒng)計關系，即相關關系。相關關系也是一種客觀存在的變量之間的數(shù)量關系，反映了變量之間的一種不嚴格的數(shù)量依存關系。一般來說，相關關系遵循廣義的因果律。相關關系（Correlation）是指變量之間客觀存在的不確定的數(shù)量關系。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.1相關關系2．相關分析與回歸分析相關關系是統(tǒng)計學研究的主要對象之一。在現(xiàn)代統(tǒng)計學中圍繞相關關系已經(jīng)形成了兩個重要的統(tǒng)計方法——相關分析和回歸分析。雖然，相關分析和回歸分析都是以相關關系為研究對象，由于其研究相關關系內(nèi)容的側重，和所反映相關關系特征的角度不同，兩者存在以下區(qū)別。（1）描述的方式不同相關分析主要采用相關系數(shù)來度量變量之間的相關關系。通過相關系數(shù)數(shù)值的大小來度量相關關系的強弱?；貧w分析要采用通過擬合回歸模型來度量變量之間的相關關系。通過回歸模型來反映相關關系的具體形式。有回歸模型的一般形式為（9.2）2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.1相關關系（2）變量的地位不同相關分析中變量之間的地位是對等的、可以相互置換的，變量與變量的相關系數(shù)，等價于變量與變量的相關系數(shù)?；貧w分析中變量之間的地位是不對等、不能相互置換的，在回歸模型方程式（9.2）等號右邊的變量是解釋等號右邊的變量取值的因素，因此稱之為自變量；等號左邊的變量是被自變量所解釋的因素，所以稱之為因變量。自變量（IndependentVariable）是指在回歸分析中，解釋因變量的一個或一組變量，因此也被稱為解釋變量，一般用x表示。因變量（DependentVariable）是指在回歸分析中，被解釋的變量，因此也被稱為被解釋變量，一般用y表示。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.1相關關系（3）描述的內(nèi)容不同相關分析通過相關系數(shù)描述，所反映的是變量之間相關關系的方向和大小程度。回歸分析借助回歸模型不僅描述了變量之間相關關系的方向和大小程度，還刻畫了變量之間相關關系的的具體形式，回歸模型可以用于預測和控制。（4）變量的性質(zhì)不同相關分析中的變量都是隨機變量。在回歸分析中，因變量是隨機變量；自變量可以是隨機變量，也可以是非隨機的確定性變量。當自變量為隨機變量時，不滿足普通最小二乘方法估計回歸方程的要求，需要采用工具變量方法，或者最大似然方法來進行估計。因此，在采用普通最小二乘估計時，總是規(guī)定自變量為非隨機的確定性變量。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.1相關關系9.1.2相關關系的度量1．散點圖散點圖（ScatterDiagram）是指由變量數(shù)值在直角坐標系中的分布點構成的二維數(shù)據(jù)分布圖。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.1相關關系

散點圖的作用就是通過兩個數(shù)值型變量之間在二維平面的直角坐標中的分布圖形，粗略地把握變量之間相關關系的基本態(tài)勢。例如變量之間的線性特征越顯著，說明其相關關系越強，反之則越弱；兩個變量之間的數(shù)值呈同方向變化為正相關，否則為負相關。借助散點圖還可以概略地區(qū)分和識別變量之間的非線性相關的具體類型，為回歸分析確定回歸方程的具體形式提供依據(jù)，這也是散點圖的重要功能。例如，通過散點圖展示的圖形特征，初步地分辨出相關關系是直線，還是二次曲線、三次曲線、指數(shù)曲線、對數(shù)曲線、S曲線等。所以，散點圖不僅是相關分析，也是回歸分析中經(jīng)常使用的最簡便的基本分析工具。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.1相關關系2．相關系數(shù)相關系數(shù)（CorrelationCoefficient）是度量兩個變量之間線性相關的方向和強度的測度。散點圖只是粗略地刻畫兩個變量之間線性相關關系的方向、強度和形式，不能確切地度量變量之間的相關關系的密切程度。相關系數(shù)可以具體度量變量之間的相關關系的密切程度，并且用一個相對數(shù)數(shù)值表述出來，使之具有直接的可比性。一般使用樣本統(tǒng)計量來估計總體相關系數(shù)的數(shù)值水平，有（9.3）計算相關系數(shù)的式（9.3），由三項離差平方和的比值構成。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.1相關關系

Lyy為變量y的離差平方和，有（9.4）

Lxx為變量x的離差平方和，有

（9.5）

Lxy為變量x和變量y的離差乘積和，有（9.6）2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.1相關關系

相關系數(shù)的取值范圍為。當相關系數(shù)的取值為正時，說明變量和變量的數(shù)值變化是同方向的，即為正相關；若相關系數(shù)的取值為負，則說明變量和變量的數(shù)值變化是反方向的，即為負相關。相關系數(shù)的正負取值取決于Lxy項的正負。并且，當相關系數(shù)的絕對值越是趨近于1，表明變量和變量的相關程度越高，稱之為強相關；反之，當相關系數(shù)的絕對值越是趨近于0，表明變量和變量的相關程度越低，稱之為弱相關。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.1相關關系

例9.2根據(jù)例9.1的表9.1中的數(shù)據(jù)。表9.1某證券市場價格指數(shù)與A證券價格

要求計算A證券價格與該證券市場價格指數(shù)的相關系數(shù)。解采用式（9.3），可得A證券價格與該證券市場價格指數(shù)的相關系數(shù)為2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.1相關關系3．相關系數(shù)的顯著性檢驗相關系數(shù)是總體相關系數(shù)真值的樣本統(tǒng)計量。因此，相關系數(shù)只是總體相關系數(shù)的在一定樣本分布下的估計值，尤其是當計算相關系數(shù)的樣本容量較小時，相關系數(shù)的數(shù)值的變異增大。所以，必須對不同樣本容量情況下計算出來的相關系數(shù)的統(tǒng)計顯著性進行假設檢驗。相關系數(shù)的抽樣分布，服從于自由度為n-2的t分布。一般采用T檢驗統(tǒng)計量對相關系數(shù)進行顯著性檢驗，有（9.7）2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.1相關關系

例9.3根據(jù)例9.1和例9.2中樣本容量n=12，和A證券價格與該證券市場價格指數(shù)的相關系數(shù)r=0.87749。要求在顯著性水平為0.05下，對該相關系數(shù)進行顯著性檢驗。解采用式（9.7）對相關系數(shù)進行顯著性檢驗。（1）提出假設（2）計算檢驗統(tǒng)計值（3）進行統(tǒng)計判斷由于檢驗統(tǒng)計值大于t分布的臨界值，所以拒絕原假設，認為A證券價格與該證券市場價格指數(shù)之間存在顯著的相關關系。

第9章相關與回歸分析

9.2一元線性回歸《統(tǒng)計學教程》2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸9.2.1一元線性回歸模型

1．理論模型從回歸模型的一般形式，式（9.2）出發(fā)，一元線性回歸模型可以表述為（9.8）回歸模型（RegressionModel）是指因變量依賴自變量和隨機誤差項取值的方程。因變量的取值由兩個部分構成。一部分反映了自變量的變動引起的線性變化；另一部分為剩余變動，反映了不能為自變量和因變量之間的線性關系所解釋的其它剩余的變異。在理論上，回歸分析總是假定一元線性回歸模型，即式（9.8）具有統(tǒng)計顯著性，有效地解釋了因變量的變動，剩余變動為不可觀測的隨機誤差。因此，稱式（9.8）為一元線性回歸理論模型。

2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸

關于隨機誤差，線性回歸理論模型具有以下三項假定。（1）0均值。剩余變動為不可觀測的隨機誤差，其數(shù)學期望為0。（2）方差齊性。對于所有的自變量x，隨機誤差的方差相同。（3）獨立性。各項隨機誤差之間，以及各項隨機誤差與對應的自變量之間均不相關，即有2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸2．回歸方程根據(jù)回歸理論模型中對隨機誤差的三項假定，有因此有變量的數(shù)學期望為自變量的線性函數(shù)?；貧w方程（RegressionEquation）是指因變量y的數(shù)學期望依賴自變量x取值的方程。有一元線性回歸方程為（9.9）一元線性回歸方程在直角坐標系中為一條直線，所以也稱為直線回歸方程。

2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸3．估計的回歸方程由回歸方程中可知，當回歸系數(shù)確定之后，可以利用式（9.9）計算出因變量在給定自變量數(shù)值時的數(shù)學期望。在回歸方程中的回歸系數(shù)和隨機誤差的方差均為未知，需要利用樣本數(shù)據(jù)進行統(tǒng)計估計。當根據(jù)樣本推斷出回歸方程中的回歸系數(shù)的估計量時，就得到了由樣本推斷出來的估計的回歸方程。估計的回歸方程（EstimatedRegressionEquation）是指根據(jù)樣本數(shù)據(jù)的估計量構成的回歸方程。估計的一元線性回歸方程為（9.10）當估計的一元線性回歸方程式（9.10）中的自變量給定某一具體數(shù)值時，因變量的對應的取值，也就隨之確定下來了。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸9.2.2一元線性回歸方程的最小二乘估計最小二乘估計（LeastSquareEstimation）是指估計量使因變量的觀察值與其估計值的離差平方和最小的方法。這里介紹的是普通最小二乘估計（OrdinaryLeastSquareEstimation,OLSE）。根據(jù)回歸方程和最小二乘估計定義，一元線性回歸方程關于回歸系數(shù)估計量的解為非負二次函數(shù)，必然存在最小值。因而，可以得出求解一元線性回歸方程回歸系數(shù)估計量的正規(guī)方程組，并利用離差平方和的形式，可寫為（9.13）由式（9.13）計算得到的就是一元線性回歸方程回歸系數(shù)的普通最小二乘估計（OLSE）估計量。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸

例9.4根據(jù)例9.1中某證券市場價格指數(shù)與該市場A證券價格數(shù)據(jù)。要求以A證券價格為因變量，證券市場價格指數(shù)為自變量，構造一元線性回歸模型，并采用普通最小二乘估計方法進行估計。解運用式（9.13），有估計的回歸方程為

圖8.2為本例中，該證券市場價格指數(shù)與該市場A證券價格的一元回歸方程直線與實際觀察值的擬合示意圖。

2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸9.2.3一元線性回歸方程的擬合優(yōu)度將回歸直線與觀察值的距離作為評價回歸方程擬合精度的測度，稱為擬合優(yōu)度（GoodnessofFit）。

1．判定系數(shù)在回歸分析中，將因變量的觀察值之間的變異稱為的總離差，反映了因變量的觀察值與其均值的離差的距離；并將總離差分解為自變量能夠解釋的部分，和自變量不能解釋的兩個部分。為了避免離差的正負相抵，采用離差平方和的形式，來度量因變量的總離差，并對其進行分解。將因變量的個觀察值與其均值的離差平方和稱為因變量的總離差平方和（TotalDeviationSumofSquares），記為SST，實際上這一總離差平方和就是變量的離差平方和Lyy。有（9.14）2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸

可將SST分解為（9.15）式（9.15）中等號右邊估計值與觀察值的均值的離差平方和，稱為回歸離差平方和（RegressionSumofSquares），記為SSR。反映了在觀察值的總變異中，估計的回歸方程所解釋的這一部分變異的總和。有（9.16）2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸

式（9.15）中等號右邊觀察值與其估計值的離差平方和，稱為剩余離差平方和，或殘差離差平方和（ResidualSumofSquares），記為SSE。反映了在觀察值的總變異中，估計的回歸方程所未能解釋的那一部分變異的總和。有（9.17）從而，可將式（9.15）記為（9.18）

對照圖8.2可以看出，回歸直線擬合程度決定于SSR與SSE的比較，當SSR的數(shù)值越是顯著大于SSE時，說明各觀察值與回歸直線的離差之和越小，回歸直線對于因變量的解釋能力越強。而SSR與SSE又是對總離差平方和的一個完備的分割，兩者存在互為消長的數(shù)量關系。因此以與之比作為度量回歸方程的擬合優(yōu)度的測度，稱之為判定系數(shù)。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸

判定系數(shù)（CoefficientofDetermination）是指回歸離差平方和占總離差平方和的比重，有

（9.19）由于，所以（9.20）由式（9.20）可知，判定系數(shù)就是相關系數(shù)的平方。判定系數(shù)的取值在0到1之間，當判定系數(shù)的取值趨近于1時，表示回歸直線的擬合程度很好；當判定系數(shù)的取值趨近于0時，則表示回歸直線的擬合程度很差。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸

判定系數(shù)是度量回歸直線擬合優(yōu)度的重要測度。由式（9.20）有（9.21）（9.22）式（9.21）和式（9.22）直觀地表明，判定系數(shù)是一個重要的數(shù)量界限，它將因變量的離差平方和分為了能夠為自變量所解釋的部分，和不能為自變量所解釋的部分。判定系數(shù)就是在因變量的總離差平方和中自變量所解釋的部分所占的份額。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸

例9.5仍然根據(jù)例9.1中某證券市場價格指數(shù)與該市場A證券價格數(shù)據(jù)。要求計算該證券市場價格指數(shù)與該市場A證券價格的判定系數(shù)。解運用式（9.20），可以計算得該證券市場價格指數(shù)與該市場A證券價格的判定系數(shù)為說明在例4.4的估計的回歸方程為中，自變量對因變量變異的解釋能力約為77%；或者說，A證券價格的變動中約有77%的部分可以由該證券市場價格指數(shù)與其的線性關系來解釋。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸2．因變量y估計量的標準差剩余離差平方和為因變量y估計值與觀察值的離差平方和，其自由度為n-2，SSE除以自由度n-2為剩余均方MSE，剩余均方MSE的平方根即為因變量y估計量的標準差，也稱為標準誤差，一般用表示。有（9.23）因變量y估計量的標準差作為回歸方程擬合優(yōu)度的測度，從回歸直線與觀察值的離差平方和，以及與樣本容量相聯(lián)系的自由度兩個角度，來綜合反映回歸方程的解釋能力。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸

例9.6采用例9.1中某證券市場價格指數(shù)與該市場A證券價格數(shù)據(jù)。要求計算因變量y估計量的標準差，分析例9.4估計的回歸方程的解釋能力。解運用式（9.23），可以計算得回歸方程的因變量y估計量的標準差為2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸9.2.4一元線性回歸方程的顯著性檢驗估計的回歸方程是依據(jù)樣本數(shù)據(jù)擬合的，樣本容量大小，因變量和自變量的抽樣分布，都會對回歸方程中估計量的與總體參數(shù)真值之間的誤差生產(chǎn)影響，僅憑回歸方程擬合優(yōu)度的有關測度，不能認定因變量與自變量之間是否真的存在這種線性關系，還需要對估計的回歸方程進行假設檢驗。一元回歸方程的顯著性檢驗的原假設為參數(shù)的真值為0，即

（9.24）當原假設成立,可將因變量的變異歸結于剩余因素，表明自變量對因變量不具有顯著的線性關系，一元線性方程對于因變量沒有顯著的解釋能力。這時，估計的回歸方程不具備任何實際意義，不能用于預測和控制。若原假設不成立，說明因變量的變異顯著地來源于自變量，這時估計的回歸方程才具有實際意義。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸

在一元線性回歸分析中，有回歸均方與剩余均方分別服從自由度為1和自由度為n-2的卡方分布，則由回歸均方與剩余均方的比值構造的F檢驗統(tǒng)計量服從第一自由度為1和第二自由度為n-2的F分布。即

（9.25）利用判定系數(shù)，可將式（9.25）寫為便于計算的形式，即

（9.26）

2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸

同樣，可以采用方差分析表來反映在一元線性回歸分析的顯著性檢驗中，對變量的離差平方和分解的分析過程和有關數(shù)據(jù)。表9.2一元線性回歸的方差分析表構成2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸

例9.7根據(jù)例9.1中某證券市場價格指數(shù)與該市場A證券價格數(shù)據(jù)。要求在顯著性水平為0.05下，對例9.4估計的回歸方程進行顯著性檢驗。解運用式（9.26），采用檢驗統(tǒng)計量進行顯著性檢驗。

可以利用Excel“分析工具庫”中的“回歸”工具，對一元線性回歸進行顯著性檢驗。表9.3即為本例利用“回歸”工具進行顯著性檢驗的方差分析表，有表9.3Excel“回歸”工具一元線性回歸方差分析表2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸9.2.5運用回歸方程進行估計擬合回歸方程的目的就是要利用回歸方程對因變量進行科學的估計，進而取得估計數(shù)值對事物及其現(xiàn)象數(shù)量特征發(fā)展的趨勢進行預測或控制。估計的回歸方程在通過顯著性檢驗之后，就可以運用它進行對因變量的估計，以實現(xiàn)預期的目的。1．點估計回歸方程的點估計是利用估計的回歸方程，針對自變量某一給定的數(shù)值，計算出因變量的在給定的這一點上的總體均值的估計值。所以，回歸方程的點估計實質(zhì)上是以對應于自變量x某一具體數(shù)值的因變量y的總體均值的估計值。即（9.26）

2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸2、區(qū)間估計運用回歸方程的統(tǒng)計量估計因變量時，剩余誤差的數(shù)學期望為（9.28）當均服從正態(tài)分布，并且相互獨立時，有（9.29）在實際運用時，一般采用樣本數(shù)據(jù)計算的估計量的標準差替代式（9.29）中的標準差進行計算。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸

式（9.30）中的剩余誤差方差的估計量，服從自由度為n-2的t分布。由此，可以得出統(tǒng)計量的置信區(qū)間為（9.31）式（9.29）中，因變量估計值的均值的方差，它反映的是運用回歸方程的統(tǒng)計量估計因變量的均值的平均離差。有（9.32）也服從自由度為n-2的t分布。因此，當進行區(qū)間估計的對象是對應于數(shù)值的因變量的總體均值時，有置信區(qū)間為（9.33）2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸

回歸方程的區(qū)間估計有兩點特點。（1）回歸方程的區(qū)間估計在點上取最小值;

（2）運用回歸方程的統(tǒng)計量估計因變量的個別點的置信區(qū)間，要比估計其均值的置信區(qū)間大。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸

例9.8根據(jù)例9.1中某證券市場價格指數(shù)與該市場A證券價格數(shù)據(jù)。要求在顯著性水平為0.05下，該證券市場價格指數(shù)為1840%時，對估計的回歸方程進行點估計，并計算A證券價格的置信區(qū)間。解（1）A證券價格的點估計（2）計算A證券價格的置信區(qū)間可計算出A證券價格，在顯著性水平為0.05下的置信區(qū)間為8.27元到13.60元。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.2一元線性回歸

例9.9在一次對某市居民生活狀態(tài)調(diào)查中，采集了居民在調(diào)查當年的上一個月支出和上年總收入數(shù)據(jù)，如表9.4所示。表9.4某市居民當年上月支出和上年總收入元第9章相關與回歸分析

9.3多元線性回歸《統(tǒng)計學教程》2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.3多元線性回歸9.3.1多元線性回歸模型

1．線性回歸模型的一般形式設線性回歸模型的一般形式為（9.34）多元線性回歸模型有p+1項回歸系數(shù)，自變量為p項。若有組由因變量和項自變量數(shù)據(jù)構成的樣本，依式（9.34）可組成線性回歸模型，可用矩陣表示為（9.35）其中

2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.3多元線性回歸2．線性回歸模型的基本假定（1）誤差項的數(shù)學期望為0，表明估計的回歸方程中不存在系統(tǒng)性誤差（SystematicError）；（2）各誤差項的方差相等；（3）各誤差項之間的協(xié)方差為0；以上三項基本假定一般又稱為Gauss-Markov條件。（4）自變量與誤差項之間的協(xié)方差為0；（5）自變量的樣本容量必須大于自變量的項數(shù)加1。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.3多元線性回歸9.3.2多元線性回歸的最小二乘估計由式（9.35）回歸模型，若有關回歸系數(shù)的估計量已得，則有

（9.36）根據(jù)最小二乘估計的基本定義，令估計值與觀測值在所有點上的殘差的平方和最小，經(jīng)求偏導，并令其為0，有

（9.39）解得（9.40）式（9.40）即求解回歸系數(shù)估計量的正規(guī)方程。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.3多元線性回歸

例9.10若例9.1中某市場A證券為A股份有限公司的普通股股票，A證券價格不僅與該證券市場價格指數(shù)相關，而且與A股份有限公司的主要原料價格相聯(lián)系，有關數(shù)據(jù)見表9.5。表9.5A證券價格與證券市場價格指數(shù)和主要原料價格2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.3多元線性回歸9.3.3多元線性回歸方程的擬合優(yōu)度

1．多重判定系數(shù)多重判定系數(shù)（MultipleCoefficientofDetermination）是指在多元線性回歸分析中，回歸離差平方和占總離差平方和的比重。有

（9.41）多重判定系數(shù)的算術平方根為多重相關系數(shù)（MultipleCorrelationCoefficient），一般也稱為復相關系數(shù)。

2．修正的多重判定系數(shù)修正的多重判定系數(shù)（AdjustedMultipleCoefficientofDetermination）是指運用自變量項數(shù)和樣本容量進行修正了的多重判定系數(shù)，一般也簡稱為修正的判定系數(shù)，有（9.42）2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

3．因變量y的估計量的標準差與在一元線性回歸分析中一樣，多元線性回歸也以因變量y的估計量的標準差作為度量估計的多元線性回歸方程擬合優(yōu)度的重要測度，并且多元線性回歸分析中的估計量的標準差也是剩余均方的平方根。不同的是在一元線性回歸分析中估計量的標準差的自由度為n-2；在多元線性回歸分析中估計量的標準差的自由度為n-p-1。多元線性回歸的公式是計算估計量的標準差的一般形式，有（9.43）9.3多元線性回歸2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.3多元線性回歸

例9.11根據(jù)例9.9中某市場A證券價格、該證券市場價格指數(shù)和主要原料價格數(shù)據(jù)。要求計算判定系數(shù)、修正的判定系數(shù)，和估計量的標準差。（1）計算判定系數(shù)，有（2）計算修正的判定系數(shù)，有（3）計算估計量的標準差，有

2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.3多元線性回歸9.3.4多元線性回歸方程的顯著性檢驗在多元線性回歸中，回歸方程顯著并不意味每個自變量對因變量都顯著。因而，多元線性回歸的顯著性檢驗包括對回歸方程和對每個自變量的兩個方面。

1、多元線性回歸方程的顯著性檢驗對多元線性回歸方程的顯著性檢驗是從整個方程的角度，檢驗做作一個整體的全部項自變量是否對因變量存在顯著性影響。為此，原假設為（9.44）這是從全部的項回歸系數(shù)出發(fā)，對整個回歸方程的顯著性假設檢驗。由回歸均方與剩余均方的比值構造的檢驗統(tǒng)計量為（9.45）2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.3多元線性回歸

同樣，也可以采用方差分析表來反映多元線性回歸分析過程中，對變量離差平方和的分解及其檢驗統(tǒng)計量的計算。表9.6線性回歸的方差分析表構成2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.3多元線性回歸

例9.12根據(jù)例9.10中某市場A證券價格、市場價格指數(shù)和原料價格數(shù)據(jù)。要求對估計的多元回歸方程，在顯著性水平為0.05下，進行顯著性檢驗。解運用式（9.45），采用檢驗統(tǒng)計量進行顯著性檢驗。（1）確定原假設假設該證券市場價格指數(shù)和原料價格對A證券價格的變動均不具有顯著的線性關系。（2）計算檢驗統(tǒng)計值（3）統(tǒng)計判斷在顯著性水平為0.05下，F(xiàn)檢驗臨界值為4.2565。由于檢驗統(tǒng)計值38.14195明顯大于檢驗臨界值，所以拒絕原假設，認為該證券市場價格指數(shù)和原料價格與A證券價格變動之間存在顯著的線性關系，估計的多元回歸方程具有顯著的解釋能力。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.3多元線性回歸2．自變量x的顯著性檢驗當多元線性回歸方程中某一個自變量與因變量不顯著時，就意味該自變量的回歸系數(shù)真值為0。所以，檢驗自變量是否顯著，即為檢驗其回歸系數(shù)真值為0的原假設是否為真，有（9.46）其檢驗統(tǒng)計量為

（9.47）式（9.47）中的為矩陣中主對角線上的第i個元素。在假設檢驗中不顯著的自變量應從多元線性回歸方程中逐步剔除，完成多元線性回歸方程的簡化和完善。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.3多元線性回歸

例9.13采用例9.10中某市場A證券價格、該市場證券價格指數(shù)和原料價格，以及有關矩陣數(shù)據(jù)。要求對估計的多元回歸方程的回歸系數(shù)，在顯著性水平為0.05下，進行顯著性檢驗。顯然有回歸系數(shù)的檢驗統(tǒng)計值大于相應的臨界值。因此拒絕原假設。認為自變量與因變量之間具有顯著的線性相關關系。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.3多元線性回歸9.3.5運用多元線性回歸方程進行估計在完成了對多元線性回歸方程和及其每個自變量的顯著性檢驗之后，就可以應用該估計的多元線性回歸方程進行預測。由式（9.36），有在自變量處的預測，為

1．個別點與均值的點估計均為（9.48）可記為矩陣的形式，有（9.49）2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.3多元線性回歸（2）個別點y0的置信區(qū)間為（9.50）式（9.50）中的s0為運用回歸方程的統(tǒng)計量估計因變量y0時，誤差的標準差的估計量，服從自由度為n-p-1的t分布。有（9.51）（3）均值的置信區(qū)間為（9.52）式（9.52）中的為運用回歸方程的統(tǒng)計量，估計因變量的均值時的標準差的估計量，也服從自由度為為n-p-1的t分布。有（9.53）

2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.3多元線性回歸

例9.14根據(jù)例9.10中某市場A證券價格、該證券市場價格指數(shù)和原料價格數(shù)據(jù)。要求在顯著性水平為0.05下，當該證券市場價格指數(shù)為1840%，和原料價格為510元時，對估計的回歸方程進行點估計，并計算A證券價格的置信區(qū)間。解（1）A證券價格的點估計（2）計算A證券價格的置信區(qū)間

可計算出A證券價格，在顯著性水平為0.05下的置信區(qū)間為7.83元到11.96元。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.3多元線性回歸

例9.15

假定在例9.9中的對某市居民生活狀態(tài)調(diào)查時，不僅采集了居民在調(diào)查當年的上一個月支出和上年總收入數(shù)據(jù)，還調(diào)查了該市居民上年的總支出情況，具體數(shù)據(jù)如表9.8所示。表9.8某市居民當年上月支出和上年總收入元

要求假設居民當期支出與上年收入和上年支出情況存在線性相關關系，試根據(jù)表9.8中的數(shù)據(jù)進行多元線性回歸分析。

第9章相關與回歸分析

9.4非線性回歸的線性化《統(tǒng)計學教程》2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.4非線性回歸的線性化

在實際的經(jīng)濟管理問題中，許多因變量與自變量之間為非線性回歸關系，可以通過對于變量的替代變換，將非線性回歸關系進行線性化，然后再應用最小二乘法估計出相關的回歸方程。以下為幾種常用的非線性回歸模型的線性化方法。（1）二次曲線回歸模型的線性化若有二次曲線回歸模型（9.54）令式（9.54）的二次項，則得線性化后的二次曲線回歸模型（9.55）顯然，可以將這種線性化方法簡單地推廣到高次曲線回歸模型的線性化。2024年7月9日/*《統(tǒng)計學》

第9章相關與回歸分析

9.4非線性回歸的線性化（2）指數(shù)回歸模型的線性化若有指數(shù)回歸模型（9.56）對式（9.51）等式兩邊同時取自然對數(shù)，可得線性化后的指數(shù)回歸模型