5.1存在測(cè)量誤差的回歸估計(jì)-王璐璐

不完備數(shù)據(jù)的回歸估計(jì)——存在測(cè)量誤差的回歸估計(jì)主講人：王璐璐CompanyLogo不完備數(shù)據(jù)的回歸估計(jì)

在樣本數(shù)據(jù)有某些不完備情況下的回歸估計(jì)問題：存在測(cè)量誤差的回歸估計(jì)分組數(shù)據(jù)的回歸估計(jì)缺失數(shù)據(jù)的回歸估計(jì)CompanyLogo存在測(cè)量誤差的回歸估計(jì)模型及基本假定工具變量估計(jì)方程誤差模型組平均法變量誤差模型加權(quán)回歸總結(jié)CompanyLogo模型及基本假定經(jīng)典正態(tài)線性回歸的測(cè)量誤差問題回歸方程：基本假設(shè)：（1）（2）（3）對(duì)于任何非隨機(jī)的解釋變量來說是個(gè)不為零的有限數(shù)

CompanyLogo模型及基本假定現(xiàn)在假設(shè)觀測(cè)值x和y含有測(cè)量誤差（用代替，且測(cè)量誤差被假定是隨機(jī)的而且具有特定的概率）

假設(shè)測(cè)量誤差具有下列行為特性：（1）（2）CompanyLogo模型及基本假定（3）以上三式可以表明：測(cè)量誤差是相互獨(dú)立的，是獨(dú)立于回歸方程的擾動(dòng)的，并且對(duì)于非隨機(jī)的x，是獨(dú)立于x和y的真值的。CompanyLogo模型及基本假定從數(shù)據(jù)和估計(jì)回歸方程的系數(shù)在上面的回歸模型中，相關(guān)變量和解釋變量是可觀測(cè)的，解釋變量是同期與擾動(dòng)相關(guān)的，即：CompanyLogo模型及基本假定意味著的最小二乘估計(jì)式不是一致的，同理的最小二乘估計(jì)式也如此。（1）式稱為變量誤差和方程誤差模型CompanyLogo工具變量估計(jì)由于當(dāng)x,y存在測(cè)量誤差時(shí)，回歸方程的系數(shù)的最小二乘估計(jì)式不是一致的。在此情況下我們得到一致估計(jì)量的方法：工具變量工具變量的含義

工具變量是在模型估計(jì)過程中被作為工具使用，以替代與隨機(jī)干擾項(xiàng)相關(guān)的隨機(jī)解釋變量。CompanyLogo工具變量估計(jì)工具變量的選取被選擇作為工具變量必須滿足以下條件：1、與所替代的隨機(jī)解釋變量高度相關(guān)；2、與隨機(jī)干擾項(xiàng)不相關(guān)；3，與模型中其他解釋變量不相關(guān)，避免出現(xiàn)多重共線性。工具變量的應(yīng)用工具變量法是克服解釋變量與隨機(jī)干擾項(xiàng)相關(guān)影響的一種參數(shù)估計(jì)方法。CompanyLogo工具變量估計(jì)

以一元回歸模型為例說明如下：用OLS估計(jì)模型，相當(dāng)于用去乘模型兩邊、對(duì)i求和、再略去項(xiàng)后得到正規(guī)方程：

解得:CompanyLogo工具變量估計(jì)

由于，意味著大樣本下:表明大樣本下:成立，即OLS估計(jì)量具有一致性。

然而，如果與

相關(guān)，即使在大樣本下，也不存在，則在大樣本下也不成立，OLS估計(jì)量不具有一致性。CompanyLogo工具變量估計(jì)這種求模型參數(shù)估計(jì)量的方法稱為工具變量法，相應(yīng)的估計(jì)量稱為工具變量法估計(jì)量。如果按照工具變量的選擇條件選擇z作為x的工具變量，那么在上述過程中不用x而用z乘以模型的兩邊，并對(duì)i求和。利用工具變量與隨機(jī)干擾項(xiàng)不相關(guān)的性質(zhì)，在大樣本下可以略去與，得到如下的正規(guī)方程組：CompanyLogo工具變量估計(jì)

工具變量法估計(jì)量是有偏估計(jì)量

用工具變量法所求的參數(shù)估計(jì)量與總體參數(shù)真值之間的關(guān)系于是因?yàn)閦和x都是隨機(jī)變量，所以在一般情況下故

上式說明工具變量法估計(jì)量一般不具有無偏性。CompanyLogo工具變量估計(jì)工具變量法估計(jì)量是一致估計(jì)量

一元回歸中，工具變量法估計(jì)量為:兩邊取概率極限得：

CompanyLogo工具變量估計(jì)因此這說明工具變量法估計(jì)量具一致性。如果工具變量Z選取恰當(dāng)，即有CompanyLogo工具變量估計(jì)工具變量的漸近方差可由下列公式導(dǎo)出：由于是未知的，所以必須進(jìn)行估計(jì)。的一致估計(jì)式由下式給出：CompanyLogo工具變量估計(jì)這樣我們就可得到的漸近方差估計(jì)雖然它們是漸近方差，但是作為近似，已被用于有限樣本中。當(dāng)“真”解釋變量是隨機(jī)且獨(dú)立于時(shí)，以上那些估計(jì)式都是可以用的。CompanyLogo工具變量估計(jì)注意：（1）工具變量并沒有替代模型中的解釋變量，只是在估計(jì)過程中作為“工具”被使用。上述工具變量法估計(jì)過程可等價(jià)地分解成下面的兩步OLS回歸：第一步，用OLS法進(jìn)行X關(guān)于工具變量Z的回歸：

第二步，以第一步得到的為解釋變量，進(jìn)行如下OLS回歸；因此，工具變量法仍是Y對(duì)X的回歸，而不是對(duì)Z的回歸。CompanyLogo工具變量估計(jì)（2）如果一個(gè)隨機(jī)解釋變量可以找到多個(gè)相互獨(dú)立的工具變量，人們希望充分利用這些工具變量的信息，這就形成了廣義矩方法(GMM)。在GMM中，如何求解成為它的核心問題。GMM是近20年計(jì)量經(jīng)濟(jì)學(xué)理論方法發(fā)展的重要方向之一。工具變量法是GMM的一個(gè)特例。OLS法也可看成是工具變量法的特例。

（3）考慮到隨機(jī)解釋變量與隨機(jī)干擾項(xiàng)相關(guān)的主要來源是由于同期測(cè)量誤差引起的，就可以用滯后一期的隨機(jī)解釋變量作為原解釋變量的工具變量，即用Xt-1作為原解釋變量Xt的工具變量。CompanyLogo方程誤差模型

方程（1）稱為“變量誤差和方程誤差模型”，若考慮其測(cè)量誤差僅僅發(fā)生于相關(guān)變量y上，即對(duì)所有的i，

由于和被假設(shè)是正態(tài)的和獨(dú)立的，則我們有，方程(2)即稱為“方程誤差模型”。方程（2）形式上等于經(jīng)典正態(tài)線性回歸方程，回歸系數(shù)的最小二乘估計(jì)式具有符合要求的性質(zhì)。CompanyLogo方程誤差模型注意（1）、

的方差不僅反映了解釋變量的系統(tǒng)影響外，還影響到相關(guān)變量。通常，這個(gè)方差不能為觀測(cè)者所改變。另一方面，通過改進(jìn)測(cè)量方法可以使得測(cè)量誤差的方差減小，進(jìn)而的方差也減小。（2）、由于對(duì)經(jīng)濟(jì)變量測(cè)量方法的不斷改進(jìn)，的方差減小，從而的方差也減小。CompanyLogo方程誤差模型方程誤差模型還有另一種模式，相對(duì)應(yīng)的考慮解釋變量x具有測(cè)量誤差，而相關(guān)變量y無測(cè)量誤差，即對(duì)所有i，。于是，此時(shí)回歸方程變?yōu)槠渲羞@里與是同時(shí)期相關(guān)的。事實(shí)上，所以（3）式中的和的最小二乘估計(jì)式不是一致的，應(yīng)用前面的工具變量法可以得到一致的估計(jì)式。CompanyLogo組平均法組平均法要求根據(jù)的大小來排列觀測(cè)值的數(shù)據(jù)，使得，然后將這些數(shù)對(duì)劃分為容量大約相等的3個(gè)組。回歸系數(shù)的組平均估計(jì)式為

CompanyLogo組平均法注意到組平均法可以看成工具變量法的特殊情況，如果3個(gè)組具有相等的容量，并取工具變量與利用工具變量法進(jìn)行回歸估計(jì)比較，兩種方法估計(jì)的關(guān)系式是近似的。CompanyLogo變量誤差模型這一模型假設(shè)相關(guān)變量與解釋變量之間的關(guān)系式確定的，而我們對(duì)x和y的測(cè)量是不精確的，即模型本身應(yīng)假設(shè)為對(duì)任何i，

。于是x和y的關(guān)系應(yīng)為：其中可以是隨機(jī)的或非隨機(jī)的。如果是隨機(jī)的，假定它獨(dú)立于。由于我們的觀測(cè)值不是和，而是所以必須做代換，由于和明顯相關(guān)，所以和的估計(jì)式不一致。還需要工具變量法得到一致估計(jì)量。CompanyLogo加權(quán)回歸加權(quán)回歸：如果可以作出關(guān)于誤差方差比率的先驗(yàn)假設(shè)，即使得測(cè)量x和測(cè)量y的誤差方差存在一個(gè)比例關(guān)系，而采用的方法。令，例如要求測(cè)量x和測(cè)量y的誤差方差相同，即使得。對(duì)于給定的建立一致估計(jì)式，通常稱它們?yōu)椤奔訖?quán)回歸估計(jì)式”。CompanyLogo加權(quán)回歸因?yàn)榈淖钚《斯烙?jì)式為而且所以可以把寫成的概率極限是由（4）式可以看出，不一致的原因是由于分母中存在這一項(xiàng)所致。CompanyLogo加權(quán)回歸這就暗示我們的一致估計(jì)式應(yīng)該是其中是的一致估計(jì)式。這樣，問題就可以簡化為尋找用表示的一致估計(jì)式。再將這個(gè)估計(jì)式帶入（5）式中，我們就可以求解出，從而得到了的一致估計(jì)式。如果是已知的，我們就有按照上述思路可以求解的一致估計(jì)式.（書p207）CompanyLogo加權(quán)回歸注：的值根據(jù)下式所確定

其中

即根據(jù)所擬合回歸直線的離差平方和來確定的。相應(yīng)的一致估計(jì)式是可以證明代表各自參數(shù)的極大似然估計(jì)，因而它們是漸近有效的。CompanyLogo加權(quán)回歸若假設(shè)解釋變量x的測(cè)量是沒有誤差的，最小二乘估計(jì)是基于使觀測(cè)到的y與回歸直線的離差平方和極小這一思想上的，這個(gè)程序稱為“y方向上的極小”。此時(shí)，將其代入（6）式中得到。另一個(gè)極端，若假設(shè)測(cè)量y時(shí)沒有誤差，則成為“x方向上的極小”也就是極小化了觀測(cè)點(diǎn)與回歸直線的水平距離的平方和。此時(shí)，得到CompanyLogo加權(quán)回歸說明的大小是怎樣決定著極小化方向的，當(dāng)位于0到之間時(shí)，它充當(dāng)了一個(gè)置換