06計(jì)量經(jīng)濟(jì)學(xué)數(shù)學(xué)基礎(chǔ)

數(shù)學(xué)對外經(jīng)貿(mào)?學(xué)統(tǒng)計(jì)與信息在正式進(jìn)?計(jì)量經(jīng)濟(jì)學(xué)學(xué)習(xí)之前，先回歸?些基本的線性代數(shù)和統(tǒng)計(jì)學(xué)的基礎(chǔ)知識。線性代對于兩AB，AB{(ab?a∈Ab∈B}，即×運(yùn)算定義了?個?元組的集合，為?卡爾乘（Cartesianproduct。?如，如果選取A={?,?,?,?},B={2,...,10,J,Q,K,A}，那么就得到?副牌共52張牌的集合。?如果選取A=R,B=R，那么R2=R×R更?般的，可以?1×?2×···×?d=×n={(ω1,ω2,...,ωn),ωi∈?i,i=1,...,其中ω=(ω1,...ωn)∈Rn為向量。如果x∈Rn,y∈Rn可以定義內(nèi)（innerproduct）?x,y?=x·y 如果?x,y?=0，稱兩個向量正交（orthogonal。有了內(nèi)積之后，可以（norm：√∥x∥ ?x,（metric：√

d(x,y)=∥x?y∥ ?x?y,x?y?

(xi?1對于?個n維的歐??得空間Rn，可以在這個空間上定義Borel域B=B=

Bi=σ({×nAi,Ai∈如果把k個n維向量按列擺放在?起 得到了?個k×n維的矩陣Ak×n=[a1,...,an]，其中ai為k維向量如果 矩陣A左乘?個n維向量x，那么y=Ax為?個k維向量?，F(xiàn)在可以把矩陣左乘向量視為?個函數(shù)，即y=A(x)=Ax，易知A(x1+x2)=Ax1+Ax2，以及A(αx)=?般把符合如上兩個性質(zhì)的函數(shù)成為線性（linearmap。特別的，當(dāng)k=n，即A為n×n維?陣時，線性A將Rn上的?個向量x到Rn上的另外?個向量y，此時稱A為線性變換（lineartransformation。

A cos ?sinsin cos2就講?個?R2上的向量逆時針旋轉(zhuǎn)θ度。取θ=π，那么2 A 0 x10]′yAx01]′90ai為k維列向量，那么：y=Ax=[a1,...,an]

=

也就是說線性的結(jié)果y實(shí)際上是矩陣A的列向量ai的?個線性組合。?矩陣A的秩rank(A)，即矩陣A的列向量的極?線性?關(guān)組，也就是對于所x∈RnyAx{yAx?x∈Rn}實(shí)對稱矩陣是接下來將要?量遇到的?類矩陣，任何的實(shí)對稱矩An×nA=其中Γ為正交矩Γ?！??！洇?I，Λ=diag{λ1,...,λn}為特征（eigen-value）?！洇Γ的列向量（特征向量，eigen-vector）是兩兩正交的，且每個列向量的范數(shù)為1 Γ cos ?sinsin cos 1。這類矩陣對應(yīng)著等距變（isometry，Γ的變換之后，d(ΓxΓy)=√x′?！洇√x′y=d(xy)。正交矩陣對應(yīng)著旋轉(zhuǎn)、翻轉(zhuǎn)等變換，?相應(yīng)的，對?矩陣Λ如果對于任何?個向量x∈Rn，x′Ax>0，稱矩陣A為正定矩matrixsemi-definitematrix；負(fù)定矩陣和半負(fù)定矩陣可以類似定義。顯然，如果?此外，如果?個矩陣A可以被對?化，其特征值為λ1λn，那么An ?列式值|A|=∏n λi。從這個?度看，對焦矩陣Λ對應(yīng)著放縮變換，代表著為其對?元之和，即若A= ，那么tr(A)= aii。n 簡單的性質(zhì)：tr(AB)=tr(BA)。使?如上性質(zhì)容易驗(yàn)證，如果矩陣A可以對?化，那么tr(A)= λi（Idempotentmatrix。如果?個?陣P滿?P2=P，那么稱矩陣P為33P=4為冪等矩陣，可以驗(yàn)證P2=P特別的，當(dāng)P為實(shí)對稱矩陣時稱其為投影矩（Projectionmatrix。P=?！鋦z}′IΛΛ01rank(P)=rank(Λ)=tr(Λ)。PP(PxP2xPx100P010000即把?個x?y?z三維坐標(biāo)系中的?個向量x=(x1,x2,x3)′到x?y?維平?上的點(diǎn)Px，??個本?就在x?y?維平?的點(diǎn)，如Px，再次經(jīng)過P的，還是在x?y?維平?上，且就是其本??？梢则?yàn)證，P2=P。類似 P 0.50.5 則把?個三維向量x=(x1,x2,x3)′到y(tǒng)=x這條直線上，同樣有P2=P。如果定義M=I?P，那么M2=(I?PI?P)=I?P?P+P2 I?P=M，即MI?P(Mx)′Pxx′(I?PPxx′P? 2x0，因?PxMx是正交的。也就是說，冪等矩陣把?個向量x解成了正交的兩個部分：Px和Mx，x=PxMx且?Mx,Px?=01ι∈Rnι111)′P01ιι′P P2=1ιι′ιι=1ιι′P n2|{n

0Px=1ιι′x0n

1ι·nnn

xi=ι·ˉ trP0rank(P0tr(P0tr

1ιι′)n1tr(ι′ι1M0I?P0M0nrank(M0tr(M0tr(IP0tr(I)?tr(P0n1

Mx=x0

1ιι′xn

x1?..xn?

對于?個向量θ=[θ1,θ2,...,θn]′，其實(shí)值函數(shù)：f(θ):Rn→R，f(·θ?θ?θ′

22?.

=?θ=..22.

····..

.?θ

·· n 2f(θμ2ln(σ)，θμσ)′2[=?f=

μ— — [?2f

—

— 3μ2— ?2f

?θ?i?θ?i

=??i，因

??′是?個實(shí)對稱陣。回憶極值原理，2果函數(shù)f可微，那么函數(shù)f在θ0處為極值點(diǎn)的必要條件是?f(θ0)=0，如果?f(θ0)為正定矩陣（f(θ)的所有特征值為正那么f 2f(θ0θ0處為極?值點(diǎn)，否則如果 ′為負(fù)定矩陣（f(θ)的所有特征值為負(fù)），?θ?θ?fθ0f(θ0)?θ0處為鞍點(diǎn)（saddlepoint。稱?′為海塞矩陣（Hessianmatrixx ?(a1x1+···+ ?x

=.同理，?′=a。此外，基于同樣的原因，可以得到?次型的導(dǎo)數(shù) =Ax+(xA)

=(A+A′)概率論基

?x?x′=A+函數(shù)P:F→[0,1]若滿?：A∈F，P(A)≥P(?)=∪ ∑A1A2F為兩兩互斥事P(i=1Aii=1P(Ai)（可則稱P為概率函數(shù)或概率測度（AxiomsofProbability），或者柯爾莫哥公理（KolmogorovAxioms。注意以上的定義并沒有限定概率函數(shù)的形式，只要滿?以上三個條件的函數(shù)P都可以被定義為概率函數(shù)。1.PP(A)≤P(Ac)=1?PP(?)=P(A∪B)+P(A∩B)=P(A)+PA?B?P(A)=P(B)?P(B\A)≤P P(iAi) iP∑C1C2為樣本空P(A)=i=1P(ACi)?！?（條件概率）ABP(B0，那么B，事A發(fā)?的條件概率為：P(A|B)=P(A∩P

B有正概率發(fā)?時，條件概率的定義才有意義。實(shí)際上，條件概率可以理解為把原始的樣本空間?限定在新的樣本空間B中，并相應(yīng)對原概率函數(shù)使?式(1)對概率函數(shù)進(jìn)?了重新定義，因?概率的性質(zhì)在定理2.（全概率公式如果C1C2,...為樣本空間?P(A∑i=

P(A|Ci)·P(Ci)特別的于任意事BP(A)=P(A|B)·PP(A|Bc)·P(Bc)∑ ∑∞Proof.根據(jù)條件概率定義，i=1P(A|Ci)·P(Ci)= i=1P(A∩Ci)，根據(jù)定理(1.7)可證。如果事件A和B都有正的概率，那么可以同時定義P(A|B)以P(B|A)P(A|B)=P(A∩B)=P(B|A)·PP PP(A|B)=P(B|A)·P(A) P(B|A)·PP P(B|A)·P(A)+P(B|Ac)·P定義3.（統(tǒng)計(jì)獨(dú)?性）如果兩個事件A和BP(A∩B)=P(A)·P那么稱事件A和B為獨(dú)?事件定理3.如果A和BA和AcAc和Bc注意當(dāng)考慮多于兩個事件時，以上定義并不能進(jìn)?擴(kuò)展。為了更好的定義多于兩個事件時的獨(dú)?，使?如下定義： 定義4.稱?系列事件A1,A2,...An為相互獨(dú)?的（mutuallyindepen-dentorjointlyindependent，如果對于任意的?列AiAiAi kP

P隨以上回顧了概率的定義，然?現(xiàn)實(shí)中經(jīng)常不直接使?概率函數(shù)，?使?隨量的概念，極?的簡化了問題。定義5.（隨量）對于概率空間(?,F,P)，X:?→R?滿?：對于任意的B∈B，有：X?1(B)?{ω:X(ω)∈B}∈那么稱X為隨量（randomvariable,r.v.。定義6.（累積分布函數(shù)）對于?個隨量X，函 FX(x)=PX((?∞,x])=PX?1((?∞,x]),?x∈mulativedistributionfunction,c.d.f.。?PX和使?累積分布函數(shù)FX是等價的。因?通常使?標(biāo)記X～FX(x)表?隨量X服從FX分布。此外，如果隨量X和Y具有同樣的分布，則記為X～Y。定義7.如果兩個隨量的累積分布函數(shù)FX(x)=FY(x)，則稱兩個隨定義8.（概率密度函數(shù)）對于連續(xù)型隨量，概率密度函數(shù)（probabilitydensityfunction,p.d.f，fX(x)定義為：∫FX(x)

fX(t)dt,forall∫E(X) xdFXR如果E|X|<∞，稱隨量X是可積的。當(dāng)密度函數(shù)存在時，期望等于∫E(X) xfX(x)R隨量的期望又成為?階矩，對于任意的正數(shù)p，如果E(|X|p)<∞，則記X∈Lp=Lp(?,F,P)。對于整數(shù)r，隨量X的r階矩被定義為E(Xr)。?階矩即為隨量X的期望。此外，隨量X的r階中?矩被定義為E([X?E(X)]r)。特別的，當(dāng)r=2時，2階中?矩即為隨量的?（ariance√ σ(X)=Var(X)。X Var(X)=

[X?E

=EX2?2E(X)·X+E EX2?2E(X)2+E(X)2=EX2?EX2≥(EX)2Var(aXba2Var(X)。9.（隨機(jī)向量）給定?個概率空間(?FP)k即從樣本空間到k維歐??得空間的函數(shù)，X:?→Rn仿照?元隨量，還可以定義隨機(jī)向量的聯(lián)合分布函數(shù)（jointcu-mulativedistributionfuntion：定義10.（聯(lián)合分布函數(shù)）(?FP)(RnBnP)的聯(lián)合分布函數(shù)（jointc.d.f.）定義為：F(x)=F(x1,x2,...,=P((?∞,x1]×(?∞,x2]×···(?∞, =PX?1((?∞,x1]×(?∞,x2]×···(?∞,?x∈RnF(?∞?∞?∞0，F(xiàn)(∞∞∞1。相應(yīng)的，對于連續(xù)（離散）型的隨機(jī)向量X，還可以定義其聯(lián)合概率密定義11.（隨機(jī)向量的聯(lián)合密度函數(shù)與聯(lián)合質(zhì)量函數(shù)如果隨機(jī)向量X的每個分量都是離散型隨量，那么可以定義聯(lián)合概率質(zhì)量函數(shù)p.m.f為：f(x)=P({x})=P({X1=x1,...,Xn=xn})。如果隨量X的聯(lián)合分布函數(shù)連續(xù)，如果函數(shù)f(x)滿?∫P(X∈A)

f(x)dx,x∈Rn,A∈A那么稱f(x)為其聯(lián)合概率密度函數(shù)p.d.f。特別的，如果聯(lián)合分布F(x)f(x) ?nF?x1?x2···現(xiàn)在X=(X1Xn為隨機(jī)向eX=(Xi1Xi2Xik1≤i1i2ikn也是?個隨機(jī)向量。XeF(x)來定義，即令F(x)中滿?j/{i1,...ik}的分量為∞。如對于三維隨量XX1X2X3)XeX1X2的分布函數(shù)為：FXee(xF(x1,x2,∞)。特別的，對于隨機(jī)向量X的每個分量Xi，可以定義其邊緣分布函數(shù)（marginalc.d.f.）FXi(xi)=F(∞,...,xi,...,注意邊緣分布函數(shù)對應(yīng)著?元隨量Xi的分布函數(shù)F(∞,...,xi,...,∞)=P(R×R×···×(?∞,xi]×···× =PX?1(R×R×···×(?∞,xi]×···× i=PX?1((?∞,i對于連續(xù)（離散）型的隨量Xi，其邊緣概率密度（質(zhì)量）函數(shù)可以相應(yīng)定與?元隨量類似，對于隨機(jī)向量X以及相應(yīng)的從概率空間(?,F,P)(RnBnP)g(X(ω→R，可以使? E(g(X)) g(X(ω))P(dω) g(x)P 根據(jù)此定義，如果令g(X)=ι′iX=Xi，其中ιi=(0010)∫E(g(X)) Xi(ω)P(dω)=E?即多元隨量的分量的期望與?元隨量的期望定義相同。因?經(jīng)常把隨機(jī)向量的期望寫為：E(X)

. 令g(X)= Xi=ι′X，其中ι=(1,1,...,1)′為全部由1

(

=Rni=1XiPn=

XiP E 有E∑n aiXi)=E(a′X)=a′E(X)=a′μ。

12a′ E a′1E12E(AX)=

a′

E(a′2=2

a′E2=2

=AE ha′ E a′hEh因?對Ah×nh維向量b，有：E(AXbAE(Xb此外，如果對于兩個?元隨量Y,Z，如果E|Y|2∞E|Z|2∞，根Cauchy-Schwarz不等式，E|YZ|≤E|Y|2E|Z|2∞YZ可積，我Cov(Y,Z)=E[(Y?E(Y))(Z?E=E[YZ?E(Y)Z?ZE(Y)+E(Y)E=E(YZ)?2E(Y)E(Z)+E(Y)E=E(YZ)?E(Y)EY2(當(dāng)Y=Z時，Cov(Y,Y)= [E(Y)]2=Var(Y2進(jìn)?可以使?協(xié)?差定義相關(guān)系數(shù)（correlationcoefficiet：ρY,Z=

Cov(Y,Var(Y)VarCov(Y,Z)=E[(Y?E(Y))(Z?E≤E|(Y?E(Y))(Z?E√≤E|(Y?E(Y))|2E|Z?E√ =Var(Y)Var可知?1≤ρY,Z≤1。如果ρY,Z=±1，那么P(Y=c1Z+c2)=1c1?=0；如果ρY,Z>0，稱隨量Y和Z正相關(guān)，反之成為負(fù)相關(guān)，如果ρY,Z=0，稱隨量YZ不相關(guān)（uncorrelated。這?所謂的「相關(guān)系數(shù)」特指?爾?相關(guān)系數(shù)（Pearsoncorrelationcoefficient實(shí)際上只度量了隨量之間的線性相關(guān)性。相關(guān)系數(shù)等于0并不意味著兩個隨量沒有?線性的例2.如果隨量Y=Z2，Z～N(0,1)，那么Cov(Z,Y)=EZY?==此外，如果a,b為任意實(shí)數(shù)，那么：Var(aY+bZ)=E(aY+bZ)2?[aE(Y)+bE =Ea2Y2+b2Z2+2abY —a2(E(Y))2+b2(E(Z))2+2abE(Y)E=a2Var(Y)+b2Var(Z)+2abCov(Y,YZ不相關(guān)，那么Var(aYbZ)=a2Var(Yb2Var(Z)對于?個隨機(jī)向量X=(X1,X2,...,Xn)′，可以定義?差協(xié)?差矩matrix， Var(X)=E(X?EX)(X? Cov(X1, ·· Cov(X1,Cov(X2, ·· Cov(X2,

.. Cov(Xn, Cov(Xn, ·· 由于Cov(XiXj)=Cov(XjXi)，有 Var(X)=E(X?EX)(X?=E[XX′?XE(X′)?E(X)X′+E(X)E=E(XX′)?E(X)E此外，根據(jù)協(xié)?差矩陣的定義，對于任意的n維向量c，有 c′Var(X)c=c′E(X?EX)(X?EX)′[] ]=E[c′(X?EX)][c′(X? =E([c′(X?≥因?協(xié)?差矩陣是?個半正定矩陣，通常記為Var(X)≥0由于Cov(XiXjCov(XjXi)，因?協(xié)?差矩陣為實(shí)對稱矩陣。根據(jù)定義，對于實(shí)數(shù)矩陣Ah×n以及h維向量b，有：Var(AX+b)=[

(AX+b?E(AX+b))(AX+b?E(AX+=E[(AX?AE(X))(X′A′?E(X′)=E[AXX′A′?AXE(X′)A′?AE(X)X′A′+AE(X)E(X′)=A[E(XX′)?E(X)E(X′)]=AVar(X)性定義12.如果{Xi1≤i≤n}是定義在概率空間(?F,P)上的?系列隨機(jī)變量，如果對于任意的Borel集{Bi,1≤i≤n}，有：(P

(Xi(ω)∈Bi)

P(Xi(ω)∈ 那么稱隨量