OLS估计量的性质的推导证明一些补充

OLS估计量的性质的推导证明（一些补充）1、线性：（１）证明斜率系数估计量是Ｙ的线性函数。xyx(YY)xYYxiiiiiiix2x2x2x2iiii　(由于x(XX)XnX0)iiixYxiikY，　其中k＝iiiｉx2x2iix注意：　k＝（i）（由于对确定量X而言x2是定值)iiix2i1=·x(前已证x0)0,故k0iiix2ixx2又kx(ix)i1iiix2x2ii故kXk(xX)kxXk(前已证kx1,k0)iiiiiiiiii101,故kX1ii记得k0与kX1,对后面的证明会有用。iii（2）　证明截距系数估计量是Y的线性函数。11　　　YX（kX)YwY,其中wkXniiiiini11注意:　　w（kX)nkX1Xkininii　　　　(前已证k0)１；i11wX（kX)XXXkX(前已证kX1)iiniiniiiii1XX0;ni注意w1,　wX０，对后面的证明有用。iii2、无偏：(1)　　是的无偏估计量。　　　kYk（X)kkXkｉiｉiiｉｉiｉi（前已证kX1,k0)k　　　　　　　　ｉiｉｉi由于E(k)E(kk...k)E(k)E(k)...E(k)ｉi1122nn1122nn　　　　　　　　　kE()kE()...kE()(注意假设E()0)01122nni　　所以对等式　＝k两边取期望有，E(）E(k)ｉiｉi(2)　　是的无偏估计量,即E(）证明同上，参考课件。注意利用w1,　wX０iii课件上有错误：＝k应改为＝wｉiｉi3、有效性：**证明思路：先计算的方差Var(),再证明对任一线性无偏估计量,(即满足***cY且E(）　），均满足Var()Var()。对的有效性证明思路同。ii对，的最小方差性证明上课件已经说的比较清楚，也没有错误。这里仅仅对，的计算作一些说明。（1)　计算与的方差。　　Var()(注意前面证明无偏性的时候已证k)ｉi　　　Var(k)(注意到为常数)Var(k)ｉiｉi　　Var(kk...k)(注意到随机变量独立)1122nni　　　Var(k)Var(k)...Var(k)k2Var()...k2Var()1122nn11nn　　　(注意到随机变量方差相同,为2)2k2iixx2x21i　　注意到k＝i,故k2i,k2ｉiix2(x2)2(x2)2x2iiii2　　所以Var()x2i1　　Var()(前几步思路同上，见课件)2w22(kX)2ini12　　2(kXk2X2)(这里课件上有错误,请注意)n2nii121　2(nXkX2k2)(注意前已证k0,k2)iiiin2nx2i1X22X2　　　2()inx2nx2iiX2(xX)2　最后一个等号处，用逆推比较清楚：iinx2nx2ii22x22XxnX1X　　ii　nx2nx2ii４、关于,的协方差计算：课本的证明方法略显复杂：在证明前先注意两个公式：若X,Y,Z,W是随机变量,a,b,c,d是常数,则有cov(Xa,Yb)cov(X,Y),　　cov(aXbY,cWdZ)accov(X,W)adcov(X,Z)bccov(Y,W)bdcov(Y,Z)并注意两个对随机变量的假设:i对ij,有cov(,)0;对ij,cov(,)cov(,)Var()2ijijiii故cov(,)cov(w,k)(注意到,为常数)ｉiｉinncov(w,k)cov[(ww...w),(kk...k)]iijj1122nn1122nni1j1　　(由于对ij,有cov(,)0,所以只需考虑i=j的情况)ijcov(w,k)cov(w,k)...cov(w,k)11112222nnnn　　wkcov(,)wkcov(,)....wkcov(,)11112222nnnn　　（注意到有同方差假设，cov(,)Var()2）iiinn12nn　　2wk2（Xk)kk2Xk2ｉｉniiniii1i1i1i1nn1　　(注意到前面已证k0,k2)iini1i1x2ii12X　　nx2ii1一种比较简单的算法如下：由于YX,所以E()YE()X，E()X[E()]故　　cov(,)E{[E()][E()]}XE[E()]２2　　　X·Var()(在证明的有效性时已求得Var())x2iX2　　　x2i２e2e５、证明s2i(课件上误作i)n2n2eYY()()Xiiiiie2()2()2X222X()()iiii　　2()2()X(课件上此处有误,请注意)iii由于前面已算得：　w,　kiiii又因为　　E()2Var(),E()2Var(),E(2)2i　　　　　E()()cov(,)当ij,独立故E()E()E()0i，jijij所以　　　E[()]E[(ww...w...w)ii1122iinn　　　　　　wE(2)w2iii同理可算得:E[()]k2ii故E(e2)Var()X2Var()22Xcov(,)2E[()]2XE[()]iiiiii2X222X　　　　　iX222X2w22Xk2iiiiinx2x2x2iii两边求和得2X2222XiE(e2)nX2n2X22w22kXiiiiiinx2x2x2iii2X22X222X　　　　　　iin2X2222ix2x2x2iiiX2XX　　　　　　22ii(n4)2x2i(Xx)2XX　　　　　　22ii(n4)2x2i2nX2Xxx2XX22iii(n4)2x2i2nXx2XnX　　　　　　22i(n4)2(n2)2x2ie2２e2　　　故E(i)2,即s2i为2的无偏估计.n2n2