楼主: wangzt
5993 23

计量小题目,送金币(暂无) [推广有奖]

21
jjj_kkk_kkk 发表于 2008-1-14 23:43:00
要明白第六题,先要清楚一些基本公式和R^2的定义,以下以矩阵和向量代数推导为主,大家凑合着看,
y是因变量,n×1向量;y1表示y的估计值,就是yhat;
e=y-y1, residual. y(T) 表示y的转置(transpose)。y0表示y的平均, 是一个1×1的数量;y~表示y1的平均, 1表示一个n×1的单位向量。
X为自变量,beta为系数(coefficient),beta1为beta的估计。N为样本大小(sample size).
注意无截距项时,y0与y~不一定相等。
SSE和SSR各书定义不同,此处采用Wooldridge的书的定义,就是刚好跟Greene的书定义相反。

那么,首先有:
基本等式是e(T)X=X(T)e=0, 所以e(T)y1=e(T)X(beta1)=0=y1(T)e
1. e(T)e=e(T)(y-y1)=e(T)y-e(T)y1=e(T)y=(y-y1)(T)y=y(T)y-y1(T)(y1+e)=y(T)y-y1(T)y1-y1(T)e=y(T)y-y1(T)y1
即e(T)e=y(T)y-y1(T)y1

2. SST=[y-1y0](T)[y-1y0]=y(T)y+1(T)1(y0^2)-y0[1(T)y]-y0(y(T)1)
注意y(T)1=Ny0=1(T)y,1(T)1=N所以
[y-1y0](T)[y-1y0]=y(T)y+1(T)1(y0^2)-y0[1(T)y]-y0(y(T)1)=y(T)y+N(y0^2)-N(y0^2)-N(y0^2)=y(T)y-N(y0^2)
同理,
SSE=[y1-1y~](T)[y1-1y~]=y1(T)y1-N(y~^2)

3. 在有截距项的情况下,y0=y~ 所以
e(T)e=y(T)y-y1(T)y1=[y(T)y-N(y0^2)]-[y1(T)y1-N(y0^2)]=[y-1y0](T)[y-1y0]-[y1-1y0](T)[y1-1y0]=SST-SSR
即SSR=SST-SSE,这时,因为SSR和SSE皆为正,R^2在0与1之间

4.在无截距的情况下, y0与y~并不相同,它们之间相差一个e的平均值(非0),在这种情况下,
SSR=SST-SSE并不成立,
因此,SSR可能比SST大,甚至SSE也有可能比SST大,因此根据R^2的不同定义,R^2可能取不同值
如果R^2的定义是(基本定义)
1-SSR/SST,那么R^2可能小于0,因为某些情况下,SSR>SST,但是R^2仍然小于或等于1,因为SSR为正
如果R^2的定义是
SSE/SST, 那么R^2可能大于1,因为某些情况下,SSE>SST,但是R^2仍然大于或等于0,因为SSE为正。
这个推导也说明了一点,同一个R^2的定义,不可能在某些情况下>1而同时在某些情况下<0.

以上是本人的证明,可能有错误,敬请指正。如果看不懂,把公式抄一遍,把(T)改成右上角的转置符就行了。当然也能写成内积或者平方和的形式,但是这个在论坛上不知如何书写,有心人可以试试。18楼说的没错,就是因为“OLS residuals不再具有zero sample average的性质”,y的平均值和y的估计的平均值不相同,他们之间差一个OLS residuals的平均值,所以有了上面的推理。


[此贴子已经被作者于2008-1-15 3:42:34编辑过]

22
crazy 发表于 2008-1-15 12:58:00

问题6的几何解释(有一点泛函基础就很好理解,没学过也不影响):

最小二乘的几何意义:

最小二乘的几何意义就是正交投影。正交投影听起来还挺玄乎的,可是如果把这个概念放到现实生活中大家肯定都会明白。即使一个高中生也会明白,过空间中一点像一给定平面作垂线,垂线段的长度是平面上说有点到空间中点的线段中最短的。给定的平面上的垂足在某种意义下是

平面上对空间中点的最佳逼近。垂线段的长度即是逼近的误差。这个就是所谓的正交投影了。
在计量经济学的参数估计中,其实最小二乘就是一个正交投影。它是把被解释变量向由常数和解释变量张成的闭子空间做正交投影。因此当解释变量中含截距项时,那么e和y均值的内积为零(正交,垂直)。从而R^2=1-(SSR/SST)。

而当解释变量中不含截距项时,那个闭子空间中不含常数,从而么e和y均值的内积不一定为零。故R^2=1-(SSR/SST)不一定成立。极端情况下R^2可以为负数。

抱歉,不知道怎么输入公式,表达可能不清楚。大家推一下,结合几何意义就会明白,所以说泛函是个好东西啊!

23
wb548 发表于 2008-3-16 02:23:00
古扎拉蒂的计量经济学61页原理TSS=ESS+RSS考虑

24
suyu72 发表于 2008-3-16 16:40:00
建议看看伍得里德的《计量经济学基础》吧!

您需要登录后才可以回帖 登录 | 我要注册

本版微信群
加好友,备注jltj
拉您入交流群
GMT+8, 2025-12-26 17:56