楼主: binge1120
12462 19

检验中关于F分布的困惑~~真的很困惑! [推广有奖]

11
samuel531 发表于 2007-12-9 15:54:00 |只看作者 |坛友微信交流群

这个问题是属于数理统计学的问题,一般的计量教科书书中直接给出公式,没有给出详细的推导过程,我来试图解答一下,由于这里编辑公式较为困难,我只能把思路大致说一说,不知道能不能解答楼主的困惑。

由于多元线性回归模型和一元回归模型相似,所以以一元为例来说明。

首先,因为b1(回归系数)的估计量服从正态分布,这是假设的前提,而且它的期望为b1,方差为σ的平方除以一个系数lxx(该系数等于解释变量离差的平方和)。因为ESS=b1的估计值的平方*lxx。而检验时,零假设为b1=0,那么ESS/(σ的平方)就服从自由度为1的卡方分布,这个你可以自己去推导一下。同样的道理,因为残差服从正态分布,残差的平方和就是n个正态分布的平方和,进一步可以证明,RSS/(σ的平方)服从自由度为(n-2)的卡方分布,(这一步的证明比较麻烦,此处略去,有心者可以去查阅《高等数理统计》茆诗松编,高等教育出版社1998年版,具体页码我记不清了,抱歉!)这样,回归平方和和残差平方和分别除以(σ的平方)和相应的自由度后,再相除就符合F分布的定义了。

此处的关键是首先推导出在零假设成立的条件下,回归平方和(ESS)除以(σ的平方)为一个卡方分布,残差平方和(RSS)除以(σ的平方)为另一个卡方分布,两者再相除,约去共同的分母(σ的平方)后,得到ESS/(RSS/(n-2))服从F分布。

扩展到多元的情形,只需要考虑变量个数和自由度就可以了。

使用道具

12
timex1441 发表于 2007-12-9 17:55:00 |只看作者 |坛友微信交流群
Cochron定理。。
认真学习人工智能与大数据

使用道具

13
大大鸟 发表于 2007-12-9 19:14:00 |只看作者 |坛友微信交流群
完全蒙了

使用道具

14
steenphen 发表于 2007-12-9 23:01:00 |只看作者 |坛友微信交流群

谢谢解答, 问题基本上搞清楚了,  确实 是 服从 卡方 分布 的, 然后相除 用 各自的自由度 标准化, 就 符合 F分布, 我去找本书关于 多元 的情况来看看 .

使用道具

15
sunny961 发表于 2007-12-10 00:39:00 |只看作者 |坛友微信交流群
如果想搞明白的话好好读读概率论里的F分布函数的定义吧,一般的数学系的教材里都会有。至于经济类的就够呛了,

使用道具

16
binge1120 发表于 2007-12-10 01:25:00 |只看作者 |坛友微信交流群

谢谢samuel531,解答的很好,明白了,豁然开朗!

顺便问下,还有推导其他检验的证明要看什么书?

使用道具

17
samuel531 发表于 2007-12-10 12:44:00 |只看作者 |坛友微信交流群
计量经济学的检验很多,一些传统的检验,诸如F检验、T检验和Z检验在数理统计学的中高级教科书中都有详细证明。而一些计量经济学的专门的检验,例如chow-test,AIC、DW以及面板数据和时间序列专用的一些检验则只能在计量的教科书里寻找了,但无论什么检验,其基本的思想便是在零假设成立时,构建相应的统计量,再用参数检验和假设检验的原理来判断零假设是否成立。我个人认为,除非是做理论计量经济研究的人,了解原理足够,具体的推导和证明不必苛求,能知道检验的目的和应用方法便足够了。

使用道具

18
mathecon74 发表于 2007-12-10 17:30:00 |只看作者 |坛友微信交流群
建议您还是先看看Green的书吧!这样简单的问题该书可以解决............,

使用道具

19
dujiaomao 发表于 2007-12-12 06:53:00 |只看作者 |坛友微信交流群

we know that in linear model Y=Xb+e   e is iid N(0,sigma_square)

             SST=Y'(I-J/n)Y

             SSR=Y'(P-J/n)Y         SSR is the sum of square regression

             SSE=Y'(I-P)Y           SSE is the sum of square error P is the projection matrix

   SSR/sigma_square  ~  x_square(k,ramuta)

   SSE/sigma_square =Y'(I-P)Y  ~  x_square(n-k-1)

F=(SSR/k)/(SSE/n-k-1) ~  F(k,n-k-1,ramuta)

under Ho, ramuta=0 F ~  F(k,n-k-1) 

under Ho,  F ~  F(k,n-k-1,ramuta) this is non_centered F distribution.

note:here can not subtitute sigma_square by 拟合值和残差的方差

 

 

 

 

 

[em01][em01]

[此贴子已经被作者于2007-12-12 6:53:21编辑过]

使用道具

20
cass100 发表于 2010-5-11 15:31:19 |只看作者 |坛友微信交流群
F分布X^2分布T分布R^2之好像存在内在的相关性,都是基于正态分布,但之间怎么转化呢?
求教高手详解.
Figures, cute and awesome.

使用道具

您需要登录后才可以回帖 登录 | 我要注册

本版微信群
加好友,备注jltj
拉您入交流群

京ICP备16021002-2号 京B2-20170662号 京公网安备 11010802022788号 论坛法律顾问:王进律师 知识产权保护声明   免责及隐私声明

GMT+8, 2024-5-23 14:55