能否用残差作为权数进行加权最小二乘法，消除异方差？

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

RT
样本1000多个，经过异方差怀特检验，证明存在异方差。
在李子奈老师的课本里看到可以用残差做权数修正，用了这个方法后，R平方从没加权时的0.32变成0.99...
请教高人，加权之后得到的R平方还具有原来的意义吗？

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏7 回帖

关键词：加权最小二乘法 最小二乘法 最小二乘 异方差 怀特检验 方差 残差 最小二乘法 加权 权数

决定系数r2是一个回归直线与样本观测值拟合优度的相对指标，
反映了因变量的波动中能用自变量解释的比例。
加权最小二乘法是对线性回归模型存在异方差的修正。
如果模型设定正确，修正后r2变大，说明拟合优度提升了。
这才具有意义，这样才能更准确的预测数据。

echoyt84 发表于 2010-4-1 17:25
RT
样本1000多个，经过异方差怀特检验，证明存在异方差。
在李子奈老师的课本里看到可以用残差做权数修正，用了这个方法后，R平方从没加权时的0.32变成0.99...
请教高人，加权之后得到的R平方还具有原来的意义吗？

第一、理论上，不能用残差为权数做WLS；
但可以用残差平方项去modify var-cov matrix，这是 原始 White's HCCME，为 robust var-cov matrix。

第二、WLS下，R^2 不能拿来与 OLS的 R^2 做比较；何况WLS下，性质等同通过原点；
简言之，这是 uncentered R^2。

那楼主的做法可以吗？

不能直接用残差的平方或者绝对值什么做权重 如果这样就会出现你上面所的问题 r2接近1了 正确的做法是武德里奇现代观点中介绍的fgls 虽然也是基于残差 但是不是这么简单的 实际上如果异方差不是遗漏变量造成的 而纯粹是数据离散原因的话 它不会影响估计的一致性 影响的只是系数的标准误 这个时候你只要报告异方差稳见性标准差就好 这时候就不影响统计推断了

那在eviews上如何实现呢？5# binggol

加权最小二乘；
这样的修正，你将R大幅提升，说明你的修正是正确的。
当然可以，R代表自变量能用于解释因变量的程度，介于0到1之间，越接近1，当然是模型做得越好。当然，在多变量回归里，因为多重共线性问题，R很大不一定代表模型很好。你的我问题是针对异方差的修正，那么是很好的模型校正了。

我是搞金融建模的。我们习惯了异方差，用GARCH模型建模就可以。很久没用大学时的基本计量模型，都忘记了。

那也就是说可以直接用加权最小二乘法来做了  是吗？那5楼的同胞用的FGLS如果要做应该怎么做呢？ 7# tulipsliu

tulipsliu 发表于 2010-5-20 21:08
加权最小二乘；
这样的修正，你将R大幅提升，说明你的修正是正确的。
当然可以，R代表自变量能用于解释因变量的程度，介于0到1之间，越接近1，当然是模型做得越好。当然，在多变量回归里，因为多重共线性问题，R很大不一定代表模型很好。你的我问题是针对异方差的修正，那么是很好的模型校正了。

我是搞金融建模的。我们习惯了异方差，用GARCH模型建模就可以。很久没用大学时的基本计量模型，都忘记了。

如果单纯只有 heteroskedacity 用 ARCH family 来估计 unknown form of variances，
再使用 feasible GLS，那么这是业界常用也OK的作法；

但若以残差当权数进行WLS，这没有任何道理；
之前我在三楼的 "理论上" 一词，是尊重李子奈老师的说法，当然如果李子奈老师的书中真如是。

基本上，heteroskedasticity 存在，如五楼 binggol 所说，若非 "遗漏变量" 或 "不正确回归方程设定" 以外，
OLS的参数估计式，基本上是无偏且一致，
唯独参数的 var-cov matrix 估计式是 "invalid"，应为俗称的 sandwich variance matrix，
在这情形下，OLS的参数估计式为 unbiased, consistent but inefficient。

White(1980) 指出，若直接以残差项(residuals) 构成的 var-cov matrix 来估计 偏误项(error terms) 的 var-cov matrix，
这个estimated var-cov matrix 为不一致；但可以辅助来估计 sandwich variance matrix 中间的夹心项，这具有一致性；
而当在某个特殊状况下，OLS 参数的 var-cov matrix 估计式是 "valid"；White heteroskedasticity test 亦基於此。

要 "修正" heteroskedasticity，
在分组资料下，variances 已知，那么可以直接用 WLS；
若未知便需估算再使用 FGLS，这在一般基础教科书都有，不赘述；但如上所诉，那绝不是以残差项直接带入。


@tulipsliu，
在别的帖子里，将 serial autocorrelation 与 autoregressive variables 划上等号；
这边把 R^2 当作修正後的比较标的，别忘记修正後的 regrassand 为 transformed，且R^2为 uncentered。
希望你在你金融建模的职业上，能顺利如意。

9# gemini69 高手，我也求助。
在做多因素模型分析的时候，我先是去了自相关性，然后用white检验发现有异方差。用加权最小二权没有任何效果。应该怎么处理呢？还是应该不用加权最小二乘，而用其他什么办法？
最后，我的多因素模型中有一些变量过不了t检验，我看了协方差矩阵，发现并没有多重共线性，应该怎么处理？