什么叫多重共线性

多重共线性也分程度：
(1) 完全共线性就是几个变量的某种线性组合等于零或者一个常数, 那么他们的var-cov matrix是不可逆的，理论的beta值就不存在。比如 X - Y = 0, 这时候X=Y，如果你用了X和Y做回归元，他俩的var-cov matrix就是 var(x) 乘以一个2*2的矩阵，其中每个元素都是1，这个矩阵的行列式为零，不可逆。
(2) 不完全共线性就是这个线性组合不是一个常数，而是一个随机变量，通常称之为随机误差项。

比如x1与x2为线性相关的，如学历和智商
y是工资，随学历升高而变大，随智商升高而变大
再看书就容易明白点了吧

very good I like it

xgxhf 发表于 2010-12-9 23:21
因为多元线性回归的斜率系数就相当于是微积分的偏导数，就是固定其他不变，单独一个x变化，y如何变，就能够 ...

很好的解释

变量中身高和体重存在较高的相关性，所以就弄出个BMI来代替身高和体重，减低多重共线性的影响。。