OLS的协方差或方差矩阵

已经得出来了OLS法多元回归的协方差或方差矩阵，b是方程的系数。

下面想求第k个系数的方差，我想问第二行式子中的M（k）是干嘛的？
第二行是怎么跳到第三行的？

M(k) 是将x_k 对其余剩下的变量X_(-k) 做回归中的 residual maker. 参见Green 教材的等式（3-15）。如果把x_k 记为y； X_(-k)记为X，上述等式等价于证明S_y(1-R^2)=y'My. 此等式不难证明：左边=y'*M_0*y(1-(y_hat*M*y)/(y*M_0*y)) = (y-y_hat)'*M_0*y=y'*M‘*M_0*y = y'*M*y. 其中M_0 定义见Green附录 并注意到y'*M 为 residual ，其均值为0 。

chaiyunhai 发表于 2014-6-16 18:18
M(k) 是将x_k 对其余剩下的变量X_(-k) 做回归中的 residual maker. 参见Green 教材的等式（3-15）。如果把x ...

请问hat是什么意思？

y_hat 表示 the predicted value of y，在一般线性回归中代表y_hat=x*(x'*x)^(-1)(x'*y)。就是数学排版中y上加一个小尖尖，英文里对此就念y_hat。

请问是不是OLS矩阵里面的X都是观测值和平均值之差呀？