小样本回归,按照格林的书上所说,最小绝对离差(LAD)估计量结合bootstrap方法,更有优势。
LAD回归是分位数回归的特殊情况,估计的是中位数。在stata里qreg命令默认的就是,后缀reps(#)控制抽样次数。
OLS是最小化残差的平方和,LAD是最小化残差绝对值之和。LAD和OLS最大的不同就是在样本较小的时候,OLS估计很容易受稍微异常一点观察值的影响,LAD要好一些。
估计方法很容易实现,stata里属于qreg目录下,qreg y x1 x2就可以了。
bootstrap是获得更加稳健的标准误,如:bsqreg y x1 x2 ,reps(1000)
小样本回归可使用偏最小二乘回归,我国最早运用为北航在研究战斗机可靠性的方面,不过样本也不能太小。
主要参考书:中文
张恒基等《小样本多元数据分析方法及应用》,西北工业大学出版社,2002
王惠文等《偏最小二乘回归的线性与非线性方法》,国防工业出版社,2006