【从零开始学统计】4.带你认识最小二乘法

谢谢斑竹

最小二乘法

学习必须顶

谢谢楼主，正在找关于最小二乘法的一些假设呢~

正学计量呢，楼主的帖子正好加深了对计量中OLS的理解，赞一个

同意楼主还是要多锻炼下大脑滴

略有加深了解，谢谢！

最小二乘，很好用也很有用的方法，现代统计仍在用

初学统计，看的有那么点味道。感谢楼主分享

其实最小二乘是能够从数学上推导出来的，都说最小二乘为什么用平方而不是绝对值，为什么还要除以二？想当然的认为是因为方便计算其实并不严谨。

最小二乘的推导思路大致说下，y - h = d (观察值 - 估计值 = 误差)，误差 d 服从高斯分布N(u,a)，那么就可以写出d的概率函数p(d)，这里将d替换为y-h，p(d)就变成关于y的概率函数p(y|w)，w为要求的参数，然后就用到最大似然函数，L(w) 等于p(y|w)的乘积，取最大值，一步步推导，最后，LnL(w) = A - B * 1/(a^2)，让LnL(w)最大，即让B最小，这里的B就是最小二乘公式。