lasso回归和因果推断的区别

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

lasso回归和ols的区别是什么？？？老师在上课的时候说ols几乎没有预测的功能，然后因果推断是对过去经验的总结，lasso回归是把偏差和方差的均衡，lasso回归预测是拟合（？）（实证小白不知道怎么问问题，犯基本错误请不要见怪请大佬指点）

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：LASSO 回归预测 OLS 不知道

OLS和Lasso回归都是用于回归分析的统计方法，但它们在处理数据和预测结果时有一些关键的区别。
OLS（最小二乘法）：
OLS是一种线性回归的方法，主要目标是找到一条直线（或更高维度的超平面），使这条直线与数据点的距离（即残差）的平方和最小。
OLS假设所有的输入变量都对输出变量有影响，并且这些影响都是线性的。
OLS的预测是基于所有输入变量的，因此它可能不会很好地处理过拟合问题（即模型在训练数据上表现良好，但在新数据上表现不佳）。
OLS没有内置的变量选择机制，意味着即使某些输入变量与输出变量无关，它们也会被包含在模型中。

Lasso回归：
Lasso回归也是一种线性回归的方法，它通过在损失函数中添加一个正则化项（即L1范数）来约束模型的复杂度。Lasso回归的一个关键特性是它能够进行变量选择。具体地，当正则化参数足够大时，Lasso回归可以将某些输入变量的系数压缩到零，实现变量选择的效果。由于Lasso回归的变量选择特性，它通常比OLS更适用于处理高维数据集和过拟合问题。
如您所述，Lasso回归试图在偏差和方差之间找到一个平衡，通过调整正则化参数，可以在模型的复杂性和预测性能之间找到一个折衷方案。
关于您提到的“因果推断是对过去经验的总结”，确实是一个复杂的概念。因果推断试图理解一个变量（因）如何影响另一个变量（果）。在统计模型中，通常涉及到控制其他潜在影响因素，更准确地估计这种关系。OLS和Lasso回归都可以用于因果推断，但它们的适用性和准确性取决于具体的研究问题和数据特性。

您提到的“lasso回归预测是拟合”是一个合理的观点。在统计模型中，“拟合”通常指的是模型如何描述或“适应”数据，而“预测”则是指模型如何基于这些拟合结果来预测新的、未见过的数据。Lasso回归通过调整模型复杂度来优化这种拟合与预测之间的平衡。

太详细啦！！！您的解释很清晰很全面，谢谢谢谢您的解答！！！

olympic 发表于 2024-3-6 09:17
OLS和Lasso回归都是用于回归分析的统计方法，但它们在处理数据和预测结果时有一些关键的区别。
OLS（最小 ...

太详细啦！！！您的解释很清晰很全面，谢谢谢谢您的解答！！！

感谢分享

感谢分享

谢谢分享！