请选择 进入手机版 | 继续访问电脑版
楼主: 阿扁V5
20455 82

[问题] 【机器学习算法讨论】stacking融合真的会显著提升效果吗?   [推广有奖]

回帖奖励 90 个论坛币 回复本帖可获得 2 个论坛币奖励! 每人限 1 次(中奖概率 90%)
  • 1关注
  • 43粉丝

版主

山野小子

副教授

94%

还不是VIP/贵宾

-

威望
0
论坛币
-12154320 个
通用积分
3822.8538
学术水平
108 点
热心指数
119 点
信用等级
91 点
经验
49314 点
帖子
1168
精华
1
在线时间
651 小时
注册时间
2013-3-22
最后登录
2024-3-17

阿扁V5 学生认证  发表于 2018-6-8 14:02:25 |显示全部楼层 |坛友微信交流群

+2 论坛币
k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群
赵安豆老师微信:zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

感谢您参与论坛问题回答

经管之家送您两个论坛币!

+2 论坛币
        如题,最近参加过某厂的比赛,自己公司一直在做二分类的问题,然后,无论从网上看到的案例还是kaggle的一些比赛里,大部分都用到了集成学习,比如bagging、boost,也用到stacking这样的方法来融合模型,都说效果很好。可是本人也尝试了第一层构建LR/randomforest/SVM/knn/NB等算法,并以stacking方法融合生成了几个特征,第二层以xgboost构建最终的输出模型,发现效果跟直接在原特征上使用xgboost基本上差不离,甚至还略有下降,求各位有经验的大神来指点指点讨论,谢谢!
附本人使用的stacking方法原理文章及基本框架图:

Kaggle机器学习之模型融合(stacking)心得
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

关键词:输出模型 方法融合 基本框架 融合模型 机器学习

回帖推荐

jmq19950824 发表于32楼  查看完整内容

楼主,Stacking方法我觉得并不是说所有情况都是最优的,举个例子:比如你用Stacking思路将Random Forest和XGBoost预测结果进行融合(先不讨论用什么模型进行融合),Stacking方法可能不是每次最优的,但可能是最稳定的。比如针对不同的数据集,RF与XGBoost预测精度可能时高时低,但Stacking的预测精度可能较优,且比较稳定。 另外,对于Stacking方法有兴趣可以一起讨论哈

jgchen1966 发表于19楼  查看完整内容

已很强的学习器(如randomForest,SVM, gbm,mboost 等),再用强学习器集成,一般没啥子效果,,该结合特定专业或实际需要,采用特定方法集成,才会对实践有价值。。 SupperLearner 是完成依据 stacking 原理建立的R package 。 可一试。。
已有 1 人评分经验 收起 理由
东方祥 + 100 精彩帖子

总评分: 经验 + 100   查看全部评分

憧憬机器学习的世界!
阿扁V5 学生认证  发表于 2018-6-8 14:04:11 |显示全部楼层 |坛友微信交流群
欢迎大咖来讨论

使用道具

45699542 发表于 2018-6-8 14:40:59 |显示全部楼层 |坛友微信交流群

回帖奖励 +2 个论坛币

总结李航统计学习法

使用道具

回帖奖励 +2 个论坛币

感谢分享

使用道具

lhf8059 发表于 2018-6-13 19:08:36 |显示全部楼层 |坛友微信交流群

回帖奖励 +2 个论坛币

谢谢分享

使用道具

回帖奖励 +2 个论坛币

感谢分享

使用道具

幸运符 发表于 2018-6-16 13:32:50 |显示全部楼层 |坛友微信交流群

回帖奖励 +2 个论坛币

谢谢分享

使用道具

summers1985 发表于 2018-6-16 14:43:04 |显示全部楼层 |坛友微信交流群

回帖奖励 +2 个论坛币

感谢分享。

使用道具

幸运符 发表于 2018-6-26 13:44:30 |显示全部楼层 |坛友微信交流群

感谢分享

使用道具

caochy 发表于 2018-6-26 19:19:07 |显示全部楼层 |坛友微信交流群

回帖奖励 +2 个论坛币

支持一下!

使用道具

您需要登录后才可以回帖 登录 | 我要注册

本版微信群
加好友,备注cda
拉您进交流群

京ICP备16021002-2号 京B2-20170662号 京公网安备 11010802022788号 论坛法律顾问:王进律师 知识产权保护声明   免责及隐私声明

GMT+8, 2024-4-19 09:52