楼主: 阿扁V5
23175 82

[问题] 【机器学习算法讨论】stacking融合真的会显著提升效果吗？   [推广有奖]

回帖奖励 90 个论坛币 回复本帖可获得 2 个论坛币奖励! 每人限 1 次(中奖概率 90%)
  • 1关注
  • 43粉丝

版主

山野小子

已卖：965份资源

副教授

94%

还不是VIP/贵宾

-

0%
威望
0 级
论坛币
-29710312 个
通用积分
3823.6007
学术水平
108 点
热心指数
119 点
信用等级
91 点
经验
49334 点
帖子
1168
精华
1
在线时间
651 小时
注册时间
2013-3-22
最后登录
2024-3-17
楼主
阿扁V5 学生认证  发表于 2018-6-8 14:02:25 |AI写论文

+2 论坛币
k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群
赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币
        如题，最近参加过某厂的比赛，自己公司一直在做二分类的问题，然后，无论从网上看到的案例还是kaggle的一些比赛里，大部分都用到了集成学习，比如bagging、boost，也用到stacking这样的方法来融合模型，都说效果很好。可是本人也尝试了第一层构建LR/randomforest/SVM/knn/NB等算法，并以stacking方法融合生成了几个特征，第二层以xgboost构建最终的输出模型，发现效果跟直接在原特征上使用xgboost基本上差不离，甚至还略有下降，求各位有经验的大神来指点指点讨论，谢谢！
附本人使用的stacking方法原理文章及基本框架图：

Kaggle机器学习之模型融合（stacking）心得
二维码

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0
关键词：输出模型 方法融合 基本框架 融合模型 机器学习

相关帖子

回帖推荐

jmq19950824 发表于32楼  查看完整内容

楼主，Stacking方法我觉得并不是说所有情况都是最优的，举个例子：比如你用Stacking思路将Random Forest和XGBoost预测结果进行融合（先不讨论用什么模型进行融合），Stacking方法可能不是每次最优的，但可能是最稳定的。比如针对不同的数据集，RF与XGBoost预测精度可能时高时低，但Stacking的预测精度可能较优，且比较稳定。 另外，对于Stacking方法有兴趣可以一起讨论哈

jgchen1966 发表于19楼  查看完整内容

已很强的学习器（如randomForest,SVM, gbm,mboost 等），再用强学习器集成，一般没啥子效果，，该结合特定专业或实际需要，采用特定方法集成，才会对实践有价值。。 SupperLearner 是完成依据 stacking 原理建立的R package 。 可一试。。
已有 1 人评分经验 收起 理由
东方祥 + 100 精彩帖子

总评分: 经验 + 100   查看全部评分

憧憬机器学习的世界！

沙发
阿扁V5 学生认证  发表于 2018-6-8 14:04:11
欢迎大咖来讨论
藤椅
45699542 发表于 2018-6-8 14:40:59

回帖奖励 +2 个论坛币

总结李航统计学习法
板凳
日月生辉0912 发表于 2018-6-13 08:32:57

回帖奖励 +2 个论坛币

感谢分享
报纸
lhf8059 发表于 2018-6-13 19:08:36

回帖奖励 +2 个论坛币

谢谢分享
地板
jiangqihuashi 发表于 2018-6-14 01:07:38

回帖奖励 +2 个论坛币

感谢分享
7楼
幸运符 发表于 2018-6-16 13:32:50

回帖奖励 +2 个论坛币

谢谢分享
8楼
summers1985 发表于 2018-6-16 14:43:04

回帖奖励 +2 个论坛币

感谢分享。
9楼
幸运符 发表于 2018-6-26 13:44:30

感谢分享
10楼
caochy 发表于 2018-6-26 19:19:07

回帖奖励 +2 个论坛币

支持一下！

返回列表
123456789下一页
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 我要注册

本版微信群
加好友,备注cda
拉您进交流群

京ICP备16021002号-2 京B2-20170662号 京公网安备 11010802022788号 论坛法律顾问：王进律师 知识产权保护声明   免责及隐私声明

GMT+8, 2026-1-21 15:53