求助Adaboost

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

有人做过adaboost吗？

怎么选择弱分类器？是选择一个弱分类器多次循环，还是选择多个弱分类器。

弱分类器的目标是让误差最小，怎么是误差最小？

谢谢

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：adaboost boost abo 分类器

Adaboost是boosting的一种特例，相当与以exponential loss function作为目标函数优化来求解模型，也就是lz所说的误差最小。
lz可以有兴趣的话，可以查一下boosting这种方法，不止可以用来做分类，一般的回归问题也适用。比较重要的论文有 （Friedman 1999a）http://www-stat.stanford.edu/~jhf/ftp/trebst.pdf ，这篇论文将boosting作为一种方法体系，建立起来。（Friedman 1999b）http://www-stat.stanford.edu/~jhf/ftp/stobst.pdf  ，这篇论文加入了stochastic的拟合元素，收敛速度更快，更好的解决了overfitting的问题。

R下面比较成熟的做boosting的package是gbm。 功能实现比较全面，包括lz需要的Adaboost，用底层C实现的。Friedman自己也做了一个package叫mart。做得也很不错，更偏学术一点，底层用Fortran构建，速度更快，但只能在windows和linux/unix下面跑，mac不行。

ltx5151 发表于 2011-9-19 09:53
Adaboost是boosting的一种特例，相当与以exponential loss function作为目标函数优化来求解模型，也就是lz所 ...

，R中还有其他包有boosting这个函数吗？？

补充一个包，library(ada)
代码示例在这里
http://jakemdrew.com/blog/watson.htm