bagging 与 boosting 最大区别
来源:13-6 Ada Boosting 和 Gradient Boosting
lemonlxn
2020-08-29
老师好,网络上说,bagging 与 boosting最大的区别是:
bagging 是一堆 overfitting 的弱模型构成。
boosting 是一堆 underfitting 的弱模型构成。
我总觉得有些奇怪。
我记得bagging为代表的是随机森林,里面都是一堆决策树,而这些决策树都是弱分类器,不是因为 overfitting 造成的吧?
写回答
1回答
-
“overfitting 的弱模型”这个说法就太含糊了。overfitting 意味着"强",而“弱模型”又意味着 underfititng。
我个人还是建议从机制的角度理解 bagging 和 boosting。bagging 是投票;boosting 是增强。
继续加油!:)
012020-08-30
相似问题