集成学习中多个子模型的整体正确率

来源:13-3 Bagging 和 Pasting

十里坡劍神

2018-03-14

如果我们只有1个子模型,那么整体正确率为51%

如果我们有3个子模型,则整体准确率为http://img.mukewang.com/szimg/5aa8cd4c0001c7c001800021.jpg, 式子看上去不难但我好像理解不了为什么可以有这个式子,能否解释一下或者换个方法说明下?感激不尽

写回答

1回答

liuyubobobo

2018-03-14

这是个组合数学的问题:)


如果有三个模型,那么至少要有两个模型做出正确的判断,这三个模型的集成才能做出正确的判断。


如果三个模型都正确,概率为0.51 * 0.51 * 0.51 就是式子中的第一项:0.51^3

如果三个模型中有两个模型做出正确判断,其概率的计算方法是:首先,三个模型中,那两个模型做出正确的判断?有三种方式。比如有ABC三个课程,则有AB,AC,BC三种方式,这就是C(3, 2)的意思。选定其中一种方式以后,两个模型预测成功的概率是0.51,最后一个模型预测失败的概率是0.49,这就是后面0.51*0.51*0.49的来源:)

0
2
liuyubobobo
回复
丨越丨
方法是一样的啊,每个模型预测的准确率是xi,不准确率就是(1-xi),然后排列组合去加和三个模型都预测准确的概率和其中两个模型预测准确的概率就好。只不过对于两个模型,要对具体哪两个模型预测准确去枚举,而不能直接使用C(3,2)了而已:)
2018-05-27
共2条回复

Python3入门机器学习 经典算法与应用  

Python3+sklearn,兼顾原理、算法底层实现和框架使用。

5839 学习 · 2437 问题

查看课程