老师,决策边界就是我问的前两个问题的答案

来源:9-5 决策边界

慕运维7479159

2018-06-17

这个决策边界是当表达式 = 0.5 的时候的体现,这样理解正确吗, 线性回归是将所有的点尽可能落在这条线上,而逻辑回归,是找到一条线尽可能将两部分分开,尽量避免点落在线上,这是我从表面的理解

写回答

1回答

liuyubobobo

2018-06-17

可以这么理解。如果一个点落在决策边界上,就表示对于我们的模型来说,这个数据点分到A类的概率为50%;分到B类的概率也为50%。换句话说,其实我们的算法模型对于这个正好落在决策边界上的点具体分在A类还是B类,并不能提供很好的指导意义:(


你描述的“逻辑回归,是找到一条线尽可能将两部分分开,尽量避免点落在线上”,如果泛泛用自然语言去理解,没有问题。但是什么叫“尽可能分开”,放到真正的算法研究中,就需要严格的数学定义。实际上,你的这个描述,更像SVM算法的思想。SVM在这个课程的后续会介绍。


对于逻辑回归,也是找到一条尽可能“好”的直线,将两部分分开。不过在逻辑回归中,这个“好”的标准是:对所有样本分类的错误率尽可能低(具体数学描述参见这一章推导的逻辑回归的损失函数)。等到学完SVM,可以回过头来,再来仔细比较一下,逻辑回归算法和SVM算法的不同。都是找到一根尽量“好”的直线把两部分分开,但是对“什么是好”的定义不同,就造就了两种不同的算法:)


加油!


2
1
慕运维7479159
老师,您将数学问题描述的太透彻了,您备课的内容真是考究啊
2018-06-17
共1条回复

Python3入门机器学习 经典算法与应用  

Python3+sklearn,兼顾原理、算法底层实现和框架使用。

5893 学习 · 2454 问题

查看课程