关于逻辑回归使用多分类

来源:9-8 OvR与OvO

weixin_慕村8280326

2021-09-19

如果逻辑回归进行多分类,数据一定会按照线性模型那样拟合吗?碰到某些情况,需要进行添加特征变成非线性模型去拟合决策边界吗?

写回答

1回答

liuyubobobo

2021-09-20

逻辑回归算法不能直接处理多分类问题,只能使用 OvO 或者 OvR 的方式来处理多分类问题。而 OvO 或者 OvR 的方式,本质上是训练多个模型,而每一个模型,处理的都是一个二分类问题,但是这些模型合在一起,何以处理一个多分类问题。


所以,在 OvO 或者 OvR 中,每一个逻辑回归问题,还是一个线性拟合的过程。


你永远可以使用多项式的方式来让模型处理非线性的情况,这一点适合算法无关。但是,这里要注意,我们这里说的”非线性“,是针对原来的数据来说的。


比如原来的数据只有一个特征 x,现在通过多项式的方式,引入了一个 x^2,因为有了 x^2,所以针对原先的 x 这一个特征,是非线性的。但是,我们的线性模型(不管是逻辑回归还是线性回归),本质是求出方程 Ax^2 + Bx + C = 0 中的 ABC。这个方程针对 x 来看,在二维平面上,是非线性的。但是,如果我们将其在三维空间看,将 x^2 和 x 看做两个特征,他是三维空间的一条直线。所以,我们的逻辑回归和线性回归,仍然是一个线性的方法,只不过,在高维空间的一条直线,放到低维空间,可能就是一条非线性的曲线。


继续加油!:)

0
0

Python3入门机器学习 经典算法与应用  

Python3+sklearn,兼顾原理、算法底层实现和框架使用。

5839 学习 · 2437 问题

查看课程