关于 LASSO 回归的疑惑

来源：8-10 L1, L2和弹性网络

何永灿

2018-07-13

老师，您好！

你讲到 LASSO 回归的一个重要的缺陷：急于将某些 θ 化为 0，此过程中可能会产生一些错误，使得最终的模型的偏差比较大；

疑问：使用 LASSO 回归进行模型优化的过程中，使某些 θ 化为 0 的这一行为是有选择的吗？或者说有没有什么条件使得尽量避免让相关性比较强的特征的系数化为 0 ？还是说这一行为只是单纯的数学运算，就为目标函数尽量达到目标状态？

写回答

1回答

liuyubobobo

2018-07-13

已采纳

后者，没有选择。当你选择了LASSO这种方法，就相当于是选择了“急于将某些 θ 化为 0”这一特点。

这个特点不一定完全是缺陷。在某些情况下，你可能希望让某些 θ 化为 0，比如做特征选择的时候。但在某些时候，你可能不希望这样。此时，应该选择使用Ridge：）

何永灿

liuyubobobo

明白了，谢谢老师。

2018-07-15

共6条回复

Python3入门机器学习经典算法与应用

Python3+sklearn，兼顾原理、算法底层实现和框架使用。

5893 学习 · 2454 问题

相似问题

回答 1

回答 2

回答 1

回答 2

回答 1