关于正则化的问题

来源:

慕九州9175731

2018-12-07

老师您好。在学习l1,l2正则化的时候有这样一个图http://img.mukewang.com/szimg/5c0a2cde0001c4ba15010760.jpg
菱形和圆形我能理解代表l1,l2正则化系数之和。但右上角那一圈等高线表示的是损失函数值的等高线就不太理解了。如何能保证每一类损失函数的等高线都符合这种图像呢?如果有一类损失函数的等高线图像不规则的话,那两种正则化对应的特征不是就会失效吗?

写回答

1回答

liuyubobobo

2018-12-07

"正则化对应的特征不是就会失效"这句话是什么意思?我没有特别理解你想表达的意思。


损失函数不一定是碗状函数,但不管损失函数是什么样子,正则化项都在起抑制损失函数的作用,让我们的最优化函数不仅仅是损失函数在其作用,而受正则化项的牵制。

0
3
慕九州9175731
回复
liuyubobobo
好的,明白了。谢谢老师!
2018-12-07
共3条回复

Python3入门机器学习 经典算法与应用  

Python3+sklearn,兼顾原理、算法底层实现和框架使用。

5839 学习 · 2437 问题

查看课程