关于正则化的问题
来源:
慕九州9175731
2018-12-07
老师您好。在学习l1,l2正则化的时候有这样一个图
菱形和圆形我能理解代表l1,l2正则化系数之和。但右上角那一圈等高线表示的是损失函数值的等高线就不太理解了。如何能保证每一类损失函数的等高线都符合这种图像呢?如果有一类损失函数的等高线图像不规则的话,那两种正则化对应的特征不是就会失效吗?
写回答
1回答
-
liuyubobobo
2018-12-07
"正则化对应的特征不是就会失效"这句话是什么意思?我没有特别理解你想表达的意思。
损失函数不一定是碗状函数,但不管损失函数是什么样子,正则化项都在起抑制损失函数的作用,让我们的最优化函数不仅仅是损失函数在其作用,而受正则化项的牵制。
032018-12-07
相似问题