损失函数前面的系数

来源：6-3 线性回归中的梯度下降法

秦宝宝是我最爱的宝宝

2020-09-21

理论上来说损失函数前面的系数只要符号不变其大小并不影响他的最小值吧，因为线性回归目标函数是二次的，系数仅仅影响开口大小，为什么要讨论前面系数呢？没搞明白

写回答

1回答

liuyubobobo

2020-09-21

影响。

在梯度下降法中，损失函数本质就是一个高维度的二次多项式（多元二次多项式）。

以最简单的一元二次多项式为例，ax^2 + bx + c 的极值点是 (4ac-b²)/4a，是由系数决定的。

继续加油！：）

liuyubobobo

秦宝宝是我最爱的宝宝

我们关注的是损失函数的最小值。假设我们的损失函数是 f(x) = x^2，我们把它变形成 f(x) = 2x^2，他们去的最小值的位置是一样的。至于你的理解，假设我们的数据只有一个特征，你说的列成式子是什么样子的？

2020-09-22

共4条回复

Python3入门机器学习经典算法与应用

Python3+sklearn，兼顾原理、算法底层实现和框架使用。

5893 学习 · 2454 问题

相似问题

回答 1

回答 1

回答 1

回答 1

回答 1