老关于对a，b分别求导的疑问
来源：2-2 线性回归
lemonlxn
2020-02-16
老师好，对a,b分别求导，寻找最有的a,b时，为什么初始值为a/b，可否使用random函数，生成初始位置的随机值？
另外下图蓝色标记部分，根据以往的求导经验，这都是对a求导后的展开结果，不过这些与 g(a,b) 没什么关系吧？
写回答
1回答
-
同学你好，你思考的很细致。
问题一：公式中flare老师写的a/b你可以理解为就是一个初始的权重系数值，并不是我们要得到的a/b的最终结果。可以使用random函数随机生成，这是很多梯度下降求解的时候采用的，随机生成初始权重系数。公式主要就是反应梯度下降的核心原理，从一个点出发，往低点搜索；
问题二：后面这部分就是数值求解偏导数展开的结果，这样计算机才可以迭代求解下去，你可以对上面的J也就是g(a,b)求偏导数，获得的就是后面的部分。
182023-06-14
相似问题