“导数是可以表示方向的，对应J增大方向”这点没看懂
来源：6-1 什么是梯度下降法
与寂寞无关
2019-09-22
波波老师你好。损失函数J=(x-2.5)^2 -1，你在视频中是这么讲的：“当theta增加时，J是减小的，当theta减小时，J是增加的”。这点我能明白，然后得出结论是：“从某中意义上讲，导数是可以代表方向，对应J增大的方向，想得到J的最小值， 必须在导数前面乘以-eta”。这中间的逻辑，没想明白。
写回答
1回答
-
liuyubobobo
2019-09-23
对于一元函数：
在J减小的过程中，导数为负数；在J增大的过程中，导数为正数。
导数的符号反映了J的变化趋势。导数为负，说明J在减小；导数为正，说明J在增大。
所以，我们找J的最小值，如果导数为负，我们就要往正方向找；如果导数为正，我们就要往负方向找；
我们要想找J的最小值，只需要往导数的反方向找就可以。
这就是导数可以代表方向的意思；导数的反方向就是J减小的方向；导数方向是J增大的方向。
继续加油！：）
422020-12-29
相似问题