learning_rate的取值与效率有较大关系吗
来源:4-16 综合小练习:梯度下降解决线性回归(下)
Giroy3925940
2018-04-10
如何找到一个适合自己的learning_rate
写回答
2回答
-
当然,learning rate 就相当于梯度下降时的步长(step size)咯。你步长取得合适,可能马上就找到全局最小值。如果步长过大,可能越来越偏离最小值(“撕裆过度”),或者找到的是局部最小值。如果步长过小,则可能找到最小值慢一些(“龟速前进”)。
请参看:
https://developers.google.cn/machine-learning/crash-course/reducing-loss/learning-rate
00 -
慕盖茨6464827
2018-04-10
多训练几次咯
00
相似问题