自定义训练流程有什么作用呢?通常用于什么场景?
来源:8-8 自定义流程实战
fayssica
2019-07-20
写回答
1回答
-
自定义训练流程属于偏高级的用法,应用场景可能但不限于:
预定义的optimizer无法满足,需要更加精细的控制学习率或者梯度。比如lstm,训练时可能需要做梯度截断。比如学习率可能想要一个先高后低的变化等。不过常用的策略很多都被tensorflow集成进来了,所以对于用户来说,越来越多的高级操作可以简单的实现了。
分布式的场景下要自己控制梯度的聚合
012019-07-29
相似问题
为什么每次的训练结果都不一样呢?
回答 2
训练结果对预测有什么影响
回答 1