自定义训练流程有什么作用呢?通常用于什么场景?

来源:8-8 自定义流程实战

fayssica

2019-07-20

写回答

1回答

正十七

2019-07-21

自定义训练流程属于偏高级的用法,应用场景可能但不限于:

  1. 预定义的optimizer无法满足,需要更加精细的控制学习率或者梯度。比如lstm,训练时可能需要做梯度截断。比如学习率可能想要一个先高后低的变化等。不过常用的策略很多都被tensorflow集成进来了,所以对于用户来说,越来越多的高级操作可以简单的实现了。

  2. 分布式的场景下要自己控制梯度的聚合

0
1
fayssica
非常感谢!
2019-07-29
共1条回复

Google老师亲授 TensorFlow2.0 入门到进阶

Tensorflow2.0实战—以实战促理论的方式学习深度学习

1849 学习 · 896 问题

查看课程