如何为不同的层设置不同的学习率

来源：6-11 10monkeys模型微调

慕无忌0971793

2019-09-23

想对老师课上提出的对不同的层设置不同的学习率进行实现，但发现网上大部分的方法都是不使用model.compile的实现方法，compile函数可以对不同的层设置不同的学习率吗

写回答

1回答

正十七

2019-10-15

不同层次设置不同学习率，我觉得需要用到自定义训练流程，然后在apply_gradients的时候，按照变量的前缀（也就是其所属的层次）来将梯度更新上去，这个时候可以按照不同的层次设置学习率。

Google老师亲授 TensorFlow2.0 入门到进阶

Tensorflow2.0实战—以实战促理论的方式学习深度学习

1849 学习 · 896 问题

相似问题

estimator

回答 1

回答 1

学习率

回答 1

回答 1

回答 8