在做批归一化之后,训练数据准确率比较高,但是测试数据集的准确率基本是低于20%的,增加训练次数也不行,请问老师这个是什么原因引起的?

来源:5-11 批归一化实战(2)

CGJZ

2018-09-10

写回答

2回答

慕仰3701486

2018-11-03

好像可以这样改:

with tf.name_scope('train_op'):

        train_op = tf.train.AdamOptimizer(1e-3).minimize(loss)

改成

update_ops = tf.get_collection(tf.GraphKeys.UPDATE_OPS)

with tf.control_dependencies(update_ops):

    with tf.name_scope('train_op'):

        train_op = tf.train.AdamOptimizer(1e-3).minimize(loss)

然后测试集的数据准确率就正常了

1
0

正十七

2018-09-14

同学你好,这个可能是因为咱们的代码中批归一化的实现上有点小瑕疵,是因为我记错了一个API的实现。你可以先跳过这个,我稍后会更新代码和课程讲解。

给你带来不便,抱歉啦。学习细心,给你点赞。

0
0

深度学习之神经网络(CNN/RNN/GAN)算法原理+实战

深度学习算法工程师必学,深入理解深度学习核心算法CNN RNN GAN

2617 学习 · 935 问题

查看课程