关于Tensorflow中Batch_Normalization的APItf.layers.batch_normalization的调用

来源:5-11 批归一化实战(2)

怀瑜

2018-09-10

老师,你好。在上完本节课我尝试将BN的思想应用到ResNet中去,但是几经尝试,均已失败告终,我刚开始以为是我code出错。但是训练结果在train dataset上的acc并没有问题,整个model却在test dataset上表现极差,百思不得其解。最后的原因在于code中BN操作只是对每层进行了归一化,却没有进行平移和尺度变换。本届课程中的讲解没有涉及到更新平移和尺度变换这两个参数,老师是不是在备课的时候出现了一些小小的失误?
tips:在网上搜索相关的API调用之后,训练25000次,acc可有之前训练100000次的76.15%上升到84.20%,说明BN的确起到了提升作用。

写回答

1回答

正十七

2018-09-11

同学你好,BN的内容在实战环节有一点小纰漏,是我之前记错了用法,这点也已经有其他同学反映了,视频也即将更新。感谢你的发现。

0
0

深度学习之神经网络(CNN/RNN/GAN)算法原理+实战

深度学习算法工程师必学,深入理解深度学习核心算法CNN RNN GAN

2617 学习 · 935 问题

查看课程