老师,网络正态分布初始化,是指全连接层的w和b都服从正态分布初始化吗

来源:5-2 激活函数到调参技巧(1)

会飞的光影

2020-08-07

写回答

1回答

正十七

2020-08-15

全连接层的w一般按照正态分布或者其他分布去初始化。b一般是用0初始化就可以。

卷积层的初始化也需要遵循一个分布的。它和全连接层一样可以遵循正态分布,也可以是其他的。每一层都可以自定义初始化方式。

0
0

深度学习之神经网络(CNN/RNN/GAN)算法原理+实战

深度学习算法工程师必学,深入理解深度学习核心算法CNN RNN GAN

2617 学习 · 935 问题

查看课程