老师,网络正态分布初始化,是指全连接层的w和b都服从正态分布初始化吗
来源:5-2 激活函数到调参技巧(1)
会飞的光影
2020-08-07
写回答
1回答
-
正十七
2020-08-15
全连接层的w一般按照正态分布或者其他分布去初始化。b一般是用0初始化就可以。
卷积层的初始化也需要遵循一个分布的。它和全连接层一样可以遵循正态分布,也可以是其他的。每一层都可以自定义初始化方式。
00
相似问题
老师,网络正态分布初始化,是指全连接层的w和b都服从正态分布初始化吗
来源:5-2 激活函数到调参技巧(1)
会飞的光影
2020-08-07
1回答
正十七
2020-08-15
全连接层的w一般按照正态分布或者其他分布去初始化。b一般是用0初始化就可以。
卷积层的初始化也需要遵循一个分布的。它和全连接层一样可以遵循正态分布,也可以是其他的。每一层都可以自定义初始化方式。
相似问题