AlphaDropout 会让什么的均值和方差不变?

来源:2-10 实战批归一化、激活函数、dropout

慕沐0473421

2020-06-04

每个样本的所有特征值的,还是某个特征样本间的,还是参数的?有点没想明白。

写回答

1回答

正十七

2020-06-07

dropout是应用在特征的激活值上,alpha-dropout也是这样。dropout是将要丢弃的激活值设为0, alpha-dropout是将要丢弃的激活值设为alpha。

具体细节可以参考论文:https://arxiv.org/pdf/1706.02515.pdf

1
1
慕沐0473421
非常感谢!
2020-06-12
共1条回复

Google老师亲授 TensorFlow2.0 入门到进阶

Tensorflow2.0实战—以实战促理论的方式学习深度学习

1849 学习 · 896 问题

查看课程