消除神经元之间的依赖性？

来源：4-1 卷积神经网络进阶（alexnet）

慕数据4013138

2019-07-04

为什么要消除神经元之间的依赖性？记忆计算结果不正是通过神经元之间的依赖性来嘛？

写回答

1回答

正十七

2019-07-06

已采纳

消除神经元之间的依赖性是为了防止过拟合，起到了正则化的作用。神经网络有效果的原因应该是学习到数据的规律而非记住样本，而如果神经元之间有依赖性那么网络的容量会大大增强，这样反而会影响对规律的学习。

当然，网络的能力跟样本的数目是有相对关系的，如果网络能力强而样本数目少，那么网络就会倾向于记住样本，此时应该消除依赖。当网络能力强但样本数目也很多的时候，不消除依赖应该也是可以的。

慕数据4013138

感谢老师！

2019-07-09

共1条回复

深度学习之神经网络(CNN/RNN/GAN)算法原理+实战

深度学习算法工程师必学，深入理解深度学习核心算法CNN RNN GAN

2617 学习 · 935 问题

相似问题

回答 1

回答 1

回答 1

回答 1

回答 1