为什么使用concat而不是将分支直接相加

来源:4-6 Inception-mobile_net(1)

慕运维4078964

2020-04-06

老师,为什么在Resnet的实现中,最后的输出图像可以写成cov2+padded_x,而在Inception中,输出图像是用的concat将不同的分支进行第四维度的拼接,而不是直接相加呢?

写回答

1回答

正十七

2020-04-07

resnet是为了加深层次,而因为深层的网络不容易训练,所以我们使用resnet这种结果,而加起来的目的就是即便这几层什么都没有学到,输出是0,也能保证没有这几层的子模型能学到东西。

而Inception是为了提取多尺度的特征。自然是拼接起来保证特征的独立性。

1
1
慕运维4078964
非常感谢!
2020-04-19
共1条回复

深度学习之神经网络(CNN/RNN/GAN)算法原理+实战

深度学习算法工程师必学,深入理解深度学习核心算法CNN RNN GAN

2617 学习 · 935 问题

查看课程