如何采样m个不同的神经网络？

来源：10-3 自动网络结构搜索算法一的分布式训练

追梦逐梦白日做梦

2018-09-30

老师，采样m个模型得到不同的反馈，这m个模型里面的超参数是一样的吧，那么这m个模型的差别是不是在初始化的不同呢？或者是还有其他不同的地方？

写回答

1回答

正十七

2018-10-13

已采纳

所谓的采样是根据概率随机生成的，比如某一层的网络的两个参数，输出通道数和卷积核大小，比如输出通道数的可能的值为[32, 64, 96]，概率为[0.5, 0.3, 0.2]；卷积核大小可能的值为[(3,3), (5,5), (7,7)],概率为[0.4, 0.3, 0.3]，那么sample出来的可能是 [32, (3,3)]，也可能是[96, (5,5)]。因为模型结构不同，所以最后的反馈不同。

而这几个模型的初始化方法什么的都是一样的。只有网络结构不同。

深度学习之神经网络(CNN/RNN/GAN)算法原理+实战

深度学习算法工程师必学，深入理解深度学习核心算法CNN RNN GAN

2617 学习 · 935 问题

查看课程

相似问题

老师您好，请问多层神经网络的课程视频在哪里呢？

回答 1

网络的选择

回答 1

消除神经元之间的依赖性？

回答 1

为什么多层神经网络会更准确，原理是什么？

回答 1

神经网络课程与tensorflow课程之间的学习路径关系？

回答 1

打开慕课网App查看更多内容