参数问题请教
来源:3-2 卷积神经网络(1)
慕神415173
2019-02-26
老师好,在10*10的像素上对每个神经元做全连接的输入参数是10 * 10 * 18^6 = 10^8,
但是图像是1000 * 1000的,有100 * 100个10 *10的区域,虽然每次的参数少了,但是要计算的次数是不是增多了,相当于之前只要做一次全连接,现在要做100 * 100次全连接,总的参数还是没有变少。
4回答
-
qq_琪仔_0
2019-02-27
参数共享吧?每个神经元的参数都是一样的
20 -
幕布斯4180522
2019-04-10
参数共享又称为权值共享,整张图片大小为1000*1000,选择其中图片大小为10*10的局部区域,其与卷积核做点乘运算可以得到一个神经元的输出。每个神经元都使用同一个卷积核来得到输出值,我们把这个卷积核称为权值共享;简单的来说就是使用同一个卷积核,把卷积核看做权值系数就可以了。因此每个神经元的权值系数都是相同的(同一个卷积核),其参数总共是10*10。
老师说的理论是对的,但是你可能理解的太深了,其实本质上很简单。
个人理解
10 -
Liny77
2019-03-25
你好!我也遇到同样的问题,看看这个博客就理解了!https://blog.csdn.net/dulingwen/article/details/83112097,而卷积操作保证了每一个像素都有一个权系数,只是这些系数是被整个图片共享的,着大大减少了卷积核中的参数量。此外卷积操作利用了图片空间上的局部相关性,这也就是CNN与传统神经网络或机器学习的一个最大的不同点,特征的自动提取。
这也就是为什么卷积层往往会有多个卷积核(甚至几十个,上百个),因为权值共享后意味着每一个卷积核只能提取到一种特征,为了增加CNN的表达能力,当然需要多个核,不幸的是,它是一个Hyper-Parameter。10 -
ANG01
2019-03-10
这块感觉讲的有点问题,看原图,是在参数共享后,10*10的fillter,下一层是10^6个神经元的情况下,参数是10 * 10 * 10^6 = 10^8
00
相似问题