RNN

来源:7-17 LSTM单元内部结构实现

xuchengggg

2019-01-23

多个RNNcell该怎么理解呢? 比如一个RNNcell在time2会有time1传过来的隐层的输出还有该时刻的输入x2,那多个cell之间是怎么样的?比如有3个cell 在time1,对第一层RNN输入h0以及输入x1得到隐层的输出h1,将这个隐层的输出输入到第二层去同时输入这一刻的输入x1得到h2,再同样得到输入第三层得到h3,然后在time2,第三层将这个隐层的输出输入到第一层,同时第一层输入x2。。。是这样理解嘛? 就是多个RNNcell在时间轴上是如何运行的

写回答

1回答

正十七

2019-02-24

同学您好,

第一点,多个RNN cell其实和多个卷积核是一样的,每个RNN cell负责提取不同的特征,多个RNN cell得到的结果可以组成一个向量来表示当前的输入。 比如,如果某一层只有一个rnn cell,那么这层的输出大小为[batch_size, timesteps, 1], 如果有n个rnn cell, 那么输出大小为[batch_size, timesteps, n]。

第二点,多层rnn加上时间轴,那么当时间t时,第k层的rnn 输入即为第k-1层的输出和时间t-1时第k层的输出。而不是问题描述中的第三层输入给下一个时间的第一层。

1
0

深度学习之神经网络(CNN/RNN/GAN)算法原理+实战

深度学习算法工程师必学,深入理解深度学习核心算法CNN RNN GAN

2617 学习 · 935 问题

查看课程