state初始化问题

来源:7-17 LSTM单元内部结构实现

慕数据4013138

2019-11-18

老师您好,7-17视频,text-rnn-pure-lstm.ipynb中关于lstm-pure代码中的,state初始化,需要请教您下
课件中
state = tf.Variable(
tf.zeros([batch_size, hps.num_lstm_nodes[0]]), # ,#上面的模型图中实际是两层lstm,但是此处由于是手动实现,只实现了第一层隐含状态的初试化,?实际会需要两层?
图片描述

写回答

1回答

正十七

2019-11-24

同学你好,在手动实现Lstm的这一部分,我们只实现了一层lstm,两层lstm要把fx,fh,fb, cx,ch,cb等变量再复制一份再做操作,所以简便起见,只有单层的lstm,所以初始化也是1层。

0
0

深度学习之神经网络(CNN/RNN/GAN)算法原理+实战

深度学习算法工程师必学,深入理解深度学习核心算法CNN RNN GAN

2617 学习 · 935 问题

查看课程