老师的代码中的变量num_timesteps,用法错误

来源:2-1 机器学习、深度学习简介

weibo_慕容7464354

2019-12-07

num_timesteps的含义是:代表一篇文章,分割成num_timesteps个句子(不够的话多退少补)。每个句子固定N个词语。然后每个句子经过1次LSTM的cell。得到输出。一共经过了num_timesteps次的时间步骤,只需要拿到拿到最后一次的输出即可。
但是在老师的代码中,一篇文章中,只取了num_timesteps个词语,也就是说,一篇文章只有一个句子,这里我不太明白,为什么没有用切割成num_timesteps个句子?

写回答

1回答

正十七

2019-12-15

同学你好,不知道你的这个num_timesteps的定义是哪里来的?

在我的理解中,num_timesteps是语义单元的个数,而不是非得是句子数。一个语义单元对应一个embedding向量。

如果你的语义单元是词语,那么就是词语的个数,如果你的语义单元是sub-word,那么就是sub-word的个数。当然,如果语义单元是句子,num_timesteps就是句子个数。

在我们的代码中,是以词语为单位的,所以是词语数目。

0
1
weibo_慕容7464354
嗯,已经明白了。谢谢啊。之前就是对于输入的数量,总是不明白,现在知道了。确实是我理解错了。
2020-01-29
共1条回复

深度学习之神经网络(CNN/RNN/GAN)算法原理+实战

深度学习算法工程师必学,深入理解深度学习核心算法CNN RNN GAN

2617 学习 · 935 问题

查看课程