关于LSTM的h输出

来源：7-3 长短期记忆网络

技术进步官

2020-05-06

老师你好,LSTM中的每个h的输出经过softmax后:
在字符中是预测下一个输入的字符
那在词语预测中是不是会有数十万个词语的分类
在文本预测中是不是每个h的softmax都会输出对文本的类型的判断

写回答

1回答

正十七

2020-05-08

词语预测中每次是要预测所有的词语，但是一般我们不会用几十万那么多，而是选择top 几千或一万等。

文本预测只有最后一步会有输出，也就是你的分类预测可以只取最后一步的输出去计算。

深度学习之神经网络(CNN/RNN/GAN)算法原理+实战

深度学习算法工程师必学，深入理解深度学习核心算法CNN RNN GAN

2617 学习 · 935 问题

相似问题

回答 1

回答 1

回答 3

LSTM

回答 1

回答 1