反向传播

来源：7-2 循环神经网络

werrdx

2019-05-09

老师好，RNN中的问题，“较远的步骤梯度贡献很小”，这里“较远的步骤”在视频中是指的是E4的梯度很小么？而您视频中说的下一句“较远的步骤对当前的步骤没有影响，可以忽略掉”，这里的“较远的步骤”指的是E1…E4中的谁呢？

写回答

1回答

正十七

2019-05-17

较远的步骤对当前步骤的影响很小，比如你的序列为100，那么在第100步的梯度传播到第一步时就很小了，可以忽略不计。对于课上的图，就是E4的梯度传播到E0,E1时就很小了。

深度学习之神经网络(CNN/RNN/GAN)算法原理+实战

深度学习算法工程师必学，深入理解深度学习核心算法CNN RNN GAN

2617 学习 · 935 问题

相似问题

回答 1

回答 1

回答 1

lstm

回答 1

回答 1