优化器

来源：4-4 利用神经网络解决分类和回归问题（2）

亨heng

2021-11-27

老师部分代码的意义不是很懂，第一步是优化器将参数梯度置为0？不应该是将初始参数置为0？。。。有点混乱。。后面的反向传播和优化后更新。。。。也不大懂。。。感觉对优化器和损失函数怎么作用的还是有点混乱。。。。麻烦老师帮我解惑一下

写回答

1回答

会写代码的好厨师

2021-12-01

梯度是通过参数方程的导数求解出来的。它和参数是两个东西。梯度表示了参数调整的方向，学习率是调整参数的步长。它和梯度结合使用。
所以，参数置0和梯度置0是两码事。

PyTorch入门到进阶实战计算机视觉与自然语言处理项目

理论基础+技术讲解+实战开发，快速掌握PyTorch框架

1190 学习 · 293 问题

相似问题

回答 1

回答 1

回答 1

回答 1

回答 1