关于forward函数和自动梯度

来源:6-13 PyTorch搭建cifar10训练脚本搭建-Inception结构(下)

防守一波

2023-08-23

之前曾经在__init__中把 训练层 添加在了self下的一个字典里面
self.layer_list[0] = make_layer()
在forward中训练
out = self.layer_list[0]_(x)

发现训练出错了,准确率一直上不去

如果把层直接添加在self下
self.layer1 = make_layer() ,
在forward中训练
out = self.layer1(x)
就可以了

是不是因为梯度计算出问题,因为没有直接添加在layer下面,如果是的话,
在backward里如何根据 forward 里面的步骤,计算出相应的反向梯度呢

写回答

1回答

会写代码的好厨师

2023-08-24

放在一个字典里和放在变量单独定制,没有什么区别,应该是字典使用的时候的问题,具体要看下上下文的代码才能判断

0
0

PyTorch入门到进阶 实战计算机视觉与自然语言处理项目

理论基础+技术讲解+实战开发,快速掌握PyTorch框架

1190 学习 · 298 问题

查看课程