反向传播

来源:1-4 Tensorflow2.0架构

小神经中的二百五

2021-06-27

老师,我很好奇tf是怎么封装反向传播的,为什么继承model或者layer后,训练的时候就会自动求导里面的变量。您能简单说一说吗?

写回答

1回答

正十七

2021-07-10

同学你好,我的理解是,tensorflow会构建一张计算图,即把输入输出,各种层次里的函数操作,都细化到一张图上。输入(tensor)在这个图上正向流动就是正向计算。

基于这个计算图,tf会自动按照链式法则去构建求导所需的节点,链式法则加到计算图上你可以理解成在图上做一个递归操作。然后tensor再反向流动一遍,经过这些求导所需的节点,就做了反向传播。

可以看这篇文章细化一下:https://blog.csdn.net/stdcoutzyx/article/details/51645396?spm=1001.2014.3001.5501

0
0

Google老师亲授 TensorFlow2.0 入门到进阶

Tensorflow2.0实战—以实战促理论的方式学习深度学习

1849 学习 · 896 问题

查看课程