使用交叉熵函数时，从您的代码中看到最后一层的delta没有涉及到激励函数的导数，但是前面网络层的delta就涉及到激励函数的导数，是这样吗？

首页课程实战体系课手记专栏慕课教程

使用交叉熵函数时，从您的代码中看到最后一层的delta没有涉及到激励函数的导数，但是前面网络层的delta就涉及到激励函数的导数，是这样吗？

来源：3-12 应用案例—-提高版本的前馈神经网络代码的手写数字识别

堡垒爱怼原

2018-01-11

如题所示

写回答

1回答

卫峥

2018-01-12

看PPT交叉熵的公式和推导就是这种特性不然别人也不会发明

0

2

卫峥

看ppt 有讲。书：deep learning book

2018-01-13

共2条回复

深度学习之神经网络核心原理与算法

神经网络实现／Tensorflow框架／图片分类实现

474 学习 · 69 问题

相似问题

请问交叉熵这里w = 0.6, b = 0.9, y = 0.82，学习率=0.15，输出为0.09使用的模型和激励函数是什么样的呢？

回答 1

为什么这是最后一层的误差，这不是b的偏导数吗？？

回答 1

这个数据库训练必须在linux的环境下吗？为什么我的说没有读权限呢？

回答 2

total_cost函数的convert值对应的数据集是不是讲错了

回答 1

网络初始化的时候，偏置和权重的选取有什么讲究吗，看老师是用的标准正态分布，通常默认如此吗

回答 1

打开慕课网App查看更多内容