激活函数和损失函数的关系

来源:2-7 神经元实现(二分类逻辑斯蒂回归模型实现)

CrazyCat岩

2018-10-17

老师,请问p_y_1 = tf.nn.sigmoid(y_)和loss = tf.reduce_mean(tf.square(y_reshaped_float - p_y_1))它们的关系是怎么一回事,有点懵= =||,为什么用标签值与概率做差呢?

写回答

2回答

CrazyCat岩

提问者

2018-10-17

反复研究了下,因为目前是二分类问题使用sigmoid函数将输出值控制在0,1区间,然后计算输出值与标签值0,1的损失值,并且使用激活函数后可以对样本x进行简单的分类,对吧老师?我是跟着老师的视频一边听一边敲代码,这样是不是也不太好。

1
0

慕粉9315168

2019-09-26

二分类问题,y为0或1,预测值是一个0-1之间的概率。若实际y为1而预测为0.7,此次预测成功但有loss值为0.3 。若实际y为1而预测为1,也是预测成功且loss为0 。 所以即标签值与概率做差求的是loss值。

0
0

深度学习之神经网络(CNN/RNN/GAN)算法原理+实战

深度学习算法工程师必学,深入理解深度学习核心算法CNN RNN GAN

2617 学习 · 935 问题

查看课程