关于随机梯度下降的问题

来源:6-6 随机梯度下降法

js商博良

2020-07-19

为什么与批量梯度下降相比,两者的梯度函数是不一样的,但最后却依然能够收敛到相同的结果?这背后的数学原理我不太了解。

写回答

1回答

liuyubobobo

2020-07-19

首先,他们的函数的形式是一样的。只不过批量梯度下降法每次参考了所有样本的信息;而随机梯度下降法每次参考了一个样本的信息。


如果你的问题是,随机梯度下降法为什么会收敛?可以参考这里的讨论:https://coding.imooc.com/learn/questiondetail/98263.html


继续加油!:)

1
2
liuyubobobo
回复
js商博良
感谢支持。继续加油!:)
2020-07-19
共2条回复

Python3入门机器学习 经典算法与应用  

Python3+sklearn,兼顾原理、算法底层实现和框架使用。

5839 学习 · 2437 问题

查看课程