两种梯度下降法的速度比较

来源：6-7 scikit-learn中的随机梯度下降法

ITMOCC

2020-12-11

图片描述
请问老师为什么在自己构造的数据中批量梯度下降法比随机梯度下降法快，而对于已经归一化处理的波士顿房价数据集随机梯度下降法比批量梯度下降法快？

写回答

1回答

liuyubobobo

2020-12-12

已采纳

在真实的数据上，随机梯度下降法比梯度下降法快是常态。因为随机梯度下降法每次计算梯度比梯度下降法快太多。

我们自己早的数据太简单了，梯度下降法很快达到了最优解，但真实数据通常不会这么理想。

继续加油！：）

liuyubobobo

ITMOCC

不好。因为很多数据集样本的排列是有规律的，比如在手写识别数据集中，前面都是 0，之后都是 1，之后都是 2，等等等等，这样做会使得搜索的路径并非是随机的。

2020-12-12

共4条回复

Python3入门机器学习经典算法与应用

Python3+sklearn，兼顾原理、算法底层实现和框架使用。

5893 学习 · 2454 问题

相似问题

回答 1

回答 2

回答 1

回答 1

回答 1