【笔记】梯度其实关键的是方向，所以梯度不应该和特征数目有关

来源：6-3 线性回归中的梯度下降法

神经旷野舞者

2018-02-11

本来方向导数之类都忘了，到网上找了一些文章，后来感觉似乎没必要硬扣，理解梯度是偏导数向量会计算应该足够了，硬扣又要花莫名其妙的时间。

梯度主要是提供一个下降来逼近到最小值点，所以应该大小不重要，所以不要太大，这样步长就太大了。

写回答

1回答

liuyubobobo

2018-02-12

已采纳

非常对！梯度的方向更重要！

liuyubobobo

路灯捶背三百一位

对。实际上，即使这样，很多时候也会梯度的模过大。所以，完全可以每次对梯度做一遍标准化，求梯度的单位向量。我们只对梯度的方向感兴趣。

2019-10-15

共2条回复

Python3入门机器学习经典算法与应用

Python3+sklearn，兼顾原理、算法底层实现和框架使用。

5839 学习 · 2437 问题

相似问题

回答 1

回答 1

回答 1

回答 1

回答 1