dJ_sgd的i可以不随机取吗?

来源:6-7 scikit-learn中的随机梯度下降法

神经旷野舞者

2018-02-14

rand_i = np.random.randint(len(X_b) 可以每次都取相同的值吗?

感觉应该不可以,因为万一那个值是梯度增大的方向就错了,但是有没有可能的不是每次都增大的?

试了下,发现这样子的话,最后的J(theta, X_b, y)每次随后的结果都变化比较大,应该是乱跳了。

python可以把老师视频里的等高图和theta变化画出来吗?


写回答

2回答

liuyubobobo

2018-02-14

可以画出来哦。不过需要更多matplotlib的知识。这个课程不涉及更多使用matplotlib的方法,有兴趣的话可以自己研究一下:)

0
6
神经旷野舞者
回复
liuyubobobo
好啊好啊
2018-02-14
共6条回复

神经旷野舞者

提问者

2018-02-14

5a83d7328469a.png每次求梯度的时候,都是任取了一个i来计算梯度,其中n+1个元素的i都一样,其中i也乱序会不会有意义?

0
4
liuyubobobo
回复
神经旷野舞者
不仅仅是计算麻烦的问题。这样做没有意义。
2018-02-14
共4条回复

Python3入门机器学习 经典算法与应用  

Python3+sklearn,兼顾原理、算法底层实现和框架使用。

5839 学习 · 2437 问题

查看课程