mnist 逻辑回归不收敛
来源：9-8 OvR与OvO
MrZLeo
2020-01-29
昨天晚上尝试了mnist数据集，但是训练了两次都不收敛，第一次觉得迭代次数不够，但第二次失败应该是η太大导致梯度下降法失效？接下来应该怎么做呢？
写回答
1回答
-
我使用最新的 sklearn 基于 LogisticRegression 在 MNIST 上进行了一下实验，代码如下：https://git.imooc.com/coding-169/coding-169/src/master/09-Logistic-Regression/Optional-03-MNIST-in-LogisticRegression/Optional-03-MNIST-in-LogisticRegression.ipynb
整体，看你的训练时间，近乎一定没有做 PCA。对于图像数据来说，数据冗余还是很大的，最好做一下 PCA。否则本身也会遭遇维度灾难的问题。
PCA 以后，进行标准化，然后使用 solver="newton-cg" ，我的测试结果没有收敛问题。可以尝试在你的环境下运行一下我的代码，看是不是有问题？如果没有问题，仔细比对一下，看看自己的代码问题在哪里？
继续加油！：）
072020-01-29
相似问题