网格搜索中n_neighbors的最好情况是1
来源：4-6 网格搜索与k近邻算法中更多超参数
Amberzy
2019-11-21
老师，我在调试网格搜索时，发现我最好的结果是n_neighbors是1，这意味都不需要投票，但我直观感觉没有投票是不靠谱的。
想问这种情况下，是该相信算法还是相信直觉？
写回答
1回答
-
相信直觉。
最最关键的是，在测试数据集上的最好结果，大概率是过拟合的。而对于 knn 算法来说，n_neighboers == 1 是典型的过拟合情况。关于过拟合，在后续课程中，也会看到。也可以参考这里：http://coding.imooc.com/learn/questiondetail/40227.html
在我看来，对于knn，在搜索参数的时候，完全可以把 k = 1 忽略掉，从 k = 3 开始搜索就好。
继续加油！：）
012019-11-21
相似问题