1回答

liuyubobobo

2021-11-29

如果你觉得有必要可以在 poly 核下对 gamma 做网格搜索。但实际上，理论上，从机器学习的角度（仅仅做预测），poly 核 的 gamma 不会影响预测结果。因为 gamma 本质就是给所有的 poly 后的特征乘以一个固定的系数，这个系数和模型求出来的系数之间，是可以抵消的。

这和线性回归算法为什么不做标准化不影响结果的原理是一样的。所有的系数乘以一个 2，最终我求出的模型参数是 0.5，和所有的系数都乘以 1，所有的模型参数是 1，他们是一个模型。

所以，在很多教材或者资料中，提到 poly 核，都不会有 gamma 这个参数。比如这里：https://amueller.github.io/aml/02-supervised-learning/07-support-vector-machines.html

再比如这里：https://medium.com/@myselfaman12345/c-and-gamma-in-svm-e6cee48626be

这里的一个总结我觉得很好，并且它简单地推到了为什么 gamma 不影响 poly 下 SVM 的结果：https://stats.stackexchange.com/questions/375340/why-do-we-need-the-gamma-parameter-in-the-polynomial-kernel-of-svms

==========

但在计算机的世界中，由于存在计算误差，在一些情况下，gamma 有意义。不过大多数情况下我们不太需要研究 poly 的 gamma，sklearn 的默认值已经可以帮我们处理绝大多数情况了（实际上，poly 核本身的使用在实际情况下都很少...）

另外，在一些情况下，主要是统计学的过程中，我们不满足于只看预测结果，还要看模型的各个系数的大小并且分析他们的统计指标，此时制定 gamma 是有意义的。（在此时，最常用的 gamma 是 1。）

继续加油！：）

0

1

陈达客

看到回复，感谢波波老师的解答，已经理解啦。已经学完本课程，获益良多！！期待之后出关于出深度学习的课程哈 还有实战课！

2021-12-23

共1条回复