支持向量回归中的度数 - RBF核

Question

我想问一下SVM上的RBF内核.

在sklearn的文档中:http://scikit-learn.org/stable/modules/generated/sklearn.svm.SVR.html#sklearn.svm.SVR 声明"核函数的程度仅在poly中有意义, rbf,sigmoid".

我可以理解多项式内核上度的含义,但是高斯(rbf)内核呢？我可以看到,sklearn库中的默认值为3.我还运行了一个GridSearch,其中包含了我想出的一些数字,估计3也是最佳值.它真的很重要还是只是一个错误的类型？如果是这样,有人可以解释一下它的含义和价值吗？

提前致谢

Answer 1

内核只是用于实现模型的基本函数。3 次多项式函数为ax^3+bx^2+cx+d。您可以使用更高次数的多项式，但是您可能会过度拟合，这意味着您的模型不能很好地概括，而这正是您想要的。有多种技术可以防止过度拟合。

RBF 核基于高斯函数，类似于exp(-b x)。如果您对机器学习一无所知，我建议您使用这些。一般来说，他们适应得最好。

如果你想了解更多关于机器学习的信息，Ng在 coursera 上的课程非常适合初学者。