【发布时间】：2023-03-30 05:29:01
【问题描述】：
SVM 的工作原理是将点映射到越来越高的维度，直到找到线性边界。
SVM 是否总能成功找到线性的决策边界？
【问题讨论】：
标签： classification svm data-science multilabel-classification multiclass-classification
【发布时间】：2023-03-30 05:29:01
【问题描述】：
首先，SVM 不会将点映射到越来越高的维度。如果使用线性核，则不映射点；对于其他一些内核，例如RBF内核，它们被映射到一个无限维空间。
对于您的问题，我想您的意思是带有 RBF kernel 的 SVM 是否可以在映射空间中找到分离的超平面。已经证明here 足够小的 σ^2 和足够大的 C，它可以总是找到一个分离的超平面，即训练准确率为 100%。
【讨论】：
-
好的，非常感谢您对带有 RBF 内核的 SVM 的回答，这就是我所追求的。道歉我应该更清楚。如果 σ^2 很大而 C 很小，带有 RBF 内核的 SVM 会失败还是需要很长时间才能找到分离的超平面？如果是这样，您会推荐使用什么其他内核？
-
对不起，我不明白你的问题。我们不固定 σ^2 或 C，我们使用交叉验证为每个特定情况找到最佳的 σ^2 和 C。如果您的目标是找到一个分离的超平面，RBF 内核总是可以完成这项工作。请注意overfitting。
-
如果你使用 Python，sklearn 的 SVM 可以让你选择自己的 C（你是对的，可能无法选择 σ^2）。见这里：scikit-learn.org/stable/modules/generated/sklearn.svm.SVC.html
-
如果我错了，请纠正我，我认为 RBF 内核也总是可以完成它们的工作，但在某些情况下可能需要很长时间才能找到分离的超平面。
-
γ = 1/2σ^2 in sklearn.svm 和 libsvm。引用wiki：等效定义涉及参数γ = 1/2σ^2。