多类分类：SVM“1vs1”与“1vsAll”答案

【问题标题】：Multiclass Classification: SVM "1vs1" versus "1vsAll"多类分类：SVM“1vs1”与“1vsAll”
【发布时间】：2015-01-28 10:04:02
【问题描述】：

假设有 10 个班级。如果我使用 1vs1，那么训练中有 45 个比较（SVM）。如果我使用 1vsAll，那么就有 10 个（1vs-1）SVM。然而，后一种情况的计算负担实际上要高得多，因为每个 SVM 中的核矩阵要大得多。

我的问题是：在我实现多类分类的 SVM 中，使用 1vsall 的准确率并不比 1vs1 好。也有一些在线资源显示了相同的观察结果。那么，1vsAll在哪些条件或方面有优势呢？（当然不是我认为的时间，如上所述。）

【问题讨论】：

标签： svm libsvm

【解决方案1】：

1 vs all 总是显示一个赢家。使用 1 vs 1 你可能会遇到石头剪刀布的问题。因为概率预测在 svm 中绝对不是完美的。您必须评估哪种方法适合您的问题。检查实际的分类运行时间是否对您来说是个问题。

【讨论】：

确实，1vs1 可能会给出相同数量的“获胜次数”，例如对于某个实例，类 1 和类 2 在 9 次中都赢了 8 次。在这种情况下，我们只能使用 SVM 分数。然而，这也发生在 1vsAll 中：很可能不止 1 个类会说实例是肯定的。