我可以为 sklearn SVM 明确设置可能的类列表吗？

Question

我有一个使用 sklearn 中的 SVC 类的程序。真的，我正在使用使用 SVC 类的 OneVsRestClassifier 类。我的问题是 predict_proba() 方法有时会返回一个太短的向量。这是因为 classes_ 属性缺少一个类，当训练期间标签不存在时会发生这种情况。

考虑以下示例（代码如下所示）。假设所有可能的类是 1、2、3 和 4。现在假设训练数据恰好不包含任何标记为类 3 的数据。这很好，除非我调用 predict_proba() 我想要一个长度为 4 的向量。 ，我得到一个长度为 3 的向量。也就是说，predict_proba() 返回 [p(1) p(2) p(4)]，但我想要 [p(1) p(2) p(3) p(4 )]，其中 p(3) = 0。

我猜 clf.classes_ 是由训练期间看到的标签隐式定义的，在这种情况下是不完整的。有什么方法可以显式设置可能的类标签？我知道一个简单的解决方法是获取 predict_proba() 输出并手动创建我想要的数组。但是，这很不方便，可能会大大降低我的程序速度。

# Python 2.7.6

from sklearn.svm import SVC
from sklearn.multiclass import OneVsRestClassifier
import numpy as np

X_train = [[1], [2], [4]] * 10
y = [1, 2, 4] * 10
X_test = [[1]]

clf = OneVsRestClassifier(SVC(probability=True, kernel="linear"))
clf.fit(X_train, y)

# calling predict_proba() gives: [p(1) p(2) p(4)]
# I want: [p(1) p(2) p(3) p(4)], where p(3) = 0
print clf.predict_proba(X_test)

我想到的解决方法是创建一个新的概率列表，并通过多个 append() 调用一次构建一个元素（参见下面的代码）。与让 predict_proba() 自动返回我想要的东西相比，这似乎会很慢。我还不知道它是否会显着减慢我的程序，因为我还没有尝试过。无论如何，我想知道是否有更好的方法。

def workAround(probs, classes_, all_classes):
    """
    probs: list of probabilities, output of predict_proba (but 1D)
    classes_: clf.classes_
    all_classes: all possible classes; superset of classes_
    """
    all_probs = []
    i = 0  # index into probs and classes_

    for cls in all_classes:
        if cls == classes_[i]:
            all_probs.append(probs[i])
            i += 1
        else:
            all_probs.append(0.0)

    return np.asarray(all_probs)

Answer 1

正如 cmets 中所说，scikit-learn 无法明确设置可能的类标签。

我 NumPyfied 你的解决方法：

import sklearn
import sklearn.svm
import numpy as np
np.random.seed(3) # for reproducibility

def predict_proba_ordered(probs, classes_, all_classes):
    """
    probs: list of probabilities, output of predict_proba 
    classes_: clf.classes_
    all_classes: all possible classes (superset of classes_)
    """
    proba_ordered = np.zeros((probs.shape[0], all_classes.size),  dtype=np.float)
    sorter = np.argsort(all_classes) # http://stackoverflow.com/a/32191125/395857
    idx = sorter[np.searchsorted(all_classes, classes_, sorter=sorter)]
    proba_ordered[:, idx] = probs
    return proba_ordered

# Prepare the data set
all_classes = np.array([1,2,3,4]) # explicitly set the possible class labels.
X_train = [[1], [2], [4]] * 3
print('X_train: {0}'.format(X_train))
y = [1, 2, 4] * 3 # Label 3 is missing.
print('y: {0}'.format(y))
X_test = [[1], [2], [3]]
print('X_test: {0}'.format(X_test))

# Train
clf = sklearn.svm.SVC(probability=True, kernel="linear")
clf.fit(X_train, y)
print('clf.classes_: {0}'.format(clf.classes_))

# Predict
probs = clf.predict_proba(X_test) #As label 3 isn't in train set, the probs' size is 3, not 4
proba_ordered = predict_proba_ordered(probs, clf.classes_, all_classes)
print('proba_ordered: {0}'.format(proba_ordered))

输出：

X_train: [[1], [2], [4], [1], [2], [4], [1], [2], [4]]
y: [1, 2, 4, 1, 2, 4, 1, 2, 4]
X_test: [[1], [2], [3]]
clf.classes_: [1 2 4]
proba_ordered: [[ 0.81499201  0.08640176  0.          0.09860622]
                [ 0.21105955  0.63893181  0.          0.15000863]
                [ 0.08965731  0.49640147  0.          0.41394122]]

---

请注意，您可以在 sklearn.metrics 中显式设置可能的类标签（例如，sklearn.metrics.f1_score 使用 labels 参数：

labels : array
Integer array of labels.

例子：

# Score
y_pred = clf.predict(X_test)
y_true = np.array([1,2,3])
precision = sklearn.metrics.precision_score(y_true, y_pred, labels=all_classes, average=None)
print('precision: {0}'.format(precision))
recall = sklearn.metrics.recall_score(y_true, y_pred, labels=all_classes, average=None)
print('recall: {0}'.format(recall))
f1_score = sklearn.metrics.f1_score(y_true, y_pred, labels=all_classes, average=None)
print('f1_score: {0}'.format(f1_score))

请注意，您现在将run into issue issue try using sklearn.metrics.roc_auc_score() when no positive example is in the ground truth for a given label 。