Scikit-learn 0.15.2 - 由于 predict_proba 不可用，OneVsRestClassifier 不起作用

Question

我正在尝试像下面这样进行 onevsrest 分类：

classifier = Pipeline([('vectorizer', CountVectorizer()),('tfidf', TfidfTransformer()),('clf', OneVsRestClassifier(SVC(kernel='rbf')))])

classifier.fit(X_train, Y)

predicted = classifier.predict(X_test)

我得到错误“predict_proba 在概率 = false 时不可用”。我看到报告了一个错误，如下所示： https://github.com/scikit-learn/scikit-learn/issues/1946

它已按固定方式关闭，所以我从我的 Windows PC 中删除了 scikit-learn，并完全重新下载了 scikit-learn 以拥有 0.15.2 版本。但我仍然得到这个错误。有什么建议？还是我理解错了，除非我指定probability=true，否则我仍然无法将SVC 与OneVSRestClassifier 一起使用？

更新：澄清一下，我正在尝试实际实现多标签分类，这里是数据源：

df = pd.read_csv(fileIn, header = 0, encoding='utf-8-sig')
rows = random.sample(df.index, int(len(df) * 0.9))

work = df.ix[rows]

work_test = df.drop(rows)

X_train = []

y_train = []

X_test = []

y_test = []
for i in work[[i for i in list(work.columns.values) if i.startswith('Change')]].values:
    X_train.append(','.join(i.T.tolist()))

X_train = np.array(X_train)

for i in work[[i for i in list(work.columns.values) if i.startswith('Corax')]].values:
    y_train.append(list(i))


for i in work_test[[i for i in list(work_test.columns.values) if i.startswith('Change')]].values:
    X_test.append(','.join(i.T.tolist()))

X_test = np.array(X_test)

for i in work_test[[i for i in list(work_test.columns.values) if i.startswith('Corax')]].values:
    y_test.append(list(i))


lb = preprocessing.MultiLabelBinarizer()

Y = lb.fit_transform(y_train)

然后我将它发送到前面提到的管道

Answer 1

好的，我对代码进行了一些调查。 OneVsRestClassifier 尝试首先调用 decision_function，如果失败 - 它会调用基分类器的 predict_proba 函数（在我们的例子中为 svm.svc）。

据我所知，我的 X_test 是字符串列表的 numpy.array。在经过管道 CountVectorizer -> TfidfTransformer 中指定的一系列转换之后，它变成了一个稀疏矩阵（通过这些东西的设计）。正如我所见，目前 decision_function 不适用于稀疏矩阵，甚至在 github 上有一个公开建议：https://github.com/scikit-learn/scikit-learn/issues/73

因此，总而言之，除非您指定probability=True，否则您似乎无法使用svm.svc 进行多标签分类。如果您这样做，您会为分类器.fit 过程引入一些开销，但它会起作用。