如何绘制多类分类器的精度和召回率？

Question

我正在使用 scikit learn，我想绘制准确率和召回率曲线。我使用的分类器是RandomForestClassifier。 scikit learn 文档中的所有资源都使用二进制分类。另外，我可以为多类绘制 ROC 曲线吗？

另外，我只找到了用于多标签的 SVM，它有一个 decision_function，而 RandomForest 没有

Answer 1

来自 scikit-learn 文档：

• Precision-Recall:

Precision-recall 曲线通常用于二元分类中 研究分类器的输出。为了延长 精度召回曲线和平均精度到多类或 多标签分类，需要对输出进行二值化处理。 每个标签可以绘制一条曲线，但也可以绘制一条曲线 通过考虑标签的每个元素的精确召回曲线 指标矩阵作为二元预测（微平均）。

• Receiver Operating Characteristic (ROC):

ROC 曲线通常用于二元分类来研究 分类器的输出。为了将 ROC 曲线和 ROC 面积扩展到 多类或多标签分类，需要二值化 输出。每个标签可以绘制一条 ROC 曲线，但也可以绘制一条 ROC 曲线 通过考虑标签指标的每个元素绘制ROC曲线 矩阵作为二元预测（微平均）。

因此，您应该对输出进行二值化，并考虑每个类的精确召回和 roc 曲线。此外，您将使用predict_proba 来获取类概率。

我把代码分成三部分：

1. 常规设置、学习和预测
2. 精确召回曲线
3. ROC 曲线

1.一般设置、学习和预测

from sklearn.datasets import fetch_openml
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier
from sklearn.multiclass import OneVsRestClassifier
from sklearn.metrics import precision_recall_curve, roc_curve
from sklearn.preprocessing import label_binarize

import matplotlib.pyplot as plt
#%matplotlib inline

mnist = fetch_openml("mnist_784")
y = mnist.target
y = y.astype(np.uint8)
n_classes = len(set(y))

Y = label_binarize(mnist.target, classes=[*range(n_classes)])

X_train, X_test, y_train, y_test = train_test_split(mnist.data,
                                                    Y,
                                                    random_state = 42)

clf = OneVsRestClassifier(RandomForestClassifier(n_estimators=50,
                             max_depth=3,
                             random_state=0))
clf.fit(X_train, y_train)

y_score = clf.predict_proba(X_test)

2。精确召回曲线

# precision recall curve
precision = dict()
recall = dict()
for i in range(n_classes):
    precision[i], recall[i], _ = precision_recall_curve(y_test[:, i],
                                                        y_score[:, i])
    plt.plot(recall[i], precision[i], lw=2, label='class {}'.format(i))
    
plt.xlabel("recall")
plt.ylabel("precision")
plt.legend(loc="best")
plt.title("precision vs. recall curve")
plt.show()

3. ROC曲线

# roc curve
fpr = dict()
tpr = dict()

for i in range(n_classes):
    fpr[i], tpr[i], _ = roc_curve(y_test[:, i],
                                  y_score[:, i]))
    plt.plot(fpr[i], tpr[i], lw=2, label='class {}'.format(i))

plt.xlabel("false positive rate")
plt.ylabel("true positive rate")
plt.legend(loc="best")
plt.title("ROC curve")
plt.show()