roc_auc_score() 和 auc() 的结果不同

Question

我很难理解 scikit-learn 中 roc_auc_score() 和 auc() 之间的区别（如果有的话）。

我想预测具有不平衡类的二进制输出（Y=1 约为 1.5%）。

分类器

model_logit = LogisticRegression(class_weight='auto')
model_logit.fit(X_train_ridge, Y_train)

Roc 曲线

false_positive_rate, true_positive_rate, thresholds = roc_curve(Y_test, clf.predict_proba(xtest)[:,1])

AUC 的

auc(false_positive_rate, true_positive_rate)
Out[490]: 0.82338034042531527

和

roc_auc_score(Y_test, clf.predict(xtest))
Out[493]: 0.75944737191205602

有人可以解释这种差异吗？我认为两者都只是计算 ROC 曲线下的面积。可能是因为数据集不平衡，但我不知道为什么。

谢谢！

Answer 1

predict 只返回一个类或其他类。然后，您在分类器上使用predict 的结果计算 ROC，只有三个阈值（试验所有一个类，平凡所有其他类，以及介于两者之间）。您的 ROC 曲线如下所示：

      ..............................
      |
      |
      |
......|
|
|
|
|
|
|
|
|
|
|
|

同时，predict_proba() 返回整个概率范围，因此现在您可以对数据设置三个以上的阈值。

             .......................
             |
             |
             |
          ...|
          |
          |
     .....|
     |
     |
 ....|
.|
|
|
|
|

因此不同的区域。

Answer 2

当您使用 y_pred（类标签）时，您已经决定 门槛。当你使用 y_prob （正类概率） 您对阈值持开放态度，ROC 曲线应该会有所帮助 阈值由您决定。

对于第一种情况，您使用的是概率：

y_probs = clf.predict_proba(xtest)[:,1]
fp_rate, tp_rate, thresholds = roc_curve(y_true, y_probs)
auc(fp_rate, tp_rate)

当您这样做时，您正在考虑“服用前”的 AUC 决定您将使用的阈值。

在第二种情况下，您使用的是预测（而不是概率）， 在这种情况下，请使用 'predict' 而不是 'predict_proba' 应该得到相同的结果。

y_pred = clf.predict(xtest)
fp_rate, tp_rate, thresholds = roc_curve(y_true, y_pred)
print auc(fp_rate, tp_rate)
# 0.857142857143

print roc_auc_score(y, y_pred)
# 0.857142857143

Answer 3

AUC 并不总是 ROC 曲线下的面积。曲线下面积是some曲线下的（抽象）面积，所以它比AUROC更笼统。对于不平衡的类，找到精确召回曲线的 AUC 可能会更好。

查看roc_auc_score的sklearn源代码：

def roc_auc_score(y_true, y_score, average="macro", sample_weight=None):
    # <...> docstring <...>
    def _binary_roc_auc_score(y_true, y_score, sample_weight=None):
            # <...> bla-bla <...>

            fpr, tpr, tresholds = roc_curve(y_true, y_score,
                                            sample_weight=sample_weight)
            return auc(fpr, tpr, reorder=True)

    return _average_binary_score(
        _binary_roc_auc_score, y_true, y_score, average,
        sample_weight=sample_weight) 

如你所见，这首先得到一个roc曲线，然后调用auc()得到面积。

我猜你的问题是predict_proba() 电话。对于普通的predict()，输出总是相同的：

import numpy as np
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import roc_curve, auc, roc_auc_score

est = LogisticRegression(class_weight='auto')
X = np.random.rand(10, 2)
y = np.random.randint(2, size=10)
est.fit(X, y)

false_positive_rate, true_positive_rate, thresholds = roc_curve(y, est.predict(X))
print auc(false_positive_rate, true_positive_rate)
# 0.857142857143
print roc_auc_score(y, est.predict(X))
# 0.857142857143

如果您为此更改上述内容，有时会得到不同的输出：

false_positive_rate, true_positive_rate, thresholds = roc_curve(y, est.predict_proba(X)[:,1])
# may differ
print auc(false_positive_rate, true_positive_rate)
print roc_auc_score(y, est.predict(X))