在 R 中使用 randomForest 包，如何从分类模型中获取概率？

Question

TL;DR：

我可以在原始文件中标记什么 randomForest 调用以避免重新运行 strong> predict 函数获取预测的分类概率，而不仅仅是可能的类别？

详情：

我正在使用randomForest 包。

我有一个类似的模型：

model <- randomForest(x=out.data[train.rows, feature.cols],
                      y=out.data[train.rows, response.col],
                      xtest=out.data[test.rows, feature.cols],
                      ytest=out.data[test.rows, response.col],
                      importance= TRUE)

其中out.data 是一个数据框，feature.cols 是数字和分类特征的混合，而response.col 是一个TRUE / FALSE 二进制变量，我将其强制输入factor 以便@ 987654332@ 模型会正确地将其视为分类。

一切运行良好，变量model 已正确返回给我。但是，我似乎找不到要传递给randomForest 函数的标志或参数，因此model 以TRUE 的概率 或FALSE。相反，我得到了简单的预测值。也就是说，如果我查看model$predicted，我会看到类似的内容：

FALSE
FALSE
TRUE
TRUE
FALSE
.
.
.

相反，我希望看到类似的内容：

   FALSE  TRUE
1  0.84   0.16
2  0.66   0.34
3  0.11   0.89
4  0.17   0.83
5  0.92   0.08
.   .      .
.   .      .
.   .      .

我可以得到以上，但为了做到这一点，我需要做一些类似的事情：

tmp <- predict(model, out.data[test.rows, feature.cols], "prob")

[test.rows 捕获模型测试期间使用的行号。此处未显示详细信息，但很简单，因为测试行 ID 会输出到 model。]

然后一切正常。 问题是模型很大，运行时间很长，甚至预测本身也需要一段时间。由于预测 应该 完全没有必要（我只是想在测试数据集上计算 ROC 曲线，应该已经计算过的数据集），我是希望跳过这一步。 我可以在原始文件中标记什么 randomForest 调用以避免重新运行 @ 987654345@ 功能？

Answer 1

model$predicted 与predict() 返回的不相同。如果你想要TRUE或FALSE类的概率，那么你必须运行predict()，或者通过x,y,xtest,ytestlike

randomForest(x,y,xtest=x,ytest=y), 

x=out.data[, feature.cols], y=out.data[, response.col].

model$predicted 根据每个记录的 model$votes 中哪个类具有较大值返回类。 votes，正如@joran 指出的那样，是随机森林中 OOB（out of bag）“投票”的比例，只有在 OOB 样本中选择记录时才计算投票。另一方面，predict() 根据所有树的投票返回每个类的真实概率。

使用randomForest(x,y,xtest=x,ytest=y) 函数与传递公式或简单地使用randomForest(x,y) 函数略有不同，如上面给出的示例所示。 randomForest(x,y,xtest=x,ytest=y) 将返回每个类的概率，这听起来可能有点奇怪，但是在model$test$votes 下找到，而在model$test$predicted 下的预测类，它只是根据哪个类具有较大的值来选择类model$test$votes。另外，使用randomForest(x,y,xtest=x,ytest=y)时，model$predicted和model$votes的定义同上。

最后，请注意，如果使用了randomForest(x,y,xtest=x,ytest=y)，那么为了使用 predict() 函数，keep.forest 标志应该设置为 TRUE。

model=randomForest(x,y,xtest=x,ytest=y,keep.forest=TRUE). 
prob=predict(model,x,type="prob")

prob 将等同于model$test$votes，因为测试数据输入都是x。