【问题标题】:Out-Of-Bag error plot in Random Forest随机森林中的袋外错误图
【发布时间】:2018-07-15 06:40:02
【问题描述】:
我尝试将随机森林拟合到我的数据集,以在对照组和阿尔茨海默组之间进行分类。在第一次尝试中,我得到了左侧 OOB 错误图,而在第二次尝试中,我减少了数据集中的变量数量,得到了右侧 OOB 错误图。我的问题是比较这两个图,什么是更好的 OOB 图?Alzemier 和 Control 的类误差是否应该接近 Forest 的 OOB 曲线?如果是,为什么?
【问题讨论】:
标签:
r
classification
random-forest
【解决方案1】:
右边的图有更好的OOB错误。我假设阿尔茨海默病和控制线也是 OOB 错误,但针对特定类别进行了计算。随机森林预测器是通过引导一小部分样本构建的,OOB 误差是在算法的每次迭代中未选择(从袋子中)的样本上计算的。因此,OOB 误差是您在构建模型时的性能估计,如Breinman 所述,误差越小当然越好。
“Alzheimer 和 Control 的类错误应该更接近 Forest 的 OOB 曲线吗?”这取决于您的模型在预测每个类别方面的能力。如果两个类的分类误差相似,则 OOB 误差将接近两者。