如何更改随机森林用于从单个树做出决策的函数？答案

【问题标题】：How to change the function a random forest uses to make decisions from individual trees?如何更改随机森林用于从单个树做出决策的函数？
【发布时间】：2015-09-03 23:33:42
【问题描述】：

随机森林在训练时使用'大量决策树并输出作为单个树的类（分类）模式的类'。

有没有办法，而不是使用作为模式的类，而是在原始树产生的输出上运行另一个随机森林？

额外问题：这是一个坏主意有什么原因吗？（我相信人们之前会想到这一点）

【问题讨论】：

> 有没有办法在生成的树上运行另一个随机森林，而不是使用作为模式的类？我不明白您所说的“在”决策树上“运行”随机森林是什么意思。
@ogrisel op 希望使用每个单独分类器的输出作为特征来训练一个新的分类器。装袋一个已经装袋的算法通常确实有效。
试图让问题更清楚，感谢 cmets
使用预测的叶子位置作为第二级分类器的特征可能很有用，例如逻辑回归等线性模型：nbviewer.ipython.org/github/ogrisel/notebooks/blob/master/…

标签： scikit-learn classification random-forest ensemble-learning

【解决方案1】：

您可以访问拟合随机森林实例的estimators_ 属性中的各个决策树。

您甚至可以重新采样该属性（它只是决策树对象的 Python 列表）以添加或删除树，并查看对生成的森林的预测质量的影响。

【讨论】：

【解决方案2】：

我认为这只是一个性能选项，您的想法听起来不错，但没有更好的“随机性”，但计算速度可能较慢。

【讨论】：