使用新数据更新决策树

Question

我是决策树的新手。我计划构建一个大型决策树，稍后我想用其他数据进行更新。最好的方法是什么？以后可以更新任何决策树吗？

Answer 1

决策树通常根据所有可用数据进行训练。也就是说，当你有新数据时，你重新训练整个树。由于此过程非常快，因此通常不会出现问题。如果数据太大而无法放入内存，您通常可以通过对训练集进行二次采样（行采样）来解决此问题，因为基于树的模型不需要那么多数据即可获得良好的结果。

请注意，决策树很容易过度拟合，您应该考虑随机森林或其他集成方法。通过 bagging，可以在不同的数据子集上训练不同的树。

还有用于决策树的增量和在线学习方法。 CART、ID3 和 VFDT 学习器就是一些例子。