Gradient Boosting 回归是否比随机森林更准确（MSE 更低）？答案

【问题标题】：Is Gradient Boosting regression be more accurate (lower MSE) than the random forest?Gradient Boosting 回归是否比随机森林更准确（MSE 更低）？
【发布时间】：2015-08-24 18:04:54
【问题描述】：

我刚刚创建了一个梯度提升模型，其样本外预测比随机森林差。 GBM 的 MSE 比随机森林高 10%。下面是我的示例代码。我确定它是否有任何问题。

gbm1 <- gbm(as.formula(paste0(Y.idx ,'~', paste0(colnames(rf.tmp.train[c(-1,-2)],collapse=""))),
data=rf.tmp.train,distribution="gaussian",n.trees=3000,         
shrinkage=0.001,interaction.depth=1,bag.fraction = 0.5,          
train.fraction = 1,n.minobsinnode = 10, cv.folds = 10,       
keep.data=TRUE, verbose=FALSE,n.cores=1)

【问题讨论】：

您真的希望在如此数量（或缺乏）数据的情况下得到深思熟虑的回应吗？
stackoverflow.com/help/how-to-ask

标签： r random-forest gbm

【解决方案1】：

根据我的工作经验，gbm 通常比随机森林表现更好，而随机森林通常比其他算法表现更好。在您的情况下，您可能需要调整 gbm 和随机森林的参数。首先，我推荐 caret 包，它会自动执行调整过程。

干杯

【讨论】：

我建议在信息不足的情况下尝试“回答”一个问题是不明智的。这真的只值得评论，因为您同意提问者的假设并且没有提供任何具体建议。