GBM vs XGBoost：为什么 GBM 表现更好？答案

【问题标题】：GBM vs XGBoost: Why is GBM performing better?GBM vs XGBoost：为什么 GBM 表现更好？
【发布时间】：2020-09-15 04:20:43
【问题描述】：

我最近扩展了我的模型以包含多个模型，包括跨不同超参数和特征组的 GBM 和 XGBoost。
我的期望是 XGBoost 会表现更好，但我看到 GBM 在精度、召回率和 F1 方面始终表现更好。差异总是超过 2%

Typical GBM parameters: 
{'learning_rate': [0.1, 0.2, 0.5], 'max_depth': [5], 'n_estimators': [10,100], 'subsample': [0.8]}
XGB Parameters:
{'gamma': [0.5], 'learning_rate': [0.1], 'max_depth': [3,9,15]}

GBM 表现更好的原因可能是什么？或者换句话说，GBM 什么时候比 XGB 表现更好？

【问题讨论】：

标签： machine-learning xgboost gbm

【解决方案1】：

ML 方法更适合/更不适合特定的数据集。您的问题不太适合本论坛，但Nielsen, D. (2016). Tree boosting with xgboost-why does xgboost win" every" machine learning competition? 将朝着正确的方向开始您的研究。

【讨论】：