原始GBDT推导原始GBDT推导原始GBDT推导原始GBDT推导原始GBDT推导原始GBDT推导原始GBDT推导原始GBDT推导

GBDT采用的是数值优化的思维, 用的最速下降法去求解Loss Function的最优解, 其中用CART决策树去拟合负梯度, 用牛顿法求步长.

XGboost用的解析的思维, 对Loss Function展开到二阶近似, 求得解析解, 用解析解作为Gain来建立决策树, 使得Loss Function最优.

原始GBDT推导

相关文章:

  • 2021-11-20
  • 2021-12-05
  • 2022-01-12
  • 2021-10-31
  • 2022-01-23
  • 2021-10-28
  • 2021-06-05
  • 2022-12-23
猜你喜欢
  • 2021-10-22
  • 2021-12-04
  • 2021-07-31
  • 2021-12-18
  • 2021-08-27
  • 2022-01-17
  • 2021-04-07
相关资源
相似解决方案