1、前向分布算法

  • 前向分布算法可以理解为将最终模型的所有参数,逐步分解为各个基函数的参数,逐步计算每一个基函数的权重。

GBDT算法

2、负梯度拟合

  • 针对损失函数拟合方法的问题,大牛Freidman提出了用损失函数的负梯度来拟合本轮损失的近似值。

GBDT算法

3、二分类

GBDT算法

4、多分类

GBDT算法

5、回归

GBDT算法

6、损失函数

GBDT算法
GBDT算法

sklearn参数

scikit-learn 梯度提升树(GBDT)调参小结

资料

梯度提升树(GBDT)原理小结

相关文章: