Xgboost

Xgboost

原理

多模型融合，下一个模型总是预测上一个模型的残差。

Xgboost是一种思想，理论上可以用任何一种模型做XGboost

求导

Xgboost比喻成泰勒展开式

泰勒展开式使用多阶的逼近函数。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-NVdzM6To-1570786404995)

最后几个模型一起求导得到结果。