机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方

文章目录

一、提升

1.提升的概念

机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方

2.提升算法

机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方

3.梯度提升决策树-GBDT

1)提升算法推导-梯度提升法

机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方
机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方

2）GBDT

机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方
机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方
机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方
机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方
机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方

4.XGBT推导

1）提升算法推导-考虑使用二阶导信息

机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方
机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方
机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方
机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方

2）决策树结构的划分

机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方
机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方

3）XGBT总结

机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方

5.Adaboost算法

1）Adaboost算法推导

机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方
机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方

2）Adaboost算法举例

机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方
机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方

3）Adaboost算法收敛性证明

机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方
机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方

4）Adaboost总结

机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方

6.方差与偏差

机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方
机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方
机器学习基础算法22-提升理论-GBDT、XGBoost、Adaboost、方差与偏方

相关文章：

  • 2021-11-10
  • 2021-10-19
  • 2021-12-19
  • 2021-12-09
  • 2021-03-30
  • 2021-11-14
猜你喜欢
  • 2021-04-16
  • 2022-12-23
  • 2021-12-14
  • 2021-05-17
  • 2021-11-18
  • 2021-07-16
  • 2022-12-23
相关资源
相似解决方案
热门标签
Java Python linux javascript Mysql C# Docker 算法 前端 SpringBoot Redis Vue spring 设计模式 .net core .net kubernetes c++ 数据库 数据结构 大数据 js 机器学习 微服务 Android Go 程序员 面试 JVM ASP.net core 云原生 人工智能 后端 PHP git CSS golang k8s Nginx Django mybatis 深度学习 多线程 React 架构 devops 爬虫 云计算 Spring Boot LeetCode