原文地址:https://www.jianshu.com/p/f9de73aecd22

机器学习基石笔记:13 Hazard of Overfitting

引起过拟合的原因有:

  • 过度VC维(模型复杂度高) ------ 确定性噪声;
  • 随机噪声;
  • 有限的样本数量\(N\)

机器学习基石笔记:13 Hazard of Overfitting
机器学习基石笔记:13 Hazard of Overfitting

通过具体实验来看模型复杂度\(Q_f\)/确定性噪声、随机噪声\(\sigma^2\)、样本数量\(N\)对过拟合的影响:

机器学习基石笔记:13 Hazard of Overfitting
机器学习基石笔记:13 Hazard of Overfitting
机器学习基石笔记:13 Hazard of Overfitting
机器学习基石笔记:13 Hazard of Overfitting

避免过拟合的常用方法:

  • 从简单模型开始:降低模型复杂度;
  • data cleaning/data pruning:去noise;
  • data hinting(线索):增加样本数量;
  • regularization:正则化;
  • validation:验证。

机器学习基石笔记:13 Hazard of Overfitting
机器学习基石笔记:13 Hazard of Overfitting

相关文章:

  • 2021-05-17
  • 2021-04-16
  • 2022-01-06
  • 2021-04-27
  • 2021-09-14
  • 2021-11-18
  • 2022-12-23
  • 2021-10-22
猜你喜欢
  • 2021-08-13
  • 2021-08-08
  • 2021-09-04
  • 2021-06-17
  • 2021-11-09
  • 2021-07-06
  • 2021-06-04
相关资源
相似解决方案