【deeplearning.ai笔记第二课】1.2 欠拟合和过拟合(bias variance)

很好理解,左图是high bias(高偏差),即欠拟合,右图是high variance(高方差),即过拟合。我们追求的是中间图,low bias AND low variance。

注意的是并不是 高方差就一定低偏差,有可能既高方差又高偏差。

怎么理解呢?看下面一个栗子:
【deeplearning.ai笔记第二课】1.2 欠拟合和过拟合(bias variance)

判断图片是不是猫的一个分类问题,人的判断错误率为0%

那么如果train error 和valid error 分别为 1%,11%,明显就是high variance 过拟合

图中第二种情况,train error =15% >> 0%, 而valid error 和 train error 差不多大,因此是high bias 欠拟合

第三种情况,train error =15% >> 0%, 因此是high bias, 而valid error =30% >>train error ,因此是high variance 过拟合,即欠拟合又过拟合。

第四种情况是理想情况,train error =0.5%~0%, 因此是low bias,而valid error =1% 和train error 差不多大,因此low variance。

其他很好理解,但是即欠拟合又过拟合 是怎么样的呢? 看下面的栗子:

High bias and high variance
【deeplearning.ai笔记第二课】1.2 欠拟合和过拟合(bias variance)

如图,蓝色的直线是欠拟合,紫色的边界线是欠拟合的情况下,又过拟合。

相关文章:

  • 2021-08-18
  • 2021-12-13
  • 2021-12-23
猜你喜欢
  • 2021-06-08
  • 2021-05-09
  • 2021-09-08
  • 2021-05-31
  • 2021-12-13
  • 2021-08-11
  • 2021-12-21
相关资源
相似解决方案