自由度degrees of freedom

机器学习基石-07-3-Physical Intuition of VC Dimension

dvc=d+1的d+1其实也就是感知机的维度,这样就把VC维和感知机的维数联系起来了。hypothesis “power” dvc=d+1:有效的二元分类的自由度。VC维的power也就是用来衡量H到底能产生多少种dichotomy的能力,VC维就表示到什么时候我们还能shatter,也就是还能产生最多的dichotomy。

机器学习基石-07-3-Physical Intuition of VC Dimension

从上面两个例子上可以看出,VC维就是算法的参数个数,在positive intervals中的两个参数就是区间的两个端点值。

physical institution物理意义

VC维就是大体上可以调节的参数个数。

机器学习基石-07-3-Physical Intuition of VC Dimension


M和dvc的联系:

机器学习基石-07-3-Physical Intuition of VC Dimension

当dvc太小时,自由度的power受到了限制。

FUN TIME

机器学习基石-07-3-Physical Intuition of VC Dimension

要求参数w0=0的感知机,本来是d+1个参数,但是w0被固定住了,所以可以进行调节的参数就只有d个了,所以自由度=d,也就是dvc=d。

相关文章:

  • 2022-12-23
  • 2021-08-17
  • 2022-01-14
  • 2021-10-08
  • 2021-12-09
  • 2021-07-27
  • 2021-07-20
  • 2022-12-23
猜你喜欢
  • 2021-08-25
  • 2021-08-19
  • 2021-07-29
  • 2021-11-19
  • 2022-12-23
  • 2021-11-26
  • 2021-04-29
相关资源
相似解决方案