【问题标题】:VC Dimension of Circle, a special caseVC Dimension of Circle,一个特例
【发布时间】:2021-06-11 22:28:59
【问题描述】:

我读过一个圆可以在二维空间中粉碎3个点,这实际上是圆的VC维数。

假设我们有三个点 (5,2) (5,4) 和 (5,6)。 如何绘制一个包含(5,2)和(5,6)而没有(5,4)的圆圈?这是不可能的!
如果它不能粉碎,那么VC Dimension怎么会是3个圆圈。或者我在 VC Dimension 的定义中假设是错误的;假设必须粉碎所有可能的空间子集的所有可能场景?

【问题讨论】:

    标签: machine-learning


    【解决方案1】:

    VC维度是可以粉碎的最大点数。 {(5,2), (5,4), (5,6)} 不能被圆圈打碎,但 {(5,2), (5,4), (6,6)} 可以被圆圈打碎,因此 VC 维度至少为 3。证明它恰好是 3 更难。

    这里有一个与 Qnan 的回答有关的技术点。如果圆分类器总是将圆内的点分类为 1,而将圆外的点分类为 0,那么 {(5,2), (5,4), (5,6)} 不能被破碎。另一方面,如果圆分类器也可以将圆内的点分类为0,那么{(5,2), (5,4), (5,6)} 可以按照Qnan的解释进行粉碎。

    Qnan,关于你的评论,如果有人说 n 是具有属性 P 的最大点数,那么为了证明 n >= m,找到 m 的 any 集合就足够了具有性质 P 的点。如果你找到一或一千组不具有性质 P 的 m 个点,那么这并不能证明关于 n 的任何事情。 (除非您已经枚举了所有可能的大小为 m 的点。)

    VC 维度是可以粉碎的最大点数。如果分类器的 VC 维数为 100,仍然可以找到 3 个分类器无法粉碎的点。我们可以将 VCB 维度定义为最大数 n,这样所有大小为 n 或更小的集合都可以被粉碎。 Asymptote的原始示例表明,笛卡尔平面上的圆形分类器的VCB维度(假设圆内为1,圆外为0)小于或等于2,因为这三个点不能被破碎;但是,Asymptote 的示例并未显示 VC 维度小于 3,因为还有其他大小为 3 的点集可以被粉碎。

    【讨论】:

    • 汉斯,你说的有些矛盾。 “VC 维度是可以被粉碎的最大点数”和“{(5,2), (5,4), (5,6)} 不能被粉碎”意味着圆的 VC 维度是 低于 3。这也是假的。
    • 你说得对,找一个点配置就够了,可以打碎。然而,严格来说,VC维度只针对参数化分类器定义,并且存在多个这样的分类器,其边界将被描述为“圆”。例如,f(x)=(x-x0)*(x-x0) 不能在一条线上粉碎一组三个点,但 f(x)=a*(x-x0)*(x-x0) 可以,并且两个分类器都有圆形边界。
    【解决方案2】:

    关键是可以绘制圆,使得属于一个类的所有点都在里面,而其余的都在外面。哪个类是哪个并不重要,因为交换标签只需要反转分类器。

    在您的情况下,将 (5,2) 和 (5,6) 与 (5,4) 分开很简单,只需将后者包含在圆圈中即可。对于分类器,“内部”和“外部”无关紧要。重要的是它们可以归为 0 错误。

    编辑 严格来说,VC维是为参数化分类器定义的,有多个分类器,其边界可以描述为一个“圆”。例如,f(x)=(x-x0)*(x-x0) 不能在一条线上打散一组三个点,但f(x)=a*(x-x0)*(x-x0) 可以,并且两个分类器都有圆形边界。第二个的VC维数实际上是3,而第一个的VC维数是2。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2020-11-14
      • 2022-12-18
      • 1970-01-01
      • 1970-01-01
      • 2020-03-15
      • 1970-01-01
      相关资源
      最近更新 更多