贝叶斯学习中的版本空间到底是什么？

Question

在贝叶斯学习中，假设给定数据的概率为

P(h|D) = 1/|VSh,d|

根据 google，VSh,d 是 H 假设的子集，与 D 一致（即 VSh,d 是 H wrt D 的版本空间）。

我无法理解版本空间的确切含义。有人可以给我一个解释和一个实际的例子吗？

Answer 1

根据贝叶斯学习，我们知道

P(h|D) = (P(D|h)*P(h)) / P(D)

其中P(D|h) = 1 如果我们假设假设 h 与数据 D 一致，P(h) = 1/|H| 我们假设每个假设都是同样可能的，P(D) 是从我们的假设中观察到数据的概率设置 H。 让我们分解一下： 我们知道 H 是所有可能假设的集合。所以 D 的概率将等于真正满足我们假设的假设集合对所有可能假设的集合。 这是版本空间，它是与我们的数据 D 一致的所有假设的集合，或者换句话说，所有满足数据的假设。 因此P(D) = |VSh,d|/|H|。

当你把所有这些条款放在适当的位置时，你会得到：

P(h|D) = 1/|VSh,d|

在哪里 || size 这里代表版本空间的大小。

示例：

假设我们有我们的数据集[4, 8, 16]，并且给出的所有可能假设的集合是

• H1：2 的幂
• H2 : 偶数
• H3：4 的幂
• H4 : 1 到 50 之间的所有值

现在，如果您看到只有三个假设满足我们的数据 [H1、H2、H4]。这称为版本空间，[H1, H2, H3, H4] 是假设集。

所以你的 P(D) 会变成|VS|/|H|，即3/4。