决策边界和超平面有什么区别？答案

【问题标题】：What is the difference between a decision boundary and a hyperplane?决策边界和超平面有什么区别？
【发布时间】：2014-01-07 06:54:40
【问题描述】：

我正在研究支持向量机，我想知道决策边界和最优超平面之间的区别是什么？它们似乎都被描述为用于分隔数据点的线。

【问题讨论】：

【解决方案1】：

线性支持向量机的决策边界是（仿射）hyperplane。

对于非线性核支持向量机，支持向量机的决策边界不是原始特征空间中的超平面而是非线性超曲面（维度为n_features - 1 )，其形状取决于内核的类型。

但是，核函数可以解释为从原始特征空间到某个核空间的非线性映射。在内核空间中，SVM 的决策函数是一个超平面。这是一个video，它直观地描述了多项式内核两者之间的关系。

【讨论】：

【解决方案2】：

decision boundary 是一个超曲面，它将基础向量空间划分为两组，一个用于每个类。小维空间中的一般超曲面在更大维空间中变成超平面。

超平面和决策边界在小维空间是等价的，“平面”有直线和平面的意思，所以它是分隔数据集的一条线或一个平面。当您执行非线性操作将数据映射到新的特征空间时，决策边界在该空间中仍然是一个超平面，但在原始空间中不再是一个平面。

【讨论】：

那么超平面不决定类之间的分离？
超平面和决策边界在小维度空间是等价的，'plane'有直线的意思，所以它是分隔数据集的一条线或一个平面。当您执行非线性操作将数据映射到高维度时，决策边界在该维度上仍然是超平面，但在原始数据维度上不再是平面。
维度的大小并不重要。决定边界是否为超平面的是内核的类型（线性与否）。
@ogrisel 感谢您的指出。我将这个词改为“空格”以避免混淆。

【解决方案3】：

使用核函数时，决策边界将不再保持直线。

（它仍然是一个不同的、可能是无限维空间中的超平面，但这个空间实际上不会被计算或使用。）

【讨论】：