【发布时间】:2013-08-30 06:01:06
【问题描述】:
我正在学习不同的分类技术,例如概率分类器等,并遇到了一个问题,为什么我们不能将二元分类器实现为所有属性的回归函数并根据函数的输出进行分类,比如说如果输出小于某个值,则属于 A 类,否则属于 B 类。与概率方法相比,这种方法有什么限制吗?
【问题讨论】:
标签: machine-learning classification
我正在学习不同的分类技术,例如概率分类器等,并遇到了一个问题,为什么我们不能将二元分类器实现为所有属性的回归函数并根据函数的输出进行分类,比如说如果输出小于某个值,则属于 A 类,否则属于 B 类。与概率方法相比,这种方法有什么限制吗?
【问题讨论】:
标签: machine-learning classification
是的,这是可能的。例如,perceptron 就是这样做的。
但是,它的使用仅限于linearly separable problems。但是它们中的多个可以组合起来解决一般的任意复杂问题neural networks。
另一种机器学习技术SVM 以类似的方式工作。它首先将输入数据转换为一些高维空间,然后通过线性函数将其分离。
【讨论】:
我认为你对分类有一些误解。无论您使用哪种分类器(支持向量机或逻辑回归),您始终可以将输出模型视为 f(x)>b ===> 正 f(x) 负数
这适用于概率模型和非概率模型。实际上,这与风险最小化有关,自然会导致截断分支。
【讨论】:
您可以这样做,并且在实践中经常这样做,例如在Logistic Regression 中。它甚至不限于二进制类。与概率方法相比,没有固有的限制,但您应该记住,两者是根本不同的方法并且难以比较。
【讨论】: