带有 Liblinear 的特殊输出答案

【问题标题】：Pecuiliar output with Liblinear带有 Liblinear 的特殊输出
【发布时间】：2013-05-13 19:48:29
【问题描述】：

我在使用 lib-linear 包时遇到了一个非常特殊的问题。我有两个级别（+1，-1）。假设我只有一个特征，它的值为 $x_1$, $x_2$,..., $x_n$ for n points。例如，它可以很好地分类，给出一些正权重 $w*$ 和成本 C。现在，如果我将 $1$ 叠加到前一个特征上以生成一个新的特征向量 [1 x_i] i=1, 2, ...,n;现在有了这个新问题，lib-linear 给出了以下内容：权重向量 [w_1 -w_2]； w_i>0 即 1 的权重是 w_1，x 的权重是 w_2。成本 C1 远高于之前的成本 C。

我知道新功能 (1) 始终没有变化，因此它的权重应该自动归零。

这是一个最小化问题，所以它应该给 w_1~0，这样现在成本 C1 最多等于 C。

谁能帮忙？

【问题讨论】：

标签： optimization svm

【解决方案1】：

由于您有一个恒定的输入维度，它在决策函数中的贡献也将是恒定的。 LIBLINEAR 的决策函数是

f(x)=sign(w^T*x-rho)

我的猜测是，您的新模型通过 rho 校正了额外项（由于 w_1 非零）。不过，我不能说我对为什么 w_1 没有最小化为零有一个好主意。两个模型的预测是否相等？

【讨论】：