机器学习 - SVM - 计算向量 W 时如何计算偏差？

【问题标题】：Machine Learning - SVM - How to calculate bias when calculate vector W?机器学习 - SVM - 计算向量 W 时如何计算偏差？
【发布时间】：2016-05-16 14:54:00
【问题描述】：

我正在编写使用 SGD（随机子梯度下降）优化向量 W 的 SVM Primal 代码。

分类方法是sign(w*x + bias)。
我的问题是如何找到最适合它的偏差？
我想它必须在 W 优化期间进行，但是如何？我不知道。

【问题讨论】：

你用什么语言编程？
Python，不过不相关，我不会用scikit-learn，我想自己做。

标签： machine-learning computer-vision svm gradient-descent

【解决方案1】：

您的假设是sign(<w, x> + b)，请考虑一下x' = [x 1]，然后您可以将您的假设表达为sign(<w', x'>)，其中w' = [w b]。我希望它清楚地表明b 与w 没有任何不同（唯一的区别是您的正则化术语||w||^2 不涉及b）。因此，您只需要d L/ d b，其中L 是您的损失函数。

【讨论】：

谢谢。我不明白为什么x' = [x 1]w' = [w b]，你能解释一下吗？
+ b = + = = （写 [x 1] 我的意思是“x 与连接 1 作为新维度”）
非常感谢！（我自己理解的最后一句话……）