关于 ann 中的偏置节点的问题答案

【问题标题】：A concern about the bias node in ann关于 ann 中的偏置节点的问题
【发布时间】：2015-08-14 04:11:20
【问题描述】：

好的，所以我明白了偏置节点的想法。它水平移动传递函数曲线以使其更好地拟合数据。我看到的问题是偏置节点权重值的计算就像任何其他权重一样。这是正确的吗？是否应该以其他方式计算偏差权重？而且不应该有另一个偏差值来上下移动传递函数吗？像这样：f(x1+x2...+b1)+b2。我不知道你将如何计算 b2。有什么想法吗？

【问题讨论】：

标签： neural-network bias-neuron

【解决方案1】：

对于您的第一个问题，计算偏差节点的权重值就像计算任何其他权重一样，即使用反向传播是最合理的训练方式并且效果很好。还有其他的训练方法，但经验性的反向传播方法更好。

第二个问题的答案是 f(x1+x2...+b1)+b2 没有意义。您的激活函数 (f) 有一个一维输入。 y 轴绘制输出。偏差不会改变函数曲线的形状。对于函数在 y 轴上的每个截距，您将在 X 轴上获得唯一的截距。所以 X 轴截距足以描述曲线。就像 y=mx+c 足以描述任何一行一样。

对于权重为 x'1 , x'2 的所有激活函数，f(x1+x2...+b1)+b2 可以分解为 f(x'1+x'2...+b'1) ...并且 b'1 可以在图上合并函数的垂直矩，这将成为您的新激活函数。

【讨论】：

感谢您的明确解释。我现在对事情的理解好多了。