Bias 到底是什么，它是用来换挡还是开火？

Question

我仍然不明白什么是偏差以及何时激活神经元。 所以现在我有一些问题。

人工神经元究竟是什么时候被激发的？当激活函数的结果为

据我所知，偏差应该会改变激活函数。但.... 这应该如何工作？我有什么不明白的？

带有偏差的标准计算如下所示。
将输入乘以权重并添加偏差
所以我们有计算： x = a * w1 + b * w2 + c * w3 ..... + 偏差
之后，应用激活函数。对于这个例子，我们使用激活函数，sigmoid 函数： y = 1 / (1 + e ^ (- x))。我们从上一步得到的 x 值。

但如果我这样做，那么就不会出现转变。它只影响神经元放电的程度/强度。

在其他视频中，我看到当使用偏差时，ReLU 函数中的负值也可以触发（例如：权重 + 偏差 -> -0.5 + 1），但没有提到偏移函数。

在另一个视频/博客中，我再次看到 Bias 还补充了激活功能。例如在 sigmoid 函数中： y = 1 / (1 + e ^ (- x + 偏差))

我现在完全对偏见感到困惑。我希望你能帮助我。

Answer 1

人工神经元（用于机器学习/人工神经网络）仅从生物神经元中获取零散的灵感。它们不像生物神经元那样“发射”。相反，它们从输入向量（从输入数字到输出数字的映射）计算标量输出。偏差调整相对于输入的“灵敏度”，即设置输出所在的非线性函数区域。它与“触发”或“触发率”无关，因为 ANN 中没有触发。

---

要获得会触发的模拟神经元，您需要从机器学习转向使用尖峰神经网络 (SNN) 的计算神经科学领域。这些对生物神经元建模更准确，在这里，每个神经元都有定义的放电时间，因此我们可以计算放电率等。

当一些研究人员将 ANN 视为 SNN 的模型时（使用触发率捕获神经活动的所有重要方面的假设），混淆就出现了。然后，人工神经元的活动被解释为给定时间的“发射率”。这种解释对于使用/理解 ANN 来说既不是必需的，也没有一致认为它是合理的。