【问题标题】:Why is a bias neuron necessary for a backpropagating neural network that recognizes the XOR operator?为什么识别 XOR 算子的反向传播神经网络需要偏置神经元?
【发布时间】:2011-12-23 18:28:24
【问题描述】:

我昨天发布了一个question,关于我在使用 XOR 运算符的反向传播神经网络时遇到的问题。我做了更多的工作,并意识到这可能与没有偏置神经元有关。

我的问题是,一般偏置神经元的作用是什么,它在识别 XOR 运算符的反向传播神经网络中的作用是什么?是否可以创建一个没有偏置神经元的神经元?

【问题讨论】:

标签: artificial-intelligence neural-network xor backpropagation bias-neuron


【解决方案1】:

可以创建一个没有偏置神经元的神经网络...它可以正常工作,但要了解更多信息,我建议您查看这个问题的答案:

Role of Bias in Neural Networks

更新: 偏置神经元在试图solve模型XOR的神经网络中的作用是最小化神经网络的大小。通常,对于“原始”(不确定这是否是正确的术语)逻辑函数,例如ANDORNAND 等,您正在尝试创建一个具有 2 个输入神经元、2 个隐藏神经元的神经网络和 1 个输出神经元。 XOR 无法做到这一点,因为建模 XOR 的最简单方法是使用两个 NANDs:

您可以将AB 视为您的输入神经元,中间的门是您的“偏置”神经元,后面的两个门是您的“隐藏”神经元,最后是输出神经元。您可以在没有偏置神经元的情况下解决XOR,但这需要您将隐藏神经元的数量增加到至少 3 个隐藏神经元。在这种情况下,第三个神经元本质上是一个偏置神经元。这是另一个讨论关于XOR 的偏置神经元的问题:XOR problem solvable with 2x2x1 neural network without bias?

【讨论】:

  • 刚发完这个问题就看到了,不过我也很好奇偏置神经元对于异或的具体作用。
猜你喜欢
  • 1970-01-01
  • 2010-10-23
  • 2016-11-30
  • 2018-03-14
  • 2018-05-20
  • 2015-03-03
  • 2012-02-21
  • 2011-01-05
  • 1970-01-01
相关资源
最近更新 更多