【发布时间】:2010-09-30 20:27:41
【问题描述】:
由于在 google 上找到的很多这些网站都使用数学符号,我不知道这意味着什么,我想制作一个像这样的前馈神经网络:
n1
i1 n3
n2 o1
i2 n4
n3
现在有人可以向我解释如何找到 o1 的值吗?当一个神经元没有任何输入处于活动状态时,如何使神经元处于活动状态?
【问题讨论】:
由于在 google 上找到的很多这些网站都使用数学符号,我不知道这意味着什么,我想制作一个像这样的前馈神经网络:
n1
i1 n3
n2 o1
i2 n4
n3
现在有人可以向我解释如何找到 o1 的值吗?当一个神经元没有任何输入处于活动状态时,如何使神经元处于活动状态?
【问题讨论】:
这个问题很好地说明了为什么“神经网络”在模拟现实世界神经元的行为方面做得如此糟糕。大多数真正的神经元都有一个内在的(或“自然的”)速率,它们激发动作电位,没有来自突触前神经元的输入。突触前神经元的作用几乎总是加快或减慢这种内在放电率,而不是在突触后神经元中产生单一的动作电位。
为什么“神经网络”通常不对这种现象建模?我不知道 - 你得问问“the approach inspired by biology has more or less been abandoned for a more practical approach based on statistics and signal processing”的人。
【讨论】:
因为这个问题对我来说不是很清楚......我会这样说,以防你正在寻找它:
通常会在输入层和隐藏层中添加一个偏置神经元,以应对您提到的情况。这个额外的神经元始终处于活动状态,用于处理层上所有其他神经元都处于非活动状态的情况。
【讨论】:
如果没有任何输入是实时的,那么您将不会从输出中得到任何东西。
我已经很长时间没有在这方面花费一些时间了,但是在过去,我们会在等式中添加噪音。这可以是始终开启的输入形式,也可以是在将其推入神经网络之前向每个输入添加少量随机数。
有趣的是,在神经网络中使用噪声已被证明具有生物模拟作用。如果你想听什么,并加入一些白噪声,它会让你更容易听到。看也是一样。
至于您最初的问题 - 如何找出 o1 的值取决于...
http://www.cheshireeng.com/Neuralyst/nnbg.htm
有一些关于数学的基本信息。
【讨论】: