【问题标题】:Train bias in neural network as weighted sum of seperate inputs将神经网络中的偏差训练为单独输入的加权和
【发布时间】:2020-08-17 16:30:09
【问题描述】:

我目前正在尝试从本文第 217 页实现最小-最大相关性模型:https://reader.elsevier.com/reader/sd/pii/S0031320316303582?token=3C705E0F2F8518D919BAA293EC6ABA570F1CCB83ACB67C60419737F55BDFEC9013FA2FCF3ACC4CE1887E5387315E70E8

问题是,我需要训练一个偏差,它被添加到一个层,并且它本身作为权重*输入 + 偏差的总和给出。应该训练后面的权重。

所以,我有一个带有一个隐藏层的神经网络。隐藏层的偏差像线性回归一样构造,只是输入和输出层。偏差有自己的输入值。我想我必须使用功能api,但是如何在隐藏层中添加LR输出作为bias-term?

【问题讨论】:

  • “权重之和*输入+偏差”与线性回归单元相同吗?如果这么简单keras.layers.Dense(1) 可能会有所帮助。
  • 我不认为这就是我的意思@GirishDattatrayHegde。我刚刚编辑了问题,希望更清楚我的问题是什么。

标签: python keras neural-network bias-neuron


【解决方案1】:

知道了,只需将偏置的 a 层与神经元的层堆叠/连接,然后将它们与不可训练的层相加。

【讨论】:

    猜你喜欢
    • 2021-07-28
    • 1970-01-01
    • 1970-01-01
    • 2010-12-02
    • 1970-01-01
    • 2014-01-02
    • 2013-12-27
    • 2018-03-01
    • 2011-04-07
    相关资源
    最近更新 更多