【问题标题】:Large values of weights in neural network神经网络中的大权重值
【发布时间】:2017-09-01 08:32:34
【问题描述】:

我使用 Q-learning 和神经网络作为 approimator。并且经过多次训练迭代后,权重获取0到10范围内的值。权重可以取这样的值吗?或者这是否表明网络参数不好?

【问题讨论】:

  • 为什么你认为这么大的重量很重要?
  • 我从未见过权重的值大于 1,所以在我看来我做错了什么。
  • 嗯,我在 javascript 中使用过神经网络,但我还没有听说过重量限制。我在极度反向传播的网络中看到了像 -600 或 +800 这样的权重。同样奇怪的是你没有提到负权重。你用的是什么编程语言?
  • @ThomasW 我确实有负权重。如果你说像 -600 和 +800 这样的重量没关系,所以我没有什么可担心的?
  • 我认为这不是问题。如果你用谷歌搜索“神经网络权重”google.nl/…,前几张图片确实显示了介于 0 和 1 之间的权重,但再深入一点,你可能会发现许多权重大于 1 的图片。(例如derrickmartins.files.wordpress.com/2015/05/annplot01.png

标签: neural-network backpropagation q-learning


【解决方案1】:

权重可以采用这些值。尤其是在传播大量迭代时;需要“重”的连接,变得“重”。

plenty examples显示权重大于1的神经网络。Example

此外,按照这张图片,没有重量限制之类的东西:

legend

【讨论】:

  • 感谢您的帮助!
  • 是的,确实需要澄清。看到我的体重增长了这么多,我也吓坏了。
猜你喜欢
  • 2019-07-31
  • 1970-01-01
  • 2019-05-05
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2019-01-23
  • 2015-05-03
  • 2019-02-09
相关资源
最近更新 更多