【发布时间】：2020-04-19 22:13:43
【问题描述】：
在教科书中，我注意到隐藏层中的节点数通常是 2 的幂。这有什么统计原因吗？或者这只是一个随意的约定？
【问题讨论】：
-
没有统计原因。
-
可能对此有所了解：quora.com/…
标签： tensorflow machine-learning keras neural-network
【发布时间】：2020-04-19 22:13:43
【问题描述】：
2 层数的幂是最优的并没有真正的理由。似乎这是从业者和编码人员更广泛接受的经验法则或启发式方法。有人声称，由于内存硬件是按 2 的幂次方管理的，这可能会影响计算，但至少据我所知，没有真正的证据证明这一点。
【讨论】：
-
我不认为你的回答是正确的。这不是“经验法则”。在许多编码领域，如果没有。神经元的个数不是 2 的幂，经常会出现错误（这就是我学习 2power 规则的方式）因此，它是由开发人员自己硬编码的。您的回答应该得到一些更好的主张的支持，而不是“据我所知”。它没有被广泛接受。我相信这一定是有原因的。
-
感谢 neel g 的反对票。然而，仍然没有真正的数学证据来证明为什么这种做法被如此广泛地使用。我什至不知道有什么推测可以声称。这就是为什么我使用“经验法则”或启发式的措辞。很多时候，许多经验法则或“最佳”实践被证明是错误的并被抛弃，但在此之前，它们的广泛使用使我们能够以这种方式称呼它们。谢谢