AlexNet 中的神经元数量答案

【问题标题】：Number of neurons in AlexNetAlexNet 中的神经元数量
【发布时间】：2016-08-12 12:45:51
【问题描述】：

在AlexNet中，图片数据为3*224*224。

第一个卷积层用 96 个大小为11*11*3 的内核过滤图像，步长为 4 像素。

我对第一层的输出神经元数量有疑问。

在我看来，输入是224*224*3=150528，那么输出应该是55*55*96=290400

但在论文中，他们描述的输出是253440

如何计算这一层的神经元个数？

【问题讨论】：

在我看来，您已经发现了论文中非常明显的错误。我同意第一层的输出应该是290400。
我想我明白他们做了什么。 48*55*96=253440。这只是一个搞砸。
@Aenimated1 我不知道为什么是48*55。我认为过滤后的图像大小是55*55。
你是对的。我只是说他们犯了一个错误。这些事情都会发生。 :)

标签： computer-vision neural-network deep-learning conv-neural-network

【解决方案1】：

我也认为这是作者的一个错误，我在the courseware of stanford cs231n找到了一个证明，在第10页和第11页，可以发现第一个conv的输出大小是290400。

【讨论】：

【解决方案2】：

输入大小似乎是 227x227，没有填充。我也认为他们在论文中提到的是一个错误。看看这个链接。

http://cs231n.github.io/convolutional-networks/

它提到：

Krizhevsky 等人。在 2012 年赢得 ImageNet 挑战的架构接受了尺寸为 [227x227x3] 的图像。在第一个卷积层上，它使用感受野大小 F=11、步幅 S=4 且没有零填充 P=0 的神经元。由于 (227 - 11)/4 + 1 = 55，并且由于 Conv 层的深度为 K=96，因此 Conv 层输出体积的大小为 [55x55x96]。该体积中的 555596 个神经元中的每一个都连接到输入体积中大小为 [11x11x3] 的区域。此外，每个深度列中的所有 96 个神经元都连接到输入的相同 [11x11x3] 区域，但当然具有不同的权重。有趣的是，如果您阅读实际论文，它声称输入图像是 224x224，这肯定是不正确的，因为 (224 - 11)/4 + 1 显然不是整数。这让 ConvNets 历史上的许多人感到困惑，对发生的事情知之甚少。我自己的最佳猜测是，Alex 使用了 3 个额外像素的零填充，他在论文中没有提到。

【讨论】：

是的，我弄错了。google-net 的输入尺寸是 224x224，alex-net 的输入尺寸是 227x227。