CNN 中先前的 Activation Map 如何影响下一个 Activation Map答案

【问题标题】：How do previous Activation Map in CNNs affect the next Activation MapCNN 中先前的 Activation Map 如何影响下一个 Activation Map
【发布时间】：2019-01-13 23:24:07
【问题描述】：

假设我有一个CNN 和 2 layers。要消耗 25x25 RGB 像素的图片，first layer 有 filter-size = 50,kernel size = 5x5, stride = 1x1 padding = 0x0。并且second layer 具有相同的参数，除了filter-size = 100。现在我知道我的Activation Map 来自1st layer's pass 的尺寸是21x21x3（×3 是由于RGB）。这意味着我有50 activation maps of 21x21x3 通过在输入图片上应用 50 个不同的filters 创建。

我的问题是second pass，因为我的filter-size = 100 这是否意味着来自layer 1 的50 activation maps 通过100 filters 的 second layer 每个 receptive fields 这样在 second pass 我总共有 100x50 activation maps 或者是 50 activation maps 在通过之前融合成一个单元，这样2nd layer 仍然只产生 100 activation maps？

【问题讨论】：

标签： machine-learning deep-learning artificial-intelligence conv-neural-network

【解决方案1】：

您在这里有一个小小的误解。它不会保留输入图像的尺寸（在您的情况 3 中，因为 RGB），它确实在所有这些图像上进行了卷积。这意味着对于大小为5x5x3 的特定图像区域x 的卷积运算符C 的输出将只是一个值，而不是大小为1x3 的向量。

激活图（我喜欢称它们为特征图）然后简单地暗示您有多少不同的卷积过滤器，因此您可以获得尽可能多的“输出维度”堆叠。在您的示例中，输出不是21x21x3，而是21x21x50。
对于下一层，您将类似地输入（我假设您使用相同的内核大小）5x5x50，并再次只产生一个值。这一次，您有 100 个输出堆栈，因此结果大小将是 17x17x100。

【讨论】：

@dennlinger 如果我理解正确，由于我的图像是 RGB，在第一次通过期间应用的 50 个过滤器的尺寸将是 5x5x3，而不是 5x5，给出 50x21x21 而不是 50x21x21x3，对于第二遍，因为我们有 50 个特征图，过滤器尺寸将为 50x5x5，为 100 个特征图中的每一个提供一个元素。那么之前产生的特征图的数量总是下一次pass的filter维度的深度？
没错。因此，第一层所有过滤器的总大小为 5x5x3x50。