CNN如何减少参数和重用权重？答案

【问题标题】：How CNN reduce parameter and reuse weight?CNN如何减少参数和重用权重？
【发布时间】：2020-11-22 06:29:08
【问题描述】：

ConvNet 能够成功捕获空间和时间通过应用相关过滤器在图像中的依赖关系。由于以下原因，该架构可以更好地拟合图像数据集减少涉及的参数数量和可重用性权重。

我看不出它如何减少参数和重用权重。谁能举个例子？

【问题讨论】：

【解决方案1】：

考虑下图中的过滤器（或内核）有 9 个像素，而图像有 49 个像素。

在全连接层中，我们将有 9*49 = 441 个权重。

在 CNN 中，同样的过滤器会在整个图像上不断移动（卷积）。图像中的所有像素值将乘以相同的 9 个过滤器值（因此我们说权重被重用）。因此，我们每个过滤器只需要 9 个权重，而不是 FC 层中的 441 个。

过滤器的工作是识别特征（例如纹理、线条等），这些特征可能存在于图像的任何位置。因此，我们希望在整个图像上重复使用相同的过滤器。

【讨论】：

【解决方案2】：

我们可以使用以下公式计算卷积层的参数：((width_of_Kernel * height_of_Kernel * input_channel)+1) * output_channel

在这里我们可以看到内核大小、输入通道和输出通道正在影响参数的数量。通过改变它们，我们可以减少参数，这将导致尺寸减小。

【讨论】：