用于小型图像分类任务的 Conv2d 层数和过滤器数答案

【问题标题】：Number of Conv2d Layers and Filters for Small Image Classification Task用于小型图像分类任务的 Conv2d 层数和过滤器数
【发布时间】：2020-05-20 23:14:46
【问题描述】：

如果我使用的数据集有大约 100,000 个训练图像和大约 20,000 个验证图像，每个大小为 32 x 32 x 3，我的数据集的大小和维度如何影响Conv2d 的数量我的 CNN 中有层？我的直觉是使用更少的Conv2d 层，2-3，因为超过 3 层将处理图像中太小而无法从中获取相关数据的部分。

此外，具有大量过滤器的层是否有意义，>128？我的想法是，在处理小图像时，拥有大量参数是没有意义的。

【问题讨论】：

我的理解是（在幕后）大多数深度学习研究人员只是在尝试。此外，图像集的熵/复杂性是网络规模的重要变量。据我所知，关于如何估计合适的网络规模根本没有经验法则。它是 100% 经验的。有人建议，估计所需的网络大小需要了解解决方案，这类似于停机问题。

标签： python deep-learning neural-network pytorch conv-neural-network

【解决方案1】：

由于您拥有与 Cifar10 和 Cifar100 中的图像类似的确切输入尺寸，因此只需看看人们尝试了什么。

一般来说，您可以从 ResNet18 之类的东西开始。另外我不太明白你为什么这么说

因为超过 3 层将处理图像中太小而无法从中获取相关数据的部分。

只要您不使用最大池或具有填充 1 和步幅 2 的 conv 之类的方法进行下采样。32x32 的大小将是相同的，只有通道数会根据网络而变化。

设计网络几乎总是关注其他人做了什么，什么对他们有用，然后从那里开始。你几乎不想自己从头开始做，因为迭代周期太长了，而且谷歌、Facebook 的研究发布的模型......拥有更多的资源，那么你将不得不找到好的东西。

【讨论】：