免责声明：我对 CNN 几乎一无所知，也不知道在哪里可以问这个问题。
我的研究重点是计算机视觉应用的高性能。我们在最大尺寸为 500 像素的图像上生成代表图像的代码，时间不到 20 毫秒。
这是通过结合 SURF 描述符和VLAD 代码来完成的，获得一个表示图像的向量，该图像将在我们的对象识别应用程序中使用。
CNN 可以更快吗？根据this benchmark（基于小得多的图像），所需的时间更长，考虑到图像的大小是我们的一半，几乎翻了一番。
【问题讨论】：
标签： computer-vision deep-learning surf vlad-vector
是的，它们可以更快。你得到的数字是针对 ImageNet 分类训练的网络，100 万张图像，1000 个类。除非您的分类问题相似，否则使用 ImageNet 网络是多余的。
您还应该记住，这些网络的权重约为 10-1 亿，因此评估它们的成本非常高。但是你可能不需要一个非常大的网络，你可以设计自己的网络，层数和参数更少，评估成本低得多。
根据我的经验，我设计了一个网络来对 96x96 声纳图像块进行分类，总共有大约 4000 个权重，它可以获得超过 95% 的分类准确率，并且在 RPi2 上以每帧 40 毫秒的速度运行。
具有 900K 权重、相同输入大小的更大网络需要 7 毫秒才能在 Core i7 上进行评估。所以这肯定是可能的，你只需要使用更小的网络架构。一个好的开始是SqueezeNet，这是一个可以在Imagenet中取得不错性能的网络，但是权重减少了50倍，当然比其他网络快很多。
【讨论】：
我会警惕基准和笼统的陈述。了解生成引用值的每个细节很重要。例如，在 GPU 硬件上运行 CNN 会提高引用值吗？
20ms 对我来说似乎很快； 40ms也是如此。我不知道你的要求是什么。
CNN 还能提供哪些其他好处？也许这不仅仅是原始速度。
我不认为神经网络是解决所有问题的完美技术。回归、SVM 和其他分类技术仍然可行。
这里存在偏见。你的问题看起来好像你只是想确认你目前的研究是最好的。你有一个你不愿意扔掉的沉没成本，但你担心那里可能会有更好的东西。如果这是真的，我认为这对 SO 来说不是一个好问题。
“我对 CNN 几乎一无所知”——如果你是一名真正的研究人员，寻求真理，我认为你有义务自己学习和回答。 TensorFlow 和 Keras 让这一切变得容易。
【讨论】：
回答您的问题：是的，他们可以。它们可以比经典描述符更慢，也可以更快。例如，只使用一个过滤器和几个最大池几乎肯定会更快。但结果肯定也很糟糕。
您应该问一个更具体的问题。相关部分是：
另外：输入图像大小不应相关。如果 CNN 在较小的输入上取得比经典描述符更好的结果，那您为什么要关心？
请注意，CNN 通常不会针对速度进行调整，而是针对准确性进行调整。
【讨论】：