彩色图像卷积核的Tensorflow权重？答案

【问题标题】：Tensorflow weights for kernels of convolution for colored images?彩色图像卷积核的Tensorflow权重？
【发布时间】：2016-05-27 00:10:10
【问题描述】：

目前我有一些网络对灰度图像进行分类。我想继续使用彩色 (RGB) 图像。

在 Tensorflow 的 CIFAR-10 教程中，我对卷积核的权重感到困惑。那里的第一个卷积如下所示：

kernel = _variable_with_weight_decay('weights', shape=[5, 5, 3, 64],
                                         stddev=1e-4, wd=0.0)
conv = tf.nn.conv2d(images, kernel, [1, 1, 1, 1], padding='SAME')

所以它是一个5x5 卷积，输入为 3（每个颜色通道一个：红色、绿色和蓝色图像信息），它生成 64 个特征图。

但是，第二个卷积层需要 64 个特征图的输入：

kernel = _variable_with_weight_decay('weights', shape=[5, 5, 64, 64],
                                         stddev=1e-4, wd=0.0)
conv = tf.nn.conv2d(norm1, kernel, [1, 1, 1, 1], padding='SAME')

...那么，这是如何处理颜色信息的呢？这是否意味着不同的颜色通道以某种方式散布在卷积层 1 的 64 个特征图上？

我认为卷积层 1 为每个颜色通道生成 64 个特征图，因此最终得到 3 * 64 = 196 个特征图……但显然我错了。

颜色信息在conv layer 1中是如何混合的？

【问题讨论】：

标签： python colors neural-network tensorflow conv-neural-network

【解决方案1】：

参见 CuDNN here 描述中的公式 3

基本上对于单个示例 (n)、单行 (p) 和单列 (q)，空间卷积的结果将是 5x5x3 值的加权和。所以每次激活都会包含来自所有 3 种颜色的信息。

【讨论】：