如何在 PyTorch 数据加载器中将 RGB 图像转换为灰度？

Question

我从 MNIST 数据集中下载了一些 .jpg 格式的示例图像。现在我正在加载这些图像以测试我的预训练模型。

# transforms to apply to the data
trans = transforms.Compose([transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,))])

# MNIST dataset
test_dataset = dataset.ImageFolder(root=DATA_PATH, transform=trans)

# Data loader
test_loader = DataLoader(dataset=test_dataset, batch_size=batch_size, shuffle=False)

这里DATA_PATH 包含一个带有示例图像的子文件夹。

这是我的网络定义

# Convolutional neural network (two convolutional layers)
class ConvNet(nn.Module):
    def __init__(self):
        super(ConvNet, self).__init__()
        self.network2D = nn.Sequential(
           nn.Conv2d(1, 32, kernel_size=5, stride=1, padding=2),
           nn.ReLU(),
           nn.MaxPool2d(kernel_size=2, stride=2),
           nn.Conv2d(32, 64, kernel_size=5, stride=1, padding=2),
           nn.ReLU(),
           nn.MaxPool2d(kernel_size=2, stride=2))
        self.network1D = nn.Sequential(
           nn.Dropout(),
           nn.Linear(7 * 7 * 64, 1000),
           nn.Linear(1000, 10))

    def forward(self, x):
        out = self.network2D(x)
        out = out.reshape(out.size(0), -1)
        out = self.network1D(out)
        return out

这是我的推理部分

# Test the model
model = torch.load("mnist_weights_5.pth.tar")
model.eval()

for images, labels in test_loader:
   outputs = model(images.cuda())

当我运行此代码时，我收到以下错误：

RuntimeError: Given groups=1, weight of size [32, 1, 5, 5], expected input[1, 3, 28, 28] to have 1 channels, but got 3 channels instead

我了解图像被加载为 3 通道 (RGB)。那么如何将它们转换为dataloader 中的单通道呢？

更新： 我将transforms 更改为包含Grayscale 选项

trans = transforms.Compose([transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,)), transforms.Grayscale(num_output_channels=1)])

但现在我得到了这个错误

TypeError: img should be PIL Image. Got <class 'torch.Tensor'>

Answer 1

当使用ImageFolder 类并且没有自定义加载器时，pytorch 使用 PIL 加载图像并将其转换为 RGB。如果 torchvision 图像后端是 PIL，则默认加载器：

def pil_loader(path):
    with open(path, 'rb') as f:
        img = Image.open(f)
        return img.convert('RGB')

您可以在变换中使用 torchvision 的灰度 功能。它将 3 通道 RGB 图像转换为 1 通道灰度。通过here了解更多信息

示例代码如下，

import torchvision as tv
import numpy as np
import torch.utils.data as data
dataDir         = 'D:\\general\\ML_DL\\datasets\\CIFAR'
trainTransform  = tv.transforms.Compose([tv.transforms.Grayscale(num_output_channels=1),
                                    tv.transforms.ToTensor(), 
                                    tv.transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))])
trainSet        = tv.datasets.CIFAR10(dataDir, train=True, download=False, transform=trainTransform)
dataloader      = data.DataLoader(trainSet, batch_size=1, shuffle=False, num_workers=0)
images, labels  = iter(dataloader).next()
print (images.size())

Answer 2

我找到了一个非常简单的解决方案。张量的所需尺寸为[1,1,28,28]，而输入张量的形式为[1,3,28,28]。所以我只需要从中读取 1 个频道

images = images[:,0,:,:]

这给了我一个[1,28,28] 形式的张量。现在我需要将其转换为 [1,1,28,28] 形式的张量。可以这样完成

images = images.unsqueeze(0)

所以把上面两行放在一起，代码的预测部分可以这样写

for images, labels in test_loader:
   images = images[:,0,:,:].unsqueeze(0) ## Extract single channel and reshape the tensor
   outputs = model(images.cuda())

Answer 3

您可以不从 ImageFolder 实现 Dataloader，而是从 Datagenerator 实现，直接在 __getitem__ 函数中加载图像。 PIL.Image.open("..") 然后灰度，到 numpy 和到 Tensor。

另一种选择是通过公式Y = 0.299 R + 0.587 G + 0.114 B. 从 RGB 计算灰度 (Y) 通道 切片数组并转换为一个通道。

但是你如何训练你的模型呢？通常以相同的方式训练和测试数据负载。