为什么我直接用image数据集和pytorch自己的数据集，准确率相差这么大？

Question

以cifar10数据集为例，直接使用pytorch自带的数据集，在同样的网络结构下准确率可以达到96%，但是我将cifar10转换成图片后，测试了一下，准确率率只有 92%。为什么？

这是之前的代码：

train_dataset = dset.CIFAR10(args.data_path, train=True, transform=train_transform, download=True)
test_dataset = dset.CIFAR10(args.data_path, train=False, transform=test_transform, download=True)

这是修改后的代码：

train_dataset = datasets.ImageFolder(root='/home/ubuntu/bigdisk/DataSets/cifar10/static/orig/train/',
                                         transform=train_transform
                                         )
test_dataset = datasets.ImageFolder(root='/home/ubuntu/bigdisk/DataSets/cifar10/static/orig/test/',
                                        transform=test_transform
                                        )

train_loader = torch.utils.data.DataLoader(train_dataset, batch_size=args.batch_size, shuffle=True,
                                               num_workers=args.prefetch, pin_memory=True)
test_loader = torch.utils.data.DataLoader(test_dataset, batch_size=args.test_bs, shuffle=False,
                                              num_workers=args.prefetch, pin_memory=True)

Answer 1

如果下载的数据集、超参数（例如批量大小或学习率）、数据集转换等都相等，我认为是因为随机性。

您的数据加载器会随机打乱数据集。每次洗牌时，洗牌后的数据集总是不同的，这可能会导致准确性差异。

此外，模型每次都会使用不同的值进行初始化。 （除非您使用了某些始终使用相同值初始化模型的初始化方法。）

您可以查看https://pytorch.org/docs/stable/notes/randomness.html 了解更多信息。