带有扩展序列的生成器的 Keras fit_generator() 返回的样本比总数多

Question

我正在使用 Keras 训练神经网络。由于数据集的大小，我需要使用生成器和 fit_generator() 方法。我正在关注本教程：

https://stanford.edu/~shervine/blog/keras-how-to-generate-data-on-the-fly

但是，我准备了一个小示例来检查每个 epoch 输入网络的样本，似乎数量高于样本数量。

class DataGenerator(keras.utils.Sequence):
    'Generates data for Keras'
    def __init__(self, files, batch_size=2, dim=(160, 160), n_channels=3,
                 n_classes=2, shuffle=False):
        'Initialization'
        self.dim = dim
        self.files = files
        self.batch_size = batch_size
        self.n_channels = n_channels
        self.n_classes = n_classes
        self.shuffle = shuffle
        self.on_epoch_end()

    def __len__(self):
        'Denotes the number of batches per epoch'
        print ("Number of batches per epoch")
        print(int(np.floor(len(self.files) / self.batch_size)))
        return int(np.floor(len(self.files) / self.batch_size))

    def __getitem__(self, index):
        'Generate one batch of data'
        # Generate indexes of the batch
        indexes = self.indexes[index*self.batch_size:(index+1)*self.batch_size]

        # Find list of IDs
        files_temp = [self.files[k] for k in indexes]

        # Generate data
        X, y = self.__data_generation(files_temp)

        return X, y


    def on_epoch_end(self):
        'Updates indexes after each epoch'
        self.indexes = np.arange(len(self.files))
        if self.shuffle == True:
            np.random.shuffle(self.indexes)


    def __data_generation(self, files_temp):
        'Generates data containing batch_size samples' # X : (n_samples, *dim, n_channels)
        # Initialization
        X = np.empty((self.batch_size, *self.dim, self.n_channels))
        y = np.empty((self.batch_size), dtype=int)

        # Generate data
        for i, ID in enumerate(files_temp):
            # Store sample
            X[i,] = read_image(ID)

            # Store class
            y[i] = get_label(ID)

        return X, keras.utils.to_categorical(y, num_classes=self.n_classes)


...

params = {'dim': (160, 160),
              'batch_size': 2,
              'n_classes': 2,
              'n_channels': 3,
              'shuffle': True}


gen_train = DataGenerator(files, **params)
 model.fit_generator(gen_train, steps_per_epoch=ceil(num_samples_train)/batch_size, validation_data=None,
        epochs = 1,  verbose=1,
    callbacks = [tensorboard])

read_image 和 get_label 是我获取数据的方法。这些方法包括正在加载的图像的 print()，我得到的比我预期的要多。例如：

num_samples = 10 batch_size = 2

每个时期的步数将等于 5，这就是 keras 进度条显示的内容，但我得到了更多图像（我知道这是因为方法内部的打印）。

我调试了一下，发现__getitem__函数被调用了5次以上！前五次的索引在 0 到 4 之间（如预期的那样），但随后我会得到一个重复的索引并加载更多数据。

知道为什么会这样吗？我已经调试到 keras 中的 data_utils.py，但找不到将索引传递给 __getitem__ 的确切位置。 getitem 中的所有内容似乎都运行良好。

Answer 1

这是正常的，对于steps_per_epoch = 5，您的__getitem__ 将在每个时期被调用 5 次。因此，当然，拥有多个 epoch 意味着它将被调用更多次而不是 5 次。

还请注意，其中涉及并行性，Keras 会自动在另一个线程/进程中运行您的Sequence（取决于配置），因此它们可能会被超出预期的顺序调用。这也是正常的。