为 Keras 分类任务从 json 注释文件加载自定义数据集

Question

我是深度学习的新手，想使用 Keras 实现一个简单的分类任务。我的数据集包含超过 2000 张图像，对于每张图像，我都有一个相应的 json 文件，其中包含该图像的标签。以下是加载 json 文件并创建 X（图像）和 Y（标签）数组的代码：

X = []
Y = []
with concurrent.futures.ProcessPoolExecutor() as executor:
    # Get a list of files to process
    str = jsonpath + '/*.json'
    #print(str)
    json_files = glob.glob(str)
    for jsonfile,y in zip(json_files, executor.map(create_array, json_files)):
        X.append(y[0])
        Y.append(y[1])

其中函数create_array定义如下：

def create_array(jsonfile):
    array_list = []
    y_list = []
    with open(jsonfile) as f:
            data = json.load(f)
            name = data['annotation']['data_filename']
            img = cv2.imread(imgDIR + '/' + name) 
            array_list.append(img)      
            l = data['annotation']['data_annotation']['classification'][0]['classification_label']
            y_list.append(l)
return array_list, y_list

它适用于少量图像，例如 15 张，但对于整个 2000 张图像集，程序会自动终止，或者有时会出现错误“MemoryError：内存不足”。 有没有一种有效的方法来做到这一点？如何加快此数据预处理部分的速度，以将其作为 keras 分类模型的输入？

Answer 1

您的图像似乎已经为训练做好了充分准备，而您的预处理只是加载文件。在加载数据时，json 格式可能不是最快的方法。如果您使用 pickle 之类的东西来保存和加载图像，您可能会体验到速度提升。

另一个问题是如何有效地将数据传递给 keras。通常您会使用model.fit，但由于并非所有数据都适合您的内存，您可以使用model.fit_generator keras doc 给我们以下提示：

为了提高效率，生成器与模型并行运行。为了 例如，这允许您对图像进行实时数据增强 在 CPU 上并行训练您的模型在 GPU 上。

keras.utils.Sequence 的使用保证了排序和保证 使用时每个 epoch 的每个输入的单次使用 use_multiprocessing=True。

Here 是一个如何实现这种生成器的示例。