如何在标准化图像时阻止我的 Colab 笔记本崩溃？

Question

我正在尝试制作一个能够识别人类情绪的模型。我的代码和内存一开始就很好：

但是当我尝试规范化我的图像时，RAM 急剧上升

然后 Colab 就崩溃了：

这是导致 colab 崩溃的代码块：

import os
import matplotlib.pyplot as plt
import cv2

data = []

for emot in os.listdir('./data/'):
    for file_ in os.listdir(f'./data/{emot}'):
        img = cv2.imread(f'./data/{emot}/{file_}', 0)
        img = cv2.bitwise_not(img)
        img /= 255.0 # <--- This is the line that causes colab to crash
        data.append([img, emotions.index(emot)])

如果我删除 img /= 255.0，它不会崩溃，但是我有未标准化的图像！：
我什至尝试在另一个块中对其进行规范化：

for i in range(len(data)):
    data[i][0] = np.array(data[i][0]) / 255.0

但它不起作用并且仍然崩溃

Answer 1

我想通过一个例子。首先让我们看一下下面的代码。

import numpy as np
x = np.random.randint(0, 255, size=(100, 32, 32), dtype=np.int16)

print('Present data type', x.dtype)
# What you did
y = x/255
print('Present data type', y.dtype)
# What you should do
z = (x/255).astype(np.float16)
print('Present data type', z.dtype)

输出：

Present data type int16
Present data type float64
Present data type float16

如果你仔细观察，当我划分x 变量并声明y=x/255 时，数据类型更改为float64。如果你划分 NumPy 数组的 int 数据类型，默认情况下，它被类型转换为 float64。通常，“float64”包含更大的内存。因此，在划分int 类型的 NumPy 矩阵时，对于较大的数据集，应始终将其转换为较短的数据类型。

如果您执行的代码在没有img /= 255.0 块的情况下流畅运行，那么就是这种情况。除法后，您应该将img 变量类型转换为可能的最低float 类型，例如np.float16 或np.float32。但是，np.float16 有一些限制，TensorFlow 不完全支持（TF 将其转换为 32 位浮点数），您可以使用np.float32 数据类型。

因此，请尝试在img /= 255.0 行之后添加img.astype(np.float16) 或img.astype(np.float32)。

给出修改后的代码，

import os
import matplotlib.pyplot as plt
import cv2

data = []

for emot in os.listdir('./data/'):
    for file_ in os.listdir(f'./data/{emot}'):
        img = cv2.imread(f'./data/{emot}/{file_}', 0)
        img = cv2.bitwise_not(img)
        img = (img/255.0).astype(np.float16) # <--- This is the suggestion
        data.append([img, emotions.index(emot)])

Answer 2

假设管道的下一步是从图像语料库中创建一个tf.data.Dataset 对象，您可以使用Dataset.map() 将预处理移至数据加载管道以节省内存空间。 Tensorflow 有一个非常详细的指南，说明如何在此处执行此操作 -> https://www.tensorflow.org/guide/data#preprocessing_data