为什么在尝试拟合张量流模型时出现此错误：列表索引超出范围

Question

我一直在尝试使用 tensorflow 上的数据管道创建一个人脸分类程序。我使用的图像都是彩色的，只有两个类“me”和“not_me”；我正在尝试为我的脸制作个人脸分类器！这是我使用的代码：

我首先加载数据集并将其拆分为训练和验证。

images_ds = tf.data.Dataset.list_files(dir + '\\*.jpg', shuffle=True)
image_count = len(os.listdir())
train_count = int(image_count*0.8)
train_ds = images_ds.take(train_count)
val_ds = images_ds.skip(train_count)

前两个函数用于从我的验证集和训练集中获取标签和解码图像。

def get_labels(path):
    return tf.strings.split(path, '\\')[-2]
def decode_img(path):
    label = get_labels(path)
    img = tf.io.read_file(path)
    img = tf.io.decode_png(img, dtype=tf.uint8)
    img = tf.image.resize(img, [254, 254])
    return img, label

然后我创建一个包含两个列表的训练元组，一个用于标签，一个用于图像本身。我觉得好像这是我出错的地方，因为文档要求数据是 (x, y) 的管状图，而不是 ([x], [y]) 进行拟合，但我不太确定。

train_tensor = ([], [])
for img, label in train_ds.map(decode_img):
    train_tensor[0].append(img)
    train_tensor[1].append(label)

然后我为验证集执行此操作！

val_tensor = ([], [])
for img, label in val_ds.map(decode_img):
    val_tensor[0].append(img)
    val_tensor[1].append(label)

现在都是模型工作。我正在使用 ResNet50 并进行一些迁移学习。

model_base = tf.keras.applications.resnet50.ResNet50(include_top=False, weights='imagenet', input_shape=(254, 254, 3))
for layers in model_base.layers:
    layers.trainable = False


global_avg_pooling = keras.layers.GlobalAveragePooling2D()(model_base.output)
output = keras.layers.Dense(2, activation='sigmoid')(global_avg_pooling)

face_classifier = keras.models.Model(inputs=model_base.input,
                                    outputs=output,
                                    name='ResNet50')


face_classifier.compile(loss='categorical_crossentropy',
                       optimizer=Adam(learning_rate=0.01),
                       metrics=['accuracy'])


epochs = 50
history = face_classifier.fit(train_tensor,
                             epochs=epochs,
                             validation_data=val_tensor)

尝试编译时出现此错误：

IndexError                                Traceback (most recent call last)
C:\Users\FLEXSU~1\AppData\Local\Temp/ipykernel_13852/468442092.py in <module>
      1 epochs = 50
----> 2 history = face_classifier.fit(train_tensor,
      3                              epochs=epochs,
      4                              validation_data=val_tensor)

~\anaconda3\envs\tf-gpu\lib\site-packages\tensorflow\python\keras\engine\training.py in fit(self, x, y, batch_size, epochs, verbose, callbacks, validation_split, validation_data, shuffle, class_weight, sample_weight, initial_epoch, steps_per_epoch, validation_steps, validation_batch_size, validation_freq, max_queue_size, workers, use_multiprocessing)
   1131          training_utils.RespectCompiledTrainableState(self):
   1132       # Creates a `tf.data.Dataset` and handles batch and epoch iteration.
-> 1133       data_handler = data_adapter.get_data_handler(
   1134           x=x,
   1135           y=y,

~\anaconda3\envs\tf-gpu\lib\site-packages\tensorflow\python\keras\engine\data_adapter.py in get_data_handler(*args, **kwargs)
   1362   if getattr(kwargs["model"], "_cluster_coordinator", None):
   1363     return _ClusterCoordinatorDataHandler(*args, **kwargs)
-> 1364   return DataHandler(*args, **kwargs)
   1365 
   1366 

~\anaconda3\envs\tf-gpu\lib\site-packages\tensorflow\python\keras\engine\data_adapter.py in __init__(self, x, y, sample_weight, batch_size, steps_per_epoch, initial_epoch, epochs, shuffle, class_weight, max_queue_size, workers, use_multiprocessing, model, steps_per_execution, distribute)
   1152     adapter_cls = select_data_adapter(x, y)
   1153     self._verify_data_adapter_compatibility(adapter_cls)
-> 1154     self._adapter = adapter_cls(
   1155         x,
   1156         y,

~\anaconda3\envs\tf-gpu\lib\site-packages\tensorflow\python\keras\engine\data_adapter.py in __init__(self, x, y, sample_weights, sample_weight_modes, batch_size, epochs, steps, shuffle, **kwargs)
    255     inputs = pack_x_y_sample_weight(x, y, sample_weights)
    256 
--> 257     num_samples = set(int(i.shape[0]) for i in nest.flatten(inputs)).pop()
    258     _check_data_cardinality(inputs)
    259 

~\anaconda3\envs\tf-gpu\lib\site-packages\tensorflow\python\keras\engine\data_adapter.py in <genexpr>(.0)
    255     inputs = pack_x_y_sample_weight(x, y, sample_weights)
    256 
--> 257     num_samples = set(int(i.shape[0]) for i in nest.flatten(inputs)).pop()
    258     _check_data_cardinality(inputs)
    259 

~\anaconda3\envs\tf-gpu\lib\site-packages\tensorflow\python\framework\tensor_shape.py in __getitem__(self, key)
    894       else:
    895         if self._v2_behavior:
--> 896           return self._dims[key].value
    897         else:
    898           return self._dims[key]

IndexError: list index out of range

Answer 1

我不知道它是否回答了这个问题，但我在您的代码中发现了一个问题。 当你在做二进制分类时，你应该使用：

output = keras.layers.Dense(1, activation='sigmoid')(global_avg_pooling)

和

face_classifier.compile(loss='binary_crossentropy',
                       optimizer=Adam(learning_rate=0.01),
                       metrics=['accuracy'])

对于多类问题，您可以使用output = keras.layers.Dense(n_class, activation='softmax')(global_avg_pooling)

另外，在您的代码中，并不清楚输出标签是字符串还是数字。

Answer 2

你是对的：

然后我用两个列表创建一个训练元组，一个用于标签，一个用于 一个用于图像本身。我觉得好像这是我出错的地方 文档要求数据是 (x, y) 而不是 ([x], [y]) 适合，但我不太确定。

您应该如下定义数据（虚拟示例）

train_tensor_img = []
train_tensor_label = []
for _ in range(100):
    img, label = decode_img('')
    train_tensor_img.append(img)
    train_tensor_label.append(label)

val_tensor_img = []
val_tensor_label = []
for _ in range(20):
    img, label = decode_img('')
    val_tensor_img.append(img)
    val_tensor_label.append(label)

那么，

history = model.fit(x=np.array(train_tensor_img), y=np.array(train_tensor_label),
                             epochs=5,
                             validation_data=(np.array(val_tensor_img), np.array(val_tensor_label)))

它对我有用。