Keras：以两种不同方式拟合 ConvNet 时结果不一致

Question

我正在尝试使用 VGG16 网络进行图像分类。我尝试了两种不同的方法来做到这一点，据我所知，这应该是大致相同的，但结果却大不相同。

方法 1： 使用 VGG16 提取特征，并使用自定义的全连接网络拟合这些特征。代码如下：

model = vgg16.VGG16(include_top=False, weights='imagenet',
                    input_shape=(imsize,imsize,3),
                    pooling='avg')
model_pred = keras.Sequential()
model_pred.add(keras.layers.Dense(1024, input_dim=512, activation='sigmoid'))
model_pred.add(keras.layers.Dropout(0.5))
model_pred.add(keras.layers.Dense(512, activation='sigmoid'))
model_pred.add(keras.layers.Dropout(0.5))
model_pred.add(keras.layers.Dense(num_categories, activation='sigmoid'))
model_pred.compile(loss=keras.losses.categorical_crossentropy,
                   optimizer=keras.optimizers.Adadelta(), metrics=['accuracy'])

(xtr, ytr) = tools.extract_features(model, 3000, imsize, datagen,
                                    rootdir + '/train',
                                    pickle_name = rootdir + '/testpredstrain.pickle')
(xv, yv) = tools.extract_features(model, 300, imsize, datagen,
                                  rootdir + '/valid1',
                                  pickle_name = rootdir + '/testpredsvalid.pickle')

model_pred.fit(xtr, ytr, epochs = 10, validation_data = (xv, yv), verbose=1)

（函数extract_features()只是使用Keras ImageDataGenerator生成样本图像，并在这些图像上使用model.predict()后返回输出）

方法二： 以没有顶部的VGG16网络，将所有卷积层设置为不可训练，并添加一些可训练的密集连接层。然后使用 keras fit_generator() 进行拟合。代码如下：

model2 = vgg16.VGG16(include_top=False, weights='imagenet',
                    input_shape=(imsize,imsize,3),
                    pooling='avg')
for ll in model2.layers:
    ll.trainable = False

out1 = keras.layers.Dense(1024, activation='softmax')(model2.layers[-1].output)
out1 = keras.layers.Dropout(0.4)(out1)
out1 = keras.layers.Dense(512, activation='softmax')(out1)
out1 = keras.layers.Dropout(0.4)(out1)
out1 = keras.layers.Dense(num_categories, activation='softmax')(out1)
model2 = keras.Model(inputs = model2.input, outputs = out1)
model2.compile(loss=keras.losses.categorical_crossentropy,
               optimizer=keras.optimizers.Adadelta(),
               metrics=['accuracy'])


model2.fit_generator(train_gen,
                     steps_per_epoch = 100,
                     epochs = 10,
                     validation_data = valid_gen,
                     validation_steps = 10)

两种方法的 epochs、样本等的数量并不完全相同，但它们不需要注意不一致：方法 1 仅在一个 epoch 后产生 0.47 的验证准确度，并达到当我使用大量样本来拟合时，0.7-0.8 甚至更好。然而，方法 2 卡在 0.1-0.15 的验证准确度上，无论我训练多少，都不会变得更好。

此外，方法 2 比方法 1 慢得多，尽管在我看来它们应该差不多快（考虑到方法 1 中提取特征所需的时间）。

Answer 1

在您的第一种方法中，您使用 vgg16 预训练模型一次提取特征，然后您进行训练 - 微调您的网络，而在您的第二种方法中，您不断地将图像通过包括 vgg 层在内的每一层 在每个时代。这会导致您的模型使用第二种方法运行得更慢。