VGG，keras 中的感知损失

Question

我想知道是否可以将自定义模型添加到 keras 的损失函数中。例如：

def model_loss(y_true, y_pred):
    inp = Input(shape=(128, 128, 1))
    x = Dense(2)(inp)
    x = Flatten()(x)

    model = Model(inputs=[inp], outputs=[x])
    a = model(y_pred)
    b = model(y_true)

    # calculate MSE
    mse = K.mean(K.square(a - b))
    return mse

这是一个简化的示例。我实际上会在损失中使用 VGG 网络，所以只是想了解 keras 的机制。

Answer 1

通常的做法是将 VGG 附加到模型的末尾，在编译之前确保它的所有层都具有trainable=False。

然后你重新计算你的 Y_train。

假设你有这些模型：

mainModel - the one you want to apply a loss function    
lossModel - the one that is part of the loss function you want   

创建一个将一个附加到另一个的新模型：

from keras.models import Model

lossOut = lossModel(mainModel.output) #you pass the output of one model to the other

fullModel = Model(mainModel.input,lossOut) #you create a model for training following a certain path in the graph. 

此模型的 mainModel 和 lossModel 的权重完全相同，训练此模型会影响其他模型。

在编译之前确保 lossModel 不可训练：

lossModel.trainable = False
for l in lossModel.layers:
    l.trainable = False

fullModel.compile(loss='mse',optimizer=....)

现在调整您的训练数据：

fullYTrain = lossModel.predict(originalYTrain)

最后进行训练：

fullModel.fit(xTrain, fullYTrain, ....)