我有不平衡的training 数据集，这就是我构建自定义weighted categorical cross entropy loss 函数的原因。但问题是我的validation 集合是平衡的，我想使用常规的分类交叉熵损失。那么我可以为 Keras 中的验证集传递不同的损失函数吗？我的意思是训练集的 wighted 和验证集的常规集？
def weighted_loss(y_pred, y_ture):
'
'
'
return loss
model.compile(loss= weighted_loss, metric='accuracy')
【问题讨论】：
您可以尝试后端函数K.in_train_phase()，Dropout 和BatchNormalization 层使用该函数在训练和验证中实现不同的行为。
def custom_loss(y_true, y_pred):
weighted_loss = ... # your implementation of weighted crossentropy loss
unweighted_loss = K.sparse_categorical_crossentropy(y_true, y_pred)
return K.in_train_phase(weighted_loss, unweighted_loss)
K.in_train_phase()的第一个参数是训练阶段使用的张量，第二个是测试阶段使用的张量。
例如，如果我们将weighted_loss设置为0（只是为了验证K.in_train_phase()函数的效果）：
def custom_loss(y_true, y_pred):
weighted_loss = 0 * K.sparse_categorical_crossentropy(y_true, y_pred)
unweighted_loss = K.sparse_categorical_crossentropy(y_true, y_pred)
return K.in_train_phase(weighted_loss, unweighted_loss)
model = Sequential([Dense(100, activation='relu', input_shape=(100,)), Dense(1000, activation='softmax')])
model.compile(optimizer='adam', loss=custom_loss)
model.outputs[0]._uses_learning_phase = True # required if no dropout or batch norm in the model
X = np.random.rand(1000, 100)
y = np.random.randint(1000, size=1000)
model.fit(X, y, validation_split=0.1)
Epoch 1/10
900/900 [==============================] - 1s 868us/step - loss: 0.0000e+00 - val_loss: 6.9438
如您所见，训练阶段的损失确实是乘以0。
请注意，如果您的模型中没有 dropout 或 batch norm，您需要手动“打开”_uses_learning_phase 布尔开关，否则默认情况下K.in_train_phase() 将不起作用。
【讨论】：
_uses_learning_phase 是另一回事。这是一个布尔变量，用于控制“学习阶段”变量（即您提到的那个——0 表示测试，1 表示训练）是否会对模型训练产生任何影响。如果您的模型中有 dropout，那么您不需要手动打开它。
_uses_learning_phase 是一个内部变量，如果有任何在训练/验证中表现不同的组件（例如 dropout、batch norm），它将附加到模型输出。
_uses_learning_phase = True，就像我在此答案的示例中所做的一样 (model.outputs[0]._uses_learning_phase = True)。这是一个实现细节，所以我认为它不太可能被记录在任何地方。
验证损失函数只是一个指标，实际上并不需要用于训练。它在那里是因为比较您的网络实际优化的指标是有意义的。 因此，您可以在编译期间添加任何其他损失函数作为指标，并且您会在训练期间看到它。
【讨论】：