自定义 keras 指标返回 nan

Question

我想在分类问题中进一步将输出类分成更少的桶。 我有 4 个输出类（即 0、1、2、3）。但在训练期间，我还想跟踪 2 个类的准确性：

• 将 0 和 1 视为 0 类
• 将 2 和 3 视为 1 类

为此，我创建了一个新指标并将其与模型一起编译：

def new_classes_acc(y_true, y_pred):
  actual = tf.floor( y_true / 2 )
  predicted = tf.floor( y_pred / 2 )
  return K.categorical_crossentropy(actual, predicted)

这样编译：

model.compile(loss='categorical_crossentropy', optimizer=optimizer, metrics=['accuracy', new_classes_acc])

我得到nan 作为准确度值。这样做的正确方法是什么？

Answer 1

由于有 4 个类别，并且您已将 categorical_crossentropy 设置为损失，因此标签是 one-hot 编码的并且形状为 (n_samples, 4)。因此，首先您需要使用argmax 函数找到真实类和预测类，然后使用floor 函数（此外，您要创建一个度量而不是损失函数；因此您不应该使用K.categorical_crossentropy）：

from keras import backend as K
import tensorflow as tf

def custom_metric(y_true, y_pred):
    tr = tf.floor(K.argmax(y_true, axis=-1) / 2)
    pr = tf.floor(K.argmax(y_pred, axis=-1) / 2)
    return K.cast(K.equal(tr, pr), K.floatx())

现在，让我们测试一下。首先我们创建一个简单的模型并编译它：

model = Sequential()
model.add(Dense(4, activation='softmax', input_shape=(2,)))

model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy', custom_metric])

然后我们创建虚拟数据：

import numpy as np
data = np.array([1, 2]).reshape(1, 2)

并使用我们的模型来预测给定数据的标签：

print(model.predict(data))
# prints: [0.04662106, 0.8046941 , 0.07660434, 0.0720804 ] 

所以第二类的概率最高，将是预测的标签。现在，考虑到我们定义的自定义指标，给定 [1, 0, 0, 0] 或 [0, 1, 0, 0] 作为真实标签，自定义指标应该给我们 1（即 100%）。让我们确认一下：

true_labels = np.array([1, 0, 0, 0]).reshape(1,4)
print(model.evaluate(data, true_labels))    # gives: [3.0657029151916504, 0.0, 1.0]  

返回列表的第一个元素对应于损失，第二个元素对应于accuracy，第三个元素对应于我们的自定义指标。如您所见，准确度为零（因为真实类是一类，但预测类是二类），自定义指标为 1，正如预期的那样。

另外一种情况：

true_labels = np.array([0, 1, 0, 0]).reshape(1,4)
print(model.evaluate(data, true_labels))    # gives: [0.21729297935962677, 1.0, 1.0]

这里的准确率是一（因为真实类和预测类都是二类），自定义指标也是一。对于剩下的[0, 0, 1, 0]和[0, 0, 0, 1]这两种情况，你可以进一步确认为真标签；对于自定义指标的值，两者都应返回零。

---

奖励：如果标签是稀疏的，即 0、1、2 和 3，该怎么办？然后，您可以使用keras.np_utils.to_categorical() 方法对它们进行一次热编码，然后使用上面定义的自定义指标。