如果输出是 one-hot 向量，如何自定义深度学习模型？ [关闭]

Question

我正在尝试使用 TensorFlow 和 Keras 构建深度学习模型。这是单例多标签任务的顺序模型，是Multi-Instance Multi-Label的简化版。

具体来说，我的模型的输入是一个固定长度的数组，所以可以这样表示为一个向量：

我的模型的输出是一个字母序列，它们来自一个固定大小的字母表。例如，{A,B,C,D} 的字母表只有 4 个可能的成员。所以我可以使用 one-hot 向量来表示序列中的每个字母。

序列的长度是可变的，但为了简单起见，我使用固定长度（等于最长序列的长度）来存储所有序列。

如果序列的长度小于固定长度，则该序列由 one-hot 向量（等于序列的实际长度）和零向量（等于剩余长度）表示。例如，CADB 用 4 * 5 矩阵表示，如下所示：

请注意：这个矩阵的前 4 列是 one-hot 向量，每个向量都有一个且只有一个 1 条目，其他所有条目都是 0。 但是最后一列的条目都是0，可以看作是补零，因为字母序列不够长。

所以一句话，输入是一个向量，输出是一个矩阵。

与上面发布的链接不同，输出矩阵应该被视为一个整体。因此，一个输入向量被分配给整个矩阵，而不是该矩阵的一行或一列。

我的问题是：如何为这个特殊的输出定制我的深度学习模型，例如：

1. 我应该选择或设计什么损失函数和准确度指标？
2. 我是否需要在模型的最后自定义一个特殊层？

Answer 1

您应该在输出层使用softmax 激活函数，并将categorical_crossentropy 作为损失函数。

但是，正如您在上面的链接中看到的，问题是这两个函数默认应用于最后一个轴 (axis=-1)，而在您的情况下，它是倒数第二个轴（矩阵）是单热编码的。

要使用右轴，一种选择是定义您自己的这些函数版本，如下所示：

def softmax_columns(x):
    return tf.keras.backend.softmax(x, axis=-2)

def categorical_crossentropy_columns(target, output):
    return tf.keras.backend.categorical_crossentropy(target, output, axis=-2)

然后，您可以像这样使用它们：

model.add(SomeLayer(..., activation=softmax_columns, ...)) # output layer

model.compile(loss=categorical_crossentropy_columns, ...)

一个不错的选择（通常，不仅在这里）是在categorical_crossentropy 调用中使用from_logits=True。这有效地使 softmax 内置到损失函数中，因此您的模型本身不再需要（实际上：必须没有）最终的 softmax 激活。这不仅节省了工作量，而且在数值上也更加稳定。