如果在输出层使用 sigmoid，pytorch 中分类问题的损失函数应该是多少

Question

我正在尝试为二进制分类问题实现模型。到目前为止，我一直在使用 softmax 函数（在输出层）和 torch.NLLLoss 函数来计算损失。但是，现在我想在输出层使用 sigmoid 函数（而不是 softmax）。如果我这样做，我是否也应该更改损失函数（为 BCELoss 或 binary_cross_entropy）还是我仍然可以使用 torch.NLLLoss 函数？

Answer 1

如果你使用sigmoid函数，那么你只能做二进制分类。不可能进行多类分类。这样做的原因是因为sigmoid 函数总是返回一个介于 0 和 1 之间的值。因此，例如，可以将值设置为 0.5 并根据获得的值将其分为（或分类）两类。

关于目标函数NLLLoss - 负对数似然损失。它只是学习数据分布。所以，只要你在训练期间想要达到的目标就不是问题。