交叉熵损失和逻辑损失之间有什么区别吗？答案

【问题标题】：Is there any difference between cross entropy loss and logistic loss?交叉熵损失和逻辑损失之间有什么区别吗？
【发布时间】：2018-08-09 05:00:38
【问题描述】：

我想为我的深度学习模型使用逻辑损失成本函数来解决二元分类问题。我正在使用 keras 来构建模型。但是，keras 没有任何预定义的逻辑loss function。

在阅读损失函数时，我遇到了关于交叉熵损失和逻辑损失的令人困惑的陈述。在这个维基百科article 中，有一个单独的部分用于逻辑损失和交叉熵损失。

然而在这个维基百科article，它提到：

逻辑损失有时称为交叉熵损失。

另外，这个 sklearn page 开头是：

对数损失，也称为逻辑损失或交叉熵损失。

任何帮助将不胜感激。

【问题讨论】：

【解决方案1】：

在 keras 中，使用 binary_crossentropy 处理 2 类的分类问题。使用categorical_crossentropy 2 个以上的课程。

两者只是相同的。如果 tensorflow 用作 keras 的后端，那么它使用下面提到的函数来评估 binary_crossentropy。

tf.nn.sigmoid_cross_entropy_with_logits(labels=target,
                                                   logits=output)

在下面这个函数的文档中提到：

为简洁起见，设 x = logits，z = 标签。逻辑损失是

z * -log(sigmoid(x)) + (1 - z) * -log(1 - sigmoid(x))

【讨论】：