大型数据集的多标签损失函数答案

【问题标题】：Multi-label loss function for large dataset大型数据集的多标签损失函数
【发布时间】：2020-01-16 07:56:11
【问题描述】：

我正在为多标签训练一个 CNN，但它有大约 160 个标签，所以当使用正常的 CNN 架构时，输出层使用 sigmoid，损失函数使用 binary_crossentropy，网络仍然偏向于零，因为损失函数获取所有输出并将它们归一化，因此当所有输出都为零时，即使是正确的标签也会发生最小的损失，因为它是归一化的。那么有人有解决方案吗？

【问题讨论】：

标签： tensorflow machine-learning conv-neural-network multilabel-classification

【解决方案1】：

使用分类交叉熵代替二元交叉熵，使用 softmax 代替 sigmoid。

【讨论】：