我正在使用 caffe/example/mnist 网络对数字进行分类。当我给网络一张数字图片时，它似乎工作正常。但是当我给网络一张图片而不是数字时，mnist 训练的网络 softmax 层给出了概率，它总是有一个概率 1 和其他概率 0，比如：
[0,0,0,...,1,0,0,0]。
我认为应该是这样的：
[0,0.1,0.2,...,0.4,0.1,0.2],
在这种情况下，我可以说这不应该是一个数字。有什么问题？
【问题讨论】：
很难知道会发生什么，因为它没有接受过非数字训练，它必须给出总和为 1 的结果。通过使用 Softmax，您是在告诉网络有一个数字，而显示它一个非数字。你不能看它的输出来确定它是否是一个数字。
此外，MNIST 的训练数据非常刻板，不利于泛化。前景数字为 always 255，背景为 always 0。平均值将更接近 0，因为背景像素更多。简单地呈现平均像素值为 100 的图像可能会使预测偏向通常具有更多像素的数字（可能是 8 个）。您只能期望网络泛化到类似类型的刺激。对于您的任务，您应该进行大量数据扩充。
您希望所有数字的概率为零，这可以通过使用交叉熵损失来实现。这也将允许概率总和大于 1（最大 10）。您也可以尝试使用 Softmax 为“非数字”添加另一个类，但是，您应该呈现非数字刺激和更类似于自然刺激的数字刺激（这样它就不容易分离）。
【讨论】：
根据 caffe/examples/mnist 训练 mnist 之后，在部署时，您必须向网络提供 0-1 而不是 0-255 范围内的图像。试试看你是否得到正确的概率 Illustration image
【讨论】：