决定 ANN 分类器的输出风格答案

【问题标题】：Deciding output style for ANN classifier决定 ANN 分类器的输出风格
【发布时间】：2015-08-31 23:11:44
【问题描述】：

我正在为 ANN 分类器的输出选择设计。我是否应该选择一个输出神经元并使用训练数据中的“-1”“+1”输出值对其进行训练，然后当 NN 输出一个数字时，它将接近 +1 或 -1，因此我将决定哪个类是更有可能，或者我应该使用两个神经元并将它们训练为“1”和“0”并在评估时比较值？

【问题讨论】：

你的分类器方法名是什么？例如：在反向传播中。方法应该是选择输出值 -1 和 +1 之间。

标签： machine-learning neural-network classification

【解决方案1】：

如何对目标值进行编码取决于输出层中使用的激活函数的类型。 logistic sigmoid 激活值在 0 和 1 之间变化，因此您的目标值应在该范围内指定。而双曲正切激活在 -1 和 1 之间变化。您应该根据正在使用的激活函数的范围来选择值。

如果你有一个简单的二元分类器，你可以有一个输出神经元并根据输出是接近 0 还是接近 1 来选择类（我在这里假设一个 sigmoid 输出）。或者，您可以使用两个经过训练的输出神经元，使 [1, 0] 对应于第一类， [0, 1] 对应于第二类。然后，您可以选择输出最高的类。虽然它稍微复杂一些，但第二种方案很容易推广到任意数量的类。

【讨论】：

那么，第二个更好？
我会用两个。我发现即使是相当简单的网络也倾向于用两个输出比一个输出更好地收敛。但需要明确的是，输出范围使用 -1 和 1 与 0 和 1 的选择与您是否选择使用多个输出无关。输出范围与激活函数有关，输出数量与网络结构有关。