我应该为这个神经网络使用哪个激活函数？答案

【问题标题】：Which activation function should I use for this Neural Network?我应该为这个神经网络使用哪个激活函数？
【发布时间】：2013-03-29 10:49:37
【问题描述】：

我们正在为跳棋游戏开发神经网络。在我们的训练数据中，

0 代表空白单元格， 1代表白块， -1 代表白王， 2 代表黑色块和 -2 代表黑王

所以，我们需要一个范围为 [-2, 2] 的激活函数。我们应该使用哪个激活函数？请就此提出您的建议。

【问题讨论】：

你的输入是 [-2, 2] 还是输出？逻辑 sigmoid 的输入可以是任意的。此外，您的编码可能不是 ANN 的最佳选择。
两者都在给定范围内

标签： artificial-intelligence neural-network backpropagation

【解决方案1】：

是的！ sigmoid 函数运行良好，因为它完全符合您指定的范围。我还将它用于我正在开发的模式识别问题。线性往往效果很好。

【讨论】：

【解决方案2】：

您的状态编码不是最优的。通常，对于类别，神经网络使用1-of-c encoding 效果更好。然后，很容易使用 sigmoid 单元。只需取 5 个输出的 argmax 即可确定状态。

【讨论】：

【解决方案3】：

我看不出你不能使用 sigmoid 函数的原因

sigmoid 函数的范围是 [0, 1]
要修改 sigmoid 函数以满足您的需要，您可以将其乘以 4，将函数乘以一个常数会影响其幅度（ Range = [0, 4] ），
然后减去 2，通过减法/加法，您可以移动函数在 Y 轴上（范围 = [-2, 2]）
所以函数看起来像这样： S(t) = 4* ( 1 / (1 + e ^ (-t)) ) - 2

【讨论】：