在 Keras 层中使用 softmax 激活时如何指定轴？

Question

softmax 激活的 Keras docs 声明我可以指定激活应用于哪个轴。我的模型应该通过 k 矩阵 M 输出一个 n，其中 Mij 是 第 i 个字母是符号 j。

n = 7 # number of symbols in the ouput string (fixed)
k = len("0123456789") # the number of possible symbols

model = models.Sequential()
model.add(layers.Dense(16, activation='relu', input_shape=((N,))))
...
model.add(layers.Dense(n * k, activation=None))
model.add(layers.Reshape((n, k)))

model.add(layers.Dense(output_dim=n, activation='softmax(x, axis=1)'))

最后一行代码无法编译，因为我不知道如何正确指定 softmax 激活的轴（在我的例子中是 k 的轴）。

Answer 1

您必须在此处使用实际函数，而不是字符串。

为了方便起见，Keras 允许您使用一些字符串。

激活函数可以在keras.activations 中找到，它们在the help file 中列出。

from keras.activations import softmax

def softMaxAxis1(x):
    return softmax(x,axis=1)

..... 
......
model.add(layers.Dense(output_dim=n, activation=softMaxAxis1))

---

甚至是自定义轴：

def softMaxAxis(axis):
    def soft(x):
        return softmax(x,axis=axis)
    return soft

...
model.add(layers.Dense(output_dim=n, activation=softMaxAxis(1)))