Keras自定义图层调用方法中的批量形状

Question

我正在尝试创建 RBF 层的实现。

这里是构建方法：

def build(self, input_shape):

    self.centers = self.add_weight(name='centers',
                                   shape=(self.output_dim, input_shape[1]),
                                   initializer=self.initializer,
                                   trainable=True)
    self.betas = self.add_weight(name='betas',
                                 shape=(self.output_dim,),
                                 initializer=Constant(value=self.init_betas),
                                 trainable=True)

    super(RBFLayer, self).build(input_shape)

来电：

def call(self, x):
    sub = self.centers - x  # centers shape (400, 11970), x shape (100, 11970)
    sqr = sub * sub
    rbf = K.exp(-self.betas * K.sum(sqr, axis=1))
    return rbf  # must have size (100, 400)

输入大小为 11970

图层大小为 400

批量大小为 100

我的问题是我希望调用方法中的 x 变量具有形状（无，11970），以便我可以从 self.centers 中减去它是 (400, 11970) 与广播。

但是我得到了 x 的形状 (100, 11970)，因此我一次得到了一批。现在我需要以某种方式进行 100 次减法以获得形状（100、400、11970）。然后在输入方向求平方和求和，将其缩小为 (100, 400) 形状。

有人可以建议怎么做吗？

Answer 1

我想我明白你想要做什么。将self.centers和x的维数展开如下，就会发生隐式广播：

def call(self, x):
    centers = self.centers[None, :, :]  # Shape=(1, 400, 11970)
    x = x[:, None, :]  # Shape=(100, 1, 11970)
    sub = centers - x  # Shape=(100, 400, 11970)
    sqr = sub * sub
    rbf = K.exp(-self.betas * K.sum(sqr, axis=-1))
    return rbf  # Shape=(100, 400)

注意：未经测试。