【问题标题】:Keras Custom Layer 2D input -> 2D outputKeras 自定义层 2D 输入 -> 2D 输出
【发布时间】:2017-06-28 12:44:07
【问题描述】:

我有一个 2D 输入(如果考虑样本数量,则为 3D),我想应用一个 keras 层来接受这个输入并输出另一个 2D 矩阵。因此,例如,如果我有一个大小为 (ExV) 的输入,则学习权重矩阵将是 (SxE) 和输出 (SxV)。我可以用密集层做到这一点吗?

编辑(纳西姆请求):

第一层什么都不做。只是给 Lambda 层一个输入:

from keras.models import Sequential
from keras.layers.core import Reshape,Lambda
from keras import backend as K
from keras.models import Model

input_sample = [
[[1,2,3,4,5],[6,7,8,9,10],[11,12,13,14,15],[16,17,18,19,20]]
,[[21,22,23,24,25],[26,27,28,29,30],[31,32,33,34,35],[36,37,38,39,40]]
,[[41,42,43,44,45],[46,47,48,49,50],[51,52,53,54,55],[56,57,58,59,60]]
]


model = Sequential()
model.add(Reshape((4,5), input_shape=(4,5)))
model.add(Lambda(lambda x: K.transpose(x)))
intermediate_layer_model = Model(input=model.input,output=model.layers[0].output)
print "First layer:"
print intermediate_layer_model.predict(input_sample)
print ""
print "Second layer:"
intermediate_layer_model = Model(input=model.input,output=model.layers[1].output)
print intermediate_layer_model.predict(input_sample)

【问题讨论】:

    标签: machine-learning neural-network keras keras-layer


    【解决方案1】:

    你想要的可能是自动编码器。

    https://blog.keras.io/building-autoencoders-in-keras.html

    【讨论】:

      【解决方案2】:

      这取决于你想做什么。它是二维的,因为它是一个序列吗?然后 LSTM 是为此而设计的,如果您设置 return_sequence=True,它将返回一个序列(如果需要大小)。

      CNN 也可以处理 2D 输入,并且会根据您使用的内核数量输出可变大小的内容。

      否则,您可以将其重塑为 (E x V, ) 1D 张量,使用具有 SxV 维度的 Dense 层并将输出重塑为 (S,V) 2D 张量...

      我无法为您提供更多帮助,我们需要了解您的用例 :-) 神经网络有太多的可能性。

      编辑:

      您可以使用 TimeDistributed(Dense(S))。 如果您的输入具有形状 (E,V),则将其重塑为 (V,E) 以使 V 作为“时间维度”。然后应用 TimeDistributed(Dense(S)),这将是一个具有权重 (ExS) 的密集层,输出将具有 (V,S) 形状,因此您可以将其重塑为 (S,V)。

      这就是你想要的吗? TimeDistributed() 层会将相同的 Dense(S) 层应用到您输入的每 V 行,并具有共享权重。

      编辑 2:

      在查看了 keras 后端的代码后,发现要使用 tensorflow 的转置和“排列模式”选项可用,您需要使用 K.permute_dimensions(x,pattern)。必须包含批次维度。在你的情况下:

      Lambda(lambda x: K.permute_dimensions(x,[0,2,1]))
      

      K.transpose(x) 在内部使用相同的函数(用于 tf 后端),但排列设置为默认值,即 [n,n-1,...,0]。

      【讨论】:

      • 您好,感谢您的回复。不是序列,因此不能使用 LSTM。我也考虑过 CNN,但它没有学习权重 (SxE) 矩阵,因为它会共享权重。重塑的可能性也不起作用,因为相反,即所有权重将同时应用于每个神经元。
      • 用另一个命题编辑 :)
      • 这就是你要找的东西吗?
      • 谢谢,我想就是这样!这是一个很好而且聪明的方法。 :)
      • 补充说明:转置计算一定不能用Keras Reshape Layer做,因为该层不做转置。
      猜你喜欢
      • 1970-01-01
      • 2019-03-11
      • 2019-07-23
      • 1970-01-01
      • 1970-01-01
      • 2020-07-22
      • 1970-01-01
      • 2019-08-30
      • 2019-01-20
      相关资源
      最近更新 更多