【问题标题】:Concatenate char embeddings and word embeddings连接字符嵌入和词嵌入
【发布时间】:2019-05-17 08:46:30
【问题描述】:

我想使用字符序列和单词序列作为输入。它们中的每一个都将嵌入其相关的词汇表,然后将结果嵌入连接起来。我编写以下代码来连接两个嵌入:

char_model = Sequential()
char_model.add(Embedding(vocab_size, char_emnedding_dim,input_length=char_size,embeddings_initializer='random_uniform',trainable=False, input_shape=(char_size, )))

word_model = Sequential()
word_model.add(Embedding(word_vocab_size,word_embedding_dim, weights=[embedding_matrix], input_length=max_length, trainable=False,input_shape=(max_length, )))

model = Sequential()
model.add(Concatenate([char_model, word_model]))
model.add(Dropout(drop_prob))
model.add(Conv1D(filters=250, kernel_size=3, padding='valid', activation='relu', strides = 1))
model.add(GlobalMaxPooling1D())
model.add(Dense(hidden_dims)) # fully connected layer
model.add(Dropout(drop_prob)) 
model.add(Activation('relu'))
model.add(Dense(num_classes)) 
model.add(Activation('softmax'))
print(model.summary())

当我执行代码时,出现以下错误:

ValueError: This model has not yet been built. Build the model first by calling build() or calling fit() with some data. Or specify input_shape or batch_input_shape in the first layer for automatic build. 

我为每个嵌入定义了input_shape,但我仍然有同样的错误。如何连接两个顺序模型?

【问题讨论】:

    标签: python machine-learning keras nlp word-embedding


    【解决方案1】:

    问题出在这一行:

    model.add(Concatenate([char_model, word_model]))
    

    更不用说您错误地调用了Concatenate 层,您不能在顺序模型中拥有连接层,因为根据定义它不再是顺序模型。而是使用Keras Functional API 来定义这样的模型。

    【讨论】:

    • 非常感谢!将模型从顺序转换为功能后,我可以连接。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2018-02-04
    • 1970-01-01
    • 2020-12-14
    • 2014-10-12
    • 1970-01-01
    相关资源
    最近更新 更多