【发布时间】：2018-12-09 14:11:54
【问题描述】：
我是机器学习的新手，我正在尝试训练一个模型来检测句子中的Prague city。它可以是多种单词形式。
布拉格、PRAHA、Z Prahy 等......
所以我有一个由 title 和 result 组成的火车数据集，其中 result 是二进制 - 1 或 0（大约 5000 个示例）
您可以在代码 cmets 中查看示例。
我的想法：
- 加载训练数据集（标题、结果）和测试数据集（标题）
- 设置 X_train, y_train
- 将标题列从 X_train 转换为数字序列
- 创建模型并设置图层（我不确定我是否做得对）
- 火车
- 测试
火车打印这个：
Epoch 15/20
- 0s - loss: 0.0303 - acc: 0.9924
Epoch 16/20
- 0s - loss: 0.0304 - acc: 0.9922
Epoch 17/20
- 0s - loss: 0.0648 - acc: 0.9779
Epoch 18/20
- 0s - loss: 0.0589 - acc: 0.9816
Epoch 19/20
- 0s - loss: 0.0494 - acc: 0.9844
Epoch 20/20
但是测试返回这个值：
[0.0, 1.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 1.0, 0.0]
这意味着它在测试csv的这两个句子中检测到单词Prague：
- 西尔维斯特诉都柏林兹普拉希
- Přímé lety do BRUSELU z PRAHY od 518 Kč
第一个句子是来自X_train 的一个句子的子字符串，第二个句子等于X_train 句子之一。
我尝试增加 epochs 数量 ak batch_size 数量但没有成功...
其他测试语句已随机创建或修改X_test语句。
def train():
# load train dataset
# "TIP! Ukraine Airlines - Thajsko - levné letenky Bangkok z Prahy (a zpět) 9.790,- kč",1
# Predvianočná MALAGA s odletom z Viedne už za 18€,0
# S 5* Singapore Airlines z Prahy do Singapuru a pak na Maledivy za 15.940 Kč,1
# Athény z Katowic či Blavy,0
# Z Prahy na kanárský ostrov Tenerife vč. zavazadla. Letenky od 1 990 Kč,1
# Hotel v Praze i na víkend za 172Kč! (i jednolůžkové pokoje),1
dataframe = pandas.read_csv("prague_train_set.csv")
dataframe['title'] = dataframe['title'].str.lower()
dataset = dataframe.values
# load test dataset
# v Praze je super # Should be 1, predicts 0
# Silvestr v Dublinu z Prahy # Should be 1, predicts 1
# do Prahy zavita peter # Should be 1, predicts 0
# toto nie # Should be 0, predicts 0
# xxx # Should be 0, predicts 0
# Praha **** # Should be 1, predicts 0
# z Prahy Přímo # Should be 1, predicts 0
# Tip na dárek: Řím z Prahy za 778Kč (letfdenky tam i zpět) # Should be 1, predicts 0
# lety do BRUSELU z PRAHY od 518 K # Should be 1, predicts 0
# Přímé lety do BRUSELU z PRAHY od 518 Kč # Should be 1, predicts 1
# Gelachovský stit # Should be 0, predicts 0
tdataframe = pandas.read_csv("prague_test_set.csv")
tdataframe['title'] = tdataframe['title'].str.lower()
tdataset = tdataframe.values
# Preprocess dataset
X_train = dataset[:,0]
X_test = tdataset[:,0]
y_train = dataset[:,1]
tokenizer = Tokenizer(char_level=True)
tokenizer.fit_on_texts(X_train)
X_train = tokenizer.texts_to_sequences(X_train)
SEQ_MAX_LEN = 200
X_train = sequence.pad_sequences(X_train, maxlen=SEQ_MAX_LEN)
X_test = tokenizer.texts_to_sequences(X_test)
X_test = sequence.pad_sequences(X_test, maxlen=SEQ_MAX_LEN)
# create model
model = Sequential()
# model.add(Embedding(tokenizer.word_index.__len__(), 32, input_length=100))
model.add(Dense(SEQ_MAX_LEN, input_dim=SEQ_MAX_LEN, init='uniform', activation='relu'))
model.add(Dense(10, init='uniform', activation='relu'))
model.add(Dense(1, init='uniform', activation='sigmoid'))
# Compile model
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy'])
# Fit the model
model.fit(X_train, y_train, epochs=20, batch_size=32, verbose=2)
# model.save("trainmodel.h5")
# model = load_model("trainmodel.h5")
# calculate predictions
predictions = model.predict(X_test)
# round predictions
rounded = [round(x[0]) for x in predictions]
print(rounded)
你知道我应该怎么做才能让它正常工作吗？
【问题讨论】：
-
这似乎只是一个包含太多零（或太多零）的不平衡数据集。您的模型往往会产生全零或全一，并且其准确性很高。您可以尝试使用类权重，如
fit:keras.io/models/sequential/#fit 中所述 -
大约有 25% 的为 1，其余为 0。我有一个恒定的大约 0.7 精度的问题，这可能就是这个问题。我会检查重量。
标签： python tensorflow machine-learning keras