【发布时间】：2019-10-26 07:22:24
【问题描述】：
我对机器学习非常陌生，我开始实施连体网络来检查手写数字的相似度，使用 MNIST 数据集进行训练，但我遇到了严重的丢失问题。
网络模型
import keras
from keras.layers import Input, Conv2D, MaxPooling2D, Flatten, Dense, Lambda
from keras.models import Sequential, Model
from keras.optimizers import Adam
import keras.backend as K
import cv2
from keras.datasets import mnist
import numpy as np
import random
def siameseNet(input_shape):
input1 = Input(input_shape)
input2 = Input(input_shape)
model = Sequential()
model.add(Conv2D(50, (5,5), activation='relu', input_shape=input_shape))
model.add(MaxPooling2D())
model.add(Conv2D(100, (3,3), activation='relu'))
model.add(MaxPooling2D())
model.add(Conv2D(100, (3,3), activation='relu'))
model.add(Flatten())
model.add(Dense(2048, activation='sigmoid'))
input_model_1 = model(input1)
input_model_2 = model(input2)
distance_func = Lambda(lambda t: K.abs(t[0]-t[1]))
distance_layer = distance_func([input_model_1, input_model_2])
prediction = Dense(1,activation='sigmoid')(distance_layer)
network = Model(inputs=[input1,input2],outputs=prediction)
return network
训练数据
我的pairs 对象是一个numpy 数组，有两个数组，包含相同索引上的图像，数组的前半部分是同一类别的图像，后半部分是不同类别的图像。
category对象是一个简单的数组，包含来自训练集的相同数量的样本，前半部分使用0指定对同一图像的Y值，后半部分设置为1 .
pairs 和 category 都填充在以下函数中：
INPUT_SHAPE = (28,28,1)
def loadData():
(X_train, Y_train), _ = mnist.load_data()
n_samples = 20000
arrPairs = [np.zeros((n_samples, INPUT_SHAPE[0], INPUT_SHAPE[1],INPUT_SHAPE[2])) for i in range(2)]
category = np.zeros((n_samples))
category[n_samples//2:] = 1
for i in range(n_samples):
if i%1000==0:
print(i)
cur_category = Y_train[i]
img = random.choice(X_train[Y_train==cur_category]).reshape(28,28,1)
_, img = cv2.threshold(img, .8, 1, cv2.THRESH_BINARY)
arrPairs[0][i] = img.reshape(28,28,1)
if category[i] == 1:
img = random.choice(X_train[Y_train!=cur_category])
else:
img = random.choice(X_train[Y_train==cur_category])
_, img = cv2.threshold(img, .8, 1, cv2.THRESH_BINARY)
arrPairs[1][i] = img.reshape(28,28,1)
arrPairs[0] = arrPairs[0]/255
return arrPairs, category
训练结果
pairs, category = loadData()
model = siameseNet(INPUT_SHAPE)
model.compile(optimizer=Adam(lr=0.0005),loss="binary_crossentropy")
model.fit(pairs, category, epochs=5, verbose=1, validation_split=0.2)
Train on 16000 samples, validate on 4000 samples
Epoch 1/5
16000/16000 [==============================] - 6s 353us/step - loss: 0.6660 - val_loss: 0.9474
Epoch 2/5
16000/16000 [==============================] - 5s 287us/step - loss: 0.6628 - val_loss: 0.9335
Epoch 3/5
16000/16000 [==============================] - 5s 287us/step - loss: 0.6627 - val_loss: 0.8487
Epoch 4/5
16000/16000 [==============================] - 5s 287us/step - loss: 0.6625 - val_loss: 0.9954
Epoch 5/5
16000/16000 [==============================] - 5s 288us/step - loss: 0.6616 - val_loss: 0.9133
但无论我怎么尝试，损失都不会减少，因此预测错误。
我尝试更改激活，增加和减少网络复杂性（添加和删除层，以及增加和减少Conv2D 参数），但这些都不起作用，所以我猜这是一个架构问题我错过了
更新： 用于测试的行：
test_pairs = [np.zeros((2, INPUT_SHAPE[0], INPUT_SHAPE[1],INPUT_SHAPE[2])) for i in range(2)]
test_pairs[0][0] = cv2.cvtColor(cv2.imread('test1_samenumber.png'), cv2.COLOR_BGR2GRAY).reshape(28,28,1);
test_pairs[1][0] = cv2.cvtColor(cv2.imread('test2_samenumber.png'), cv2.COLOR_BGR2GRAY).reshape(28,28,1);
pred = model.predict(test_pairs)
print(pred)
哪个输出：
[[0.32230237]
[0.44603676]]
【问题讨论】：
-
感谢您指出@rayryeng，我确实忘记了。我应用了归一化，损失从 0.60 变为 0.02。丢失问题是由它引起的。但是由于一些奇怪的原因，网络仍然错误地对图像进行了分类，因为我拍了两张相同类别的图像，蜜蜂相同的概率是 33%，而两张不同的图像得到相同的概率是 99%，任何知道为什么？
-
我查看了您数据中的唯一值。只有 0 和 1，所以实际上我们需要删除标准化。这可能是由于您对数字进行了阈值处理，因此只有 0 和 1 的值。我有一个 colab 实例正在运行，我将在回复您之前对其进行测试。
-
好的，所以我已经删除了不必要的标准化，看起来损失正在下降。我要等到它完成训练后再测试预测。我还冒昧地让您的代码可重现。缺少某些函数调用和包会阻止任何人使用它。
标签： python opencv keras deep-learning neural-network